Нейросети ChatGPT и Bing научились распространять фейки

Началось все с шутки пользователя форума Hacker News о том, что Bard, нейросеть от Google, решили прикрыть. Еще один “юморист” воспользовался ChatGPT, чтобы создать фейк об этом известии. 

Цикл замкнулся. Нейросети Bard задали вопрос, когда же его закроют, и он сообщил, что уже закрыт. Первоисточником для него послужило сообщение в Hacker News. На этот же вопрос предложили ответить Bing, и она отреагировала положительно. В качестве источника было указано уже 6 ссылок. 

Этот забавный инцидент может иметь отдаленные серьезные последствия. Ведь ИИ не может отличать правду от вымысла, а значит огромные потоки фейковых новостей могут бесконтрольно распространяться и морочить людям голову.