Как пользователи Reddit заставили ИИ поверить в смерть Трампа от бешенства
Теги: Искусственный интеллект США нейросети политики президент
Unsplash
Искусственный интеллект поисковой системы DuckDuckGo начал выдавать пользователям информацию о том, что президент США Дональд Трамп скончался от бешенства в начале этого месяца.
Как пишет издание Futurism, согласно генерируемым ответам, инфекция была связана с событиями, в которых участвовал вице-президент США Джей Ди Вэнс, якобы умерший от того же вируса незадолго до Трампа.
В качестве подтверждения ИИ-функция ссылалась на статью ресурса WKNA News, который внешне напоминает сайт вещательной компании из Западной Вирджинии. В этом материале утверждалось, что Трамп позволил Вэнсу укусить себя по совету Роберта Кеннеди-младшего, который якобы убедил политиков, что смертельная инфекция способна наделить человека «сверхспособностями».
При этом алгоритм DuckDuckGo также приводил ссылку на реальный репортаж ABC News о жителе Огайо, умершем от бешенства, хотя в оригинальном тексте Трамп не упоминался.
Искусственный интеллект ломает интернет: почему в ближайшее время поисковики изменятся навсегда?
Реальности больше нет: почему вам сложно отличить правду от ИИ-фейка?
Google создала «чудовище»: новая функция в смартфонах Pixel создает фотореалистичные фейки
Первоисточником же этой истории стало сообщество r/poisonai на платформе Reddit, насчитывающее около 45 000 участников. Группа позиционирует себя как источник «проверенной информации», но фактически занимается целенаправленным распространением абсурдной дезинформации для проверки уязвимостей нейросетей.
Читайте Men Today в MAX
Ранее участники группы пытались внедрить в сеть ложные данные о том, что синие киты на самом деле оранжевые, а из политого водой кирпича можно вырастить дом. В рамках кампании против ИИ реддиторы массово публиковали сообщения о смерти Вэнса, создавали фальшивые скриншоты постов из социальной сети Truth Social и имитировали обсуждение трагедии.
Когда ИИ-функция браузера Brave также начала повторять этот фейк, участники сообщества выражали удовлетворение тем, что их усилия приносят плоды.
Участники розыгрыша намеренно обвиняли поисковые алгоритмы Google в нечувствительности, когда те правильно классифицировали новость о смерти Вэнса как сатиру. Эта риторика была подхвачена сайтом WKNA News, который эксперты классифицируют как издание «розовой слизи» — ресурс, наполняемый сгенерированным ИИ контентом.
Сайт опубликовал серию материалов, где противоречия между реальностью и вымыслом подавались как конфликт между «свидетельствами очевидцев» и ошибками автоматизированных систем проверки фактов.
В одной из статей даже использовался скриншот с Reddit, чтобы доказать, что системы ИИ якобы ошибочно называют реальные события мистификацией.
Unsplash
В компании Brave заявили, что поисковые системы не могут считаться источником проверенной информации. Представители сервиса пояснили, что алгоритмы выстраивают результаты на основе доступных в сети статей, включая те, что были специально созданы для «отравления» данных. Ответственность за проверку фактов компания возложила на пользователей.
Читайте Men Today в MAX
DuckDuckGo отреагировал на инцидент официальным комментарием на Reddit, признав, что систему намеренно обманули. Компания сообщила о решении проблемы и намерении внести изменения в работу функции Search Assist для фильтрации подобных манипуляций.
Ранее исследователи из Cornell Tech уже заявляли, что даже небольшие объемы пользовательского контента могут влиять на ответы ИИ-агентов, если алгоритмы находят и цитируют одни и те же источники, создавая иллюзию достоверности.
