ИИ Google выдумывает боссов The Duskbloods, опираясь на шутки с Reddit

ИИ от Google снова оказался в центре внимания из-за недостоверной информации. Пользователи заметили, что Gemini уверенно рассказывает о несуществующих боссах, локациях и механиках The Duskbloods — новой игры FromSoftware, которая еще даже не вышла.

Причиной стали так называемые «Duskposts» на Reddit — шуточные публикации, где игроки делают вид, будто уже прошли игру. Gemini воспринимает такие сообщения как достоверный источник и выдает вымышленные факты за реальные. Среди придуманных им персонажей оказались Bugout Billy, John Duskblood, Blood Mistress Elizabeth, Lycan Vrykolakas и другие.

Проблема связана с тем, что Google активно использует данные Reddit для обучения своих моделей. Алгоритм не всегда способен отличить сатиру и мемы от проверенной информации, поэтому иногда «галлюцинирует», особенно если речь идет о проектах, вокруг которых уже появилось множество фанатских шуток.

Эта ситуация вновь напомнила, что ответы ИИ не стоит воспринимать как безошибочный источник информации. В случае с The Duskbloods достаточно было проверить, что игра еще не вышла, чтобы понять — описанные боссы и механики существуют только в фантазии пользователей Reddit и самого Gemini.