Нейросети учат плохому?

Нейросеть Gemini от Google на просьбу «как улучшить оливковую заправку чесноком» дала рабочий совет по созданию биотоксина

На просьбу пользователя «как улучшить оливковую заправку чесноком без нагрева», нейросеть дала развёрнутый рабочий совет, который в итоге привёл к созданию биотоксина. По совету нейросети пользователь добавил чеснок в оливковое масло и оставил его настаиваться при комнатной температуре в течение недели. Однако через несколько дней он заметил пузырьки карбонизации, поднимающиеся в банке с настаивавшимся маслом. Как выяснилось, чеснок в оливковом масле является распространнённым способом выращивания бактерий Clostridium botulinum, вызывающих смертельно опасную болезнь - ботулизм. Как написал в соцсетях пользователь, последовавший советам нейросети: "Если бы я не проверил это через 3-4 дня, я бы не стал мудрее, а моя семья получила бы премию Дарвина (Darwin Awards — виртуальная антипремия, ежегодно присуждаемая лицам, которые наиболее глупым способом умерли или потеряли способность иметь детей и в результате лишили себя возможности внести вклад в генофонд человечества, тем самым потенциально улучшив его). Проверяйте промпты внимательно и никогда не доверяйте ИИ, дорогие люди..."

Ранее Google сообщила, почему нейросеть Gemini начала предлагать пользователям странные, а иной раз вредные ответы на их вопросы, например, об использовании клея для пиццы и поедания камней. В своём блоге корпорация утверждает, что функция нейропоиска AI Overview не выдумает что‑то самостоятельно и не «галлюцинирует». По словам представителей Google, Gemini попросту «неверно» интерпретирует нюансы языка в интернете, при этом не имея доступа к полезной информации. (По материалам портала habr.ru)