ИИ может уничтожить человечество

Сотрудники OpenAI и Google DeepMind предупреждают, что искусственный интеллект может уничтожить человечество

Несколько действующих и бывших сотрудников компаний OpenAI и Google DeepMind опубликовали открытое письмо, в котором предупреждают об опасностях ИИ и отсутствии надлежащего надзора за компаниями, работающими с технологиями искусственного интеллекта. В письме говорится, что в связи с развитием ИИ существует ряд рисков, таких как манипуляции и дезинформация, а также потеря контроля над автономными системами, что может просто привести к вымиранию человечества.

Подписавшие письмо специалисты предлагают несколько путей решения возможной проблемы. По их мнению нужно отказаться от подавляющих критику соглашений, предложить сотрудникам поддающийся проверке анонимный процесс, позволяющий сообщать о проблемах ИИ, всячески поддерживать культуру открытой критики, чтобы общественность, руководство соответствующих компаний, регуляторы и другие организации, вовремя узнавали о рисках коммерческих моделей ИИ. Кроме того, в письме предлагается избегать преследования компаниями-разработчиками сотрудников, которые публично делятся конфиденциальной информацией, связанной с рисками ИИ.
В общей сложности письмо подписало 13 человек, в том числе 7 бывших и 4 нынешних сотрудника OpenAI, 1 бывший и 1 текущий работник Google DeepMind. Компания OpenAI пригрозила сотрудникам потерей принадлежащего им капитала за высказывания и заставила подписывать соглашения о неразглашении информации, которые запрещают любую критику. Подписавшие письмо призвали защитить их от возможного преследования со стороны компаний.