Чем чреват новый прорыв в области ИИ?

Исследователи компании OpenAI, перед самым отстранением её генерального директора предупредили совет директоров компании о прорыве в области искусственного интеллекта

По сообщению Reuters, в преддверии увольнения генерального директор OpenAI Сэма Альтмана, ряд сотрудников компании обратился с письмом к совету директоров по поводу некоего мощного прорыва в области искуственного интеллекта, так называемом проекте Q*, который может представлять «угрозу для человечества». По словам двух источников, письмо и алгоритм искусственного интеллекта, о которых ранее не сообщалось, стали ключевыми событиями, предшествовавшими отстранению Альтмана советом директоров OpenAI. Источники назвали это письмо одним из факторов в длинном списке претензий совета директоров к Альтману, среди которых были опасения по поводу коммерциализации достижений до понимания последствий новых разработок.

Хотя сам Альтман, который после бунта сотрудников и негодования инвесторов был восстановлен в должности генерального директора OpenAI, назвал сообщение Reuters «неудачной утечкой» и отказался комментировать сообщение о возможной угрозе, сама формулировка его ответа, как минимум, подтвердила существование проекта Q*. Сведений о данном проекте просочилось не много. Как сказал один из сотрудников OpenAI, опрошенных Reuters, Q* (произносится как Q-Star) может стать прорывом в поисках так называемого искусственного интеллекта общего назначения (AGI). OpenAI определяет AGI как автономные системы, которые превосходят человека в решении наиболее экономически ценных задач. Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сказал собеседник на условиях анонимности, поскольку он не был уполномочен говорить от имени компании. По словам источника, несмотря на то, что математические задачи решаются на уровне учеников начальной школы, победа в таких тестах вселяет в исследователей оптимизм относительно будущего успеха Q*.
Исследователи считают математику передовым рубежом развития генеративного ИИ. В настоящее время генеративный ИИ хорошо справляется с написанием текста и переводом языка, статистически предсказывая следующее слово, а ответы на один и тот же вопрос могут сильно различаться. Но покорение способности к математике, где существует только один правильный ответ, предполагает, что ИИ будет обладать более широкими возможностями рассуждения, напоминающими человеческий интеллект. Это может быть использовано, например, для новых научных исследований, считают исследователи ИИ. В отличие от калькулятора, который может решать ограниченное количество операций, ИИ способен обобщать, учиться и понимать. В своем письме в совет директоров, сотрудники OpenAI отметили как новые возможности ИИ, так и их потенциальную опасность, не уточнив, однако, какие именно опасения по поводу безопасности были отмечены в письме. Среди IT-специалистов давно ведутся дискуссии об опасности, которую представляют собой высокоинтеллектуальные машины, например, могут ли они решить, что уничтожение человечества в их интересах. Исследователи также отмечали работу группы «ученых по ИИ», существование которой подтвердили несколько источников. По словам одного из собеседников, эта группа, сформированная путем объединения предыдущих команд «Code Gen» и «Math Gen», изучала возможности оптимизации существующих моделей ИИ, чтобы улучшить их рассуждения и в конечном итоге выполнять научную работу.