Исследователи компании OpenAI прямо перед увольнением ее гендиректора Сэма Альтмана направили совету директоров письмо, в котором говорится о важнейшем открытии в области искусственного интеллекта (ИИ), которое может угрожать человечеству. Об этом сообщает Reuters со ссылкой на два осведомленных источника.
Это письмо, по словам собеседников агентства, стало "последней каплей" в списке претензий совета директоров OpenAI к Альтману и в итоге привело к его увольнению. Предположительно, в нем шла речь о проекте Q* (Q-Star), о котором в разговоре с сотрудниками упоминала исполнительный директор Мира Мурати. Источник назвал его потенциальным прорывом в поиске сверхинтеллекта, поскольку Q* обладает огромными вычислительными ресурсами и уже может решать школьные математические задачи, что считается признаком зарождения общего искусственного интеллекта (AGI).
Как поясняет Reuters, современный генеративный ИИ хорошо умеет писать и переводить, статистически предсказывая следующее слово, при этом обычно дает разные ответы на один и тот же вопрос. Возможность решать математические задачи, в которых есть только один правильный ответ, подразумевает более широкие способности ИИ к рассуждению, приближающие его к человеческому разуму.
Совет директоров OpenAI уволил Альтмана 17 ноября, объяснив это тем, что он "не всегда был откровенен" с начальством. Bloomberg писал, что топ-менеджер конфликтовал с членами правления компании, в частности с соучредителем и главным научным сотрудником Ильей Суцкевером. Споры касались скорости разработки генеративного ИИ, способов коммерциализации продуктов и мер, необходимых для уменьшения их потенциального вреда для общества.
С увольнением Альтмана из компании начали уходить сотрудники, причем как рядовые, так и старшие исследователи. Инвесторы и коллеги начали требовать возвращения гендиректора, 700 из 770 сотрудников, в том числе Суцкевер, подписали письмо с угрозой уйти в Microsoft, если Альтмана не вернут. В послании подписанты призвали к отставке совета директоров и подчеркнули, что не могут работать "с теми, кому не хватает компетенций, рассудительности и заботы о миссии и сотрудниках" компании. Спустя 5 дней после увольнения, 22 ноября, Альтмана вернули на прежний пост.
