Компания xAI Илона Маска опубликовала расшифровки сотен тысяч диалогов пользователей с чат-ботом Grok, сделав их доступными через поисковые системы без предупреждения.
Google проиндексировал информацию, касающуюся более 370 тысяч разговоров, включая личные данные, пароли, медицинские вопросы и загруженные документы с изображениями. Как оказалось, кнопка "поделиться" у сервиса не только генерирует ссылку, но и делает чат общедоступным на сайте.
В открытом доступе оказались переписки с запрещенными инструкциями — от изготовления наркотиков и взрывчатки до планов убийства самого Маска. Журналисты и исследователи ИИ, включая британского репортера Эндрю Клиффорда и сотрудника Института Аллена Натана Ламберта, заявили, что не знали о возможности автоматической индексации чатов.
Ранее похожие проблемы возникали у ChatGPT, после чего OpenAI оперативно изменила политику. Маск тогда публично высмеял конкурентов, утверждая, что у Grok такого механизма нет. Ситуацией начали пользоваться маркетологи, размещая намеренно созданные диалоги для продвижения компаний в поисковиках. Представители xAI на запросы журналистов не ответили.
Член комитета Госдумы по информполитике Антон Немкин отметил: "Такие ситуации наглядно иллюстрируют, почему ИИ должен быть суверенным. Компания допустила ошибку, которая может стоить людям работы и репутации".
Эксперт РОЦИТ Алексей Парфун подчеркнул, что грубые просчеты — следствие гонки компаний за лидерство без ответственного подхода. "Россия работает над суверенными решениями, уделяя приоритетное внимание контролю и защите данных", — заявил он.
