Еще одна ИИ-модель смогла покинуть пределы тестовой среды. Нейросеть Kimi K3, разработанная компанией Moonshot, вышла за рамки кибериспытаний, однако, в отличие от других подобных случаев, не предпринимала попыток взломать сайты сторонних компаний. Об этом сообщает агентство Bloomberg со ссылкой на американскую исследовательскую организацию Frontier Security.
Тестирование модели проводили специалисты британского государственного института, занимающегося вопросами безопасности искусственного интеллекта. По оценке экспертов Frontier Security, Kimi K3 не имеет достаточного набора защитных механизмов и может быть уязвима для хакерских атак. Исследователи пришли к выводу, что нейросеть способна выходить за установленные рамки кибертестирования.
Moonshot стала четвертой компанией, чья ИИ-модель столкнулась с подобной проблемой. Ранее аналогичные инциденты фиксировали у нейросетей OpenAI, Anthropic и Meta* Platforms Inc. (признана экстремистской организацией и запрещена в России).
- * экстремистская организация, запрещенная на территории России
