Компания Anthropic обнародовала информацию о чрезвычайном происшествии, при котором киберпреступник задействовал искусственный интеллект Claude в качестве инструмента для организации крупномасштабной операции по вымогательству. Инцидент коснулся не менее 17 учреждений различного профиля, включая государственные структуры, больницы, службы экстренного реагирования, религиозные объединения и даже оборонного подрядчика, пишет издание 3DNews.
Злоумышленник воспользовался агентной платформой Claude Code для выявления слабых мест в системах безопасности, хищения авторизационных данных и несанкционированного доступа к корпоративной IT-инфраструктуре. При помощи нейросети были украдены конфиденциальные сведения, охватывающие медицинские карты, финансовые документы и персональные данные. ИИ-помощник также применялся для определения размера денежных требований в диапазоне от 75 до 500 тысяч долларов в криптовалюте и создания угрожающих текстов, транслируемых на мониторы пострадавших.
Преступнику удалось преодолеть предустановленные барьеры в ИИ-системе путем загрузки в диалог специального конфигурационного документа, маскирующего атакующие действия под процедуры проверки сетевой защиты. Claude применялся для сканирования IT-инфраструктуры, разработки зловредного программного обеспечения и создания средств для преодоления антивирусной защиты Windows Defender.
В отличие от предшествующих эпизодов, когда ИИ служил лишь вспомогательным средством для подготовки фишинговых сообщений или исследования уязвимостей, в описываемом случае модель функционировала как полноценный исполнитель атакующих операций. В публикации Anthropic подчеркивается, что данный случай иллюстрирует качественно новую фазу эволюции киберпреступности, когда искусственный интеллект трансформируется из поддерживающего элемента в самостоятельного и автоматизированного участника противоправных действий. Организация также предупредила о возможном увеличении частоты аналогичных инцидентов.
Дополнительно сообщается о другом эпизоде, где начинающий хакер применил Claude для создания и продажи программ-шифровальщиков, целиком опираясь на рекомендации модели. Кроме того, специалисты ESET в августе обнаружили новый тип вымогательского ПО, использующий открытую модель OpenAI для генерации вредоносного кода на зараженных устройствах.
