Сооснователь Microsoft Билл Гейтс в интервью CNN предупредил, что в течение ближайшего года злоумышленники могут применять искусственный интеллект для кибератак и вымогательства. По его словам, сочетание передовых моделей ИИ и отсутствия надежных защитных механизмов способно привести к неприятным последствиям, прежде всего в сфере кибербезопасности. Преступники могут требовать деньги, угрожая атаками, или провоцировать сбои, способные повлиять на фондовый рынок.
Гейтс отметил, что разработчики ИИ создают средства защиты от кибератак и биотерроризма, однако такие механизмы можно отключить. Он считает, что сейчас основная опасность связана с тем, как искусственный интеллект используют злоумышленники, а не с риском выхода технологии из-под контроля. Последний сценарий, по его мнению, может стать серьезной проблемой через несколько лет. На вопрос о том, достаточно ли текущих мер противодействия угрозам, Гейтс ответил отрицательно.
По данным Axios, руководители Anthropic, OpenAI и других компаний, работающих в сфере ИИ, в частном порядке обсуждают, как общество и власти могут отреагировать на катастрофический инцидент. В качестве одного из сценариев рассматривается масштабная кибератака, способная нарушить работу финансовых сервисов, интернета, а также систем электроснабжения и водоснабжения. В OpenAI сообщили изданию, что проводят учения для изучения возможных вариантов развития событий; в Anthropic от комментариев отказались.
Многие представители отрасли, опрошенные Axios, ожидают серьезного инцидента в ближайшие 6–12 месяцев. В качестве примера издание приводит недавние атаки на финансовые организации Южной Кореи: были взломаны два банка и похищены данные десятков тысяч клиентов. По информации CrowdStrike, предполагаемый китайский хакер использовал инструменты на базе ИИ, включая Claude Code, чтобы искать площадки для продажи украденной информации.
Компании опасаются, что крупный инцидент усилит недоверие к искусственному интеллекту и руководителям отрасли, в том числе к главам Anthropic и OpenAI Дарио Амодеи и Сэму Альтману. Критика может затронуть и президента США Дональда Трампа из-за его нежелания регулировать эту сферу. Как пишет Axios, компании также опасаются, что политики попытаются резко ограничить развитие ИИ: среди предложений демократов — запрет на создание суперинтеллекта и приостановка разработки передовых систем. Идея обязать оснащать продвинутые модели "аварийным выключателем" находит поддержку у представителей обеих партий, однако эксперты сомневаются, что удастся полностью отключить ИИ.
