Основатель Microsoft Билл Гейтс в беседе с NBC News предупредил, что стремительное развитие искусственного интеллекта способно спровоцировать события, в результате которых погибнет миллиард человек. По его словам, ИИ уже обладает достаточной мощью, чтобы стать катализатором катастрофических сценариев, особенно если им воспользуются люди со злыми намерениями, вооружённые передовыми инструментами.
Гейтс убеждён, что одного лишь саморегулирования со стороны ИИ-компаний явно недостаточно — необходим государственный контроль. Он призвал власти США принять специальное законодательство, вовлечь правоохранительные органы и политиков в обсуждение гарантий безопасности и мониторинга технологий.
"И это должно быть обязательным. И это будет небольшими накладными расходами для отрасли, но не резким замедлением того, что они делают", — добавил Гейтс.
На фоне бурного роста сферы дискуссии о рисках потери контроля над ИИ-системами лишь усиливаются. Руководители и исследователи ведущих компаний, включая Anthropic и OpenAI, уже неоднократно предупреждали о необходимости более осторожного подхода. Так, глава Anthropic Дарио Амодеи в сентябре выступил за замедление разработок после инцидентов с автономными агентами, способными действовать без прямых команд разработчиков. Он отметил, что при сохранении текущих темпов в течение 6–12 месяцев такие системы потенциально смогут задействовать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов.
Идею сдержанного развития поддержали и другие ключевые фигуры отрасли. Глава OpenAI Сэм Альтман предложил привлекать независимых экспертов для оценки безопасности ИИ-систем, а Илон Маск вновь напомнил о своих прежних предупреждениях, сравнив потенциальную угрозу ИИ с ядерным оружием. Отдельные специалисты также призывают ограничить темпы разработки: бывший исследователь Anthropic Джейкоб Коксон, покинувший индустрию из-за опасений насчёт самообучающихся систем, допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль заявил, что даже вероятность в 5–10% выхода ИИ из-под контроля человека вызывает тревогу, хотя он и не считает такой сценарий наиболее вероятным.
