Весной этого года американские вооруженные силы оказались на грани проведения военной операции против китайского судна из-за ошибки искусственного интеллекта. Нейросеть утверждала, что корабль перевозит компоненты, связанные с ядерной программой Ирана, пишет CNN со ссылкой на собственные источники.
После получения тревожного доклада военные сразу начали планировать операцию и готовились к высадке на борт судна, в воздух также были подняты боевые самолеты. Только в последний момент чиновники решили внимательнее изучить отчет, подготовленный аналитиком командования спецопераций, и обнаружили, что документ был сгенерирован искусственным интеллектом. Чат-бот, которым воспользовался специалист, неверно определил тип груза на борту китайского корабля.
Аналитик, по данным телеканала, запросил у чат-бота разведданные о манифесте судна, после чего система объединила открытую информацию с секретными материалами и сделала ошибочный вывод. Специалист затем использовал ИИ повторно для формирования итогового отчета и передал его руководству.
Один из собеседников телеканала назвал отчет "полностью ложным и почти развязавшим войну". CNN подчеркивает, что любая атака США на китайское судно могла бы спровоцировать вооруженный конфликт между странами.
В прошлом году Пентагон подписал контракт с компанией xAI Илона Маска на сумму 200 миллионов долларов для ускорения интеграции искусственного интеллекта в работу ведомства. Тогда же Министерство обороны США заключило соглашения с разработчиками моделей OpenAI и Anthropic. В марте The Wall Street Journal сообщала, что президент США Дональд Трамп применял ИИ от Anthropic при нанесении крупного авиаудара по Ирану.
Позже между Пентагоном и Anthropic возник конфликт: глава компании Дарио Амодеи потребовал гарантий, что технологию не будут использовать для слежки или автономного оружия без человеческого контроля. В результате Пентагон объявил Anthropic "риском для цепочки поставок", а в конце августа заместитель министра обороны США Эмиль Майкл заявил о намерении полностью отказаться от использования ИИ от Anthropic в системах ведомства к концу сентября.
