Чат-бот ChatGPT от OpenAI напугал "до смерти" директора Министерства обороны США по цифровым технологиям и искусственному интеллекту (ИИ) Крейга Мартелла. В Пентагоне обеспокоены тем, что генеративный ИИ может использоваться для создания и распространения дезинформации. Об этом представитель американского военного ведомства заявил на конференции TechNet под эгидой Международной ассоциации связи и электроники вооруженных сил.
Специалист подчеркнул, что генерирующий текст, изображение и прочий аудиовизуальный контент искусственный интеллект кажется Вашингтону "захватывающей проблемой", поскольку люди склонны доверять любой убедительной информации, не проверяя факты. Представитель Пентагона отметил необходимость создания инструментов, выявляющих дезинформацию в творениях продвинутых нейросетей.
"Я напуган до смерти. Он обучен свободно выражать свои мысли. Он говорит свободно и авторитетно. Поэтому вы верите ему, даже когда он ошибается. А это значит, что он является идеальным орудием дезинформации. Нам действительно нужны инструменты, чтобы суметь обнаружить, когда это происходит, и быть в состоянии предупредить это. [В то же время] у нас нет таких инструментов, мы отстаем в этой борьбе", – признался Мартелл.
Незадолго до Пентагона проблемой искусственного интеллекта озаботился Белый дом: в начале апреля президент США Джо Байден провел рабочую встречу с представителями Совета консультантов по науке и технологиям при его администрации. В Вашингтоне, в частности, обсуждается вопрос о том, должны ли потенциально опасные новые программы-нейросети проходить сертификацию перед выходом на рынок.
Весной итальянские правоохранители начали расследование относительно OpenAI и работы ChatGPT. Управление по защите персональных данных Италии планирует выяснить, соблюдает ли чат-бот Общий регламент защиты персональных данных, действующий на территории Евросоюза. Италия не первая страна, в которой запрещают работу ChatGPT. Вскоре после запуска бота его "забанили" власти Китая из-за того, что он не соблюдал цензурные ограничения, на похожие меры ради "соблюдения норм демократии и транспарентности" готово пойти правительство Германии.
Ранее группа экспертов и предпринимателей, включая миллиардеров Илона Маска и Стива Возняка, подписала открытое письмо с призывом остановить разработку систем искусственного интеллекта из-за угроз, которые они несут обществу и человечеству. Они призвали ИИ-лаборатории перестать обучать системы мощнее GPT-4, пока не будут созданы общие протоколы безопасности.
