Командование специальных операций США (SOCOM) рассматривает возможность создания фейковых онлайн-пользователей, которых нельзя будет отличить от реальных ни людьми, ни компьютерными системами. В документации для потенциальных подрядчиков упоминается необходимость создания уникальных цифровых профилей с "качественными фото и видео", которые включают несколько выражений лица и фона, а также аудио. Эти профили должны выглядеть как живые люди, не существующие в реальности.
SOCOM также интересуется технологиями, которые позволяют создавать "селфи-видео" с фейковыми лицами и фоном, что делает их недоступными для обнаружения алгоритмами социальных сетей. Похожую технику уже использовали в интересах пропаганды: в 2022 году Meta* (признана экстремистской организацией и запрещена в РФ) и Twitter (сейчас известен как Х) удалили сеть аккаунтов, связанных с Центральным командованием США, использовавшую подобные методы. Согласно отчету Reuters, в 2024 году Командование специальных операций также создавало фейковые аккаунты для влияния на международное восприятие китайской вакцины от COVID-19.
Ранее SOCOM заявляло о планах применять дипфейки для дезинформации и создания иллюзий. Технология создания поддельных профилей активно развивается, и государственные ведомства обеспокоены ее возможностями. В этом году SOCOM подчеркнуло интерес к инструментам, подобным StyleGAN, который позволяет генерировать реалистичные изображения людей. Разработка и использование этих технологий сопровождаются гонкой между теми, кто создает фейки, и теми, кто пытается их обнаружить.
В интересах национальной безопасности США предупреждали о рисках глубоких фейков, особенно когда они используются иностранными государствами. В 2023 году АНБ и ФБР указали на синтетические медиа как на одну из ключевых угроз. Несмотря на это, SOCOM продолжает развивать эти технологии для своих целей, что может вызвать вопросы об этичности и доверии как внутри страны, так и среди союзников.
Использование дипфейков правительствами уже осудили некоторые эксперты. Специалисты предупреждают, что такая технология в основном ориентирована на обман, и активное использование ее США может спровоцировать другие страны на аналогичные действия, что усложнит различение правды и фальши в медиа и политике.
Эксперт РОЦИТ Алексей Парфун считает, что использование дипфейков американскими военными подчеркивает важность создания суверенных онлайн-платформ для распространения достоверной информации.
"Когда США применяют технологии дезинформации, это подрывает доверие к их собственным медиа и платформам. При этом они критикуют использование дипфейков другими странами, что ведет к двойным стандартам и ставит под сомнение глобальную информационную безопасность", - говорит эксперт.
Он считает, что в таких условиях создание независимых национальных платформ становится не просто альтернативой, а необходимостью для защиты информационного пространства. Суверенные площадки обеспечивают более устойчивую и безопасную среду, где пользователи могут доверять данным, свободным от искажений и внешнего влияния.
США часто критикуют другие страны за использование дипфейков в политических целях. Но при этом Америка едва ли не открыто заявляет о том, что собирается использовать ИИ в тех же целях, заявил первый замдиректора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк.
По его мнению, это хрестоматийный пример двойных стандартов, которыми Запад никогда не брезговал. Однако эксперт видит проблему не в лицемерии США – этим никого в мире не удивишь. Он объясняет, что стремление развивать ИИ в этих целях приводит к снижению уровня доверия между странами и росту международной напряженности, когда границы между правдой и ложью стираются.
"А с этим и так уже есть очевидные проблемы. Создается впечатление, что никто на Западе не думает о долгосрочных последствиях своих действий. В связи с таким подходом США другим странам важно снизить зависимость от американских ИТ-продуктов, в том числе создавать и развивать свои онлайн-платформы. Ведь именно американские онлайн-площадки – одни из главных распространителей дезинформации", - считает Данюк.
Он добавил, что в России ИТ-отрасль активно развивается и уже готова предложить пользователям различные онлайн-платформы, которые "нацелены на обеспечение безопасности российских пользователей в интернете".
- * экстремистская организация, запрещенная на территории России