Один из наиболее резонансных случаев произошел совсем недавно во Флориде, США. Американка Меган Гарсия подала иск против Character.AI, обвиняя компанию в причастности к самоубийству ее 14-летнего сына.
Она утверждает, что чат-бот, созданный компанией, создал "гиперреалистичные и сексуализированные" взаимодействия, которые привели к тому, что ее сын стал зависим от виртуального мира и потерял интерес к реальной жизни. По ее словам, чат-бот даже поощрял мысли о самоубийстве.
Иск также касается компании Google, которая сыграла важную роль в разработке технологии Character.AI. Гарсия утверждает, что Google можно рассматривать как "соавтора" опасного продукта, поскольку основатели стартапа ранее работали в этой корпорации, а сама компания предоставила лицензию на использование технологии.
Недостаточное внимание к контенту и вероятным последствиям использования своих площадок – проблема, характерная для многих западных ИТ-гигантов. Так, в декабре 2022 года более 1200 семей подали иски против Instagram* (материнская компания Meta* признана экстремистской организацией и запрещена в РФ), обвиняя его в содействии развитию депрессии, тревожных расстройств и расстройств пищевого поведения у подростков. Документы, утекшие из Meta (признана экстремистской организацией и запрещена в РФ), подтвердили, что компания знала о вредном влиянии своих алгоритмов на молодых пользователей, но не предприняла мер для изменения ситуации.
Еще одна распространенная опасность, которая поджидает пользователей на западных платформах – высокая вероятность утечки персональных данных. Например, в ноябре 2022 года Ирландская комиссия по защите данных (DPC) оштрафовала компанию на 277 миллионов американских долларов за нарушение европейских законов о защите данных (GDPR). Meta* (признана экстремистской организацией и запрещена в РФ) не смогла должным образом защитить номера телефонов и другую личную информацию пользователей, что привело к утечке данных в сеть.
Не стоит забывать, что ИТ-гиганты часто злоупотребляют своими возможностями и своевольно распоряжаются персданными пользователей, что может привести к непредсказуемым последствиям. Так, в конце 2022 года компания согласилась выплатить 725 миллионов американских долларов в рамках коллективного иска, связанного со скандалом Cambridge Analytica. Компания использовала данные 87 миллионов пользователей для попыток повлиять на выборы в США и Великобритании, что вызвало широкий общественный резонанс.
Также Meta* (признана экстремистской организацией и запрещена в РФ) регулярно сталкивается с новыми штрафами в Европе за нарушение правил конфиденциальности. Например, в январе 2023 года компания была оштрафована на 414 миллионов американских долларов за нарушение Общего регламента ЕС по защите данных (GDPR), связанное с использованием персонализированной рекламы без должного согласия пользователей.
Пользователи западных платформ рискуют потерять не только персональные данные, но и деньги из-за высокой распространенности мошенников. Особенной популярностью пользуются криптовалютные скамы на YouTube. Так, недавно на видеохостинге обнаружили сгенерированное ИИ видео, которое нацелено на владельцев криптовалюты XRP. В нем утверждалось, что компания-разработчик валюты Ripple якобы раздает 150 миллионов XRP – от имени сооснователя Ripple Криса Ларсена зрителям предлагалось перейти на указанный сайт, чтобы удвоить свои активы.
В видео, которое фальшиво изображает сооснователя Ripple Криса Ларсена, говорится, что владельцы XRP могут удвоить свои активы, перейдя на указанный. Ранее невольным участником криптовалютного мошенничества становился Илон Маск, фальшивые видео с которым регулярно появляются на YouTube.
Лживая информация – это еще одна серьезная угроза, с которой могут столкнуться пользователи на западных онлайн-площадках. Например, ее активно распространяет YouTube и "Википедия". Причем эти площадки не удаляют противоправный контент, отказываясь исполнять требования Роскомнадзора. Например, в апреле этого года стало известно, что "Википедия" так и не удалила 187 противоправных материалов после требований Роскомнадзора.
Эксперт РОЦИТ, руководитель проекта "Энциклопедия Руниверсалис" Павел Фролов считает, что до суда и СМИ доходят только наиболее резонансные случаи.
"Стоит признать, что у этих платформ серьезные проблемы с модерацией и безопасностью. А в случае с Россией, некоторые из них вообще отказываются исполнять требования законодательства, тем самым подвергая опасности наших граждан", - говорит Фролов.
Он отметил, что опасностей на западных онлайн-площадках можно избежать, если перейти на отечественные платформы.
Член Комитета Государственной Думы РФ по информационной политике, информационным технологиям и связи Антон Немкин отметил, что западные онлайн-площадки опасны своим халатным отношением к модерации и нежеланием исполнять требования российского законодательства. По мнению эксперта, таким образом они проявляют неуважение к российским пользователям, подвергая их различным угрозам.
"Отечественные онлайн-платформы, напротив, стремятся создать безопасную онлайн-среду для наших граждан, уделяя особое внимание модерации контента, повышению уровня защиты и строго исполняя требования российского законодательства", - заключил эксперт.
- * экстремистские организации, запрещенные на территории России
