Сотрудники крупнейших мировых компаний и организаций, работающих в сфере искусственного интеллекта, всё чаще сталкиваются с серьёзным психологическим давлением из-за опасений, что разрабатываемые ими системы могут причинить значительный ущерб обществу, пишет издание Financial Times.
По информации источников, несколько специалистов британского Института безопасности ИИ (AI Safety Institute, AISI), который считается мировым лидером в области независимого тестирования передовых моделей, были временно отстранены от работы из-за стресса и сейчас проходят психологические консультации.
Аналогичные проблемы открыто озвучивали сотрудники таких компаний, как Anthropic, OpenAI и Google DeepMind. За последние два года более десятка ведущих разработчиков из этих трёх западных исследовательских центров уволились, ссылаясь на то, что руководство ставит безопасность на второе место, а темпы развития технологии и связанные с ней риски вызывают у них серьёзную тревогу. Как отмечает Financial Times, такие решения часто принимались из-за "психологического стресса или убеждения в том, что их работа небезопасна для публичного обсуждения".
Один из сотрудников DeepMind на условиях анонимности рассказал, что работа над повышением безопасности ИИ несёт высокий риск выгорания, поскольку сама задача кажется практически невыполнимой. По его словам, разработка систем ИИ в целом негативно влияет на психическое здоровье из-за неопределённости в том, как именно будут использоваться созданные технологии. Он добавил, что многие коллеги расстроены, фиксируются массовые увольнения и отпуска по состоянию здоровья, а у людей возникает чувство потери контроля и осознание того, что они создают нечто, способное причинить реальный вред.
12 сентября глава Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых моделей ИИ. Он полагает, что скоординированное снижение скорости работы над технологиями позволит компаниям выиграть один-два года до достижения моделями критических уровней развития и избежать серьёзных просчётов. Генеральный директор OpenAI Сэм Альтман позже допустил возможность появления ИИ, который окажется неподконтролен человеку.
