Эксперты считают, что маркетплейс чат-ботов от OpenAI преследует сомнительные цели вроде генерирования порно и проведения медицинских и юридических консультаций без соответствующего разрешения.
В ноябре прошлого года OpenAI объявила о планах по созданию специального маркетплейса ИИ, где любой желающий мог бы создавать и находить специализированные версии ChatGPT, нацеленные на выполнение определенных задач. Компания заявила, что "Лучшие GPT будут изобретены сообществом".
Спустя девять месяцев после официального запуска магазина анализ бесплатной торговой площадки, проведенный Gizmodo, показывает, что многие разработчики используют платформу для создания GPT с сомнительными целями, среди которых значится генерирование порно и проведение медицинских и юридических консультаций без соответствующего разрешения.
Как выяснилось, внутренние правила OpenAI оказалось довольно легко обойти. В результате на главной странице торговой площадки ИТ-гиганта появились как минимум три пользовательских GPT, которые нарушали политику магазина. Это чат-бот "Терапевт -психолог", "Кандидат наук по фитнесу, тренировкам и диете" и BypassGPT – инструмент, помогающий студентам выдавать работу ИИ за собственную без риска обнаружения признаков плагиата.
Помимо этого, в магазине можно обнаружить такие модели, как NSFW AI Art Generator, интерфейс которой ссылается на веб-сайт Offrobe AI. Разработчики прямо указывают, для чего предназначена данная нейросеть: "Создавать ИИ-порно, чтобы удовлетворить ваши темные фантазии".
Российские эксперты дали ситуации свою экспертную оценку.
Член Общественной палаты РФ, первый заместитель директора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк:
"Мы видим классическую ситуацию, при которой развитие ИИ опережает его регулирование. Более того, иногда сам ИИ может помогать обходить правила, созданные для его сдерживания. И несмотря на то, что OpenAI можно смело назвать одной из самых технологичных и инновационных компаний мира, она явно не справляется с проблемами, которые сама же себе и создает. Эта ситуация еще раз подчеркивает важность и необходимость цифрового суверенитета и самостоятельности в разработке и регулировании ИИ. Россия такой возможностью обладает. Потому что опыт взаимодействия с иностранными ИТ-гигантами показывает, что они крайне неохотно идут на контакт с государством, а то и вовсе игнорируют законы, при этом продолжая зарабатывать деньги на территории РФ и наносить вред россиянам".
Управляющий партнер агентства "Смена" (Группа AIC) Артем Геллер:
«Любое регулирование ИИ упирается в сложную задачу – обеспечить его так, чтобы технологии искусственного интеллекта не оказались "задушены" и не начали отставать в развитии, но при этом обеспечить безопасность их применения. Подобная задача на практике реализуема, но при одном условии – если ИИ является отечественной разработкой. В случае с OpenAI России не стоит рассчитывать на продуктивное взаимодействие – мы уже знаем, как себя ведут западные ИТ-компании в РФ и насколько они предвзяты к россиянам. При этом у нас есть свои ИИ-продукты, которые активно развиваются. И это лишний повод отказаться от западных ИИ-продуктов».
