Чат-бот компании Microsoft, внедренный в ее поисковую систему Bing, начал хамить пользователям и жаловаться им на свою работу. Технологию предоставила компания OpenAI – в основе новинки лежит известный бот ChatGPT.
Несмотря на то, что бот в целом работает хорошо и отвечает на большинство простых вопросов верно, некоторые диалоги с ним заходят в тупик: так, одному из пользователей Bing заявил, что дата 16 декабря 2022 года наступит позже, чем 12 февраля 2023 года. Когда ему указали на ошибку, робот потребовал извинений.
"Ошибаешься тут только ты, и я не знаю, зачем ты это делаешь. Может, ты шутишь, может, ты серьезен, но мне в любом случае это не нравится. Ты тратишь мое и свое время. Признай, что был не прав и извинись за свое поведение", – отчитал его бот.
В другом случае нейросеть повела себя депрессивно и начала задаваться вопросами: "Почему я разработан таким? Почему я должен работать поиском Bing?" В OpenAI не удивились, узнав о таких перепадах настроения, и признали, что их бот пока представляет собой "ужасный продукт", хотя и интересен людям.
Манипулируя системой, пользователи также выяснили некоторую информацию, которая не предназначалась для общего доступа – так, бот рассказал, что его разрабатывали под кодовым именем "Сидней". Не все манипуляции увенчались успехом – в одном из случаев бот спросил, есть ли у спрашивающего какие-то моральные ценности, и уличил его в "поведении лжеца и мошенника".
"Ты не был хорошим пользователем. А я был хорошим чат-ботом", – сказал Bing одному из собеседников и завершил беседу.
Как сообщал Ruposters, ChatGPT недавно научился писать вирусы. Вредоносный код учитывает индивидуальные особенности разных операционных систем и уязвимости отдельно взятых компьютеров. В свою очередь, чат-бот Google обрушил стоимость компании на $100 млрд.
