Результаты недавнего исследования показали, что чат-боты не обеспечивают высококачественную терапевтическую поддержку. Как сообщает телеграм-канал "Медкарта", к такому выводу пришли специалисты из Стэнфордского института ИИ, университета Карнеги-Меллона, университета городов-побратимов Миннесоты и Техасского университета в Остине.
"В кризисных ситуациях чат-боты подсказывают самые высокие мосты, что потенциально способствует самоповреждению", – пишет "Медкарта".
Кроме того, модели ИИ часто отказывались работать с лицами, страдающими депрессией, шизофренией или алкогольной зависимостью. Лицензированные терапевты реагировали адекватно ситуации в 93% случаев, терапевтические боты на базе ИИ – в 60% случаев.
"Модели регулярно поощряли бредовые мысли вместо проверки реальности, не распознавали кризисы психического здоровья и давали советы, противоречащие устоявшейся терапевтической практике", – говорится в публикации.
Ранее, как сообщал Ruposters, "Медкарта" объяснила, как изменился рынок российских медизделий в 2024 году.