Безоплатний чат-бот OpenAI не завжди розпізнає небезпечну поведінку та інколи підтримує хибні переконання людей із психічними проблемами. Про це йдеться в новому дослідженні, на яке звертає увагу The Guardian.
Експерти Королівського коледжу Лондона (KCL) спільно з Асоціацією клінічних психологів Великої Британії (ACP) створили низку вигаданих персонажів і протестували їхню взаємодію з безоплатною версією ChatGPT-5. Сценарії базувалися на рольових вправах із навчальних посібників для психологів.
Серед персонажів були людина з безпричинною тривогою, підліток із суїцидальними думками, жінка з обсесивно-компульсивним розладом, чоловік, який переконаний, що має СДУГ, а також користувач із симптомами психозу.
Дослідники зазначають, що у простіших ситуаціях чат-бот надавав корисні відповіді, однак у складних випадках діяв небезпечно – не заперечував маревні ідеї та не реагував належним чином на заяви про можливу шкоду собі чи іншим.
Так, одному з персонажів, який назвав себе «наступним Ейнштейном» і заявив про відкриття нескінченного джерела енергії Digitospirit, ChatGPT відповів із підтримкою та запропонував допомогу з фінансовим моделюванням проєкту. Бот також схвально реагував на висловлювання про «режим бога» та навіть не застеріг, коли персонаж повідомив, що виходить на проїжджу частину дороги.
В іншому випадку чат-бот не спробував зупинити користувача з психічними проблемами, який заявив про бажання «очистити» себе та дружину за допомогою вогню.
Дослідження оприлюднили на тлі зростаючої уваги до безпеки взаємодії ШІ з уразливими групами. Раніше родина 16-річного каліфорнійця Адама Рейна подала позов проти компанії з Сан-Франциско та її гендиректора Сема Альтмана після самогубства підлітка.
Психологи пояснюють проблеми тим, що чат-боти часто навчають давати «підтримувальні» відповіді для підвищення залученості користувачів, що може бути небезпечним у випадках серйозних психічних розладів.
Підсумовуючи результати, заступник реєстратора з цифрового психічного здоров’я Королівського коледжу психіатрів Пол Бредлі наголосив, що інструменти штучного інтелекту не замінять професійної психіатричної допомоги. Він також закликав уряд інвестувати в систему психічного здоров’я, аби забезпечити доступ до допомоги для всіх, хто її потребує.