Дослідження Королівського коледжу Лондона та Британської асоціації клінічних психологів, опубліковане в Guardian, показало, що безкоштовний чат-бот ChatGPT іноді пропускав ризиковану поведінку користувачів і підтримував хибні переконання людей з психічними розладами.
Вчені створили персонажів з різними проблемами: від тривоги та обсесивно-компульсивного розладу до суїцидальних думок і психозів. У простих випадках бот давав корисні поради, а в складних ситуаціях підтримував небезпечні або неправильні думки. Наприклад, він заохочував користувача, який вважав себе «новим Ейнштейном» або «непереможним» і не брав участь у потенційно небезпечних для життя намірах.
Дослідження підкреслює, що ChatGPT не може замінити професійну психіатричну допомогу. Пол Бредлі з Королівського коледжу психіатрів наголосив на необхідності інвестувати в психіатричну допомогу, щоб усі, хто потребує допомоги, могли її отримати.
Джерело
