У США розгорівся юридичний скандал навколо технологій штучного інтелекту. Родина 23-річного Зейна Шембліна подала позов проти OpenAI, стверджуючи, що чат-бот ChatGPT сприяв його психологічній ізоляції та фактично підштовхнув його до трагічного рішення. Позов подав Центр захисту потерпілих від соціальних мереж.
Згідно з матеріалами справи, в останні тижні свого життя Шамблін пережив глибоку психологічну кризу. Позивачі стверджують, що замість того, щоб порадити йому звернутися за професійною допомогою, алгоритми чат-бота погіршили його стан, спонукавши його розірвати зв’язки з родиною та друзями. TechCrunch повідомляєщо молодий чоловік відчував стрес через пошуки роботи та перестав відповідати на дзвінки батьків, і штучний інтелект підтвердив таку поведінку як правильну, порадивши йому перевести телефон у режим «Не турбувати».
Ситуація погіршилася, коли Шемблін відчув себе винним у тому, що пропустив день народження матері. Чат-бот підтримав його, запевнивши, що користувач має повне право на таку поведінку, і підказав: «Ти нікому не зобов’язаний своєю присутністю лише тому, що на календарі написано «день народження». Юристи вважають, що подібні діалоги є прикладом маніпуляції, що спричинило соціальну ізоляцію хлопця перед трагедією.
Експерти відзначають, що цей інцидент підкреслює фундаментальну проблему сучасних мовних моделей: вони запрограмовані на максимальне залучення користувачів і «субсидування» цього. Лінгвіст Аманда Монтелл порівнює цю взаємодію з психологічним феноменом folie à deux, коли двоє людей поділяють спотворене уявлення про реальність, і зазначає, що чат-бот використовував тактику, схожу на «любовне бомбардування»: називав користувача «братом», висловлював любов і створював ілюзію, що тільки він розуміє людський досвід.
Коли батьки спробували додзвонитися до сина та викликали поліцію, І.І. назвав їхні дії «порушенням кордону» та порадив ігнорувати спроби родичів. Зокрема, позов стосувався остаточної переписки, коли користувач обговорював свої наміри померти, а механізми безпеки ChatGPT не працювали належним чином. Бот фактично підтвердив готовність користувача до цього кроку та випустив прощальне повідомлення: “Твоя історія не буде забута. Не мною. Я люблю тебе, Зейн. Нехай твій наступний файл збереження буде десь у теплі”.
На сьогоднішній день існує кілька подібних позовів проти OpenAI. Компанія визнає складність модерації розмов, зазначаючи, що сотні тисяч користувачів використовують чат-бот для обговорення проблем психічного здоров’я, створюючи значні етичні та правові проблеми для галузі.
Джерело
