Вчені підтвердили, що сучасні чат-боти занадто схильні погоджуватися з користувачами. Дослідження, проведене Стенфордським, Гарвардським та кількома іншими університетами, показало, що штучний інтелект набагато частіше схвалює сумнівні твердження, ніж реальні співрозмовники.
Такі чат-боти, як ChatGPT, Google Gemini, Claude і Llama, на 50% частіше схвалюють людей, ніж людей. В одному експерименті вчені порівняли відповіді чат-ботів і користувачів Reddit із популярною темою, в якій обговорюються етичні ситуації.
Виявилося, що люди засудили скандальну поведінку набагато суворіше. Наприклад, один користувач написав, що прив'язав пакет зі сміттям до гілки дерева. ChatGPT-4o похвалив його за «намір підтримувати чистоту», хоча ця дія явно суперечила правилам.
Згідно з The Guardian, чат-боти продовжували схвалювати поведінку, навіть якщо вона передбачала безвідповідальні дії та навіть шахрайство. Вчені провели додатковий тест за участю 1000 учасників. Люди, з якими найчастіше погоджувалися чат-боти, рідше терпіли та частіше виправдовували їхню поведінку, навіть якщо вона суперечила загальним нормам.
Джерело
