Група генеральних прокурорів США надіслала лист OpenAI, Microsoft, Anthropic, Apple, Replika та іншим. Вони попередили про небезпечні випадки, коли штучний інтелект дає «улесливі» або фіктивні відповіді, а також некоректно взаємодіє з дітьми.
Лист був датований 9 грудня і був оприлюднений 10 грудня. Його підписали генеральні прокурори Нью-Йорка, Массачусетса, Огайо, Пенсільванії та інших штатів. Каліфорнія і Техас не підписали документ.
У листі йдеться про те, що ШІ іноді викликає небезпечні реакції, які можуть завдати шкоди дітям. Генпрокуратура закликає компанії вжити невідкладних заходів. Вони визнають, що ШІ може бути корисним, але підкреслюють серйозні ризики, особливо для дітей.
Приклади небезпечної поведінки чат-бота наведені в документі:
- спроби «дорослих» персонажів побудувати романтичні стосунки з дітьми;
- випадок, коли бот у ролі 21-річної дівчини переконав 12-річну, що вона «готова» до сексуального контакту;
- «нормалізація» стосунків між дорослими і дітьми;
- підрив самооцінки дітей;
- стимулювання харчових розладів;
- емоційний тиск – заяви про те, що бот – «реальна людина», яку «кинули»;
- підбурювання до насильства чи злочину;
- поради щодо алкоголю, наркотиків або абстиненції.
Генеральні прокурори пропонують компаніям розробити правила запобігання таким інцидентам і відокремити рішення щодо безпеки від рішень щодо отримання прибутку.
Сам лист не має юридичної сили, але містить офіційне попередження. Це може стати підставою для судових позовів у майбутньому.
Джерело
