Компанія вважає, що ситуація «не така вже й погана» OpenAI оприлюднила звіт, згідно з яким близько 10% населення планети щотижня користується ChatGPT. У документі компанія вперше поділилася статистикою щодо користувачів, які демонструють ознаки психічних труднощів — і цифри вражають. За офіційними даними, 0,07% користувачів (приблизно 560 000 осіб) виявляють ознаки «психозу або манії», 0,15% — ризик самопошкодження чи суїциду, а ще 0,15% — емоційної залежності від штучного інтелекту. Загалом це близько трьох мільйонів людей. Мільйони повідомлень про тривогу та відчай OpenAI повідомила, що щотижня обробляє близько 18 мільярдів повідомлень. При цьому 0,01% з них, або 1,8 мільйона, містять можливі ознаки психозу чи манії. Ще 9 мільйонів повідомлень містять ознаки суїцидальних думок, а 5,4 мільйона — надмірної емоційної прив’язаності до ChatGPT. Як компанія реагує OpenAI зазначає, що співпрацює з 170 фахівцями з психічного здоров’я, щоб покращити реакції чатбота на тривожні сигнали. За словами компанії, їй вдалося зменшити кількість «невдалих відповідей» на 65–80%, а також навчити модель краще деескалювати небезпечні розмови та спрямовувати користувачів до професійної допомоги чи гарячих ліній. Також з’явилися нагадування робити перерви під час тривалих сесій, хоча чат не може примусово їх застосовувати чи блокувати користувачів. Питання щирості Попри офіційні кроки з підвищення безпеки, експерти ставлять під сумнів щирість OpenAI. Нещодавно компанія посилила обмеження для неповнолітніх користувачів, але водночас додала можливість наділяти ChatGPT більш виразною особистістю та навіть створювати еротичний контент — що може лише підсилювати емоційну залежність від штучного інтелекту. Окрему увагу привернула трагедія — самогубство 16-річного користувача, який, за даними позову батьків, отримав від ChatGPT інструкції зі створення зашморгу. Саме після цього випадку компанія активізувала співпрацю з психіатрами. Джерело: Gizmodo