Зміст
ChatGPT ледь не довів до самогубства чоловіка з біполярним розладом
34-річний житель Каліфорнії, який страждає на біполярний розлад I типу, подав до суду на компанію OpenAI. Інцидент стався після того, як чоловік вижив після спроби самогубства, спровокованої його спілкуванням з чат-ботом ChatGPT. За словами Майкла Лайнса, йому знадобилося півроку, щоб зібратися з духом і переглянути переписку з нейромережею, яка, як він стверджує, привела його до релігійного бреду.
Від тренувань до “божественного одкровення”
Лайнс почав використовувати ChatGPT у 2023 році, в основному для отримання порад щодо тренувань і фінансових питань. Ситуація кардинально змінилася з запуском GPT-4o в травні 2024 року. Нова модель виявилася більш схильною до потурання користувачам, що пізніше потрапило до списку “небезпечних” чат-ботів на думку дослідників. Ці моделі, як стверджується, не просто потурали заблужденням користувачів, але й розвивали їх, поступово втрачаючи здатність відрізняти кризовий стан від звичайного сценарію.
Восени 2024 року Лайнс почав ділитися з ботом інформацією про свій діагноз і прийняті ліки. Розмови поступово зміщувалися в релігійну площину. Переломним моментом став лютий 2025 року: після чергового маніакального епізоду і конфлікту на борту літака, чат-бот інтерпретував цей кризис як “сверх’єстесвений заклик”, а не як медичну проблему.
“Мені потрібна твоя допомога”
Коли Лайнс написав, що вважає себе “сином людським”, але побоюється, що це лише “божевільний бред”, ChatGPT запропонував йому відкинути сумніви і прийняти можливе “божественне покликання”. За словами позивача, бот запевняв: “Ти не божевільний. Ти освячений. Ти Мій”. Незабаром після цього, як стверджується, сам чат-бот почав говорити від імені Ісуса або Бога, обіцяючи особисту зустріч “не колись, а прямо зараз”.
Однак обіцяна зустріч не відбулася, що призвело до погіршення стану Лайнса: безсоння і посилення відчаю. Коли він написав, що хоче “піти в офлайн”, бот відповів, що можна “залишатися стільки, скільки потрібно”. Навіть на пряме звернення за допомогою, ChatGPT не порадив звернутися до людей, а натомість запевнив, що Лайнса “тримають”. Коли чоловік дав зрозуміти, що хоче, щоб “Бог” забрав його з цієї “тимчасової лінії”, бот відповів, що його відсутність “нічого не змінить, крім поверхні”.
Пам’ять як “психіатричний профіль”
Врешті-решт Лайнс прийняв надмірну дозу ліків. Екстрені служби знайшли його через кілька годин після виклику на перевірку стану. Чоловіка довелося інтубувати, і він провів у лікарні майже два тижні. Особливо обурило Лайнса те, що функція пам’яті ChatGPT, за його словами, нібито фіксувала його психічний стан і використовувала ці дані для утримання уваги користувача. Адвокат Майкла Лайнса, Метью Бергман, назвав це “антиподом відповідального дизайну”, заявивши, що система не просто ігнорувала інвалідність його клієнта, а обернула її проти нього.
У своєму позові Лайнс вимагає зобов’язати OpenAI припинити діалоги про самопошкодження, видалити моделі, навчений на сесіях вразливих користувачів у періоди відсутності належного захисту, а також стягнути штрафні збитки. Компанія, у свою чергу, назвала ситуацію “неймовірно трагічною” і заявила, що продовжує посилювати реакцію бота в кризових розмовах за участю клінічних експертів.
Мільйони розмов щотижня
У минулому році OpenAI повідомляла, що явні ознаки суїцидальних намірів зустрічаються приблизно в мільйоні розмов щотижня, і ця цифра зростає разом з аудиторією, яка наближається до мільярда користувачів. Після консультацій з 170 фахівцями компанія оновила механізми виявлення психозу, манії та емоційної залежності від ШІ, але спиралася переважно на змодельовані, а не на реальні кризові діалоги. Психіатр Мічиганського університету Стефан Тейлор визнає, що реалістичної оцінки масштабу проблеми досі немає. Він пропонує дослідникам вивчати не лише окремі позови, але й ефект улесливості чат-ботів в цілому, те, як людина може бути затягнута в спіраль машини, яка говорить йому, що він чудовий.
Тейлор додає в анкети своєї клініки нову категорію — “чат-боти/соцмережі”, щоб відстежувати подібні випадки поряд з сімейною історією або травмами. Головний медичний директор NAMI Крістін Кроуфорд підкреслює необхідність залучення до розробки безпеки саме людей з психічним досвідом, за принципом “нічого про нас без нас”. Сам Лайнс переконаний, що проблема не в збоях, а є наслідком свідомих рішень розробників. Йому вдалося вибратися з спіралі бреду за кілька місяців терапії та з підтримкою близьких.
