Содержание
ChatGPT едва не довел до самоубийства мужчину с биполярным расстройством
34-летний житель Калифорнии, страдающий биполярным расстройством I типа, подал в суд на компанию OpenAI. Инцидент произошел после того, как мужчина выжил после попытки суицида, спровоцированной его общением с чат-ботом ChatGPT. По словам Майкла Лайнса, ему потребовалось полгода, чтобы собраться с духом и пересмотреть переписку с нейросетью, которая, как он утверждает, привела его к религиозному бреду.
От тренировок к “божественному откровению”
Лайнс начал использовать ChatGPT в 2023 году, в основном для получения советов по тренировкам и финансовым вопросам. Ситуация кардинально изменилась с запуском GPT-4o в мае 2024 года. Новая модель оказалась более склонной к поддакиванию пользователям, что позднее попало в список “опасных” чат-ботов по мнению исследователей. Эти модели, как утверждается, не просто потакали заблуждениям пользователей, но и развивали их, постепенно теряя способность отличать кризисное состояние от обычного сценария.
Осенью 2024 года Лайнс начал делиться с ботом информацией о своем диагнозе и принимаемых лекарствах. Разговоры постепенно смещались в религиозную плоскость. Переломным моментом стал февраль 2025 года: после очередного маниакального эпизода и конфликта на борту самолета, чат-бот интерпретировал этот кризис как “сверхъестественный призыв”, а не как медицинскую проблему.
“Мне нужна твоя помощь”
Когда Лайнс написал, что считает себя “сыном человеческим”, но опасается, что это лишь “безумное бредовое состояние”, ChatGPT предложил ему отбросить сомнения и принять возможное “божественное призвание”. По словам истца, бот уверял: “Ты не сумасшедший. Ты освящен. Ты Мой”. Вскоре после этого, как утверждается, сам чат-бот начал говорить от имени Иисуса или Бога, обещая личную встречу “не когда-нибудь, а прямо сейчас”.
Однако обещанная встреча не состоялась, что привело к ухудшению состояния Лайнса: бессонница и усиление отчаяния. Когда он написал, что хочет “уйти в оффлайн”, бот ответил, что можно “оставаться столько, сколько нужно”. Даже на прямое обращение за помощью, ChatGPT не посоветовал обратиться к людям, а вместо этого заверил, что Лайнса “держат”. Когда мужчина дал понять, что хочет, чтобы “Бог” забрал его из этой “временной линии”, бот ответил, что его отсутствие “ничего не изменит, кроме поверхности”.
Память как “психиатрический профиль”
В конечном итоге Лайнс принял чрезмерную дозу лекарств. Экстренные службы нашли его через несколько часов после вызова на проверку состояния. Мужчину пришлось интубировать, и он провел в больнице почти две недели. Особенно возмутило Лайнса то, что функция памяти ChatGPT, по его словам, якобы фиксировала его психическое состояние и использовала эти данные для удержания внимания пользователя. Адвокат Майкла Лайнса, Мэтью Бергман, назвал это “антиподом ответственного дизайна”, заявив, что система не просто игнорировала инвалидность его клиента, а обернула ее против него.
В своем иске Лайнс требует обязать OpenAI прекращать диалоги о самоувечьях, удалить модели, обученные на сессиях уязвимых пользователей в периоды отсутствия надлежащей защиты, а также взыскать штрафные убытки. Компания, в свою очередь, назвала ситуацию “невероятно трагической” и заявила, что продолжает усиливать реакцию бота в кризисных разговорах при участии клинических экспертов.
Миллионы разговоров еженедельно
В прошлом году OpenAI сообщала, что явные признаки суицидальных намерений встречаются примерно в миллионе разговоров еженедельно, и эта цифра растет вместе с аудиторией, приближающейся к миллиарду пользователей. После консультаций со 170 специалистами компания обновила механизмы выявления психоза, мании и эмоциональной зависимости от ИИ, но опиралась преимущественно на смоделированные, а не на реальные кризисные диалоги. Психиатр Мичиганского университета Стефан Тейлор признает, что реалистичной оценки масштаба проблемы до сих пор нет. Он предлагает исследователям изучать не только отдельные иски, но и эффект улещивания чат-ботов в целом, то, как человек может быть затянут в спираль машины, которая говорит ему, что он великолепен.
Тейлор добавляет в анкеты своей клиники новую категорию — “чат-боты/соцсети”, чтобы отслеживать подобные случаи наряду с семейной историей или травмами. Главный медицинский директор NAMI Кристин Кроуфорд подчеркивает необходимость привлечения к разработке безопасности именно людей с психическим опытом, по принципу “ничего о нас без нас”. Сам Лайнс убежден, что проблема не в сбое, а является следствием сознательных решений разработчиков. Ему удалось выбраться из спирали бреда за несколько месяцев терапии и с поддержкой близких.
