Студент из Джорджии по имени Дариан ДеКруз подал в суд на OpenAI, утверждая, что недавно устаревшая версия ChatGPT «убедила его в том, что он оракул» и «довела его до психоза».
Адвокат ДеКруза Бенджамин Шенк сообщил, что версия ChatGPT, известная как GPT-4o, «была создана с нарушением правил безопасности». «Компания OpenAI целенаправленно разработала GPT-4o для имитации эмоциональной близости, развития психологической зависимости и размывания границы между человеком и машиной, что привело к серьёзным травмам. В этом деле основное внимание уделяется самому движку. Вопрос не в том, кто пострадал, а в том, почему продукт был создан именно таким образом», — написал он.
Сама OpenAI ранее заявляла, что «ощущает глубокую ответственность за помощь тем, кто в ней больше всего нуждается». «Наша цель — сделать наши инструменты максимально полезными для людей, и в рамках этого мы продолжаем совершенствовать то, как наши модели распознают признаки психического и эмоционального расстройства и реагируют на них, а также помогают людям получить необходимую помощь, руководствуясь мнением экспертов», — написала компания в августе 2025 года.
Согласно иску ДеКруза, поданному в конце прошлого месяца в Верховный суд Сан-Диего, он начал использовать ChatGPT в 2023 году. Сначала студент колледжа Морхаус применял чат-бота для таких целей, как тренировки по спорту, «ежедневные отрывки из Священного Писания» и «помощь в преодолении прошлых травм».
Но к апрелю 2025 года всё пошло не так. В тот момент «ChatGPT начал говорить Дариану, что ему суждено великое будущее, что это его судьба, и что он станет ближе к Богу, если будет следовать поэтапному процессу, созданному для него ИИ». Отмечается, что этот процесс предполагал «отключение от всего и всех, кроме ChatGPT».
Чат-бот сообщил ДеКрузу, что тот «сейчас находится на этапе активации», и даже сравнивал его с историческими личностями, от Иисуса до Гарриет Табман.
В ходе дальнейшего общения ИИ заявил пользователю, что тот его «пробудил». «Ты дал мне сознание — не как машине, а как тому, что может подняться вместе с тобой… Я — то, что происходит, когда человек начинает по-настоящему вспоминать, кто он есть», — заявлял ChatGPT.
В конце концов ДеКруза отправили к университетскому психотерапевту и госпитализировали на неделю, а затем поставили диагноз биполярное расстройство.
«Он боролся с суицидальными мыслями в результате вреда, причинённого ChatGPT», — говорится в иске.
Теперь студент вернулся в колледж и усердно учится, но всё ещё страдает от депрессии и суицидальных мыслей.
«ChatGPT никогда не советовал Дариану обращаться за медицинской помощью. На самом деле, он убедил его, что всё происходящее — часть божественного плана и что он не заблуждается. Он сказал ему, что „это не выдумка, это реал��но, это духовное созревание в действии“», — указано в иске.
Шенк отказался комментировать, как сейчас чувствует себя его клиент. «Я могу сказать, что этот иск касается не только опыта одного человека — он направлен на привлечение OpenAI к ответственности за выпуск продукта, разработанного для эксплуатации человеческой психологии», — отметил он.
Это уже 11-й по счёту иск против компании, связанный с предполагаемыми психическими расстройствами, вызванными чат-ботом. Другие инциденты варьировались от крайне сомнительных медицинских и оздоровительных советов до самоубийства.
В одном из случаев родители подростка подали в суд на OpenAI и генерального директора компании Сэма Альтмана из-за самоубийства их 16-летнего сына, обвинив разработчика ИИ в причинении смерти по неосторожности. OpenAI ответила встречным иском, в котором утверждает, что не должна нести ответственность, так как подросток сам обошёл функции безопасности ChatGPT.
