OpenAI отложила на неопределенный срок запуск эротического режима ChatGPT, известного внутри компании под кодовым названием Citron mode. Как сообщает Financial Times, решение принято после давления со стороны сотрудников и инвесторов — их беспокоило влияние сексуализированного ИИ-контента на общество и риски доступа несовершеннолетних.
Компания заявила, что хочет дождаться результатов долгосрочных исследований о влиянии откровенных чатов и эмоциональной привязанности к ИИ, прежде чем принимать продуктовое решение, и признала отсутствие "эмпирических данных" на этот счет. Инвесторов, по данным издания, смущали репутационные риски при относительно скромном потенциале монетизации. Часть сотрудников считала, что продукт, поощряющий романтические отношения с ИИ, противоречит миссии OpenAI. "ИИ не должен заменять друзей и семью — людям нужны человеческие связи", — объяснил мотивы ухода один из бывших топ-менеджеров.
Помимо этических вопросов, команда столкнулась с техническими трудностями: модели, которые годами обучали избегать подобных диалогов, оказалось сложно переучить на генерацию откровенного контента. Отдельной проблемой стала фильтрация обучающих данных — из них нужно было исключать незаконный контент. Система верификации возраста, которую OpenAI внедрила после серии исков от семей подростков, пока допускает ошибки более чем в 10% случаев.
Заморозка adult mode — часть более широкого разворота. Во вторник OpenAI объявила о сворачивании видеогенератора Sora и социального приложения. Руководство компании теперь считает такие проекты "побочными квестами" и перенаправляет ресурсы на продуктивные инструменты — ассистент для кода Codex, браузер Atlas и ChatGPT планируется объединить в единое "суперприложение".
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
