OpenAI опубликовала 13-страничный программный документ Industrial Policy for the Intelligence Age: Ideas to keep people first, в котором предлагает масштабную экономическую реформу — от налога на автоматизированный труд до создания национального фонда благосостояния, который будет выплачивать дивиденды каждому гражданину США. CEO компании Сэм Альтман в получасовом интервью Axios сравнил масштаб необходимых изменений с "Новым курсом" Рузвельта во время Великой депрессии.
Центральная идея документа — публичный фонд благосостояния, частично финансируемый самими AI-компаниями. Фонд должен инвестировать в компании, разрабатывающие и внедряющие ИИ, а прибыль — распределять напрямую между гражданами. Модель напоминает постоянный фонд Аляски, который выплачивает жителям штата ежегодные дивиденды из нефтяных доходов. Помимо этого, OpenAI предлагает ввести налоги на автоматизированный труд, перенести налоговую базу с зарплат на корпоративные доходы и прирост капитала, а также запустить пилотные проекты 32-часовой рабочей недели с сохранением полной оплаты — как "дивиденд эффективности" от внедрения ИИ.
Отдельный раздел документа посвящен сценариям потери контроля: OpenAI признает ситуации, при которых опасные AI-системы становятся автономными, способны к самовоспроизведению и "не могут быть легко отозваны". В качестве ответа компания предлагает координацию с правительством и так называемые "сценарии сдерживания" (containment playbooks). Также предусмотрены автоматические триггеры социальной защиты: когда метрики вытеснения рабочих мест достигают пороговых значений, пособия по безработице и страхование заработка увеличиваются автоматически.
Альтман назвал две главные непосредственные угрозы — кибератаки и биологическое оружие. По его словам, крупная кибератака с помощью моделей ближайшего поколения "абсолютно возможна" в течение года, а использование ИИ для создания новых патогенов "больше не является теоретическим". При этом OpenAI определяет суперинтеллект как "AI-системы, способные превзойти умнейших людей, даже когда тем помогает ИИ".
Документ вышел на фоне подготовки OpenAI к IPO, закрытия раунда на $110 млрд при оценке $852 млрд и продолжающегося конфликта вокруг конвертации из некоммерческой организации. ChatGPT сейчас используют более 900 млн человек в неделю. Axios прямо отмечает двойственность ситуации: компания, которая стремительно строит технологию, от которой сама же предупреждает, пытается застолбить роль "ответственного игрока" — и сформировать регулирование раньше, чем регулирование сформирует ее.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
