Последние несколько дней смотрю, что происходит вокруг OpenAI, и есть во всём этом один моментик, который меня немного напрягает.

Не потому что вышла очередная мощная модель. К этому уже привыкли. А потому что люди, которые последние годы эту гонку разгоняли, вдруг сами начали говорить что неплохо было бы притормозить.

3 сентября OpenAI выпустила GPT-6 Astra. Модель мощная, бенчмарков много, всё как обычно. Но меня больше зацепила одна строчка из материалов самой OpenAI.

Astra стала первой моделью компании которой присвоили уровень Critical по возможностям в кибербезопасности в рамках Preparedness Framework.

Если убрать сложные формулировки, смысл примерно такой.

При наличии нужных инструментов и доступа модель уже способна искать неизвестные уязвимости и разрабатывать способы их эксплуатации. Причём человеку не обязательно вести её за руку и говорить что делать на каждом следующем шаге, достаточно указать стартовое направление.

OpenAI пишет что из-за этого отдельные этапы разработки даже замедляли пока усиливали защиту.

Проходит чуть больше недели и руководители крупнейших AI-компаний начинают обсуждать уже не то как быстрее сделать следующую модель, а как эту гонку немного замедлить. Дарио Амодеи говорит что возможности моделей растут быстрее чем системы безопасности. Маск поддерживает идею ограничений. Альтман тоже говорит о необходимости координации между лабораториями.

Параллельно OpenAI откладывает IPO, а разговоры про замедление AI-гонки уже умудрились пошатать акции компаний связанных с ИИ.