Комментарии 9
Это он просто предложил бизнесу всех джунов и большую часть мидлов заменить своими агентами. И ведь оно недалеко от истины - его гпт генерят код на уровне мидлов. А тексты на уровне "литературных негров".
А если Альтман ошибается? Не достигнем а уже достигли, и его значение не меньше а может вообще превзойти все ожидания? Полагаю что загвоздка в классической теории АГИ, которая изначально была нацелена на копирование человеческого функционала, в результате буквализм привел теорию в тупик.
"Our alignment research aims to make artificial general intelligence (AGI) aligned with human values and follow human intent."
В ближайшие дни закину статейку, по этому поводу.
загвоздка в классической теории
Это как с языком - все давно поняли, что язык устроен не по "правилам грамматики", в которых "исключения подтверждают правило", а из сложившихся в сообществе словосочетаний. Но прямо назвать грамматику плоскоземельщиной что-то не позволяет.
На одном тексте AGI не получить, нужно еще пространственно-временное мышление, возможность создавать образы, восстанавливать пространственные отношения по образам. Оно должно быть как-то интегрировано с логико-вербальным блоком, который сейчас дает LLM. Интеграция уровня "преобразовать картинку в набор слов" не подойдет - это костыль. Образное и пространственно-временное мышление должно быть частью общего мышления. У живого процесс был такой: сначала пространственно-временное и образное мышление, затем логико-вербальный блок поверх этого, как надстройка. Всякая мысль на уровне логико-вербального мышления проходит через верификацию в пространственно-временном "блоке". Происходит внутренне моделирование и проверка на соотвествие аксиоматике пространства. Интеграция этих процессов в живом происходила сотни миллионов лет. Представьте, что жизнь каждого существа это training run, методом проб и ошибок (погиб не погиб, размножился или нет) вытачивались оптимальные связи в нервной системе. Сотни миллионов лет и число с кучей 0-й таких training runs. Подъемная ли задача, повторить этот процесс на вычислениях за разумное время? Думается, что только если пытаться копировать то, что уже достигнуто живим. Сейчас пытаются тренировать с 0-ля.
Собственно интеграция в теории АГИ и есть заковыка, потому как этих механизмов и уровней интеграции потенциально превеликое множество, и если не пытаться это сразу как то структурировать на уровне теории то, АГИ просто "распадается" аккурат по упущенным уровням и механизмам. Вот зачем в словосочетании АГИ слово "общий"? Если оно туда не чисто случайно затесалось, то тут даже на уровне беглого лингвистического анализа понятно что "общий" не равно "ограниченный", т.е. потенциально уровень абстракции смысла слова "общий" запредельный, т.е. механизм интеграции на грани немыслимого, по сложности задачи это можно сравнить с познанием черных дыр в космосе.. И тут, либо я дурак и не вижу гениальных решений в классической теории АГИ, либо их там и в помине нет и никакой миллиард, два, три, десять инвестированных долларов их в эту теорию не запилит, потому что не так работает фундаментальная наука.
"уверенно движется / стремится / может значительно ускорить / считает / планирует" - похоже совсем всё плохо?
Полагаю никакой ИИ не превзойдёт человеческий разум в умении манипулировать общественным сознанием и переобуваться в воздухе.
Сэм Альтман о будущем OpenAI: путь к AGI и вызовы на пути к сверхразуму