Comments 21
Неясно из статьи: это пытаются технологию нейросетей довести до уровня AGI или это что-то принципиально новое. Похоже, что все-таки речь о развитии нейронок. Как всегда, проблема в определении термина. Наиболее простое и адекватное определение выглядит так: AGI — искусственный интеллект, способный успешно выполнить ЛЮБУЮ интеллектуальную задачу, посильную для человека. Соответственно, если AI решил задачу, посильную только доктору наук и не справился с другой задачей, которая посильна 8-ми летнему ребенку, то это не AGI. Пора уже всем усвоить, что нейронки не умеют мыслить и постигать смысл. Нейронки - это очень сложная статистика и не более того.
ну Вы и упростили однако
Да что там нейронки, не все люди на это способны.
Но с тем, что в целом технология нейронок - тупик, я, пожалуй, не соглашусь. Мне больше кажется, что нейросети в своей текущей ипостаси похожи на незавершенную картину, и следствия белых пятен на ней - как раз всеми наблюдаемые однозадачность, отсутствие интуиции и здравого смысла, необходимость множества итераций и данных и т.д.
В конце концов, сложные кучки атомов, которые сами себя называют человеками, каким-то образом думают, а значит этот процесс так или иначе можно рукотворно повторить.
Если отбросить романтические бредни, то и человек не более чем несложная машинка для обработки статистики + аппарат по ее накоплению. И все мясное, и с кучей легаси.
Человек - это сложная машинка и статистика занимает в ней не первое место. Глава всему: абстрактное (понятийное) мышление. Психика человека живет в системе понятий и оперирует ими: так постигается смысл и так создается мысль.
Не вижу противоречий, понятия, ака термины - это обобщения, упрощающие работу аппарата сбора информации. Назвали всех лысых обезьян человеками - и жить легче стало, все их деяния и события с ними в отдельной папке. По-моему самая что ни на есть статистика.
Есть общепринятый термин "статистика" как наука со своими специфическими методами, и ваше понимание "статистики" как любое обобщение (обработка) информации.
Грубо говоря, на вашем языке, искусство печь пирожки - это статистика (а что, попробовал так, сяк, запомнил как лучше), но произвольный человек с улицы не согласится, что хлебопечение - это область, изучаемая статистикой.
Я не говорил, что статистика - это обобщение. Простыми словами, статистика - это количество в разрезе аналитики. Соответственно, в LLM это количество встречающихся токенов. Соответственно, чем чаще встречается токен, тем выше вероятность, что LLM задействует его в своем ответе.
В моем понимании опыт - это статистика. Это обычно больно, это обычно вкусно, за такое можно получить по башке и так делать не стоит. А если делать вот так то пирожки обычно подгорают. Этот опыт потом люди пишут в книжках и учат ему друг друга (передают знания).
Мы собрали кучу накопленного опыта (или статистики, как угодно), скормили его системе и система начала выдавать внятные ответы в человеческом духе, создавать "креатив" и генерировать "новые идеи".
А насчет "искусства" печь пирожки - вы в производственных процессах наверное не особо участвовали, иначе наверняка знали бы что это, в целом, самая настоящая статистика.
Насчет "случайного человека с улицы" - я же сказал: надо отбросить романтические бредни для начала.
Речь о том, что методы, применяемые человеком при решении задач, не сводятся к одной лишь статистике. Иначе вы бы не смогли выполнить умножение 349576*3674, ведь вы никогда раньше этого не делали, и у вас нет "токенов", который надо выдать в ответ на этот вопрос.
Ну вы имеете в виду, что используя накопленный опыт я могу его применять для решения задач, выходящих за рамки того что я уже делал - но меня же этому учили. Так и нейросети могут, в чем принципиальное отличие?
https://habr.com/ru/news/777756/
Принципиальное отличие в том, что умножение произвольных чисел нельзя реализовать исключительно на статистике. OpenAI решает эти задачи, пытаясь к LLM прикрутить формальную логику и прочий обвес (проект Q*), но это значит, что ИИ перестаёт работать исключительно на статистике, тут ещё и другие алгоритмы подключаются.
Понятия - это не упрощения, а абстракции, узлы, имеющие множество связей с другими узлами. Соответственно, выявление связей между различными узлами (понятиями) позволяет познавать реальность. Например, было открыто, что все вещества состоят из ядра и электронной оболочки и вся разница между веществами сводится в различном количестве протонов, нейтронов и электронов. Значит, если в известные вещества (в их ядра) добавить эти частицы, то получим новые вещества. Так и были открыты новые вещества еще до их нахождения в природе. Другой пример: гравитация притягивает все частицы. Свет состоит из частиц. Значит гравитация и свет притягивает. Значит то, что мы видим на небе - это искаженная картинка, потому что свет от звезд по мере движения в сторону Земли искажается.
уровень 2: рассудительный ИИ: ИИ со способностями решать проблемы человеческого уровня;
А следующие «уровни AGI» существуют забавы ради? Уровни 3 и 5 следуют только из доверия людей к этому AGI, а критерии 4-го и так есть во 2-ом.
Да, выглядит абсолютно бестолково и глупо. Тем более пятый уровень можно получить чисто простыми скриптами. Автоматизировав мелкую задачу и выделив её в отдельную компанию.
Например яндекс, планировщик маршрутов для такси, выносит в отдельную компанию и у неё покупает услуги по логистике
3ий уже есть возможность указать открыть вкладку или сделать запрос, но все браузеры разрешают, 4ый уже машинное обучение использую для исследований. Короче опять отличная попытка: вложите в нас денюшки и мы когда-нибудь что-то классное сделаем)
5-й уровень, как я понял, это про автономность и выживание. Организация умеет искать поставщиков и клиентов, ставить себе цели и создавать стратегии, решать юридические и прочие вопросы. Однако, если сформулировать это в биологических терминах (выживание организма), у читателей новости появится негатив ("терминаторы захватят Землю"). А в терминах организаций - ок, простой обыватель и организация - не конкуренты, им нечего делить, на первый взгляд.
С космосом тоже думали что через 30 лет уже будем на дачу на Марс летать яблони поливать. И с термоядерным синтезом бесконечная энергия всё ближе. И так то про всемогущий ИИ думали ещё в 80х, мол скоро. Но по факту просто другой эффект произошел то - нейросети и смежные технологии развивались по чуть-чуть, использовали их на постоянке там и сям, в коммерции вполне себе. Но то видели только профессионалы, обычным людям это что-то где-то под капотом. И тут доехали почти линейно до точки когда "зловещую долину" пересекли и генерация текста стала мимикрировать под человеческий ответ очень уж хорошо, бонусом прикрутили однокнопочный простой интерфейс. Вот тут то технология и дошла до не специалистов, и просто невероятый бум. А журналистам нужны темы, сразу поддержали хайп. А стартапам тоже надо, деньги же. И они побежали кто во что горазд рассказывать. Маркетологи уже больших компаний также смекнули где тренд - пошел шквал заявлений обо всем на свете. И реальные деньги потекли. Это и правда усилило развитие - с деньгами проще ехать, проще развивать продукты в выбранном направлении.
Но есть нюанс - от того что об этом все говорят в тысячу раз больше - технология не стала развиваться в тысячу раз быстрее. Может быть в 10 - за счет вливаний денег, за счет интереса исследователей, также туда пойдут молодые специалисты и останутся там на годы, это резко усилит развитие. Но не в тысячу раз. Мощь информационной подсветки не равна исследовательской мощи, это когнитивное искажение - эвристика доступности и близкие к этому моменты. Это заставляет думать так, но увы это не так.
ИИ конечно сейчас ускорится в развитии, но все эти роудмапы - просто красивые слова, которые сейчас хотят услышать люди.
кто из специалистов космической отрасли говорил, что через 30 лет будут яблони на марсе? на мирное покорение сев. и ю полюсов и то больше времени ушло.
с термоядом ктото говорил что надо 30 лет. 30 лет переводя на русский значит - "слишком много технических задач и проблем надо решить, что бы точно сказать".
OpenAI представила дорожную карту развития AGI