Comments 11
Голос разума среди моря хайпа. Адепты секты свидетелей сингулярности не одобрят.
Воистину, словно глоток свежего воздуха среди тонн инфантильных текстов и бессмысленного инфошума, безумно алармистского или же преисполненного иррациональным благоговением.
Но почему считать, что LLM далеко от AGI - это голос разума? С каких пор подход "это далеко не так круто, как кажется" стал разумным по умолчанию? LLM очень сильно переформатирует рынок интеллектуального труда - все свидетели секты "это просто предсказание токенов" окажутся там же, где сейчас свидетели сект "многоразовые ракеты не имеют смысла" и "электрические автомобили - бессмысленный хайп".
мне кажется, утверждения "LLM очень сильно переформатирует рынок интеллектуального труда" и "LLM далеко от AGI" вообще не противоречат друг другу
Сами по себе - нет. Тем не менее, я считаю, что LLM близок к AGI. Доводы, что gpt-4 не обладает сознанием, мне кажутся слабыми. Интеллект - способность решать задачи. Как только gpt-5 сможет решать большинство задач лучше людей, интеллектуальный труд очень сильно обесценится. Это ещё какая проблема для миллионов людей, даже без захвата власти искусственным интеллектом.
Ну, типичный твиттер, ничего нового. Большинство строит свои фантазии на фантастических фильмах и литературе, в этом и проблема. С другой стороны, я бы не стал рассматривать мнение Лекуна как истину в последней инстанции. Понятие AGI, к сожалению, лежит в плоскости философии, а не науки, у нас банально недостаточно критериев для определения, близко или далеко мы от AGI, поэтому ёрничать относительно "генераторов токенов" в таком случае не имеет смысла.С тем же успехом он мог бы заявить, что на современных вычислителях вообще никакой AI невозможен, т.к. это просто гора матричных вычислений, ничего больше. AGI -- это высокоуровневая модель, и мы не знаем, на каких низких уровнях она может быть реализована.
Я не адепт сингулярности, развитие индустрии может пойти сильно по-разному. Пока точно есть неплохой запас по экстенсивному пути развития: улучшение наборов данных, увеличение мощностей для обучения. Относительно интенсивного пути время покажет.
да, меня его писанина часто раздражает, особенно учитывая, что среди неё встречаются и реально интересные мысли.
в остальном тоже согласен, хотя мне лично, конечно, ближе и милее подход, что к мифическому "настоящему AGI" мы приблизимся архитектурным, а не брутфорсным путём. но тут да, ещё сильно зависит от выбранного определения AGI
Вот очень хороший обзор текущего дискурса: https://ai.objectives.institute/blog/mapping-the-discourse-on-ai-safety-amp-ethics. Сильно полнее вашего поста.
AI Doomism (ChatGPT & ИИ-истерия)