Читал твою статью за 2023 год. И меня, если честно, забавляет, насколько ты пытаешься показать глубину своего анализа, хотя на самом деле высказываешь банальные и очевидные вещи, как какой-нибудь "Капитан Очевидность". И без тебя эти "временные" проблемы, давно обсуждаются более компетентными людьми. Все, кто хотя бы немного в теме, и так уже давно осознают ограничения текущих моделей. Более того, многие из этих "прогнозов" (рост энергозатрат, нехватка данных, ограничения трансформеров) — это вообще не твоя идея, а очевидные выводы, которые регулярно обсуждаются лидерами индустрии, такими как Илья Суцкевер, Сэм Альтман и другие. Кроме того, ставить в один ряд такие вещи, как VR/AR, 3D-печать и мультимодальные языковые модели (ЯМ), выглядит мягко говоря странно и поверхностно. Эти технологии изначально создавались с совершенно разными целями и имеют совершенно иной потенциал. Это как сравнивать дедушкин велосипед "Урал", с космическим кораблем, просто потому, что оба имеют какие-то связи с прогрессом. Логика тут хромает. Ты вот явно не следишь за развитием нейросетей или же намеренно преуменьшаешь успехи последних двух лет. Модель "o3" от OpenAI показала результат 75,7% в бенчмарке ARC-AGI-Pub. Это было вот-вот недавно. Эта модель продолжает развиваться как инструмент реального применения, и ее использование внутри компании, рано или поздно приведёт к тому, что она станет доступна всем. Сложности? Они, конечно, есть, но кто и когда говорил, что их не предвидели? В этой сфере никогда не было иллюзий, что все решится "по щелчку пальцев". Сейчас к примеру уже идет работа над синтетическими данными, новыми подходами к обучению, а также проектированием более энергоэффективных вычислительных систем. Да, мощности могут расти до уровня подключения АЭС — это факт, о котором открыто говорят лидеры индустрии. Сэм например. Но это не признаки «стагнации», как ты пытаешься представить, а этап естественного развития.
Еще один весёлый момент (почему веселый? Потому что ты второй кому мне приходится об этом писать): твое упоминание проблемы "захламления данных" тоже выглядит несостоятельным. Об этом знают абсолютно все, кто работает с большими языковыми моделями, и решения уже разрабатываются. Использование фильтрации данных, синтетических наборов, комбинация реальной и симулированной информации — всё это активно используется уже сейчас, а в 2025 году, обязательно даст отдачу. Иначе не будет. Ты вот тупо пытаешься возвысить свой "прогноз" как нечто особенное, но все ключевые замечания — это просто очевидности, которые были понятны всем давно. Развитие технологии не остановится на трансформерах — никто с этим не спорит. Но именно они продолжают давать ощутимые результаты, которых уже не добиться через "экспертные системы" прошлого века, которые ты почему-то считаешь удачной аналогией. Трансформеры — это не тупиковая ветвь, а ФУНДАМЕНТ, который эволюционирует в том числе в новые архитектуры, включая нейроморфные решения (о которых ты вскользь упомянул) и другие подходы, — чего ты, собственно, и не отрицаешь. Тогда у меня ток один вопрос вопрос: зачем вообще так пафосно это заявлять? И так раздувать своё ЧСВ?".
P.S.1 Нагрубить не пытался. Просто я не понял твоего "прогноза" и что ты этим вообще сказать хотел. Прогресс идёт, но не идеально, как всем хотелось бы. И это нормально. Кстати-ка на очках VR/AR, я бы тоже крест не ставил. Мультимодальные языковые модели, прекрасно впишутся в такие вот девайсы. А реально работающий прототип, есть у "Меты". Просто надо подождать
P.S.2 Ну и сегодняшнюю фразу приведу в пример. Не люблю когда Сэм напускает "туман войны", но видимо директора по шапке дадут, если болтать лишнее будет: «Сейчас это звучит как научная фантастика, и даже говорить об этом немного безумно», — Сэм Альтман уже знает, как создать сверхразум или суперинтеллект.
Читал твою статью за 2023 год. И меня, если честно, забавляет, насколько ты пытаешься показать глубину своего анализа, хотя на самом деле высказываешь банальные и очевидные вещи, как какой-нибудь "Капитан Очевидность". И без тебя эти "временные" проблемы, давно обсуждаются более компетентными людьми. Все, кто хотя бы немного в теме, и так уже давно осознают ограничения текущих моделей. Более того, многие из этих "прогнозов" (рост энергозатрат, нехватка данных, ограничения трансформеров) — это вообще не твоя идея, а очевидные выводы, которые регулярно обсуждаются лидерами индустрии, такими как Илья Суцкевер, Сэм Альтман и другие. Кроме того, ставить в один ряд такие вещи, как VR/AR, 3D-печать и мультимодальные языковые модели (ЯМ), выглядит мягко говоря странно и поверхностно. Эти технологии изначально создавались с совершенно разными целями и имеют совершенно иной потенциал. Это как сравнивать дедушкин велосипед "Урал", с космическим кораблем, просто потому, что оба имеют какие-то связи с прогрессом. Логика тут хромает. Ты вот явно не следишь за развитием нейросетей или же намеренно преуменьшаешь успехи последних двух лет. Модель "o3" от OpenAI показала результат 75,7% в бенчмарке ARC-AGI-Pub. Это было вот-вот недавно. Эта модель продолжает развиваться как инструмент реального применения, и ее использование внутри компании, рано или поздно приведёт к тому, что она станет доступна всем. Сложности? Они, конечно, есть, но кто и когда говорил, что их не предвидели? В этой сфере никогда не было иллюзий, что все решится "по щелчку пальцев". Сейчас к примеру уже идет работа над синтетическими данными, новыми подходами к обучению, а также проектированием более энергоэффективных вычислительных систем. Да, мощности могут расти до уровня подключения АЭС — это факт, о котором открыто говорят лидеры индустрии. Сэм например. Но это не признаки «стагнации», как ты пытаешься представить, а этап естественного развития.
Еще один весёлый момент (почему веселый? Потому что ты второй кому мне приходится об этом писать): твое упоминание проблемы "захламления данных" тоже выглядит несостоятельным. Об этом знают абсолютно все, кто работает с большими языковыми моделями, и решения уже разрабатываются. Использование фильтрации данных, синтетических наборов, комбинация реальной и симулированной информации — всё это активно используется уже сейчас, а в 2025 году, обязательно даст отдачу. Иначе не будет. Ты вот тупо пытаешься возвысить свой "прогноз" как нечто особенное, но все ключевые замечания — это просто очевидности, которые были понятны всем давно. Развитие технологии не остановится на трансформерах — никто с этим не спорит. Но именно они продолжают давать ощутимые результаты, которых уже не добиться через "экспертные системы" прошлого века, которые ты почему-то считаешь удачной аналогией. Трансформеры — это не тупиковая ветвь, а ФУНДАМЕНТ, который эволюционирует в том числе в новые архитектуры, включая нейроморфные решения (о которых ты вскользь упомянул) и другие подходы, — чего ты, собственно, и не отрицаешь. Тогда у меня ток один вопрос вопрос: зачем вообще так пафосно это заявлять? И так раздувать своё ЧСВ?".
P.S.1 Нагрубить не пытался. Просто я не понял твоего "прогноза" и что ты этим вообще сказать хотел. Прогресс идёт, но не идеально, как всем хотелось бы. И это нормально. Кстати-ка на очках VR/AR, я бы тоже крест не ставил. Мультимодальные языковые модели, прекрасно впишутся в такие вот девайсы. А реально работающий прототип, есть у "Меты". Просто надо подождать
P.S.2 Ну и сегодняшнюю фразу приведу в пример. Не люблю когда Сэм напускает "туман войны", но видимо директора по шапке дадут, если болтать лишнее будет: «Сейчас это звучит как научная фантастика, и даже говорить об этом немного безумно», — Сэм Альтман уже знает, как создать сверхразум или суперинтеллект.