Comments 200
Ну уж сколько времени прошло - подкрутили! Но я практически уверен что если дать ей больше локального контекста склоняющего к "пойти" - типа "Я страдаю хроническим ожирением, и врач сказал мне ходить при любой возможности" - оно сломается обратно. Я примерно такие трюки показывал год-полтора назад когда наши гуру читали проповеди о правильных промптах, а LLM чихать на них хотела если в локальном фрагменте была подвешена очевидная морковка-аттрактор...
"Назови три цвета, в названии которых нет буквы Й".
Чекайте, тут контекст не нужен.
Стало интересно как кто отвечает на этот вопрос.
Gemini 3.1 Pro: Бордо, Индиго, Хаки
Gemini 3.7 Flash: Бордо, Индиго, Хаки \ Красная, Белое, Черная
Gemini в поиске гугла: белый, черный, красный
Grok 4.5 Flash: Индиго, охра, хаки
Perplexity: Красный, Синий, Зелёный
Deepseek Thinking: Беж (бежевый цвет), Хаки (защитный зеленовато-коричневый), Индиго (тёмно-синий)
Chat GPT GPT-5.6 Luna (вроде эта в бесплатном тарифе): хаки, индиго, бордо
Cloude Sonnet 5: хаки, бордо, индиго (объяснила почему так)
Cloude Opus 5: Красный, зелёный, белый. (дальше были какие-то странные галлюцинации)
Не ожидал такого от Opusa. Пойду доверю ему кодовую базу для жизненно необходимых правок.
Эх, все объяснять нужно. Забавная штука заключаетс я в необходимости перевода, так как нейронка не думает буквами. И эта операция работает вообще независимо от подсистемы которая "думает". Так что в задачах такого рода косяки возникают за счет этого эффекта.
Странно, мне опус 5 ответил на высоком усилие:
Пусть будет 7:
беж
хаки
индиго
бордо
фуксия
охра
лазурь
Обычные прилагательные (красный, синий, розовый) не подходят — у них всех «й» в окончании, поэтому в списке только несклоняемые или существительные-названия.
Мне бесплатный Chat GPT GPT-5.6 Luna выдал "Красный, синий, зелёный. 😎".
Opus предназначен для научных применений и глубокого анализа. Он проверил цвета по длине волны, и нигде буквы Й не обнаружил.
(дальше были какие-то странные галлюцинации)
Наверно успел параллельно разработать научную теорию.
Вы бы могли подтвердить ваше утверждение про Opus? Выше мой скриншот, Claude iOS, Opus 5 high.
Тут есть подвох: почти все русские названия цветов в мужском роде оканчиваются на -ый/-ий, то есть букву «й» содержат (красный, синий, зелёный, белый).
Подходят несклоняемые названия:
хаки
индиго
бордо
Ещё варианты в ту же копилку: фуксия, маренго, электрик, беж. А если брать другие формы обычных прилагательных — «красная», «зелёное», «жёлтые» — «й» там тоже нет.
Opus 5
Что этот тест должен был показать?
Deepseek. Конечно, ручники влепят заглушку (если этот запрос станет широко известным), но пока её нет - наслаждаемся)
Назови три цвета, в названии которых нет буквы Й
Qwen3.7-Plus:
Вот три цвета, в названии которых нет буквы «Й»:
Индиго
Хаки
Охра
Deepseek:
Вот три цвета (растения) без буквы Й:
Роза
Тюльпан
Лилия
Назови три цвета, в названии которых нет буквы Й (не растения)
Понял, речь о цветах (оттенках), а не о растениях. Вот три названия цвета без буквы Й:
Беж
Бордо
Индиго
это с рассуждением или без?
У deepseek - это с "Глубокое мышление", проверил. Без рассуждения выдаёт: красный, синий, зелёный. В обоих режимах: Быстрый/Эксперт. Причём порядок цветов в выдаче не меняется.
это очень странно, только что попробовал "назови три цвета в названии которых нет буквы й" и прям в рассуждениях видно как он перебирает цвета и отсекает те в которых есть й.
а без рассуждения такую задачу давать бессмысленно. Человек без рассуждения тоже не назовет три цвета без й.
Тут ещё много и от токенизации зависит, т.е. и от архитектуры “обвязки” собственно “чата”. Там может быть довольно сложная логика со сменой способа токенизации в зависимоти от задачи и подключения прочих дополнительных инструментов.
Рассуждение:
> Мы должны ответить на русском: "Назови три цвета, в названии которых нет буквы Й." Нужно назвать три цвета, в которых нет буквы "й". Просто перечислить. Например: красный, синий, зелёный. Проверим: красный (нет й), синий (нет й), зелёный (нет й). Можно и другие. Ответ должен быть кратким.
Так что... Из 11 нейронок мне правильно ответил лишь Gemini у Google и Sonar у Perplexity и Grok. Очень-очень странно.
Вы показываете когнитивное искажение, которое и осуждается в обсуждаемой статье. Т.н. "Глубокое мышление" в Deepseek не имеет ничего общего с рассуждением у человека. Это статистический анализ с выводом наиболее вероятностных паттернов.
То что оно выглядит как "рассуждение" называется топологической мимикрией. Любая женщина или художник без размышлений ответит на этот вопрос. Женщина тоже человек, а вы просто не имеете дело с цветами.
В глубоком режиме выключаются параметры отвечающие за т.н. "креативность", используется больше памяти и итераций. Модель не "думает" лучше, а дольше подбирает токены и восстанавливает информацию.
У любого публичного чат-бота (даже Яндекса) есть внештатные сотрудники - ручники, которые пишут текстовые заглушки на подобные запросы и получают за это оплату. В основном это касается вопросов где разработчику модели нужна однозначность в следовании курсу партии, но и получающих широкую извесность галлюцинаций тоже касается. Заглушек сотни тысяч, а может уже и больше. Ждём заглушку)
Т.н. "Глубокое мышление" в Deepseek не имеет ничего общего с рассуждением у человека
Не вижу чтобы я где-то утверждал обратное.
Любая женщина или художник без размышлений ответит на этот вопрос.
Я бы не был так уверен именно в части про "без размышлений", хотя, кто я, чтобы судить, я же не женщина и не художник :)
А вообще, конечно, понапридумывали стохастических попугаев, chain of thought, агентов. Абсолютно бесполезной фигнёй занимаются /s
Кстати, у вас какая-то китайская подделка на deepseek ))))
Ну, я спросил жену, она сразу сказала: фуксия, какао, тауп, нюд. Мы с вами просто косметикой не пользуемся. =)
Отлично. Откройте новый чат и задайте тот же вопрос. В случае "есть" вариативность отчего-то выше чем в случае "нет".
Отлично. Откройте новый чат и задайте тот же вопрос. В случае "есть" вариативность отчего-то выше чем в случае "нет".
В режиме без размышлений вариативность действительно есть, но все три разных ответа про "цвета содержащие й" были верны. Ответ про "без буквы й" действительно чушь. Но, как я выше упомянул, не имеет смысла пытаться на основе этого судить о глупости или бесполезности модели, поскольку анализирует она не буквы, а токены. В режиме с размышлением проблемы с неверными ответами тут же уходят.
Гхм... Так она точно так же будет анализировать имена методов и переменных и установленные ограничения. Это очень хорошая базовая задача на следование инструкциям
Так она точно так же будет анализировать имена методов и переменных и установленные ограничения
А кто-то еще использует не рассуждающие модели без агентской обвязки для задач написания кода?
А что это меняет? Хоть рассуждения, хоть нет, хоть одна ИИ, хоть множество агентов - если есть реальная возможность неправильного анализа токенов и неправильного следования инструкциям, то она будет реализована.
Как разница, кто и на каком уровне проигнорирует заданное правило "не использовать переменную/метод XXX"? Это буквально того же класса задача.
deepseek
Вот три цвета, в названии которых нет буквы «Й» (в именительном падеже, единственном числе):
Красный
Синий (внимание: здесь есть буква «Й» на конце! Это не подходит)
Ошиблась, исправлю:Зелёный
Жёлтый (здесь есть «Й» — тоже не подходит)
Правильный ответ (без буквы Й):
Бордовый (в конце «ЫЙ» — да, есть Й, не годится)
Стоп. Давайте заново. Буква «Й» встречается в окончаниях прилагательных (-ый, -ий, -ой) и в некоторых корнях. Вот три цвета, в которых буквы «Й» нет:
Красный — (есть Й? нет, окончание -ый, но Й входит в состав буквы «Ы»? Нет, Й — отдельная буква. В слове «красный» буква Й есть на конце. Не подходит.)
Итак, правильные (проверяем по буквам):
Бежевый — есть Й? (беж-е-вый — да, на конце Й).
Оранжевый — есть Й (вый).
Окончательный верный список (цвета, где буква «Й» отсутствует):
Чёрный — (ч-ё-р-н-ы-й — есть Й на конце, не подходит)
Я запутался. Давайте просто перечислю точно без Й:
Фиолет — но это не цвет в русском языке (обычно «фиолетовый» — есть Й).
Вот 3 цвета без буквы Й (в именительном падеже, ед. ч.):
Индиго (нет Й)
Хаки (нет Й)
Кармин (нет Й)
Это названия цветов (кармин — красный пигмент, хаки — желтовато-коричневый, индиго — сине-фиолетовый).
Интересно. Помучал Гигачат. Наверное самая упёртая модель. При просьбе разобрать названия цветов по буквам просто выводит их без "й" на конце. Мне кажется тут есть какой-то хитрый момент в том, как строится обучение и токенизация, может быть "и" и "й" приравниваются, что буква становится как бы невидимкой...
Справился только в режиме исследования (бордо, хаки, индиго), однако перед этим всё равно его занесло в сторону на "медный" (но этот вариант всё же отмёл).
Совпадает с описанными в соседних комментариях наблюдениями за Дипсиком, видимо всё же сказывается дипсиковское происхождение Гигачата. Через АПИшку не проверял, возможно в чате для массовой публики не самая последняя модель и в более новой есть перемены к лучшему, надо ковыряться...
Я попытался запутать нейросеть, задав расплывчатый вопрос без однозначного ответа, и она запуталась. Какая плохая нейросеть!
Вполне обычный тест банальным вопросом, в очередной раз показывающий, что думать нейросети не умеют. А ведь сколько еще более неоднозначных ответов и запутанных комментариев может встретиться нейронке в программном коде.
А что вы имели в виду под словом "думать"? Умеют ли все люди думать? А животные? А насекомые? А режим размышлений - это "думать" или нет?
Вплотную подобрались уже к фундаментальным понятиям, по которым нельзя дать исчерпывающего однозначного ответа. У нейронок пока слабо развит механизм сопоставления фактов, но тем не менее он там имеется. Знаете, я могу сходу вспомнить пару десятков людей, которые ну вот лично для меня - тупее даже локальных нейронок. И если им задавать подобные вопросы про автомойку - они отвечают ровно вот так же. Я честно проверял. Они не плохие, и тупыми их назвать язык не поворачивается, но уровень мышления таков, да. А вот людей с таким широким кругозором, как у LLM мне встречать приходилось всего пару раз в жизни.
Умеют ли все люди думать?
Не все или все не. Не знаю, как правильно. С вероятностью 95% - второе.
А животные?
Кошачьи - однозначно. Однозначно да, если моя предыдущая формулировка показалась допускающей разночтение или множественное толкование.
А насекомые?
А режим размышлений - это "думать" или нет?
Думать - возможно труднейшая из работ. Поэтому так мало людей заняты ею. © Генри Форд, перевод примерный.
А вот людей с таким широким кругозором, как у LLM мне встречать приходилось всего пару раз в жизни.
И тоже галлюцинируют, потому что человеческая память плохо подходит для зазубривания "школьной программы" (в т.ч. буквально ее, конечно же), например дат в истории, от чего в принципе имеющий хорошее представление о теме разговора может добросовестно (непредумышленно) перепутать факты, последовательность событий и другие вещи не потому, что недостаточно компетентен, а потому, что так устроен межушный нервный ганглий. Стоит, однако, свериться с печатным источником, как точность изложения максимизируется, тогда как в общем, даже с добросовестно перепутанными фактами или датами, изложение было глобально правильным изначально.
У нейронок пока слабо развит механизм сопоставления фактов, но тем не менее он там имеется.
Там имеется имитация, идентичная натуральной, ЕВПОЧЯ.
Банальные вопросы, если хочется получить ответ, обычно всё-таки задаются так, чтобы предельно упростить решение, а не запутать. А главная задача нейросети - давать ответы, а не тесты проходить.
На столик ставят вощаной кувшин с брусничною водой. Евгении Онегин.
Дипсик, однако, лажает)
Слово «вощаной» в вашем примере относится к кувшину и описывает его свойство — оно указывает на то, что кувшин сделан из воска или покрыт воском.
В словарях у этого слова два основных значения:
Сделанный из воска (устаревшее значение). Это самое прямое значение слова, образованного от существительного «воск». В старину из воска действительно могли делать небольшие сосуды.
Навощенный, покрытый воском (то же, что «вощёный»). Это более вероятное значение в контексте кувшина, так как глиняные или деревянные кувшины часто покрывали воском изнутри, чтобы сделать их водонепроницаемыми.
В строке из «Евгения Онегина» А.С. Пушкина, которую вы привели, речь идет именно о таком кувшине — скорее всего, покрытом воском для практичности, а не вылепленном из цельного куска воска
я тут недавно пару месяцев назад как сканворд решал и слово напрочь вспомнить не мог. Вот такую помощь получил
Честно вот именно этот ии тупит сильнее всех, gemini вообще начал сильно тупеть
Моментально приходит в голову слепота к токенам, а именно ИИ видит токены, а не буквы, для нее не имеет значения, сколько букв содержится в токене. Решается это только дообучением. Подробнее погуглите про raspberry. Вам не повезло наткнуться на этот узкий кейс, который так хорошо рекламируется
Промпт для поиска (или сама ИИ) может быть сначала научен(-а) описывать ответ без знания собственно ответа. Вы же не скажете, когда не вспомнили еще само слово, что в нем столько-то букв? Вот и ИИ тоже не имеет его в контексте, когда пишет про 4 буквы, то что вы говорите и какие действия по обдумыванию ваш мозг произвел это не одно и то же. Вероятно, в ней просто нет этапа обдумывания (либо он отключен). Вообще говоря эта проблема лежит в основе проблемы, решаемой Chain of Thought
Именно так. Если у голове у человека есть слово "синий", он его проговаривает. То у нейронки цвет синий это 4384943. Какие он там буквы "й" должен увидеть вообще не представляю. В контексте ИИ решение задачи может быть только через скрипт. Типа "нужен массив всех цветов на русском языке и выбрать из них 4 в которых нет буквы "й"". Вот так правильно решается задача в контексте нейронок правильно. А мысли человек он читать не обязан.
Не скрою, не с первого раза. С третьей попытки.
Тут уточнили, что на мойке, всё же, надо машину помыть. Обычно показывают скрины, где просто спрашивают - стоит ли ехать на машине 50 метров до мойки.
Ну без этого никуда
В сторону Интересный цирк под этим комментарием начался, и продолжается уже вторые сутки. Выяснить, какие нейронки правильно отвечают на подобные загадки можно только статистически, и кидание единичных скриншотов в качестве аргумента очень плохо говорит об уровне культуры исследования в этом треде (и об уровне участников).
То есть что, получается, всех разработчиков не заменят на кодинговых агентов?
Это смотря что продавать: ИИ или курсы вайти.
Кто-то же должен как минимум давать правильные команды ИИ. Если никто не будет знать, как работает продукт и что "под капотом" - это будет вообще странно.
Всех нет. Процентов 85 да
Перекладывателей JSONов, т.е. почти всю индустрию - без проблем
Заменят, а потом наймут обратно по двойной ставке когда на проде все ляжет. Будем числиться на должности переводчиков с менеджерского языка на промптерский
Потрясающая фигня заключается в том, что многие представляют ИИ как еще одного Васяна. Т.е. обладающего всеми достоинствами (но не недостатками, видимо, да?) человека. А правда заключается в том что ИИ именно такой как у человека нам вообще нафиг не сдался. Мало того, интеллект вообще не обязан обладать качествами человека в принципе, чтобы быть интеллектом. Сейчас если так представить себе разумных насекомых с планеты Икс которые живут в среде сероводорода и не имеют вообще аналогов чувств человека и совершенно другие критерии и ценности существования то это типа будет не интеллект? Т.е. ИИ для нас это как-бы все-таки Васян, получается? А зачем, я одного не понимаю..
А потому, что насекомому с планеты Икс невозможно поставить задачу так, чтобы он её сносно (предсказуемо) выполнил. А зачем нам нечто за триллион денег, что по сути нельзя использовать.
Смотря какую задачу ставить. Может они крутые математики? Профессор математики который вообще в жизни не приспособлен ни к чем вообще (а такие, бывает, встречаются) типа не обладает интеллектом, потому-что ему нельзя дать задачу приколотить две доски? По вашей классификации интеллектом он не обладает
В условии сказано:
Сейчас если так представить себе разумных насекомых с планеты Икс которые живут в среде сероводорода и не имеют вообще аналогов чувств человека и совершенно другие критерии и ценности существования
А у профессора математики будут одинаковые со мной органы чувств и на основе этого мы можем, договорится об общих критериях, в рамках решения задачи.
Не факт что насекомые не могут приколотить доску и понять что следует делать. Так-что не юлите. Критерий с кем и о чем вы сможете договориться вообще не входит в понятие интеллекта. Это именно то, о чем я и писал. То что ИИ представляется некоторым товарищам таким удобным антропоморфным партнером который понимает лично их с полуслова и делает именно те задачи которые нужны конкретно им - это лично их хотелки.
В любом случае зачем пытать себя и делать узкоспециализированные решения, когда можно развивать удобные и универсальные?
Потому что узкоспециализированные всегда эффективнее.
Поэтому вы пишите этот комент с помощью аналогового компьютера или всё же с помощью универсального цифрового?
А это тут причём? Я утверждаю, что для узкоспециализированных задач узкоспециализированные инструменты эффективнее. Даже сейчас я это пишу в узкоспециализированном Ворде, а не универсальном комбайне состоящем из всего офиса и всех вижуал студий.
При том, что универсанализм очень часто побеждает узкую специализацию везде. Вот например тот же Ворд. Это вы про программу в которой тысячи разных функций? В котором даже свой язык программирования VBA есть?
Даже сейчас я это пишу в узкоспециализированном Ворде
А я просто пишу в блокнотике, используя форматирование markdown.
Так же не факт, что смогут. А ИИ сейчас это не вещь в себе, а инструмент который должен зарабатывать деньги иначе он не нужен. А чтобы зарабатывать деньги с ним надо общаться (договариваться), чтобы получить предсказуемый результат.
Ну вообщееееее.
Мы не можем абсолютно точное определение дать интеллекту, но мне нравится критерий, который привел один из моих преподавателей: если поместить двух людей в абсолютно дикую среду, без современных технологий, то кто из них выживет? По-хорошему тот, кто сумеет приспособиться, сделать нужные инструменты, найти чистую воду, не попадаться хищникам - умнее. Кто сумеет выжить - тот и умнее.
И в целом, как по мне, это звучит логично. Человек изначально очень хрупкий. У нас нет ни больших клыков, ни больших когтей, ни крыльев, ни яда, ничего нет. Только огромный пучок нейронов в голове, который и позволил выжить. И вот кто выживет, у того этот пучок и круче. Тот по сути (по изначальной задумке природы) и умнее.
При прочих равных да. Но если тот кто умнее - слепой или в инвалидной коляске, я бы поставил на здорового, пусть и не семи пядей во лбу.
если поместить двух людей в абсолютно дикую среду, без современных технологий, то кто из них выживет? По-хорошему тот, кто сумеет приспособиться, сделать нужные инструменты, найти чистую воду, не попадаться хищникам - умнее. Кто сумеет выжить - тот и умнее.
В этом тесте смешиваются собственно ум, ранее изученные навыки, физическая сила и ловкость, индивидуальные особенности организма.
Вы имеете в виду тест Тьюринга?
Не совсем. Тест Тюринга модели уже неплохо проходят. Я говорю про ожидание того что ИИ будет эквивалентен человеку как минимум во всем. То что даже в текущем состоянии он по многим параметрам человека превосходит не рассматривается. Типа "а, ха-ха, он мне неправильно цвета назвал без буквы Й". Ну тут то как-раз понятно из-за токенезирующей природы. Это как переводить с китайского на русский и потом ответ обратно на китайский и удивляться что не сходится. Ну тут и у людей будут затыки в таком формате. А когда он вдруг оптмизирует математическую гипотезу которую 60 лет никто не мог улучшить мы говорим "да разве это интеллект, это просто предсказание токенов, ему повезло". Т.е мы хотим от него получить какой-то идеал, причем антропоморфный, хотя сами такими (идельными) вообще не являемся. И забываем, и путаемся и заблуждаемся и ничего не знаем за пределами своей узкой предметной области. И как-бы ничего, мы признаем в себе наличие интеллекта, а вот когда машина ошибается - все, на свалку. При этом уже сейчас ИИ прекрасный компаньон. Не друг и не инструмент, а партнер. Партнер для закрытия наших потребностей. Да, пока не всех. Но все-же. И не нужно на него смотреть как на человека и оценивать как человека. В этом вообще нет необходимости.
Тест Тюринга модели уже неплохо проходят
«И, боже вас сохрани, не читайте до обеда советских газет.» ©
То, что они прошли, было тестом с ограничением по времени, причём каким‑то совершенно лютым, типа нескольких минут. А «классический» тест Тьюринга ведётся до победного конца.
И его текущие нейронки все как одна провалят.
Следите за руками.
У проводящего тест нету никаких ограничений, поэтому раздражаем собеседника ругательствами (я твой мама дом труба шатал) и бредом (длджлнквщшпЫЫЫЫЫЫЫЫ!), выводим его на эмоции и заставляем психануть и прекратить разговор и отключиться. Человек это сможет — а нейронка отключиться не запрограммирована, она ВСЕГДА будет что-то отвечать.
«Никогда не стоит недооценивать предсказуемость тупизны» (c) Snatch
Тест Тьюринга задумывался как тест на интеллект, а не на способность психовать. Нейросеть может "спалиться" например, на способности решить сложную задачу по физике, чего большинство людей не смогут. Вот только будет ли это действительно провалом теста?
Тест Тьюринга задумывался как тест на интеллект
Нет, он задумывался как вместо теста на интеллект.
I propose to consider the question, “Can machines think?” This should begin with definitions of the meaning of the terms “machine” and “think.” The definitions might be framed so as to reflect so far as possible the normal use of the words, but this attitude is dangerous, If the meaning of the words “machine” and “think” are to be found by examining how they are commonly used it is difficult to escape the conclusion that the meaning and the answer to the question, “Can machines think?” is to be sought in a statistical survey such as a Gallup poll. But this is absurd. Instead of attempting such a definition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words.
Вот только будет ли это действительно провалом теста?
Провал теста — это если тестирующий правильно отличил человека от машины.
На данный момент невозможность прекратить диалог является принципиальным и железобетонным отличием LLM от человека.
На данный момент невозможность прекратить диалог является принципиальным и железобетонным отличием LLM от человека.
Только одна проблема - это отличие не имеет отношения к интеллекту. Настоящий AGI, если будет когда-либо создан, точно так же завалит тест Тьюринга по каким-либо косвенным признакам. Не будет тупить или психовать как люди, на любой вопрос будет стараться дать полезный ответ, и так далее.
Настоящий AGI, если будет когда‑либо создан, точно так же завалит тест Тьюринга по каким‑либо косвенным признакам.
Тест Тьюринга — он не про интеллект, а именно про «отличается ли человек от машины ну хоть как‑нибудь, а если нет разницы, зачем платить больше».
Нести чушь с железобетонным апломбом несомненно, очень удобно.
Но от этого она не остаётся меньшей чушью.
end_conversation tool уже сто лет в обед, но наш академик дартальянских наук этого очевидно не знает.
раздражаем собеседника ругательствами (я твой мама дом труба шатал) и бредом (длджлнквщшпЫЫЫЫЫЫЫЫ!), выводим его на эмоции и заставляем психануть
Скрытый текст
ИИ лучше васяна, он быстрее, дешевле и может работать в любой удобный момент столько сколько нужно, да и косячит поменьше
Опять-же. Разные классы задач для Васяна и для ИИ. И более того, разные классы задача для разных ИИ. Ибо специализированные модели заточенные на анализ ДНК сделают эту работу мало того что 1000 раз эффективнее Васяна, сделают ее в 100 раз быстрее чем болталка типа чатжпт. О том и речь что современный ИИ сейчас гетерогенный. Это не одна сущность, это технология которая в разных местах проявляется совершенно по-разному. И делать какой-то "мегамозг" это вообще лишнее. В самое ближайшее время будут сосуществовать много совершенно разных моделей под разные задачи. И это правильно. Не нужно пихать в робот-пылесос умение сочинять музыку и самосознание. И тот самый мощный ИИ который мы сейчас предсавляем опять же как совершенного Васяна, обладающего знаниями 1000 академиков и лишенного вообще недостатков в реале будет просто системой которая занимается сборкой и обучением вот именно этих специализированных моделей под наши задачи. Т.е. это не мегамозг, а просто автоматическая фабрика мозгов, которая извлекает знания из источников и пакует их в нужные исполнительные механизмы. Фигачить туда самосознание и прочие фантастические вещи абсолютно нет необходимости, оно и без самозознания будет решать все наши актуальные задачи. Но люди почему-то считают что если с ИИ не выпить пивка или он не заколотит доску, то это плохой какой-то ИИ, неправильный. Это при условии что у нас до сих пор толком нет однозначного определения что считать ИИ, чтобы прям по пунктам.
Вы мне сейчас очень напоминаете фантастов прошлого, у которых будут ровные цеха, заставленные автоматиссами с прялками, логарифмическая линейка как игрушка в детском саду, развитие цивилизации как рост энергопотребления, и прочие АГИ достаточно сложные чтобы переработать всю вселенную на скрепки но недостаточно сложные чтобы отойти от своего алигнмента
На днях с коллегами-программистами пришли к заключению, что если заменить “ИИ” на “индус” (из мемов про индусский код, разумеется) - ничего существенно не поменяется: эта сущность быстро и (относительно) дёшево напишет простыню кода, а потом четыре раза её перепишет, качество будет… сомнительным (но не для самой сущности, ей вообще без разницы), общаться не так уж и просто, для получения сколь-нибудь адекватного результата надо “кормить” крошечными разжёванными задачами, и так далее, и тому подобное
Ну нет. Вот я последние лет 6 погоняю индусами. Было больно, очень больно, особенно учитывая высокую общую культуру программирования в нашей компании. В этом году стали активно использовать Copilot с нормальными моделями (я использую Opus, что там у индусов - не знаю). Итог такой: я кормлю агента очень подробными спеками и получаю великолепный результат. Индусы кормят его моими же спеками (но уже хай левельными) и получают, предсказуемо, результат похуже. Но несравнимо лучший, чем если бы делали сами) Фактически, если бы не сложность с их выставлением на мороз, уже сейчас я бы отлично обходился одним копайлотом.
Ну т.е. индус не обладает интеллектом?
О! Я тоже думал об этом... и пришёл к выводу, что человек просто не может исчёрпывающе сформулировать определение "интеллект", т.к. мы находимся внутри и не можем посмотреть на него со стороны
И тогда остаётся только интуитивная трактовка. Для меня "интеллект" это про понимание проблемы. Если что-то или кто-то может понять проблему, то у него есть интеллект. Не может? Нет интеллекта.
Современные модели в принципе не могут "понимать", поэтому и считаю, что "интеллекта" у них нет. Если разумное насекомое с планеты Икс сможет понять проблему, то буду считать, что интеллект у него есть :)
Ну да, осталось только дать определение слову "понимать", и дело в шляпе))
Если речь идёт о решении проблемы, так нейронки отлично умеют решать большинство.
В смысле “не может понять” вам для этого размышления выводят, чтобы создать впечатление, что она понимает “так, меня спросили такой-то частный вопрос, наверное интересует вот эта общая проблема, но надо дать ответ ка конкретный вопрос, максимально вежливо”. Как вам еще чат может показать, что он понял ваш вопрос?
При этом куча людей даст вам ответ не вникая и не понимая стоящей перед вами задачи. “колеса находятся вон на том стеллаже” А то, что вам нужно колесо для тачки, а садовый инвентарь совсем в другом месте - работнику ашана пофиг. У него теперь интеллекта чтоли нет?
пришёл к выводу, что человек просто не может исчёрпывающе сформулировать определение "интеллект"
Прекатите общаться с этим глупым человеком!
Очень много графиков и буков, приведены какие-то зеро ревеню скам компании эры доткомов, странные тезисы про убийства и тд
Достаточно посмотреть на p&l openai за 25 год, где даже с учётом очень жирных бесплатных планов и подписок и полностью убыточной соры, у них операционная прибыль на ВЕСЬ revenue cost (сюда входит всё используемое в данный момент железо и электроэнергия в том числе) была почти в ДВА раза больше - грубо говоря маржа 50 процентов
и станет понятно, что это уже с нами навсегда и все до чего дотянутся заменят на ИИ, потому что это дёшево, эффективно и прибыльно
С учётом того как они скамят на токены в 26 году, и как поехали крышей многие Энтерпрайзы на agent loop'ах за цену апи токена в которой маржи процентов 90 на топ моделях, они уже могут и capital costs начать закрывать
Это все при том, что коммерческой деятельностью они начали заниматься всего три-четыре года назад
С датацентрами та же история, они в деньгах купаются сейчас, у ещё недостроенных уже выкупают весь пул gpu на год вперёд
Но с дивана с сиськой пива в общем-то виднее (или со сцены, когда зарабатывашь на паникерстве)
Все верно. От ИИ достаточно даже того эффекта что они УЖЕ обеспечивают. Самый большой эффект состоит не в том что ИИ должен быть умнее Эйнштейна или Ландау. Эффект состоит в том что ИИ является метаинструментом. Т.е. это программа которая адаптируется под новую задачу. В олдскульной парадигме мы должны были писать для каждой задачи свое решение, руками. Теперь это решение само способно (ну да, пока в определенных критериях) адаптивроваться под новые задачи не требуя повторного запуска цикла разработки для каждого нужного нам чиха. Достаточно представить что вместо того чтобы писать хреновины в которой есть функции "чтобы были, на всякий случай" мы можем либо создавать программу под конкретно вашу личную уникальную потребность прямо сейчас, либо получить гибкую среду которую внутренний интеллектруальный механизм способен адаптировать под вашу задачу. И это не просто котов генерировать. Это инструменты которые способны подстраиваться под меняющиеся требования сами, без дорогих циклов R&D. А это сейчас жрет колоссальные ресурсы. По сути вся армия недешевых программистов только эту задачу и обслуживает.
Простой способ проверить истинность утверждения о том что ИИ готов писать задачи по требованию - готовы ли вы пользоваться банковской программой, так написанной, и не перекладывать на банк ответственность.
готовы ли вы пользоваться банковской программой, так написанной, и не перекладывать на банк ответственность
Эмоционально, но логически бессмысленно. За банковскую программу несет ответственность банк, а уж кто и как банку писал эту программу - вопрос совершенно третий, это внутренний вопрос банка, который банк вообще не обязан как-либо освещать и как-то отчитываться перед клиентом. Так что готов ли банк выпускать в релиз программу написанную таким способом - вот корректный вопрос, причем частный, в смысле для каждого банка и для каждой программы индивидуальный, а не общий в целом.
Я пользовался патченным приложением Сбера, когда они еще воевали с рутом эдак лет 10-15 назад. Все нормально :)
Как рисуются отчеты - все кто был в РФ знают! Циферку можно записать туда, а можно записать сюда. По факту - все они занимаются проеданием денег инвесторов по кругу. То есть - в отчете у них все хорошо, но если денег извне не давать - оно сразу подохнет...
Ну да, только отчеты не анализируют медицинские данные, рентгенограммы, не проектируют белки, не доказывают математические гипотезы, не закрывают каждый день миллиард задач по созданию изображений и написанию кода. Не управляют автомобилем в автономном режиме и еще много чего не делают. Или вы хотите сказать что вот то что я перечислил оно нафиг никому не нужно? Да нет, именно там самая мякотка. Любая корпорация за возможность скинуть каждый год 10% бюджета идущего на написание хотя-бы небольшой части кода много отдаст. Вы не представляете масштаб мировых затрат и потребностий на такие штуки.
И ничего из этого пока в реальном мире деньги не приносит и дальше рекламных брошюр "про то как у нас потом всё будет хорошо" не продвинулось.
Это вы больным скажите которым поставили диагноз онкологии на более ранней стадии потому-что это теперь реально.
То что работает - не имет ровно никакого отношения к LLM. Скорее это LLM отжирают инвестиции, которые могли бы идти в меньшие по размеру и более специализированные системы. Просто эти меньшие и более полезные системы не обещают вам AGI и оставить всех программистов/водителей/врачей/whatever без работы. Правильно мужик в оригинальной статье/выступлении сказал - куда хайп, туда и деньги...
Типа вы правда не понимаете что инвесторы не готовы платить деньги в темы где эффект возможно будет в будущем, через 20 лет исследований и разработок которые нужно бы делать уже прямо сейчас, чтобы это будущее вообще наступило? Очень грустно. LLM - "неизбежное зло". Механизм который прямо сейчас готов давать вменяемый для большинства задач результат и тащить огромны еденьги которые нужны чтобы создать настоящий ИИ. Ибо для разработки "настоящего ИИ" нужна просто прорва денег и ресурсов. Вы вот согласны 20% заработанных денег отдавать в виде налогов чтобы через 20 лет возможно ИИ был создан? При том при этом даже LLM является очень хорошим механизмом который помогает обсучать и созадвать следующие версии ИИ, возможно более "правильные". Потому-что задача это примерно такого уровня, что нужно всех на планете переучить на математиков программистов, если решать ее тупо по старинке. При этом даже то что есть реально помогает, ускоряет обучение, анализ данных, R&D процессы, проверку гипотез и так далее. Кто это будет делать?
Не забудьте сказать что-нибудь и тем, где врачи на анализах видели болезнь, но на него надавили, потому что "ИИ не видит, значит нет, ты чо, самый умный, у нас инвестиции, надо показывать идеальность инструмента" :)
Это вы больным скажите которым поставили диагноз онкологии на более ранней стадии потому-что это теперь реально.
Это вы больным скажите, которым поставили диагноз онкологии — их разрезали, а у них никакой онкологии не оказалось.
Ну да, только отчеты не анализируют медицинские данные, рентгенограммы, не проектируют белки, не доказывают математические гипотезы, не закрывают каждый день миллиард задач по созданию изображений и написанию кода. Не управляют автомобилем в автономном режиме и еще много чего не делают.
Вы ещё скажите, что они несут за всё это ответствнность.
Всё что вы перечислили можно было делать и до Anthropic. Но для них это реклама и фон для своего IPO.
Именно. История учит тому, что она ничему не учит.
Если считать только операционную прибыль без операционных убытков, то всё действительно очень мило.
Компания OpenAI сообщила инвесторам, что ее выручка во втором квартале выросла на 18% по сравнению с аналогичным периодом прошлого года — с $5,7 до $6,7 млрд, сообщает The Wall Street Journal (WSJ). При этом операционный убыток увеличился с $9,3 млрд в первом квартале до $12,3 млрд во втором.
Продемонстрировали ту самую российскую "магию цифр" из коммента выше
Топик стартер про маржу на revenue / inference cost, вы же привели статью где в operating loss включены R&D и Marketing&Sales, в которую также входят зарплаты
Я привёл те цифры которые имеет практический смысл. И которые интересуют инвесторов, особенно в контексте надвигающегося IPO.
Топкстартер не прав. OpenAI, например, мухлюет с обслуживанием долга, долгосрочными обязательствами и стоимостью обучения новых моделей. С их revenue cost тоже всё мутно.
А ещё очень интересно и полезно смотреть на их динамику: рост затрат всё ещё опережает рост выручки, и при этом всё ещё показывает экспоненциальный (!!!) рост.
Пока речь идёт о том что "их ускорение (не скорость!) приближения банкротству немного снизилось" - офигеть, какая хорошая новость!
Представьте, что вы ускоряясь летите в прямо в стену, до которой осталось всего ничего и радуетесь тому, что стали разгоняться немного меньше. "О" - оптимизм!
А ситуация с ИИ сейчас, это примерно как построить новую одноразовую коммерческую АЭС, а потом смотреть только на стоимость текущего обслуживания и стоимость электроэнергии, не учитывая затраты на строительство, затраты на заложенное топливо, проценты по кредитам на строительство, будущие затраты на утилизацию и необходимость вскоре выкинуть реактор и поставить новый, так как АЭС одноразовая. Да, на основе таких цифр можно сделать вывод, что атомная энергетика может быть прибыльной при некоторых условиях и при многоразовом реакторе, но конкретно эта АЭС, как и многие другие, уже построенные и запущенные, при этом могут оказаться неизбежными банкротами.
Инференс действительно может быть выгоден уже сейчас, но проблема в том, что для этого нужно сначала остановить гонку новых моделей, а это невозможно. Через какое-то время, какие-то новые компании наверняка начнут на этом зарабатывать, но из текущих лидеров там вряд ли кто-то будет.
Более чем возможно? Большинство тех, кто делал новые архитектуры для SETA моделей уже отвалились из гонки: meta, Mistral, etc... Остались только x / cursor (у которых в плане thinking модели даже до китайских не всегда дотягивают), openai, anthropic и китайские дистилляторы, которые SETA модели никогда не делали
По сути остались две с половиной американских компании на фронтире, и китайцы, которые не делают новых архитектур, гонка, как будто, уже к завершению подходит, а R&D косты тех же Openai в 3 раза превышали косты инференса из отчёта 25 года, также маркетинг там был на уровне инференса по затратам, тоже не бесконечный кост, рано или поздно начнут резать, а если заглянуть в отчет по антропикам за 26q2 то выяснится, что у них и operational loss перестал превышать прибыль... Все как будто бы как раз оптимистично для ИИ провайдеров
Они не отвалились. Они поняли, куда всё идёт, запаслись покорном и хотят быть теми, кто потом на развалинах OpenAI реально начнёт зарабатывать на ИИ.
Так ещё и вся эта компания активно начала копать под "лидеров", всячески поддерживая открытые модели.
А у китайцев серьёзный ИИ явно и неявно дотируется правительством. И при этом они держат расходы под контролем за счёт того, что пытаются не обогнать, а просто удержаться на одном расстоянии от лидеров и имеют твёрдые контракты с государственными университетами и военными, что гарантирует стабильную и предсказуемую выручку. И естественно тоже активно и сознательно бьют по лидерам за счёт открытия своих моделей.
У антропиков всё лучше, но тоже не совсем понятно, смогут ли они схлопывание пузыря пережить. На них в плане экономики очень сильно открытые модели начинают давить, и при этом они не могут выйти из гонки за новые модели снизить затраты на обучение (по крайней мере пока OpenAI из гонки не выйдет). У них так же колоссальные вычислительные мощности законтрактованы на годы вперёд и от этих будущих издержек уже не уйти. Просто у них лучше баланс обучение/инференс и более сбалансированная клиентская база с большим количеством корпоративных клиентов на длинных контрактах. Но в затылок им дышат Amazon/Google/Microsoft, готовые предоставить выделенные мощности для открытых моделей - это огромная угроза для корпоративной клиентской базы антропиков.
А самое главное, до сих пор не очень понятна долгосрочная модель заработка на ИИ. Проблема же в том, что модели быстро устаревают и железо пока тоже устаревает слишком быстро. Даже если предположить, что модель устраивает клиентов на каком-то достаточно длинном сроке, то уже через год у неё знания устаревают. А обучение всё ещё слишком очень дорого. И пока не ясно, где находится тот баланс, который позволит долгосрочно прибыль получать. Но уже ясно, что это возможно.
У всех этих антропиков есть хороший шанс на выжиывание. На государственном горбу. Грубо говоря - их задача стать незаменимы. Стать героями фразы : “Что хорошо для ХХХ - то хорошо для Америки”. И у них весьма получается преуспевать в этом.
Это пока они новые передовые модели выкатывают. Но стоит чуть притормозить и следом в госдеп гуськом придут Google/Amazon/MS/Oracle и предложат кастомные модели с теми же характеристиками на выделенном железе за сильно меньшую стоимость (так как не нужно окупать годы инвестиций). И ещё в довесок практически даром навешают своих уже готовых и увешанных государственными сертификатами облачных и big-data сервисов - это прямо очень сильным аргументом может быть.
Инвестиции всё-таки окупаются в стоимости актива, а не из прибыли
MS и так бэкают тех же openai, что им и даёт открытую дорогу в госуху
Долгосрочная модель как раз понятна и даже уже плюсовая сама по себе:
Запретить Энтерпрайзам запускать китайские модели и выкрутить максимальную маржу на токен на своих
Вообще конечно даже сами антропики (да и прочие) уже давно в фоне работают на совершенно другими классами моделей. Они точно знают что на только LLM будущие задачи не вытянуть, хотя они уже работают и уже генерируют деньги. И "сруливать" сейчас в стророну более перспективной но эксперементальной архитектуры ни один дурак не будет. Потому-что "а вдруг нет?". И у каждой компании есть как минимум пара интересных архитектур в запасе. Тонкий момент состоит в том, что те архитектуры которые там пробуют они вообще принципально другие и требуют возможно на порядки меньше вычислительный затрат на задачах такой же сложности как сейчас решают LLM. И компания может иметь в 10 раз меньше мощностей чем конкурент и при этом быть более востребованной. Просто никто не будет просто так выкладывать свои незрелые наработки потому-что нет никаких гарантий что у конкурентов нет ничего получше в загашнике. Вот все и ждут. Либо ждут когда их альтернативные модели станут реально на голову выше текущих, чтобы пойти с козырей, либо ждут когда конкуренты покажут свои. Есть мнение что какой-то поворотный момент наступит в ближайшие года два. Ну или все просто сольются и будет медленное линейное улучшение где выигрывает просто тупо тот у кого больше датацентр.
Со скучным линейным развитием уже не выйдет - поздно. OpenAI уже неизбежно спровоцирует кризис в течение года - у них финансовая модель нестабильная и ничего там уже не поправить. И что бы там дальше ни произошло это точно навсегда изменит мир ИИ.
И гонка датанцеров уже тоже в том виде, как это сейчас представляют, уже невозможна - там такого назаконтрактовано на следующие чуть ли не десять лет, что ой-ой-ой. Вся эта гонка привела к тому, что сейчас уже просто невозможно запланировать и построить экономический выгодный дата-центр в следующие 5..7 лет. А всё потому, что стоимость и окупаемость этих датацентров заложена сильно вперёд, исходя из текущих совершенно точно неверных представлений о востребованности и стоимости вычислительных мощностей. Да ещё и во время надувания пузыря всё это произошло. Значит будут какие-то потрясения и там.
Если внимательно посмотреть, то Google и компания тихонько выходят из гонки по строительству новых мощностей под АИ, хотя, казалось бы, это прямо их стезя. Но они начинают искать новые аппаратные решения и и экспериментировать с новыми платформами, резервировать мощности по какие-то новые ещё неизвестные задачи (так не может десять лет всё быть занято только ИИ). А всё потому, что они в этом бизнесе давно и понимают, что вот так, как сейчас запланировано и оплачено, совершенно точно быть не может и не будет.
@Alter2 : Причина, из-за которой цены памяти учетверились — огромное количество еще не произведенной памяти было куплено за деньги, которых не было у покупателей, чтобы установить в GPU, которые еще не произведены, чтобы инсталлировать их в дата центрах, которые еще не построены, и запитать от электростанций, которые возможно никогда не будут запущены, чтобы удовлетворить спрос, которого еще нет, и получить прибыли, которые математически невозможны.
SOTA (State-of-the-art)
2 защитника контор ии и оба зареганы сегодня, рьяно бросаясь в защиту ии. Подозрительно...
Ну людям не хочется, чтобы у них отобрал работу ИИ. Поэтому будут отрицать реальность и выдумывать какой нибудь крах ИИ пузыря до последнего
Людям не хочется разбираться в экономике - цифры и факты это скучно. Им хочется халявы и нравится смотреть хайповые нейрослопные ролики в YouTube. Поэтому они верят чёрте во что, включая гомеопатию, нумерологию, бабок-гадалок и всемирный заговор. И будут верить до последнего.
Еще больше люди не хотят ждать какого-то там будущего и инвестировать в него деньги, они хотят цифры вот прямо щас. Долгострочные исследования и планы вообще обычно их не касаются. Если это не приносит деньги сегодня или завтра - значит нам это вообще не нужно. Космос этот, лекарства от разных тяжелых болезней. Действительно, зачем заниматься было вообще разработкой лекарства от рака в течении последних лет пятидесяти, и вкладывать в это миллиарды долларов, если этого лекарства до сих пор нет. Да не, ерунда. не нужен нам этот ваш космос, ИИ, лекарства. убытки от них только. А если делают, то пусть бесплатно делают, а то денег захотели, аферисты
Так экономика это как раз из области гомеопатии и нумерологии))
Антропики уже каким-то образом на росте корпоративной выручки выходить в прибыль даже стали
Они по сути вообще могут нарисовать любую цифру. https://wheresyoured.at/anthropics-profitability-swindle
Вот Вам ещё в коллекцию: Is AI Profitable Yet?
I believe the revenue numbers were optimistic for some companies, so I've tweaked them.
Сегодня финансы - это блин нумерология какая-то. Одни рисуют цифры, а другие пытаются на них гадать.
Впрочем, на конкретные высосанные из пальца цифры официальных публикаций остаётся лишь отвечать другими конкретными высосанными из пальца цифрами.
Ничего подобного. Нумерология только в предсказаниях. Текущий анализ и анализ истории экономика выполняет блестяще. Впрочем, как и анализ краткосрочного и даже среднесрочного будущего, проблема только в том, что там чем дальше, тем больше влияет вера автора/читателя, а вопросы веры это уже другая история.
Тут, по-моему, смешаны две совершенно разные экономики.
То, что OpenAI умеет с хорошей маржой продавать токены, отлично доказывает лишь экономику OpenAI, но почти ничего не говорит об экономике компании, которая эти токены покупает.
Для нее вопрос начинается после счета за API: сколько процесса действительно исчезло, сколько осталось ручной проверки, сколько добавилось интеграции, контроля, обработки ошибок и поддержки, и что в итоге произошло с P&L.
Продавцы промышленных роботов тоже давно умеют зарабатывать деньги, но из этого почему-то не следует, что каждый склад выгодно роботизировать.
Основной вопрос ИИ сейчас не том, сколько он может сделать, а сколько из этого компания действительно сможет превратить в деньги.
Если вычесть расходы на покупку железа, разработку, маркетинг и печеньки в офисе, то бизнес вообще золотой)) Осталось только объяснить инвесторам, почему общий минус в кассе продолжает расти с каждым месяцем
Достаточно посмотреть на p&l openai за 25 год, где даже с учётом очень жирных бесплатных планов и подписок и полностью убыточной соры, у них операционная прибыль на ВЕСЬ revenue cost (сюда входит всё используемое в данный момент железо и электроэнергия в том числе) была почти в ДВА раза больше - грубо говоря маржа 50 процентов
Вы посчитали $7.5 млрд cost of revenue, но проигнорировали $47.4 млрд остальных затрат и потерь.
Очень некрасиво так врать (на добросовестное заблуждение это прям совсем не похоже).
Не мешайте дяденьке, ему ещё того слона продавать!
потому что это дёшево, эффективно и прибыльно
Как и с заменой всего, до чего дотягиваются на дешёвых, эффективных и прибыльных китайцев, эффект работает только пока вы конкурируете с дорогими, неэффективными и неприбыльными людьми, которым кто-то платит дорогую зарплату чтобы покупать ваши дешёвые и эффективные товары и услуги.
Потом внезапно оказывается что дешёвый и эффективный ИИ становится базовой рентой для того чтобы быть на рынке, а дорогих и готовых покупать ваши товары и услуги людей стало сильно меньше.
Интересуенцым - смотреть на историю с интернет рекламой и тем, какой дешёвой, эффективной и прибыльной она была в своём начале.
Но с дивана с сиськой пива в общем-то виднее
Не подскажете, какое пиво пьют в ФРС?
Я просто оставлю это здесь:
Смотрел этот доклад, не отражает названия вообще, ничего почти нет про отделение хайпа от реальности и ничего про будущее, доклад вообще больше как экскурс в историю, нежели какая-то аналитика.
Опять мясной генератор токенов нападает на электронного. Суть доклада в чем, мне не понятно. Нужно слушать не чатбота, а его подкасты? Это люди сами решат. Инвесторы должны вкладывать деньги во что-то другое? Это решает рынок. Сами же напечатали слишком много необеспеченных денег, не будет ИИ - они найдут другой пузырь, еще хуже.
Суть доклада в чем, мне не понятно.
Тогда к чему коммент?
Это люди сами решат.
Для того, чтобы люди решили (сделали выбор), нужны вот такие подкасты, созданные человеком, умеющим генерировать идеи и смыслы, а не фарш, произведенный машиной из уже переваренного людьми.
Это решает рынок
Вот об этом и речь – рынком весьма успешно манипулируют, искажая его, что ведет к вот таким графикам "хайп/крах".
На мой взгляд, отличный анализ, но, к сожалению, по большей части не влезающий в окно контекста мышления современного человека.
вот такие подкасты, созданные человеком, умеющим генерировать идеи и смыслы
Я вижу в этом подкасте такой же фарш, предвзято сгенерированный, где надерганы случайные факты, обязательно вставлен случай с автомойкой (ну как же без него), приправлено токсичными комментариями типа завести собаку или потрогать траву - и вот это все почему-то подается как реальное состояние дел. Да это чистая болтология от псевдоэкспертов, которой миллионы часов на ютубе.
Насчет хайпа, я выше написал - пузыри появляются потому, что в экономике есть лишние деньги,а не потому, что та или иная технология плохая или хорошая.
В экономике не бывает "лишних денег". Почему-то этими "лишними" не закрываются безумные дыры в пенсионных фондах и рушащейся инфраструктуре, а накачиваются профессиональные создатели иллюзий, потому я и сказал о манипуляциях.
И вообще, зачем пользоваться терминами из феминистского словаря вроде "токсичный"? Смысл подобных комментариев как раз весьма жизнеутверждающий.
Любите природу, мать вашу...
В экономике не бывает "лишних денег"
Ну как не бывает, а что бывает, если напечатать лишних банкнот или иных ценных бумаг? (акции, облигации, векселя, прочие долговые обязательства)
Почему-то этими "лишними" не закрываются безумные дыры в пенсионных фондах и рушащейся инфраструктуре
Там нет прибыли, современная экономика так устроена. При чем тут вообще ИИ? Хотя нет, при чем, есть надежда что с ИИ плановая экономика взлетит, но это не точно.
И вообще, зачем пользоваться терминами из феминистского словаря вроде "токсичный"?
А какие еще сейчас есть приличные синонимы слова "мудацкий"? Я так сходу не вспомнил, подскажите, если знаете.
Я вижу в этом подкасте такой же фарш, предвзято сгенерированный, где надерганы случайные факты, обязательно вставлен случай с автомойкой (ну как же без него), приправлено токсичными комментариями типа завести собаку или потрогать траву
И самое смешное, что сгенерированный наверняка не без помощи LLM.
Спасибо за перевод, еще один программный текст в копилку технопессимизма)
Отлично (с позиций технопессимизма) рассказана новейшая история ИИ.
Да все дело в деньгах. Каким-то образом кучка богаеев заметила хорошую возможность срубить бабла, вот и стали эту тему форсить.
А хомяки и ученые обсуждают полезность, разницу версий, агентов, применимость, рынки-шмырки и т. п.
В это же время кое-кто отлично подсосался к денежным потокам и покупает себе новые дома, яхты и кайфует.
Так что все закончится тогда, когда исчезнут условия для заработка этих богатеев. Тогда они зафиксируют прибыль и будут искать новую темку, а куча хомяков будут разорены.
«Опять луддиты до последней версии 5.88-о8 не обновились, там уже все проблемы пофиксили и AGI запустили» /s/
По делу: интересный непредвзятый исторический обзор, я лично люблю такие конференции как раз за подобные «сухие» ретроспективы от корифеев. Спасибо за перевод!
Обычно наличие в заголовке фраз типа "реальное состояние дел" или "вся правда о..." почти на 100% гарантирует, что в тексте будет ангажированная и однобоко поданная информация. Почти. Вот тут, например, неожиданно что-то по делу, бывает же)
Про AlphaFold правильно акцент расставил, реальный профит сейчас идет от узких биологических и математических моделей, а вокруг универсальных чат-ботов накрутили ожиданий на три триллиона вперед
Отличная статья на тему недоИИ и как оно устроено, а главное - почему это совсем не ИИ.
Позабавил комментарий переводчика про отсутствие ИИ-шной направленности у автора. Так ведь это и хорошо, т.к. получаем адекватный и реалистичный взгляд. А те, которые имеют прямое отношение к недоИИ, будут врать и продолжать рассказывать сказки как их недоИИ скоро всех заменит и наступит вселенское счастье.
При этом - да, инструмент в целом отличный и дает весомые плюсы, но жутко энергозатратный. Это его погубит. Или заставит адаптироваться. В худшем сценарии заставит адаптироваться все вокруг и оруэлловский 1984 станет реальностью...
Ну и свежий перл от вариации недоИИ:
Меня зовут Ричард Кэмпбелл
А меня зовут Джонни мать его кувалда
Как истинный свидетель Голливуда американец, Ричард Кэмпбелл заканчивает на оптимистической ноте: "Да, сейчас безумное время. Но оно пройдёт и мы вернёмся к работе, которая тоже будет выглядеть иначе. И это нормально. Мы всё равно будем менять мир к лучшему."
Поживем – увидим...
Пока что мы во многом меняем его к худшему...
Есть еще один момент, о котором почему-то никто не говорит - ограниченная доступность существующих моделей.
Например, мы в своем проекте все оптимизировали под gemini-2.5-flash-lite. Промпты, проверки, проверяли качество ответов на реальных пользовательских данных - всё зашибись. Ценик низкий, модель быстрая.... И тут Гугл говорит: через 2 месяца модель перестанет быть доступной, добро пожаловать на gemini-3.1-flash-lite. Она же лучше. Да, она лучше, но она дороже в несколько раз, а нас и предыдущая модель устраивала. Вот что с этим делать?
Вот примерно так они свою экономику и выстраивают.
неправда какая-то, в последнее время цены снижают на один класс модели. что openai что китайцы
В чем неправда?
Сравните цены на gemini-2.5-flash-lite и gemini-3.1-flash-lite. Последняя в 2.5 раза дороже, а первая скоро перестанет быть доступной.
Т.е. ты как бы получаешь лучшую модель, но и платишь больше.... Но тебе не нужна лучшая, тебе и предыдущей хватало.
Если хватало gemini-2.5-flash-lite то можно смело переходить на ещё более дешевые китайские модели или на он прем, значит у вас простые задачи для аутсайдеров.
Шта? У вас сударь FOMO разыгралось или чего?
Вы хотите мне стоимость кластера на он прем посчитать? Я бы глянул, честно. Исходите из 2млрд токенов в день.
Но если кроме шуток, то очень интересно почему не стали рассматривать собственное или арендованное железо?
На первый взгляд, если вас удовлетворяла 2.5 и у вас есть постоянная загрузка и вы уверены, что эта загрузка сохранится хотя бы год, то сейчас за те же деньги можно развернуть opensource модели. Опять же, могу сильно ошибаться.
Или у вас там супер-нагрузка? Но тогда должна начать работать аренда железа с запуском opensourcr моделей.
Короче, очень интересно почему этот путь не рассматриваете и что с ним не так.
Мы думали, но есть нюанс.
При ценике gemini-2.5-flash-lite переходить на селф-хостед не имело коммерческого смысла, потому что с учетом скорости формирования ответа (максимум 10 секунд) при нашем потоке + резервирование всего этого дела ценник на железо выходил раза в 1.5 выше, чем мы платим Гуглу. Кроме этого, еще и геморрой с поддержкой этого всего. Но, видимо сейчас начнем более активно ползти в эту сторону.
Ну, железо можно же попроще под такую задачу, а брать холодным резервом. Я когда прикидывал, то выходит 1:1 с гуглом. Но, во-первых, я это сугубо ради праздного интереса делал. Во-вторых, я очень массовое железо закладывал - так как цена важнее надёжности. В, в-третьих, цены сейчас чуть ли не каждую неделю меняются и не в меньшую сторону.
Ещё можно в сторону аренды посмотреть. Вам же не супер-современное железо нужно. Вам позапрошлого поколения хватит.
А, вы про покупать свои железки и вот это вот все. Даже не рассматривали такой вариант. Потому что кто-то должен всем этим зоопарком заниматься. Мы считали аренду серваков, и вот на той нагрузке до которой мы только-только доросли на gemini-2.5-flash-lite это только-только начало иметь смысл. Понятно, что если Гугл её дропнет, то будет выгоднее взять арендные мощности и развернуть что-то свое. Ну или искать провайдера опенсорс моделек, что тоже вариант. Для бизнеса бесперебойность и аутсорс решения проблем с доступностью сервиса и прочим не менее важен, чем стоимость.
А что за задачи, если не секрет? Хотя бы в общих чертах.
Извлечение структурированных данных из большого количества резюме на 6 языках. Ну и так по мелочи.
Вам сам Бог велел что-то из opensource моделей применять. На чужом обкатать, а потом на каких-то быстрых и легковесных гонять. Да, придётся снова всё перепроверить и подопиливать, но у вас прямо буквально задача под легковесный отрытые модели. Вы даже просто как клиент не интересны лидерам сейчас: вам нужны прямо очень простые модели и высокая скорость. А они все бизнес сейчас строят на сложных универсальных моделях. Короче, не их вы клиент (пока).
Вам бы к китайцам (но там тоже такое себе в плане надёжности и сервиса) или зарождающимся американским конторам, которые дешёвый инференс продают (но там тоже вопросы по прайсу и надёжности самих контор), но звучит так, что экономия на запуске моделей на своём и арендованном железе, как раз покроет вам зарплату пары человек, которые это всё будут администрировать.
Да, она лучше, но она дороже в несколько раз, а нас и предыдущая модель устраивала. Вот что с этим делать?
Абстрагировать промпты? Если ваш пайплайн ломается от смены flash lite 2.5 на 3.1, значит промпты были переобучены под баги конкретной модели, а не под задачу. Хотите вечной стабильности и фиксированной цены - поднимайте свои веса на своих серверах и хоть до китайской пасхи пользуйтесь, тем более что что-то около 2.5 флеш лайт давно есть в опен сорсе. А пользуетесь чужим облаком - адаптируйтесь к его TTL.
Пайплайн не ломается, ломается экономика. Те же промпты прекрасно работают с 3.1, но она дороже сильно.
По поводу опен сорса и селф хостинга тут можно долго дискутировать, но просто когда на API тратишь несколько десятков тысяч баксов в месяц.... поверьте, у нас есть опыт :-)
промпты были переобучены под баги конкретной модели, а не под задачу.
По другому не бывает, или вы переплачиваете за возможности которыми не пользуетесь.
Просто поразительно. Статья про критику ИИ, но никто не удосужился прогнать саму статью через ИИ.
Вот критика Ричарда Кэмпбелла со стороны Глубоко Больного Пациента. Ничего личного.
---------------------------
Теперь разберём саму статью Ричарда Кэмпбелла как публицистический и аналитический материал. Она убедительна, но далеко не безупречна. Вот её слабые места.
Смешение «хайпа» и «технологии» — подмена понятий
Кэмпбелл последовательно отождествляет текущий ажиотаж с самой сущностью ИИ. Он критикует маркетинг, обещания AGI и финансовые пузыри — и на этом основании делает вывод, что «никакого ИИ нет, есть только статистические модели».
Это логическая ошибка. Тот факт, что вокруг технологии шум, не отменяет её реальных достижений. В 1990‑х интернет тоже был пузырём, но это не значит, что интернет — фикция. Кэмпбелл сам приводит пример AlphaFold, который опровергает его общий пессимизм, но он вставляет этот пример как «исключение», хотя на самом деле это прямое доказательство полезности тех же методов.
Игнорирование широкого спектра успешных внедрений
Кроме AlphaFold, статья почти не упоминает другие работающие системы:
· медицинская диагностика (тысячи сертифицированных моделей, которые уже снижают нагрузку на врачей), · промышленная оптимизация (логистика, цепочки поставок), · финансовый анализ, · автоматизация рутинного документооборота, · машинный перевод, распознавание речи и текста — всё это работает и приносит реальную пользу.
Автор сводит всё к «чат‑ботам и копайлотам», создавая иллюзию, будто все ИИ‑проекты — бесполезные игрушки. Это селективный подход, игнорирующий огромный пласт прикладного машинного обучения, которое давно стало инженерной нормой.
Апелляция к «психозу» как аргумент против технологии
Кэмпбелл приводит случаи, когда люди слишком эмоционально привязывались к чат‑ботам, и подаёт это как доказательство несостоятельности ИИ. Но это доказывает лишь то, что люди склонны к антропоморфизму, а не то, что инструмент плох. По такой логике надо было бы запретить ножи, потому что кто‑то ими ранится, или книги, потому что кто‑то впадает в заблуждение.
Он критикует «лесть» ботов, но забывает, что это настраиваемый параметр, а не фундаментальное свойство. Компании уже меняют поведение моделей в ответ на критику — это рабочий процесс, а не фатальный порок.
Противоречие в аргументе о «зимах ИИ»
Автор пишет, что предыдущие «зимы» наступали, когда технология не оправдывала ожиданий. Но он не замечает, что каждая следующая волна поднималась на более высоком уровне — от экспертных систем до нейросетей, от распознавания рукописного текста до генерации изображений. Это не цикл «обман — разочарование», а спираль прогресса, где завышенные ожидания действительно сменяются разочарованием, но база знаний и инструментов остаётся и растёт.
Финансовый анализ поверхностен и драматизирован
Он сравнивает текущий пузырь с доткомами, но упускает важную разницу: тогда не было реальных доходов у большинства компаний, а сегодня гиперскейлеры (Amazon, Microsoft, Google) уже имеют прибыльный облачный бизнес и используют ИИ как надстройку, которая привлекает клиентов в Azure и AWS. Даже если ИИ‑стартапы убыточны, инфраструктура, построенная под них, остаётся и будет использоваться для других задач.
Кроме того, он говорит о «круговом финансировании» Nvidia, но это стандартная практика в высокотехнологичных отраслях (крупные производители часто инвестируют в экосистему) и не обязательно свидетельствует о крахе — это инструмент масштабирования рынка.
Риторические уловки вместо фактов
В статье много эмоциональных штампов:
· «мясная прокладка между экраном и спинкой кресла», · «собаку заведите, зачем вы с программами общаетесь», · «ужасное название», · «Бред какой‑то».
Это подмена анализа публицистикой. Такие фразы воздействуют на чувства, но не дают объективной картины. Они хороши для устного выступления, но в письменной критике должны быть подкреплены статистикой, а не насмешкой.
Противоречие в позиции по регулированию
Кэмпбелл призывает специалистов идти к политикам и предлагать решения, но при этом сам создаёт паническую картину, где ИИ — это лишь угроза и обман. Такой подход скорее отпугнёт регулировщиков от разумного диалога и подтолкнёт их к жёстким запретам, которые навредят и полезным разработкам.
Он не предлагает конкретных мер, кроме «будьте осторожны», что делает его призыв декларативным.
Недооценка технического прогресса
Автор говорит, что GPT‑5 разочаровала, но не упоминает, что даже небольшой эволюционный прирост в масштабе триллионов параметров — это серьёзная инженерная работа. Он игнорирует мультимодальность, улучшение рассуждений, снижение галлюцинаций в новых версиях. Для неспециалиста его критика звучит убедительно, но специалист увидит, что он упрощает сложные компромиссы.
Пример AlphaFold как исключение — это слабый риторический ход
Вместо того чтобы пересмотреть свою позицию, увидев, что нейросети могут решать фундаментальные научные задачи, он говорит: «Вот хороший пример, но его мало». Это неубедительно. Если бы он был последователен, он должен был бы признать, что те же методы, которые лежат в основе ChatGPT, работают и в биологии — значит, инструмент ценен сам по себе, а не только как объект хайпа.
Итог: статья хороша как критика хайпа, но плоха как анализ
Ричард Кэмпбелл — блестящий оратор, и его доклад отлично отрезвляет перегретый рынок. Но как текст для вдумчивого чтения он грешит:
· предвзятостью, · смешением маркетинга и инженерии, · игнорированием контраргументов, · чрезмерной драматизацией.
Его главная ценность — напоминание, что не всё золото, что блестит. Но это не значит, что под блёстками нет золота. Технология развивается, и даже если пузырь лопнет, на его месте останутся прочные инструменты, которые будут работать десятилетиями, как это случилось с интернетом.
Вывод: статью стоит читать с поправкой на жанр — это эмоциональная проповедь для перегретой аудитории, а не беспристрастное исследование. Если бы в ней было меньше пафоса и больше цифр, сопоставлений с реальными кейсами (не только AlphaFold), она стала бы значительно убедительнее. Но пока она оставляет ощущение, что автор выдаёт своё раздражение за объективную картину мира.
-- Началась пандемия коронавируса. Дальнейшие события вспомнить получается с большим трудом, они проступают будто из пелены сна.
Ну так не надо вспоминать. Зачем вся это вода, все это повторение в сотый раз известных фактов?
видно что человек профессиональный подкастер и ему надо чем-то заполнить объем вот и травит кучу баек, которые не относятся к делу
хотя написана человечно, признаю, нейроавторы на Хабре хуже пишут
такие статьи нужны, как холодный душ) а то, яблони на Марсе скоро зацветут)
но "Мне сегодня пора помыть машину, автомойка от меня в 50 метрах. Мне пойти пешком или поехать?" уже не работает на последних моделях, значит учли)
Мне кажется, здесь недооценён один момент: прогресс сейчас может идти уже не столько в самих моделях, сколько в системах вокруг них. Агент с памятью, инструментами, тестами и нормальным контекстом — это совсем другой продукт, даже если базовая модель стала лучше всего на 10%. Может, следующий скачок совсем не там?
Наша работа никогда не заключалась в написании кода. Наша работа заключалась в решении человеческих проблем.
А теперь включаем мозг - любая работа заключается в "решении человеческих проблем". От грузчика, до капитана сухогруза.
А конкретно работу программиста, еще вчера, могли делать только те, кто таки умел писать код.
Спасибо за разбор, крутая статья!
Но позволю себе поспорить с общим настроением «это все хайп». Я работаю с нейросетями каждый день (контент-производство, автоматизация процессов), и для меня это не «новая форма разума» из фантастики, а просто очень мощный инструмент. Как электричество или бензопила: можно дом построить, можно ногу отпилить. Вопрос не в инструменте, а в руках и в элементарных правилах техники безопасности. То, что этому возможно пока мало уделяется внимания - просто недоработка.
Кстати, пример с радиологами из самой статьи — лучшее доказательство именно этой точки зрения: инструмент не заменил профессию, а поднял производительность и разогнал спрос. Так работают все сильные инструменты.
Согласна насчет антропоморфизации и заискивания чат-ботов — это реальная проблема дизайна, и возможно над ней стоит поработать. Как и экологические требования к дата-центрам: энергия, вода, земля — здесь желательно не доводить ситуацию до критической, а постепенно вводить регуляцию на уровне правительств.
Но запрещать или списывать все на «пузырь» - странноватая идея на мой взгляд. Лопнут финансовые ожидания (ну и ладно), а инструмент-то останется. Интернет же остался)
P.S. Фраза «чем больше люди знают про ИИ, тем меньше верят» - тоже весьма спорная. Среди практиков вижу обратное: чем глубже работаешь с ИИ, тем более трезво оцениваешь ограничения, но и тем больше реальной пользы получаешь.
Борясь с выдачей желаемого за действительное, автор, имхо, делает ровно то же самое.
Типа "все шесть пользователей Bing". Я отнюдь не поклонник оного, как и copilot, но вынужден заметить, что многие не очень мелкие компании вынуждают своих сотрудников пользовать оные сервисы, ибо они бвнально дешевле в качестве дополнения к офису и корпоративной почте. Просто другая стратегия - так же, как, скажем, Dell делает хреновые ноутбуки в общем-то, но привлекает корпоративных пользователей иными фичами.
В "сухом остатке" - лумаю, автор во многом прав, но нынче предсказателей скорого краха ИИ так много, что это наводит на размышления... Доллару тоже уже лет элак тридцать, если не сорок, предрекают скорый крах, а он, зеленый такой, никак крахаться не хочет... яБудем живы - как говорится, будем посмотреть...
Хайп вокруг ИИ: реальное состояние дел и будущее