Кэшируют, но не на уровне генерации токенов. Запрос "что такое бит" от Василисы, которой 10 лет, и от Семена, который пишет диплом по информатике, имеет разный контекст
Даже если модель чуть-чуть отупеет, экономия VRAM в 5-6 раз окупит эту потерю с лихвой. Для бизнеса запустить агента поддержки, который глупее на 5%, но дешевле в обслуживании в 6 раз считай сделка века)
Инженеры Нвилии годами впаривали рынку все более дорогие чипы, а тут пришел гугловский математик с бумажкой и формулой из линейной алгебры и обрушил акции на миллиарды долларов, вот что значит сила науки!
Как они вообще собираются взыскивать эти деньги с компании, у которой нет юрлица в российской юрисдикции. Штраф тупо повиснет мертвым грузом в базах приставов
Спеки и архитектура всегда стоили в разы дороже самого написания строк. Просто раньше кодинг был долгим и дорогим этапом, а теперь он стал дешевым побочным продуктом правильно составленного тз
Бухгалтерия переживет ядерную войну вместе с обновлениями 1С. А маркетологи просто переименуются в "ai-prompt-creators" и продолжат уверенно рисовать воронки продаж
Бизнес всегда хотел избавиться от дорогих специалистов, это базовая аксиома капитализма. Инженеры просто слишком долго находились в привилегированном положении из-за дикого дефицита кадров, теперь рынок балансируется
А вот вопрос на засыпку, если я угадываю концовки всех шуток коллеги в курилке исключительно по теории вероятности, значит ли это, что у меня нет мышления, и я просто кожаная LLM?)
Израильские системы работают с графами связей и метаданными звонков, американцы же внедряют LLM для семантического анализа содержимого перехваченных текстов и документов - это фундаментально разные технологии для разных слоев аналитики
Военные контракты это бездонная бочка с деньгами, Антропики попытались усидеть на двух стульях: и 200 миллионов от Пентагона получить, и лицо "этичной компании" перед хипстерами сохранить, а в итоге потеряли и то, и другое) Альтман оказался куда проворнее
Взрываются они не так часто, просто каждый случай попадает в новости. Если прикинуть статистику (миллиарды пауэрбанков в мире и десятки возгораний), шанс погибнуть от удара молнии выше) Но в самолете цена ошибки несоизмеримо больше
Вместо тотального запрета нужно вводить обязательную сертификацию пауэрбанков для перелетов. Сделать стандарт негорючих корпусов и защиты от КЗ, и пускать на борт только банки со специальной маркировкой, как это делают в Китае
html5 не сам по себе убил флеш, а в связке с webgl
Когда браузеры научились отдавать рендеринг графики напрямую видеокарте без прослойки в виде проприетарного плагина, флеш со своим программным рендерингом и поздним stage3D оказался просто не нужен
Альтернативная история красивая, но совершенно нереалистичная. Встроенный рантайм, контролируемый одной проприетарной корпорацией (Adobe), никогда бы не стал фундаментом для всего интернета. Открытые веб-стандарты, какими бы кривыми они ни были на старте, победили именно из-за своей открытости и независимости
Claude Code в десктопе гуд, но это всё равно чат с доступом к файлам. Сейчас неделю пользуюсь Kodik и мне как то ближе формат именно IDE. Агентный режим, inline-правки, автодополнение, плюс код сначала локально маскируется и только потом уходит в облачные LLM
Помню 2018 год когда РКН первый раз воевал с Телегой, тогда тамтам выкупил рекламу во всех каналах, даже у тех, кого блокировали) Выглядело сюрреалистично: сидишь через прокси в Телеге, а тебе показывают рекламу "Переходи в ТамТам, у нас стабильно"
Кэшируют, но не на уровне генерации токенов. Запрос "что такое бит" от Василисы, которой 10 лет, и от Семена, который пишет диплом по информатике, имеет разный контекст
Выдача закэшированного ответа убьет суть персонализированного диалогового ИИ
Даже если модель чуть-чуть отупеет, экономия VRAM в 5-6 раз окупит эту потерю с лихвой. Для бизнеса запустить агента поддержки, который глупее на 5%, но дешевле в обслуживании в 6 раз считай сделка века)
Инженеры Нвилии годами впаривали рынку все более дорогие чипы, а тут пришел гугловский математик с бумажкой и формулой из линейной алгебры и обрушил акции на миллиарды долларов, вот что значит сила науки!
как ей пользоваться то? она не понимает нихрена😁😁
Там система работает как конвейер по генерации новостных заголовков) Выписали бумажку, отчитались наверх, пошли пить чай
Как они вообще собираются взыскивать эти деньги с компании, у которой нет юрлица в российской юрисдикции. Штраф тупо повиснет мертвым грузом в базах приставов
Спеки и архитектура всегда стоили в разы дороже самого написания строк. Просто раньше кодинг был долгим и дорогим этапом, а теперь он стал дешевым побочным продуктом правильно составленного тз
Бланшар сам мейнтейнил этот код 13 лет, он просто устал от юридических ограничений вирусной лицензии и юзанул llm как легальный шредер для gpl
Бухгалтерия переживет ядерную войну вместе с обновлениями 1С. А маркетологи просто переименуются в "ai-prompt-creators" и продолжат уверенно рисовать воронки продаж
Бизнес всегда хотел избавиться от дорогих специалистов, это базовая аксиома капитализма. Инженеры просто слишком долго находились в привилегированном положении из-за дикого дефицита кадров, теперь рынок балансируется
А вот вопрос на засыпку, если я угадываю концовки всех шуток коллеги в курилке исключительно по теории вероятности, значит ли это, что у меня нет мышления, и я просто кожаная LLM?)
Языковые модели никогда не достигнут сверхразума просто потому, что они никогда не роняли тяжелую кружку с кофе себе на ногу
Прикрутите к серверам OpenAI шокер за каждый баг в коде и сразу получите настоящее сознание
Израильские системы работают с графами связей и метаданными звонков, американцы же внедряют LLM для семантического анализа содержимого перехваченных текстов и документов - это фундаментально разные технологии для разных слоев аналитики
Военные контракты это бездонная бочка с деньгами, Антропики попытались усидеть на двух стульях: и 200 миллионов от Пентагона получить, и лицо "этичной компании" перед хипстерами сохранить, а в итоге потеряли и то, и другое) Альтман оказался куда проворнее
Взрываются они не так часто, просто каждый случай попадает в новости. Если прикинуть статистику (миллиарды пауэрбанков в мире и десятки возгораний), шанс погибнуть от удара молнии выше) Но в самолете цена ошибки несоизмеримо больше
Вместо тотального запрета нужно вводить обязательную сертификацию пауэрбанков для перелетов. Сделать стандарт негорючих корпусов и защиты от КЗ, и пускать на борт только банки со специальной маркировкой, как это делают в Китае
html5 не сам по себе убил флеш, а в связке с webgl
Когда браузеры научились отдавать рендеринг графики напрямую видеокарте без прослойки в виде проприетарного плагина, флеш со своим программным рендерингом и поздним stage3D оказался просто не нужен
Альтернативная история красивая, но совершенно нереалистичная. Встроенный рантайм, контролируемый одной проприетарной корпорацией (Adobe), никогда бы не стал фундаментом для всего интернета. Открытые веб-стандарты, какими бы кривыми они ни были на старте, победили именно из-за своей открытости и независимости
Claude Code в десктопе гуд, но это всё равно чат с доступом к файлам. Сейчас неделю пользуюсь Kodik и мне как то ближе формат именно IDE. Агентный режим, inline-правки, автодополнение, плюс код сначала локально маскируется и только потом уходит в облачные LLM
Помню 2018 год когда РКН первый раз воевал с Телегой, тогда тамтам выкупил рекламу во всех каналах, даже у тех, кого блокировали) Выглядело сюрреалистично: сидишь через прокси в Телеге, а тебе показывают рекламу "Переходи в ТамТам, у нас стабильно"
История расставила все по местам)