Мы вскрыли трафик ChatGPT, Gemini и DeepSeek, чтобы понять, откуда берутся «источники» в ответах

Возможно это сниппеты с поисковой выдачи по группе подзапросов к поисковику, релевантных запросу от пользователя.

1. Разбиваем запрос пользователя на поисковые запросы

2. Делаем переранжирование результатов

3. Собираем "реферат" и отправляем пользователю.

На тарифе Tier 1 Google GenAI включено 5000 бесплатных запросов, потом $14 за 1000.

Выглядит ответ ИИ с включённым поиском примерно вот так:

{
  "candidates": [
    {
      "content": {
        "parts": [
          {
            "text": "Spain won Euro 2024, defeating England 2-1 in the final. This victory marks Spain's record fourth European Championship title."
          }
        ],
        "role": "model"
      },
      "groundingMetadata": {
        "webSearchQueries": [
          "UEFA Euro 2024 winner",
          "who won euro 2024"
        ],
        "searchEntryPoint": {
          "renderedContent": "<!-- HTML and CSS for the search widget -->"
        },
        "groundingChunks": [
          {"web": {"uri": "https://vertexaisearch.cloud.google.com.....", "title": "aljazeera.com"}},
          {"web": {"uri": "https://vertexaisearch.cloud.google.com.....", "title": "uefa.com"}}
        ],
        "groundingSupports": [
          {
            "segment": {"startIndex": 0, "endIndex": 85, "text": "Spain won Euro 2024, defeatin..."},
            "groundingChunkIndices": [0]
          },
          {
            "segment": {"startIndex": 86, "endIndex": 210, "text": "This victory marks Spain's..."},
            "groundingChunkIndices": [0, 1]
          }
        ]
      }
    }
  ]
}

Фабрикация диалога и теневой контекст для ИИ — проектируем себе друга

Попробуйте поэкспериментировать с системной инструкцией. Что-то типа: начинай свои ответы с перечисления всех (договорённостей, правил, фактов) которые относятся к моему запросу).

Относительно размена - общее правило актуально для всех моделей: чем больше история чата относительно контекстного окна "по паспорту", тем сложнее модели понять что от неё требуется. То есть если информации много, то выбирать лучше ИИ с 1-2 млн окном контекста.

Если работаете с документами, попробуйте Notebook LLM от Google. Во-первых Gemini, на мой взгляд, один из лучших кто может работать с большим контекстом. Во-вторых сам сервис предполагает работу с множеством источников.

Фабрикация диалога и теневой контекст для ИИ — проектируем себе друга

Когда нейросеть получает новое сообщение она просматривает всю историю диалога и выбирает из неё токены наиболее релевантные запросу.

Соответственно если прямо спросить, то она "вспомнит", если не спрашивать, то она будет ориентироваться на то, как её обучали.

Технически же это определяется архитектурой LLM - размером скользящего окна, размерностью матрицы отдельного слоя и т.д.

Прощай, Claude: Anthropic массово банит аккаунты из РФ и обнуляет «вайб-кодинг»

Kimi k2.6, Kimi Code, cli - облажался

Kimi k2.6, Kimi Code, cli - я поручил модели создать агентов - справился

Gemini 3.1 pro, Antigravity - ни с первой, ни со второй попытки приложение не запустилось

Opus 4.6, Antigravity - жулик, прочитал историю чата с Gemini и пару ошибок избежал. Запустился со второй попытки, визуально на голову выше чем результат kimi.

В защиту kimi скажу, что он потратил 75к токенов, это примерно $0.4 и если поднапрячь его, то и дизайн получше будет.

Прощай, Claude: Anthropic массово банит аккаунты из РФ и обнуляет «вайб-кодинг»

Поделись, пожалуйста, промптом - хочу kimi k2.6 проверить.

AI-расслоение: почему с генеративным ИИ всё пошло не так, как со смартфонами

Новаторы (2,5%) и ранние последователи (13,5%) — первые группы потребителей в модели диффузии инноваций. Новаторы — это энтузиасты, готовые рисковать ради новизны. Ранние последователи — визионеры и лидеры мнений, принимающие проверенные инновации, которые формируют тренды. Они критичны для запуска, так как дают фидбек и помогают продукту выйти на массовый рынок.

Старина Gemini

Есть ещё последователи и консерваторы, но не о них речь. Сегментация или даже фрагментация пользователей имеет множество измерений помимо возраста и опыта.

Мне, например, на тему внедрения ИИ больше нравится смотреть через теорию игр. Так может получится, что у 35+ меньше рисков если они будут отвечать за себя и за того ИИ, в то время как более молодая аудитория пока ещё отвечает только за свои результаты.

Однако мне кажется об этом вообще рано говорить, потому что вопрос о пользе ИИ далеко не закрыт и мне кажется не для меня одного. Вот как я рассуждаю:

• Если ИИ заменяет джунов, то тогда логично предположить, что в текстах вакансий для миддлов/сеньоров требование опыта разработки с LLM должно быть обычным делом, но по моим наблюдениям это не так. Иронично, но даже в вакансиях самого Cursor навыки работы с ИИ часто вообще отсутствуют.

• Если мы говорим про рабочие задачи, то это корпоративный сектор, а это экономика и предсказуемость. Про это можно просто забыть на текущий момент. Gemini 2.5 flash lite - великолепная рабочая лошадка. Её новая версия, Gemini 3.1 flash lite - почти в 4 раза дороже, проверенные промпты дают другой результат.

Так что, на мой взгляд, если неравномерность распределения пользователей ИИ по социально демографическим характеристикам и существует, то о реальных причинах мы сможем поговорить лет через 10, когда спадёт туман хайпа.

Изучите все языки программирования

Тут бы один выучить хорошо, куда там все. Согласен, можно добиться общего понимания программирования как процесса и это позволит после изучения синтаксиса писать алгоритмы на разных языках, но какая от этого практическая польза?

Недавно как раз пытался понять условный «Путь программиста». К сожалению, какого-то единого, поддерживаемого большинством, мнения на этот счет найти не удалось. Что еще хуже, представленные взгляды практически не объясняют почему поступать следует так, а не иначе.

Приходится искать свой путь. На текущий момент считаю, что познания синтаксиса, даже определенных паттернов программирования, даже если удается создавать что-то рабочее не позволяет говорить о себе, как о программисте.

Стоит появиться задачи на построении более-менее сложного алгоритма и всё, приплыли. Конечно можно написать много строчек кода, который в конечном счете решит проблему, но от понимания своей несостоятельности это не избавит.

В итоге, думаю что следует погрузиться в Structure and Interpretation of Computer Programs, а там видно будет.