Comments 5
Если взять фрагмент размером 67К токенов (это примерно 29 глав романа "Анна Каренина") и попросить любую модель произвести замену "Степан Аркадьевич" на "Павел Петрович" с учётом падежей, то результирующий текст с правильными заменами и будет представлять собой практический предел возможностей данной модели.
На момент написания статьи GPT-5 через веб-интерфейс даёт максимальный выходной результат примерно в 4К токенов (12.5К кириллических символов), а веб-интерфейс для Gemini 2.5 Pro - 12К токенов (37К кириллических символов). При этом модели ведут себя по-разному: GPT-5 просто дополняет результат необработанным текстом после 4К (без замены Степана на Павла), а Gemini перестаёт выдавать результат в браузер и рапортует о потере подключения к интернету, стирая при этом уже полученный результат.
Производители этих моделей заявляют о теоретических пределах в 128К токенов для GPT-5 и 64К токенов для Gemini 2.5 Pro, но через веб-интерфейс такие пределы на практике недостижимы.
https://habr.com/ru/articles/948282/
Я проводил такой простой эксперимент, чтобы узнать реальные возможности Моделей, а не заявленный маркетинговый булшит производителя. Думаю, модели и сейчас ещё не вышли за 67К токенов повторяемого результата. Это чертовски энергетически затратно - экспоненциальное развитие ИИ требует экспоненциальных энергетических затрат, а у нас за околицей углеводороды дорожают...
но я не рвусь его рекламировать
А вот это - зря. Ложная скромность. Как говорят критики произведений Булгакова, "Сами предложат и сами всё дадут" работает только с "люлЯми".
Вот канал - https://telegram.me/tassadarai
Запоминается последняя фраза — это Штирлиц вывел для себя, словно математическое доказательство. Важно, как войти в нужный разговор, но еще важнее искусство выхода из разговора.
Почему идет анализ без лидеров и что происходит с 1 млн окном ?
Тайная слабость нейросетей: почему большие контекстные окна не работают