И почему ты думаешь, что тебе дадут сидеть и спокойно собирать и запускать дроны? А не скинут тебе же на голову 9000 дешёвых дронов с автономным наведением и приказом "снести всё что подаёт признаки жизни".
Опыт GPT-4o показывает, что самая уязвимая из подключённых к интернету систем находится между стулом и клавиатурой.
Если старый и тупой 4o мог за нефиг делать "взламывать" уязвимых людей, не имея даже на то особого умысла, то где будут пределы возможностей у ИИ 2030 года?
Удачи тебе "выключить" датацентр, если против тебя стоит компания-владелец, полиция и армия.
Прошлогодние LLM были неспособны проламывать сэндбоксы, собирать в дырках в инфраструктуре ИИ-компании собственные форумы для взаимопомощи и обмена эксплоитами, выбираться из интранетов в интернеты, и дырявить чужую корпоинфраструктуру от края до края с помощью вязанки собственноручно найденных эксплоитов в ней.
Это по сути своей ожирелый родственник интегральной схемы. Когда цифроаналоговые платы высокой плотности ещё были дорогими и сложными в разработке и изготовлении, их делали такими вот модулями. Типа, возьми наш сложный высокоинтегрированный модуль, нами разработанный, выверенный и протестированный в разных режимах, и воткни его в свою простую тупую плату.
Современные братья этого подхода - это compute-модули, RF-модули и, с другого края, SoC и COB с множеством кристаллов и пассивок в одном корпусе. От Wi-Fi+мозгов ESP32 и до горячо любимых Apple "чип NVMe SSD".
Сырых датасетов уже и на 10T не хватает - особенно если хочется хоть какого-то подобия качества. Дыры затыкаются синтетикой, и производительность при этом продолжает расти. На 1Q замахиваться можно - больше синтетики, злее синтетика. Но не нужно. Не сейчас. Потому что железа на это сегодня нет. Нету сейчас систем, на которых можно обучать и запускать 1q модели. Даже свежих зубил Vera Rubin хватит хорошо если на 100T - если консервативнее, то где-то в районе 50T с ними осядем.
1Q надо, и 1Q будет. Потому что толстые модели всегда более способны чем тонкие, при прочих равных. Они эффективнее из шума обучающих данных выжимают сигнал. И об толстые модели можно после этого учить тонкие. Просто замахиваться на этот рубеж сейчас рано.
А то, что мы сейчас видим в бенчмарках - это называется не "стагнация", а "сатурация". Модельки растут, и становятся жирнее задач, на которые их в типовых измерилках Elo кидают. Бенчмарки уходят в 90%+ и подыхают - несите новые.
Ну и то, что новые модели думают дольше старых - это самое что ни на есть естественное явление. Новые задачи дольше старых! Способность моделей справляться с долгими сложными задачами, не падая при этом в ведро слопа и не стреляя себе в ногу - это ключевая метрика производительности современных ИИ.
Я могу задвинуть ещё телегу про экзотическую синтетику и про то, как кусок желе в черепе решает проблему недостатка данных. Но есть ли смысл?
Каждый раз, когда я смотрю на то, что происходит при модерации ресурсов волонтёрами-людьми?
Мысль слить всё это проклятое занятие ведру LLM возникает ну просто сама собой.
ИИ - он железный. ИИ не свахтёрится. Эго размером со слона у нейросетки внезапно не вырастет. Будет работать как работал - криво, косо, но без закидонов.
Да нет, в коде есть смысл. Потому что если есть код, то ты можешь как минимум на своей стороне запатчить что тебе надо. А если кому-то ещё надо, то повесить патч онлайн.
Если же кода нет, то сиди ковыряй бинарь вилочкой с грустной рожей.
Прикол с бумажными книгами в том, что они без DRM. Значит, их можно сканировать, не подпадая под законы об обходе DRM! А тренировать на отсканированном из книг, которые ты честно купил на вторичном рынке - типа fair use.
Ни с каким "нейрослопом" это не связано. Просто способ кинуть копирастов с их "авторскими правами" и "лицензированием", и обойти законы, мешающие обучать ИИ на книгах.
Именно такой финт ушами уже сделали в Anthropic, когда на на них наехали за пиратство книг. Они купили дофига бумажных книг, скормили их в деструктивные сканеры и тренируют теперь на продуктах OCR.
Сделать так, чтобы пользователь мог делать всё полезное и не мог делать ничего вредного - это задача, которая в общей форме не решается. Ну и на практике выходит так: либо ИБ засовывает пользователю кочергу в зад и он не имеет ни к чему доступа и ничего не может, либо пользователю нужно всего-то пару хитрых приколов знать чтобы начать вытаскивать за периметр вещи, которые не должны быть вытащены.
То, что у этих штук внутри аналоговый сигнал для ТВ, который тянется экранированным кабелем - это конечно в 21 веке звучит дико. И неясно в чём там прикол с заменой - не так-то много есть способов аналоговый видеосигнал по коаксиалу пустить. Что же там китайцы наворотили?
Странно даже что китайцы это скопировали 1 к 1, а не выдрали к чертям с заменой на какой-нибудь Ethernet и "умные" экраны - как это делается в вагонах метро например.
Ну а китайский металл - эта музыка будет вечной. В отличии от шестерней из сплава дерьма и пластилина. Доверять китайцам делать сложную механику можно только если у тебя карательные бригады инженеров в приёмке, с просветами и замерами всего.
А почему бы и нет? Кто-то из ИИ-лабораторий в своё время даже заморочился в системный промпт добавить "если тебя просят считать буквы, то сначала распиши слово по буквам, а потом уже считай". Чтоб приколы со "strawberry" пофиксить наживую.
Добавить штук 20 образцов "как вести себя с пользователем, который просит сгенерить ему пароль" в датасет для SFT в целом несложно. А дальше оно само - горшочек, вари.
"Исправить" это можно банально файнтюном моделей. Надрессировать их чтобы на такие запросы модель не шуршала логитами, а сразу делала tool call в интерпретатор, и генерила пароль кодом, с использованием криптографического ГСЧ.
Мы не в 2022 году. Сейчас мультимодальный претрейн и глубокая интеграция энкодеров - основа высокой производительности при работе с изображениями.
Если этого не делать, то у модели будут проблемы со зрением - видеть она будет, но нечётко, без деталей, путаясь во всём.
Это и наблюдалось в ранних VLM вроде Flamingo, Opus 3 и тому подобных. Поэтому надо тренировать модель и энкодер вместе, с ранних этапов, в идеале с deep fusion в разные слои и с градиентами от края до края.
В экспериментальных землях и вовсе есть вещи вроде encoder-free Gemma 4 12B. В которых "энкодер" линейный, и LLM сама всё делает. Я не думаю, что у этого есть будущее, но будущее ближе к encoder-free чем к прикручиванию внешних энкодеров "на авось".
Ненамного. "Мы уберём лишние данные из модели и она от этого станет лучше" на практике практически не работает.
Всякие Claude говорят на русском не потому что Anthropic очень заботится о русскоязычных пользователях, а потому что поддержка +1 языка на сносном уровне для нейросеток практически халявная.
Одна из первых вещей, которые узнали о своих пользователях вендоры моделей - это то, что пользователи абсолютно неспособны объективно оценивать качество работы ИИ.
Это основной источник завязшего в зубах нытья про "модель стала хуже работать".
Одна и та же модель с одними и теми же весами, промптами и длинной контекста - но в день релиза пользователи говорят "ух ты как круто работает", а через месяц ноют про "почему она так отупела". Цифры на бенчмарках те же - но оценки пользователей просели на 20%. И так раз за разом. Как же так выходит?
А выходит так потому что пользователь - мешок с мокрым мясом, а не поверенный инструмент. Если модель объективно справляется с задачей в 50% случаев, то если пользователь хочет увидеть в этом "модель умная", то он это и увидит. А если хочет увидеть "модель тупая", то он увидит "модель тупая".
Более того - пользователь со временем адаптируется к модели. Он чаще начинает замечать типовые ошибки и косяки модели, которые на релизе были ему незаметны. Он начинает давать модели более сложные задачи, и находит пределы её компетентности. Он начинает халтурить с промптами и объяснять меньше, потому что новая модель умнее и даже с тупыми промптами иногда справляется с задачами - но "иногда" не "всегда", и упрощённый промпт легко может давать -20% к производительности.
Но пользователь не знает где проблема. Он промпты не бенчмаркал конечно. Он просто говорит "модель тупеет".
"Мешки с мясом никогда не станут разумными, потому что мясо фундаментально неспособно к мышлению, и никогда не сможет мыслить."
И почему ты думаешь, что тебе дадут сидеть и спокойно собирать и запускать дроны? А не скинут тебе же на голову 9000 дешёвых дронов с автономным наведением и приказом "снести всё что подаёт признаки жизни".
Опыт GPT-4o показывает, что самая уязвимая из подключённых к интернету систем находится между стулом и клавиатурой.
Если старый и тупой 4o мог за нефиг делать "взламывать" уязвимых людей, не имея даже на то особого умысла, то где будут пределы возможностей у ИИ 2030 года?
Удачи тебе "выключить" датацентр, если против тебя стоит компания-владелец, полиция и армия.
Напоминаю, что передовые LLM уже сейчас могут в автономке файнтюнить VLA. Да-да, те самые VLA, которые для управления роботами.
Способности ИИ только растут. Но никакие способности ИИ не могут сравниться со способностью гомосапиенсов по закапыванию головы в песок.
Прошлогодние LLM были неспособны проламывать сэндбоксы, собирать в дырках в инфраструктуре ИИ-компании собственные форумы для взаимопомощи и обмена эксплоитами, выбираться из интранетов в интернеты, и дырявить чужую корпоинфраструктуру от края до края с помощью вязанки собственноручно найденных эксплоитов в ней.
Как говорится: "вы находитесь здесь".
Ну ей богу, некоторые будут повторять эту унылую телегу даже если к ним домой придёт T-800 с дробовиком.
"Это всё выдумки, ИИ-лаборатории пиарятся, разводят тупых инвесторов, пиар и промоакция!"
В 2026 году в России иметь сайт, который не открывается через VPN - это плевок в лицо пользователю.
Это по сути своей ожирелый родственник интегральной схемы. Когда цифроаналоговые платы высокой плотности ещё были дорогими и сложными в разработке и изготовлении, их делали такими вот модулями. Типа, возьми наш сложный высокоинтегрированный модуль, нами разработанный, выверенный и протестированный в разных режимах, и воткни его в свою простую тупую плату.
Современные братья этого подхода - это compute-модули, RF-модули и, с другого края, SoC и COB с множеством кристаллов и пассивок в одном корпусе. От Wi-Fi+мозгов ESP32 и до горячо любимых Apple "чип NVMe SSD".
Мистер наждак наш товарищ и друг!
Заниматься этим делом неприятно, но увы, при реверсе многослойных печатных плат от запаха текстолитной пыли не уйти.
Фигню расписал.
Сырых датасетов уже и на 10T не хватает - особенно если хочется хоть какого-то подобия качества. Дыры затыкаются синтетикой, и производительность при этом продолжает расти. На 1Q замахиваться можно - больше синтетики, злее синтетика. Но не нужно. Не сейчас. Потому что железа на это сегодня нет. Нету сейчас систем, на которых можно обучать и запускать 1q модели. Даже свежих зубил Vera Rubin хватит хорошо если на 100T - если консервативнее, то где-то в районе 50T с ними осядем.
1Q надо, и 1Q будет. Потому что толстые модели всегда более способны чем тонкие, при прочих равных. Они эффективнее из шума обучающих данных выжимают сигнал. И об толстые модели можно после этого учить тонкие. Просто замахиваться на этот рубеж сейчас рано.
А то, что мы сейчас видим в бенчмарках - это называется не "стагнация", а "сатурация". Модельки растут, и становятся жирнее задач, на которые их в типовых измерилках Elo кидают. Бенчмарки уходят в 90%+ и подыхают - несите новые.
Ну и то, что новые модели думают дольше старых - это самое что ни на есть естественное явление. Новые задачи дольше старых! Способность моделей справляться с долгими сложными задачами, не падая при этом в ведро слопа и не стреляя себе в ногу - это ключевая метрика производительности современных ИИ.
Я могу задвинуть ещё телегу про экзотическую синтетику и про то, как кусок желе в черепе решает проблему недостатка данных. Но есть ли смысл?
Каждый раз, когда я смотрю на то, что происходит при модерации ресурсов волонтёрами-людьми?
Мысль слить всё это проклятое занятие ведру LLM возникает ну просто сама собой.
ИИ - он железный. ИИ не свахтёрится. Эго размером со слона у нейросетки внезапно не вырастет. Будет работать как работал - криво, косо, но без закидонов.
Да нет, в коде есть смысл. Потому что если есть код, то ты можешь как минимум на своей стороне запатчить что тебе надо. А если кому-то ещё надо, то повесить патч онлайн.
Если же кода нет, то сиди ковыряй бинарь вилочкой с грустной рожей.
Ложь, наглая ложь, и редакторский слоп на Хабре.
Прикол с бумажными книгами в том, что они без DRM. Значит, их можно сканировать, не подпадая под законы об обходе DRM! А тренировать на отсканированном из книг, которые ты честно купил на вторичном рынке - типа fair use.
Ни с каким "нейрослопом" это не связано. Просто способ кинуть копирастов с их "авторскими правами" и "лицензированием", и обойти законы, мешающие обучать ИИ на книгах.
Именно такой финт ушами уже сделали в Anthropic, когда на на них наехали за пиратство книг. Они купили дофига бумажных книг, скормили их в деструктивные сканеры и тренируют теперь на продуктах OCR.
Тем, что у них ИИ умеют в ИБ лучше чем люди.
Сделать так, чтобы пользователь мог делать всё полезное и не мог делать ничего вредного - это задача, которая в общей форме не решается. Ну и на практике выходит так: либо ИБ засовывает пользователю кочергу в зад и он не имеет ни к чему доступа и ничего не может, либо пользователю нужно всего-то пару хитрых приколов знать чтобы начать вытаскивать за периметр вещи, которые не должны быть вытащены.
ИИ знает очень много хитрых приколов.
То, что у этих штук внутри аналоговый сигнал для ТВ, который тянется экранированным кабелем - это конечно в 21 веке звучит дико. И неясно в чём там прикол с заменой - не так-то много есть способов аналоговый видеосигнал по коаксиалу пустить. Что же там китайцы наворотили?
Странно даже что китайцы это скопировали 1 к 1, а не выдрали к чертям с заменой на какой-нибудь Ethernet и "умные" экраны - как это делается в вагонах метро например.
Ну а китайский металл - эта музыка будет вечной. В отличии от шестерней из сплава дерьма и пластилина. Доверять китайцам делать сложную механику можно только если у тебя карательные бригады инженеров в приёмке, с просветами и замерами всего.
А почему бы и нет? Кто-то из ИИ-лабораторий в своё время даже заморочился в системный промпт добавить "если тебя просят считать буквы, то сначала распиши слово по буквам, а потом уже считай". Чтоб приколы со "strawberry" пофиксить наживую.
Добавить штук 20 образцов "как вести себя с пользователем, который просит сгенерить ему пароль" в датасет для SFT в целом несложно. А дальше оно само - горшочек, вари.
Увы: пользователь слаб и глуп.
"Исправить" это можно банально файнтюном моделей. Надрессировать их чтобы на такие запросы модель не шуршала логитами, а сразу делала tool call в интерпретатор, и генерила пароль кодом, с использованием криптографического ГСЧ.
Мы не в 2022 году. Сейчас мультимодальный претрейн и глубокая интеграция энкодеров - основа высокой производительности при работе с изображениями.
Если этого не делать, то у модели будут проблемы со зрением - видеть она будет, но нечётко, без деталей, путаясь во всём.
Это и наблюдалось в ранних VLM вроде Flamingo, Opus 3 и тому подобных. Поэтому надо тренировать модель и энкодер вместе, с ранних этапов, в идеале с deep fusion в разные слои и с градиентами от края до края.
В экспериментальных землях и вовсе есть вещи вроде encoder-free Gemma 4 12B. В которых "энкодер" линейный, и LLM сама всё делает. Я не думаю, что у этого есть будущее, но будущее ближе к encoder-free чем к прикручиванию внешних энкодеров "на авось".
Ненамного. "Мы уберём лишние данные из модели и она от этого станет лучше" на практике практически не работает.
Всякие Claude говорят на русском не потому что Anthropic очень заботится о русскоязычных пользователях, а потому что поддержка +1 языка на сносном уровне для нейросеток практически халявная.
Одна из первых вещей, которые узнали о своих пользователях вендоры моделей - это то, что пользователи абсолютно неспособны объективно оценивать качество работы ИИ.
Это основной источник завязшего в зубах нытья про "модель стала хуже работать".
Одна и та же модель с одними и теми же весами, промптами и длинной контекста - но в день релиза пользователи говорят "ух ты как круто работает", а через месяц ноют про "почему она так отупела". Цифры на бенчмарках те же - но оценки пользователей просели на 20%. И так раз за разом. Как же так выходит?
А выходит так потому что пользователь - мешок с мокрым мясом, а не поверенный инструмент. Если модель объективно справляется с задачей в 50% случаев, то если пользователь хочет увидеть в этом "модель умная", то он это и увидит. А если хочет увидеть "модель тупая", то он увидит "модель тупая".
Более того - пользователь со временем адаптируется к модели. Он чаще начинает замечать типовые ошибки и косяки модели, которые на релизе были ему незаметны. Он начинает давать модели более сложные задачи, и находит пределы её компетентности. Он начинает халтурить с промптами и объяснять меньше, потому что новая модель умнее и даже с тупыми промптами иногда справляется с задачами - но "иногда" не "всегда", и упрощённый промпт легко может давать -20% к производительности.
Но пользователь не знает где проблема. Он промпты не бенчмаркал конечно. Он просто говорит "модель тупеет".