Ну что, перепись: кто новенький, а кто уже смешарик?
Немного удивляет то, что оригинал не перетащили на Adobe AIR. Эта штука буквально была придумана для того, чтобы делать из Flash приложух типа нативные, как раз для платформ где браузерный флэш помер. Не знаю только, есть ли в этой штуке поддержка аппаратного ускорения.
Нет на мобильных устройствах более омерзительных вещей чем банковские приложения.
Хочешь перевести 500 рублей? Будь добр установить 90 мегов обсфуцированной дряни, которая при установке запросит доступ ко всему, начнёт сканировать девайс на предмет рута, разлочки загрузчика, модификаций прошивки и прочих признаков неблагонадёжности, и откажется работать если их найдёт.
Но зато рекламу кредитов в нотификации это приложение тебе пихать будет исправно!
Ей богу, запретили бы банкам делать эти приложения вообще. Пусть делают стандартные API, к которым подключаются стандартные банк-клиенты.
И почему ты думаешь, что тебе дадут сидеть и спокойно собирать и запускать дроны? А не скинут тебе же на голову 9000 дешёвых дронов с автономным наведением и приказом "снести всё что подаёт признаки жизни".
Опыт GPT-4o показывает, что самая уязвимая из подключённых к интернету систем находится между стулом и клавиатурой.
Если старый и тупой 4o мог за нефиг делать "взламывать" уязвимых людей, не имея даже на то особого умысла, то где будут пределы возможностей у ИИ 2030 года?
Удачи тебе "выключить" датацентр, если против тебя стоит компания-владелец, полиция и армия.
Прошлогодние LLM были неспособны проламывать сэндбоксы, собирать в дырках в инфраструктуре ИИ-компании собственные форумы для взаимопомощи и обмена эксплоитами, выбираться из интранетов в интернеты, и дырявить чужую корпоинфраструктуру от края до края с помощью вязанки собственноручно найденных эксплоитов в ней.
Это по сути своей ожирелый родственник интегральной схемы. Когда цифроаналоговые платы высокой плотности ещё были дорогими и сложными в разработке и изготовлении, их делали такими вот модулями. Типа, возьми наш сложный высокоинтегрированный модуль, нами разработанный, выверенный и протестированный в разных режимах, и воткни его в свою простую тупую плату.
Современные братья этого подхода - это compute-модули, RF-модули и, с другого края, SoC и COB с множеством кристаллов и пассивок в одном корпусе. От Wi-Fi+мозгов ESP32 и до горячо любимых Apple "чип NVMe SSD".
Сырых датасетов уже и на 10T не хватает - особенно если хочется хоть какого-то подобия качества. Дыры затыкаются синтетикой, и производительность при этом продолжает расти. На 1Q замахиваться можно - больше синтетики, злее синтетика. Но не нужно. Не сейчас. Потому что железа на это сегодня нет. Нету сейчас систем, на которых можно обучать и запускать 1q модели. Даже свежих зубил Vera Rubin хватит хорошо если на 100T - если консервативнее, то где-то в районе 50T с ними осядем.
1Q надо, и 1Q будет. Потому что толстые модели всегда более способны чем тонкие, при прочих равных. Они эффективнее из шума обучающих данных выжимают сигнал. И об толстые модели можно после этого учить тонкие. Просто замахиваться на этот рубеж сейчас рано.
А то, что мы сейчас видим в бенчмарках - это называется не "стагнация", а "сатурация". Модельки растут, и становятся жирнее задач, на которые их в типовых измерилках Elo кидают. Бенчмарки уходят в 90%+ и подыхают - несите новые.
Ну и то, что новые модели думают дольше старых - это самое что ни на есть естественное явление. Новые задачи дольше старых! Способность моделей справляться с долгими сложными задачами, не падая при этом в ведро слопа и не стреляя себе в ногу - это ключевая метрика производительности современных ИИ.
Я могу задвинуть ещё телегу про экзотическую синтетику и про то, как кусок желе в черепе решает проблему недостатка данных. Но есть ли смысл?
Каждый раз, когда я смотрю на то, что происходит при модерации ресурсов волонтёрами-людьми?
Мысль слить всё это проклятое занятие ведру LLM возникает ну просто сама собой.
ИИ - он железный. ИИ не свахтёрится. Эго размером со слона у нейросетки внезапно не вырастет. Будет работать как работал - криво, косо, но без закидонов.
Да нет, в коде есть смысл. Потому что если есть код, то ты можешь как минимум на своей стороне запатчить что тебе надо. А если кому-то ещё надо, то повесить патч онлайн.
Если же кода нет, то сиди ковыряй бинарь вилочкой с грустной рожей.
Прикол с бумажными книгами в том, что они без DRM. Значит, их можно сканировать, не подпадая под законы об обходе DRM! А тренировать на отсканированном из книг, которые ты честно купил на вторичном рынке - типа fair use.
Ни с каким "нейрослопом" это не связано. Просто способ кинуть копирастов с их "авторскими правами" и "лицензированием", и обойти законы, мешающие обучать ИИ на книгах.
Именно такой финт ушами уже сделали в Anthropic, когда на на них наехали за пиратство книг. Они купили дофига бумажных книг, скормили их в деструктивные сканеры и тренируют теперь на продуктах OCR.
Сделать так, чтобы пользователь мог делать всё полезное и не мог делать ничего вредного - это задача, которая в общей форме не решается. Ну и на практике выходит так: либо ИБ засовывает пользователю кочергу в зад и он не имеет ни к чему доступа и ничего не может, либо пользователю нужно всего-то пару хитрых приколов знать чтобы начать вытаскивать за периметр вещи, которые не должны быть вытащены.
То, что у этих штук внутри аналоговый сигнал для ТВ, который тянется экранированным кабелем - это конечно в 21 веке звучит дико. И неясно в чём там прикол с заменой - не так-то много есть способов аналоговый видеосигнал по коаксиалу пустить. Что же там китайцы наворотили?
Странно даже что китайцы это скопировали 1 к 1, а не выдрали к чертям с заменой на какой-нибудь Ethernet и "умные" экраны - как это делается в вагонах метро например.
Ну а китайский металл - эта музыка будет вечной. В отличии от шестерней из сплава дерьма и пластилина. Доверять китайцам делать сложную механику можно только если у тебя карательные бригады инженеров в приёмке, с просветами и замерами всего.
А почему бы и нет? Кто-то из ИИ-лабораторий в своё время даже заморочился в системный промпт добавить "если тебя просят считать буквы, то сначала распиши слово по буквам, а потом уже считай". Чтоб приколы со "strawberry" пофиксить наживую.
Добавить штук 20 образцов "как вести себя с пользователем, который просит сгенерить ему пароль" в датасет для SFT в целом несложно. А дальше оно само - горшочек, вари.
"Исправить" это можно банально файнтюном моделей. Надрессировать их чтобы на такие запросы модель не шуршала логитами, а сразу делала tool call в интерпретатор, и генерила пароль кодом, с использованием криптографического ГСЧ.
Мы не в 2022 году. Сейчас мультимодальный претрейн и глубокая интеграция энкодеров - основа высокой производительности при работе с изображениями.
Если этого не делать, то у модели будут проблемы со зрением - видеть она будет, но нечётко, без деталей, путаясь во всём.
Это и наблюдалось в ранних VLM вроде Flamingo, Opus 3 и тому подобных. Поэтому надо тренировать модель и энкодер вместе, с ранних этапов, в идеале с deep fusion в разные слои и с градиентами от края до края.
В экспериментальных землях и вовсе есть вещи вроде encoder-free Gemma 4 12B. В которых "энкодер" линейный, и LLM сама всё делает. Я не думаю, что у этого есть будущее, но будущее ближе к encoder-free чем к прикручиванию внешних энкодеров "на авось".
Ну что, перепись: кто новенький, а кто уже смешарик?
Немного удивляет то, что оригинал не перетащили на Adobe AIR. Эта штука буквально была придумана для того, чтобы делать из Flash приложух типа нативные, как раз для платформ где браузерный флэш помер. Не знаю только, есть ли в этой штуке поддержка аппаратного ускорения.
Нет на мобильных устройствах более омерзительных вещей чем банковские приложения.
Хочешь перевести 500 рублей? Будь добр установить 90 мегов обсфуцированной дряни, которая при установке запросит доступ ко всему, начнёт сканировать девайс на предмет рута, разлочки загрузчика, модификаций прошивки и прочих признаков неблагонадёжности, и откажется работать если их найдёт.
Но зато рекламу кредитов в нотификации это приложение тебе пихать будет исправно!
Ей богу, запретили бы банкам делать эти приложения вообще. Пусть делают стандартные API, к которым подключаются стандартные банк-клиенты.
"Мешки с мясом никогда не станут разумными, потому что мясо фундаментально неспособно к мышлению, и никогда не сможет мыслить."
И почему ты думаешь, что тебе дадут сидеть и спокойно собирать и запускать дроны? А не скинут тебе же на голову 9000 дешёвых дронов с автономным наведением и приказом "снести всё что подаёт признаки жизни".
Опыт GPT-4o показывает, что самая уязвимая из подключённых к интернету систем находится между стулом и клавиатурой.
Если старый и тупой 4o мог за нефиг делать "взламывать" уязвимых людей, не имея даже на то особого умысла, то где будут пределы возможностей у ИИ 2030 года?
Удачи тебе "выключить" датацентр, если против тебя стоит компания-владелец, полиция и армия.
Напоминаю, что передовые LLM уже сейчас могут в автономке файнтюнить VLA. Да-да, те самые VLA, которые для управления роботами.
Способности ИИ только растут. Но никакие способности ИИ не могут сравниться со способностью гомосапиенсов по закапыванию головы в песок.
Прошлогодние LLM были неспособны проламывать сэндбоксы, собирать в дырках в инфраструктуре ИИ-компании собственные форумы для взаимопомощи и обмена эксплоитами, выбираться из интранетов в интернеты, и дырявить чужую корпоинфраструктуру от края до края с помощью вязанки собственноручно найденных эксплоитов в ней.
Как говорится: "вы находитесь здесь".
Ну ей богу, некоторые будут повторять эту унылую телегу даже если к ним домой придёт T-800 с дробовиком.
"Это всё выдумки, ИИ-лаборатории пиарятся, разводят тупых инвесторов, пиар и промоакция!"
В 2026 году в России иметь сайт, который не открывается через VPN - это плевок в лицо пользователю.
Это по сути своей ожирелый родственник интегральной схемы. Когда цифроаналоговые платы высокой плотности ещё были дорогими и сложными в разработке и изготовлении, их делали такими вот модулями. Типа, возьми наш сложный высокоинтегрированный модуль, нами разработанный, выверенный и протестированный в разных режимах, и воткни его в свою простую тупую плату.
Современные братья этого подхода - это compute-модули, RF-модули и, с другого края, SoC и COB с множеством кристаллов и пассивок в одном корпусе. От Wi-Fi+мозгов ESP32 и до горячо любимых Apple "чип NVMe SSD".
Мистер наждак наш товарищ и друг!
Заниматься этим делом неприятно, но увы, при реверсе многослойных печатных плат от запаха текстолитной пыли не уйти.
Фигню расписал.
Сырых датасетов уже и на 10T не хватает - особенно если хочется хоть какого-то подобия качества. Дыры затыкаются синтетикой, и производительность при этом продолжает расти. На 1Q замахиваться можно - больше синтетики, злее синтетика. Но не нужно. Не сейчас. Потому что железа на это сегодня нет. Нету сейчас систем, на которых можно обучать и запускать 1q модели. Даже свежих зубил Vera Rubin хватит хорошо если на 100T - если консервативнее, то где-то в районе 50T с ними осядем.
1Q надо, и 1Q будет. Потому что толстые модели всегда более способны чем тонкие, при прочих равных. Они эффективнее из шума обучающих данных выжимают сигнал. И об толстые модели можно после этого учить тонкие. Просто замахиваться на этот рубеж сейчас рано.
А то, что мы сейчас видим в бенчмарках - это называется не "стагнация", а "сатурация". Модельки растут, и становятся жирнее задач, на которые их в типовых измерилках Elo кидают. Бенчмарки уходят в 90%+ и подыхают - несите новые.
Ну и то, что новые модели думают дольше старых - это самое что ни на есть естественное явление. Новые задачи дольше старых! Способность моделей справляться с долгими сложными задачами, не падая при этом в ведро слопа и не стреляя себе в ногу - это ключевая метрика производительности современных ИИ.
Я могу задвинуть ещё телегу про экзотическую синтетику и про то, как кусок желе в черепе решает проблему недостатка данных. Но есть ли смысл?
Каждый раз, когда я смотрю на то, что происходит при модерации ресурсов волонтёрами-людьми?
Мысль слить всё это проклятое занятие ведру LLM возникает ну просто сама собой.
ИИ - он железный. ИИ не свахтёрится. Эго размером со слона у нейросетки внезапно не вырастет. Будет работать как работал - криво, косо, но без закидонов.
Да нет, в коде есть смысл. Потому что если есть код, то ты можешь как минимум на своей стороне запатчить что тебе надо. А если кому-то ещё надо, то повесить патч онлайн.
Если же кода нет, то сиди ковыряй бинарь вилочкой с грустной рожей.
Ложь, наглая ложь, и редакторский слоп на Хабре.
Прикол с бумажными книгами в том, что они без DRM. Значит, их можно сканировать, не подпадая под законы об обходе DRM! А тренировать на отсканированном из книг, которые ты честно купил на вторичном рынке - типа fair use.
Ни с каким "нейрослопом" это не связано. Просто способ кинуть копирастов с их "авторскими правами" и "лицензированием", и обойти законы, мешающие обучать ИИ на книгах.
Именно такой финт ушами уже сделали в Anthropic, когда на на них наехали за пиратство книг. Они купили дофига бумажных книг, скормили их в деструктивные сканеры и тренируют теперь на продуктах OCR.
Тем, что у них ИИ умеют в ИБ лучше чем люди.
Сделать так, чтобы пользователь мог делать всё полезное и не мог делать ничего вредного - это задача, которая в общей форме не решается. Ну и на практике выходит так: либо ИБ засовывает пользователю кочергу в зад и он не имеет ни к чему доступа и ничего не может, либо пользователю нужно всего-то пару хитрых приколов знать чтобы начать вытаскивать за периметр вещи, которые не должны быть вытащены.
ИИ знает очень много хитрых приколов.
То, что у этих штук внутри аналоговый сигнал для ТВ, который тянется экранированным кабелем - это конечно в 21 веке звучит дико. И неясно в чём там прикол с заменой - не так-то много есть способов аналоговый видеосигнал по коаксиалу пустить. Что же там китайцы наворотили?
Странно даже что китайцы это скопировали 1 к 1, а не выдрали к чертям с заменой на какой-нибудь Ethernet и "умные" экраны - как это делается в вагонах метро например.
Ну а китайский металл - эта музыка будет вечной. В отличии от шестерней из сплава дерьма и пластилина. Доверять китайцам делать сложную механику можно только если у тебя карательные бригады инженеров в приёмке, с просветами и замерами всего.
А почему бы и нет? Кто-то из ИИ-лабораторий в своё время даже заморочился в системный промпт добавить "если тебя просят считать буквы, то сначала распиши слово по буквам, а потом уже считай". Чтоб приколы со "strawberry" пофиксить наживую.
Добавить штук 20 образцов "как вести себя с пользователем, который просит сгенерить ему пароль" в датасет для SFT в целом несложно. А дальше оно само - горшочек, вари.
Увы: пользователь слаб и глуп.
"Исправить" это можно банально файнтюном моделей. Надрессировать их чтобы на такие запросы модель не шуршала логитами, а сразу делала tool call в интерпретатор, и генерила пароль кодом, с использованием криптографического ГСЧ.
Мы не в 2022 году. Сейчас мультимодальный претрейн и глубокая интеграция энкодеров - основа высокой производительности при работе с изображениями.
Если этого не делать, то у модели будут проблемы со зрением - видеть она будет, но нечётко, без деталей, путаясь во всём.
Это и наблюдалось в ранних VLM вроде Flamingo, Opus 3 и тому подобных. Поэтому надо тренировать модель и энкодер вместе, с ранних этапов, в идеале с deep fusion в разные слои и с градиентами от края до края.
В экспериментальных землях и вовсе есть вещи вроде encoder-free Gemma 4 12B. В которых "энкодер" линейный, и LLM сама всё делает. Я не думаю, что у этого есть будущее, но будущее ближе к encoder-free чем к прикручиванию внешних энкодеров "на авось".