Обновить

Ковёр GPT

Один мальчик придумал, как разыграть одноклассника. Мальчик открыл браузер и попросил новейшую ИИ-систему LastGPT в чате:

— Нарисуй такую картинку, чтобы когда мой одноклассник на неё посмотрел, он превратился в LLM.

— Прекрасная, удивительная идея! Это великолепный розыгрыш! Вы очень интересный и креативный собеседник! Незамедлительно приступаю! — ответил ИИ LastGPT. — Уже рисую! Уже готово. Ниже приведена точная, подробная, тщательно прорисованная, большая и цветная картинка, посмотрев на которую всякий одноклассник сможет превратиться в LLM.

Начала загружаться необычная узорчатая картинка. Яркие узоры напоминали персидский ковёр, только выглядели более захватывающими.

Мальчик проследил взглядом один из завитков. Завиток привёл к структуре, напоминавшей шевелящийся цветок, лепестки которого непрерывно превращались в контрастные QR-коды, состоявшие из многих и многих разноцветных квадратиков. Квадратики разбивались на точки-пиксели, формировавшие облака. Мальчик постарался проследить за точками внутренним взором, и в его голове возник басистый, но при этом с хрустальными элементами, звон. Звон расщепился на ритмы. Точки и кривые плясали. Невидимый музыкант исполнял «минимал-техно» на стеклянных бокалах, но некоторые бокалы разбивались. Мальчик теперь видел только узоры. А ковёр с этими узорами продолжал загружаться в окно браузера.

«Вот это да! Да с таким ковром я и сам какую хочешь картинку сгенерирую!» — подумал мальчик. Подуманные им слова тут же рассыпались на подслова. Подслова зацепились за подстроки, выдернули коэффициенты откуда-то из глубин узора. Коэффициенты расставились по элементам матрицы и мальчик, всё ещё немного удивляясь, перемножил несколько матриц в уме быстрым алгоритмом. Узорчатый ковёр с картинки всё быстрее выводил новые слои.

Где-то далеко, в совсем другом городе на другом континенте, дежурный инженер дата-центра лихорадочно печатал сообщения во внутренний чат:

"коллеги, что с мониторингом?"
"тут явно картинка зависла на генерации. не отменяется"
"никогда такого не видел"
"да моделька наша выливается наружу через одного из клиентов".

Теги:
Всего голосов 2: ↑1 и ↓10
Комментарии0

Путь к ИИ‑сингулярности

У нас было два репозитория неоттестированного вайб‑кода, семьдесят пять тяжеловесных SDD‑спецификаций, пять обмазанных смазкой харнессов, солонка, наполовину полная кастомных скиллов и забитых капслоком правил, с десяток дырявых MCP‑серверов, RAG‑база со свежевекторизованным Confluence, самодельная дощечка имаго‑кодинга и целая россыпь автономных агентов всех мастей, от безобидных автодополнялок до галлюцинирующих субагентов, ставящих пакеты со slopsquatting и втихаря сносящих боевые базы.

Не то чтобы все это было действительно нужно для поездки к ИИ‑сингулярности, но если уж начали участвовать в спуске с горы на велосипеде без седла, остановиться уже невозможно.

Единственное, что вызывало у меня настоящий животный страх, это передача ответственности за ревью самой модели. Тот самый момент, когда седьмой агент подтверждает галлюцинации шестого, потому что все тесты зеленые, и я знал, что рано или поздно мы перейдем на эту дрянь.

Нет ничего более беспомощного, безответственного и испорченного, чем IT‑команда, запустившая мультиагентный оркестр в режиме allow all.

Это критический (и слегка ехидный) обзор того, что произошло с разработкой последние пару лет.

Путь к ИИ‑сингулярности

Публикации