Обновить

Большая языковая модель Mythos соответствует своему названию и остаётся притчей, которую рассказывают немногочисленные авторизованные организации и их сотрудники. Дело в том, что хотя продукт готов к использованию, компания-создатель модели Anthropic дала доступ к нему лишь избранным. Подобное объясняется опасениями о безопасности: якобы модель Mythos настолько сильная, что может взломать всех на свете.

Попытки анализа Mythos разнятся от высказываемого с чувственным придыханием восхищения до ехидного скептицизма. Некоторые баги безопасности действительно находятся, пусть и не в апокалиптических количествах. Усомниться в страхе перед массовыми взломами заставляет также то, что Anthropic выдала доступ к Mythos сотрудникам Агентства национальной безопасности США в целях применения в кибератаках. Что переживания о череде уязвимостей нулевого дня, если нужно выгородить себя после скандала с военными? Понравиться американскому правительству сейчас действительно надо бы: до этого Anthropic отказалась давать Пентагону Claude для атаки на Иран, что закончилось конфликтом.

Также интересно почитать байки очевидцев, у которых доступ к новинке уже есть. Некто @snwy_me рассказал в своём микроблоге, что с помощью Claude Mythos открыл vim на экране мультимедийной системы своей беленькой Mazda MX-5. Для этого запускать завайбкоженные программы на компьютере не пришлось, FORScan не понадобился — Mythos просто нашёл, как вызвать режим разработчика в головном блоке Miata. К твиту прикладывается фотография результата.

@snwy_me

Радость была недолгой: вскоре проявилась извечная проблема с выходом. Дело в том, что этот терминал ввод двоеточия не поддерживает; не работает также Shift. Это значит, что ввести :q или ZZ не получится, то есть из Vim выйти невозможно.

Перезапуск Miata мультимедийную систему не перезагружает. Лишь чуть погодя автовладелец сообразил снять клемму с аккумулятора.

Теги:
Всего голосов 5: ↑3 и ↓2+1
Комментарии1

Путь к ИИ‑сингулярности

У нас было два репозитория неоттестированного вайб‑кода, семьдесят пять тяжеловесных SDD‑спецификаций, пять обмазанных смазкой харнессов, солонка, наполовину полная кастомных скиллов и забитых капслоком правил, с десяток дырявых MCP‑серверов, RAG‑база со свежевекторизованным Confluence, самодельная дощечка имаго‑кодинга и целая россыпь автономных агентов всех мастей, от безобидных автодополнялок до галлюцинирующих субагентов, ставящих пакеты со slopsquatting и втихаря сносящих боевые базы.

Не то чтобы все это было действительно нужно для поездки к ИИ‑сингулярности, но если уж начали участвовать в спуске с горы на велосипеде без седла, остановиться уже невозможно.

Единственное, что вызывало у меня настоящий животный страх, это передача ответственности за ревью самой модели. Тот самый момент, когда седьмой агент подтверждает галлюцинации шестого, потому что все тесты зеленые, и я знал, что рано или поздно мы перейдем на эту дрянь.

Нет ничего более беспомощного, безответственного и испорченного, чем IT‑команда, запустившая мультиагентный оркестр в режиме allow all.

Это критический (и слегка ехидный) обзор того, что произошло с разработкой последние пару лет.

Путь к ИИ‑сингулярности

Публикации