Комментарии 51
Т.е. вариант, что код curl в принципе уже хорош настолько, что даже Mythos в нём ничего найти не может, даже не рассматривается, и все, включая автора curl, считают, что Mythos слаб? 🤔
Именно, микроутилита с одним интерфейсом изучена вдоль и поперек. А какая-нибудь банковская система с 100 интеграциями явно больше получит полезного от модели
вы давно хелп открывали к курлу? там "интеграций" и подержки всякого в протоколах за 1к уже перевалило
Тем не менее, curl это программа одной функции. Всего 180 kloc. В какой-нибудь типичной java проге описания интерфейсов, дающие 0 инструкций байт-кода, весят больше...
ага. и зависимостей на пару млн loc
ldd /usr/bin/curl
linux-vdso.so.1 (0x000075cbc0a32000)
libcurl.so.4 => /lib/x86_64-linux-gnu/libcurl.so.4 (0x000075cbc090a000)
libz.so.1 => /lib/x86_64-linux-gnu/libz.so.1 (0x000075cbc08ee000)
libc.so.6 => /lib/x86_64-linux-gnu/libc.so.6 (0x000075cbc0600000)
libnghttp2.so.14 => /lib/x86_64-linux-gnu/libnghttp2.so.14 (0x000075cbc08c3000)
libidn2.so.0 => /lib/x86_64-linux-gnu/libidn2.so.0 (0x000075cbc08a1000)
librtmp.so.1 => /lib/x86_64-linux-gnu/librtmp.so.1 (0x000075cbc0881000)
libssh.so.4 => /lib/x86_64-linux-gnu/libssh.so.4 (0x000075cbc058e000)
libpsl.so.5 => /lib/x86_64-linux-gnu/libpsl.so.5 (0x000075cbc086d000)
libssl.so.3 => /lib/x86_64-linux-gnu/libssl.so.3 (0x000075cbc04e4000)
libcrypto.so.3 => /lib/x86_64-linux-gnu/libcrypto.so.3 (0x000075cbbfe00000)
libgssapi_krb5.so.2 => /lib/x86_64-linux-gnu/libgssapi_krb5.so.2 (0x000075cbc0819000)
libldap.so.2 => /lib/x86_64-linux-gnu/libldap.so.2 (0x000075cbc0486000)
liblber.so.2 => /lib/x86_64-linux-gnu/liblber.so.2 (0x000075cbc0476000)
libzstd.so.1 => /lib/x86_64-linux-gnu/libzstd.so.1 (0x000075cbc03bc000)
libbrotlidec.so.1 => /lib/x86_64-linux-gnu/libbrotlidec.so.1 (0x000075cbc03ae000)
/lib64/ld-linux-x86-64.so.2 (0x000075cbc0a34000)
libunistring.so.5 => /lib/x86_64-linux-gnu/libunistring.so.5 (0x000075cbbfc53000)
libgnutls.so.30 => /lib/x86_64-linux-gnu/libgnutls.so.30 (0x000075cbbfa58000)
libhogweed.so.6 => /lib/x86_64-linux-gnu/libhogweed.so.6 (0x000075cbc0366000)
libnettle.so.8 => /lib/x86_64-linux-gnu/libnettle.so.8 (0x000075cbbfa03000)
libgmp.so.10 => /lib/x86_64-linux-gnu/libgmp.so.10 (0x000075cbbf97f000)
libkrb5.so.3 => /lib/x86_64-linux-gnu/libkrb5.so.3 (0x000075cbbf8b6000)
libk5crypto.so.3 => /lib/x86_64-linux-gnu/libk5crypto.so.3 (0x000075cbc033a000)
libcom_err.so.2 => /lib/x86_64-linux-gnu/libcom_err.so.2 (0x000075cbc0334000)
libkrb5support.so.0 => /lib/x86_64-linux-gnu/libkrb5support.so.0 (0x000075cbc0327000)
libsasl2.so.2 => /lib/x86_64-linux-gnu/libsasl2.so.2 (0x000075cbbf89c000)
libbrotlicommon.so.1 => /lib/x86_64-linux-gnu/libbrotlicommon.so.1 (0x000075cbbf879000)
libp11-kit.so.0 => /lib/x86_64-linux-gnu/libp11-kit.so.0 (0x000075cbbf6d5000)
libtasn1.so.6 => /lib/x86_64-linux-gnu/libtasn1.so.6 (0x000075cbbf6bf000)
libkeyutils.so.1 => /lib/x86_64-linux-gnu/libkeyutils.so.1 (0x000075cbc031e000)
libresolv.so.2 => /lib/x86_64-linux-gnu/libresolv.so.2 (0x000075cbbf6ac000)
libffi.so.8 => /lib/x86_64-linux-gnu/libffi.so.8 (0x000075cbbf6a0000)
Но ии не сканировал исходники этих библиотек
а вот это случается с теми, кто не проверяет слинкованные либы и сценарии с ними, ага
https://www.opennet.ru/opennews/art.shtml?num=65436
С другой стороны, а кто туда эту модель пустит, потому что за такое сверху можно по голове получить за передачу исходников на сторону. И локально развернуть не получится, потому что выкладывать модель никто не собирается.
банк той же страны пустят, внутри законы соблюдаются или есть возможность хорошенько подпортить нервы (в США юристы очень любят это дело).
а еще можно обращаться через прокси компании, а так же заниматься исследованиями не самостоятельно (банку) а нанять соответствующего аудитора, это тоже очень хорошо бумажками обкладывают, в случае чего есть кого наказывать
Я конечно не сварщик, знаю об этом только от своего товарища. Как мне рассказывали, внешний аудит безопасности банков проводится либо в формате чёрного ящика, либо в защищённом контуре без права копирования. В случае чего кстати накажут сам банк, попросту отозвав у него лицензию. Единственный вариант это купить решение "под ключ" с нейронкой во внутреннем контуре. Как при этом обеспечить обновления для нейронки чтобы она не отставала от публичной версии вопрос хороший, думаю тоже будет требовать кучи бумажек и денег. Так что технологическая сингулярность нам не светит и это хорошо.
Любой у кого отдельный частный контракт с майкрософт/антропик с юридическими гарантиями приватности. Это как спросить "кто даст антивирусу сканить внутренние ресурсы"
Антивирус работает локально на серверах банка, ничего на сторону не отдаёт. Mythos (а я говорю про него) будет работать на серверах антропик, никакие гарантии приватности тут не помогут, запрещено регуляторами. Единственный вариант это купить стойки с mythos "под ключ", если конечно майки/антропик будут такое предлагать.
Ну во-первых в рамках "СТО БР ИББС" и ОУД4 банк не то, что может отдать исходники "на сторону", он обязан это делать, предоставляя исходных код квалифицированным оценщикам с лицензией ФСТЭК.
А во-вторых, что касается Mythos, то при соблюдении TPRM(OCC/FDIC/Fed) нет никаких ограничений на предоставление америнскими банкам своего кода внешним американским аудиторам, не зависимо от использование LLM. Тот же Goldman Sachs уже давно репорит об использовании AI для генерации и анализа кода для своих внутрених продуктов
Вот только подменять понятия не надо. Я тоже отдаю свои исходники в аккредитованную лабораторию с соответствующей лицензией, даже шкафы с железками им отправляю. Что-то я соответствующей лицензии у майков/антропика не припомню, и сомневаюсь они её получат. Также, нанятые аудиторы используют (а они используют), также как и разработчики в подобных сферах, локальные модели, а не сторонние облачные решения вроде Mythos. В приведённой же вами ссылке сказано что Goldman Sachs использует модели во внутреннем контуре, о чём я собственно вам и говорил выше. Цитата по вашей же ссылке
Chief Information Officer Marco Argenti said the company’s approach to generative AI involved centralizing all proprietary uses of the technology on an internal platform, and restricting them elsewhere.
Читайте, пожалуйста, источник прежде чем кидаться ссылками.
соответствующей лицензии у майков/антропика
Майки в свое время получали сертификацию ФСТЭК для работы в госкомпаниях, военных учреждениях и закрытых НИИ, если бы им надо было и политическая ситуация была бы другой, они бы и AI для банков аффилировали.
нанятые аудиторы используют (а они используют), также как и разработчики в подобных сферах, локальные модели, а не сторонние облачные решения вроде Mythos
Съесть-то он съест, да кто ж ему даст(с)
Ввиду санционных пакетов, российские аудиторы не получат доступ к продуктам Open AI, Google и Anthropic в ближайшие пару(десятков) лет, даже если очень захотят. А вот если через какое-то время яндекс выкатит какую-то свою модель для аудита кода и это будет не только можно, но обязательно к использованию для сертификации - этому я не удивлюсь.
В приведённой же вами ссылке сказано что Goldman Sachs использует модели во внутреннем контуре. Читайте, пожалуйста, источник
Нет, там не это сказано. Читать надо до конца, а не первый абзац.
Goldman’s approach also included tapping partnerships with OpenAI-backer Microsoft to use GPT-3.5 and GPT-4 models and Google for its Gemini model. The platform also uses open source models including Meta Platforms’ Llama. The ability to switch between models for different use cases is a key benefit of the approach, Argenti said.
Причём тут ФСТЭК если речь была изначально про банки и передачу кода. Просто ещё раз напомню что продукты майков которые проходили ФСТЭК один хер крутятся во внутреннем контуре. Да и сертифицировались их продукты по 6 классу защиты, то есть буквально "ну, шпионить они за вами не будут, а если будут то не специально".
Я кстати таки перечёл источник внимательно, даже парочку других захватил. Ограничения на передачу кода есть, Goldman Sachs как раз и разработало свою систему для фильтрации данных которые идут наружу и управления доступа, а также дообучения модели, а самое главное — исключение собственных данных из обучающей выборки.
Ограничения на передачу кода есть, Goldman Sachs как раз и разработало свою систему для фильтрации данных которые идут наружу и управления доступ
Вы путаете данные и код
исключение собственных данных из обучающей выборки.
Это стандартный пункт коммерческого контракта такого рода.
Вы путаете данные и код
В данном контексте разделение данных и кода некорректно. Как минимум потому что вы можете раскрыть внутреннюю инфраструктуру, инструкции и алгоритмы, не говоря уже о рисках потерять права на интеллектуальную собственность.
Контракт с goldman sachs не совсем стандартный, потому что они также оставляют за собой право дообучать модель, и веса будут принадлежать goldman sachs.
Так то конечно сложно не согласиться. 3 ложноположительных глюка в вылизанном коде это определенно сильный результат
Тут иное. Мозила нашла гору уязвимостей в Огнелисе потому что дала Клоду доступ к своему внутреннему инструментарию для поиска багов и автоматическую систему проверки. От чего Клод мог крутится в цикле, выискивать , проверять и тд.
А тут просто код показали разок без обвязки
Сложность и объем кода в фаерфоксе и курле просто не сравнимы. Современные браузеры одни из самых сложных программ в мире. Поэтому уязвимостей там дофига и больше.
Это хорошее и правильное замечание, но только вот:
Mozilla пока что единственные, кто отчитался об огромном успехе. Остальные же на данный момент в основном молчат. Более того, характер постов от Mozilla (унылый хайповоз с минимумом важной информации) наталкивает на плачевные мысли.
Это противоречит всему маркетингу Anthropic, где Mythos можно было использовать из коробки для взлома всего подряд.
Mozilla на ранних этапах проводила небольшие эксперименты с Opus 4.6, что, как понимаю, позволило им найти в районе 30 (или даже больше?) уязвимостей. Это уже как минимум ставит вопрос о том, сколько уязвимостей нашел бы Opus 4.6 в правильной "обвязке" при масштабном сканировании кодовой базы. Имеющиеся результаты предполагают, что разница была бы не особо-то и велика (и это подтвердило бы изначальную мысль автора статьи). Факт того, что Mozilla упорно обходит стороной то, какой вклад вносят "другие ИИ модели", только ещё сильнее наталкивают на эту мысль.
Да, но Стенберг прямо пишет, что он хорош в том числе и потому что по нему уже прошлись другие AI-сканеры.
В оригинальной статье написано:
These were absolutely not the last bugs to find or report. Just while I was writing the drafts for this blog post we have received more reports from security researchers about suspected problems.
Да, ситуация тут несколько сложнее.
Дело не в слабости модели, а в завышенных ожиданиях, созданных пиарщиками. Инструмент хороший, но он не творит чудеса там, где чудеса уже не требуются
Закрытый доступ Mithos дал по 1 млрд к оценке стоимости Антропик за каждую заявленную уязвимость.
Какая разница, сколько из них подтвердилось, если их акции взлетели до небес?
Дальше начинается несовпадение с маркетинговым нарративом. Модель отрапортовала о пяти "подтвержденных уязвимостях". После разбора силами команды безопасности curl три из них оказались false positive — описанием поведения API, прямо задокументированном в документации; четвертый случай команда классифицировала как "просто баг", а единственной реальной уязвимостью стала CVE низкой важности, которую выпустят синхронно с curl 8.21.0 в конце июня.
Первый публичный отзыв от ведущего разработчика крупного open-source-проекта выглядит, как заявление "это не баг, а фича". А еще мне интересно, что такое "просто баг"? Это не означает, что я перестал пользоваться curl-ом в своем linux-e, просто риторика "ведущего разработчика" до боли знакома.
А еще мне интересно, что такое "просто баг"?
Значит не уязвимость
А исправлять-то надо? А если надо, то в чем разница для нерадивого разработчика? Понятно, что если «это не баг, а фича» — то не надо исправлять!
Mythos сказал: исправь это, это и это, а кожаный мешок возмутился!
Плюсом к этому в отчете описаны еще около двадцати багов без статуса уязвимости — их разбирают по одному и часть фиксят.
Чинят же. Ты же понимаешь разницу между багом и уязвимостью? Заявлены были именно уязвимости.
Разница есть для пользователей.
Например, уязвимость, через которую атакующий может поднять себе права, и баг "в диалоге About имя автора написано с опечаткой" это две разные вещи. Править, по-хорошему, нужно оба бага, но со вторым можно пожить и год, и два, никто не умрёт.
Я бы сказал, что уязвимости это подможество багов.
Честно говоря, curl чекать здорово, но вроде не очень понятно, что ловить: это же не сервер, это программа, где ошибки могут быть вида "не туда положил файл", что не снимает актуальность, но сайт скоуп делает меньше (комп пользователя).
Дыра в (условном) веб-сервере или еще каком-то сервере, обслуживающем миллионы клиентов, явно будет заметнее последствиям.
А уж в кривом банковском софте внутренней разработки, который и так еле работает (и который лечится только отмазками ТП) - вот там бы такой чек много бы дал для всех. Хотя бы тупо с точки зрения даже национальной безопасности: какой стране приятно знать, что ее банки и их софт суть пороховая бочка?
Из таких "всего-лишь компов пользователей" получается прекрасный ботнет.
А уж в кривом банковском софте внутренней разработки
в котором просто с 146% вероятностью будет курл. никто не пишет свои http клиенты, реюзают готовое
да, “всего лишь” одна из очень распространенных библиотек, используемых как на клиентской стороне так и на серверной, если с сервера нужно сделать запрос, от машин, андроид устройств и до марсоходов (https://everything.curl.dev/project/users.html)
Как я уже говорил выше, в банковский софт модель никто не пустит, а локально развернуть не получится. Да и проблемы в банках зачастую не в утечках памяти, а в проблемах с логикой, сомневаюсь что модель тут поможет.
А передавать третьим лицам информацию о том где фитиль и как его поджечь, сильно, сильно.
Антропики нашли один баг в curl! Срочно несите им еще миллиард инвестиций, они же спасли интернет! Главное не говорить инвесторам, что этот баг даже не уязвимость
другие AI-сканеры, через которые curl прогоняли раньше — AISLE, Zeropath и OpenAI Codex Security — за 8–10 месяцев суммарно дали проекту 200–300 багфиксов и больше дюжины CVE.
Mozilla отчиталась о 271 уязвимости в Firefox за месяц работы с Mythos, curl — об одной CVE низкого уровня важности.
Мозиллу прогоняли через всё перечисленное? Не говоря о том, что МОзилла и покрупнее будет несколько.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Маркетинговый хайп»: из пяти уязвимостей Mythos в curl подтвердилась одна