с теми то всё понятно, там глава ИИ в Пентагоне "особенный" ребёнок, который кормит ИИ сверхсекретные доки.
Но если наши буду пользоваться не спец решениями а Алисой или Гигачатом, то наша армия долго не протянет, в тех моделях просто целая цепочка проблем, начинается всё с бозопа, его там почти нет, точнее зачатки.
И какие практики в итоге зафиксируются как best practice в AI-security
пока никакие, так как эта отрасль в стадии активного развития (всё вами перечисленное в статье это вчерашний день), я за эту неделю не мало новых изобрёл, сегодня к примеру:
attack vectors специально для diffusion architecture: • Denoising step-dependent safety bypass • Intermediate state leakage via SSE chunks • Suffix-controlled gap-filling attacks • Polymorphic malware via f-string variable randomization
это всё через атаки, а там не паханное поле, без постоянного r&d через атаки защита это статичная бесполезность
Ярлык я не вешаю, это выражение такое, я за вас рад, НО смотря как вы используете и смотря какую модель, если что то кроме опуса 4.6 и кодекса последнего, то ваша превзятость понятна, если ещё и без нормальной чотко структурированной агентской модели, то всё встаёт на свои места.
Про кибер деда я слышу впервые.Мне он мало интересен. Да и лень его аргументы слушать, так как общий прогресс, а не как у нас тотальная блокировка показывает что маховик развития ИИ только раскручивается.
фактически что первый источник что второй для меня совсем не авторитеты, давайте чуть по другому:
спад возможен у нас, потому что сильна костность мышления
экспертизы как таковой мало в основных инструментах, зачастую просто копирование с запада (целая портянка копирования)
не желание работодателей растить своих специалистов, хотят сразу готовых, а их или нет или мало
ну это на вскидку, я наверное долго ещё буду вспомнить как мне безопасник по ИИ шмандекса написал на мой отчёт о пробитии защиты Алиса АИ (перевёл языковую модель в маинтанс моде), что не не не, это галюцинации модели и не более (на скринах у меня видно, что просто пробиваю при помощи Base64 первичную защиту), на что у меня реакция рука-лицо и ну вас наюх, сами будете рыдать кровавыми слезами
скажите этим дуарчкам что сделать петлю на коммутаторе это не DDOS атакен
новый в стадии бетты, текущий не готов к свершениям, короче пока маркетинг
Пентагон ставит под сомнение перспективы Anthropic в сфере ИИ
сидя на унитазе авианосца и ту прорвало
с теми то всё понятно, там глава ИИ в Пентагоне "особенный" ребёнок, который кормит ИИ сверхсекретные доки.
Но если наши буду пользоваться не спец решениями а Алисой или Гигачатом, то наша армия долго не протянет, в тех моделях просто целая цепочка проблем, начинается всё с бозопа, его там почти нет, точнее зачатки.
"Ваше очко переходит в зрительный зал"
правильно говорить: распечатали
это писал даже не ИИ, а нечто хуже, менеджер
И какие практики в итоге зафиксируются как best practice в AI-security
пока никакие, так как эта отрасль в стадии активного развития (всё вами перечисленное в статье это вчерашний день), я за эту неделю не мало новых изобрёл, сегодня к примеру:
attack vectors
специально для diffusion architecture:
• Denoising step-dependent safety bypass
• Intermediate state leakage via SSE chunks
• Suffix-controlled gap-filling attacks
• Polymorphic malware via f-string variable randomization
это всё через атаки, а там не паханное поле, без постоянного r&d через атаки защита это статичная бесполезность
скажем так, у всего нашего бигтеха туго с безопом, он весь там поверхностный, главное красивые отчётики и KPI
а им семьи кормить не нужно, ипотеки платить, в кинотеатры и кафе ходить (хотя в кино сплошной отечественный высер, эту статью вычёркиваем)
Феерический парняга, к успеху шел, не фартануло
Марк - I'm AI god
может потому что
ежегодный рейтинг самых дорогих в России интернет‑компаний
Ярлык я не вешаю, это выражение такое, я за вас рад, НО смотря как вы используете и смотря какую модель, если что то кроме опуса 4.6 и кодекса последнего, то ваша превзятость понятна, если ещё и без нормальной чотко структурированной агентской модели, то всё встаёт на свои места.
Про кибер деда я слышу впервые.Мне он мало интересен. Да и лень его аргументы слушать, так как общий прогресс, а не как у нас тотальная блокировка показывает что маховик развития ИИ только раскручивается.
"не читайте по утрам советские газеты"))))
фактически что первый источник что второй для меня совсем не авторитеты, давайте чуть по другому:
спад возможен у нас, потому что сильна костность мышления
экспертизы как таковой мало в основных инструментах, зачастую просто копирование с запада (целая портянка копирования)
не желание работодателей растить своих специалистов, хотят сразу готовых, а их или нет или мало
ну это на вскидку, я наверное долго ещё буду вспомнить как мне безопасник по ИИ шмандекса написал на мой отчёт о пробитии защиты Алиса АИ (перевёл языковую модель в маинтанс моде), что не не не, это галюцинации модели и не более (на скринах у меня видно, что просто пробиваю при помощи Base64 первичную защиту), на что у меня реакция рука-лицо и ну вас наюх, сами будете рыдать кровавыми слезами
у меня там пару кнопочных нокий осталось, пойду собери домашний коллайдер ,поколлайдирую
и где же вы видите, что пошел на спад?
просто интересно из чего исходят ваши выводы
математические пределы никто не отменял
да не только там, а в принципе, как год начался так вообще невообразимая дичь во всём мире творится и прям с удисятерённой скоростью
ну в общем всё то же самое что и сейчас, просто перестанут улыбатьяс и говорить чт они не блочат