Хороший материал, спасибо. Особенно понравилось, как показана роль СССР в этой истории не фоном, а как вполне важной части инфраструктуры экспедиции. Любопытный штрих: следующая экспедиция Нобиле на «Италии» закончится катастрофой и затем одной из самых известных международных арктических спасательных операций XX века — так что эта глава действительно читается как важная развилка, а не просто красивая победа.
Конфликт между этическими ограничениями ИИ-компаний (особенно Антропиков, которая изначально позиционирует себя как самую безопасную/этичную компанию с их подходом Constitutional AI) и потребностями военных ведомств назревал давно. Антропик, в отличие от OpenAI, которая уже давно убрала из своих правил пункт о запрете использования моделей в военных целях и активно сотрудничает с Пентагоном, пытается держать марку "этичного ИИ", специально взял в кавычки.
Технологии уровня OpenAI, Claude 3.5/4.x или Gemini слишком эффективны в анализе разведданных, логистике и написании кода, чтобы государственные структуры от них отказались. И как верно подмечено в комментарии выше, просто поменять системный промпт недостаточно. Современные модели тренируются так, чтобы отказывать в помощи при планировании атак или слежке на уровне базовых весов. Военным нужен полноценный открытый доступ без цензуры, что ломает всю концепцию безопасности Антропиков.
Я думаю, что по итогам встречи они не станут менять системные промпты и веса публичной модели клода. Вместо этого они договорятся о развертывании полностью изолированного инстанса (вероятно, в партнерстве с AWS, их главным инвестором) с измененным процессом RLHF, заточенным под нужды военных. Их продавят снять ограничения на использование своего ИИ для разведки, OSINT, кибербезопасности, логистики, перевода перехваченных сообщений и анализа спутниковых снимков. Но сохранит жесткий запрет на интеграцию ИИ в системы управления огнем.
Почитать было интересно. Это лишний раз заставляет задуматься о том, что такое "анонимность" (ее иллюзорность) в настоящее время. Но все же, статья строится на нарративе: "вы загрузили селфи, чтобы использовать чат-бота, и теперь вас проверяют по базам террористов и криптокошелькам". Персона это B2B-платформа с огромным количеством модулей. Банкам они продают проверку крипты и PEP, государству — свои сервисы, а OpenAI скорее всего, только базовую проверку возраста и подлинности ID. То, что платформа умеет делать 269 проверок, не означает, что OpenAI заказывает и оплачивает их все для каждого пользователя ChatGPT.
Хороший туториал, но метод Find-and-Replace (через old_str и new_str) — это не всегда однозначное решение для продакшена. Любая галлюцинация модели в один символ — и замена не сработает. Инструменты вроде Claude Code или Cursor занимаются именно тем, чтобы приземлить правки модели на реальный файл без ошибок в форматировании. Без перехода на diff-форматы такой агент быстро превратится в генератор синтаксических ошибок.
Квантовые вычисления, мультивселенная... Недавно узнал про MWI — интересный взгляд на квантовую механику, согласно которому наша вселенная постоянно разветвляется на множество параллельных реальностей при каждом квантовом событии. Но это я так, к слову.
Спасибо, это должно было быть в конце статьи. Теперь бы поскорее раскатать это не только на уровне Т-Банк, но и в целом общей практики, запрещающей похожие конструкции в согласиях.
Здорово, что всесторонне работаете над улучшением проектов. Вашей бы энергией еще сотрудников работающих с гражданами через эти сервисы зарядить…
А то подаешь заявление на оказание услуги и когда срок ее оказания уже неприлично в 2.5 раза выше обещанного и ни ответа, ни привета, хочется написать жалобу. Пишешь ее через соответствующую форму и снова попадаешь как минимум на суточный игнор. Но и это было терпимо, если бы через сутки-двое приходил вменяемый ответ, а не пришлите свой логин, почту, СНИЛС и т.д. для идентификации, хотя обращение писалось из-под авторизованного аккаунта.
Это не техническое и визуальное качество ресурса. Это та услуга, ради которой я, как пользователь, пошел на портал.
У меня есть недавний интересный кейс: один аккаунт я регистрировал сам, другой, с такой же почтой, задублировался при авторизации через Госуслуги, а выше описаны мои попытки перенести СНИЛС из одного аккаунта в другой. Самое примечательное в этой истории — качество работы технической поддержки. Прочитайте, посмотрите сколько времени вы потратили у меня и сколько оплачиваемого времени потратили ваши сотрудники. И все в пустую. В конечном счете проблема так и не была решена (мне сказали что СНИЛС перенести невозможно и нужно с этим смириться). Может быть не только новыми сервисами заниматься, но и уже работающие имеет смысл поддерживать и развивать?
PGCONF.RUSSIA 2015
6-7 февраля 2015 года. Цель форума – собрать вместе всех разработчиков, пользователей и администраторов PostgreSQL, а также представителей бизнеса, государственных органов и компаний, стоящих перед выбором платформы, для свободного обмена знаниями по интересующим их вопросам.
Сайт: pgconf.ru/
Регистрация: runet-id.com/event/pgcr15
Cyber Security Forum 2015
Международный Форум по кибербезопасности с участием международных и российских экспертов. Основная задача Форума – это обмен опытом и выявление лучших практик в сфере информационной безопасности (технологии, законодательство и решения).
Регистрация: runet-id.com/event/csf15
Хороший материал, спасибо. Особенно понравилось, как показана роль СССР в этой истории не фоном, а как вполне важной части инфраструктуры экспедиции. Любопытный штрих: следующая экспедиция Нобиле на «Италии» закончится катастрофой и затем одной из самых известных международных арктических спасательных операций XX века — так что эта глава действительно читается как важная развилка, а не просто красивая победа.
Когда платформа говорит, что приватная переписка большинству не нужна, это обычно означает лишь то, что приватность стала неудобна самой платформе.
Мы корпоративно переезжали с Яндекса на свой почтовый сервер, сделали свой собственный инструмент - https://github.com/borzov/imap_migrate
Конфликт между этическими ограничениями ИИ-компаний (особенно Антропиков, которая изначально позиционирует себя как самую безопасную/этичную компанию с их подходом Constitutional AI) и потребностями военных ведомств назревал давно. Антропик, в отличие от OpenAI, которая уже давно убрала из своих правил пункт о запрете использования моделей в военных целях и активно сотрудничает с Пентагоном, пытается держать марку "этичного ИИ", специально взял в кавычки.
Технологии уровня OpenAI, Claude 3.5/4.x или Gemini слишком эффективны в анализе разведданных, логистике и написании кода, чтобы государственные структуры от них отказались. И как верно подмечено в комментарии выше, просто поменять системный промпт недостаточно. Современные модели тренируются так, чтобы отказывать в помощи при планировании атак или слежке на уровне базовых весов. Военным нужен полноценный открытый доступ без цензуры, что ломает всю концепцию безопасности Антропиков.
Я думаю, что по итогам встречи они не станут менять системные промпты и веса публичной модели клода. Вместо этого они договорятся о развертывании полностью изолированного инстанса (вероятно, в партнерстве с AWS, их главным инвестором) с измененным процессом RLHF, заточенным под нужды военных. Их продавят снять ограничения на использование своего ИИ для разведки, OSINT, кибербезопасности, логистики, перевода перехваченных сообщений и анализа спутниковых снимков. Но сохранит жесткий запрет на интеграцию ИИ в системы управления огнем.
Почитать было интересно. Это лишний раз заставляет задуматься о том, что такое "анонимность" (ее иллюзорность) в настоящее время. Но все же, статья строится на нарративе: "вы загрузили селфи, чтобы использовать чат-бота, и теперь вас проверяют по базам террористов и криптокошелькам". Персона это B2B-платформа с огромным количеством модулей. Банкам они продают проверку крипты и PEP, государству — свои сервисы, а OpenAI скорее всего, только базовую проверку возраста и подлинности ID. То, что платформа умеет делать 269 проверок, не означает, что OpenAI заказывает и оплачивает их все для каждого пользователя ChatGPT.
Хороший туториал, но метод Find-and-Replace (через old_str и new_str) — это не всегда однозначное решение для продакшена. Любая галлюцинация модели в один символ — и замена не сработает. Инструменты вроде Claude Code или Cursor занимаются именно тем, чтобы приземлить правки модели на реальный файл без ошибок в форматировании. Без перехода на diff-форматы такой агент быстро превратится в генератор синтаксических ошибок.
Соответственно, плагины используемые криптографическими системами для работы КриптоПро, Контура и прочих тоже перестанут работать
Такое хорошо в офисе включать в фоне
Чего только ни пробовал, но лучше claude 3.7 пока ничего не видел для написания кода
Попробовал, честно говоря не смог с ее помощью написать на один алгоритм. Возможно, она только для автокомплита подходит.
Квантовые вычисления, мультивселенная... Недавно узнал про MWI — интересный взгляд на квантовую механику, согласно которому наша вселенная постоянно разветвляется на множество параллельных реальностей при каждом квантовом событии. Но это я так, к слову.
Спасибо, это должно было быть в конце статьи. Теперь бы поскорее раскатать это не только на уровне Т-Банк, но и в целом общей практики, запрещающей похожие конструкции в согласиях.
Я вот тоже не понял, что мы прокачали кроме теоретических знаний
Отличная статья, которая еще долго не потеряет своей актуальности
А то подаешь заявление на оказание услуги и когда срок ее оказания уже неприлично в 2.5 раза выше обещанного и ни ответа, ни привета, хочется написать жалобу. Пишешь ее через соответствующую форму и снова попадаешь как минимум на суточный игнор. Но и это было терпимо, если бы через сутки-двое приходил вменяемый ответ, а не пришлите свой логин, почту, СНИЛС и т.д. для идентификации, хотя обращение писалось из-под авторизованного аккаунта.
Это не техническое и визуальное качество ресурса. Это та услуга, ради которой я, как пользователь, пошел на портал.
Что касается обработки поступлений, то мы тоже не смогли найти API, да и банки менять не хотелось. Поэтому пошли по пути парсинга выписок.
PGCONF.RUSSIA 2015
6-7 февраля 2015 года. Цель форума – собрать вместе всех разработчиков, пользователей и администраторов PostgreSQL, а также представителей бизнеса, государственных органов и компаний, стоящих перед выбором платформы, для свободного обмена знаниями по интересующим их вопросам.
Сайт: pgconf.ru/
Регистрация: runet-id.com/event/pgcr15
Cyber Security Forum 2015
Международный Форум по кибербезопасности с участием международных и российских экспертов. Основная задача Форума – это обмен опытом и выявление лучших практик в сфере информационной безопасности (технологии, законодательство и решения).
Регистрация: runet-id.com/event/csf15
i-COMference 2015
Конференция про коммуникации в интернете.
runet-id.com/event/icomf15/
Performance Marketing 2015
Нового сайта пока нет, регистрация еще не открыта, но известно что конференция пройдет в сентябре 2015 года.
Russian Interactive Week 2015
11–13 ноября 2015 года состоится самое крупное ИТ-мероприятие в России. Сайт планируется запустить уже в январе-феврале.