Наконец-то прозвучало от человека, к которому «там» хотя бы теоретически могут прислушаться. Технически — это очевидные вещи: интернет не строился с учетом того, что кто-то будет выборочно вырезать целые классы протоколов. Если продолжать «лечить» сеть такими методами, мы просто придем к состоянию закрытой локальной сети с вечно отваливающимися бизнес-сервисами.
Местами это прям концентрат MBA-сленга на квадратный метр :)
«авторская мастерская», «промышленный завод», «узкое горлышко», «утилизация», «клиенты-вампиры» и прочее... ИИ неплохо умеет собирать «джентльменский набор», но плохо расставляет приоритеты. В статье почти всё правильно по отдельности, но не хватает главного: что делать первым, если ресурсов мало, собственник перегружен, а команда уже живет в операционном аду.
Интересное здесь даже не Альтман со OpenAI, а логика отрасли: если стоимость вычислений, энергии и дата-центров выходит на уровень, который плохо бьётся с обычной коммерческой юнит-экономикой, то следующим "естественным" клиентом становится государство. Не потому, что все внезапно полюбили милитаризацию, а потому что частный рынок не очень любит бездонные капитальные расходы и бесконечно повышение цен (особенно в условиях конкуренции). Ну и да, вспомним китайцев, которые бесплатно или почти бесплатно раздают ИИ-добро, но открыто говорят, что сотрудничают со своими структурами.
Хороший материал, спасибо. Особенно понравилось, как показана роль СССР в этой истории не фоном, а как вполне важной части инфраструктуры экспедиции. Любопытный штрих: следующая экспедиция Нобиле на «Италии» закончится катастрофой и затем одной из самых известных международных арктических спасательных операций XX века — так что эта глава действительно читается как важная развилка, а не просто красивая победа.
Конфликт между этическими ограничениями ИИ-компаний (особенно Антропиков, которая изначально позиционирует себя как самую безопасную/этичную компанию с их подходом Constitutional AI) и потребностями военных ведомств назревал давно. Антропик, в отличие от OpenAI, которая уже давно убрала из своих правил пункт о запрете использования моделей в военных целях и активно сотрудничает с Пентагоном, пытается держать марку "этичного ИИ", специально взял в кавычки.
Технологии уровня OpenAI, Claude 3.5/4.x или Gemini слишком эффективны в анализе разведданных, логистике и написании кода, чтобы государственные структуры от них отказались. И как верно подмечено в комментарии выше, просто поменять системный промпт недостаточно. Современные модели тренируются так, чтобы отказывать в помощи при планировании атак или слежке на уровне базовых весов. Военным нужен полноценный открытый доступ без цензуры, что ломает всю концепцию безопасности Антропиков.
Я думаю, что по итогам встречи они не станут менять системные промпты и веса публичной модели клода. Вместо этого они договорятся о развертывании полностью изолированного инстанса (вероятно, в партнерстве с AWS, их главным инвестором) с измененным процессом RLHF, заточенным под нужды военных. Их продавят снять ограничения на использование своего ИИ для разведки, OSINT, кибербезопасности, логистики, перевода перехваченных сообщений и анализа спутниковых снимков. Но сохранит жесткий запрет на интеграцию ИИ в системы управления огнем.
Почитать было интересно. Это лишний раз заставляет задуматься о том, что такое "анонимность" (ее иллюзорность) в настоящее время. Но все же, статья строится на нарративе: "вы загрузили селфи, чтобы использовать чат-бота, и теперь вас проверяют по базам террористов и криптокошелькам". Персона это B2B-платформа с огромным количеством модулей. Банкам они продают проверку крипты и PEP, государству — свои сервисы, а OpenAI скорее всего, только базовую проверку возраста и подлинности ID. То, что платформа умеет делать 269 проверок, не означает, что OpenAI заказывает и оплачивает их все для каждого пользователя ChatGPT.
Хороший туториал, но метод Find-and-Replace (через old_str и new_str) — это не всегда однозначное решение для продакшена. Любая галлюцинация модели в один символ — и замена не сработает. Инструменты вроде Claude Code или Cursor занимаются именно тем, чтобы приземлить правки модели на реальный файл без ошибок в форматировании. Без перехода на diff-форматы такой агент быстро превратится в генератор синтаксических ошибок.
Квантовые вычисления, мультивселенная... Недавно узнал про MWI — интересный взгляд на квантовую механику, согласно которому наша вселенная постоянно разветвляется на множество параллельных реальностей при каждом квантовом событии. Но это я так, к слову.
Спасибо, это должно было быть в конце статьи. Теперь бы поскорее раскатать это не только на уровне Т-Банк, но и в целом общей практики, запрещающей похожие конструкции в согласиях.
Ну что, все почувствовали себя в безопасности? (•̀ᴗ•́)و ̑̑
Наконец-то прозвучало от человека, к которому «там» хотя бы теоретически могут прислушаться. Технически — это очевидные вещи: интернет не строился с учетом того, что кто-то будет выборочно вырезать целые классы протоколов. Если продолжать «лечить» сеть такими методами, мы просто придем к состоянию закрытой локальной сети с вечно отваливающимися бизнес-сервисами.
withOpacity создаёт новый цвет и не требует отдельного compositing layer, однако FadeTransition предпочтителен именно для анимированной прозрачности
А можно восстановить ссылку на оригинальное исследование? А то там 404.
Местами это прям концентрат MBA-сленга на квадратный метр :)
«авторская мастерская», «промышленный завод», «узкое горлышко», «утилизация», «клиенты-вампиры» и прочее... ИИ неплохо умеет собирать «джентльменский набор», но плохо расставляет приоритеты. В статье почти всё правильно по отдельности, но не хватает главного: что делать первым, если ресурсов мало, собственник перегружен, а команда уже живет в операционном аду.
Интересное здесь даже не Альтман со OpenAI, а логика отрасли: если стоимость вычислений, энергии и дата-центров выходит на уровень, который плохо бьётся с обычной коммерческой юнит-экономикой, то следующим "естественным" клиентом становится государство. Не потому, что все внезапно полюбили милитаризацию, а потому что частный рынок не очень любит бездонные капитальные расходы и бесконечно повышение цен (особенно в условиях конкуренции). Ну и да, вспомним китайцев, которые бесплатно или почти бесплатно раздают ИИ-добро, но открыто говорят, что сотрудничают со своими структурами.
Хороший материал, спасибо. Особенно понравилось, как показана роль СССР в этой истории не фоном, а как вполне важной части инфраструктуры экспедиции. Любопытный штрих: следующая экспедиция Нобиле на «Италии» закончится катастрофой и затем одной из самых известных международных арктических спасательных операций XX века — так что эта глава действительно читается как важная развилка, а не просто красивая победа.
Когда платформа говорит, что приватная переписка большинству не нужна, это обычно означает лишь то, что приватность стала неудобна самой платформе.
Мы корпоративно переезжали с Яндекса на свой почтовый сервер, сделали свой собственный инструмент - https://github.com/borzov/imap_migrate
Конфликт между этическими ограничениями ИИ-компаний (особенно Антропиков, которая изначально позиционирует себя как самую безопасную/этичную компанию с их подходом Constitutional AI) и потребностями военных ведомств назревал давно. Антропик, в отличие от OpenAI, которая уже давно убрала из своих правил пункт о запрете использования моделей в военных целях и активно сотрудничает с Пентагоном, пытается держать марку "этичного ИИ", специально взял в кавычки.
Технологии уровня OpenAI, Claude 3.5/4.x или Gemini слишком эффективны в анализе разведданных, логистике и написании кода, чтобы государственные структуры от них отказались. И как верно подмечено в комментарии выше, просто поменять системный промпт недостаточно. Современные модели тренируются так, чтобы отказывать в помощи при планировании атак или слежке на уровне базовых весов. Военным нужен полноценный открытый доступ без цензуры, что ломает всю концепцию безопасности Антропиков.
Я думаю, что по итогам встречи они не станут менять системные промпты и веса публичной модели клода. Вместо этого они договорятся о развертывании полностью изолированного инстанса (вероятно, в партнерстве с AWS, их главным инвестором) с измененным процессом RLHF, заточенным под нужды военных. Их продавят снять ограничения на использование своего ИИ для разведки, OSINT, кибербезопасности, логистики, перевода перехваченных сообщений и анализа спутниковых снимков. Но сохранит жесткий запрет на интеграцию ИИ в системы управления огнем.
Почитать было интересно. Это лишний раз заставляет задуматься о том, что такое "анонимность" (ее иллюзорность) в настоящее время. Но все же, статья строится на нарративе: "вы загрузили селфи, чтобы использовать чат-бота, и теперь вас проверяют по базам террористов и криптокошелькам". Персона это B2B-платформа с огромным количеством модулей. Банкам они продают проверку крипты и PEP, государству — свои сервисы, а OpenAI скорее всего, только базовую проверку возраста и подлинности ID. То, что платформа умеет делать 269 проверок, не означает, что OpenAI заказывает и оплачивает их все для каждого пользователя ChatGPT.
Хороший туториал, но метод Find-and-Replace (через old_str и new_str) — это не всегда однозначное решение для продакшена. Любая галлюцинация модели в один символ — и замена не сработает. Инструменты вроде Claude Code или Cursor занимаются именно тем, чтобы приземлить правки модели на реальный файл без ошибок в форматировании. Без перехода на diff-форматы такой агент быстро превратится в генератор синтаксических ошибок.
Соответственно, плагины используемые криптографическими системами для работы КриптоПро, Контура и прочих тоже перестанут работать
Такое хорошо в офисе включать в фоне
Чего только ни пробовал, но лучше claude 3.7 пока ничего не видел для написания кода
Попробовал, честно говоря не смог с ее помощью написать на один алгоритм. Возможно, она только для автокомплита подходит.
Квантовые вычисления, мультивселенная... Недавно узнал про MWI — интересный взгляд на квантовую механику, согласно которому наша вселенная постоянно разветвляется на множество параллельных реальностей при каждом квантовом событии. Но это я так, к слову.
Спасибо, это должно было быть в конце статьи. Теперь бы поскорее раскатать это не только на уровне Т-Банк, но и в целом общей практики, запрещающей похожие конструкции в согласиях.
Я вот тоже не понял, что мы прокачали кроме теоретических знаний
Отличная статья, которая еще долго не потеряет своей актуальности