Языковые модели лучше справляются с математикой при использовании "верифицируемой траектории рассуждений"

(обзор модели rStar-Math)

Что делает ИИ-систему хорошей в математике? Не сырая вычислительная мощность, а нечто почти противоречивое: невротичная тщательность в проверке своей правоты.

Когда исследователи ИИ говорят о математических рассуждениях, они обычно сосредотачиваются на масштабировании — более крупных моделях, большем количестве параметров, объёмных датасетах. Но на практике математические способности не зависят от объема вычислительных ресурсов вашей модели. Всё дело в том, могут ли машины научиться проверять собственную работу, поскольку не менее 90% ошибок в рассуждениях возникают из-за того, что модели уверенно утверждают неверные промежуточные шаги.

Полагаю, это звучит очевидно, когда понимаешь суть. Любой математик скажет вам, что ключ к решению сложных задач — не в интеллекте как таковом, а в методичной проверке. Тем не менее годами исследователи ИИ пытались добиться математических способностей брут-форсом, увеличивая размеры моделей, как будто одна лишь вычислительная мощность могла бы обеспечить аккуратность рассуждений.

1. Большинство людей не разговаривают с ChatGPT о личном

Исследователи проанализировали почти 40 миллионов взаимодействий и выяснили, что подавляющее большинство пользователей используют ChatGPT только для практических задач, а не для эмоциональной поддержки или дружеских бесед.

2. «Дружба» с ИИ — редкое явление

Только небольшая группа активных пользователей действительно воспринимает ChatGPT как друга. Именно эти люди чаще всего вовлекаются в эмоционально насыщенные беседы с ботом.

3. Голосовое общение с ИИ может быть палкой о двух концах

Использование голосового режима ChatGPT показало смешанные результаты. При кратковременном использовании — положительное влияние на самочувствие, но при длительном ежедневном использовании — негативное влияние.

4. Личные разговоры с ИИ связаны с противоречивыми эффектами

Когда пользователи обсуждали с ботом личные темы, исследователи отметили повышение уровня одиночества, но снижение эмоциональной зависимости от ИИ.

5. В зоне риска — те, кто склонен к сильной привязанности

Люди, которые в целом склонны к формированию сильных эмоциональных связей в отношениях, чаще испытывали негативные последствия от общения с чат‑ботом.

6. Чем дольше общение с ИИ, тем хуже для психики

Исследование выявило связь между продолжительным ежедневным использованием ChatGPT и ухудшением психологических показателей.

Хакер делает из любви то, что другие не стали бы делать и за деньги.

Недавно я помог компании восстановить их данные после атаки программы-вымогателя Akira без выплаты выкупа. Я делюсь тем, как я это сделал, вместе с полным исходным кодом.

Код доступен здесь: https://github.com/yohanes/akira-bruteforce

Для ясности, несколько вариантов программ-вымогателей были названы Akira за эти годы, и несколько версий сейчас находятся в обращении. Вариант, с которым я столкнулся, активен с конца 2023 года по настоящее время (компания подверглась взлому в этом году).

Была более ранняя версия (до середины 2023 года), которая содержала ошибку, позволившую Avast создать дешифратор. Однако, как только это было опубликовано, злоумышленники обновили свое шифрование. Я ожидаю, что они снова изменят своё шифрование после того, как я опубликую эту информацию.

"Postgres масштабируется" - нет других двух слов, которые вызывали бы больше споров. По крайней мере, в кругах, где я общаюсь, в подвале компании, где инфраструктурные эльфы заставляют Rails-приложение работать. Многие верят, вопреки всему и маркетинговым кампаниям Big NoSQL, что знакомая технология лучше, чем новый неизвестный инструмент, о котором только что рассказали на совещании руководства.

Честно говоря, я понимаю их позицию. Заставить Postgres писать больше данных может быть сложно. Вам нужно больше оборудования. В большинстве случаев его можно получить, просто нажав кнопку "Обновить". Но когда вы дошли до экземпляра r5.24xlarge с 5 репликами такого же размера, и ваши процессы vacuum всё ещё отстают от графика, ситуация становится довольно пугающей.

Именно здесь начинается испытание для настоящего инженера. На пределе возможностей. Я говорю не о WebAssembly. Я говорю об инженерном духе, который смотрит на проблему под давлением руководства и вместо того, чтобы бежать к ближайшей команде продаж с большими обещаниями (но малым количеством фактов о вашем конкретном случае), решает её, используя базовые принципы.

А базовый принцип говорит нам, что нам нужно. У Postgres закончилась пропускная способность для записи. Либо из-за блокировок при работе с WAL, либо что-то застопорило vacuum. Вероятно, это та неактивная транзакция, которая открыта уже 45 секунд, пока приложение делает запрос к Stripe, но это не наша забота. Мы - инфраструктурная команда, и наша задача - заставить базу данных работать.

Интернет любит теанин. Это аналог аминокислоты, который естественным образом содержится в чае, но сейчас продается как пищевая добавка от тревожности, для улучшения настроения или памяти.

Многие люди пробуют теанин и сообщают, что он вау, отлично помогает при СДВГ, излечил мою (социальную) тревожность или меняет мою жизнь. И это не только сообщество энтузиастов эффекта плацебо. Эта ветка на Hacker News полна положительных отзывов, а Гверн Брэнвен регулярно его использует.

Атаки с использованием похищенных учетных данных оказали огромное влияние в 2024 году, подпитываемые порочным кругом заражений инфостилерами и утечек данных. Но ситуация может усугубиться еще больше с появлением "Компьютерных агентов" (Computer-Using Agents) – нового типа ИИ-агентов, которые обеспечивают недорогую и простую автоматизацию обычных веб-задач, включая те, которые часто выполняются злоумышленниками.