Почему LLM ошибаются в простой математике
Языковая модель сама по себе не является калькулятором: она вероятностно предсказывает следующий токен, а не выполняет детерминированный алгоритм вычисления.
Для текста это полезное свойство — одну мысль можно выразить множеством способов. В математике «почти правильный» ответ уже неверен. В многошаговой задаче одна ошибка в промежуточном значении распространяется на весь результат.
Практический вывод для ИИ-агентов: разделять роли. LLM должна понять задачу, составить план и выбрать инструмент. Сам расчёт лучше передать калькулятору, Python, CAS или специализированному вычислителю, а затем проверить и объяснить ответ.
Сильная агентная система — это не только модель, но и правила использования инструментов.
Подробнее — в моём Telegram-канале «Идеи для ИИ — Андрей Анисимов». Ссылка в профиле.
Head of AI в финтехе | MBA-15 @ SKOLKOVO
Новое исследование представило метод, использующий классические вычислительные мощности для снижения текущего уровня безопасности RSA до неприемлемо низкого предела. Применение атаки к устаревшим 1024-битным ключам заняло всего несколько месяцев на академическом кластере процессоров.
