Почему LLM продолжают генерировать ошибки в коде — и это не исправить масштабированием

Настоящего понимая и рассуждения я там не вижу, попытки есть.

Вероятно не попытки но имитация понимания и рассуждения.

Почему LLM продолжают генерировать ошибки в коде — и это не исправить масштабированием

Непосредственные создатели ллм пишут что ллм не понимает семантической разницы но инференс на внушительный % совпадает с тем что человек ожидает увидеть. Поэтому кажется что эта штука умеет думать и и.п. Chain of thought с большой вероятностью не более чем иллюзия

Upd. Даже доказали иллюзорность COT https://habr.com/ru/companies/technokratos/articles/939072/ Практически то про что автор и говорит

Функция, которую мне хотелось бы видеть в Git: группы коммитов

что если код не писали а удаляли, просто коммент оставлять одинокий?

Хакаем CAN шину авто. Мобильное приложение вместо панели приборов

Весьма опасная затея. Конечно, интересно, имеется ли какая защита на запись определенных значений на уровне прошивок.