Comments 3
Интересно, они слышали что-то о петлях положительной обратной связи ? И на чем они будут обучать ее дальше, если исключать из датасета код написанный ИИ ?
А если не исключать положительные результаты? Не только же говно код LLM генерирует, но вполне нормальный код. Соответственно, на нём также можно продолжить обучение. Разве нет?
Положительная обратная связь (ПОС) — тип обратной связи, при котором изменение выходного сигнала системы приводит к такому изменению входного сигнала, которое способствует дальнейшему отклонению выходного сигнала от первоначального значения. Положительная обратная связь ускоряет реакцию системы на изменение входного сигнала, поэтому её используют в определённых ситуациях, когда требуется быстрая реакция в ответ на изменение внешних параметров. В то же время положительная обратная связь приводит к неустойчивости и возникновению качественно новых (автоколебательных) систем.
Ну, а если по-простому, по-русски, то ПОС это такое динамическое взаимодействие элементов системы, которое очень быстро приводит к её расшатыванию. В случае с обучением ИИ на коде который написал ИИ только усиливается проблема качества
Claude Code совершает 4% всех публичных коммитов на GitHub