Комментарии 22
Ка мне кажется, при текущей логике работы AI мы находимся на пике их возможностей. Нейросети берут исходные данные из вопросов и ответов людей -> люди перестают задавать вопросы и делиться ответами -> выборка данных иссякает. В то же время, появляются новые инструменты и подходы. Откуда нейросетям черпать эти данные, если люди разучатся делиться информацией?
Раньше интернет тупел от школьников, теперь будет тупеть от ИИ.
Когда уже какой нибудь ии стартап догадается выбрать в качестве символа змею, кусающую себя за хвост. Будет иронично
Кроме того среди кода на котором модели учатся появляется все больше кода сгенерированного ИИ.
Который по качеству ничем не отличается от человеческого, так как тренировался на примерах людей...
Вы статью читали? Написано на 40% больше ошибок. Дак это даже не то что сгенерил ИИ, а то что выбрал, доработал и оставил человек. А изначально там ошибок явно больше.
Ответ на ваш вопрос - AlphaZero
Нет никаких фундаментальных причин, по которым нейросетям был бы нужен код от людей для того, что бы учиться программировать. С ним проще, но он не обязателен.
А что AlphaZero? В неё был заложен строго детерминированный код: правила го/шахмат. И идеально определённый параметр успеха: выигрыш партии. Для того, чтобы научиться играть в шахматы/го, нужно что-то ещё?
С программированием можно сделать так же, но, очевидно, это гораздо более сложная задача, чем любая настольная игра.
Раньше считали, что да. Проработанные людьми дебюты, эвристики для оценки состояния доски. Многие шахматные программы и сейчас их используют.
Революция AlphaZero в том, что они доказали - это не нужно, что бы играть лучше людей. Человеческие навыки и опыт не нужны для обучения.
Программирование - более обширная область, но код тоже детерминирован. Результат предсказуем.
Ещё более тревожно, исследование зафиксировало увеличение количества ошибок на 41% при использовании инструмента AI. Это указывает на то, что, хотя AI может ускорить выполнение определённых задач разработки, он также может ввести новые вызовы в области качества кода и его поддержки.
Зачем обдумывать каждую строчку, если можно просто вставить то что предложил ИИ и поверхностно оценив "вроде похоже на правду". Скорость разработки растет, но на продумывание каждой строчки времени и желания уже не остается. А если сосредоточенно обдумывать каждую строчку то выигрыша особого не получается
Все более ценным становится умение создавать тесты, прохождение которых и будет acceptance criteria для кода, предложенного машиной. Причём все виды тестов - и на корректность, и на производительность... А что уж там нагенерил ИИ - не важно, если тесты выполняются успешно...
Учитывая, что код, на котором обучаются все эти копилоты никто критически не оценивает ни по каким метрикам, а в массе своей это индусский "Смотрите, хедхантеры, я завел себе гитхаб, прямо как Санджит с ютуба завещал" код, то ожидаем развития индустрии О-большое-тестов. Эти клоды такое несут, что диву даешься, причем непрерывно.
Типичный диалог с 4o:
- Как в X сделать Y?
- Несет с умным видом чушь на три экрана, в мельчайших подробностях описывая использование несуществующей фичи Z
- Но в X вообще нет фичи Z!
- Да, вы правы, в X нет фичи Z. стесняется и кокетничает
всем же знакомо?
И, нет, это не экзотические вопросы типа "Как на хаскелле наваять трассировку восьмислойной платы в форме Африки", а просто какие-нибудь форинкеи в джанге.
И, нет, это не экзотические вопросы типа "Как на хаскелле наваять трассировку восьмислойной платы в форме Африки", а просто какие-нибудь форинкеи в джанге.
Вот на хаскелле оно как раз неплохо себя показывает =)
Клод сильно лучше чем 4о. Хотя описанная проблема существует и в нем.
По моему относительно небольшому опыту взаимодействия, нейросети на данный момент хорошо могут создавать/обрабатывать "гуманитарную" информацию, при наличии встроенного калькулятора ещё и посчитать могут, но даже базовой оценки своих суждений в них нет. Что-то скомпилировал из входных и найденных в интернете данных по шаблону, и на выход. В программировании такое не всегда прокатывает даже при создании функций уровня базового калькулятора.
как и любой новый инструмент, ии требует принципиально другого подхода в использовании. Никого же не смущает, что и птицы и самолеты умеют летать, но летают они по разному. Логической ошибкой является перенос существующего стереотипа на принципиально новую технологию. ИИ просто потребует другой технологии программирования. Роль кодера будет уменьшаться, а роль архитектора расти. К тому же море задач, где требуется что либо сделать чисто функциональное. Например, настроить dhcp сервер в небольшой сети. Клод справляется этим на ура. Собственно, статья больше об этом.
Как Claude от Anthropic меняет правила игры для разработчиков программного обеспечения