Как стать автором
Обновить

Проект Сurl перестанет изучать отчёты об уязвимостях через платформу HackerOne, полученные с помощью ИИ-систем

Время на прочтение2 мин
Количество просмотров3K
Всего голосов 14: ↑14 и ↓0+16
Комментарии11

Комментарии 11

Мне кажется что в будущем мы снова начнём брать деньги за ПО. Просто как в 1997 году. У вас будет возможность пойти и купить утилиту за 15 баксов с активационным кодом и без подписки.

Потому что Open Source может загнуться из-за постоянного ментейнинга ИИ агентами. А так как будущие ИИ агенты учатся на опен сорце, то и тренировать ИИ агентов будет невозможно.

Но при этом посреди этого моря нагенерированных каках будут стоять анклавы в которых всё будет написано людьми.

Мечты о возрождении Shareware? Скорее весь софт станет бесплатен, потому что любой сможет его себе сгенерировать.

А curl пора переписать на Rust, потому что сетевая библиотека и утилита, написанные на небезопасном Си сами по себе опасны.

Проблема компьютера в том, что он делает то, что просит его сделать пользователь, а не то, что пользователю нужно.

На данный момент, за прошедшие 3 года я видел как все кинулись вкручивать кнопку ИИ в свои продукты, и только единицы не сделали полной фигни.

Реально хорошее внедрение ИИ - это исключительно сложная штука, которая требует гигантских трудозатрат.

Сейчас я могу найти примерно пять миллионов сайтов, которые могут генерить лендинги. И ни один из них не делает это хорошо.

И это мы ещё говорим о верхушке айсберга. Вы даже не представляете себе, сколько ИИ не сможет сгенерировать. Я работаю с Oracle NetSuite. Генерация кода для такой системы обычно сливается в туалет. Я могу настроить NEC Univerge SV 9500 и перенаправить трафик на разных провайдеров в зависимости от цены звонка. ИИ не сможет даже рассказать вам, что такое SV 9500. Код там генерируется чисто от балды и вообще ничего не значит.

В области обработки финансовых транзакций важна исключительная точность. Если просчитанные номера расходятся в пятой цифре после запятой, система падает на halt и ждёт армии бухгалтеров на выверку всего. ИИ в такое внедрять просто бесполезно.

Уже после того как все транзакции прошли и все звонки сделаны, всё это можно вылить в какую нибудь БД и дать датаинженерам играться со своими погремушками. Тогда уже это называется ИИ. А до этого момента - мне приходилось в жизни подписывать документы о том, что мой код будет работать 100% и в случае чего - я буду монетарно ответственным за все понесённые издержки.

Кстати, поговорили с инженерами, которые программируют авионику. Там с вас поржут.

Шаровар вернётся туда, куда ИИ просто не пустят.

В отличие от человека, компьютер не может быть ответственным за что либо.

В области обработки финансовых транзакций важна исключительная точность. Если просчитанные номера расходятся в пятой цифре после запятой, система падает на halt и ждёт армии бухгалтеров на выверку всего. ИИ в такое внедрять просто бесполезно.

Ну это от области зависит. Много областей, где качество не так важно. К тому же, ИИ не стоит на месте.

Хотя многие хранят деньги во float и в ус не дуют.

Много областей, где качество не так важно.

извините, вы не в яндексе случайно работаете?

Нет, мне казалось, что в Яндекс строгий отбор. Разве не так?

отбор вероятно, но как в анекдоте "все что вы делаете руками"

Вот те, кто хранят валюту в float, они пусть спокойно себе вайб-кодят. Я прекрасно понимаю, что они ни разу в жизни банковские приложения не писали.

Другое дело, что таких - легион. Так что ничё, пусть себе не дуют. Нас, как говорится - рать, так что мы как-нибудь без легиона справимся.

Надо просто применять ИИ там, в чём он хорош, и не для ничего другого. Например, как продвинутый автокомплит, (как сделали в JetBrains Idea) - IDE предлагает вставить объемный кусок копипасты с изменениями, и в большинстве случаев он справляется неплохо - отредактировать ошибки зачастую быстрее, чем катать портянку. А для скрипта-генератора задача сложная (в том плане, что быстрее накопипастить и изменить руками, чем написать его с учётом сложности правил).

И в этом случае ИИ действительно хорошо справляется.

Минус такого подхода - что ИИ, бывает, галлюцинирует/ошибается, но код выглядит настолько правдоподобно, что глазами ошибку заметить сложно и её поиск начинает напоминать ловлю черной кошки в темноте. А особенно, когда сама ошибка проявляется не сразу, тогда вообще ситуация напоминает мину с таймером.

При этом, если для кода есть тесты, то, например для вёрстки, понять почему всё работает но не выглядит как хотелось бы - задача со звёздочкой.

Таким образом, на данный момент применение ИИ сильно ограничено и доверять результатам - большая и, к сожалению, распространенная ошибка. Хотелось бы верить, что развитие приведет к снижению недостоверных результатов, прежде чем мы утонем во лжи, а тем более лжи, выведенной из лжи и тем сложно проверяемой.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости