При этом цель заключается не в создании сверхубедительных моделей, а в разработке оценок, которые помогут предотвратить обман или введение в заблуждение со стороны ИИ.
Но это никак не связано. Статья говорит об обратном. Кому нужны модели, убедительно несяшие пургу.
Действительно, гендерная предвзятость ведь не потому, что выборка обучения у модели была заранее с неравным количеством гендеров.
Модели AI могут обманывать и убеждать? Невероятно 🤔, надо исправлять и не допускать. А что люди могут обманывать и убеждать, не. Задача сделать честную и справедливую (также расплывчато звучит, как и оценка вреда от ответа ИИ модели) такая же сложная, как и поиск истины и правды. Чтобы модель была лучше человека, но результат оценивает человек. Задача невозможная.
А смысл придираться, если Нейро не думает и не знает, а всего лишь собирает информацию с источников и пишет её в компактном виде? Если на каком-то сайте написали несвязный бред, он на первых позициях в поиске, и инфу с него выдала Нейро, то Нкйро виновата, что, оказывается, на сайтах не истина в последнем значении, нет воды?
Если вы не знаете технологию, не значит, что она плохая.
Но это никак не связано. Статья говорит об обратном. Кому нужны модели, убедительно несяшие пургу.
Не согласен.
В этом посте можно увидеть недоверие к ИИ и взгляд на тот ИИ, который сейчас представляют LLM модели. Какой он будет в будущем - открытый вопрос.
1) Этика и предвзятость. Эта тема слишком огромна и субъективна, даже люди предвзяты, нет смысла критиковать ИИ.
2) Угрозы конфиденциальности. Конкретно платные тарифы ChatGPT не собирают данные клиентов для обучения.
3) Автоматизация и безработица. Не вижу проблемы, если ИИ будет способен кого-то заменить. И не считаю это невозможным, как пишет автор.
4 и 5) Автор не доверяет ИИ и отталкивается от текущего понимания его работы.
Пост о том, что в нём просто кидаются тезисы о недостатках текущих моделях искусственного интеллекта.
Действительно, гендерная предвзятость ведь не потому, что выборка обучения у модели была заранее с неравным количеством гендеров.
Модели AI могут обманывать и убеждать? Невероятно 🤔, надо исправлять и не допускать. А что люди могут обманывать и убеждать, не. Задача сделать честную и справедливую (также расплывчато звучит, как и оценка вреда от ответа ИИ модели) такая же сложная, как и поиск истины и правды. Чтобы модель была лучше человека, но результат оценивает человек. Задача невозможная.
А смысл придираться, если Нейро не думает и не знает, а всего лишь собирает информацию с источников и пишет её в компактном виде? Если на каком-то сайте написали несвязный бред, он на первых позициях в поиске, и инфу с него выдала Нейро, то Нкйро виновата, что, оказывается, на сайтах не истина в последнем значении, нет воды?
Если вы не знаете технологию, не значит, что она плохая.