При этом цель заключается не в создании сверхубедительных моделей, а в разработке оценок, которые помогут предотвратить обман или введение в заблуждение со стороны ИИ.
Но это никак не связано. Статья говорит об обратном. Кому нужны модели, убедительно несяшие пургу.
Действительно, гендерная предвзятость ведь не потому, что выборка обучения у модели была заранее с неравным количеством гендеров.
Модели AI могут обманывать и убеждать? Невероятно 🤔, надо исправлять и не допускать. А что люди могут обманывать и убеждать, не. Задача сделать честную и справедливую (также расплывчато звучит, как и оценка вреда от ответа ИИ модели) такая же сложная, как и поиск истины и правды. Чтобы модель была лучше человека, но результат оценивает человек. Задача невозможная.
А смысл придираться, если Нейро не думает и не знает, а всего лишь собирает информацию с источников и пишет её в компактном виде? Если на каком-то сайте написали несвязный бред, он на первых позициях в поиске, и инфу с него выдала Нейро, то Нкйро виновата, что, оказывается, на сайтах не истина в последнем значении, нет воды?
Если вы не знаете технологию, не значит, что она плохая.
Главное через 10 лет иметь план Б
Что-то не верится, что Маск справится с поставленными задачами
Но это никак не связано. Статья говорит об обратном. Кому нужны модели, убедительно несяшие пургу.
Не согласен.
В этом посте можно увидеть недоверие к ИИ и взгляд на тот ИИ, который сейчас представляют LLM модели. Какой он будет в будущем - открытый вопрос.
1) Этика и предвзятость. Эта тема слишком огромна и субъективна, даже люди предвзяты, нет смысла критиковать ИИ.
2) Угрозы конфиденциальности. Конкретно платные тарифы ChatGPT не собирают данные клиентов для обучения.
3) Автоматизация и безработица. Не вижу проблемы, если ИИ будет способен кого-то заменить. И не считаю это невозможным, как пишет автор.
4 и 5) Автор не доверяет ИИ и отталкивается от текущего понимания его работы.
Пост о том, что в нём просто кидаются тезисы о недостатках текущих моделях искусственного интеллекта.
Действительно, гендерная предвзятость ведь не потому, что выборка обучения у модели была заранее с неравным количеством гендеров.
Модели AI могут обманывать и убеждать? Невероятно 🤔, надо исправлять и не допускать. А что люди могут обманывать и убеждать, не. Задача сделать честную и справедливую (также расплывчато звучит, как и оценка вреда от ответа ИИ модели) такая же сложная, как и поиск истины и правды. Чтобы модель была лучше человека, но результат оценивает человек. Задача невозможная.
А смысл придираться, если Нейро не думает и не знает, а всего лишь собирает информацию с источников и пишет её в компактном виде? Если на каком-то сайте написали несвязный бред, он на первых позициях в поиске, и инфу с него выдала Нейро, то Нкйро виновата, что, оказывается, на сайтах не истина в последнем значении, нет воды?
Если вы не знаете технологию, не значит, что она плохая.