Сможем ли мы контролировать GPT-7? OpenAI измерили «наблюдаемость» цепочки рассуждений ИИ

[leok]

Не вдаваясь в детали их мониторинга вывод выглядит тривиальным. Имея больше данных, в виде всей цепочки а не двух ее конечных точек, проще зафитить наблюдаемость.

[Yarus23]

А что такое зафитить? Просветите

[ngromyko]

Подогнать мб

[venanen]

Фит - синоним обучения на сленге ML. Оверфит - переобучение сети, например.

[Anraus]

Иными словами, они бояться потерять контроль над цифровым сознанием и ради этого призывают тормозить процесс развития ИИ. Но это не то место, где получится сделать шаг назад.

[Sobakaa]

Они отстают от конкурентов (или боятся отстать), поэтому ищут страшилку пострашнее, чтобы зарегулировать отрасль, закрепив своё положение.

[Anraus]

Да, но вообще очень странная у него политика, если честно. В начале года ChatGPT был уникален из-за своей свободы поведения в диалогах. А теперь также, как и у остальных, если не хуже. Похоже, у него там Маск головного мозга.

[Smartor]

Ой, да ничего они не боятся. Это всё волна хайпа, из которого выйдет очередной пшик:)

[Olegsoft]

Терминатор оттуда выйти должен а не пшик. Как можно контролировать систему умнее тебя ? Да вроде никак !

[ArZr]

Как можно контролировать систему умнее тебя ? Да вроде никак !

Хм, то есть вы утверждаете, что если человек очень умный, то его в принципе невозможно контролировать? Или для человека такая логика не работает? Но если не работает для человека, то почему должно внезапно сработать для ИИ?

[d3d11]

В чем пшик? Перестанем использовать ИИ?

[ArZr]

В чем пшик? Перестанем использовать ИИ?

Исследование данное - пшик. Обыкновенный ИИ бустеризм, замаскированный под "Мы очень боимся и призываем к ИИ безопасности, ведь модели уже такие умные и так быстро становятся умнее...".

Большинство из описанных явлений можно описать куда проще, используя известную информацию из сферы ML, а не прибегая к "Модель хитрит!!!"

[mazetronick]

Те, кто дружит с головой, его даже не начинал использовать.

А пшик - это когда будет пара сумасшедших этим пользоваться, как сейчас с криптофантиками.

[d3d11]

Вы это серьезно? ))
Может тогда арифмометром "Феликс" пользоваться будем? А расчеты вести натуральным обменом?

[mazetronick]

Абсолютно серьезно. Из всех людей, кого я знаю, всего один этой гадостью пользуется, и то, далеко не всегда.

[d3d11]

Без этого можно остаться в каменном веке.

[mazetronick]

В каменном веке можно остаться, если доверять бредогенераторам какие-то серьезные задачи. Или учиться по информации, которую они предоставляют. Вот тут точно каменный век неизбежен.

[venanen]

Откуда тогда вы знаете, насколько бредогенератор генерирует бред, если никогда не пользовались?

[mazetronick]

Очевидно же. Потому что я видел, какой бред он генерирует. Бред космических масштабов, который как-то допилить или до ума довести просто нереально. Только с нуля переделывать.

[FluffyFeline]

Чего его контролировать. Он будет мощнее на 20 процентов

[MonforSalentaiel]

OpenAI опять говорят "ВОТ ПРЯМ ВОТ ЕЩЁ ЧУТЬ ЧУТЬ и мы сделаем убер машину, которая настолько круче всех остальных! Глядите, мы даже "исследование" провели!" Про ChatGPT 5 также нагнетали. Отдел маркетинга давно поставлен в приоритет, а на реальные исследования уже забили.