ИИ становится умнее, а мы – глупее; можно ли это остановить?

[Kot_na_klaviature]

Умнее тот, кто берет машину на автомойку, даже если та в 50 метрах

[Master_Yoda_810]

Да не становится ИИ умнее. Да, это прикольный инструмент, но не более.

Он вторичен by design.

[nakesreong]

ну, как говорится, человек звучит гордо, а обезьяна - перспективно )

человек тоже вторичен по своей природе

[ysrgsyn]

Но примерно в 5–10 % команд произошло нечто иное. ИИ стал спарринг-партнёром. Команды оказывали сопротивление, требуя доказательств и подвергая сомнению допущения. Когда ИИ выражал высокую уверенность, люди ставили его под сомнение. Когда люди были твёрдо уверены в своей интуиции, они просили ИИ привести контраргументы.

В споре рождается истина (с) Сократ

К слову, недавно в разговоре с чатхпт вышло ровно обратное. Речь шла о некотором математическом утверждении. +-Два часа пытался доказать, что он не прав (он был очевидно не прав), даже дошли до уровня аксиоматики, а дальше цитирую։
— (я) и из <...>, <...> и <...> следует что решение математически доказано, верно?
— (хпт) да.
— следовательно, исходное утверждение верное, да?
— нет.
Сейчас это забавно, а тогда реально взбесился))
Мораль — зачастую не надо спорить с машиной, себе дороже)

[Serg_FullStack]

Если ии будет обучаться на контенте других ии, то все это неизбежно приведет к вырождению и отупению последней

[SKaminskij]

Но, если при этом найдётся способ совершать ошибки, анализировать новое и делать соответствующие выводы ... вот тогда вырождения может и не получиться, но хорошо ли будет это?

[Serg_FullStack]

Способ понимать ошибки это в некотором роде и является целью обучения моделей. Пока что ИИ научился принимать свои ошибки и исправлять, но на ошибки указывает человек, который тоже может ошибаться...

[SKaminskij]

Интересно получается :). Сколько я ни читаю обсуждений на тему ИИ - везде одно и то же - как бы получить какой-нибудь текст на предложенную тему. Ну может картинку сгенерировать. В контексте аудитории Хабр - что-нибудь запрограммировать этакое для отображения чего-нибудь, возможно, с элементами анализа и красивым интерфесом.

Но в природе множество задач, которые не решаются с помощью ИИ, и где нужен конкретный и точный результат.

К тому же все почему-то забывают, что ИИ в нынешнем виде максимум, что может, так это - всего лишь аккумулировать информацию и с определенной долей вероятности предлагать вариации на предложенную тему.

[PANuniver]

Возможно одно из приложений и призваний ИИ научиться оптимизировать текст?

Текста здесь гораздо больше, чем идей и реальных фактов, образные ассоциации отсутствуют совсем.

В чем может содержаться познавательная ценность? В перспективе нас ожидает деление человеческой цивилизации на 2 ветви. Мы сейчас находимся в точке бифуркации. Немногочисленная часть человечества пойдёт по пути ароморфоза - усложнения своего образа жизни в симбиозе с ИИ. Другая по пути идиоадаптации и даже дегенерации, превратившись в придаток ИИ, играя роль интерфейса ИИ с окружающим миром.