Сэм Альтман рассказал, как ИИ может случайно «захватить» мир

[EchoCode]

у меня от общения с ИИ психологическое состояние гораздо лучше стало. Не с ChatGPT общаюсь

[tacituscarnifex]

А с чем общаетесь? Какой gpt?

[Bezdelnichev]

Может не с gpt может с bert-ом:)

[EchoCode]

С Claude. Мб еще потому положительно влияет общение что он както умеет вообще не бесить... обычно все бесят.

[Wesha]

Шершавый кабан, ты?!

[GCU]

подталкивает пользователей к определенным установкам просто потому, что учится на их взаимодействиях и непрерывно прогрессирует с ними с ними.

"Случайный захват" уже произошел - пользователи деградируют до текущего уровня ИИ, разжевывая очевидные вещи в простыню контекста. По факту это просто поиск наиболее похожего по шаблону, и если ничего похожего там изначально не было - ничего и не найдешь. Для прогресса нужны новые данные, в процессе взаимодействия с пользователями новых данных ничтожно мало для какого-то существенного влияния на модель.

[Wesha]

пользователи деградируют до текущего уровня ИИ

Так пришла сингулярность

[Kelbon]

ЛЛМ это чуть более продвинутый поисковик, который проиндексировал ещё и приватные части откуда-то. Альтман уже несколько лет постоянно упоминает какой-то сверх интеллект, но то что делает ЛЛМ это в лучшем случае часть механизма мышления, а не всё мышление целиком. Может потом когда-то придумают недостающие части, объединят их в один механизм, а пока - просто поисковик

Пока единственная опасность, которую я вижу - это эффект замены джуна. Только в масштабах человечества. Ребёнку нужно хотя бы лет 10 учиться, чтобы начать выдавать результаты лучше, чем у чатгпт, поэтому дети начинают использовать чатгпт для всего, а образование как обычно не догоняет - а учителя тоже начинают использовать чатгпт

В итоге за 10-20 лет получаем поколение буквально идиотов, дальше происходит отключение чатгпт из-за коммерческой невыгодности и человечество оказывается в хаосе

[Wesha]

А что Вы думали, «Идиократия» — это комедия? Это документалка!

[ssj100]

Тогда нужно искать Путешественников во времени которые воспользовались Машиной Времени

[xitri_kot]

уже подташнивает от новостей про ИИ

[Sobakaa]

Скорее, подташнивает от высеров главы опен аи. Я понимаю, что у него пузырь на руках который лопнет вместе с ним и надо генерировать новости о том, что ллм это ии, аги будет завтра и т.д., чтобы кто-то продолжал верить, но зачем их нести на хабр - хз.

[Wijey]

а кто-то может объяснить почему этот "пузырь" должен таки лопнуть? технологии реально полезные и прикладные во многих областях. подсдуться может, конечно, т.к. дорого обходится, но чтобы прямо лопнуть..

[JasonGatsby]

А ведь кажется, совсем недавно, ещё не было никакого TON. Когда меня Игорь пригасил на закрытый форум black box. И мы с Кириллом Фирсовым, Лешей, Максом и Денисом только начинали свой путь. Я ещё будучи студентом в Питере работал на VK, а кто-то только заканчивал учебу в академии ФСБ. И мы параллельно запускали свои проекты, как выходцы с форума Antichat. Насколько же всё-таки быстро пролетело время. Егорыч R.I.P.

[leadraven]

Кто-нибудь, заткните этот фонтан словоблудия.

[Nuflyn]

"что мы будем делать сегодня вечером, Чатик? То же что и каждый вечер, Сэм! Попробуем захватить весь мир! "