runaway_llm26 янв в 18:57

«Впереди испытание для всего человечества»: о 5 рисках ИИ в эссе сооснователя Anthropic

2 мин

10K

Искусственный интеллектМашинное обучение *

Комментарии 14

FurySeer 26 янв в 19:22

Эссе писать - не мешки ворочать

PoksPoks 26 янв в 19:32

Самое интересное тут не риски, а то, как аккуратно подводят к идее регулирования

Anywake 26 янв в 19:37

Исчезновение позиций начального уровня переведёт к отсусвию средних и топов... А потом будет фильм идеократия...

Wesha 26 янв в 22:24

А потом будет фильм идеократия...

C учётом того, что он «ИдИократия», а не «ИдЕократия» (от слова «идиот», а не от слова «идея») — то Вы наглядно демонстрируете, что оно ближе, чем кажется.

Anywake 12 мар в 09:34

У вас, я вижу, оно точно наступило. Желчью не подавились?

LoveMeOrHateMe 26 янв в 20:55

Пока что реальное испытание для человечества это комплект памяти по цене всего остального ПК.

Wesha 26 янв в 22:22

модели уже способны удвоить или утроить шансы на успех при попытке создать биооружие.

Ну то есть с 0,000001 до 0,000002 или 0,000003. Ну ок.

killyself 27 янв в 05:21

Но если принять во внимание полтора миллиарда врагов народа, то почти 100%

Wesha 27 янв в 07:27

полтора миллиарда врагов народа

Это которые убиты лично Сталеном?

EmCreatore 26 янв в 23:31

А где у Амодея рассуждения про пузырь?
Успеют ли они до того как пузырь лопнет?
Видится что про этот риск надо было в первую очередь сказать.
Китайцы, его главные враги, сокращают разрыв также неуклонно, как у него неуклонно растет мощь ИИ. Успеет ли он раньше китайцев? Осталось год-два.
Потом сам же подтвержадает, AGI может возникунуть уже прямо сейчас, на текущих мощностях. Все нужные микросхемы у китайцев уже куплены, да и другие тоже могут сделать прорыв, потому что масштаб уже не так важен по сравнению с эффективностью новых архитектур, чего-нибудь квантового там...