В моем комментарии выше как раз проблема в том что даже хорошие мешки не знают как align ИИ к нашим целям и не то что бы задали спецификацией а именно то чего мы хотим.
Если вернутся на 500 лет назад и показать людям сегодняшние технологии то они и будут казаться им магией потому как не понимают фундаментальных вещей и магия это единственное обьяснение доступное им.
Нарушает ли законы физики условные нанороботы или взлом файервола 0-day уязвимостью или даже соц инженерия?
Что бы убить\захватить человечество ну нужны новые законы физики.
У ИИ нет смысла, а есть функция максимизации. Мы не умеем ее правильно задавать. Мы говорим о взрывном росте интеллекта ИИ и риски с этим связанный. Верить в свой интеллект игнорируя экзистенциальный риск не совсем рациональный подход, что и пытается донести юдковский
Тут смысл в том что мы говорим о сверх интелекте. И мы не можем даже представить всех возможных развитии событий и потенциала для джеилбрейка даже без физического соединения с интернетом.
Начиная от хакания нашей психологии что сам юдковский проводит эксперимент где в чате играл роль ai и убеждал его выпустить с теми кто сомниался и смог убедить некоторых из них даже когда на кону были деньги.
Продолжая использование например ем излучения своим мощностями для контроля близлежащей електроники или ещё какой нам сейчас кажущейся магией технологией
Или уж совсем банально прикидыватся хорошим что бы дали доступ куда нужно.
А поскольку alignment даже близко не решён то шансов что все пойдёт в валгаллу сильно больше
Как раз вчера наткнулся о лекции в гарварде по поводу симетрий под веществами. При приёме DMT (галюциногена) в дозозависимой форме усложняет я уровень симметрии в галюцинациях.
YouTube титул:
The Hyperbolic Geometry of DMT Experiences (@Harvard Science of Psychedelics Club)
В моем комментарии выше как раз проблема в том что даже хорошие мешки не знают как align ИИ к нашим целям и не то что бы задали спецификацией а именно то чего мы хотим.
Если вернутся на 500 лет назад и показать людям сегодняшние технологии то они и будут казаться им магией потому как не понимают фундаментальных вещей и магия это единственное обьяснение доступное им.
Нарушает ли законы физики условные нанороботы или взлом файервола 0-day уязвимостью или даже соц инженерия?
Что бы убить\захватить человечество ну нужны новые законы физики.
У ИИ нет смысла, а есть функция максимизации. Мы не умеем ее правильно задавать.
Мы говорим о взрывном росте интеллекта ИИ и риски с этим связанный. Верить в свой интеллект игнорируя экзистенциальный риск не совсем рациональный подход, что и пытается донести юдковский
Вот интересный видосик на эту тему
https://www.youtube.com/watch?v=jQOBaGka7O0
Тут смысл в том что мы говорим о сверх интелекте. И мы не можем даже представить всех возможных развитии событий и потенциала для джеилбрейка даже без физического соединения с интернетом.
Начиная от хакания нашей психологии что сам юдковский проводит эксперимент где в чате играл роль ai и убеждал его выпустить с теми кто сомниался и смог убедить некоторых из них даже когда на кону были деньги.
Продолжая использование например ем излучения своим мощностями для контроля близлежащей електроники или ещё какой нам сейчас кажущейся магией технологией
Или уж совсем банально прикидыватся хорошим что бы дали доступ куда нужно.
А поскольку alignment даже близко не решён то шансов что все пойдёт в валгаллу сильно больше
Нынче тдп не показательные из за турбобуста и имеет смысл сравнивать потребление в обзорах, а не спецификацию
Как раз вчера наткнулся о лекции в гарварде по поводу симетрий под веществами. При приёме DMT (галюциногена) в дозозависимой форме усложняет я уровень симметрии в галюцинациях.
YouTube титул:
The Hyperbolic Geometry of DMT Experiences (@Harvard Science of Psychedelics Club)