У ИИ нет смысла, а есть функция максимизации. Мы не умеем ее правильно задавать. Мы говорим о взрывном росте интеллекта ИИ и риски с этим связанный. Верить в свой интеллект игнорируя экзистенциальный риск не совсем рациональный подход, что и пытается донести юдковский
Тут смысл в том что мы говорим о сверх интелекте. И мы не можем даже представить всех возможных развитии событий и потенциала для джеилбрейка даже без физического соединения с интернетом.
Начиная от хакания нашей психологии что сам юдковский проводит эксперимент где в чате играл роль ai и убеждал его выпустить с теми кто сомниался и смог убедить некоторых из них даже когда на кону были деньги.
Продолжая использование например ем излучения своим мощностями для контроля близлежащей електроники или ещё какой нам сейчас кажущейся магией технологией
Или уж совсем банально прикидыватся хорошим что бы дали доступ куда нужно.
А поскольку alignment даже близко не решён то шансов что все пойдёт в валгаллу сильно больше
Как раз вчера наткнулся о лекции в гарварде по поводу симетрий под веществами. При приёме DMT (галюциногена) в дозозависимой форме усложняет я уровень симметрии в галюцинациях.
YouTube титул:
The Hyperbolic Geometry of DMT Experiences (@Harvard Science of Psychedelics Club)
У ИИ нет смысла, а есть функция максимизации. Мы не умеем ее правильно задавать.
Мы говорим о взрывном росте интеллекта ИИ и риски с этим связанный. Верить в свой интеллект игнорируя экзистенциальный риск не совсем рациональный подход, что и пытается донести юдковский
Вот интересный видосик на эту тему
https://www.youtube.com/watch?v=jQOBaGka7O0
Тут смысл в том что мы говорим о сверх интелекте. И мы не можем даже представить всех возможных развитии событий и потенциала для джеилбрейка даже без физического соединения с интернетом.
Начиная от хакания нашей психологии что сам юдковский проводит эксперимент где в чате играл роль ai и убеждал его выпустить с теми кто сомниался и смог убедить некоторых из них даже когда на кону были деньги.
Продолжая использование например ем излучения своим мощностями для контроля близлежащей електроники или ещё какой нам сейчас кажущейся магией технологией
Или уж совсем банально прикидыватся хорошим что бы дали доступ куда нужно.
А поскольку alignment даже близко не решён то шансов что все пойдёт в валгаллу сильно больше
Нынче тдп не показательные из за турбобуста и имеет смысл сравнивать потребление в обзорах, а не спецификацию
Как раз вчера наткнулся о лекции в гарварде по поводу симетрий под веществами. При приёме DMT (галюциногена) в дозозависимой форме усложняет я уровень симметрии в галюцинациях.
YouTube титул:
The Hyperbolic Geometry of DMT Experiences (@Harvard Science of Psychedelics Club)