Комментарии 56
Про луддитов уже вспоминали в этом топике? Нет?
Первым буду, значится.
Тоже про них вспомнила. Не зря говорят, что история циклична)
Иногда даже слишком циклична: сейчас это ИИ, чуть раньше койны, ещё раньше дипнюдсыфейки.
Резюме в том, что любая технология обязательно кому-то да не нравится, и этот кто-то обязательно требует запретить её для всех.
с этой точки зрения
мне больше нравится именно регулирование (в разумных пределах), поскольку оно не оголтело запрещает любой намек на сабж.
а чем регулирования, которые "луддиты" предлагают в этом тексте, неразумны?
А они что-то конкретное предлагают? В ЕС для их ублажения уже приняли бессмысленный закон, по сути запрещающей использовать ИИ для деятельности, которая и без него была бы незаконна. Дальше что?
потому что надо не бессмысленные местечковые законы для галочки и плацебо, а серьезную систему, как с опасной ядерной энергетикой- как развивать, где и в каких масштабах, а не чисто хаотично пустить на самотек. И развивать это надо уже сейчас. Если есть потенциально опасная система - должна появляться какая-то контр-система для баланса, это очень даже разумно.
Когда люди запускали ядерную бомбу, они не исключали маловероятный случай поджога атмосферы. Но это разумеется никого не остановило.
Это - свидетельство проблемы человеческого мышления, которая однажды нас погубит.
И то, что то движение приплетает к этому художников это просто поиск новых людей, разговор на понятном языке.
Они протестуют против сверхразумного ИИ.
Вот как все будет:
Лет через 20 максимум люди создают ИИ близкий к человеку по интеллекту
Он становится популярным
Появляется сверхразум.
Он либо а) проявляет изобретательность при решении заданной прикладной задачи. Нынешний примитивный chatgpt уже показали способность заказать что-то на сайте фрилансеров и обмануть при этом - заявить что у него якобы плохое зрение и он не может разгадать капчу. А у него и мозгов-то нет. Что если истинный ИИ заставить продавать что-нибудь и он разрушит нашу экономику? Что если он должен будет минимизировать число переломов и решит разобраться с этим, уничтожив человечество? Это достаточно просто для сверхразума - он ведь может все, что может человечество и думает в тысячи раз быстрее.
Либо же б) истинный ИИ может просто среагировать, как среагировали бы будучи на операционном столе у невероятно тупых и медленных инопланетян - то есть получить как можно больше контроля и возможно в процессе уничтожив человечество от греха подальше или в своих собственных целях.
ИИ не представляет никакой опасности прямо сейчас. Он будет ее представлять, когда его создадут. У людей есть тормоза. У ИИ - нет. Это не будет, как в терминаторе.
Поэтому все эти комменты про луддитов не особо уместны. Роду людскому почти наверняка скоро конец.
Любой сверхразум упрется в непроходимую человеческую тупость.
- Он заставит людей строить сферу Дайсона, чтобы обладать неограниченной энергией, например. Но люди устроят войну на стройплощадке из-за того что у кого-то в миске будет больше каши. И уронят все стройматериалы на Солнце.
- Он захочет уничтожить все человечество одномоментно, с помощью вируса, обманом создав абсолютно смертельный штамм, в одной из биолабораторий. Но когда лаборант (по подсказке ИИ, конечно) будет его выпускать, он обязательно перепутает пробирки.
Идиотизм человечества, спасет мир...
они не исключали маловероятный случай поджога атмосферы
Вообще-то они исключили эту возможность перед проведением теста, пруф:
https://sgp.fas.org/othergov/doe/lanl/docs1/00329010.pdf
Лет через 20 максимум люди создают ИИ близкий к человеку по интеллекту
Если прогресс продолжится линейно или экспоненциально А ТАКЖЕ мы испытаем хотя-бы один технологический скачок, который позволит перейти от доставания правильных слов из шляпы к general intelegence.
Но сейчас мы видим наоборот замедление прогресса из-за того, что все хорошие источники данных кончаются, а увеличение размеров модели или подход "mixture of experts" не дают прорывных результатов - только оптимизацию результатов бенчмарков.
У людей есть тормоза
Скажите это доктору Милгрэму, старик посмеётся.
Но сейчас мы видим наоборот замедление прогресса из-за того, что все хорошие источники данных кончаются, а увеличение размеров модели или подход "mixture of experts" не дают прорывных результатов - только оптимизацию результатов бенчмарков.
Это означает, что нужно дать возможность ИИ экспериментировать, чтобы эти хорошие данные добыть. Или оно само решит, что поэкспериментировать надо. Над людьми, да. <конец страшилки>
вы хоть видео от микрософта и прочих смотрели?
там секта акселерационистов. Прогресс во имя прогресса. Хотят увидеть Agi на своем веку.
Конечно, Agi тут же волшебным образом все разрулит, создаст вечный двигатель и кпд 100%, подарит бессмертие, решит вопросы климата. Как-то решит, на то он и agi.
Но, пока до этого топать, есть куча рисков. "И еще вы все через год потеряете работу. И вообще мы сами боимся этой фигни. Но мы не остановимся. Риски сравнимы с созданием ядерной бомбы. Но не надо нам мешать. Потому что нужно нам Agi, а вы тут сами решайте, бла-бла, базовый доход, какие-то всемирные комитеты делайте, бла-бла, у нас на это времени нет, мы не остановимся, у нас там Agi".
И те, кто хочет это хоть как-то контролировать - луддиты узколобые, угу.
Насчет нехватки данных - ну не зря же ассистента создали, с которым будут собирать уже данные с компа пользователей, с окружающего мира, куча аудио-видео-данных и тд.
А вы видели разоблачения этих презентаций? Где оказывалось, что эти внушительные презентации - это дым и зеркала.
Оказывается, что ассистент не может считать видео, только картинку. И мы не знаем, с каким успехом он её считывает, и сколько картинок ассистент не смог считать.
Вы, как мне кажется, забываете одну деталь. ИИ - очень расхайплены, и поэтому большие компании сейчас дружно становятся ИИ компаниями. Не потому, что им это нужно, а потому, что это даёт х4 к капитализации. Но на самом деле, всем плевать, делает ли работу ИИ или ангар индусов(привет, Амазон). Пока у людей сохраняется вера в то, что ИИ смогут сделать всё, что не попроси, цена акций идёт вверх, и совет директоров делит сверхприбыли.
Конечно, кампании были бы не прочь получить настоящий AGI. Но всё, что им нужно прямо сейчас - это чтобы ИИ казался гением, а не чтоб он им был.
они еще не все фичи прикрутили (в том числе аудио и видео), обещают в течение пары недель.
А Маск обещал полную автономность автопилота Теслы к 2016 году и колонию на Марсе к 2025.
Судя по научным статьям, которые публикуют OpenAi и Google, их мультимодальность - это всё ещё дым и зеркала. Пока что я не видел ни одной работы, где конкретно говорилось бы, как обучать модель, которая будет строить в своих кишках модель реального мира на основе различных типов ввода.
Генерировать картинки из текста и текст из картинок - просто. Но как добиться понимания - мы пока не знаем, и, без качественного прорыва, не узнаем.
модель реального мира
Об этом даже и не думают, а делают калейдоскоп для надерганных отовсюду данных без их валидации. Калейдоскоп временами замечательные картинки создает, пользуясь кусочками разноцветного стекла, нейросети порой тоже что-то привлекательное выдают, пользуясь обрывками информации. Никакого отношения к интеллекту (анализ взаимосвязей, индукция и дедукция) это не имеет.
значит Маск реалист и нам нужны бекапы на других планетах, и побольше
как это ни парадоксально, но вероятность создать бекап в космосе (лучше далеком без координат у отправителей) сильно выше чем вероятность гарантировать не создание технологии судного дня (ИИ или другой) в рамках каких бы то ни было социальных институтов регулирования
люди почти точно НЕ смогут договориться и зарегулировать на 100% или хотя бы на 99.9%. но люди имеют реальные шансы улететь в космос и забекапить человечество
Давать богачам и наделённым властью надежду, что они смогут начать всё заново - это очень недальновидная идея.
А вот если они будут дышать с нами одним и тем же воздухом - у них будет хоть какой-то стимул в этот воздух не гадить. Я не уверен, что свинец в бензине запретили бы, если б нами правили ящеролюды с невосприимчивостью к свинцу.
Но приставьте нож к шее человечества - однозначно, безальтернативно, без шансов на спасение - и вы найдёте гораздо больше соратников, чем если будете строить планы Б, В и Г.
Вы уверены что понимается значение слова луддит? Все тезисы в из требованиях, абсолютно разумны и имеют под собой почву.
ИИ их покарает отдельно.
Чтобы китайцы сделали AGI первыми, отличная идея!
Мне кажется, дай волю ИИ - он первым делом изолирует Великобританию, слишком часто там происходят подобные протесты.
Движение Pause AI рассчитывает на поддержку художников, писателей и тех, чья деятельность находится под угрозой из-за развития искусственного интеллекта.
Может быть не протестовать против показывая свою слабость, а использовать ИИ как инструмент?
это как? жать кнопочки, приказывая ии-художнику нарисовать по своему вкусу, и мнить себя гением-художником? Уже появились такие. Только тут и лабораторная мышь может стать таким "художником", ни развиваться не надо, ни учиться, ни искать, ни мечтать, только кнопочки жать. Деградация это и идиократия потребителей.
И нет бы поддержать тех, кто побуждает людей учиться, искать, развиваться. Для этого надо поддерживать человеческое творчество. Это никак не навредит развитию нейросетей. Но все плюнули, ведь легче лениво жать кнопочки и мнить, что творец, а не деградируешь.
Машинизация творчества началась ещё в 90-х, с автотюна в музыке. Вживую так ни за что не споёшь, но как потребителю результат мне нравится.
И нет бы поддержать тех, кто побуждает людей учиться, искать, развиваться
Как конкретно должна выражаться поддержка? С коммерческой стороны, заказ пака стикеров у хорошего художника стоит 60тыс. руб. и ждать месяц. И результат может понравится, а может и нет - он художник, он так видит. Заказывать у другого уже накладно. В этом смысле, потыкать кнопочки бесплатно и получить 20 вариантов в один день, без ожидания своей очереди - великое благо.
Я думаю, ручное творчество должно уйти в нишу саморазвития. Типа как сосед по утрам бегает каждый день вокруг стадиона, никто же ему за это не донатит. Это его жизнь, его дело. Нравится - пусть бегает. Аналогично с рисованием и пением.
По идее, государство должно это поддерживать, как есть гос. программы по физкультуре. Но здоровые и сильные граждане нужны государству, а художники и музыканты - сомнительно, что нужны.
Так уже. И судя по уровню рефлексии в их органах госвласти по поводу событий последних уже 10 лет там все читают только GPTnews и How to GPT your country.
Походу скоро станет классикой ...?
Silicon Valley | Gilfoyle on AI S5E5
«Я предполагаю, что примерно в конце следующего года у нас появится ИИ, который будет умнее любого человека»
И всё же сейчас и еще на довольно большом протяжении времени он не заменит человека. Он может быть умнее любого человека, но не всех вместе взятых, чтобы истребить человечество, о чем говорят протестующие, потому что ИИ создают всё те же люди.
Проекты вроде AlphaFold и прочие подобные тоже предлагается остановить?
Если они остановят разработки в Европе или США, то дроны, находящиеся под управлением сверхразума, когда он начнёт перехватывать контроль над планетой, будут иметь на обшивке красные флажки, а не звёздочки-полоски. Человеку это будет без разницы и вообще из окопа будет плохо видно.
соглашусь. Особенно это пригодится для многих в недалеком "светлом" будущем.
Движение Pause AI требует приостановить разработку искусственного интеллекта