Comments 56
Про луддитов уже вспоминали в этом топике? Нет?
Первым буду, значится.
Тоже про них вспомнила. Не зря говорят, что история циклична)
Иногда даже слишком циклична: сейчас это ИИ, чуть раньше койны, ещё раньше дипнюдсыфейки.
Резюме в том, что любая технология обязательно кому-то да не нравится, и этот кто-то обязательно требует запретить её для всех.
с этой точки зрения
мне больше нравится именно регулирование (в разумных пределах), поскольку оно не оголтело запрещает любой намек на сабж.
а чем регулирования, которые "луддиты" предлагают в этом тексте, неразумны?
А они что-то конкретное предлагают? В ЕС для их ублажения уже приняли бессмысленный закон, по сути запрещающей использовать ИИ для деятельности, которая и без него была бы незаконна. Дальше что?
потому что надо не бессмысленные местечковые законы для галочки и плацебо, а серьезную систему, как с опасной ядерной энергетикой- как развивать, где и в каких масштабах, а не чисто хаотично пустить на самотек. И развивать это надо уже сейчас. Если есть потенциально опасная система - должна появляться какая-то контр-система для баланса, это очень даже разумно.
луддиты протестовали против реальных технологий, а ведь сейчас никаким AI не пахнет и на горизонте.
То есть если вспоминать луддитов, то это будет та самая история, что повторяется как фарс.
Когда люди запускали ядерную бомбу, они не исключали маловероятный случай поджога атмосферы. Но это разумеется никого не остановило.
Это - свидетельство проблемы человеческого мышления, которая однажды нас погубит.
И то, что то движение приплетает к этому художников это просто поиск новых людей, разговор на понятном языке.
Они протестуют против сверхразумного ИИ.
Вот как все будет:
Лет через 20 максимум люди создают ИИ близкий к человеку по интеллекту
Он становится популярным
Появляется сверхразум.
Он либо а) проявляет изобретательность при решении заданной прикладной задачи. Нынешний примитивный chatgpt уже показали способность заказать что-то на сайте фрилансеров и обмануть при этом - заявить что у него якобы плохое зрение и он не может разгадать капчу. А у него и мозгов-то нет. Что если истинный ИИ заставить продавать что-нибудь и он разрушит нашу экономику? Что если он должен будет минимизировать число переломов и решит разобраться с этим, уничтожив человечество? Это достаточно просто для сверхразума - он ведь может все, что может человечество и думает в тысячи раз быстрее.
Либо же б) истинный ИИ может просто среагировать, как среагировали бы будучи на операционном столе у невероятно тупых и медленных инопланетян - то есть получить как можно больше контроля и возможно в процессе уничтожив человечество от греха подальше или в своих собственных целях.
ИИ не представляет никакой опасности прямо сейчас. Он будет ее представлять, когда его создадут. У людей есть тормоза. У ИИ - нет. Это не будет, как в терминаторе.
Поэтому все эти комменты про луддитов не особо уместны. Роду людскому почти наверняка скоро конец.
Любой сверхразум упрется в непроходимую человеческую тупость.
- Он заставит людей строить сферу Дайсона, чтобы обладать неограниченной энергией, например. Но люди устроят войну на стройплощадке из-за того что у кого-то в миске будет больше каши. И уронят все стройматериалы на Солнце.
- Он захочет уничтожить все человечество одномоментно, с помощью вируса, обманом создав абсолютно смертельный штамм, в одной из биолабораторий. Но когда лаборант (по подсказке ИИ, конечно) будет его выпускать, он обязательно перепутает пробирки.
Идиотизм человечества, спасет мир...
они не исключали маловероятный случай поджога атмосферы
Вообще-то они исключили эту возможность перед проведением теста, пруф:
https://sgp.fas.org/othergov/doe/lanl/docs1/00329010.pdf
Лет через 20 максимум люди создают ИИ близкий к человеку по интеллекту
Если прогресс продолжится линейно или экспоненциально А ТАКЖЕ мы испытаем хотя-бы один технологический скачок, который позволит перейти от доставания правильных слов из шляпы к general intelegence.
Но сейчас мы видим наоборот замедление прогресса из-за того, что все хорошие источники данных кончаются, а увеличение размеров модели или подход "mixture of experts" не дают прорывных результатов - только оптимизацию результатов бенчмарков.
У людей есть тормоза
Скажите это доктору Милгрэму, старик посмеётся.
Но сейчас мы видим наоборот замедление прогресса из-за того, что все хорошие источники данных кончаются, а увеличение размеров модели или подход "mixture of experts" не дают прорывных результатов - только оптимизацию результатов бенчмарков.
Это означает, что нужно дать возможность ИИ экспериментировать, чтобы эти хорошие данные добыть. Или оно само решит, что поэкспериментировать надо. Над людьми, да. <конец страшилки>
вы хоть видео от микрософта и прочих смотрели?
там секта акселерационистов. Прогресс во имя прогресса. Хотят увидеть Agi на своем веку.
Конечно, Agi тут же волшебным образом все разрулит, создаст вечный двигатель и кпд 100%, подарит бессмертие, решит вопросы климата. Как-то решит, на то он и agi.
Но, пока до этого топать, есть куча рисков. "И еще вы все через год потеряете работу. И вообще мы сами боимся этой фигни. Но мы не остановимся. Риски сравнимы с созданием ядерной бомбы. Но не надо нам мешать. Потому что нужно нам Agi, а вы тут сами решайте, бла-бла, базовый доход, какие-то всемирные комитеты делайте, бла-бла, у нас на это времени нет, мы не остановимся, у нас там Agi".
И те, кто хочет это хоть как-то контролировать - луддиты узколобые, угу.
Насчет нехватки данных - ну не зря же ассистента создали, с которым будут собирать уже данные с компа пользователей, с окружающего мира, куча аудио-видео-данных и тд.
А вы видели разоблачения этих презентаций? Где оказывалось, что эти внушительные презентации - это дым и зеркала.
Оказывается, что ассистент не может считать видео, только картинку. И мы не знаем, с каким успехом он её считывает, и сколько картинок ассистент не смог считать.
Вы, как мне кажется, забываете одну деталь. ИИ - очень расхайплены, и поэтому большие компании сейчас дружно становятся ИИ компаниями. Не потому, что им это нужно, а потому, что это даёт х4 к капитализации. Но на самом деле, всем плевать, делает ли работу ИИ или ангар индусов(привет, Амазон). Пока у людей сохраняется вера в то, что ИИ смогут сделать всё, что не попроси, цена акций идёт вверх, и совет директоров делит сверхприбыли.
Конечно, кампании были бы не прочь получить настоящий AGI. Но всё, что им нужно прямо сейчас - это чтобы ИИ казался гением, а не чтоб он им был.
они еще не все фичи прикрутили (в том числе аудио и видео), обещают в течение пары недель.
А Маск обещал полную автономность автопилота Теслы к 2016 году и колонию на Марсе к 2025.
Судя по научным статьям, которые публикуют OpenAi и Google, их мультимодальность - это всё ещё дым и зеркала. Пока что я не видел ни одной работы, где конкретно говорилось бы, как обучать модель, которая будет строить в своих кишках модель реального мира на основе различных типов ввода.
Генерировать картинки из текста и текст из картинок - просто. Но как добиться понимания - мы пока не знаем, и, без качественного прорыва, не узнаем.
модель реального мира
Об этом даже и не думают, а делают калейдоскоп для надерганных отовсюду данных без их валидации. Калейдоскоп временами замечательные картинки создает, пользуясь кусочками разноцветного стекла, нейросети порой тоже что-то привлекательное выдают, пользуясь обрывками информации. Никакого отношения к интеллекту (анализ взаимосвязей, индукция и дедукция) это не имеет.
значит Маск реалист и нам нужны бекапы на других планетах, и побольше
как это ни парадоксально, но вероятность создать бекап в космосе (лучше далеком без координат у отправителей) сильно выше чем вероятность гарантировать не создание технологии судного дня (ИИ или другой) в рамках каких бы то ни было социальных институтов регулирования
люди почти точно НЕ смогут договориться и зарегулировать на 100% или хотя бы на 99.9%. но люди имеют реальные шансы улететь в космос и забекапить человечество
Давать богачам и наделённым властью надежду, что они смогут начать всё заново - это очень недальновидная идея.
А вот если они будут дышать с нами одним и тем же воздухом - у них будет хоть какой-то стимул в этот воздух не гадить. Я не уверен, что свинец в бензине запретили бы, если б нами правили ящеролюды с невосприимчивостью к свинцу.
Но приставьте нож к шее человечества - однозначно, безальтернативно, без шансов на спасение - и вы найдёте гораздо больше соратников, чем если будете строить планы Б, В и Г.
люди, глядя в будущее, не видят в нём ничего хорошего
если почитать, например, современную фантастику, то везде сплошной бояр-аниме и прочий фашизм.
но признать о том, что выбранное направление развития (капитализм, общество, не ставящее планы на будущее) неверное — сил нет, все они ушли на очернение возможной альтернативы
потому, взгляды на возможный AI (это хорошо, кстати, что в обозримые лет 50-100 его не предвидится) тоже ультрапессимистичнские
Вы уверены что понимается значение слова луддит? Все тезисы в из требованиях, абсолютно разумны и имеют под собой почву.
ИИ их покарает отдельно.
Кажется, что сценарий при котором группа людей, наслушавшись советов от ИИ с этой картинки, таки уничтожит человечество сама, это все же самый реалистичный сценарий гибели человечества от ИИ.
Вы про Чернобыль?
теперь представь, что "80% собака" спроектировала ядерный реактор
пока близко не стоит к тому, чтоб ИИ вообще хоть что-нибудь спроектировал
как ИИ генерит тексты?
усредняя пользовательский ввод + некоторый рандом
как ИИ "пишет программы"?
выбирает средний темплейт из большого набора (то есть из написанных)
то есть никакого проектирования на горизонте 10-20 лет мы точно не увидим
В новостях писали про
ну да это фигня.
Что такое современный ИИ? Система усреднения.
Издревле был известен способ, научный способ, к слову, работы с неоткрытыми закономерностями. Способ называется интерполяция (или экстраполяция, что тоже самое просто в смещённом диапазоне).
"На пальцах": вы измеряете нечто, не описываемое известными законами (или трудно описываемое, как, например, тепловые процессы).
Далее свои измерения кладёте на график, а далее для точек неохваченных измерениями, вы используете линии своего графика вместо точных формул.
Этот подход применяется уже сотни лет, а компьютер позволяет "строить" многомерные графики, вернее работать с ними.
Это суть нейросетей. Кроме этого они ничего не умеют.
Но этого умения достаточно, чтобы, например, прогнать 100500 текстов через набор метрик и уметь дописывать конец предложения по его началу: начинает пользователь, завершает компьютер.
Ну или рисовать картинки по тексту.
Внося во ввод пользователя некоторый random, получаем разные ответы одного и того же компьютера на одинаковые тексты.
Таким способом компьютер может усреднить, например, и военные корабли: берём ТТХ 1000 различных кораблей кладём и просим "лучший по характеристикам и стоимости". И тебе комп выдаёт средний результат.
Но это не проектирование, это выбор готового варианта.
да, это - подспорье в проектировании, но только подспорье.
как редактор с автоподсказками при наборе текстов. Удобно? Да. Но текст он за тебя не напишет. Дополнит, проверит, повторяющиеся части покажет, исправит ошибки. Но не напишет.
как-то так
Чтобы китайцы сделали AGI первыми, отличная идея!
Мне кажется, дай волю ИИ - он первым делом изолирует Великобританию, слишком часто там происходят подобные протесты.
Движение Pause AI рассчитывает на поддержку художников, писателей и тех, чья деятельность находится под угрозой из-за развития искусственного интеллекта.
Может быть не протестовать против показывая свою слабость, а использовать ИИ как инструмент?
это как? жать кнопочки, приказывая ии-художнику нарисовать по своему вкусу, и мнить себя гением-художником? Уже появились такие. Только тут и лабораторная мышь может стать таким "художником", ни развиваться не надо, ни учиться, ни искать, ни мечтать, только кнопочки жать. Деградация это и идиократия потребителей.
И нет бы поддержать тех, кто побуждает людей учиться, искать, развиваться. Для этого надо поддерживать человеческое творчество. Это никак не навредит развитию нейросетей. Но все плюнули, ведь легче лениво жать кнопочки и мнить, что творец, а не деградируешь.
Машинизация творчества началась ещё в 90-х, с автотюна в музыке. Вживую так ни за что не споёшь, но как потребителю результат мне нравится.
И нет бы поддержать тех, кто побуждает людей учиться, искать, развиваться
Как конкретно должна выражаться поддержка? С коммерческой стороны, заказ пака стикеров у хорошего художника стоит 60тыс. руб. и ждать месяц. И результат может понравится, а может и нет - он художник, он так видит. Заказывать у другого уже накладно. В этом смысле, потыкать кнопочки бесплатно и получить 20 вариантов в один день, без ожидания своей очереди - великое благо.
Я думаю, ручное творчество должно уйти в нишу саморазвития. Типа как сосед по утрам бегает каждый день вокруг стадиона, никто же ему за это не донатит. Это его жизнь, его дело. Нравится - пусть бегает. Аналогично с рисованием и пением.
По идее, государство должно это поддерживать, как есть гос. программы по физкультуре. Но здоровые и сильные граждане нужны государству, а художники и музыканты - сомнительно, что нужны.
Так уже. И судя по уровню рефлексии в их органах госвласти по поводу событий последних уже 10 лет там все читают только GPTnews и How to GPT your country.
Походу скоро станет классикой ...?
Silicon Valley | Gilfoyle on AI S5E5
«Я предполагаю, что примерно в конце следующего года у нас появится ИИ, который будет умнее любого человека»
И всё же сейчас и еще на довольно большом протяжении времени он не заменит человека. Он может быть умнее любого человека, но не всех вместе взятых, чтобы истребить человечество, о чем говорят протестующие, потому что ИИ создают всё те же люди.
Проекты вроде AlphaFold и прочие подобные тоже предлагается остановить?
Если они остановят разработки в Европе или США, то дроны, находящиеся под управлением сверхразума, когда он начнёт перехватывать контроль над планетой, будут иметь на обшивке красные флажки, а не звёздочки-полоски. Человеку это будет без разницы и вообще из окопа будет плохо видно.
Здоровым людям разрешили эвтаназию
На самом деле - хорошее дело. Если человек не видит смысла продолжать дальше, то почему бы ему не разрешить закончить жизнь легальным способом?
соглашусь. Особенно это пригодится для многих в недалеком "светлом" будущем.
если эвтаназия будет разрешена и большое количество граждан будет этим пользоваться, то сей процесс можно рассматривать, как демократический акт голосования против имеющегося строя, кстати
самые активные выпилятся, останутся самые инертные, и вопрос голосования "против" сам собой решится
ну, кстати, аудитория станет соответствовать управлению. это для системы в целом может оказаться положительно.
если рассматривать жизнь, как этакую игру, то эвтаназия будет кнопкой "закончить игру".
Ну не понравилась - вот тебе безболезненный выход. А там пусть статисты собираются и думают: а чем их (покинувших) не устроило наше такое хорошее мироустройство? Может что-то в нём поменять?
Количество завершивших игру, как метрика - чем не инструмент?
кстати, вижу рекламу, да и звонки случаются: московский центр занятости осуществляет поддержку... бла-бла... бесплатная психологическая помощь
кто мешает и сейчас так делать?
выписали тебе депрессант вместо антидепрессантов, ты пошёл и с моста сиганул...
ну или в религию ударился и имущество какой-нибудь секте врооде РПЦ отписал
Движение Pause AI требует приостановить разработку искусственного интеллекта