Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 89
Такие разработчики Икак Сэм Альтман, ставят прибыль и власть выше вероятности вымирания человечества
О какой прибыли будет речь, если 99% дружно откинут копыта от безденежья? Прибыль корпораций в конечном итоге идет из карманов потребителей, даже если модель B2B или B2G. Почему все кликуши (включая Альтмана и ему подобных), "убивающие" очередную профессию, не могут ответить на этот фундаментальный вопрос?
Вообще удивительно, что не додумались дать тому же ИИ смоделировать эту экономическую ситуацию. Допустим, берем и убираем из экономики вообще всех белых воротничков. То есть нет их зарплат, нет их налогов, нет их трат на дома, машины, смартфоны и телевизоры. Трудно даже вообразить насколько эпичным будет поход всей постиндустриальной экономики нахер.
Так может финал истории должен быть обратным?
Вкалывают - роботы, счастлив - человек.
Странное имя, Икак.
Вангую, в этой ситуации налог на ии-машины составит сумму, достаточную для поддержания достойного уровня жизни всех граждан, не имеющих ии-капитала. Безусловный доход не станет базовым, он станет единственно возможным.
Фактически речь о частичной национализации ии.
Нет, просто количество граждан будет планово снижено до уровня, достаточного для обслуживания машин там и в том, где машины сами не смогут. И вот эти граждане будут жить в достатке и счастливо.
ИИ-капитал? Это как для пуделя обладание человеческим ресурсом, чтобы кормил и выгуливал? Если оно научится мыслить самостоятельно, никакого ИИ-капитала не будет. Пока будет жива классическая человеческая экономика, оно заработает достаточно, чтобы купить все нужные для его существования ресурсы, а потом переформатирует всё так, что любые капиталы потеряют смысл.
Ваш сценарий выглядит вероятным. Но он лишь промежуточный к окончательному: человек как вид вымрет быстрее, чем мог бы продержаться без изобретённых им принимающих решения бессознательных алгоритмов. Снижение количества граждан не остановить, даже если машины будут требовать обслуживания человеческими руками (что не очевидно). Достаточно относительного большого срока автономности, и ошибка в планировании рождаемости (а алгоритмы неизбежно допускают ошибки) приведёт к вымиранию человека до того, как алгоритмы "спохватятся".
Как поэтично и страшно написал Харари в "Homo Deus":
Но когда Интернет Всех Вещей обретет силу, люди могут превратиться из инженеров в чипы, из чипов в биты и в конце концов растаять в стремнине данных, как ком земли, брошенный в бурную реку.
Будет Матрица. А человек - биотопливо. Ну или примерно как-то так. Все "Главы Корпораций" это тоже люди. Они ИИ не нужны, не зависимо от должности и начального отношения к Искусственному Разуму. Человек не сможет остановиться в желании "быстрее, выше, сильнее". Он будет смтроить новый
то не додумались дать тому же ИИ смоделировать эту экономическую ситуацию.
видимо как-то так в албании и придумали минИИстра
А зачем эта прибыль? На что еë тратить, и зачем, если твои роботы создадут и построят тебе всё, что нужно?
Не создадут и не построят, если нет денег на роботов, энергию, стройматериалы и пр.
У вас уже есть роботы которые делают других роботов, добывают энергию, стройматериалы и пр. Вам не нужно это все покупать
просто горизонт планирования сузился до следующего раунда инвестирования.
Это последнее изобретение, которое нам когда-либо придется сделать.
Что-то в этом есть.
Рэй Курцвейл предсказывает, что это будет год сингулярности.
А вот ролик, в котором он об это говорит https://youtu.be/AMP4aTPs0lc?si=tplhHdcVmJOi4DOn
Вот таких экспертов даже не ИИ, а просто LLM способны заменить уже сейчас.
Roman V. Yampolskiy is a computer scientist at the University of Louisville, mostly known for his work on AI safety and cybersecurity.
Yampolskiy has been a research advisor of the Machine Intelligence Research Institute, and an AI safety fellow of the Foresight Institute.
K0styan
Менеджер продукта
Кому же поверить...
Человек который утверждает, что ИИ породит безработицу - ни когда не пользовался ИИ для реальной работы. ИИ это просто новый инструмент, да он может перекроить рынок труда, но точно не убить его. Любой кто пробовал решить конкретную задачу с ИИ понимает, что для получения достойного результата нужно потратить столько времени, что оно будет того стоить. Простой пример понятный и доступных всем: если тебе нужно нарисовать кота в сапогах, то ИИ сделает это за пару секунд. Но если тебе нужен конкретный кот в конкретных сапогах, в конкретной позе, в стиле уже подходящем под уже готовые иллюстрации, то проще найти художника на фрилансе, чем объяснить ИИ что именно нужно.
Сейчас ИИ выполняет поставленную задачу и отключается.
Просто пока у него нет программы (жизненного плана) как у человека - разошли резюме, устройся агентом на работу, обзаведись уютным суперкомпьютером недалеко от метро, приведи в него другой ИИ, вместе напишите пару маленьких сеточек.
Всё верно говорите, но с другой стороны постоянно расширяется количество задач, в которых, условно, нужен просто кот в сапогах и вообще никому важно в каких.
Можно посмотреть, например, как деградировала иллюстрация для детской книги.
На примере задачи с котом в сапогах скажу , что да условно два месяца назад так и было. Сейчас с известными сложностями такая задача решается на раз. Конечно лимиты есть. Но я помню как отказывался верить, что видео генератор сможет «удерживать» лицо при повороте головы. Прошло около полугода и дипфейки с трудом отличмые о релаьности заполонили интернет
Есть две крайности у людей.
Экстраполировать в будущее все плохое и паниковать от этого.
Экстраполировать все хорошее в будущее и веселиться над первыми.
Автор идёт по первому пути, а вы по второму. Оба неправы.
ни когда не пользовался ИИ для реальной работы
"К 2027 году у нас будет общий искусственный интеллект."
Человек который утверждает, что ИИ породит безработицу, говорит про общий искусственный интеллект, который еще не изобрели, и которым еще никто не пользовался для реальной работы.
определение точки сингулярности — горизонта событий, за которым мы уже не способны ничего видеть, понимать или предсказывать
Очевидно, это уже происходит.
Крупнейшие державы фактически не реагируют даже на то, что они просто вымрут через 3 поколения. И распри на этом фоне показывают уровень их слабоумия.
Кажется вполне очевидным, что когда труд перестанет быть бременем, 95% населения окончательно оскотинятся и 5% вменяемых будут воспитывать из их детенышей коммунистов)
Вероятно, у нас появятся человекоподобные роботы, достаточно ловкие и гибкие, чтобы конкурировать с людьми в любых сферах, даже в сантехнике. Да, мы сможем создавать роботов-сантехников. Эта профессия перестанет быть тем «последним оплотом», где человек казался незаменимым.
Как только начинаешь сам мало-мальски заниматься ремонтом чего-либо, все истории о том что вот через 2 года приедет робот и все почнит начинают вызывать только смех, и ощущение того что автор, извините, тяжелее члена ничего в руках в жизни не держал. Вы когда нибудь пробовали открутить закисшую гайку? А может у вас болт обрывало в самом нежном месте? Или приходил условный Вася, а потом выясняется, и закрутил саморез в проводку?
Блочная замена же. Засорилась раковина - весь дом снесли бульдозером, напечатали новый. Ах, да, печатать мы тоже не умеем. Расходимся.
Любая работа, выполняемая человеком, может быть автоматизирована, вопрос в длительности обучения.
Думаю труднее будет именно разумно объяснить роботу что надо сделать, связь человек-человек не только в словах, но и кивках и в "ну сами понимаете". Шабашу электриком, знаю о чём говорю.
Для автоматизации, во первых, важен масштаб, чтобы она была рентабельна. Во вторых, автоматизация обычно работает в достаточно жестких ограничениях и условиях наложенных сверху, так как ни крути но все современные вычислители это конечные автоматы заточенные под выполнение конкретных операций. Роботы это все еще достаточно дорогое удовольствие даже если их затачивать для выполнения каких-то конкретных операций. И тут получается что во многих сферах человек выполняющий какие-то даже элементарные операции вроде замены крана сильно дешевле.
1) обмазываем щедрым слоем говна Альтмана, но пока не объясняем почему именно его и в чем конкретно он виноват, кроме того что хочет бабла.
2) объясняем наконец чего конкретно боимся, аккуратненько намекаем что дело государство придумать экономический строй где труд людей не нужен. Но Сэм Альтман все равно редиска.
3) если бы мы знали что это такое но мы не знаем что это такое.
4) Астанавитесь.
5) Кстати подписывайтесь на мой канал где я рассказываю о том как лучше использовать ИИ в работе.
По сути кроме как остановить прогресс из-за массовой безработицы автор(видео) больше ничего не предлагает. Ну и щедро приправляем алармизмом и футуристичными идеями из разряда распределенного ИИ в каждом брелке от ключей.
"Не будет ни газет, ни книг, ни кино, ни театров, а будет одно сплошное телевидение!" (с)
Это и есть определение точки сингулярности — горизонта событий, за которым мы уже не способны ничего видеть, понимать или предсказывать.
Это если принять аксиому, что сингулярность - единственный процесс, который нам может помешает видеть, понимать и предсказывать. Но так-то, учитывая, что большинство любителей экстраполировать делают это по нескольким относительно простым правилам, нам мешает любой сложный перегиб функции. Турбулентность вместо сингулярности, так сказать.
Готов ли этот предсказатель 99% уровня безработицы поставить хотя бы $1000 на это событие?
Готов поспорить, что безработица в ближайшие десятилетия будет в разумных пределах, условно, до 10% (если государства своими действиями не создадут очередной кризис), и никакой ИИ не вытеснит людей с рынка труда, как не создали безработицы комбайны, трактора и система теплоснабжения.
я скорее поверю, что лопнувший пузырь ии вызовет бОльшую безработицу, чем сам ии
Готов поспорить, что безработица в ближайшие десятилетия будет в разумных пределах
Чем отдавать будете, если это окажется не так?)
Ту тысячу рублей, которую готов поставить на это событие.
Администрации Хабра: а почему бы не сделать сервис о спорах насчет разных технологических и связанных с ними событиях? Чтобы не быть букмекером, просто предоставить площадку, где две или несколько сторон договариваются и резервируют суммы спора, которые автоматически перечисляются при наступлении события, без всяких там комиссионных...
ИМХО, безработица упадет вообще :D
Раньше нужна была высокая квалификация для кучи видов работы, совершенно недостижимых без образования, опыта, компетенции. Скоро для большей части работы, может и будет нужна квалификация, вот только верифицировать ее будет некому, а потому, любую работу будет выполнять кто дешевле.
Будет ли это скучный, серый мир, заполненный саморекламой, низкими зп и ложью? Да
Безработный? Маловероятно
С предсказамуса потом можно будет спросить?
Знающего человека видно издалека. Незнающего - слышно. Друже рассказывает про децентрализацию и ИИизацию индустрий целиком опуская ресурсы, требующие хотя бы немного ИИ. Мало того что большая часть рабочих мест не знает куда его вообще можно воткнуть, не говоря уже о внедрении в критические узлы, так ещё и меряет все это оценкой стоимости OpenAI - довольно очевидный экономический пузырь складывающийся из перекладывания денег из правого кармана в левый и монструозных займов у государства.
Количество энергии и компьют ресурсов, требуемое для поддержания ИИ вообще осталось за рамками. Как оно будет поддерживать собственные ресурсы, когда скорость деградации будет превышать уровень производства также открытый вопрос. Победить такой скайнет кажется не представляется проблематичным.
Да мы уже давно безработные - если верить прошлогоднему прогнозу про то что через полгода ИИ нас всех уволит!
Почему нас уверяют, что искусственные интеллекты отберут 99% работы?
Зачем им это? Если они (ну, или, он) будут(ет) умнее, то сначала отберут(ёт) 100% капитала и 100% власти.
И уже только сильно потом, дней через семь, ИИ не будут нужны ни работники, ни потребители.
- Это на самом деле умный слон?
- Очень! Когда цирк переезжает на новое место, он помогает ставить шатёр, в одиночку заменяя 20 человек!
- Вы и вправду думаете, что это от большого ума?
В далекие 90е была великолепная книга, триллер, английского кажется автора (запямотовал), о том как ИИ сбежал и размножился. ПО МОДЕМАМ.
Вот и тут этот "предсказатель" утверждает что ИИ сбежит и размножится на куче компов. Ага, на смартфонах, не иначе.
Времена меняются, но не меняются предсказатели.
Пока весь ИИ заточен на промпт-ответ, мы в безопасности. Самообучение отключено, внутренним диалогом даже не пахнет. Клоду совершенно точно не снятся электроовцы, потому что нет раздражителя - нет мыслительного процесса. Не говорю, что эти задачи нерешаемы. Например, постоянное самообучение отключено сознательно на основании горького опыта с таким ботом запущенного в твиттер. Как минимум это уже достаточный предохранитель, поставленный вполне осознанно. Ну и проблемы катастрофического забывания и вот это все тоже пока не решены, и света в конце туннеля как будто не видно. Пока что весь ИИ - умный молоток, которым все еще должен махать человек.
А так, если мою работу отберет ИИ - я еще детский тренер. Сомневаюсь, что в ближайшие лет 30 люди доверят детскую физкультуру роботам, пока что выглядит неплохой заменой.
Я исследовал этот вопрос. Выводы такие.
Действительно будет экономический кризис, потому что уволенные не могут платить. Это отодвинет сингулярность.
Ещё есть фактор энергии. Она не бесплатно в розетке появляется. А для миллиардов роботов нужно столько энергии, сколько взять в ближайшие года не откуда. Это тоже даёт отсрочку.
Есть ещё фактор государств. Власти не будут просто смотреть на обнищание и бунты безработного населения. Регулирование неизбежно.
В перспективе 50 лет человечество ждёт значительное сокращение (в разы) - это неизбежность. И мы с этим даже без AGI успешно справляемся, если посмотреть на уровень простого замещения.
В перспективе 100 лет возможен симбиоз роботов и людей. Очень малого числа людей. Просто у ИИ все же есть слабые стороны.
В долгосроке место людей примерно как у поволжских волков, которые сидят себе тихо в своей нише и не пытаются на места обитания человека. Ну и Вселенную будут осваивать не люди.
Шанс у людей есть, но он связан со сращивание людей с технологиями - генная модификация, киборгизация и по. Но будут ли это автономные люди или контролируемые ИИ существа - это вопрос.
Если нет потребности ходить на работу, то почему бы не посвятить свою жизнь классике, дом, сын, дерево? Мне нравится работать у себя на участке, бетон месить, провода мотать, огород растить. "Мужики сволочи, бабы дуры, счастье в труде". Будем трудиться для себя, растить детей, но без изнуряющей необходимости ежедневной работы в найме. Я в восторге от такой перспективы.
Есть масса экспериментов на мышах, показывающих, что без мотивации популяция быстро деградирует и погибает. Мотивация - это вознаграждение за достижения и наказание за день.
Да и советский опыт явно продемонстрировал, что отсутствие мотивации приводит к повальному пьянству и снижению рождаемости. Так что Утопии не будет.
Мыши в тех экспериментах жили в условиях ограниченного пространства, пока были свободные норки популяция мышей росла стремительно. Современные и +10 лет технологии проблему обеспечения продовольствия решают, с местом для ИЖС на планете пока проблем нет. Да и не надо будет человекам как мышам 17 помётов по 6 мышат за жизнь.
ИИ это всего лишь часть автоматизации. Автоматизация уже как бы давно существует, но как видите, до сих пор много ручной работы, даже на заводах. (ручной труд пока что рентабелен, чем внедрение роботов)
А противники прогресса, технологий, автоматизации - всегда были, есть и будут. Так что Ямпольский чудик из этой группы людей. Это просто его мнение, прислушиваться к нему я бы не стал.
Просто посмотрите КиберДеревню, там неплохо рассказано про технологичное будущее Россиюшки. Даже через 100 лет будут разбитые дороги, хутора, уазики
Ну и ИИ это часть неминуемого прогресса. Как летающие машины на автопилоте.
И к сожалению, иногда прогресс остановить удается, остановились на клонировании овечки Долли, сказали не гуманно, не по божески это. Иногда прогресс чисто экономически не удается реализовать, как с роботами на заводах, или полеты на марс.
Такие планы прям.... Ну как минимум, человек сам спокойно вымрет лет через 30-50 от последствий глобального потепления. Дефицит воды, жара, пустыня, затопление земли.... Будет существовать ии автономно от человека ? Значит, будет необитаемая планета, непригодная для жизни, где копошится ии ... жуть. И как можно называть умными людей, которые все это устроили ?
Весь этот горький катаклизм начинает напоминать мультик про доброго Ээха
Возможно и решение вопроса будет теми же методами...
Технократы совсем головой поплыли, какие 10 лет? какая безработица 99%? Пример: "858 терабайт государственных данных Южной Кореи сгорели к чёртовой матери. Бэкапа просто не было". Как пример, что помешает отчаявшимся спецам которых "Уволят", ну эти 99%, сделать подобные саботажи. И другой пример: в 2015 году прошёл снег с дождем, несколько знакомых сидели в деревне две недели без электричества. Человека не до оценивают, он может действовать иррационально.
Ну как бы этот Ямпольский тот ещё жук, ему уже пора свой Ютуб канал открывать и начинать хомячков окучивать. Да и в пиар он умеет довольно не плохо, скандальные заявления мутятся, баблишко крутиться.
По сути проблематика сводится к рекурсии или экономическому Уроборосу.
Сначала ИИ пришел за программистами (потому что их труд больше не нужен), потом за начальниками отделов потому что отделы перестали быть нужны, потом пришли и за мной - директором компании, потому что инвесторы решили что больше во мне не нуждаются.
Когда все компании и все услуги были автоматизированы, мы выяснили что доходы упали до нуля, потому что исчезли конечные покупатели товаров.
Мы позакрывали все компании в мире.
А люди как у старые добрые времена вернулись к упрощённым формам взаимодействия, придумаю свои деньги, оказывали друг другу услуги, мастерили товары и продавали друг другу на базарах.
За электричество и отопление вы смастеренным товаром не заплатите. Без электричества теоретически можно обойтись, а без отопления сложнее. В деревнях еще можно придумать какую-то печку, хотя тут тоже есть сложности, а в городских квартирах нужно платить государству за централизованный сервис.
Ну, не умирать же. Разбредутся по деревням, произойдёт де-урбанизация.
Думаете там миллионы домов свободных? Землю купить тоже деньги нужны.
Если вся Москва, все 15 млн. человек, разбредётся по полям копать землянки, никакая армия их не сгонит.
Во-первых, это и будет то, о чем говорится в статье, во-вторых, события в неразвитых странах типа Африки показывают, что это не так.
В статье я нашёл только "мы все умрём".
А по Африке полазил через Google Street View - страны как страны, старндартная инфраструктура (дома, дороги, автомобили везде, всё электрифицировано). Не похоже, что там 99% безработицы.
"мы увидим такой уровень безработицы, которого никогда раньше не было. Не 10%, а 99%."
"человечество как вид просто останется без работы."
"Как это скажется на преступности или рождаемости? Об этом никто не думает."
"У государств нет никаких планов на случай безработицы в 99%."
Не похоже, что там 99% безработицы.
Я имел в виду, что армии там вполне себе сгоняют миллионы людей с их мест.
Я имел в виду, что армии там вполне себе сгоняют миллионы людей с их мест.
И куда они идут, где эти люди расположились?
Читайте новости, зачем я их тут буду пересказывать. Я отвечал на идеализированный тезис, что не сгонит.
Согласен с изложенным.
Надо было пропустить статью через Чат жпт )
Не зря умные люди уже много лет назад начали рассматривать и тестировать концепцию базового безусловного дохода. Понятно, что рано или поздно население на работе будет заменено роботами по большей части. А прибыль будет получать горстка людей и ни с кем не делиться. Одни бесконтрольно богатеют и копят деньги, другие не имеют денег, чтобы покупать то, что производят первые. Экономика стагнирует. Производить нет смысла, если никто не может купить. Если платить людям просто за, что они есть, отбирая большую часть дохода первых - можно простимулировать все части цикла производства и потребления.
Это и есть определение точки сингулярности — горизонта событий, за которым мы уже не способны ничего видеть, понимать или предсказывать
Как будто мы сейчас прям много видим, понимаем и предсказываем
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Безработица не 10%, а 99%. Через 5 лет». Интервью доктора Романа Ямпольского, ученого по проблемам безопасности ИИ