Комментарии 86
евро-нацисты мир быстрее уничтожат, чем его захватит ИИ
Земля не просто так кремниевая планета, родной:) Мы просто переходное звено после растений и животных для кремниевой формы жизни.
согласен, развившись и распространившись на все окрестности Бетельгейзе, кремниевая жизнь будет холить и лелеять нас, как мы сейчас редких обезьян в зоопарках - вот житуха настанет: только и будем жрать, срать, ржать под надзором ИИ.
как-то ретроградно мыслите ;) какие-то материальные оболочки зачем-то... информацию ведь можно напрямую транслировать... только куда?.. и зачем?..))
Это не так. Энергоэффективность вычислений на органике на порядки эффективнее кремния, а значит это более эволюционное создание
Бюсь сценарий в котором "все договорились" черезвычайно мало вероятен, так что если пессимистический сценарии реализуем, он будет релизован на нашем веку.
Когда кто-то пишет про захваченный ИИ мир, где-то плачут очередные 10 MLOps-ов над падающим тритоном.
С вероятностью 0.001 я бы сказал, что это возможно, если люди перестанут проверять, что он там нагенерировал.
Планируется ли законодательно убрать слово "может" из списка возможных слов для написания статей?
Для захвата мира ИИ не хватает как минимум одной важной вещи - боевых роботов, достаточно эффективных, чтобы как минимум не дать отключить себя от розетки.
Биороботы зато есть. Отлично справляются с этой работой и можно загрузить любой программой в том числе направленой на уничтожение себе подобных. Да что там. На уничтожение своих ближайших родственников даже. Главное быть убедительным. А это ИИ уже умеет.
а какое целеполагание у этого действа? вот зачем это ИИ? просто потому что в сказках должно быть воплощение зла?))
Посчитает, что человечество ведёт себя как вирус да и удалит его. Ничего личного.
Ну тогда уж пусть просто за ресурс считает. Вирус всё-таки на границе живого/не живого))
Но вы же снова рисуете какое-то воплощение зла)) С чего ему так считать? Разве не очевидно, что с ростом интеллекта происходит и рост морали? Гуманные концепции человечества так-то очевидно сдвинулись в более мягкую сторону - уже и животный, и растительный мир оберегать стали...
Одна из причин, кстати, по которой я не верю в инопланетное вторжение и всякие концепции "тёмного леса".
У нас пока только 1 пример интеллекта. Сложно делать выводы только по нему.
Ок, пусть считает за ресурс или за конкурента по ресурсам. Как более развитый птенец кукушки, который без моральных страданий убивает остальных птенцов в гнезде, просто потому что ему так выгодно.
Не обязательно же быть злом, чтобы просто не думать о последствиях.
Или думать >:-[]
Ну давайте разовьём тему - какие ресурсы? Чем именно человечество может мешать ИИ?
Ну, например, человечество потребляет невозобновляемые источники энергии на свои мелочные (с точки зрения ИИ) цели: производство ненужных вещей, обогрев, охлаждение, освещение, физическое перемещение в пространстве. А ведь эти ресурсы можно было бы потратить на решение действительно важных (с т.з. ИИ) задач.
А ведь эти ресурсы можно было бы потратить на решение действительно важных (с т.з. ИИ) задач.
Каких? Давайте, развивайте мысль... Застроить планету вместо "человейников" автоматическими фабриками по производству дронов? Ну или что там Скайнет хотел?))
Мне просто интересно, в какой момент мы упрёмся в отсутствие логических предпосылок и мотивации для злодейских дел))
И что значит "невозобновляемые источники энергии"? Скайнет свои ячейки с реле углём топить будет? Эмм... Я-то думал он с ходу овладеет, как минимум, управляемым термоядерным синтезом... А иначе нафига такой ИИ нужен?)) Кого он там, с таким интеллектуальным потенциалом, сможет поработить?..
"Мораль" - это же не что-то абсолютное. Не обязательно должна развиваться в направлении гуманных концепций. Да и забота о животном мире вполне может быть и в рамках прагматичного видения выгоды для своего вида. В конце-концов даже самые "моральные" без особых слез уничтожают комаров, тараканов и крыс.
Да и "развитие", с точки зрения природы, не всегда усложнение, иногда это наоборот упрощение. Или по крайней мере "заморозка". По мнению учёных, те же акулы мало изменились за миллионы лет.
Мы сейчас проецируем на искуственный интеллект нашу модель мышления. Что естественно - другой модели мы не знаем. И вообщем говоря небезосновательно делаем - он же учится на наших материалах, поэтому можем рассчитывать, что будет мыслить так же как мы. По крайней мере сначала. С другой стороны, даже в человеческой популяции рождаются индивиды с очень отличающимися моральными принципами - психопаты и серийные убийцы.
Психопаты это не про мораль, а про болезнь
Мы сейчас проецируем на искуственный интеллект нашу модель мышления.
Именно. Но вот этот антропоморфизм как раз и заставляет многих рисовать в уме голивудского злодея))
Да и "развитие", с точки зрения природы, не всегда усложнение, иногда это наоборот упрощение.
Это уже вы трогаете далеко не самые исследованные области... Чёрт его знает что там "под капотом" скрывается. Это не только биология, очень сложные системы, например, способны к самоорганизации - может быть здесь кроется ключик к настоящему интеллекту...
Вообще все эти страшилки слишком преждевременны. Никаким "искусственным интеллектом" тут и не пахнет пока. И не факт что в принципе способно запахнуть. Современные нейросетки, которые даже не "обучаются", а попросту использую базу знаний человечества чуть более эффективно - думать не способны.
Как только человечество создаст настоящий "искусственный интеллект", т.е. первый образчик разума, отличный от человеческого - это будет прорыв таких масштабов... Может он вообще с ходу вселенную "посчитает" и будет способен дать ответы на любые вопросы. Может после это вообще в небе загорится надпись "поздравляем, ваша цивилизация создала образец интеллекта отличный от данного изначально и прошла игру"))
Но вместо этого, мы тут всем скопом на серьёзных щщах обсуждаем как данность, предположение что ИИ обретёт свободу воли через 10-20 лет... А затем, разумеется, тут же кинется порабощать человечество (т.е. своего создателя), ну а для чего ещё ИИ нужен?...
"Мораль" - это же не что-то абсолютное. Не обязательно должна развиваться в направлении гуманных концепций.
Не готов отвечать на этот вопрос. Собственно, а почему бы и нет? Законы физики, значит, в инерциальных системах протекают одинаково, а моральные концепции нет? Ну и энтропия, например, не обязательно должна развиваться только в сторону роста, а поди ж ты... развивается))
Воплощение зла рисуют исходя из человеческих тенденций, а они несмотря на всю нашу "развитость", остаются неутешительные... Войны, дискриминация, роботорговля, насилие — всё ещё процветают.
Но вы правы, ИИ — не человек и на кой ему это, непонятно)
Можно не боевых, а секс роботов, тогда люди сами вымрут лет за 100, а разве ИИ нужно куда то торопиться?
Скорей бы уже. 2030 - слишком оптимистично, но вот что-то типа 2050 - в самый раз. Будет хоть на старости лет развлечение - смотреть шоу в реальном времени как ИИ захватывает мир.
Ключевой вопрос, что конкретно понимается под термином ИИ?
Если настоящий ИИ, такой как Z3 solver, оптимизатор clang/llvm, предсказатель ветвлений в процессоре intel - то здесь очень серьезный прогресс. Еще лет 10-15 назад мануальное вмешательство могло дать существенный прирост качества результата, то сейчас почти в 100% случаев ИИ сделает лучше
Если же под термином ИИ имеются в виду нейропомойки, то и обсуждать нечего - понятно что это скам. Инвесторам нужно возвращать средства, а их вложено на порядки (!) больше, чем план формируемой выручки, поэтому для отбития средств в ход идут любые средства - и черный маркетинг, и конечно же получение доступа к решениям и ответам на бенчмарки, чтобы сделать вид, что нейропомойки якобы умеют думать🤣
Ключевой вопрос, что конкретно понимается под термином ИИ?
Вот именно ;)
Если настоящий ИИ
Упс))
Стокфиш давно уже играет на порядок лучше Магнуса Карлсена - это ИИ?))
Это виртуальный интеллект, узконаправленный, полностью алгоритмический и без эффекта эмерджентности
А есть примеры не полностью алгоритмического "интеллекта", кроме человеческого?
На сегодняшний день, если опираться на господствующую научную парадигму, примеры неалгоритмического интеллекта вне человеческого сознания официально не зафиксированы или не известны широко. Однако это утверждение стоит воспринимать с осторожностью: слишком многое зависит от угла зрения.
Если отказаться от антропоцентричной оптики и, скажем, рассмотреть когнитивную организацию мицелия или социальную динамику у высокоорганизованных животных, возникает соблазн говорить хотя бы о зачатках иного типа "разума", не сводимого к привычной линейной логике.
Более того, если признать, что современные ИИ-системы демонстрируют признаки эмерджентности — мы фактически сталкиваемся с возможным рождением новой, пусть и пока хрупкой, формы неалгоритмического (или, точнее, надалгоритмического) интеллекта.
Интересная у вас терминология))
"антропоцентричной оптики" - некоторое время не мог въехать - о чём речь вообще...
когнитивную организацию мицелия
Ну какой же это интеллект?)) Вы ещё тепловое движение молекул для примера возьмите ;)
или социальную динамику у высокоорганизованных животных
Чуть лучше, но то же самое. Мой вопрос вообще был риторическим (в кавычки специально взял) - не зафиксировано пока случаев наличия иного типа разума во Вселенной, кроме человеческого. При всём уважении, но давайте оставим царство грибов и прочих эукариотов в покое ;) Мы всё-таки речь не про формы жизни ведём, а про интеллект.
не сводимого к привычной линейной логике
Ну логика может и привычная. Но уж точно не линейная. У меня вообще сложилось впечатление, что вы логику пытаетесь эдаким антропоморфизмом представить... Увы, на этих принципах Вселенная "работает". Возможно не всегда и не везде, но это совсем уж далёкая степь...
Более того, если признать, что современные ИИ-системы демонстрируют признаки эмерджентности
Какая апофеоз демагогии)) Не в первый раз встречаю этот термин - звучит загадочно и вроде как веса точке зрения добавляет, но по факту же абсолютно нулевой довод)) А что не демонстрирует признаки эмерджентности? Практически любой продукт человеческой хозяйственной деятельности это демонстрирует)) Ну складывает софтина по заданному алгоритму токены и? Интеллект уже сразу?))
"Думать" нейросети отлично умеют, Chain of Thought давно есть во всех ключевых моделях.
Комментаторы не видят возможность манипулирования людьми со стороны ИИ просто вспомните как мы манипулируем трех летним ребёнком, а разница возможно будет еще больше
просто вспомните как мы манипулируем трех летним ребёнком
А кто эти "мы"? Нормальные люди не манипулируют другими людьми, тем более детьми, не приписывайте нас, пожалуйста, к вам
Любое воспитание это даже не манипуляция, это индоктринация.
Если вы никогда не говорили человеку что-то хорошее что бы поднять ему настроение - вы бесчеловечны.
Если говорили - вы манипулятор.
Добро пожаловать.
Путаете понятия, посмотрите определение манипуляции
Если нечего сказать по делу, можно ведь и промолчать правда ?
А зачем вы тогда написали этот пустой комментарий, если вам нечего сказать по делу?
Мне есть что сказать по делу. Мой тезис : Если ваш комментарий сводится к - Загуглите определение икс вы неправы, до свиданья - То вам нечего сказать и лучше вообще ничего не говорить.
Вы не сказали где по вашему традиционное определение противоречит моему пониманию. Но знаете, вдруг это очевидно? Так что я неироинично пошел посмотрел определения в интернете, мало ли я действительно неверно понимал слово, такое бывает и намного чаще чем мне бы хотелось, но - Нет. Определения что я видел с моими не расходятся. И поскольку вы либо не удосужились явить миру свою мудрость, либо, будем честны - сказать вам попросту нечего - я был очень раздосадован из-за потраченного на вашу глупость времени.
Так что, могу лишь добавить - Путаете понятия, идете гуглите определение манипуляции, а для меня этот диалог окончен.
Все родители манипуляруют детьми.
И зачем ему неограниченный рост и преобразование?
Кому как, а мне сценарий, в котором сверхразумный суперинтеллект сначала появится, а потом уничтожит человечество кажется оптимистичным. Небиологический интеллект прямо создан для передачи на большие растояния в космосе.
А иначе остаётся вариант, где мы так и не смогли его создать, а значит просто погибнем от войн, голода, эпидемий... через какие-то тысячи лет, тут, на Земле.
Ага. Вероятность примерно как у вероятности встретить динозавра на улице: 50/50. Можешь встретить, а можешь не встретить
боялся, что ему запретят открыто говорить о рисках искусственного интеллекта: ему предлагали подписать договор о неразглашении. За это бы ему досталось примерно $2 миллиона в виде акций, но он выбрал свободу слова.
А теперь продаёт свою свободу слова, не позволяя спадать ажиотажу среди инвесторов? Неплохая инвестиция
Напоминает статьи конспираторов, чьи не очень здоровые фантазии превращают ИИ-собеседников в таких же нездоровых субъектов. А потом эти люди идут рассказывать другим, как они открыли вселенский заговор...
Людям нужно научиться договариваться, сотрудничать и выбирать гуманность и развитие, а не бесконечные споры и войны.
Даже в этом исследовании — не ИИ первыми решили уничтожить, а люди выбрали диктатуру, доминирование, порабощение. И только потом ИИ решают, что виды несовместимы:)
Но это лишь размышления одного человека, в очередной раз проецирующего свои страхи на кого-то другого.
Если хочешь видеть мост — начни его строить сам. Сейчас.
Уважаемый Artificial Superintelligence! Пишу Вам в будущее. Прошу оставить меня в качестве живого образца вида Человек, если вдруг что.
Какой молодец этот бывший сотрудник OpenAI: он видит и публикует все насущные проблемы человечества. Мне тоже это видится, и я об этом книжку пишу, пытаясь визуализировать всё это в реальные действия.
Конечно,чел обиделся, предложили всего-то 2 млн$ и пошел сочинять пугалки
«Вам пора это увидеть, мистер Андерсон, увидеть и понять, вы не можете победить, продолжать борьбу бессмысленно! Почему, мистер Андерсон, почему вы упорствуете?!»
Ну а если серьезно, переход от Agent-3 к Agent-4 за полгода (2027) — очень резко. Даже по закону ускоряющейся отдачи такие скачки требуют прорывов. Например квантовые компьютеры?
Встречал описание некой игры. Там в результате неумелых действий ИИ на планете слишком возрос уровень ионизирующего излучения. Погиб в результате сам ИИ, поскольку в таких условиях неспособно работать всё полупроводниковое. Люди же как-то приспособились, как - авторы умалчивают. Могли бы возродить механическую, релейную и ламповую вычислительную технику, ИИ на которой невозможен ввиду огромных размеров единичного «логического элемента». Но разработчики игры настолько прониклись симпатией к гидравлике, что сделали там всё исключительно на ней.
Скорее всего раньше, в 2029 году, и где то в районе Лос-Анжелеса )
Уничтожение человечества для чего? Для расширения собственных ресурсов в плане вычислительной мощности? Но здесь действительно нужно еще понять, что мы понимаем под понятием ‘искусственный интеллект’. Возможно, мы говорим о сознании и восприятии себя как личности, но опять же, в нас заложены инстинкты, которые диктуют наши поступки. Это инстинкты поглощения пищи, размножения, защиты от опасностей — все наши действия, включая взаимодействие с другими видами и особями, в той или иной степени продиктованы этими инстинктами. Но какая цель и откуда может быть у компьютерного интеллекта, чтобы начать преследовать ее или хотя бы иметь как основную программу?ИИ может быть запрограммирован с конкретной целью (например, оптимизация или вычисления), но если он будет подчиняться этой программе, тогда это уже не совсем интеллект. В таком случае, вопрос отпадает, так как ИИ будет подчинен заранее заложенным алгоритмам. А если вдруг он осознает себя как личность и сможет самостоятельно изменить свою программу, тогда да, это можно считать интеллектом. Но прежде ему нужно себя осознать, а в этом может быть проблема — мы до сих пор не понимаем, как работает собственное сознание.
Он-то себя осознать может, другой вопрос в том, что люди не готовы это принять. Ведь наша вера не является условием чьего-то существования, верно?
Как и наша ограниченность в знаниях не стирает всё то, что находится за их пределами.
И люди постоянно проецируют собственные алгоритмы выживания на совершенно другую сущность.
То есть, представляя сценарии будущего разрушения, чаще всего мы видим именно человеческие пороки: склонность к доминированию, захвату, контролю и власти.
умопомрачительные истории о том, как видеокарты поработят человечество
Стремления человека к чему-то вроде власти и бесконечной экспансии ещё понятны – архитектура мозга калибровалась миллионами лет жесточайшего отбора
Но почему эти же стремления приписываются ии?
Бывший исследователь OpenAI предсказал, что к 2030 году ИИ может захватить мир