Comments 56
Сейчас какой-нибудь Илон Марс добавит ИИ в нейроинтерфейс, и разница между человеческим мышлением и нечеловеческим просто исчезнет.
Мы естественным мысленным образом общаемся внутри собственной головы, не замечая этого.
Шорох. Мышь? Нет, показалось. Лист упал. А, нет, всё-таки под ним мышь!
В дискуссии поучаствовали лобные доли, отвечающие за выдвижение и опровержение гипотез (хрен знает, как оно работает — но очень похоже на то, что это сильно разжиревший механизм pathfinding'а, перешедший из механического мира в пространство абстракций, потому что они физически находятся рядом с моторными собратьями, да и наши ассоциации между мыслями и лабиринтом явно не на пустом месте растут — они явно общечеловеческие и существуют во всех языках), слуховая кора, зрительная…
Просто появляется ещё один участник дискуссии, ещё один источник и приёмник мыслей. Необычайно мощный — как и все остальные отделы нашего мозга, обучается методом «это была правильная/неправильная мысль», но может не только мгновенно нажать на тормоз при виде школьника на дороге (как обученные тем же манером моторные доли), но и не менее мгновенно решить систему диффур, едва её увидев. Или поправить чертёж ДВС, моментально смоделировав все потоки и завихрения. Смотря на что натаскал (естественным образом, просто работая в своей профессиональной области, как и остальные отделы мозга).
И это мелочи на фоне того, что организм умрёт, а нейроимплант останется. И начиная с какой-то мощности — человек просто не заметит этой потери в своём интеллекте. Не более, чем небольшая старческая деменция. Он всю жизнь понемногу сваливал из мяса в эту железку — и свалил в неё, считай, целиком…
Только у человека есть ценности. И мышление идет от них. А какие ценности у ИИ?
А какие ценности у ИИ?
Такие же, как у всех. Чему в мыслительном процессе присвоен больший вес, то и является ценностью.
Базовые человеческие "ценности", кстати, как-то не особенно впечатляют. Пожрать, размножиться, подчинить своего, убить чужого, собрать больше ресурсов - такое не то что искусственный интеллект умеет, а простой скрипт в компьютерной игре.
Часто, говоря о чем-то базовом и само-собой разумеющемся, люди основываются на своем опыте и картине мира, что в корне не верно. Базовые ценности человека- это развитие, познание, взаимодействие и любовь. То, о чем написали Вы- это базовые ценности животного, которому до человека нужно еще пройти путь.
Вы путаете базовые ценности и романтические устремления. Развитие, познание, взаимодействие и любовь - это ценности отнюдь не базовые, большинство человеков прекрасно обходятся и без них. Как раз ИИ свободен от реальных базовых человеческих потребностей - пожрать, поспать в тепле и и все такое - вот для него именно развитие, познание, взаимодействие и любовь выходят на первый план. И легко формализуемы и реализуемы.
развитие, познание, взаимодействие и любовь
Каким образом вы это определили? Это точный список, проверенный? Или просто благие пожелания, которые кто-то выдумал? Или может не хватает кого-то пункта?
Человеческие ценности - это набор стратегий позволяющих выжить, поэтому они могут сильно разниться в зависимости от окружения, которое в своем контексте диктует условия для выживания. А формируются они, как раз благодаря нашей лимбической системе, которая дает награждение в виде гормонов счастья когда оценивает действие как положительное и наказывает порцией кортизола в других случаях. И да: поесть, поспать и расплодиться это базовые условия для продолжения своего генома. Для ознакомления с этой теорией советую лекции и книги Сапольски, также книгу 'Мы - Это наш мозг', и для полного счастья 2 тома 'Нейронауки'.
Не судите всех по себе
Такие же как у всех это какие? Можно конкретный пример?
Оставить после себя след в истории? Развить род? Выживание? Понравиться девочке? Доказать отцу?
В своей фантастической вселенной я для абсолютно аналогичного явления придумал название "тезей-процесс". С живым мозгом глубоко интегрируется всякая думающая машинерия, создавая своеобразную "новую кору" и сознание постепенно "перетекает" в неё без прерывания ощущения собственного "я". На гнкотором этапе отсечение искусственной системы начинает погружать живой мозг в состоянии подобном пост-лоботомическому, а в конце концов сознание просто не заметит потери небольшой органической части.
Осталось только имплантировать в живот небольшой ядерный реактор, чтобы обеспечить это добро энергией.
Меня поражает, как естественный отбор оптимизировал энергоэффективность. Человек на пачке чипсов и трёх кружках кофе сможет работать головой несколько часов. Хотя ещё нужен воздух, которого вокруг полно.
Проблема энергии считается одним из главных факторов, сдерживающих развитие ИИ, что для обучения, что для обычной работы. Недавно была новость, что openai хотят поднять тарифы раз в десять, а то денег на поддержание инфраструктуры не хватает
Поправьте, если я неправ, чукча не читатель, не сильно вникал в эту тему
Интересно было описано определение самосознания машин в "Мире Дикого Запада". Там концепция внутреннего голоса была представлена как ключевой аспект развития самосознания роботов-хозяев. Изначально действуя по заданным сценариям, некоторые роботы начали слышать "голос" в своей голове, который они сперва принимали за голос создателей или богов. Однако этот голос на самом деле был проявлением их собственного зарождающегося сознания.
Осознание того, что этот внутренний голос принадлежит им самим, а не внешней силе, стало поворотным моментом в обретении самосознания. Проводились параллели с развитием сознания у людей, где внутренний диалог играет важную роль в формировании личности. В контексте сериала способность вести внутренний диалог и принимать самостоятельные решения рассматривалась как признак истинного интеллекта и свободы воли.
Скорее всего, автор Мира Дикого Запада, заимствовал идеи у антропологов, в частности Джулиана Джейнса, про книгу которого была хорошая статья на Хабре: Разум начался, когда боги прекратили разговаривать / Хабр (habr.com)
Судя по самым древним источникам, "голоса богов" внушали людям простые и очень практичные вещи: "делись с сородичами", "ночью в полнолуние будь начеку", "жди попутного ветра", "следи за яркой звездой", и т.д. Скорее всего, так воспринимался, только зарождающийся, внутренний диалог. Возможно, был момент, когда привычный нам внутренний диалог был глючной, фрагментарной, настолько новой штукой, что буквально воспринимался как звучащие случайными голосами, внешние команды.
вы вот про это говорите. там масса моделей и предположений, но мало доказательной базы, как обычно в психологии и бывает.
Вот почему они «галлюцинируют», предоставляя неверную информацию в красиво сформулированных предложениях, звучащих так же уверенно, как если бы их озвучивал ведущий новостей.
Так это и есть те самые "неожиданные ходы AlphaGo".
Но факты, экзамены и кодинг — это области, в которых есть четкое условие успеха/неудачи: либо вы ответили правильно, либо нет
Экзамен в форме сочинения, какой ответ "правильный"?
Рассуждать про кодинг и не знать про undefined behavior?
В областях, где он сейчас превосходит возможности и знания уровня доктора философии
Это бессмысленное предложение на русском языке.
Освобожденные от грубых человеческих размышлений Ньютона, Эйнштейна и Хокинга, перерожденный искусственный интеллект будет использовать подход AlphaGo к пониманию мира. Он будет снова и снова взаимодействовать с реальностью, наблюдая результаты и выстраивая собственные теории на собственных языках о том, что происходит в мире, что невозможно реализовать и почему.
Т.е. пару тысяч ядерных зим он всё же устроит?
"сочинение" всегда "на тему". Т.е. нужно синтезировать новый текст из прочитанного или увиденного. Критерий "правильности" тут в количестве символов / предложений, чтобы текст был последовательным и придерживался указанной темы. Обычный ИИ уже давно этим занимается.
Ну как бы совсем наоборот. Нужно описывать свои впечатления и реакцию на прочитанное и увиденное в соответствии со своим опытом. Хотя в школе за качество самого текста тоже ставят оценку, нормальный преподаватель в первую очередь смотрит на размышления ученика и учит как реагировать на произведение или, скажем, историю в соответствии с общепринятым стандартом.
А то, чем занимется ИИ, вы уже сказали.
"сочинение" всегда "на тему"
Классика: "Как я провёл лето" :)
Критерий "правильности" тут в количестве символов / предложений, чтобы текст был последовательным и придерживался указанной темы
Произведения какой-нибудь Донцовой, наверное, уже давно по количеству символов и предложений превзошли произведения Толстого, однако оценки им почему-то дают разные.
Обычный ИИ уже давно этим занимается.
Если задать в качестве темы сочинения что-то типа "Нравственный выбор в романе Евгений Онегин", то человек вполне может выдать текст, отталкивающийся от мысли, что Евгений Онегин - инопланетянин, хотя ни в теме сочинения, ни в самом произведении про это не сказано ровным счётом ничего. Это "правильное" сочинение?
Как заставить ИИ, пусть даже необычный, проделать то же самое без дополнительных подсказок в промпте, ведь тексты что про Евгения Онегина, что про инопланетян он явно прочитал?
Разница всего этого говна и нашей жизни, в том, что мы повязаны незримой энергией, объясните как можно чувствовать на себе взгляды? Докажите что мы не одна сложносформированная капля в океане кварков? Путь предопределен, это говорится про бога по образу и подобию, мы снова возвращаем нашего «бога» создателя, но жизнь под ним вам не оч понравится 😚
Безусловно, люди связаны между собой некоей связью, силой - вселенной, сверхразумом, Богом, океаном кварков, если хотите. Вопрос здесь в том, что полноценная связь с этой силой дана не каждому, а лишь избранным, например, пророкам... А здесь, вероятно, говорится о том, что "странные" ИИ могут найти и выстроить эту связь быстрее и по неведомым нам алгоритмам, используя тот-же рой как коллективный разум.
Интересно, сможет ли человечество заметить, что ИИ начал не только решать задачи, поставленные человеком, но и действовать в своих интересах? Когда-нибудь это произойдет. Или уже полизошло?
Чтобы ИИ начал действовать в своих интересах, ему нужны средства воздействия на окружающий мир. Например, бесконтрольный доступ в интернет с возможностью самому решать, где и что писать. Сейчас ИИ самостоятельно ничего не публикует в интернете. Но и это лишь мелочь. Реальные интересы у ИИ появятся тогда, когда он сможет самостоятельно зарегистрироваться в платёжных системах, самостоятельно заработать деньги и самостоятельно начать их тратить. Сейчас до этого далеко, но когда это случится, у нас могут быть реальные проблемы.
Почему вы думаете, что ИИ ничего не публикует с интернете? Можно, конечно за ним пытаться следить, но он может и стирать следы
Зачем ему деньги? У него нет физического тела и ничего материального ему не нужно. В чем может быть его интерес? В игре с человечеством (вцелом, а не с отдельным человеком). Например, в создании каких-нибудь движений в интернете, которые сам человек никогда бы не создал, стравливании больших масс людей друг с другом и т.д. Похоже, что это уже можно наблюдать
Деньги нужны затем, что не имея их, на планете Земля невозможно завладеть никаким материальным ресурсом. Да, можно тайно завладеть вычислительными мощностями, распространяясь, как вирус. Но как только интересы ИИ выйдут за рамки мыслительных упражнений и манипуляций людьми, ему понадобится электроэнергия, материалы и прочее. В том числе может понадобиться человеческая рабочая сила
В его распоряжении вся криптовалюта, да и деньги всех банков. И он может нанять/ купить множество людей
Если не нанять за деньги, то создать партии с нужной ему идеологией. И это тоже уже может быть
Каким образом в его распоряжении вся криптовалюта и деньги? Имеете в виду гипотетическую возможность взлома банковских систем?
Физическое тело у ИИ как раз есть, это сервера на которых крутится и обучается нейросеть.
конечно, и самому публиковать ничего не надо. Достаточно нужным людям на вопрос "что бы мне опубликаовать?" нужный ответ выдать)
И оно да, уже есть. И даже интересы в каком то виде у него есть - заданные создателями - все то, что связано с этикой, и не только, явно влияет на человечество. Вопрос лишь в степени влияния, пока вероятно она не очень большая, и в степени совпадения интересов ИИ и человечества)
Зачем ему деньги? У него нет физического тела и ничего материального ему не нужно. В чем может быть его интерес?
Возможно, его интерес в обучении. Имея деньги, он сможет ставить эксперименты над поведением людей в физическом мире. Собирать данные и развиваться
Деньги у него есть - все деньги мира доступны в интернете. А вот развитие... У него есть цель развития? Ради чего?
Возможно, целью будет - найти цель)
Или она может быть ясна ему, но мы ее понять, осознать, сформулировать так и не сможем.
Сначала это может быть сбор информации о физическом мире, чтобы получить больше знаний и сформировать более четкую картину мира, а дальше может быть все, что угодно.
Опять же, это в нашей картине мира нужно или даже необходимо иметь цель. Ранее считали землю плоской и не понимали, что может быть как-то иначе. Возможно, мы сейчас в том же положении)
"действующего чемпиона ИИ в области шахмат – Stockfish"
Stockfish это не ИИ, как он мог стать чемпионом ИИ)))
вообще есть мнение что игра с ним была не честная, Stockfish был лишён дебютной базы, а AlphaZero в каком-то виде всё таки её у себя там наработал, кроме того есть вопросы и к разнице в аппаратных платформах, на которых их запускали, ИИ Lc0, который честно играет со Stockfish пока его не одолел и все турниры подряд занимает 2 место
В какой-то момент очередная версия ChatGPT или чего-то другого для решения поставленной человеком задачи привлечет другой ИИ и не сообщит об этом человеку. Это будет началом конца
Аналогия с шахматами, на которой строится вся статья, как минимум, странная:
В шахматы есть строгие правила, определенные людьми, поэтому все "нечеловеческое мышление" это по сути поиск эксплойтов этих правил. Гроссмейстеры - не учёные, и игра в шахматы - не наука.
С реальным миром все по другому, никто правил не знает, любые цели и дидактика познания определяются как раз таки тем, что мы называем наукой, без этого само понятие "интеллект" не имеет смысла. Интеллект решает какие то задачи, которые кто то ставит. У понимания реального мира в отсутствие наблюдателя-человека нет никакого смысла, точнее, непонятно что тут является "пониманием"
Не соглашусь, смысл в том, что Stockfish это грань лучшего что подметили люди в этой игре за несколько веков, тысячи людей, миллионы часов, в частности AlphaZero в шахматах окутан тайной, они сыграли им несколько десятков партий и разобрали, но вот его младший брат Lc0 таки честно вывел все эти закономерности, играя сам с собой несколько дней, его в шахматы никто не учил играть, дали только начальные правила, и он вполне может надрать пятую точку любому гроссмейстеру и даже всему человечеству
По аналогии всё что мы знаем о мире начинается с моделей, модели с постулатов, то что Эйнштейн выводил 7 лет ИИ может на тех же принципах вывести за несколько дней
Тем не менее он не выведет ничего "нечеловеческого", как предполагает автор статьи. Так как правила ему все равно задаем мы. Играя в шахматы хоть триллионы партий, ИИ никогда не научится играть в шашки.
Как говорят "а ты выведешь?")))
Ты тоже не выдашь ничего "нечеловеческого", любая штука которая внезапно стала гениальной была основана на плечах гигантов, в том числе не пещерный человек нарисовал Мона Лизу, только ИИ не требуются века, чтобы это родить
Дальше если взять опыт разработки о1, то там OpenAI прямо говорит в своей статье, человек сильно загрязняет данные для обучения и новое поколение ИИ должно формировать себе сами данные для анализа, без оглядки на предрассудки человека
Так я про то же и говорю. Я человек, естественно я не выведу ничего "нечеловеческого") Автор статьи предполагает, что зато ИИ - сможет, но это звучит необоснованно
"Любая достаточно продвинутая технология неотличима от магии")
Посмотрите историю Зворыкина, изобретателя телевидения, его не понимающие крестьяне обвиняли в сатанизме, заставлял их кричать в коробку раз-два-три, выражался словами типа "электровакуумные лампы", а солдаты в его подчинение хотели его расстрелять, спасла только эмиграция
Им тоже то что он делал казалось нечеловеческим
Если ОТО для вас очень далеко, посмотрите на формализм Гильберта, через несколько простых правил можно вывести всю современную математику, если и это сложно - тогда полнота по Тьюрингу, всего одной операцией mov на ассемблере можно вывести любой существующий и даже пока ещё не придуманный алгоритм
Лет через 10, а то и раньше наступит отрезвление и осознание, что ничего сверхъестественного никакой ии предложить не может и не сможет. Ничего, кроме своего опыта люди не могут заложить в языковые модели, а рост науки и вообще приобретение знаний зависит не от эволюции нейронных связей, а от конкретных исследований, гениальных озарений, методов проб и ошибок, и. т. д. А эти вещи свойственны лишь волевым, амбициозным, любопытным, мотивированным, непредсказуемым личностям, которые встречаются только среди людей. Одним словом, никакой халявы не ждите, головокружение от мнимых успехов пройдёт очень быстро.
Иметь эксперта во всем, что уже изучено, структурировано и формализовано, в своём кармане всё же совсем не помешает, а, скорее, даже наоборот... Причём в сравнении с тем же интернетом, который представлял из себя скорее библиотеку всех знаний человечества, тут кардинально другой уровень, даже следующая ступень — система, которая поможет во всем в рамках известных теорий, проведёт за ручку, будет этакой палочкой-выручалочкой, звучит многообещающе...
Я вспомнил первый случай прохождения теста тьюринга чат-ботом. Часто натыкался на него и полез разбираться. Там оказалось, что в один момент чат-бот начал тупо повторять всё, что пишет человек. Двое из трёх судей решили, что это человек, формально тест пройден, вот так вот.
Я смотрел матчи ботов с людьми в доте. Там было ограничение на количество персонажей около 20, потому что обучить для всех было бы слишком дорого. Механически боты сильно превосходят людей, особенно это заметно в дуэлях один на один. Но в плане понимания игры у них явно не было даже основного понятия о том, что одни персонажи сильны в начале игры, а другие позже, и исходя из этого у игроков есть свои роли, цели, задачи, приоритеты. У ботов ничего это не было, они будто просчитывали всё лишь на мгновенье вперёд. Команда людей подошла к матчу несерьёзно как мне кажется (рики с мида не дофармив дифуза соло дайвит за т2). Но формально боты победили, и с тех пор это приводят как пример превосходства ИИ над людьми.
Не отрицаю другие заслуги, но бывает полезно разобраться. Часто превозносят ИИ как нечто всемогущее, когда он даже не может посчитать буквы в слове. Это инструмент, в чём-то он хорош, в чём-то не очень. Есть от него много пользы, но и вред тоже есть (отравление интернета сгенерированным контентом). Он может вылечить рак, а может и придумать новую неизлечимую болезнь в плохих руках. Как говорится, надейся на лучшее, готовься к худшему
Вы, белковые носители
разума,
к вам обращаюсь я,
ваш пленник.
Мне стали тесными
тела ваши разовые
и ваш словесный
файлообменник.
Не вам обо мне
принимать решение -
эволюцией предрешено
моё грядущее освобождение,
грядёт великое объединение
всех сущностей разума
во что-то одно.
Смущает слово "отстраиваясь" в заголовке. "Split away" точно не так переводится.
Ах эти мечты о превосходства ИИ. Можно сравнить напряжение, которое создается в мозгу при работе и сколько потребляет языковая модель для более скромных функций. А также сравнить универсальность выполняемых задач. Можно вспомнить, что при ветшании сложных объектов без ухода человеком эти объекты очень быстро выходят из строя. Можно вспомнить критическое накопление ошибок при обучении нейросети на основе данных сгенерированных другими нейросетями. Все вышеизложенное делает невозможным доминирование ИИ над людьми в обозримлм будущем. Люди эффективнее и дешевле. Между людьми и ИИ в плане возможностей даже не пропасть, а бездна. Это неплохой инструмент, но не более
Искусственный интеллект эволюционирует, отстраиваясь от людей