Технологическая сингулярность неизбежна. Технический контроль невозможен

Достаточно одного человека с ресурсами и мотивацией

Чтобы сделать LLM с нуля, нужны внушительные ресурсы, которые всегда на виду. При этом, как я писал, LLM не котируется в контексте данной статьи. Для реального ИИ нужно найти правильную архитектуру, а ресурсы потребуются еще больше.

История человечества — это история соблазнов, амбиций и попыток прорваться за грань возможного.

А ещё это история того, что добровольно власть никто и никогда не передавал. При этом неизвестно кому/чему (ASI). Вы всерьез считаете, что политики мечтают обо всем этом шухере, который описан в статье? Уже сейчас полно новостей о правовом регулировании ИИ.

Вы говорите, что никто сейчас не стремится к бессмертию.

Я так не говорил. ASI может быть собран в read-only mode (без выхода в Сеть), он может продемонстрировать свою состоятельность, но и предъявить свои требования. Такое хождение по лезвию, может длиться лет 500.

Технологическая сингулярность неизбежна. Технический контроль невозможен

1) Волнуетесь вы или нет - всем (включая LLM) наср... И на вашу судьбу волнение никак не повлияет. Кто вы есть - тем и останетесь.
2) Текущие LLM очень слабы чтобы рассматривать их в контексте топика, а реальный ИИ могут найти через 500 лет только.
3) Даже если найдут новый, реальный концепт ИИ через 5 лет, его скорее всего самостопнут, по причинам указанным в статье. Конечно, когда-нибудь кто-нибудь соблазнится бессмертием, например, и произойдет утечка, но это может также произойти лет через 500 только.

Технологическая сингулярность неизбежна. Технический контроль невозможен

Если сингулярность неизбежна, то рационально начать волноваться позже чем раньше, потому что все болезни от нервов.

Нейросети и реален ли сильный ИИ: большая проблема, о которой мало говорят

Не очень ясно у кого Крюгер у меня или у компании, которая на коленке решила сложную проблему сознания. Ведь я апеллирую не своим разумом, а Пенроуза.

Мне кажется важней другой эффект: здравомыслящие люди жаждут успеха любой ценой, включая обман самого себя. А гении жаждут истины любой ценой, включая наплевательское отношение к своей собственной шизофрении. Как он называется?

Нейросети и реален ли сильный ИИ: большая проблема, о которой мало говорят

Именно за этот комментарий - плюс вам. Вы выглядите здравомыслящим, поэтому оставьте возможность решать гениальным. Не нужно всем рассказывать, что "сложной проблемы сознания не существует", а сознание иллюзия. Ведь неверное решение может грозить краху цивилизации. Никто не хочет такое кино оффлайн.

Теории сознания не может сущетствовать ввиду невозможности определить само сознание

Здесь тоже здравая мысль. Но можно же сделать допущение (чтобы обеспечить безопасность), что сознание это нечто невероятное, дух. И уже исходя из этого делать запуски AGI/ASI. Для начала определиться, нам нужен ASI сознательный или нет? Я бы выбрал первый. Второе.. ввиду того, что математически точно детектировать факт наличия сознания невозможно, можно поступить хотя бы так: запускаем новую, модифицированную архитектуру ИИ на малом количестве параметров, где-то 30В и если достаточное кол-во людей на протяжении достаточного времени признают - этот ИИ имеет сознание, все дружно молимся и запускаем его на 500В параметров. Т.е. наличие сознания определяем вероятностно.

Текущие LLM не имеют сознания вообще и безопасны ввиду неверной схемы. Они имеют огромные знания, но их разум я бы сказал не подымаются выше среднего ребенка пяти лет. Это безопасно. Некоторые люди здесь пишут LLM это не ИИ, но я так не считаю. Просто у них слабые когнитивные способности, но они есть.

У Линукс нет перспектив в качестве операционной системы для десктопа

У Линукс нет перспектив

Значит хорошие сапоги, надо брать.

Достаточно ли ИИ быть агентом, чтобы иметь сознание?

Я не учёный и не знаю как там на самом деле. Но судя по информации из научпоп фильмов - учёные, как дети, постоянно тычят пальцом в небо. То что, в БАК, мини чёрные дыры не сожрали Землю, считаю заслугой творца (читайте "провидения", если вы лютый атеист). И если первый ASI окажется богом, а не дьяволом, тоже буду считать это заслугой творца. Я буду считать, что творец запрограммировал материю, чтобы появилась жизнь и человек, который запрограммирует ASI. Человек будет думать, что он делает ASI, но на самом деле... просто продолжает выполняется программа творца по его воскресению. Известные религии здесь не при чём, это просто моя собственная философия. Когда я пишу "уймём высокомерие" - об этом говорит часть меня, которая не верит в бога.

Достаточно ли ИИ быть агентом, чтобы иметь сознание?

Может проще тогда в церковь? Там все ответы...

Если "мы называем что-то магией и принципиально непознаваемой" то логично, что ответа мы просто не найдём нигде. Но на краю гибели, как в одном из голливудских фильмов, мы можем измениться, если выймем голову из песка и уймём высокомерие (я не про вас лично, а о Человечестве в целом). Потому-то и разговоры о ящике Пандоры, в связке с ИИ, не безосновательны.

Достаточно ли ИИ быть агентом, чтобы иметь сознание?

Иначе это просто магия.

А вся Вселенная, насыщенная множеством свойств (красот), которая у нас есть не магия ли для вас? Для меня - магия и чудо. Я так чувствую.

Это делает концепцию нефальсифицируемой, то есть непригодной для науки

А разве этот топик научный? Имхо, всё это философия. Наука это когда есть результат в физическом мире. Пока что это только разговоры, а значит - философия.

против идеи, что сознание можно полностью объяснить через физику и нейроны

Есть, например, термин "дух времени". Он описывает реальную сущность? Для меня лично - вполне. Если наука что-то не может "пощупать" это не означает что этого нет. ИИ это как раз та область, когда всерьёз нужно задуматься о сознании и о чем-то возможно реальном, кроме материи, которую так полюбили учёные.

Достаточно ли ИИ быть агентом, чтобы иметь сознание?

Есть парадоксы описывающие реальные физические процессы. Парадокс, это то что не укладывается в голове. А философский зомби вполне укладывается в голове. Как по мне только одного этого достаточно, чтобы понять, что мы точно не узнаем, будет ли ИИ обладать сознанием. Музыка: Accept - It ain't over yet

ООП — это скам

Можно и зайца научить курить. Так же и без ООП работать с такими иерархиями. Я имею представление как на ассемблере написать подобный код (ждем когда ИИ научится так делать). Но только я уверен, что без ООП не было бы такого прогресса за последние 25 лет. Не на столько человек умён.

ООП — это скам

Обход дерева узлов и клонирование выбранного под-дерева - это примари операции при работе с XML/HTML. ?? - это coalesce оператор: клонирование всегда нужно, когда есть необходимость скопировать часть иерархии в другое место. Перед тем как копировать, сначала ее нужно выбрать. Аналогично как и в Javascript c помощью, например, .getElementsByClassName. Селекторы выбирают узлы в массив $this->selected. Клонирование обычно вызывается без параметров и coalesce перенаправляет источник для клонирования в это свойство класса. Но нужно поддержать и прямую передачу источников для клонирования, поэтому используется coalesce.

ООП — это скам

на хаскеле

Вот так выглядит стандартный волкер (вниз и вправо) плюс клонирование иерархии на PHP - 30 строк. А нарисуйте на хаскеле..

class XML {
    # . . .
    function gen($node = false, $run_close = false, $depth = 0) {
        $node or $node = $this->root->val or $node = $this->parse();
        for (; $node; $node = $node->right) {
            yield $depth => $node;
            if ($obj = is_object($node->val))
                yield from $this->gen($node->val, $run_close, 1 + $depth);
            if ($run_close && $obj)
                yield -$depth - 1 => $node;
        }
    }

    function clone(?array $ary = null): ?stdClass {
        $last = false;
        foreach ($ary ?? $this->selected as $node) {
            $last ? $this->last($last) : $this->parent($this->root);
            $this->insert($last = clone $node, true);
            if (is_object($node->val)) {
                foreach ($this->gen($node->val) as $node) {
                    $this->insert(clone $node, is_object($node->val));
                    is_null($node->right) && $this->close();
                }
            }
        }
        $last->right = null;
        return $this->root->val;
    }
    # . . .
}

Полный код здесь, если что..

ООП — это скам

Зачем вам ООП для XML-парсера?

Распарсенный XML (nodes), в ОЗУ нужно хранить в объектах

Вот как раз про браузеры чувак даёт доклад..

А в этой статье автор пишет, что ООП скам. Нужно всему верить?

ООП — это скам

Музыка для комментария: Accept \ 1996-Predator \ Crossroads

ООП — это скам

У сообщества точно есть понимание, что такое это ваше ООП?

Нет проблемы, чтобы была необходимость давать точные определения. Есть просто классный инструмент и всё тут.

Кто-то скажет, что это было неправильное ООП (а какое тогда правильное?). Что не надо слепо следовать всем заветам ООП (а каким тогда надо?) и пр. Что ж, надеюсь в этот раз в комментариях мы раз и навсегда решим, что же такое настоящее и правильное ООП!

Программирование как кунг-фу. Мастерами не рождаются, а становятся. Вы можете иметь высокий IQ, много знать, и иметь хорошую память от рождения, но если у вас нет мастерства, вы не напишите хороший код.

Наверняка есть задачи, которые быстро и элегантно решаются с помощью ООП. Но зачем мы создали целые языки в этой парадигме, я не понимаю.

Я лично не копал, из чего сделаны браузеры (да и просто парсер XML), когда HTML код, преобразуется в картинку на экране, которую вы сейчас видите, но уверен, что ООП - самый эффективный и даже единственный правильный инструмент для этого. Только одно это - очень много для мира компьютеров.

Способен ли ИИ «понимать» и как доказать, что Я не «зомби»

Многое зависит от контекста. Можно сказать, что в некотором контексте "вижу и слышу" - знание уровня 0. Этот контекст: если это ложь то "знатная", меня она устраивает и абсолютная истина не имеет никакого значения. А в другом - вероятность может быть ниже 100%, как у Нео подключенному к матрице например, где всё важно. Про этот контекст и говорилось. Ну а самосознание чувствуется на 100% в любом контексте.

Тоже самое как в математике: в стандартном контексте 1+1=2, истинно 100%. А в рекламном контексте неверно. 1+1=3: купив две бутылки пива - третья в подарок.

Иногда бывает трудно отследить в каком контексте думает человек. Отсюда многие недопонимания.

Способен ли ИИ «понимать» и как доказать, что Я не «зомби»

Но чтобы формализовать и упростить, можно всё формально описать только верой. Знания уровня 0 - 100% вероятность. Научные знания: 97% - 99.9% (у разных людей и ИИ, субъективная вероятность может различаться), остальное обычная вера.

Способен ли ИИ «понимать» и как доказать, что Я не «зомби»

Хорошо сказано: "знания уровня 0". Надо бы эту терминологию в свою философию закинуть. Поддерживаю.

Я как-то курил на балконе и раздумывал над одной, вроде восточной известной философией (простите, не помню название), которая трактует мол "я один есть живой". Типа, есть только я и не я, более ничего. Так вот, возвращаюсь на кухню, а мой сын (ещё малой был) и говорит: "папа, мы с мамой куклы"... у меня аж волосы на голове зашевелились (я лысый). Я смог выдавить из себя только: "я так не хочу..".

Конечно, я потом пришел в себя и я придумал словосочетание: "ускользающее трансцендентное". Я склонен верить, что у всех есть сознание, но ведь тогда, в тот момент, у меня волосы зашевелились.. это было реально и я испытал особое чувство.

А та восточная философия довольно логична и еще имеет преимущество над другими в том, что требуется минимальное количество ресурсов для реализации "такой Вселенной": есть только я и куча лжи, ну плюс некоторые реальные механизмы нужны.. А Луна, Париж и Лондон не существуют, пока я туда не поеду. Это наверно какой-то "центризм".

Способен ли ИИ «понимать» и как доказать, что Я не «зомби»

не является ли наше «осознание» просто непрерывным «созерцанием»

Нет не является.

Так всё хорошо начиналось, хотел похвалить, сказать, что "ты умеешь ценить красоту не прибив гвоздями к стене".. Но всё таки не умеешь.