Pull to refresh

Comments 43

Вопрос, как вступить с ним в контакт?
А что вы думаете по этому поводу?
Хабр — не для читателей, а для писателей (с) Денискин
habr.com/ru/post/481906
Tzimie
25 декабря 2019
Китайский мозг, или в защиту Яровой
теги: Мозг, Будущее здесь

… грустно, девочки… (с) Доктор БеПе
как ни странно, автор не так уж и не прав. Хотя изложил, конечно…
Посмотрите на примеры эусоциальности. Кого там только нет, вплоть до наитупейших термитов. А ведь и животноводство, и разделение труда, и растение(грибо)водство, и строительство, и..., и… Многое из того, что веками считалось яркими признаками именно человеков.
Зайдём с другой стороны: любой, держащий дома млекопитающее, скажет, что не так уж редко бывают случаи, когда питомец ведёт себя разумнее окружающих людей. Это подтверждается этологами и называется «разумные эпизоды». Они действительно присущи всем млекопитающим и многим птицам. Для понимания можно легко нагуглить примеры использования и даже изготовления орудий труда.

А теперь к человеку: «маугли». Примеров, увы, множество. И что — дети, не имевшие языковой практики с младенчества — разумны? Снова увы, но — нет. Одиночный человек, выросший вне языкового контакта (хотя бы на языке жестов) с другими людьми — не разумен. Извините за выделение, но это действительно важно, это объективно проверяемо — и слабо осознаётся обычно в обсуждениях.

Напрашивается вывод: множество довольно тупых тараканов компьютеризованных устройств, связанных интерфейсами, по которым общаются именно они, а не только передаются команды/принимаются отчёты — будут, в конце-концов, вести себя эусоциально. При достижении достаточного уровня «умности» в устройствах и совершенных интерфейсов появится и разум.
Именно появится, а не будет изобретён.

Заметьте, никакой эзотерики, всего лишь логика и этология.
Они действительно присущи всем млекопитающим и многим птицам людям.
Но не всем. Топикстартер поднял вопрос о том, как вступить в контакт с разумом всея интернет. Полагаю, буде такое случится, его ждёт разочарование, ибо люди, воспитанные интернетом, эти ваши кибермаугли, зачастую, хуже диких обезьян.
Но не всем
птицам — не всем. Млекопитающим — всем, похоже, хотя, конечно, масштаб и частота эпизодов различается. У ежей явно меньше, у шимпанзе явно больше.
Топикстартер поднял вопрос о том, как вступить в контакт с разумом всея интернет
а никак. Это ведь не продолжение человеческого разума будет, а нечто совершенно иное. Вот, утрируя, какой нам интерес в разумности шимпанзе? Ну, из экологических соображений и исследовательских — но никак не для общения. Вот так и бабочки. Новая сущность будет иметь другие, незнакомые и непонятные нам интересы. Мы тупо не увидим её и не ощутим. Ну, как-то ощутим, шимпанзе же страдают от нашей нужды выращивать брюкву на месте их леса. Но назвать это пониманием и ощущением человеческой цивилизации нельзя.

Итого: IOT (нечто, что из него получится) породит новый разум, чисто человеческому миру осталось лет, наверно, двести.
Вот, утрируя, какой нам интерес в разумности шимпанзе?
«Он постоянно шутил про говно — очень смешно, называл других сородичей грязными животными.»
ай, бросьте, замените шимпанзе на муравьёв — ничего не изменится. Да, они выращивают еду, удобряя почву, да, они животноводство освоили, строят неслабо, разделение труда доведено до идеала — но мы же не собираемся с ними что-то обсуждать или как-то общаться? Экология, сберечь живое — да. Исследовать — да. Но — общаться?
Вот так будет и с «цивилизацией вещей».
IOT породит новый разум
А как он его породит, если всё, что в нём делается — «передаются команды/принимаются отчёты», и Вы заметили, что одного этого недостаточно для появления разума.
А, по-Вашему, термиты друг другу Пушкина читают? Я, конечно, не могу сказать, какой именно уровень взаимодействия обеспечит возникновение эусоциальности, но и очень уж сложной системы взаимодействий для этого не просматривается.
С другой, «кремниевой», стороны заходя, можно увидеть вот, что:
— с ростом разнообразия устройств IOT писать под каждый алгоритмически заданное управление будет гораздо сложнее и дороже, чем вкрячить туда нейросеть и обучить.
— нейросеть выдаёт нестрогий результат, а промежуточные состояния вообще невозможно истолковать.
Не следует ли из этого, что множество устройств IOT, перейдя с аналитического управления к нейросетевому, будет обмениваться сигналами, не строго совпадающего с «включись/отключись»? А также то, что сигналы эти будут промежуточными, и потому для стороннего человека непонятно, к чему относящимися (то есть непонятно, что «имела в виду» отправляющая сторона и как это интерпретирует принимающая)? Ну, наверно, затеяв исследование того, чему научились утюг с микроволновкой в твоей квартире — можно будет разобраться (как и с сигнализацией термитов). Но это будет именно исследование, а не заранее известный протокол.

Заметьте — я пишу об эусоциальности, а не о разуме. Во-первых, потому, что она явно должна появиться раньше. Во-вторых, её появление на сообществе крайне примитивных существ проще поддаётся анализу и пониманию (ну, пока не поддалось, правда :-).
Разум (как мне представляется) результат интеграции умных особей («разумные эпизоды» в достаточном количестве) с эусоциальностью (язык как средство информационного обмена). В результате из эпизодов порождается непрерывный процесс, который и принято называть разумом.
Есть нюанс — нейросети либо обучаются, либо используются в продакшене, когда достигнут требуемый уровень качества работы. Это раз.

управление будет гораздо сложнее и дороже, чем вкрячить туда нейросеть и обучить

Нет, это так не работает. Нейросеть — не серебряная пуля. Пихать ее в лампочку — нецелесообразно и неразумно.
Есть нюанс — нейросети либо обучаются, либо используются в продакшене
Да-а-а? А не кажется ли Вам, что существующие технологии, когда в эксплуатацию уходит обученная сеть, а на заводе напряжённо обучают следующие версии, ущербна и показывает только лишь состояние современной аппаратной платформы? Что правильным развитием будет обратная связь, которую прямой передачей всех данных реализовать никак, и разумнее параллельно с эксплуатацией производить обучение, в центр (или просто соседям) отдавая уже результаты?
Нейросеть — не серебряная пуля. Пихать ее в лампочку — нецелесообразно и неразумно.
:-D А пихать в лампочку вот это
image
с точки зрения человека 50-х прошлого века — разумно?

В том-то и дело, что развитие состоит не в том, что 60-ваттную лампу накаливания из 50-х заменяет не 600-ваттная.
Да-а-а? А не кажется ли Вам, что существующие технологии, когда в эксплуатацию уходит обученная сеть, а на заводе напряжённо обучают следующие версии, ущербна и показывает только лишь состояние современной аппаратной платформы?

Нет, ничего ущербного нет. На заводе не обучают напряженно следующие версии. Одну и ту же готовую сеть, которая, по сути, лишь массив чисел, описывающих веса да схема их перемножения, описывающая связи, можно сколь угодно много раз использовать в разных устройствах.

А вот сети, постоянно находящиеся в процессе обучения:
1) Очень сильно тормозят, потому как обучение — это очень дорого и технически сложно. На каждой итерации считаются бешеные диффуры, применяются градиенты, идет сверка истории оптимизации. В итоге даже на топовых видеокартах это занимает много времени. Вы не против, если лампочка будет стоить в районе 500-1000 долларов, весить килограмм и жрать по 200 ватт чисто на обслуживание контроллера, гудя пропеллерами, дующими через массивный радиатор? И отвечающей на ваши запросы с задержкой в несколько секунд.

2) Деградируют. Да. Не становятся умнее. Если сеть будет перманентно в состоянии обучения, она сдеградирует. Сеть начнет работать хуже, чем «случайный агент» с равновероятностыми вариантами ответов. Причины могут быть разные, в зависимости от механики обучения и топологии. Либо процент «умерших нейронов» станет слишком большим, либо будет глубокий непробиваемый оверфит, либо уровень абстракции станет слишком высоким и тд

Нейросети — не разум в коробочке, это просто набор матриц, обернутых в функции активации и перемноженных друг на друга. СМИ очень сильно искажают факты, представляя нейросети чем-то эдаким, моделью мозга, но нет, это не так. Это совсем не так. И я даже не знаю, хорошо это или плохо.

Но как факт — романтизированные представления о них ложны.
Обучение сетей — это стадия производства, сложного, дорогого, требующего много анализа и контроля. С тем же успехом можно говорить, что хорошо бы у каждого дома иметь свой небольшой литейный цех. Ну там, ложки, вилки можно самому делать, диски для колес, да мало ли можно придумать применений. Но нет. Все мы понимаем, что это дико. Прошу, поверьте мне, как человеку, который работает с нейросетями каждый день — постоянно обучающиеся сети в продакшене, да еще и на IOT-контроллерах это не менее дико, чем маленький домашний литейный цех. Разумеется, это может быть не очевидно, если человек не знаком с нюансами, и это вполне нормально, но… это так. К счастью ли, к сожалению ли.
Вы не поверите, возможно, но — я это знаю :-)
Однако, повторюсь: не воспринимайте будущее, как настоящее, умноженное на пи.
И ставить микросхему в лампочку — не менее дико, на самом деле.

Допишу: Вы слишком буквально воспринимаете фразы. Речь не идёт о внедрении полноценного «заводского» обучения в каждый утюг. Но и прямой передачи всех данных с миллиардов датчиков тоже ведь не будет. Какой-то уровень обработки должен быть и в утюге, и он явно будет не аналитическим.

Знаете, мы последние годы делаем систему (она уже в эксплуатации, но развитие продолжается), в которой именно так и происходит. Без нейросетей вообще, но это в данном случае неважно. Важно то, что технологии обработки неизбежно спускаются и на низовые, конечные, уровни, иначе не организовать технологию сбора.

Ну, и наконец: я не пророк, не утверждаю, что именно так всё и будет. То есть, утверждаю, конечно, но другое: когда будет широчайшая сеть узлов с каким-то, даже примитивным уровнем обработки и обменом данными обработки — будут и предпосылки к возникновению на этой почве эусоциальности.
Другими словами, упираю на то, что чудеса новой цивилизации/нового разума не будут созданы, а возникнут.
Суть в том, что такие системы стохастичны по природе своей и могут по какой-то причине поменять свое поведение и свойства. Как же это соотносить с понятием «гарантийный срок»? Если я продаю товар, я несу ответственность. Разве могу я продавать то, не знаю что?

Да и, мягко говоря, лично я, как покупатель, не хотел бы, чтобы условный утюг имел свойство «непредсказуемое поведение в таких-то рамках, способное качественно влиять на последствия работы».

Я, скорее, вижу это как то, что все IOT-девайсы бесповоротно смутрируют в сверхтонкие клиенты, которые будут не более чем периферией для хабов, которые, в свою очередь, уже будут общаться с ними через пару-тройку слоев абстракции и протоколов. Это уже происходит.

Как вот, сейчас, работает ПК и периферия к нему. Производителей много, схем много, тонкостей работы периферийных устройств много, моделей много. Но все решается. Железку с системой дружит драйвер, а поверх уже работают стандартизированные протоколы.

Уж что что, а сделать абстрактный API, когда условный чайник, при подключении к хабу, сам ему передает все свои IO с описанием и даже мануальчиком для пользователя — вообще ерунда.

Если же речь идет о кросс-девайсовом взаимодействии, то не думаю, что чайнику нужно знать о лампочках, а лампочкам интересно общаться с утюгом. Это все так же решается через хаб, в котором можно задавать сценарии. Например, чтобы при закрытии штор и низком уровне освещенности лампочки включались сами, если в комнате кто-то есть и тд. Шторам, сенсорам и лампочкам не нужно для этого общаться между собой и изучать друг друга.
Как же это соотносить с понятием «гарантийный срок»? Если я продаю товар, я несу ответственность. Разве могу я продавать то, не знаю что?
ну, возьмите посудомоечную машину. Она моет, сообразуясь с датчиком прозрачности воды, так что не тупо исполняет алгоритм, но с какой-то уже вариабельностью. При этом помыть может несколько по-разному. С одной стороны — функция работает, предъявлять претензии не придётся. С другой — есть вариабельность в работе. Но она, эта вариабельность, не видна потребителю.
Касаясь конкретно утюга — есть утюги с ИК-излучателем и прозрачной, соответственно, подошвой. Причём по отражению опознаётся ткань и режим её прогрева. Здесь уже «мозги» нужны, и даже хорошие — не помешают. Нужно же не только температуру плавления ткани опознавать, но и складку, отличать складку брюк от морщины-помятости и т.п. Только начни :-)
Дополню, а то, кажется, не вполне внятно написал
с ростом разнообразия устройств IOT писать под каждый алгоритмически заданное управление будет гораздо сложнее и дороже, чем вкрячить туда нейросеть и обучить.
Вот поставил в доме 100500 устройств IOT — как их связать в единое поведение, то есть создать «умный дом»?
Здесь регулярно появляются статьи «как я это сделал». Но — как это должно делаться в произвольной квартире для людей, от этого далёких? Именно на этом уровне станет проще связать между собой нейросети устройств вместо жёсткой алгоритмизации — какое устройство как отзывается на какой сигнал.
Нет, я Вас понял, но считаю, что нейросети (с их текущим способом обучения на огромных массивах данных) непригодны. Для IOT устройств нужны контроллеры, которые способны прочитать на неком языке описание возможностей других устройств и, вообще, «вести разговор» друг с другом, — т.е. полу-разумные устройства. Ну и тогда получается возвращаемся к тому, с чего начали. Ключевое здесь — наличие «машинного» языка, — что-то среднее между жёстким API и гибким человеческим языком. Попытки создания такого когда-то предпринимались, но всё заглохло.
о считаю, что нейросети (с их текущим способом обучения на огромных массивах данных) непригодны
я же и не говорю, что «уже».
полу-разумные устройства
муравьи, пчёлы, термиты — полуразумны?

Я стараюсь отстроиться от построения далеко идущих рассуждений в пользу опоры на проверяемые посылки.
Добавлю, потому что перечитал и увидел вот это:
Попытки создания такого когда-то предпринимались, но всё заглохло.
Я же стараюсь пояснить, что «создания» не будет, будет «возникновение» вследствие долгого подспудного процесса. Возможно, очень долгого — хотя…
Но — как это должно делаться в произвольной квартире для людей, от этого далёких?

Через стандартизацию протоколов обмена данными.
Вы старательно воспроизводите текущую ситуацию — считая, что в перспективе то же самое, но умноженное в нцать раз :-)
IoT только начинает развиваться, и соответствующее информационное поле будет расти и вширь и вглубь. Не будет единого стандарта выше транспортного уровня, примеров тому — вся история.
Стандартизация это не «умноженное в нцать раз», а наоборот, поделенное.
Не будет единого стандарта выше транспортного уровня, примеров тому — вся история.

Не будьте столь категоричны.
я стараюсь не быть категоричным, но вот жизнь подсказывает…
:-)
К примеру, http — вполне себе стандарт. И им пользуется огромное множество всего и вся. Однако то, что по этому стандарту передают, весьма и весьма разнообразно. Причём, заметьте, изначально http был стандартом высокого, даже высшего уровня — для описания страницы. Сейчас — фактически транспортный уровень для, к примеру, разнообразнейших REST API.
Так и здесь — стандарт транспортного уровня будет, в конце-концов, один. Но.
UFO just landed and posted this here
Вам знакомо явление, когда моряки, автомобилисты, летчики относятся к своему транспортному средству, как к живому существу, наделяют его индивидуальностью и сознанием. Казалось бы, на самом деле это невозможно, но давайте посмотрим на это с несколько иной стороны.
А давайте, посмотрим на это с другой стороны.

Вам знакомо явление, когда автомобили, корабли, самолёты наделяют людей индивидуальностью и сознанием? Лично мне нет. Получается асимметрия. Скорее всего потому, что для наделения чего-либо сознанием нужно самому обладать сознанием.
Если сложить все это вместе, то вполне можно предположить, что самые разные объекты могут получать индивидуальность и собственное самосознание, задействовав группы нейронов мозга людей, так или иначе связанных с ними, или просто размышляющих о них. Причем это могут быть и не технические объекты.


То есть, если племя дикарей поклоняется дереву с дуплом, как мудрому и всезнающему богу, то дерево обретает самосознание? Ну, ОК. Наверняка, у Вас есть примеры подобных случаев?
Ну да
У Вернадского это называется эгрегором.
Самые яркие примеры подобных случаев — это религии, так как число поклоняющихся там очень велико
Только боюсь к тематике хабра это не имеет никакого отношения )))
Ну, это и к объективной реальности отношения не имеет. Если-бы любой объект получал самосознание только потому, что об этом договорилась кучка людей — мы бы с Вами жили в фэнтезийном мире: с эльфами, драконами и говорящими деревьями.
Совершенно верно
Это читая экзотерика. Хотя тема по своему и интересная, но точно не для Хабра
colscy, у Сергея Переслегина на youtube есть лекция, основной посыл который близок к вашей статье — «Сергей Переслегин. Психоистория. Лекция 5. Элиты и големы». Если вкратце, то на ваш вопрос «Вопрос, как вступить с ним в контакт?» там есть ответ — «Стать оператором Голема».
Помню был фильм про «живую» машину которая всех убивала.) Как по мне не плохой.

Я давно знал: это не программисты пишут программы — это программы пишут сами себя посредством программистов!

Не, не так. Какая-то программа написала программистов, а уже потом эти программисты пишут программы...

Одним из самых массовых явлений, с которым взаимодействует большинство людей, является интернет, правда мало кто думает о нем как о самостоятельной единице

Потому что он ею, внезапно, не является.
Парам парам пам, пам!
Тогда бог существует, потому что в него верят много людей получается?
Помню было слово такое «эгрегор», которое в каком то смысле созвучно с мыслью автора.
Помнится, именно так подходит М. В.Попов к этому вопросу — слово «бог» есть, значит и Бог есть.
Ну обещал же себе — не комментировать подобное. Ссори не сдержался.

Я: Кэп, а может ли ИИ быть плодом фантазии человека?
КЭП: Нет ИИ плод труда человека, труд это приложение усилий к внешнему миру. Даже если писатель отрисует весь сюжет в своей голове это не будет плодом его труда т.к настоящее произведение это изложенные в правильной последовательности мысли на бумаге и только так.

Я: Т.э сюжет можно придумать за мгновение, а книгу писать годами и это настоящий труд?
КЭП: Ну ты же это своему малому не первый год втираешь.

Я: Ок, тогда может ли ИИ зародится сам по себе. Например в одушевленном человеком предмете?
КЭП: А я тебе еще в универе говорил — Не увлекайся сильно Кастанедой. Да и если не дай бог зародится это не будет ИИ т.к это не плод труда человека.

Я: А жаль, прикольно бы было. Тогда может ли ИИ зародится в интернете.
КЭП: (Ржет под столом) — Это в т.ч и твоем говнокоде? Рассмешил старика. Что такое приложения — это изолированные куски предопределенного поведения. Общаются они только сообщениями заранее определенного формата. Новый функционал они получают только за счет коммита или зловреда. Да и если вдруг зловред начнет думать то ему тупо не хватит ресурсов — изолированная среда выполнения как ни крути.

Я: Тогда почему на хабре все чаще появляются такие вот статьи? ИТ потеряло инженерную культуру?
КЭП: Не думаю. Просто мы находимся на высоком уровне абстракций уже в коде. Нам нужно демистифицировать многие вещи и вникать в их суть. На хабре слава богу полно материала, а для тех кто разучился читать можно youtube смотреть. В хайповом молодежном формате даже есть
вот www.youtube.com/watch?v=XlbUV3tP67Y&t,
вот еще www.youtube.com/watch?v=c5uZRHtlsz8
Засмотреться можно!
Вся беда из-за названия — прилепили к тривиальной технологии «стильное, модное, молодёжное». И, теперь, вместо втыкания в книжки про нейросети и экспертные системы — это вот всё.
Все проще — непонимание наблюдателем принципов работы чего-либо дополняется фантазией наблюдателя. Потому молнии для древних людей посылали боги, болезни вызывал дурной глаз, а Интернет — это вполне себе глобальный разум.

Том, я стою рядом с Интернетом!(с)

UFO just landed and posted this here
У А.Лазаревича первая часть дилогии «Червь» примерно про это. Про самозарождение в сети разума. Но — самозарождение не на пустом месте, а на основе самомодифицирующегося проэволюционировавшего в сети вируса.
Правда, написано было ещё в конце 80-х или начале 90-х. Трубка, которую надо класть на модем, дискеты и скрежещущие дисководы.

У Лазаревича, чтобы пообщаться, надо было позвать вирус кодовой фразой.
можно предположить, что самые разные объекты могут получать индивидуальность и собственное самосознание, задействовав группы нейронов мозга людей, так или иначе связанных с ними, или просто размышляющих о них.

Позвольте причесать переформулировать:

Можно ли ментальный образ физического объекта, сформированный и обрабатываемый в распределённой физической среде — нейронных группах различных носителей, — считать самостоятельной сущностью?

PS. от себя замечу, что идеи и новости, особенно вирусные, демонстрируют заражение перенос/копирование себя на другие носители.
Sign up to leave a comment.

Articles