Обновить
23

AI preacher

20
Подписчики
Отправить сообщение
А. т.е. на самом деле вероятность выжить для ворона в течении года 1-1/6^365?
>>> И выяснилось, что действительно, ничто не ново под луной. И шумерские мифы, и египетская книга мертвых, и аккадский Гильгамеш, и греческие легенды, и буддийское учение, и Ветхий, и Новый Завет, и Талмуд, и Коран, и «Сказки тысяча и одной ночи», и много что еще оказались аллегорически зашифрованными рассказами о философии смысла.

Ох, какая знакомая тема! ;) Каждому, кто разрабатывал подобные «общие теории всего» — знакомо. Когда в руках молоток, все вокруг кажется гвоздями…

Ищите не подтверждение, а опровержения. То, что не вписывается в концепцию, а не наоборот. А если все вписывается, значит у вас мистическая теория, объясняющая все на свете и по факту религия, а не наука. Тоже неплохо, на самом деле! ) У меня своя такая есть.

Ваши общие рассуждения мне крайне близки, пока вы не переходите к своей специфике про контексты. Причем ладно бы просто специфике, но из-за нее вы отбрасываете многие ценные вещи. Например та-же GPT, крайне близко подобралась с воплощению понятия «смысла», причем примерно в ваших же концепциях, но вы видите в ней только генератор бреда…

Но вообще я за вас в целом! Раз общие рассуждения хороши, то может и в практических изысканиях будет толк.

UPD И да — тест Тьюринга — зло. ;) ЭТо уход от главного вопроса — «что есть разум?», и подмена цели разработки разума целью создания правдоподобной имитации. Вы допускаете существование достаточно хорошей имитационной модели (чат-бота по сути), способной обмануть экзаменатора, но не способной мыслить? Я — да. И так же я допускаю возможность существования нечеловеческого, возможно, но универсального/сильного ИИ. Прохождение им теста Тьюринга — опционально (ну, т.е. я понимаю, что он вроде бы должен быть способен просто подойти к тесту, как к задаче, которую надо решить, а т.к. он общий — то и решить должен любую задачу, но… Вполне допускаю, что у него могут быть какие-то нюансы реализации, которые его «сдадут»!).
Там комментарий ниже — я отвечал вам, но промазал веткой просто…

Ну и… Но ведь при коллективном интеллекте бессмертие отдельной единицы не нужно, а бессмертие всего разума в целом — самоочевидно, разве нет? Такое развитие событий мне кажется более чем правильным!

Абсолютно с вами согласен.

Поэтому мне понравилась тут идея, применительно к ИИ, что это мог бы кластер связанных модулей, апгрейд части которых на новые, разработанных «с нуля», не приводит к потере... Личности? Если к такой модульной системе это применимо...

Нуу… Так-то оно конечно да, но разумность клетки не проявляется ни в каком наблюдаемом виде. ;) Т.е. она не проявляет каких-то поведенческих реакций, приспособляемости, обучаемости и тп. Кроме того — относительно проста в устройстве (на том уровне, котором мы способны ее исследовать) и не содержит никаких структур, кои могли бы выполнять функции разума. Даже теория разумности деревьев имеет больше оснований для существования (в силу нейроподобной иерархической структуры, которая даже называется «древовидной»).

Можно рассуждать а тему разума вне структуры, но это уже чистая метафика — сам люблю, но… Лучше тему не смешивать! )
Интересно… ) А вы когда вероятности берете — вы чем руководствуетесь? Почем для ворона 1/6^n, например?
Хорошо, думаю вы все поняли. Ради спасения вашего лица продолжать не будем.

Я только вам на будущее посоветую: аккуратнее со степенной функцией. Степень, она знаете ли такая… У вас 1/2^365 = 1.330612e-110, в то время как число атомов в видимой вселенной ~ 1e80 всего лишь. ;) Вы так всю жизнь на земле угробите! ) С такими «вероятностями»!
Вы правы. Я уже понял, что не так расставил акценты.

В свое оправдание скажу, что просто терминология не всегда однозначна. что значит «усваивать информацию»? Ее ведь тоже очень по-разному можно усвоить!

Если вы уже много о чем-о знаете, вы наоборот — быстрее и проще освоите смежные темы, и возможно совсем не обязательно хуже сформируете свое представление о чем-то совсем новом.

Просто то, что вы уже знаете — определяет то, как вы обрабатываете новую информацию… И чем больше всего вы знаете тем больше это влияние: тем меньше вероятность, что вы сможете посмотреть на проблему под неожиданным углом.

Я как-то в ранней юности читал один рассказ… Не могу сейчас найти/вспомнить там главного героя в раннем детств определили как потенциально талантливого музыканта, после чего никогда не учили музыке, не давали слушать произведения других музыкантов, а дали какой-то сложный, навороченный инструмент, способный издавать множество самых разных звуков… Там посыл был — что бы не допустить повторения и исключить плагиат. И когда в итоге какой-то «доброжелатель» дал ему послушать Баха — в его творчестве тут же появились, пусть и переосмысленные, пусть дополненные, но чужие мотивы. Что в итоге закончилось печально для главного героя, т.к. такое в том обществе считалось недопустимым. Ему просто запретили творить музыку.

Это слишком радикально, но показывает примерно туже проблему: чем старше человек тем больше в его восприятии личного и тем реже он ищет новые решения, а не выбирает из обширнейшей библиотеке готовых.
Вы на ходу перестроились, считаете по-другому, смешиваете разные вещи, и все равно считаете не правильно. ;) Не надо так.
Ну вы же понимаете, что я «напираю», что бы подчеркнуть вещи, на которые нужно обратить внимание, потому, что они мало представлены, о них мало размышляют и тп, а не потому, что они важнее других, «более истины» и прочее.

Про естественны отбор паттернов — хорошо! Задумывался конечно. У человека встроенный дебагер -размышление и есть по сути поиск противоречий с модели и устранения оных, но… Он как-то не очень хорошо работает. Типа на определенную глубину: свежая информация вертится и так и этак даже отбрасывается при необходимости, но… Вы не обращали внимания на потрясающую способность человека с завидным упорством наступать на одни и те же грабли? ;) Т.е. что-то человек может критически осмыслить, а что-то нет. И естественный отбор не очень работает, и иногда вредные паттерны умирают только с человеком! Как говорится «горбатого могила исправит» — это ведь никогда не про биологию и почти всегда про мозги, правда?

>>> Как я уже сказал — в нашем мире появилась магия бессмертия и больше ничего не изменилось.

Ну я уже отвечал: ментально человек почти не изменился, не смотря на технологии и прогресс в целом. Т.е. за последние 3-5 тысяч лет — точно.

>>>Даже если два человека несут вредные паттерны, они их увидят друг в друге и выскажут, даже если не увидят в себе.

Обязательно выскажут! ;) И что? Мы с вами дискутируем, я признаю часть ваших аргументов, вы часть моих, но ни вы, ни я друг другу мозги не вправим. Это не так работает.
Ну так вы же посчитали, не? И сели в лужу. )

Впрочем, я тоже ошибся, так что проблема не в этом.

Проблема в том, что я ошибку признаю (не 1/2, а 1/N), а вы упорствуете.
нельзя не учитывать. В популяции состоящей из клонов одного генотипа — вероятность выживания равна 100% — на протяжении любого количества лет. Из двух генотипов — 50/50. Опять таки — независимо от срока.

Т.е. вы правы с точностью до наоборот: срок значения не имеет, а разнообразие генома — не просто имеет, а только оно и имеет. ;)
Вероятность существования генома одного конкретного экземпляра через год, как и через 2, 3, 10, 100 и так далее равна стремится к 1/N, где N — генетическое разнообразие. Чем больше временной интервал (особенно при больших N), тем надежнее сходится к 1/N (На больших N и малых временных интервалах реальные значения на тестовых прогонах могу значительно отклоняться). Но вы можете упорствовать и дальше — это будет прекрасной иллюстрацией к статье. ;)
Ну вы размышляете в том же ключе, что и остальные: что если способности к усвоению нового у мозга и падают, то это потому, что возрастные изменения и в любом случае это можно исправить…

Безусловно — это мой «косяк», поскольку раз все именно это и оспаривают, значит я так сформулировал! Как говорится: если вас не понимают или понимают не правильно, то это ваши проблемы! )

Я же пытаюсь как-то донести мысль, что любое накопление разумом знаний и представлений о мире, скорее всего даже не зависимо от «архитектуры» сами по себе становятся проблемой. Как любой огромный ИТ-проект со временем становится забагованным хранилищем самого дремучего легаси — неэффективного и глючного (хотя и выполняющего в целом поставленные задачи). И лечится это только «вайпом», т.е. переписыванием с нуля, с использованием накопленного в процессе работы старого проекта опыта (при этом важно, что бы опыт сохранялся вне проекта, как у нас сейчас копятся знания вне памяти людской — на внешнем носителе).

Ну посмотрите сами: сколько копия было сломано вокруг «обратной совместимости», все сходятся во мнении, то хоть это и удобно, в плане того, что не требует переписывать софт каждый раз, но приводит к «наследию» в виде неэффективного легаси, в том числе и в архитектурах процессоров. Сколько проблем в поддержке старых стандартов и старого софта. Представьте себе, что устаревшие программные продукты не сменяются новыми версиями, просто потому, что хотят жить. ;)

Взгляните на эту проблему с другой стороны: как архитектор человечества! Вы создаете саморазвивающийся вид с целью, что бы он становился лучше/эффективнее. на кой ляд вам тащить в будущее прошлые версии?

Не, вы во многом правы: причины есть. Банально: не успевает человек за текущую продолжительность жизни много чего. Скорее всего даже просто закончить формирование представления о мире. но тут беда еще в том, что мир, скорее всего меняется быстрее, чем мы его познаем. Не в научном понимании, а в бытовом, что-ли…
>>>ни одно адекватное общество не допустит такого, это как утверждать, что бабки уподъездные, которые кричат «нам на**й не нужон интернет ваш», тянут цивилизацию на дно.

Вы серьезно? Вы новости давно читали/смотрели? ;) И это при условии, что сейчас никаких вечных древних нет и в помине! Где оно вообще — «адекватное общество»? Наше что ли? Ну вы определенно оптимист тогда, я вам завидую!

Не адекватно, и со временем адекватнее не становится (может я старею?)! и нет никаких оснований полагать, что появление бессмертных этой адекватности добавит! Наоборот — есть надежда, что все проходяще, развитие цивилизации циклично и тот треш, который я наблюдаю сейчас — умрет вместе с его носителями, а новые поколения будут лучше…

А если нет? Если текущие «мы» вечны? Такие вот, как есть… ;)
Вот в чем вы определенно правы — это в том, что над формулировками мне еще работать и работать… Что есть то есть.

Вы все правильно пишете. И что мозг не нейронка, и что запоминание связано с обучением и тп…

Когда я пишу про «ридонли», я не имею ввиду строгий запрет на запоминание как таковое…

Смотрите… Давайте на кошках. Когда такое явление, как «кошка» — не известно, каждая встреченная кошка воспринимается как уникальный феномен во всех деталях. Чем больше вы в жизни видели вообще, и кошек в частности — тем больше вы способны к обобщению. Если в три года для вас есть кошка, и кошка — и это уникальные явления, то спустя время и опыт для вас и тигр — просто большая кошка. Это не особенность нейросети (нам еще копать и копать до такой способности к обобщению!), это способность именно мозга! Именно это позволяет нам запоминать огромное количество информации — потому, что данные обобщены и восприятие дифференциально (вы фиксируете не феномен целиком, а по факту то, что его выделяет в череде прочих явлений: «такой же, но с перламутровыми пуговицами»(с)). Чем больше вы знаете/видели/поняли тем меньше для вас нового и соответственно все меньше информации нужно сохранять. Понимаете? Человек не теряет способность учится совсем, но он все больше и больше обобщает за счет систематизации и применения ранее полученных знаний. В этом ж феномене кроется причина того, о чем вы говорили: когда люди говорят, но не слышат друг-друга: они слышат, но воспринимают через призму своего опыта/понимания/терминологии и тп. В этом же причина конфликта поколений — у людей разные базисы, одни и те же феномены они воспринимают по-разному — и это ПРАВИЛЬНО. Так и должно быть. Но! Есть попытка сформировать общий базис там, где это критично — в науке, например. Молодой и пожилой ученый говорящие на языке науки вполне способны понять друг друга… Пока будут говорить о науке! Не все области человеческого опыта подлежат такой формализации.

Возможно, я кстати не прав в том что касается принципиально нового. Как раз такие явления с большой вероятностью не смогут быть обобщены, и придется сформировать какие-то новые категории и старому и молодому. Тут проблема скорее в излишнем обобщении того, что обобщить можно, но не стоило бы.

Не в забывании проблема — нет. Память можно расширить за счет техноаугментации. Здесь именно рефакторинг, переосмысление, страховка от древних багов.

Не в потери обучаемости — во многих областях обучаться будет наоборот проще! Человек за долгую жизнь мог уже неоднократно иметь схожий опыт и для него это так или иначе будет знакомо. Как с языками — казалось бы парадоксально, но чем больше языков знаешь, тем проще учить новые. А ничего парадоксального — это метаобучение, которое у древнего будет прокачано очень круто.

Тут другое… Не знаю как сформулировать… Потеря альтернативы? Т.е. восприятие жизни во всем ее многообразии сознанием, которое сформировало свои главные паттерны 1000 лет назад? И опасность того, что именно это восприятие будет задавать повестку. Тут было много примеров: новые языки программирования, которые видятся олдфагам, как изобретение зумерами велосипеда — кто прав? Да скорее всего и те и те. В этом ценность постепенной смены поколений. И кстати — я все больше прихожу к мнению, что было бы неплохо добавить к этому какой-то небольшой процент еще более старых сознаний… Но именно процент, и именно небольшой…

Почему вы решили, что я оппонентов не слушаю? Еще как слушаю! И даже соглашаюсь с ними во многом... Вы как себе дискуссию представляете? Типа мне сказали дельную мысль, я согласился, поблагодарил и свернул разговор? ;) Конечно я продолжаю разворачивать мысль, подбирать аргументы и контраргументы, что провоцирует моих мобеседников делать тоже самое! В этот весь смысл дискуссии!

>>>Трение можно убрать магнитной левитацией сверхпроводников

Конечно! Там где оно не нужно. А там, где оно основа? Возьмите тормозные диски/колодки или покрышки - это что? Это расходники! Т.е.то, что заменяют, когда заканчивается срок эксплуатации. Их принцип работы основан на трении! Все бы хотели иметь вечные диски/колодки/покрышки, но никому в голову не приходит убрать из системы трение! Поэтому: обновление. Замена исчерпавших свой ресурс на новые, свеженькие.

>>>Вы уже расшифровали работу мозга и природу сознания?

вы так говорите, как будто это ребус... я не расшифровывал, я изучал. Сформировал определенное представление. Из него и исхожу.

вы правы, конечно, на счет формулировок. Если вы восприняли все, что я говорил, как отключение обучения - хреновые формулировки...

Смотрите. Вот возьмем математику что ли... есть школьный курс, есть университетский, есть высокая наука. Давайте немного все упростим и примем это так, как будто университетские знания даются в терминах школьного курса, а высокая наука в понятиях университета. Т.е. познание иерархично: то, что ты узнаешь сейчас строится на том, что ты узнал ранее.

Жизнь - не математика. Если ты неправильно усвоил арифметику - крайне мало вероятно, что ты сможешь пронести свои заблуждения через университет в высокую науку. И нет нескольких прочтений арифметики.

реальные знания о мире каждый из нас получает независимо. У каждого из нас свой базис, который определяет дальнейшее познание. Это тоже не баг, а фича: независимое формирование каждого разума затрудняет накопление ошибок.

Так вот: в вузе арифметику не преподают. В том плане, что тот пласт личности/модели/знаний, который в 5 лет сформировался - он сформировался. Михаил там где-то правильно заметил: модель пересматривается постоянно... Но не столь глубоко. В вашем примере со снежинками: те снежинки, что попали в центр кома так там и останутся и будут определять личность дальше.

Вы говорите: ком будет рости. Убедили. Будет. Особенно с киберимплантами, наноинъекциями и нарощенным кортексом. Но внутренние, сформировавшиеся слои остануться теми же, и все больше будет таких слоев. А знания иерархичны... если были баги - они остануться. Баги - они на то и баги, что бы до поры не проявляться. Например - до серьезного изменения среды...

Смерть индивида: это как выпуск новой, написаной заново версии с определенной периодичностью. Страховка от глубоких багов. От закрепления неверных паттернов.

Ну да, наверное...


в ходе дискуссии я понял, что не правильно подходить с позиции расходуемого ресурса: ибо это в принципе решаемая задача.

Тут другое. Вы правы, что разум меняется постоянно: модель уточняется на основании свежих данных и в ходе саморефакторинга и устранения противоречий. Но чем больше данных собрано и чем меньше этих противоречий, тем конструкция жесче. Все больше данных из вне заменяется известными паттернами ( и это не проблема, которую нужно решить - наоборот: именно поэтому по нескольким незначительным фактам опытный человек быстро восстанавливает весь контекст!). Внутренние противоречия устранены, из вне данные - лишь метки для давно усвоенных паттернов - ничего нового, а значит жесткость модели стремится в бесконечность. Когда я говорил, про ресурс и отмирающие нейроны, я хотел подчеркнуть, что это процесс реализован на аппаратном уровне. В принципе мне тут достаточно убедительно показали, что что это можно изменить. Я не спорю - можно! Но нужно ли?

Суть исходного посыла: Для каждого человека, любого возраста есть некий порог трансформации мировоззрения: соотношение жесткости и пластичности. И это этапы формирования личности через которые мы все проходим (детская непосредственность, юношеский максимализм... вот это вот все) и которые все необходимы. И каждое следующее - есть развитие сознания, обратно ходу нет (и не надо). Но когда все этапы прошел - продукт готов. Это не значит, что как ты думал в 20 лет, так же считаешь в 40 - не в коем случае! Тут скорее иначе: если ты чего-то такого о мире не усвоил с нейропластичностью 20-ти летнего, то уже и не усвоишь: не воспримешь просто. Можно в теории размягчить мозги до того состояния, но для многих это будет хуже смерти, т.к. ценой этого может стать крах множества ментальных установок, которые человек воспринимает, как часть себя... а он себе и таким, как есть нравится! ;)

Если это будет обязательная процедура омоложения, если она будет не для всех а как-то иначе, если все эти этапы перестанут быть прямо связны с «аппаратной реализацией» - можно предположить, что все это решаемо. Но для этого, для начала, нужно, что бы хотя бы кто-то допустил, что в том, что я говорю - есть какие-то зерна истины и посмотрел под этим углом на проблему, так? Для этого статья.

Вот, например, сейчас, благодаря вашему комментарию (а возможно, бокалу замечательного сухого хереса и хорошей погоде! ;) ) у меня родилась новая формулировка:

Социуму необходимо значимое количество индивидов, причем активно принимающих участие в повестке дня, мировоззрение которых сформировалось в условиях «среды», актуальных на текущий момент.

т.е. если среда в целом неизменна на протяжении тысячелетий, то и тысячелетний индивид, вполне актуален. Наоборот: он даже более полезен, т.к. имеет громадный запас стабильности и опыта.

В то же время, в эпоху перемен, когда все меняется очень быстро, когда технологии, например, меняют все - смена поколений необходима. Плавная, аккуратная, но необходима.

Вдумайтесь: большая часть мировых лидеров сейчас сформировались, как личности ДО эпохи всеобщей компьютеризации. Они не успевают за криптой, соцсетями, нейронками и прочим. Никто не успевает, но они - особенно. Но им постепенно придет на смену новое поколение, которое в теме. А если бы нет?

Хм... я вообще писал про изменчивость ментальную, т.е. на уровне конкретного индивида...

Но ваша мысль тоже крута: действительно, если люди не умирают, и чертовски редко рождаются - геном тоже стагнирует! Об этом я как-то даже и не думал...

Информация

В рейтинге
Не участвует
Откуда
Москва и Московская обл., Россия
Зарегистрирован
Активность