Как стать автором
Обновить

Комментарии 198

в будущем окажется, что у человека есть душа, где роются мысли, а нейроны — только связующие с этим «эфиром»
Находят неожиданные вещи. А вот примеров, что подтвердили нечто ранее отвергнутое что-то не припоминается.
Гелиоцентрическая система разве не подходит?
В целях логичности построения и дидактичности, Птолемей иногда либо специально отбирал только выгодные ему свои и чужие наблюдательные данные, либо подгонял данные под казавшийся ему правильным теоретический результат, что противоречит современным представлениям о научном методе.
Wiki

Это, кстати, взгляд Дэвида Чалмерса

в будущем окажется

К тому времени для вас этот вопрос потеряет актуальность.
в будущем окажется, что у человека есть душа, где роются мысли, а нейроны — только связующие с этим «эфиром»

На самом деле, Ваше будущее местами далеко в прошлом. Ещё Декарт в 16-м веке разделял дух и тело, выдвинув предположение, что у человека внутри некие трубки (нервы) с нитями (сигналы), которые могут натягиваться в зависимости от внешних воздействий, открывая клапаны в мозг (по сути, нейроны). А через клапаны текут «животных духи». Вообщем, он был почти прав, но тогда не знали о существовании электрического поля. Так что электрическое поле давно открыли.

А отсутствие эфира, в котором передаются электромагнитные волны доказали ещё при жизни Эйнштейна.
Все именно так, а сознание это оркестратор этих нейросетей, который получает от них «прогнозы» на основе опыта. И чем опыт был определеннее в данной ситуации, тем точнее прогноз. Грубо говоря мозг состояит из миллиардов заточенных под узкую задачу микропрограмм, а одна мастер программа-сознание, не имеет четкой специализации.
т.е. наш мозг построен на микросервисах?! шах и мат монолитсты!

Да щаз! Блок питания то один! :)

Вот тут я описал подробнее. Причем, чем мы больше информации подаем на вход определенной функции, тем точнее она работает в будущем. Например, мы очень хорошо отличаем лица людей, потому что занимаемся этим с рождения на выбраной группе людей (европейцы), попадая же в чужую группу, о которой у нас мало информации (азиаты), мы считаем их «на одно лицо», да еще и не доверяем, потому что считывать их эмоции для нас сложнее, нейросеть не накопила достаточно информации об эмоциях на этом типе лиц. В целом, с возрастом, любая новая информация воспринимается, как потенциально опасная, ведь все что с нами уже произошло мы знаем и записали, а вот чего не произошло черт его знает, вспомогательные системы советуют сознанию, на всякий случай, избежать контакта с неизвестным. Очень много аспектов нашего поведения как вида, происходит от механизмов работы мозга. Консерватизм мышления, расисзм, проблемы отцов и детей, все растет оттуда, от древовидной микросервисной структуры нашего мышления.
НЛО прилетело и опубликовало эту надпись здесь
Они отличаются друг от друга не меньше, чем европейцы.

Если говорить строго, то азиаты больше похожи друг на друга — у них один и тот же цвет волос и глаз, в отличии от.
НЛО прилетело и опубликовало эту надпись здесь
Строго говоря, не всегда. Был не так давно скандал, когда в японской школе японскую девочку пытались заставить красить волосы в чёрный, чтобы не выделяться.

А вы думаете если эту зону не тренировать, она сама будет различать лица с day0? Мы видим лица именно потому что зона мозга, та самая мини программа по распознанию лиц тренируется годами и да, китайцы отличаются именно когда проведешь там немного времени и опять же подашь данных на нейросеть отвечающую за обработку лиц, добавив туда данные об азиатах.

НЛО прилетело и опубликовало эту надпись здесь
Я допускаю, что какие-то функции hardcoded в определенных разделах мозга. В конце концов мы не учимся управлять сердцем или дыханием, эти умения есть сразу. Но существуют кейсы вроде этого, значит мы можем перепрофилировать участки для сохранения жизненных функций.
Мы вообще не управляем сердцем. Насколько я помню, при формировании эмбриона первый нейрон тянется от сердца к мозгу, а не наоборот.
Нет. Люди хорошо различают лица т.к. у нас для этого процесса есть специальная зона в мозге.

Если дело касается мозга, тут нет ничего однозначного. Нет на 50%, а на 50% это обучение этой области мозга. Пример с китайцами для нас актуален, а для китайцев все белые одинаковы, пока эта область мозга не обучится находить отличия. Нужна некоторая тренировка, даже при наличии специальной зоны в мозге.
Были эксперименты с котятами например
В учебнике общей психологии был описан такой эксперимент: котят помещали в так называемую вертикальную среду (котята сидели в темноте, и свет зажигали ненадолго, при этом в пустом помещении имелись только вертикальные полоски на стенах). По окончании сензитивного периода их помещали в обычную среду. Оказалось, что такие котята не видят горизонтальные предметы, то есть если швабра стоит, то котенок может ее обойти, если она лежит, то он на нее натыкается. Это происходит потому, что в коре не образовались связи, реагирующие на горизонтальные предметы. То есть сигнал, поступивший через глаза и далее через боковое коленчатое тело, просто не может быть обработан в коре, он не распознается. Этот пример говорит о том, что животное, в частности человек, который в сензитивный период (до 3-5 лет) не получил богатый сенсорный опыт, будет ограничен в развитии своих интеллектуальных способностей. Пример – дети-Маугли, которых находили в возрасте 5-7 лет, не способных уже научиться говорить.
В учебнике общей психологии был описан такой эксперимент: котят помещали в так называемую вертикальную среду (котята сидели в темноте, и свет зажигали ненадолго, при этом в пустом помещении имелись только вертикальные полоски на стенах). По окончании сензитивного периода их помещали в обычную среду. Оказалось, что такие котята не видят горизонтальные предметы, то есть если швабра стоит, то котенок может ее обойти, если она лежит, то он на нее натыкается.

Ууу мрази
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
И от внутреннего состояния этой клетки зависит то, как работает нейрон. А внутреннее состояние клетки зависит не только и не столько от электричества, но и от того какие молекулы находятся возле нейрона, внутри нейрона и где именно они находятся, все вместе одновременно. А что именно окружает нейрон и находится внутри нейрона зависит как от него самого, так и от окружающих нейронов и даже совсем других органов, находящихся в совсем другом месте
Еще сильнее напугаю читающих. Уже через 5-6 минут поведение нейрона существенно может измениться от записанного в ДНК и в зависимости от полученной дифференциации в ходе развития организма. А через 10 минут нейрон может вообще запустить программу самоликвидации или начать переползать в другое место в мозгу на основании кода в ДНК.
Не удивлюсь уже, если нейрон умеет и переписывать собственную ДНК. Или не только собственную — как бы не обнаружилось, что обмениваются ими друг с другом.
НЛО прилетело и опубликовало эту надпись здесь
… и принципиально не отличается от hardware нейрочипов.
НЛО прилетело и опубликовало эту надпись здесь
Собственную ДНК нейрон конечно переписывать не может никак. Активировать/деактивировать некоторые отрезки до определенной степени конечно может. Но переписывает, дописывает, существенно модифицирует (с передачей потомкам) только эволюция и модификация вирусами.
Вы правы, но существенной разницы между метилированием и переписыванием нет. Можно сказать, что ДНК кодирует много версий програмы, а метилирование отключает ненужные ветки, что равнозначно переписыванию т.к. существенно меняет алгоритм.
Нет, это не так. Аналогия между алгоритмом и ДНК тут ломается. Переписывание ДНК эволюцией позволяет получать принципиально новые программы. А метилирование/деметилирование может только включать/выключать имеющийся код, который раннее был отработан эволюцией во включенном состоянии. И метилирование/деметилирование очень слабо передается потомкам. В то время как код ДНК передается в полном виде, с учетом случайной комбинации кода родителей.
Это всё гипотезы. Теоретически сложность логической функции нейрона может быть очень большой, ограниченной лишь его атомистической сложностью. Но есть ли причины считать, что так и есть? Мне такие причины неизвестны. Более того, без пруфов это выглядит маловевероятным.
Не может. На кодирование нейрона в ДНК прописано не так много информации, несколько генов, килобайты информации. Грубо говоря там указано, берем типовую клетку, типовой обмен веществ, только с одного боку выращиваем дендриты, с другой аксоны и всё на этом. Ну и множество подсказок в каком направлении выращивать, в зависимости от местоположения нейрона.
Если бы каждый атом был бы функционален, на кодирование нейрона требовались бы террабайты информации, и механизмы формирования типа наноассемблера, чего и близко нет.

Согласен, но я давал верхнюю оценку, что бы не спорить лишний раз.

НЛО прилетело и опубликовало эту надпись здесь
В обычных условиях ДНК описывает всю работу клетки. Если создать условия, например высокие или низкие температуры, то, конечно, нейрон начнет работать совсем не так, как это записано в коде ДНК. Скорее всего нейрон погибнет просто или деформируется. Нормальный рабочий режим полностью определен ДНК клетки любой (не важно нейрон это, мышечная клетка или растительные волокна в растениях). Если там не прописан синтез белка, его и не будет. Если там прописана реакция на какие-то входные воздействия, они будут осуществляться. Инженерное восприятие, только не искаженное, вроде.
равнозначная информации о том, где расположены митохондрии
равнозначность требует доказательства. Никакой равнозначности там нет и близко.
какие рядом с клеткой есть молекулы и так далее
не имеет существенного значения для сложности. Развитие некоторых клеток устойчиво в широких пределах изменения среды. Это доказывает, что вся основная сложность записана в ДНК.
ДНК не является ВСЕМ, что влияет на то, как будет работать нейрон в будущем или настоящем
Это вообще не имеет никакого отношения к дискуссии. Структура нейросети тоже не является ВСЕМ, важно ещё то, какие картинки ей скармливать в процессе обучения. Мы говорим о принципиальной схеме.
есть ДНК и это и есть код, который описывает как работает клетка
Именно так. Вы пока что не показали ни одного существенного отличия между комплексом «ДНК+гамета» и системой «прошивка+ПК». Данные, которые поступают в программу в процессе её работы для этой аналогии ничего не меняют.
НЛО прилетело и опубликовало эту надпись здесь
В статье про метилирование нет ни одного намека что нейроны сами себе что-то способны метилировать. Пишут что метилирован 1% ДНК всего. Как я понял механизм нужен для формирования специализированных клеток из стволовых.
Неуместное метилирование противоопухолевых генов вообще, одна из основных причин рака.
Недавно были исследования, где вроде бы нашли свидетельства, что метилирование в нейронах связано с памятью.
Метилирование ДНК регулирует синаптическое масштабирование

Интересно, но вроде как не делает из нейрона нейронную сеть. Метилирование помогает настраивать веса синапсов?
Метилирование помогает настраивать веса синапсов?
видимо, да. Про логическую сложность нейрона там вроде ничего нет.
Ну да, вполне себе обозримая задача при сегодняшних технических возможностях.
занимает десятки мегабайт
Откуда такая оценка? Но даже если она верна, то 17*10^9*10^7 byte = 170 Petabyte, это примерно объем хранилища одного суперкомпьютера сегодня.
Такой суперкомпьтер включает примерно 10^14-10^15 транзисторов, по 10000 транзисторов на «нейрон».
НЛО прилетело и опубликовало эту надпись здесь
Ну это если считать, что целых 10 мегабайт на синапс нужно. Откуда такие данные? Если брать даже 10 мегабайт на нейрон, то получается 80*10^9 * 10^7 byte = 800 Petabyte, для сравнения Youtube сохраняет примерно 100 PB в год, возможно уже больше.
НЛО прилетело и опубликовало эту надпись здесь
С учётом скорости работы нейронов даже HDD будет достаточно, RAM не нужна.
«Вычисления» нейрона происходят не при помощи ДНК, как я много раз говорил, а при помощи тех молекул, котоыре произведены на основе ДНК
А я уже много раз отвечал, что это не имеет значения, так же можно сказать, что в транзисторе вычисления происходят при помощи тех электронов и ионов, которые в него входят.
НЛО прилетело и опубликовало эту надпись здесь
Ну это придирка. Для минимальной тьюринг-полной машины нужно примерно 300 транзисторов, если я правильно припоминаю.
Модифицирую свой пример:
В машине из 300 транзисторов вычисления происходят при помощи каждого из электронов и ядер, составляющих тразисторы. Это если говорить, что в нейроне каждый атом принимает участие в вычислениях.
НЛО прилетело и опубликовало эту надпись здесь
Лента включена в 300 транзисторов.
Total element count in the minimal turing machine = 134(CPU) + 144(Tape) + 36 (program counter) = 314
Давайте не будем уходить от темы. Вы говорите, что сложность нейрона — это его атомистическая сложность. Я вам говорю, что если так, то сложность процессора — это электронная сложность, а не транзисторная. Вот и всё.

Второй вопрос — это объем памяти метилирования. Даже если это 10 мегабайт на нейрон, то выходит 800 ПБ на весь мозг и 170 ПБ на неокортекс, что всего на порядок больше объема оперативной памяти современного суперкомпьютера и примерно равно объему его хранилища. При том что latency у жесткого диска лучше, чем у нейрона.

Мы с Вами не первые, кто задался вопросом примерной вычислительной мощности мозга. Специалисты уже давно и детально разобрали этот вопрос. Например, одна из оценок:
computer comparable to the human brain, he added, would need to be able to perform more than 38 thousand trillion operations per second and hold about 3,584 terabytes of memory
38 Petaflops + 3.5 PB — на порядок слабее чем Summit. Конечно, мы не знаем, на сколько эта оценка достоверна, но под ней больше фундамента, чем под тем, что мы можем наговорить здесь в комментариях.
НЛО прилетело и опубликовало эту надпись здесь
сейчас оно находится в том, что лента ёмкостью некоторое количество мегабайт(грубая прикидка уникальных изменяемых данных в нейроне) включена в 300 транзисторов.
Я этого не говорил, это просто недопонимание. Но я и не хочу об этом говорить, это неважно.
Я предлагаю обсудить то, что если в нейронах активный элемент — атом, то в ЦПУ — электрон. Вы согласны?
НЛО прилетело и опубликовало эту надпись здесь
— если допустить, что в нейронах активный элемент — атом, то в ЦПУ это будет электрон.
— Нет не согласен
Именно это меня и удивляет. Почему?
является ли детализация до белка или до атома в рамках данного тезиса никакой роли
Ну, это приличная разница, на 4-5 порядков где-то. 10^14 и 10^10 элементов. А если продолжить логическую линию и сказать, что это не атомы, не аминокислоты, не белки не комплексы, а орагнелы и их группы, то дойдем вообще до 10^3.
я вижу как прямой уход от оценки
Я как раз от прямой оценки не уходил, называл конкретные цифры: 170 PB, 38 PF+3.5PB. Какая Ваша оценка?
Можно ли уложиться в 300/3000/30000 транзисторов или такие низкие показатели — сказки и мечты и бюджет на порядков эдак 7 больше.
Ну вот Dharmendra Modha, director of cognitive computing at the IBM Almaden Research Center даёт оценку, по которой современные суперкомпьютеры уже на порядок превзошли весь неокортекс. Я не знаю, на сколько эта оценка окажется верной, но предложить лучшую оценку не готов. А Вы?
порядков эдак 7
Почему 7, а не 3 или 17? Покажите формулу.
НЛО прилетело и опубликовало эту надпись здесь
Вы считаете важным пограничное предельное значение(точку), сосредотачиваясь полностью на ней, вместо взглянуть на всё пространство вариантов
Это не так, я пытаюсь дать верхнюю оценку (худший случай), ведь если мы способны справится с задачей даже в худшем случае, то в остальных и подавно.

Как в 1000 транзисторах разместить несколько мб памяти?
Никак, я такого и не предполагал. Даже если для логического аналога нейрона нужен целый мегабайт — это не проблема, у компьютеров сегодня хватит памяти для 10 МБ/нейрон.
Это не оценка на один нейрон
А я просто согласился с Вашей оценкой, не вижу смысла особо ее обсуждать, она не доказывает Вашу позицию, что мозг намного сложнее современных компьютеров.
нейрон требует на много порядков больше ресурсов для симуляции, чем на это выделено даже в hardware реализациях с «симуляцией» синаптической щели
Я с этим и не спорил. Я говорю, что доступные на сегодня вычислительный мощности, возможно, приближаются или превзошли совокупную мощность человеческого мозга. Про конкретную симуляцию и её дефекты я не говорил ни слова.
НЛО прилетело и опубликовало эту надпись здесь
на неё нужно минимум несколько мегабайт памяти
это Вы так считаете. Даже если так, память может быть отдельно, на жестком диске. Она есть, по 10 МБ на нейрон хватит.
НЛО прилетело и опубликовало эту надпись здесь
Какое IOpS будет у таких жестких дисков
Это слишком технический вопрос, глубина и точность наших оценок недостаточно велика, что бы этим заморачиваться. Кэши могут помочь с этим, если понадобится.
проблема(самая сложная) симуляции тьюринг полных сущностей, которые могут друг на друга влиять, но её оставим на сладкое
В чем проблема?
НЛО прилетело и опубликовало эту надпись здесь
Отнюдь, я просто подвожу к сути проблем, потребовалось время, чтобы стало понятно
Да нет там никакой проблемы. Какой IOPS вы считаете достаточным, почему?
потребуется одновременный 86 млрд поточный random access к огромному объёму памяти
А в чем проблема, там же data parallelism?
нейрон не группа вентилей, как я уже в самом начале говорил
Смотря какой размер группы.
как только разберёмся с одновременностью доступа кучи мелких cpu и потребными ресурсами на симуляцию 86 млрд этих микро cpu
Так не надо тянуть резину, напишите сразу, сколько по Вашему нужно ресурсов, конкретно. Не уходите от темы.

Я еще где-то слышал что большой процент мозга занят тем что постоянно стабилизирует работу всего мозга чтобы не было всяких эпилепсий и прочего. Интересно было бы узнать подробнее.

Вот есть заметки на эту тему
Еще серия статей, в том числе про аномально маленький мозг, только достоверность нужно уточнить
… Они-то и продемонстрировали наглядно, почему увлекающийся математикой, с отличными показателями по части учебы студент может поблагодарить за эти успехи какую угодно другую часть своего тела, кроме мозга. Ведь нельзя же, в самом деле, усматривать в хороших оценках и знаниях заслугу органа, который у данного индивида, собственно, отсутствует! Нет, не то чтобы его там вовсе не было. Было… граммов около двухсот, если взвешивать без ликвора, но вместе с мозговым стволом и мозжечком! Тоненькая прослойка толщиной до половины сантиметра, отделявшая контур кости от огромных желудочков, едва ли составила бы больший вес…
Так себе аналогия. С таким же успехом можно назвать логические вентили компьютерами и сказать, что в современной большой системе на кристалле находится несколько миллиардов компьютеров.
НЛО прилетело и опубликовало эту надпись здесь
Это безусловно так, клетки — это потрясающие наномашины. Но сколько внутренних процессов релевантно вычислительным функциям, а сколько нет — это вопрос. Скорее всего, не так уж много (по сравнению с их общим количеством). Так-то в транзисторах тоже много каких процессов происходит. Конечно не таких сложных, но все-таки.
открыт, закрыт, открыт пропорционально сигналу на входе?
Вы откройте код какой-нибудь современной модели транзистора, типа BSIM4 и посмотрите хотя бы на ее объем. И это при том, что она не будет учитывать ни динамику зарядовых ловушек в затворе, ни hot carrier injection процессы, ни баллистический транспорт в канале ни кучу других эффектов.
НЛО прилетело и опубликовало эту надпись здесь
В проекте OpenWorm вроде как симулирую червя, со всеми его 302 нейронами.
Вот тут и тут по симуляции одноклеточных и многоклеточных.
Сложно моделировать нейроны только до тех пор, пока нет упрощенной модели, при наличии модели всё упрощается. Аналогично и с транзистором, реле или радиолампой, неизвестную модель нужно моделировать с огромной детализацией, а когда получены вольт-амперные характеристики, модель упрощается на много порядков, можно парой алгебраических операций описать.
НЛО прилетело и опубликовало эту надпись здесь
Так и черви не являются копией друг друга, внешне похожи, но поведение будет различаться, в зависимости от генов, температуры, влажности, питания и т.п.
Результат проекта OpenWorm не просто смехотворный, а уничижающе смехотворен. Налабали тележку с моторчиком и заявляют, что это и есть червь. Цели проекта и используемые методы легко менялись во времени, когда стало ясно, что даже упрощенные задачи не подъемные. Что же должно было быть сделано? Должна быть представлена некоторая предварительно заявленная начальная модель нейронов, синапсов, мышц, тканей, органов. Должны были быть установлены начальные параметры моделей нейронов, и при запуске модели, в виде результата получить модель червя, который пытается рыть норку, искать еду, питаться, избегать неблагоприятных условий, спариваться и обучаться примитивным рефлексам. Именно полученное поведение может показать, что изначальные модели и наше понимание функции нейронов правильные. И понимание этой правильности (или неправильности, или частичной правильности) и должно быть целью таких проектов моделирования. Но ничего и близко подобного не было получено. Поэтому считаю проект полностью провальным.
Как может быть не завершенный проект быть провальным? Работают понемногу, тем более это открытый проект
As of January 2015, the project is still awaiting peer review, and researchers involved in the project are reluctant to make bold claims about its current resemblance to biological behavior; project coordinator Stephen Larson estimates that they are «only 20 to 30 percent of the way towards where we need to get»


Тут еще 2012 года публикация о моделировании одноклеточного животного. Возможно есть что-то еще.
Этот проект совершенно провальный именно потому, что руководитель не понимает что он делает и почему. Руководитель не понимает какие результаты он должен получить и почему.
А вот вы себя ведете как 100%-й тролль-производитель лживых текстов. Сейчас вы заявляете, что провальный проект еще не может быть оценен (даже после более чем 10 лет после начала), а 2 постами ранее вы заявляли, что червь уже моделируется. То есть, положительные результаты на лицо. Это типично тролячье поведение автора. А учитывая объем выданных текстов нагора в этом обсуждении, вы смело попадаете в список штатных хабровских тролей.
Наука началась с того, что люди типа Галилея сказали — нам не надо учитывать все сложности. Вычленили до предела упрощенные модели. С этого момента все и рвануло.
А им говорили — это большая ошибка и огромная недооценка.
упрощение из-за этой сложности модели нейрона до аналога из мира, который разработал человек — большая ошибка и огромная недооценка
Мы этого еще не знаем наверняка. Возможно Вы правы, а может и нет. Мы точно знаем, что функционально нейрон проще чем совокупность всех электронов, которые в него входят. Так-то можно сказать, что каждый атом — это «транзистор», но мы уже точно знаем, что описания функций целых белков (тысячи атомов) в человеческих аналогиях очень компактны. Функциональная сложность белков сильно ниже их атомистической сложности. Если пользоваться аналогией из электротехники, то принципиальная схема белка сильно проще чем разводка его печатной платы.
транзистор в современном процессоре плюс минус размером как раз с молекулярную фабрику внутри клетки
вы имеете ввиду рибосому?
НЛО прилетело и опубликовало эту надпись здесь
Нейрон не вычисляет, а мозг в целом — вполне. Я говорил про второе
Сложность, к сожалению, не означает эффективность. Я думаю, эта сложность, похожа на сложность ламповой техники или сложность релейного, механического компьютера. Массивно, грандиозно, но бесполезно, КПД менее 0.01%.
Нейрон это компромисс между ограничением органической ткани, ограничением энергопотребления, прочности, ограничением информации в ДНК, которая в том числе ограничивает сложность структуры мозга. Например в мозге при рождении прописано несколько рефлексов, нет ни байта лишней информации, только грубые инструкции, тут 200 грамм нейронов, тут нервные ткани 20 см, тут 50 грамм связующей ткани. Далее эта конструкция случайным образом пытается самонастроиться и не у всех удачно.
Далее по параметрам нейронов, время релаксации нейрона 5 миллисекунд, против 0.1 наносекунды у полупроводников (если не экономить энергию). Разница в скорости 50 млн. раз. Микропроцессоры четко структурированы, каждый элемент на своем месте, ничего лишнего. Нейроны же хаотичны, огромное количество простаивает в резерве и экономичном режиме или сформированы по ошибке. Все нейроны одновременно работать не могут, при любой деятельности часть мозга отключается с целью экономии энергии.
Или оцените скорость передачи информации в мозге, 20 м/с против скорости света в процессоре.
Нейрон это клетка

То же самое можно сказать про клетку инфузории, она еще сложнее, полноценный организм. Только она ничего не вычисляет, простейшие логические операции.
Реле тоже сложнее, намного сложнее, чем современные транзисторы по технологии 14 нм, там считанные атомы отдельные. Только вот транзистор эффективней для вычислений.
В контексте нейрона еще раз пересмотрите положительные высказывания о нем. Большинство перечисленных функций не улучшает его, а наоборот, увеличивает размеры и мешает нормальной эффективной работе.
Ну процессоры тоже так себе. Вроде как из условных 100 Вт 99 идет на обогрев. Такое вот у них КПД.
В транзисторах из 100Вт идёт 100 на обогрев, если они у вас, конечно, не светятся :)
Чистое превращение энергии в информацию только у квантовых компьютеров. Обычные «материальные» процессоры для обработки каждого бита манипулируют грубой материей, миллиардами электронов на каждый бит и прочим. Конечно это всё в тепло переходит.

Что за превращение энергии в информацию?

Где-то видел упоминание что для информация на квантовом уровне обладает минимальное энергией, небольшой типа 10e-40 Дж на бит. Соответственно процессы получения или потери информации приводят и к обмену энергии.
Landauer's principle asserts that there is a minimum possible amount of energy required to erase one bit of information, known as the Landauer limit:
kT ln 2
At 20 °C, the Landauer limit represents an energy of approximately 0.0172 eV, or 2.75 zJ
100% идет на обогрев, там практически ничего не идёт в излучение/механическую работу. Как и у мозга, кстати.
НЛО прилетело и опубликовало эту надпись здесь
Можно и нужно сравнивать. Нейрон, инфузория, радиолампа, процессор выполняют одни и те же функции — обработка информации.
У радиолампы есть определенные преимущества и недостатки, определенные конструкцией, далеко не совершенной.
У нейрона есть определенные преимущества и недостатки, определенные конструкцией, далеко не совершенной.
НЛО прилетело и опубликовало эту надпись здесь
было бы странно, если бы мы пытались построить компьютер из городов и дорог :). А так, — вполне можно сравнивать, скорее всего нам не нужно все функции нейронов(«городов») в компьютере повторить, а лишь API, и то часть. Следовательно, может оказаться, что функциональная модель нейрона может состоять из числа элементов гораздо меньшего, чем число атомов в нейроне.
НЛО прилетело и опубликовало эту надпись здесь
С точки зрения мышления важно только то, сколько машин выезжает из «города» с севера в зависимости от дня в году и того, сколько въехало с юга. То, сколько сил тратит город на то, что бы вычислить эту функцию совершенно неважно, ведь город может быть предельно неэффективен в этом смысле. То есть сложность города как вычислителя — это число входов и выходов + объем памяти + сложность зависимости. Мне неизвестны эксперименты, укзаывающие на то, что эта сложность для нейрона очень велика. А Вам?
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
Нейрон может работать в «холостом режиме», он что-то считает, но результаты его деятельности ни на что не влияют, последующие нейроны его игнорируют. Можно даже прикинуть число таких нейронов, зная какая часть входных данных у среднестатистического нейрона игнорируется или обладает очень малым весом.
В искусственной нейронной сети то же самое может быть, нейрон что-то вычисляет, но его выход игнорируется по сути. Удаление такого нейрона не ухудшает работу нейросети в целом, даже ускоряет.
НЛО прилетело и опубликовало эту надпись здесь
Тут не важно химические или электрические сигналы, нейрон выполняет вычисления и выдает результат, как и любой другой логический элемент, от механических вычислителей старинных, до оптических или квантовых.
То, что нужно нести балласт химических медленных реакций, это нейрону большой минус, но другого выхода у него нет.
Точно моделировать нейрон человек не может, но это и не нужно особо, есть упрощенные модели, как в статье. А практически интерес представляют искусственные нейронные сети, где функции нейронов часто упрощены до линейных с одним изломом, и этого хватает. Намного важнее структура нейросети, количество слоев.
В случае с изображениями это позволяет обученной нейронной сети распознавать изображения точнее человека, не говоря уже о скорости.
Полоски на зебрах, кстати, только для того, чтобы нейронным сетям мух затруднять распознавание цели. Искусственным нейронным сетям тоже мешают, и есть методы борьбы с системами распознавания лиц. Люди тоже уже заняты чем-то подобным.
Вот еще есть пример с птицами, у них хорошие показатели вполне, но моделировать их ни кому не нужно, чтобы достичь лучшего результата. Не нужно моделировать каждое перо, чтобы летать лучше птиц, быстрее, выше, экономичнее. Есть другой путь, создание летательных аппаратов на совсем другой элементной базе, какой и близко нет у живой природы.
НЛО прилетело и опубликовало эту надпись здесь
Нейрон ничего не считает и результат работы нейрона выражен далеко не только и не столько в спайках

Тогда можно сказать что и результат работы радиолампы, не только в усилении сигнала, но и в других важных результатах. Например она красиво светится, за счет низкого КПД обогревает помещение, избыточные технологии красивы — стекло, электроды в вакууме… На это есть спрос и устройства на лампах покупают, не смотря на посредственные основные характеристики, качество работы, КПД, габариты.

Обнаруживать везде «цель» это баг/когнитивная ошибка сознания человека.

Цель каждого нейрона помочь выжить организму. Для этого он должен обрабатывать информацию быстрее, точнее, и при этом минимально потреблять. Полная аналогия с процессором.
НЛО прилетело и опубликовало эту надпись здесь
Мне кажется, Ваша трактовка целей нейрона несколько ммм тенденциозна.
Энергопотрбеление нейрона коррелирует с интенсивностью его работы — та же реполяризация мембраны это энергозатратный процесс. На пальцах — если перестать достаточно кормить нейрон — он станет иначе (хуже, медленнее) реагировать, если снизить стимуляцию — он будет меньше потреблять глюкозы, если превысить некий пороговый уровень стимуляции, при заведомо избыточном наличии питания — нейрон «устанет» на химическом уровне (в виду истощения пула медиаторов), скорости реполяризации мембраны.
Я очень сильно подозреваю, что нейрон ничего не знает об организме и его целях. По сути это очень сложная молекулярная машина, которая по сути, в процессе своего онтогенеза выполняет некий цикл заложенный в ДНК и регулируемый и направляемый внешним окружением опосредованно через химические факторы. Ну к примеру — не получающий сигналов нейрон может запустить механизм апоптоза и самоустраниться или не деффиринцированный нейрон, реагируя на градиент концентрации определенных сигнальных молекул, начинает миграцию в другие зоны мозга

НЛО прилетело и опубликовало эту надпись здесь
Что бы понять Вашу точку зрения на то что нейрон ничего не вычисляет, хотелось бы услышать Ваше мнение о том, что же тогда делает нейрон
Клетка непрерывно ищет активные нейроны, постоянно и активно перестраивая свою структуру, перемещаясь. Под рукой нет, но в сети есть такие видео.
Сложность одного нейрона настолько огромна, что его логическую полную логическую копию в данный момент не может создать цивилизация.

Делать полную логическую копию нейрона нет смысла. Как нет смысла делать копии камня любого до атома, или даже копии лампы или реле из старого вычислителя релейного.
Другое дело что работают с упрощенными моделями, для транзистора это коэффициент усиления, емкость, максимальная рабочая частота.
Вот фотография простейшей логической микросхемы, сделать точную копию тоже невозможно, будет неточность с чистотой материала, с расположением атомов в пространстве. Но для цифровой микросхемы это не важно, логически она будет эквивалентна, а может и лучше, быстрее и надежней.
Надо ли делать копию нейрона, или достаточно цифровой модели? Или современные, например, сверточные нейросети даже лучше, быстрее и точнее в своей области? Сейчас и не делают копии нейронов, тупиковый путь похоже, делают цифровые модели или аппаратные TPU юниты.
А то что делают квантовые компьютеры, вообще не имеет аналогов в биологическом мире.
НЛО прилетело и опубликовало эту надпись здесь
То же самое можно про радиолампу сказать, или про электро-механическое реле. Каждый атом влияет на результат работы, характеристики прибора.
Но, если подходить практически, влияния не существенны и на результате не сказываются. В клетке есть стандартные части, типа митохондрий, тупо поставляют энергию, замена одной на другую ничего не изменит, они одинаковые все и в организме и почти у всех организмов на планете, митохондрии получились удачными и все организмы почти, без особых изменений взяли их к себе в работу.
И у меня обратное мнение на счет сложности нейронов. Все нейроны формируются из нескольких инструкций в генах человека. Исходный код 1000 байт или 10 000 байт и далее однотипное клонирование-деление. Не может быть фантастической сложности в коде из нескольких килобайт данных. Вот я напишу за минуту цикл что суммирует данные от 1 до миллиарда, это сложный процесс? Данных будут гигабайты, не читаемый отчет по процессу, но порождающий код до смешного прост. Так же и с нейронами, отличие нейрона от мышечной клетки определено несколькими генами. Генов всего 28000, общий объем информации 1.5 гигабайта, но не мусорной ДНК не много, итого весь генетический код 15 мегабайт?
то есть только 1,5 % всего генетического материала кодирует белки или функциональные РНК. Остальная часть является некодирующей ДНК, которую часто называют мусорной ДНК

Не может сложнейший организм кодироваться 15 мегабайтами данных, это уже компромисс между компактностью кода и функционалом, многим приходится жертвовать и упрощать.
Если бы всё влияло на нейрон, получился бы эпилептик какой-то. Нейроны должны четко и быстро проводить логические операции и ничего от себя не добавлять.
НЛО прилетело и опубликовало эту надпись здесь
То что в радиолампе нет балласта в виде движущихся частей, как-раз и позволяет ей работать на порядки быстрее нейрона, на частотах в гигагерцы. Против 10-100 Гц у нейронов.
ДНК просто инструкция, генная инженерия уже полностью освоила функционал и продолжает совершенствовать методики, как в известном примере в Китае. Вот тут вообще, чисто синтетический организм создан.
НЛО прилетело и опубликовало эту надпись здесь
ДНК не является инструкциями
Что Вы понимаете под термином «инструкции»? ДНК — это машинный код. Метилирование — это процесс саморедактирования кода в run-time, некоторые компьютерные программы тоже так делают. Code is data и т.п. Так что Вы пока не показали ошибочность восприятия ДНК как набора инструкций.
каждый атом является активным и движущейся частью
как и электрон в транзисторе. Если следовать этой логике, то электрон — аналог атома в нейроне, структурные элементы транзистора — это молекулы, транзисторы — органеллы, ALU — это нейрон.
ДНК это очень активный механизм, в котором есть флаги включеня/выключения, которые постоянно меняются и влияют друг на друга
как и программный код в компьютере, если применяется концепция code is data
Грубой аналогией ДНК плюс рибосом является как раз мультипроцессорный компьютер
Почему? Чего не хватает в ардуино или даже 1/100 от ардуино?
Не все разнообразие атомов в нейроне связанно с релевантными для интеллекта функциями. По крайней мере часть этого разнообразия — это просто случайный шум без какой-либо функции вообще. Другая часть — не имеет отношения непосредственно к интеллекту. А то что имеет — не всегда реализовано максимально «компактно» и эффективно. Что и говорить, если почти вся схема организма человека помещается в 6 миллиардов нуклеотидов — 1.5 гигабайтa.
Буквально каждый атом в клетке это действующий активный механизм, который всё время работает
Это точно не так. Целый белок функционально можно описать небольшим числом параметров. Функционально белок проще совокупности входящих в него атомов.
каждый атом в клетке это действующий активный механизм, который всё время работает и существенно влияет на клетку
Это не так. Тому есть эксперементальные доказательства. В белках большая часть аминокислот заменяемы без изменения работоспособности белка. И нет, это не потому что мы не замечаем, что мутация на что-то повлияла, т.к. есть мутации, которые распределены по популяции в точности так, будто они равнозначны и никакого эволюционного давления на них нет. То есть замена одной аминокислоты на другую функционально ни на что не влияет, вообще. Более того, оказывается, что значимых мутаций довольно мал0^9о, на этом построен целый метод в биоинформатике — coevolution derived residue–residue contact information.
Функция многих атомов в клетке — занимать место, их сложность для этой задачи сильно избыточна и, на самом деле, — это никакая не сложность, а просто случайный хаос. К примеру, есть микротубулы, каждая из которых состоит из миллиардов атомов. В функциональном смысле это просто стремянка — несложный объект.
Проще говоря, клетки и белки очень неэффективны. Они неэффективны даже в смысле эволюционного отбора, потому он и не останавливается. Но интеллект — это не единственный фактор отбора. С точки зрения функции «интеллект» нейроны неэффективны вдвойне, они не только на неё заточены. А раз так, то функциональная модель интеллекта(мозга) может быть проще чем мозг человека в атомистическом представлении.
НЛО прилетело и опубликовало эту надпись здесь
Ну да, я же привел пруфы: есть куча примеров, когда замена одной аминокислоты на другую ничего не меняет, что также видно из того, что существует множество вариантов одного и того же белка у разных организмов одного вида, которые отличаются как раз мутациями в «левых» аминокислотах. На самом деле они не совсем левые, они место занимают, но для этого одинаково хорошо подходят к примеру, лейцин и изолейцин. То есть уже получается, что не каждый атом несет нагрузку. Более того, в клетке «атомарным» строительным блоком является скорее не атом, а целая аминокислота или нуклеотид. Есть, конечно, ещё ионы и другие малые молекулы, но я имею ввиду, что в клетке функциональные элементы в основном строятся не из отдельных атомов, а из неразделимых блоков по 20-30 атомов.
Код, описывающий почтю всю сложность устройства человека (в т.ч. интеллекта) помещается в 1.5 гигабайта (записанных в ДНК) — это верхняя оценка сложности принципиальной схемы всей машины интеллекта, не только одного нейрона. Прямолинейное атомистическое описание одного нейрона не поместится в 1.5 гигабайта просто потому что он содержит порядка 10^14 атомов или даже больше. Следовательно, нейрон функционально намного проще, чем его атомистическое описание.

Микротубулы динамическая штука, постоянно меняющаяся
Ну хорошо, стремянка из лего.

Но вообще Вы первые стали говорить, что каждый атом — это функциональный элемент и функциональная сложность нейрона сопоставима с его атомистической сложностью. Очевидно, что это не обязательно должно быть так, так что с Вас пруфы.

По сути Вы оспариваете вот этот тезис
функциональная модель интеллекта(мозга) может быть проще чем мозг человека в атомистическом представлении.
Вы правда с ним не согласны?
НЛО прилетело и опубликовало эту надпись здесь
ДНК не является кодом, который описывает как всё работает
Почему?
Есть еще информация, которую не видят секвенсеры
Допустим у ДНК не 4 нуклеотида, а 6 (+2 метилированных) — это не меняет сути, просто теперь код не четверичный а «как бы» шестиричный.
незнание которой ранее воспринималось как «мертвый код»
Метилирование никогда не воспринималось как мертвый код.
Поэтому говорить о 15гб некорректно и говорить о ДНК как о аналоге флешки тоже совершенно некорректно.
Не 15, а 1.5. Почему некорректно?
Наиболее близкий грубый аналог ДНК — работающий компьютер с необычной архитектурой
Это несущественное уточнение, да и не совсем корректное. Сама по себе ДНК ничего не делает с собой, нужны все эти ферменты и машины для метилирования и прочих издевательств над ДНК. Но чем это принципиально отличается от утверждения «ДНК — это машинный код клетки»?
НЛО прилетело и опубликовало эту надпись здесь
То же самое можно сказать про процессор и прошивку/программу. Тут ДНК ничем не отличается. Но ДНК описывает не только какие белки создать, но и условия, последовательности, концентрации — это все прописано в регулирующих участках ДНК, а также относительным положением генов на ДНК. У ДНК тоже есть своя файловая система, как на флешке. ДНК — это не набор перфокарт, которые можно перемешивать в любом порядке, наоборот, порядок имеет существенное значение.
Кроме того в ДНК прописано создание всех видов клеток и их взаимное расположение из одной клетки — соматической. Известны даже механизмы, как это закодировано и работает на основе градиентов концентраций. Есть классический эксперимент по развитию мухи из одной клетки. То есть кроме ДНК остаётся только структура гаметы (половой клетки). Аналогия с флешкой и компьютером получается очень хорошая.
На самом деле, в ДНК даже прописано и то, как создать гаметы со всеми их молекулярными машинами, так что информация о структуре компьютера тоже записана в ДНК, по крайней мере частично.
НЛО прилетело и опубликовало эту надпись здесь
Cell-Free Expression Kits тоже создан по спецификации. Под соматическую клетку тоже можно написать спецификацию. Никаких существенных отличий от процессора тут нет.
А у каждой особи эта «спецификация» своя, поэтому отбросить её нельзя
Какое это вообще имеет значение? Ну чуть-чуть отличается состав соматической клетки у разных людей, ну и что? Так и процессоры чуть-чуть отличаются, в рамках допусков.
Опять же, при чем тут соматические клетки? При чем тут уникальность материнского организма? Зачем тут эти банальности, которые не имеют отношения к обсуждаемому вопросу?
Еще раз, мы обсуждаем тезис о том, что вся сложность интеллекта закодирована в ДНК (1.5 ГБ) + небольшой части соматической клетки. При этом там же закодировано и куча всего, что не имеет отношения к интеллекту. И ещё мы обсуждаем аналогию между ДНК и перфолентой, с которой Вы не согласны, но непонятно, почему.
добавлю ещё, что мы точно знаем, какие белковые комплексы нужны для производства белков из ДНК/РНК и размножения нуклеиновых кислот. Это применяется в промышленности — т.н. Cell-Free Expression Kits. Очень удобная штука. То есть структура машинерии необходимой для bootstrappinga жизни из одной лишь ДНК достаточно примитивна, вся клетка не нужна.
НЛО прилетело и опубликовало эту надпись здесь
И как это относится к тому, что я написал постом выше? Я же написал, есть Cell-Free Expression Kits, куда входит и рибосома (не не только). Рибосома хорошо изучена, механизмы её работы вполне понятны, она логически не очень сложная. Cell-Free Expression Kits — это почти набор для бутстрапа жизни из ДНК. И этот набор очень простой, что исключает какую-то скрытую сложность жизни. Вся сложность жизни закодирована в ДНК + нескольких простых белковых комплексах, в т.ч. рибосоме. Даже соматическая клетка нужна не полностью.
НЛО прилетело и опубликовало эту надпись здесь
Не надо передергивать.
НЛО прилетело и опубликовало эту надпись здесь
Cell-Free Expression Kits — это почти набор для бутстрапа жизни из ДНК. И этот набор очень простой, что исключает какую-то скрытую сложность жизни. Вся сложность жизни закодирована в ДНК + нескольких простых белковых комплексах, в т.ч. рибосоме. Даже соматическая клетка нужна не полностью.
НЛО прилетело и опубликовало эту надпись здесь
Я не могу назвать конкретные белки и хим. реакции, но люди этой темой занимаются — есть проекты, где из клеток искусственно выкидывают всё что можно, лишь бы они не помирали, что бы выяснить, каков минимальный набор механизмов.
Почти — значит, что вирус такой штукой, наверное, можно собрать, к примеру.
НЛО прилетело и опубликовало эту надпись здесь
сравнение некорректное, т.к. выкинули очень много.
фундаментальную разницу между построить и заюзать готовое выбросив лишнее
А я вообще об этом не говорил т.к. не относится к теме. Построение искусственной клетки тут ни причем. Нас интересует вопрос о том, до каких пределов можно урезать обычную клетку.
мы не можем делать клетки и пока не видно даже через год или через десять лет мы наконец сможем их делать
Ну и что? Мы и на Альфа Центавра добраться не можем, какое это имеет отношение к обсуждаемому вопросу?
Сложность одного нейрона настолько огромна, что его логическую полную логическую копию в данный момент не может создать цивилизация.
А пруфы будут? В посте же приводится пример, что исследователи смогли точно смоделировать отклик нейрона двухслойной нейронкой. Мы не знаем, какая полная логическая функция нейрона, но та часть функции, о которой мы знаем, не слишком сложная: она не исчерпывается одним сигмоидом, но проще, чем то, что может вычислить современный CPU.
НЛО прилетело и опубликовало эту надпись здесь
А нам не нужна точная атомистическая модель нейрона, нам нужна полная логическая модель. Почему вы считаете, что она равна или близка к атомистической сложности? Как по мне, то очевидно, что атомистическая модель как минимум в 10-20 раз сложнее логической т.к. неделимые блоки в клетке — это аминокислоты, а не атомы (с оговорками). Но вообще, мы вероятно находимся примерно в 10 годах от полной атомистической модели нейрона на основе Molecular Dynamics.
НЛО прилетело и опубликовало эту надпись здесь
однако это очень принципиально
это непринципиально в контексте вопроса, является ли ДНК машинным кодом, а не «вообще».
значит ошибочны все модели нейрона в которых не учитывается химия
Не значит. Метилирование — это просто память нейрона. Ну в компьютерных «нейронах» она тоже есть — т.н. скрытые параметры нейросети.
Точность вплоть до атома или молекулы отличаются настолько незначительно между собой

возможно молекулярной будет достаточно.
На самом деле молекулярная точность и атомистическая соотносятся примерно как 10^10 и 10^14. Но эту мысль можно и нужно развивать. А там глядишь и придем к заключению, что и молекулярная не нужна, а только сложность на уровне целых клеточных органелл, или ещё грубее…
описать нейрон просто математической функцией нельзя
Можно, даже если сложно. Даже атомистическая модель — мат. функция, и мы её уже почти записали. Для маленьких вирусов уже даже можем вычислить примерно.
игнорирование которой приведёт совершенно неверной модели
Совершенно не факт. Во-первых атомистическая сложность, очевидно, фиктивна — это всё равно что несжатый файл с тысячекратно повторяющимися фрагментами. Во-вторых не факт что даже настоящая «сжатая» сложность клеток полностью задействована в реализации функций связанных с интеллектом. Скорее всего нет.
НЛО прилетело и опубликовало эту надпись здесь
А я и говорю, что мы в считанных годах от того, что бы всё это вычислять на атомистическом уровне. Мы уже более-менее можем просчитать атомистически целый вирион, до мелких бактерий рукой подать. Оказывается, что даже атомистическая сложность клетки уже вполне в пределах наших возможностей познания, анализа и моделирования.
А что с Тьюринг полнотой ДНК+машинерии? В чем тезис?
Вы писали, что из-за метилирования ДНК нельзя назвать машинным кодом. Почему? Почему регистры памяти или run-time изменение машинного кода не могут быть эквивалентными метилированию?
НЛО прилетело и опубликовало эту надпись здесь
Симуляция 85 миллиардов Тьюринг полных машин, работающих в реальном времени связанных в сеть это не та задача, про которую говорят, что её вот вот решат
Потому что так задачу не ставят — не интересно, наверное. Один суперкомпьютер содержит примерно 0.5 квадралиона транзисторов, то есть в 20 раз больше, чем нужно для 85 млрд. Тьюринг-полных машин.
Любопытная гипотеза.
К сожалению, не могу приписать её себе, это оценка лидирующих учёных в области — D.E. Shaw, например.
НЛО прилетело и опубликовало эту надпись здесь
Аргумент затмевает авторитет
просто дал ссылку на исследования, на которые опираюсь в своих утверждениях, так принято в научной среде.
суперкомпьютер, который и будет симулировать их
а зачем тут СК? Вы же согласились, что сложность нейрона — это всего лишь мегабайты памяти.
НЛО прилетело и опубликовало эту надпись здесь
я полагаю, что логический эквивалент нейрона может быть реализован сравнительно малым числом транзисторов, 10^5-10^8. Хотя, конечно, я не эксперт и это очень-очень примерная оценка. Возможно, память нужно считать отдельно, но это не проблема, я думаю. У нас есть дешевые технологии памяти, если нужны большие объемы — HDD/SDD/RAM.
Тьюрин полная машина И мегабайты памяти.
То есть в минимальном варианте — 350 транзисторов + микроскопический кусочек магнитной ленты?
НЛО прилетело и опубликовало эту надпись здесь
симулировать все химические реакции(которые аналоги вычислений и ещё и идут сильно параллельно) в секунду
Все реакции симулировать не надо. Если Вы говорите, что реакции — это аналогии вычислений, то движение электронов в транзисторе — аналог реакций.
проблемы памяти описано в другом месте и она куда более фундаментальная, чем кажется
Ответить
Конкретные цифры пожалуйста, чего не хватает, сколько.
НЛО прилетело и опубликовало эту надпись здесь
Движение электронов [в транзисторе] не аналог химических реакций [в нейроне].
Почему?
Нужна симуляция Тьюринг полных вычислений на тьюринг машине
Зачем? Почему нельзя просто построить «нейрочип» или его аналог? Ну то есть процессор, который будет состоять из сотен миллионов малых тьюринг-машин, по возможностям сопоставимых с нейронами? Почему не построить функциональный аналог мозга, только из транзисторов?
предлагаю самостоятельно оценить
так дело не пойдет. Я Ваши мысли читать не собираюсь.
без понимания комплекса следствий того, о чём я написал
Пока что не видно, что бы там были какие-то релевантные следствия вообще. Начните с сути. Пока что Вы ничего по сути не сказали, лишь туманные сомнения озвучили. Неясно, в чём вообще Ваша мысль, есть ли в ней что-то любопытное.
НЛО прилетело и опубликовало эту надпись здесь
ДНК/рибосомы + белки Тьюринг полны, а движения в транзисторе
Ну и что? А атомы в белках не Тьрриг полны, как и движения в электронах.
потому что тьюринг полный нейрочип это есть тьюринг полная машина, то есть процессор.
И что это доказывает?
нужно построить все 86 млрд процессоров или их эмуляцию, что сложно
в чем сложность? Минимальный процессор — это 300 транзисторов.
симуляция 86 млрд процессоров не так тривиальна
В чем сложность, в цифрах пожалуйста.
паралелльний доступ к памяти из них не реализован при нынешнем уровне техники
Реализован, в виде СК.
есть алгоритмическая проблема с вычислительной сложностью задачи синхронизации взаимного влияния 86 млрд активных cpu
И какова она? В цифрах? Нужно ли ее вообще решать? Зачем?
Это всё в комплексе — сложный и ещё не решенный комплекс проблем, говорить о сроках решения которого сейчас рано
Без конкретики это пустые слова.
Сам по себе нейрон способен вычислить огромный диапазон так называемых нелинейных функций
Перебор у автора с нелинейностями. У дендритной мембраны их две, и они служат созданию лавинного эффекта, а не какому-то вычислению: один в сторону сомы, второй — от сомы.
Соответственно, у самой дендритной веточки нет никакой функции суммирования входной информации. Просто, когда активны два рядом расположенных синапса, то они запускают дендритный спайк.

Модель нейрона получается следующей. Из входного битового вектора берётся M случайных выборок по 2 из N. N — количество нейронов, с которыми есть связь. Нейрон генерирует спайк, когда количество активных выборок превышает некий порог T. Функция нейрона тогда похожа на некое хеширование, а не вычисление.
Хм… из входного вектора беруться случайные выборки? что-то мне это напоминает…
dropout? :)))
Тут двухслойная сеть.

В первом слое нейроны имеют только по две связи со случайным входным нейроном, вес 0,5. Логическая функция И: выход либо 0, либо 1.

Второй/выходной слой имеет только один нейрон, все веса равны, и сумма просто сравнивается с порогом.

Похоже такая модель может работать в комбинаторном пространстве, которое описывал Редозубов. И не нужно привлекать никакие мета..-ые рецепторы, обычных синапсов достаточно. Только я бы ещё добавил тормозные синапсы в первый или второй «слой», чтобы количество активных нейронов не росло лавинообразно. Тогда будет картина непрерывной чехарды но с постоянной средней активностью, и такое вроде наблюдается в миниколонках.
UPD. Проверил модель, которую описал выше. Работает.

Размер «кластера» получился равен четырём — количество синапсов на оконечной дендритной веточке, активация которых запускает дендритный спайк.

При двух синапсах/связях на кластер сеть быстро скачкообразно переходит в эпилепсию — все нейроны активируются. При трёх — продолжительно стабильна, но тоже случается коллапс. А вот при четырёх синапсах процесс стабилен, что соответствует графику в статье.
Тут кто-то писал что делать полную логическую копию нейрона нет смысла. Но как же подводные лодки, самолеты и прочее. Много чего человек перерисовал с природы. Может это и будет последним шагом на пути к созданию настоящего ИИ который захватит вселенную ?
Самолёты не машут крыльями.
Крайне посредственно выполняющая свою функцию переусложнённая машина, которой пользуется полтора фрика. Как и искусственные нейросети с переусложнёнными нейронами, в общем-то.
Но альбатросы вполне себе летают часами, не взмахнув крыльями ни разу.
взмахи в основном альбатрос делает при взлете и при посадке, а для полета использует не столько мускульные усилия, сколько воздушные потоки. Поэтому он может парить часами без единого движения крыльев.

То же самое делают на парапланах. Интересно, но практической пользы нет.
Сильный ИИ получится постепенно по мере улучшения оборудования и программных наработок, тут статья интересная по теме.
Противоречивые чувства на счет статьи. Но спасибо и дабы не разводить холивар просьба ко всем разработчикам мира: никогда и никогда не пишите программы которые могут сами себя модифицировать!
НЛО прилетело и опубликовало эту надпись здесь
Возможно, играя с нейросетями мы сможем понять и то, как написать прошивку.
Лет 30 назад то же самое говорили про распознование образов, типа это миллионы лет эволюции, а сейчас нейросети искусственные распознают картинки быстрее и точнее человека. Есть вариант самообучения без учителя и т.п.
На данный момент искусственные нейросети развиваются со скоростью миллион лет в год, что биологические достигали за миллион лет, сейчас достигается за год. Далее вероятно такое, из статьи выше первая картинка и вторая

Ну или на примере аналитической игры в Го, раньше было невозможно обыграть человека, сегодня нейросети обыгрывают легко
Постоянно новости от творцов ИИ.
НЛО прилетело и опубликовало эту надпись здесь
Нейросети человека тоже распознают изображения примитивным способом, и совершают ошибки, вот тут пишут про анализ качества распознования
… По ссылке имеется таблица сравнения методов распознавания на базе MNIST. Первое место за сверточными нейросетями с результатом 0.39% ошибок распознавания. Большинство из этих ошибочно распознанных изображений не каждый человек правильно распознает. Кроме того в работе были использованы эластические искажения входных изображений, а также предварительное обучение без учителя.

С игрой в Го всё намного интересней, нейросеть играла по настоящему креативно и привнесла в игру новые стратегии игровые. В ходе игры были ходы не понятные профессионалам, только в конце партии стал понятен замысел нейросети. Это не простой перебор, это и «понимание» игровой ситуации на определенном уровне.
С другой стороны, что для человека, что для ИИ эта игра вершина возможностей. Так же и про мастера игры в Го можно сказать что это не такой уж сильный интеллект, он всю жизнь с детства тренировался в этой игре (и больше ничего не умеет делать), и тут ИИ его обошел. В данном случае ИИ сравним с человеческим, и даже более того, в ходе самообучения выработал новую школу игровую, новые методы и приемы.

Но под капотом там обычная статистика (нейросети) и математика.

То же самое у человека. Статистика на основе нейросетей и логика-математика. Плюс методом перебора вариантов работают, в шахматах так точно, сидят и наугад перебирают варианты. Сначала осознанно, потом не осознанно.
НЛО прилетело и опубликовало эту надпись здесь
Человек запоминает предмет, только если есть аналогия в его накопленном опыте. Аналогия не очень уместная. Человек учится десятки лет, нейросеть от создания до эксперимента может существовать доли секунды. А чему не научился, то будет выглядеть как шум, вот пример заметки по квантовой механике, кто работает с этим мгновенно распознает суть, а большинство людей нет.
Обратный пример Маугли и эксперимент с котянами. Нет обучения нейросети человека в детстве, далее обучение и развитие невозможно. И мышления нет.

У нейросети, играющей в ГО, не было замысла, понимания и креатива. Это просто программа с набором классических алгоритмов и огромной базой закономерностей между состоянием игрового поля и выигрышем. Программа использовала базу для предсказания выигрышных ходов. Нет тут интеллекта.


То же самое можно про человека сказать. Мастера игры с детства в свой мозг загружают базу данных по игровым ситуациям, далее это работает неосознанно на уровне интуиции, а суть та же самая
набор классических алгоритмов и огромной базой закономерностей между состоянием игрового поля и выигрышем

Где тут место интеллекту? Человек столкнулся с нестандартной игрой искусственного оппонента и не понял что происходит. Шаблоны игры не подходили уже.
Я точно так же играю в шахматы на начальном уровне, перебираю все варианты. Если играешь долго варианты перебираются неосознанно за счет тренировки (и пополнение базы данных по игровым ситуациям) и быстрее находишь более оптимальные ходы.
В общем много общего между нейросетями и человеком. Только нейросети могут масштабироваться и развиваются быстро, как аппаратно, так и программно, а человек уже достиг пика развития, дальнейшее развития вряд ли возможно. Например потому, что нейроны очень крупные, медленные и много выделяют тепла. Хотя с другой стороны мозг «молодой» орган (особенно кора мозга) и его эволюция еще не закончилась. Разброс по интеллекту среди населения это, скорее всего, по этой же причине, мозг не стабилен.
НЛО прилетело и опубликовало эту надпись здесь
>>Компьютеры, которые сейчас стоят 1000 долларов, по своей мощности равны мышиному мозгу
То есть такой компьютер сможет обеспечить все информационные потребности тела мыши? Сможет регулировать все его функции (пусть искусственного, но такого же сложного), чувствовать, видеть, понимать опасность, учиться, воспитывать крысят? Даже не смешно. Особенно на фоне эмуляции мозга червя из 300 нейронов.

Человеку, уже видевшему не одну итерацию подобных «революций» подобные рассуждения представляются как минимум наивными и скоропалительными, основанными только на локальном росте в одной узкой области. Вот сегодняшняя статья говорит как раз о том, что сложность мозга и нервной системы на порядки выше, чем мы представляли, так что воспроизвести его – не такая простая задача, а возможно и вообще невыполнимая.

Помните, какое ликование и надежды были после полета Гагарина, а тем более первого шага по Луне? И где они сейчас, эти надежды? Где термоядерные реакторы? Где безлюдные заводы? (даже Маск выбросил половину роботов на своем сборочном заводе и заменил на мексиканцев). Фундаментальных прорывов в физике нет уже полвека (а именно она – драйвер прогресса). Рождаемость, о которой с ужасом говорили еще недавно, на глазах снижается даже в Африке. А что было с биткоином? Не удивлюсь, если вопли о глобальном потеплении завтра сменятся еще более апокалиптическими о похолодании. Как говорится, у нас тут все не так однозначно (с)
Вы защищаете биологический интеллект. Но то же самое можно сказать и про искусственный. Пусть венец природы в уме попытается умножить 222*111? Это 8-битные числа, простейшая операция, человек зависнет минут на 15 без подготовки, со всеми своими 100 миллиардами нейронов. Компьютер решит эту за 5-10 наносекунд! Несколько логических элементов и всё.
Вот сегодняшняя статья говорит как раз о том, что сложность мозга и нервной системы на порядки выше, чем мы представляли

Нет, это гипотеза автора.
Полностью имитировать работу мозга не нужно, там 99% работы это биологический балласт. Архитекторы ИИ используют более чистые, академические подходы. Результат прекрасный.
Мышь не сможет играть в игру Го или моделировать что-то, мозг, прямо скажем, очень слабый, очень медленный и склонен к «глюкам» (человеческий фактор).
Создать «решателя задач», самого крутейшего – никаких проблем. А вот создать аналог человеческого интеллекта и сознания, который будет чувствовать, осознавать, испытывать эмоции и понимать контекст, а не слова – задача почти невозможная, ведь там все как раз на этом «балласте» и базируется. А в статье именно о сильном (и даже сверхсильном) интеллекте речь.
А разве кто-то уже показал, что «чувствовать, осознавать, испытывать эмоции и понимать контекст» — качественно сложнее, чем распознавать образы?
На мой взгляд, это подмена тезиса. Эту чрезвычайную сложность не надо «показывать» и доказывать. Наоборот, если сумеют воспроизвести – вот и доказательство, что вовсе и не так сложно. Главное, не принимать видимость за сущность и не обольщаться «философским зомби». Вот сейчас онлайн-переводчики вполне создают видимость понимания контекста, иногда даже не по себе становится, но все равно это тупой «решатель», обученный сопоставлять готовые фразы.
Так и некоторые люди тоже имитируют эмоции и понимание, при полном их отсутствии.
Онлайн переводчики на основе нейронных сетей именно понимают контекст, каждый день всё лучше и лучше.
С первым утверждением нельзя не согласиться. Многим интровертам и асоциальным личностям приходится имитировать эмоции. Большая часть «умственной» деятельности очень большого количества людей – это на деле лишь копирование и воспроизведение уже готовых шаблонов и опыта, накопленного другими людьми, бесчисленными поколениями предков. Кстати, интернет обнажил вот эту проблему с ужасающей ясностью (копипаста, перепосты, ретвиты и просто повторение банальностей вслед за «топами»).

А вот второе опять не о том. Машина не понимает контекста и смысла, для этого у нее нет жизненного и социального опыта. Она лишь учится находить правильные соответствия в строении фраз – это и есть «философский зомби».
Машине не нужно понимать весь жизненный опыт человека, ей достаточно понимать смысл (значение) информации и подобрать слова передающие этот же смысл на другом языке.
Это не всегда возможно, художественные переводчики, часто просто упускают целые пласты смысла или заменяют на вновь созданные смыслы, понятные представителю культуры, это не перевод, это может быть даже сложнее написания книги или стихов с чистого листа.
И все равно, чтобы понять даже переведенный текст, нужно изучать личный опыт автора, его культуру. Даже текст на родном языке, может быть не понятный в чем-то, если написан человеком с другой культурой, непонятны переживания или логика.
В этом плане, не подготовленный человек, тоже будет «философским зомби». Почитайте автогенерированные рефераты, тут их генеририруют на русском.
Эмоции это скорее балласт интеллекта, что достался в наследство от простейших организмов. Дофаминовое подкрепление и прочее. Когда желудок набивается едой, в кровь выбрасываются морфий-подобные вещества и мозг одурманивается, иногда вызывается зависимость от еды (в лучшем случае). В чем ценность этих эмоций? Без них было бы лучше, но это наследство эволюционное слишком глубоко встроено в мозг.
С пониманием контекста ИИ проблем нет, над этим работают, просто добавляют уровни абстракции новые. Задача сложная, но решаемая. Люди тоже не все понимают сложные контекст, чем сложнее, тем меньше. Контекст квантовой механики поймут 0.1% населения, очень сложны абстракции там.
В той же игре в Го, нейросети уловили контекст игровых ситуаций тоньше, чем это делали люди, разобрались после анализа партий игровых, когда казалось бы ходы не логичные, приводили к укреплению игровой ситуации далее.
Вот сейчас и Старкрафт ИИ осваивает, результаты спорные, но интересные, это всем интересно и породило бурную дискуссию.
Мозг, кстати, и есть решатель задач. Он нужен организму чтобы кормил его и оставил потомство. Всё остальное побочный эффект и инструмент для достижения целей.
Когда желудок набивается едой, в кровь выбрасываются морфий-подобные вещества и мозг одурманивается, иногда вызывается зависимость от еды (в лучшем случае). В чем ценность этих эмоций? Без них было бы лучше
Без них бы вы умерли с голоду. Откуда вы узнали, что вам необходимо питаться? Вас этому обучило подсознание кнутом и пряником через подкрепление поведения. Агентов этим же способом обучают.

балласт интеллекта, что достался в наследство от простейших организмов. Дофаминовое подкрепление и прочее.
А это вообще, можно сказать, аналог обратного распространения ошибки, закрепляющий нужные связи.

Вы предлагаете повыкидывать то, из чего сделаны современные нейросети.
Питаться сейчас не проблема. А сбросить вес проблема, или перейти на полезную еду без сахара и жиров.
Нейросети обучают более практичным методом обратного распространения ошибки, в многомерном пространстве выбирается точка с минимумом ошибки и задача решена. Конфигурация запоминается.
Аналогия с химическим стимулированием понятна, но это более примитивный метод, медленный, грубый и с побочным эффектами. Не идеальный, просто рабочий метод.
«Не идеальный, просто рабочий метод» — это именно глубокое обучение за неимением альтернатив на сегодня, а «примитивный, медленный, грубый и с побочным эффектами» метод даёт сильный интеллект, правда с ожирением у некоторых )
«Слабый» и быстрый интеллект на основе нейросетей эффективно работает без этого всего, в распознавании изображений, анализе данных, в играх от игры Го до Старкрафта, в рисовании картин и создании музыки.
У людей тоже не всё однозначно, кроме ожирения и злоупотребления наркотиками, по настоящему сильный интеллект далеко не у всех, как показано на графике
Думаю тут все кто обсуждает ИИ сами обладают IQ>120, а это небольшая часть населения.
Дело не в питании. Вот вы занимаетесь любимым делом или играете в игру, потому что это вам нравится, вызывает удовольствие – эта эмоция была доступна еще ящерам, если не рыбам. Вы бы согласились жить без нее? Кстати, в литературе уже обыгрывались подобные ситуации.
Приятная эмоция работает в связке с неприятной. Если одна деятельность вызывает приятные эмоции (это не всегда созидательная деятельность), другая вызывает отрицательные эмоции, а то и явные страдания. Прекращение страданий может восприниматься как приятная эмоция. Самих по себе приятных эмоций нет, они только в связке с негативными идут и работают на их фоне. У кого-то стресс «небольшое» падение состояния на несколько миллиардов, у кого-то радость покушать или выздоровление частичное.
В фильме «Эквилибриум» показано что-то подобное, эмоции людям отключили химическими препаратами для улучшения общества.
>> Без них было бы лучше… Мозг, кстати, и есть решатель задач. Он нужен организму чтобы кормил его…
Вообще страшную вещь вы походя сказали, тем не менее это и есть реальность сегодняшнего дня.

Я имел в виду совсем другой контекст – душевный и духовный, который можно понять только имея человеческий жизненный опыт (тот, который на 99% «балласт»). Как думаете, почему сейчас падает интерес к классической литературе, и даже старые советские фильмы, еще недавно так популярные, уходят в прошлое? Новые поколения перестают понимать их контекст, а если и понимают, он входит в катастрофическое противоречие с их жизненным опытом и личной картиной мира. И это вовсе не в укор им говорится, они нисколько не глупее, а где-то и умнее. Это реальность, которая колоссально изменилась и не имеет почти ничего общего с прошлым. Я, старик, могу смотреть на все это другими глазами, оценивать иначе, но я – «уходящая натура».
Офтоп, закончим на этом.
Это философская тема. Советские фильмы, действительно теряют актуальность, мир меняется, как на картинке хотя бы.
Советское поколение тоже, не очень то и понимало контекст крепостных крестьян, а те не поняли бы контекст индейских/африканских племен, охотников за головами и ценность коллекции скальпов, что делало в то время воина претендентом в высшую иерархию власти.
Даже картинкой шуточной тенденцию «раньше было лучше» представили.
Что однозначно, современное время экспериментальное и кратковременное, это переходный этап освоения технологий. Далее будут какие-то изменения. Думаю последущие поколения и текущее время не поймут, все контексты.

И по теме статьи, все равно, так или иначе мозг человека в любое время решал задачи на основе его представления о морали, на основе психологии людей вокруг, на основе обучения с момента рождения.
Творчество тоже работа мозга, поиск взаимосвязей, индукция-дедукция. Было много разобщенных фактов, а потом раз и таблица Менделеева, например.
Искусственные нейросети тоже такое умеют, если есть подходящий набор данных, вот пример «последователей» Менделеева, уже искусственных, в химии.
Интересно, а что успели за два года раскопать по теме фотонного обмена между нейронами?
В MIT technology review об этом писали канадские товарищи 6/09/17.
То есть они обнаружили, что есть биофотоны вообще, и при рассмотрении вглубь, миелиновая оболочка аксона оказалась вполне себе волноводом.
На мой непрофессиональный взгляд, это согласуется с экспериментальными фактами, которые озвучены в лекции Ю.И.Александрова, что информация от рецепторов начинает обрабатываться раньше, чем она попадает в мозг по аксонам и сигналы от одних и тех же рецепторов различаются в зависимости от того, с какой целью они активировались. То есть можно предположить, что дендритная сеть нейрона может обучаться так же, как и сеть, состоящая из самих нейронов. А это говорит о том, что сложность мозга и нервной системы на порядки больше, чем мы это себе представляли. Очень хотелось бы услышать комментарий специалиста.
Нужен квантовый компьютер, тогда может быть подойдем ближе к мозгу
Давайте поднимем также вопрос потребностей, которые движут человеком и которых пока что нет у компьютера. Это необходимая составляющая, при обсуждении ИИ.
Человек хочет выживать, питаться, осваивать и захватывать окружающий мир, доминировать, размножаться, развлекаться. А у компьютера нет никаких желаний и получается что самая сложная НС, это просто сложный калькулятор в руках все того же человека.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации

Истории