Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 24
Интересно, какие успехи у Нейралинка — там ведь работают довольно продвинутые спецы (хотя конечно с ДАРПА им трудно потягаться, в разрезе опытов над высшими приматами...)
Отличные новости! Позволяет даже не особо утопически надеяться, что уже на нашем веку широким массам, или хотя бы нам, гикам, станет доступно клонирование и резервное копирование сознания и его состояний.
Здесь отличная дискуссия на эту тему развернулась: geektimes.ru/post/299381
А там клетка (нейрон) и не описывается 24 байтами. По 24 байта памяти было выделено на каждый синапс (которых у каждого биологического нейрона до нескольких тысяч может насчитываться, хотя обычно существенно меньше), а за само поведение нейрон отдельная микропрограмма отвечает.
А такие мастабные симуляции и нужны как раз среди прочего чтобы понять — какой уровень абстракции и точности при моделировании клеток необходим и достаточен. Что можно упросить, что наоборот требует более детального моделирования.
А такие мастабные симуляции и нужны как раз среди прочего чтобы понять — какой уровень абстракции и точности при моделировании клеток необходим и достаточен. Что можно упросить, что наоборот требует более детального моделирования.
Там уже написали, что вычислительная машина может эмулировать все что угодно, от работы холодильника до урагана. Но эмулированный в вычислительной машине ураган в пространстве не существует, а если эмулировать работу холодильника в программной среде, то систмный блок компьютера от этого не станет холодильником. Нет механизма трансформации полупроводников в фреон или в ткани головного мозга человека или животного.
"Невозможно понять пустыню, подсчитывая количество песчинок в ней"
это все устарело.
слава <s>роботам</s> кибернетике!
Но и невозможно до конца понять пустыню, не подсчитав количество песчинок в ней. Мне кажется нужны оба подхода — и общий, и детальный.
Само по себе Ваше желание «понять пустыню» сильно отдаёт психоактивными веществами. Берегите себя.
Это была цитата по памяти из «Чужака» Хайнлайна.
К сожалению, подобного рода афористичные аналогии снижают уровень дискуссии. Хайнлайна, конечно, интересно читать, но большие модели, подобные рассматриваемой в статье, нам просто необходимы, т.к. неясен эффект масштаба в приложении к ИНС. Мы сможем создавать эффективные методы обучения и архитектуру сети под этот масштаб только когда сможем наблюдать результаты их работы на практике.
Не нужно забывать о том, что ЕНС и ИНС — принципиально разные штуки. Разные принципы функционирования, разные решаемые задачи. Начать хотя бы с того, что, судя по всему, в наших мозгах нигде нет такой штуки, как обратное распространение ошибки.
ИНС — не модель ЕНС. ИНС — это способ алгоритмического решения задачи аппроксимации функций многих переменных, а также архитектурная основа технологий, сводимых к этой самой аппроксимации. То, что по жизни делает ЕНС, ни к какой аппроксимации не сводится. Грешный мир, в котором мы живём, не является функцией многих переменных. Поиск организмом своего жизненного пути не сводится к решению задачи аппроксимации функции по той простой причине, что никакой этой самой функции вообще не существует.
ИНС — не модель ЕНС. ИНС — это способ алгоритмического решения задачи аппроксимации функций многих переменных, а также архитектурная основа технологий, сводимых к этой самой аппроксимации. То, что по жизни делает ЕНС, ни к какой аппроксимации не сводится. Грешный мир, в котором мы живём, не является функцией многих переменных. Поиск организмом своего жизненного пути не сводится к решению задачи аппроксимации функции по той простой причине, что никакой этой самой функции вообще не существует.
в наших мозгах нигде нет такой штуки, как обратное распространение ошибки.Алгоритмы обучения разнообразны, обратное распространение ошибки — это лишь один из возможных, по большому счёту решаемая задача одна.
Грешный мир, в котором мы живём, не является функцией многих переменныхВот только мы не воспринимаем мир как таковой, а воспринимаем поток данных от рецепторов, который описывается функцией от конечного числа переменных.
никакой этой самой функции вообще не существуетФундаментальная ошибка здесь. Избегание боли и стремление к наслаждению и является той самой функцией, которую максимизирует каждое более или менее развитое живое существо на планете. Чувство холода, голода, одиночества и т.п. — это лишь побочные вариации боли как отрицательного подкрепления, заданного эволюцией. От большинства животных нас отличает в основном внутренний диалог, позволивший оперировать абстрактными понятиями вместо прямой реакции.
Избегание боли и стремление к наслаждению и является той самой функцией, которую максимизирует каждое более или менее развитое живое существо на планете.Всё сложнее. Даже если брать за основу учение старика Эпикура, то всё равно получается не так примитивно.
Кроме того, нервный импульс от болевого рецептора ничем не отличается от нервного импульса от рецептора сладкого вкуса. Как быть с этим?
Как быть с этим?Искать отличия не в рецепторах, а на протяжении всего пути сигнала. Если я прав, то система поощрения должна быть очень стабильной эволюционно оформленной конструкцией внутри мозга, т.к. в прошлом её неполадки должны были приводить к неминуемой гибели организмов. И вот в этом случае вполне может быть стандартное для всех кодирование таких сигналов.
Даже если брать за основу учение старика Эпикура, то всё равно получается не так примитивно.Сложность идеи не всегда коррелирует с её истинностью. Ненаучные представления людей, живших до н.э, едва ли сильно лучше моих представлений, базирующихся хотя бы на элементарной школьной биологии, научпопе и опыте разработки ИНС.
Читал в 80-х годах сборник материалов по метеорологии, где утверждалось, что погоду уже тогда можно было предсказывать, стоило лишь создать трехмерную сеть метео-датчиков с шагом 50 метров по всем 3-м измерениям от стратосферы до нескольких сот метров под водой с частотой размещения приборов 50 метров. И опрашивать её в близком к реальному масштабе времени.
Увы, такая система, будучи созданной, сама по себе создавала бы дополнительные искажения в будущей картине погоды(((
А упоминание «психоактивных веществ» в не медицинской дискуссии повышает уровень?
Увы, такая система, будучи созданной, сама по себе создавала бы дополнительные искажения в будущей картине погоды(((
А упоминание «психоактивных веществ» в не медицинской дискуссии повышает уровень?
Многое в технологиях стоит не на полном понимании, а на понимании, достаточном для создания/копирования.
Так что пересчёт всех песчинок этой пустини, вполне возможно, и не нужен.
Как и полного понимания когнитивных процессов для того, чтобы «заработало».
Так что пересчёт всех песчинок этой пустини, вполне возможно, и не нужен.
Как и полного понимания когнитивных процессов для того, чтобы «заработало».
Вопрос в том, является ли вообще запись нейронной активности той тропинкой, которая ведёт в сторону хоть какого-нибудь понимания работы мозга. Пока что многие пытались, но толку примерно ноль. Например, Наталья Бехтерева, которая много работала в этом направлении, уткнулась в то, что записать импульсы можно, но насчёт того, как записанное раскодировать, никаких идей. Она прямым текстом писала, что без разгадки секрета мозгового кода двигаться дальше в этом направлении невозможно.
Где-то тут недавно проскакивала статья про то, как нейрофизиологам предложили их методами поизучать компьютер Атари. Они честно сняли электрическую активность отовсюду, куда дотянулись, вывалили кучу статистики, но… в общем, там всё грустно: из этой горы данных не извлекается понимание того, как Атари работает.
Где-то тут недавно проскакивала статья про то, как нейрофизиологам предложили их методами поизучать компьютер Атари. Они честно сняли электрическую активность отовсюду, куда дотянулись, вывалили кучу статистики, но… в общем, там всё грустно: из этой горы данных не извлекается понимание того, как Атари работает.
Никакого универсального кода там может не быть в принципе. Есть данные с рецепторов и эволюционно специализированные типы нейронов, на основе чего обучение с подкреплением создаёт области, приблизительно отвечающие за различные аспекты восприятия и поведения, но не жёстко привязанные к этим функциям. Не знаю, как работает долговременная память, но она могла бы быть напрямую подключена к большому количеству нейронов и срабатывать в узком диапазоне входных данных, переводя области в заранее заданные состояния, ранее приводившие к положительному подкреплению в подобной ситуации.
В таком случае на передний план выходит проблема не устройства, а взаимодействия с этой системой, передачи в неё и получения из неё осмысленных данных. И вот здесь нам очень пригождаются ИНС, которые с одной стороны могут служить преобразователем данных в формат, удобоваримый для мозга посредством обратной связи в том или ином виде, и с другой могут быть заранее контролируемо обучены для получения входных данных определённого вида.
В таком случае на передний план выходит проблема не устройства, а взаимодействия с этой системой, передачи в неё и получения из неё осмысленных данных. И вот здесь нам очень пригождаются ИНС, которые с одной стороны могут служить преобразователем данных в формат, удобоваримый для мозга посредством обратной связи в том или ином виде, и с другой могут быть заранее контролируемо обучены для получения входных данных определённого вида.
Отсутствие доказательства не стоит выдавать за доказательства отсутствия.
У нас нет доказательств, разумеется, что выбранный путь (точнее, любой из выбранных путей) приведёт к тому, что запланировано.
Но прогресс есть.
У нас нет доказательств, разумеется, что выбранный путь (точнее, любой из выбранных путей) приведёт к тому, что запланировано.
Но прогресс есть.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Учёные запишут данные с 1 миллиона нейронов в реальном времени