Обновить
10
Денис Д@Volutar

Пользователь

3
Подписчики
Отправить сообщение

Даже у близнецов разные отпечатки пальцев. В ЦНС (учитывая спинной мозг, нервные системы органов) под сотню миллиардов нейронов, у каждого из которых по тысяче а то и больше синапсов. Очевидно что идентичного развития не может быть даже с одними блюпринтами (ДНК). Чуть другая температура, чуть другая еда, чуть другой ракурс - это все кумулятивно разводит когнитивные траектории, ещё до рождения, поскольку даже количество кислорода поступающего, и взаимное расположение в утробе тоже играет роль. Случайные факторы при таком огромном поле вариантов делают невозможным идентичность. Схожесть - да. Особенно если близнецы в принципе не расстаются и постоянно вместе. Например - Бриджит и Пола Пауэрс. Посмотрите интервью с ними.

Спасибо за качественную статью. Сам пытался как-то систематизировать, делая заметки, но до стадии статьи не дошёл (и не знаю, дойду ли).

Практически во всем согласен, за исключением совсем мелочей.

Например, самосознание я считаю что образовалось как социально-адаптирующий «нарост», модуль, тиражирующий и вымышляющий персональные контексты для мнимых «я». То есть в основе - прогнозирующая модель «себя» в применении к остальным. При этом истинное «Я» в целом эти вымышленные «я» могут в определённых сценариях радикальной диссоциации от себя - заменить (оттуда и различные диссоциативные расстройства).

По поводу многочисленных мысленных экспериментов (того же Чалмерса) также согласен, в софистской их природе, но для этого наверное нужна отдельная статья.

По поводу нейромедиаторов и гормонов, мне кажется, у вас немного поверхностный взгляд. Помимо медиаторной роли у них важнейшая роль самоорганизации нейрональных путей и вообще микро- (и макро-) архитектуры. Но там настолько много нюансов, что фиксировать их все, включая взаимовлияния и побочные эффекты - на целую книгу хватит.

По поводу описания природы квалии также в целом согласен, единственное уточнение - модальности квалий жестко прошиты в ДНК, через макроархитектурные пути развития. Особенно тут выделяются обонятельные (поскольку одни из древнейших и самые разнообразные и многочисленные). Оциоцептивные (болевые) пути также жестко вшиты в микроархитектуру, у них фактически нет своего «цвета», они добавляются и подкрашивают смежные. А цвета, эти знаменитые «красности красного», эти три компонента (но есть мутации у людей и с четырьмя, не говоря про дальтонизм) - именно, что просто «различающиеся» тона. Как разной формы штриховки. У слепых от рождения характеристиками поверхности служат степени гладкости, шершавости, липкости, и прочие осязательные качества. И цвета предметов ощущаются визуально таковыми только потому, что от рождения сопровождают конкретные предметы, ощущения и вкусы. Это банальная прижизненная ассоциативная корреляция награждает эти абстрактные длины волн человеческой предметной семантикой.

И в целом - да, сознание конкретного организма неотделимо от конкретного опыта (конкретной когнитивной структуры), но в сущности - универсально, и эволюция на любых других планетах, неотвратимо будет двигать в усложнение до развития сознания и цивилизации (как неизбежного контекста сознания).

Невозможно сознание «в вакууме», без контекста. Невозможен больцмановский мозг, как какая-то устойчивая и протяжная во времени структура. Эти мысленные эксперименты, конечно, занятны, но по большому счёту беспочвенны и пусты. И самое плохое - отвлекают от того что действительно принесёт плоды.

Каждый раз запрашивать данные из базы - это будет на множество порядков медленнее, чем вытряхивать данные из нейросети (которая по сути представляет собой переструктурированную БД, с иным принципом поиска).
Правильнее иметь механизм переобучения "эксперта" по базе знаний (по каждому разделу отдельно), к которому будет происходить обращение по необходимости. А переобучение это необходимо производить регулярно, при дополнении знаний (в т.ч. и утверждениями о ложности). А само пополнение базы знаний может быть как внешним, так и вследствие внутренних непротиворечивых заключений (т.е. как записывать все в некий "журнал текущих заметок", так и формировать собственные человеко-читабельные справочники).

В любом случае, это не "научные эксперименты", они напрямую-то недоступны.

Вы, надеюсь, учитываете что речь про LLM, которые обитают в «пузырях», и которым едва ли какие-то научные эксперименты доступны?

Поэтому мы придумали профессии и специализации (строго говоря не только поэтому, ну да ладно, опустим), которые сообща и построили ракету с ИИ. 

Вот ключевое слово здесь - сообща, т.е. ошибки и сбои отдельной "модели" нивелируются через критику и споры - другими. Человек развил цивилизацию и продвинутое мышление только как группа, непрерывно проверяющая и усредняющая знания, и корректирующая себя. В одно лицо это было бы просто невозможно. Неприкословный авторитет вреден для любой такой системы. И сейчас один из способов радикально уменьшить галлюцинации LLM - это использование нескольких разных моделей с критическим подходом (ниже об этом написали). То есть решение проблемы в целом известное - это плюрализм.

Другое дело, что этот эксперимент не доказывает отсутствие/наличие сознания.

Этот эксперимент если что-то и доказывает, так это непонимание автора (или через парадокс - подталкивание всех к признанию) того, что свойства системы не сводятся к сумме свойств её компонентов (т.е. суть понятия эмерджентности).

Это как ссылаться на то, что в атомах полупроводников не заложена логика умножения и деления чисел с плавающей точкой по IEEE754, реализуемая в схемах микропроцессоров.

Прошло уже 45 лет, а некоторые люди все еще продолжают всерьёз этот софистский эксперимент обсуждать.

Заголовок новости кликбейтовый. Старое приложение устанавливается и работать с серверами ютуба будет неизвестно как долго. Просто больше не будут выходить обновления. А вот когда на ютубе поменяются протоколы что все старые приложения перестанут работать - это куда важнее.

Пользователи хотят разного. И единственный правильный способ - дать кастомизируемость всего.

Очень похоже на переизобретение POV-Ray. Помнится, в юности даже сценки разные в нём делал. Правда, там вообще никакой интерактивности не было. Концепт любопытный, но не очень наглядный. Для дизайнеров это скорее экзотика для побаловаться.

Версия обновлена автором @Ustin_LVOдо 3.10.1.

Так что для Windows7 с Питоном пока ещё можно крутиться.

Недавно обнаружил в просторах гитхаба проект порта python 3.9.6 на Windows 7: https://github.com/NulAsh/cpython

Форкнутая версия периодически обновляется. Может, кому-то будет полезно.

В readme позабавило: "Thanks to developers of wine, I used some of their code to emulate functions absent in Windows 7."

В упомянутой статье указано, что именно недоразвитость мозжечка приводит к аутизму? Или имеет место стандартная корелляция, и мис-интерпретация следствия как причины?
Люди с аутизмом не особо подвижны, часто стереотипичны в своем поведении (качания, фиксированные положения), а мозжечок, как орган автоматизации стереотипики, очевидно адаптируясь под такую ограниченную моторику, усыхает. А учитывая кейс про китаянку, родившуюся без мозжечка, и не страдавшую аутизмом, всё-таки есть смысл оставить мозжечок за скобками интеллекта. Хотя, вроде, были статьи, в которых указывалось, что мозжечок всё-таки служит неким хелпером и для высших функций интеллекта, типа развивает моторное воображение.
А когда волна приходит только по одной ветке, то она может «поджечь» примыкающий к развилке нетронутый участок другой ветки, и тогда сдвига потенциала хватит, чтобы перевалить через порог.
Ну вообще-то так и работают дендритные спайки, точнее обратное распространение спайков (тут об этом писалось). Нетривиальных взаимовлияющих механизмов, участвующих в процессе настройки нейронных структур (перенастройка синапсов, рост/миграция шипиков, изменение настройки внутренних многостадийных сигнальных путей) — дофига и больше. Какие-то отдельные элементы под микроскоп исследователей попадают, но толку от этого не больше, чем от разглядывания волоса на хвосте у слона с целью его (слона) описания. Общий контекст ускользает.
И к слову, я думаю этим AND и XOR придают излишнее значение. Никакую логическую функцию на случайном «логическом» дереве не построишь, разве только улучшенную хеш-функцию.
Ну, собственно, эти AND/OR/XOR в рамках нейросети — чисто условности, «логику» в цифровом или человеческом смысле они не обеспечивают. Весь этот репертуар нужен для аппроксимации+анализа (т.е. разложения по базисам) произвольного многомерного внешнего сигнала, для «умной» редукции с учётом насыщенности связями. Как-то так.
Глубокие нейросети примерно это же и делают, но с учётом примитивного репертуара их элементов и самой алгоритмики автоподстройки они далеки от сколько-нибудь оптимальных.
Вот устраивания затора двумя (и более) возбуждающими волнами вроде как и не было известно. Механизм ингибирования работает иначе, через «синапсы-прерыватели». Нет известного механизма, который бы в рамках одного нейрона создавал и возбуждение и торможение, интерферируя деполяризационные волны.
Конкретно про xor не видел. Читал разные статьи про дендритные вычисления, без какой-либо классификации. Тут речь про иную форму сигмоиды срабатывания: не / а /\, т.е., с «пересыщением», с угасанием сработки при переходе через определенную границу. В оригинале статьи в Science говорится о том, что речь про дендритные функции пирамидальных нейронов из слоя 2/3, которые уникальны для человека. Вот это заявление об уникальности для человека мне кажется слишком уж громким. Думается что и в мозгах других млекопитающих (по меньшей мере приматов) существует то же самое, может в меньшем количестве.

Читал также про большую концентрацию трёхсторонних синапсов в префронтальной коре (и особом режиме с важной доп.модуляцией). В общем, не очень хорошо исследованных элементов органа мышления, мягко говоря, дофига. И открытия тут ещё не один десяток лет будут делаться. Какие-то элементы открытий уже происходят, но уточнения могут быть существенными, и не менее значительными, чем первоначальное открытие. Так что может что-то подобное прежде где-то могло и быть.
Новость в том, что среди этих вычислений обнаружилась закономерность, схожая с «исключающим или», которая в норме в одним нейроне (и тем более дендритом) не производится. Раньше считалось, что для этого нужна сеть с тормозящим нейроном. Тут конечно присутствует элемент хайпа. Люди «в теме» такому открытию не удивляются.
Нет никаких «темных вычислений». Есть недостаточно точные инструменты, и недостаточно тщательный анализ, которые со временем становятся более тщательным и детальными.
По-моему это вообще очевидная вещь. Сколько именно сетей — сказать сложно, но точно то, что эти нейросети очень плотно переплетены (и не только в разрезе возбуждающих/тормозящих).

Дендритные вычисления — довольно давно известный факт. Тут главный вопрос в том, каков именно вычислительный репертуар одного нейрона: сейчас подтвердили что это не просто суммирование/AND, но и пересыщение/XOR. Я полагаю, что это всего лишь два примера, классифицируемых так из-за близости к логике. Не удивлюсь, если будут найдены куда более разнообразные нелинейные зависимости, и более тонкие вариации.

Диплёрнинг, боюсь, такой разнообразный репертуар с нелинейностями просто умрёт повторять в рамках своих алгоритмов и формул.
Подстроечные механики должны учитывать все эти нелинейности.
И по вашей логике, вы предлагаете сразу в случае добровольного осознанного принятия решения «уйти», считать человека в этот самый момент потерявшим интеллект?
Нет. По «моей» логике интеллект просто не сформируется, не обучится как надо из окружающей среды, если не будет иметь необходимый минимальный набор мотиваторов (инстинкт самосохранения — один из основных).
А если ИИ может в metalearning, то будет так: он дофига долго собирает данные и медленно наращивает скилл общения — медленнее, чем люди, намного медленнее. А потом доходит до человеческого уровня. И продолжает медленно наращивать этот скилл. Конкретные решения и мелкие уточнения не требуют много данных — много данных требует построение модели с нуля, но она строится один раз в жизни.
Окей, я возьму на себя смелость сократить лишние ответвления.
1. Речь про не гипотетический интеллект. Разводить океаны рассуждений по поводу искусственного — непродуктивно. Когда он дойдёт по возможности его обследовать на нашем уровне до уровня естественного — тогда можно будет брать его во внимание.
2. Речь идёт про ОПРЕДЕЛЕНИЕ интеллекта, т.е. границы его наличия/отсутствия. Соответственно, приводить в качестве примеров гипотетические цифровые эволюции, которые лишь в теории приводят к genuine интеллекту, т.е. долгие и нудные накопления big data в рамках существующей цивилизации, ещё и в куче итераций (т.е. втихаря примешивать эволюционные алгоритмы) — немного не вписывается в то что хотелось бы видеть под «базовым интеллектом». Это в лучшем случае _платформа_, которая в определенный момент развития и огромных вложений МОЖЕТ образовать какой-то щупаемый интеллект. А может и не образовать. До сих пор не образовывала. Увы. А было бы весело.
— в каком месте оно ошибается?
Это Вы мне скажите, почему это уравнение до сих пор не привело к созданию AGI, с которым можно общаться голосом и решать задачи тысячелетий. :)
Везде, где я видел, люди указывают, что проблема в машинном обучении — именно в обучении с учителем. Оно или недостаточно sample-efficient, или недостаточно точное, или недостаточно Тьюринг-полное, или недостаточно быстрое.
Да-да, недостаточно хорошие данные, недостаточно умные и расторопные учителя. Но уравнение тут не при делах.

А может быть это оно — неполное, не учитывающее реальность, раз создаёт столько отговорок?
ну, а интеллект крысы? Я вижу кучу кейсов, где интеллект на уровне крысы уже решал бы деловые задачи, и был бы умопомрачительно эффективен на фоне человеческого — потому что его легче «киборгизировать», чем человека. И его можно гонять с удесятерённой скоростью.
Интеллект крысы это интеллект крысы. Если Вам нужно решать конкретные прикладные задачи — интеллект Вам не нужен. Вам нужен универсальный вычислитель/подгонятель под имеющийся набор вопросов-ответов.
Кстати, как крысы (кошки, собаки) общаются с людьми, если у них theory of mind явно не адаптирован под человека?
Никак они с человеком не общаются. Человеку лишь кажется, что эти животные с ним общаются. Банальная склонность к антропоморфизму. Одно из неотъемлемых когнитивных предосуждений человека.
Я сейчас говорю о прогнозах, которые не идеально точны, а которые достаточно хороши, чтобы принимать решения, которые в среднем будут выигрышными.
Просто напомню — речь о человеческой способности справляться с «эффектом бабочки», которую Вы, почему-то, обозначили. Я лишь сказал, что человек с этим по факту _не справляется_. И существующие компьютерные мощности — тоже.
Да, это проблема агентов, обучающихся на опыте — они немножко солипсисты.
Но. Мы можем шарить таблицу опыта между несколькими ИИ-агентами.
Нет не можем. Вы же говорили про «разворачивающийся минимум», не имеющий инстинктов. Вот он пусть в единичном экземпляре, без инстинктов, и разворачивается в полноценный интеллект, не трогая другие инкарнации. Я при этом утверждал, что эти инстинкты как раз необходимы, т.к. они учитывают опыт иных инкарнаций. Ку? :)

Хотя если вы под «интеллектом» подразумевали всю цивилизацию, а не отдельного человека… Это уже другой разговор.
Выживали как могли, но 99.999999999% — не выжили.
— почему это должно быть проблемой?
Потому что речь про одноинтеративный минимальный интеллект.

Информация

В рейтинге
6 347-й
Откуда
Нижневартовск, Тюменская обл. и Ханты-Мансийский АО, Россия
Дата рождения
Зарегистрирован
Активность