Каждый раз запрашивать данные из базы - это будет на множество порядков медленнее, чем вытряхивать данные из нейросети (которая по сути представляет собой переструктурированную БД, с иным принципом поиска). Правильнее иметь механизм переобучения "эксперта" по базе знаний (по каждому разделу отдельно), к которому будет происходить обращение по необходимости. А переобучение это необходимо производить регулярно, при дополнении знаний (в т.ч. и утверждениями о ложности). А само пополнение базы знаний может быть как внешним, так и вследствие внутренних непротиворечивых заключений (т.е. как записывать все в некий "журнал текущих заметок", так и формировать собственные человеко-читабельные справочники).
В любом случае, это не "научные эксперименты", они напрямую-то недоступны.
Поэтому мы придумали профессии и специализации (строго говоря не только поэтому, ну да ладно, опустим), которые сообща и построили ракету с ИИ.
Вот ключевое слово здесь - сообща, т.е. ошибки и сбои отдельной "модели" нивелируются через критику и споры - другими. Человек развил цивилизацию и продвинутое мышление только как группа, непрерывно проверяющая и усредняющая знания, и корректирующая себя. В одно лицо это было бы просто невозможно. Неприкословный авторитет вреден для любой такой системы. И сейчас один из способов радикально уменьшить галлюцинации LLM - это использование нескольких разных моделей с критическим подходом (ниже об этом написали). То есть решение проблемы в целом известное - это плюрализм.
Другое дело, что этот эксперимент не доказывает отсутствие/наличие сознания.
Этот эксперимент если что-то и доказывает, так это непонимание автора (или через парадокс - подталкивание всех к признанию) того, что свойства системы не сводятся к сумме свойств её компонентов (т.е. суть понятия эмерджентности).
Это как ссылаться на то, что в атомах полупроводников не заложена логика умножения и деления чисел с плавающей точкой по IEEE754, реализуемая в схемах микропроцессоров.
Прошло уже 45 лет, а некоторые люди все еще продолжают всерьёз этот софистский эксперимент обсуждать.
Заголовок новости кликбейтовый. Старое приложение устанавливается и работать с серверами ютуба будет неизвестно как долго. Просто больше не будут выходить обновления. А вот когда на ютубе поменяются протоколы что все старые приложения перестанут работать - это куда важнее.
Очень похоже на переизобретение POV-Ray. Помнится, в юности даже сценки разные в нём делал. Правда, там вообще никакой интерактивности не было. Концепт любопытный, но не очень наглядный. Для дизайнеров это скорее экзотика для побаловаться.
В упомянутой статье указано, что именно недоразвитость мозжечка приводит к аутизму? Или имеет место стандартная корелляция, и мис-интерпретация следствия как причины?
Люди с аутизмом не особо подвижны, часто стереотипичны в своем поведении (качания, фиксированные положения), а мозжечок, как орган автоматизации стереотипики, очевидно адаптируясь под такую ограниченную моторику, усыхает. А учитывая кейс про китаянку, родившуюся без мозжечка, и не страдавшую аутизмом, всё-таки есть смысл оставить мозжечок за скобками интеллекта. Хотя, вроде, были статьи, в которых указывалось, что мозжечок всё-таки служит неким хелпером и для высших функций интеллекта, типа развивает моторное воображение.
А когда волна приходит только по одной ветке, то она может «поджечь» примыкающий к развилке нетронутый участок другой ветки, и тогда сдвига потенциала хватит, чтобы перевалить через порог.
Ну вообще-то так и работают дендритные спайки, точнее обратное распространение спайков (тут об этом писалось). Нетривиальных взаимовлияющих механизмов, участвующих в процессе настройки нейронных структур (перенастройка синапсов, рост/миграция шипиков, изменение настройки внутренних многостадийных сигнальных путей) — дофига и больше. Какие-то отдельные элементы под микроскоп исследователей попадают, но толку от этого не больше, чем от разглядывания волоса на хвосте у слона с целью его (слона) описания. Общий контекст ускользает.
И к слову, я думаю этим AND и XOR придают излишнее значение. Никакую логическую функцию на случайном «логическом» дереве не построишь, разве только улучшенную хеш-функцию.
Ну, собственно, эти AND/OR/XOR в рамках нейросети — чисто условности, «логику» в цифровом или человеческом смысле они не обеспечивают. Весь этот репертуар нужен для аппроксимации+анализа (т.е. разложения по базисам) произвольного многомерного внешнего сигнала, для «умной» редукции с учётом насыщенности связями. Как-то так.
Глубокие нейросети примерно это же и делают, но с учётом примитивного репертуара их элементов и самой алгоритмики автоподстройки они далеки от сколько-нибудь оптимальных.
Вот устраивания затора двумя (и более) возбуждающими волнами вроде как и не было известно. Механизм ингибирования работает иначе, через «синапсы-прерыватели». Нет известного механизма, который бы в рамках одного нейрона создавал и возбуждение и торможение, интерферируя деполяризационные волны.
Конкретно про xor не видел. Читал разные статьи про дендритные вычисления, без какой-либо классификации. Тут речь про иную форму сигмоиды срабатывания: не / а /\, т.е., с «пересыщением», с угасанием сработки при переходе через определенную границу. В оригинале статьи в Science говорится о том, что речь про дендритные функции пирамидальных нейронов из слоя 2/3, которые уникальны для человека. Вот это заявление об уникальности для человека мне кажется слишком уж громким. Думается что и в мозгах других млекопитающих (по меньшей мере приматов) существует то же самое, может в меньшем количестве.
Читал также про большую концентрацию трёхсторонних синапсов в префронтальной коре (и особом режиме с важной доп.модуляцией). В общем, не очень хорошо исследованных элементов органа мышления, мягко говоря, дофига. И открытия тут ещё не один десяток лет будут делаться. Какие-то элементы открытий уже происходят, но уточнения могут быть существенными, и не менее значительными, чем первоначальное открытие. Так что может что-то подобное прежде где-то могло и быть.
Новость в том, что среди этих вычислений обнаружилась закономерность, схожая с «исключающим или», которая в норме в одним нейроне (и тем более дендритом) не производится. Раньше считалось, что для этого нужна сеть с тормозящим нейроном. Тут конечно присутствует элемент хайпа. Люди «в теме» такому открытию не удивляются.
Нет никаких «темных вычислений». Есть недостаточно точные инструменты, и недостаточно тщательный анализ, которые со временем становятся более тщательным и детальными.
По-моему это вообще очевидная вещь. Сколько именно сетей — сказать сложно, но точно то, что эти нейросети очень плотно переплетены (и не только в разрезе возбуждающих/тормозящих).
Дендритные вычисления — довольно давно известный факт. Тут главный вопрос в том, каков именно вычислительный репертуар одного нейрона: сейчас подтвердили что это не просто суммирование/AND, но и пересыщение/XOR. Я полагаю, что это всего лишь два примера, классифицируемых так из-за близости к логике. Не удивлюсь, если будут найдены куда более разнообразные нелинейные зависимости, и более тонкие вариации.
Диплёрнинг, боюсь, такой разнообразный репертуар с нелинейностями просто умрёт повторять в рамках своих алгоритмов и формул.
Подстроечные механики должны учитывать все эти нелинейности.
И по вашей логике, вы предлагаете сразу в случае добровольного осознанного принятия решения «уйти», считать человека в этот самый момент потерявшим интеллект?
Нет. По «моей» логике интеллект просто не сформируется, не обучится как надо из окружающей среды, если не будет иметь необходимый минимальный набор мотиваторов (инстинкт самосохранения — один из основных).
А если ИИ может в metalearning, то будет так: он дофига долго собирает данные и медленно наращивает скилл общения — медленнее, чем люди, намного медленнее. А потом доходит до человеческого уровня. И продолжает медленно наращивать этот скилл. Конкретные решения и мелкие уточнения не требуют много данных — много данных требует построение модели с нуля, но она строится один раз в жизни.
Окей, я возьму на себя смелость сократить лишние ответвления.
1. Речь про не гипотетический интеллект. Разводить океаны рассуждений по поводу искусственного — непродуктивно. Когда он дойдёт по возможности его обследовать на нашем уровне до уровня естественного — тогда можно будет брать его во внимание.
2. Речь идёт про ОПРЕДЕЛЕНИЕ интеллекта, т.е. границы его наличия/отсутствия. Соответственно, приводить в качестве примеров гипотетические цифровые эволюции, которые лишь в теории приводят к genuine интеллекту, т.е. долгие и нудные накопления big data в рамках существующей цивилизации, ещё и в куче итераций (т.е. втихаря примешивать эволюционные алгоритмы) — немного не вписывается в то что хотелось бы видеть под «базовым интеллектом». Это в лучшем случае _платформа_, которая в определенный момент развития и огромных вложений МОЖЕТ образовать какой-то щупаемый интеллект. А может и не образовать. До сих пор не образовывала. Увы. А было бы весело.
— в каком месте оно ошибается?
Это Вы мне скажите, почему это уравнение до сих пор не привело к созданию AGI, с которым можно общаться голосом и решать задачи тысячелетий. :)
Везде, где я видел, люди указывают, что проблема в машинном обучении — именно в обучении с учителем. Оно или недостаточно sample-efficient, или недостаточно точное, или недостаточно Тьюринг-полное, или недостаточно быстрое.
Да-да, недостаточно хорошие данные, недостаточно умные и расторопные учителя. Но уравнение тут не при делах.
А может быть это оно — неполное, не учитывающее реальность, раз создаёт столько отговорок?
ну, а интеллект крысы? Я вижу кучу кейсов, где интеллект на уровне крысы уже решал бы деловые задачи, и был бы умопомрачительно эффективен на фоне человеческого — потому что его легче «киборгизировать», чем человека. И его можно гонять с удесятерённой скоростью.
Интеллект крысы это интеллект крысы. Если Вам нужно решать конкретные прикладные задачи — интеллект Вам не нужен. Вам нужен универсальный вычислитель/подгонятель под имеющийся набор вопросов-ответов.
Кстати, как крысы (кошки, собаки) общаются с людьми, если у них theory of mind явно не адаптирован под человека?
Никак они с человеком не общаются. Человеку лишь кажется, что эти животные с ним общаются. Банальная склонность к антропоморфизму. Одно из неотъемлемых когнитивных предосуждений человека.
Я сейчас говорю о прогнозах, которые не идеально точны, а которые достаточно хороши, чтобы принимать решения, которые в среднем будут выигрышными.
Просто напомню — речь о человеческой способности справляться с «эффектом бабочки», которую Вы, почему-то, обозначили. Я лишь сказал, что человек с этим по факту _не справляется_. И существующие компьютерные мощности — тоже.
Да, это проблема агентов, обучающихся на опыте — они немножко солипсисты.
Но. Мы можем шарить таблицу опыта между несколькими ИИ-агентами.
Нет не можем. Вы же говорили про «разворачивающийся минимум», не имеющий инстинктов. Вот он пусть в единичном экземпляре, без инстинктов, и разворачивается в полноценный интеллект, не трогая другие инкарнации. Я при этом утверждал, что эти инстинкты как раз необходимы, т.к. они учитывают опыт иных инкарнаций. Ку? :)
Хотя если вы под «интеллектом» подразумевали всю цивилизацию, а не отдельного человека… Это уже другой разговор.
Выживали как могли, но 99.999999999% — не выжили.
— почему это должно быть проблемой?
Потому что речь про одноинтеративный минимальный интеллект.
Вообще, тезис про корреляцию интеллекта с выживанием — это крайне странное утверждение. Абсолютное число видов (и их представителей) на планете интеллектом не обладает вовсе, либо лишь зачатками, что не мешает им выживать и эволюционировать.
Полагаю, что стремление к выживаю — необходимое, но недостаточное условие. Без стремления к выживанию Интеллект таковым не будет. Но может присутствовать и до того как поведенческое разнообразие преодолеет количественно-качественную границу.
Объекты, которые не могут подтвердить, что они формулируют цели, должны рассматриваться как клеточные автоматы.
Множество интеллектуальных существ (людей) цели не формулируют. Живут импульсивно и «сейчас». В частности, дети до подросткового возраста. Сказать, что они не имеют интеллекта, или нарекание их клеточными автоматами — будет очень громким заявлением. Интеллект это все-таки шире, чем составление планов и всякие рассуждения.
Интеллект — это НАДвыживание, способность изменять среду для облегчения выживания — это лишь базис интеллекта, именно НЕ СВЯЗАННЫЕ С ВЫЖИВАНИЕМ изменения среды могут являться признаками интеллекта.
Возможно, это описан не просто интеллект, а «скучающий» интеллект? Многие животные каким-никаким интеллектом обладают, но творческим изменением среды от скуки вроде не занимаются.
Каждый раз запрашивать данные из базы - это будет на множество порядков медленнее, чем вытряхивать данные из нейросети (которая по сути представляет собой переструктурированную БД, с иным принципом поиска).
Правильнее иметь механизм переобучения "эксперта" по базе знаний (по каждому разделу отдельно), к которому будет происходить обращение по необходимости. А переобучение это необходимо производить регулярно, при дополнении знаний (в т.ч. и утверждениями о ложности). А само пополнение базы знаний может быть как внешним, так и вследствие внутренних непротиворечивых заключений (т.е. как записывать все в некий "журнал текущих заметок", так и формировать собственные человеко-читабельные справочники).
В любом случае, это не "научные эксперименты", они напрямую-то недоступны.
Вы, надеюсь, учитываете что речь про LLM, которые обитают в «пузырях», и которым едва ли какие-то научные эксперименты доступны?
Вот ключевое слово здесь - сообща, т.е. ошибки и сбои отдельной "модели" нивелируются через критику и споры - другими. Человек развил цивилизацию и продвинутое мышление только как группа, непрерывно проверяющая и усредняющая знания, и корректирующая себя. В одно лицо это было бы просто невозможно. Неприкословный авторитет вреден для любой такой системы. И сейчас один из способов радикально уменьшить галлюцинации LLM - это использование нескольких разных моделей с критическим подходом (ниже об этом написали). То есть решение проблемы в целом известное - это плюрализм.
Этот эксперимент если что-то и доказывает, так это непонимание автора (или через парадокс - подталкивание всех к признанию) того, что свойства системы не сводятся к сумме свойств её компонентов (т.е. суть понятия эмерджентности).
Это как ссылаться на то, что в атомах полупроводников не заложена логика умножения и деления чисел с плавающей точкой по IEEE754, реализуемая в схемах микропроцессоров.
Прошло уже 45 лет, а некоторые люди все еще продолжают всерьёз этот софистский эксперимент обсуждать.
Заголовок новости кликбейтовый. Старое приложение устанавливается и работать с серверами ютуба будет неизвестно как долго. Просто больше не будут выходить обновления. А вот когда на ютубе поменяются протоколы что все старые приложения перестанут работать - это куда важнее.
Пользователи хотят разного. И единственный правильный способ - дать кастомизируемость всего.
Очень похоже на переизобретение POV-Ray. Помнится, в юности даже сценки разные в нём делал. Правда, там вообще никакой интерактивности не было. Концепт любопытный, но не очень наглядный. Для дизайнеров это скорее экзотика для побаловаться.
Версия обновлена автором @Ustin_LVOдо 3.10.1.
Так что для Windows7 с Питоном пока ещё можно крутиться.
Недавно обнаружил в просторах гитхаба проект порта python 3.9.6 на Windows 7: https://github.com/NulAsh/cpython
Форкнутая версия периодически обновляется. Может, кому-то будет полезно.
В readme позабавило: "Thanks to developers of wine, I used some of their code to emulate functions absent in Windows 7."
Люди с аутизмом не особо подвижны, часто стереотипичны в своем поведении (качания, фиксированные положения), а мозжечок, как орган автоматизации стереотипики, очевидно адаптируясь под такую ограниченную моторику, усыхает. А учитывая кейс про китаянку, родившуюся без мозжечка, и не страдавшую аутизмом, всё-таки есть смысл оставить мозжечок за скобками интеллекта. Хотя, вроде, были статьи, в которых указывалось, что мозжечок всё-таки служит неким хелпером и для высших функций интеллекта, типа развивает моторное воображение.
Ну, собственно, эти AND/OR/XOR в рамках нейросети — чисто условности, «логику» в цифровом или человеческом смысле они не обеспечивают. Весь этот репертуар нужен для аппроксимации+анализа (т.е. разложения по базисам) произвольного многомерного внешнего сигнала, для «умной» редукции с учётом насыщенности связями. Как-то так.
Глубокие нейросети примерно это же и делают, но с учётом примитивного репертуара их элементов и самой алгоритмики автоподстройки они далеки от сколько-нибудь оптимальных.
Читал также про большую концентрацию трёхсторонних синапсов в префронтальной коре (и особом режиме с важной доп.модуляцией). В общем, не очень хорошо исследованных элементов органа мышления, мягко говоря, дофига. И открытия тут ещё не один десяток лет будут делаться. Какие-то элементы открытий уже происходят, но уточнения могут быть существенными, и не менее значительными, чем первоначальное открытие. Так что может что-то подобное прежде где-то могло и быть.
Дендритные вычисления — довольно давно известный факт. Тут главный вопрос в том, каков именно вычислительный репертуар одного нейрона: сейчас подтвердили что это не просто суммирование/AND, но и пересыщение/XOR. Я полагаю, что это всего лишь два примера, классифицируемых так из-за близости к логике. Не удивлюсь, если будут найдены куда более разнообразные нелинейные зависимости, и более тонкие вариации.
Диплёрнинг, боюсь, такой разнообразный репертуар с нелинейностями просто умрёт повторять в рамках своих алгоритмов и формул.
Подстроечные механики должны учитывать все эти нелинейности.
1. Речь про не гипотетический интеллект. Разводить океаны рассуждений по поводу искусственного — непродуктивно. Когда он дойдёт по возможности его обследовать на нашем уровне до уровня естественного — тогда можно будет брать его во внимание.
2. Речь идёт про ОПРЕДЕЛЕНИЕ интеллекта, т.е. границы его наличия/отсутствия. Соответственно, приводить в качестве примеров гипотетические цифровые эволюции, которые лишь в теории приводят к genuine интеллекту, т.е. долгие и нудные накопления big data в рамках существующей цивилизации, ещё и в куче итераций (т.е. втихаря примешивать эволюционные алгоритмы) — немного не вписывается в то что хотелось бы видеть под «базовым интеллектом». Это в лучшем случае _платформа_, которая в определенный момент развития и огромных вложений МОЖЕТ образовать какой-то щупаемый интеллект. А может и не образовать. До сих пор не образовывала. Увы. А было бы весело.
Это Вы мне скажите, почему это уравнение до сих пор не привело к созданию AGI, с которым можно общаться голосом и решать задачи тысячелетий. :)
Да-да, недостаточно хорошие данные, недостаточно умные и расторопные учителя. Но уравнение тут не при делах.
А может быть это оно — неполное, не учитывающее реальность, раз создаёт столько отговорок?
Интеллект крысы это интеллект крысы. Если Вам нужно решать конкретные прикладные задачи — интеллект Вам не нужен. Вам нужен универсальный вычислитель/подгонятель под имеющийся набор вопросов-ответов.
Никак они с человеком не общаются. Человеку лишь кажется, что эти животные с ним общаются. Банальная склонность к антропоморфизму. Одно из неотъемлемых когнитивных предосуждений человека.
Просто напомню — речь о человеческой способности справляться с «эффектом бабочки», которую Вы, почему-то, обозначили. Я лишь сказал, что человек с этим по факту _не справляется_. И существующие компьютерные мощности — тоже.
Нет не можем. Вы же говорили про «разворачивающийся минимум», не имеющий инстинктов. Вот он пусть в единичном экземпляре, без инстинктов, и разворачивается в полноценный интеллект, не трогая другие инкарнации. Я при этом утверждал, что эти инстинкты как раз необходимы, т.к. они учитывают опыт иных инкарнаций. Ку? :)
Хотя если вы под «интеллектом» подразумевали всю цивилизацию, а не отдельного человека… Это уже другой разговор.
Потому что речь про одноинтеративный минимальный интеллект.
Множество интеллектуальных существ (людей) цели не формулируют. Живут импульсивно и «сейчас». В частности, дети до подросткового возраста. Сказать, что они не имеют интеллекта, или нарекание их клеточными автоматами — будет очень громким заявлением. Интеллект это все-таки шире, чем составление планов и всякие рассуждения.
Возможно, это описан не просто интеллект, а «скучающий» интеллект? Многие животные каким-никаким интеллектом обладают, но творческим изменением среды от скуки вроде не занимаются.