VIVI: попытка вырастить когнитивный интеллект, а не обучить его

[azTotMD]

Логи - это, конечно, хорошо. Но хотя бы в двух словах, как оно работает? High Dimensional Computing?

[Merehim]

В двух словах:

VIVI работает как самоорганизующаяся ассоциативная память с градуированным доверием.

Знания хранятся как связи между понятиями. У каждой связи есть сила и статус (уверенный факт / слабо / конфликт / гипотеза / отвергнуто). Когда приходит новый опыт, система:

• активирует связанные понятия,

• сравнивает с похожими объектами (по общим признакам),

• ослабляет или усиливает связи,

• выводит обобщения и производные утверждения,

• замечает пробелы и формулирует вопросы.

Логика решений живёт внутри самой структуры памяти, а не в заранее прописанных правилах в коде. Сам код показывать не буду, Так же база данных построена на RUST сейчас имеет 3 слоя, планируется расширения до 12 слоев + попробую сделать что бы VIVI сама в случае необходимости могла создать или удалить слои

[Ka463]

VIVI работает как самоорганизующаяся ассоциативная память с градуированным доверием.

Современные нейросети помимо того что это статистические машины, это еще и крайне эффективные механизмы сжатия с потерями, почему то не кто над этим не задумывается когда придумывает очередной свой проект, ваш проект не взлетит, просто из за ограничения производительности и объема данных, требуемых что бы хотя бы сравниться с текущими нейросетями, тупо можете посчитать на пальцах - это тупиковая идея.

[Merehim]

Я и не говорю что я делаю систему которая превзойдет нейросети, я больше проверяю, можно ли получить когнитивное поведение без готовой большой статистической машины в качестве мозг, а на это нужны совсем другие объёмы данных и другая архитектура

[Moog_Prodigy]

У вас получается классическая экспертная система. Они существуют довольно давно, и местами применяются.

Но до уровня GPT-2 даже им как раком до китая. Именно в силу своей архитектуры.

[Merehim]

Да нет наверно, экспертная система — это больше написанная база правил, «если А и Б, то В». Я же не пиши правила в коде.

[Elpi]

1. Легковесно. Не нра.

2. Вы, как большинство других креаклов начинаете с попытки охаивать то, что было до вас. Это, мягко говоря, не дальновидно и где-то даже примитивно.

3. Интеллект не может существовать без базы. Аксиомы и постулаты логики. То, что в человека закладывают при обучении. Инфа, внесенная в пустоту, так в ней и сгинет. И в этом смысле современные LLM лично мне напоминают учеников начальных классов. В них закладывают. Надо набраться терпения.

4. Вы не справитесь с этой задачей.

[DerTosser]

В защиту автора статьи:

1. Москва не сразу строилась. Все с чего-то начинают, нельзя начать сразу со всего.

2. Охаивание и указание на очевидные недостатки - разные вещи, не так ли?

3. А что такое интеллект? У вас есть точное определение? А база откуда возьмётся, особенно если её изначально не было у людей, например в каменном веке? ЛЛМ это мёртвые веса, после обучения они не могут быть изменены (не принимаем возможность дообучения как полноценное и постоянное обучение на время всего жизненного цикла), не имеют собственной памяти и прочее прочее...

4. Вы наверняка это знаете?

[avshkol]

Не понятно из статьи, как это работает, но в этом случае:

Вы: собака это животное Поняла: СОБАКА — это животное Вы: собака это растение Запомнила, но есть конфликт: СОБАКА уже связывали с животное; теперь ещё с растение. Оба знания в памяти.

откуда возникает конфликт? А если растение - это синоним или разновидность животного?

А как она себя поведет в случае:

Вы: собака это животное

Вы: собака это питомец

Вы: собака это существо

[Merehim]

Конфликт возникает не из «магии», а из набора правил:

Коротко можно сказать так, когда у одного понятия уже есть связь вида «X», а потом приходит «Y», и X ≠ Y, система фиксирует конкурирующие утверждения одного типа. Оба остаются в памяти, но получают статус конфликта / пониженную силу.

собака это животное
собака это питомец
собака это существо

На данном этапе будет конфликт, но будет держать несколько параллельных связей, позже если ее дообучать "Животные могут быть домашними/дикими" потом "Домашние животное это питомец" то этот конфликт исчезнет, позже проверю.

[saege5b]

Стол: горизонтальная поверхность на опорах, на нём едят.

Табуретка: малая горизонтальная поверхность, на опорах, на ней сидят.

Вопрос: к чему относится чурбак?

Напоминает БазуЗнанийВсего, где в этом же духе развлекались (Вики поначалу шла в этом направлении). Там на втором-третьем слое детализации вещей, действий или абстрактных вещах начались затыки: слишком ветвистые становились объяснения (стол-табурет-стул; лежать-сидеть-стоять-идти-бежать).

[Merehim]

возможно