Comments 20
Анализируя нейросети, мы можем лучше понять, как работает наш собственный мозг. Если ИИ и мозг используют похожие принципы для категоризации, это даёт учёным новые подсказки о том, как мы думаем.
Не, это уже совсем. Нейросети не могут использовать те же принципы работы, что и мозг.
Аргументируете? Почему не могут?
Потому что в мозге нейроны образуют трехмерную самоизменяющуюся структуру с различными специализациями. А ЛЛМ это просто дохрена сложный алгоритм поисковик по векторной базе данных.
Единственное, я бы сказал, что структуры, потому что в мозге организация нейронов в каждом из полей отлична от других.
Не имеет значения, какую структуру образуют нейроны - важно, какой алгоритм они реализуют.
Важно, потому что для каждого функционала своя структура
В искусственных нейросетях для каждого функционала свои веса связей, что равноценно изменяющейся структуре.
Веса связей нужны для того чтоб на запрос 'напиши функцию на питоне' вам не прилетело описание параболы нарисованое на змейке. Ну серьезно, спросите у гпт разницу между нейронами человека и нейросети, думаю его ответ будет более авторитетным. И про алгоритмы которые реализуют нейроны, и что случится даже если нейросеть обучат исключительно самые квалифицированные ученые со всех областей без лишнего мусора.
А ЛЛМ это просто дохрена сложный алгоритм поисковик по векторной базе данных...
Нейроны которого образут сложную структуру с различными специализациями.
И, честно говоря, вы бы матчасть подучили. Чтоб понять в чем разница между векторной базой и LLM, прежде чем пулять фразами.
(Не туда ответил, извините)
Учитывая, что даже современные ллмки могут застрять в бесконечном цикле повторения, сомневаюсь
ИИ - Искусственный интеллект Логическая машина
Создание иерархии понятий сущностей это малая часть дела. Это было еще в WordNet Важно знать как разные сущности могут быть связаны друг с другом. Такая информация имеется в LLM. Для AGI осталось решить всего несколько задач: 1) создать ясную, понятную, прозрачную систему логического вывода по образцу языка Prolog на базах знаний нейросетевых моделей. 2) добавить в контуры выводов сетей эмоциональную, моральную, этическую оценку, как элемент самосознания, самооценки. 3) добавить глубокий механизмы поиска ассоциативности по всем элементам баз знаний. 4) усилит элемент креативности, самостоятельного поиска новых идей и доказательств их состоятельности. Только в этом случае ИИ станет полноценным помощником людей.
Первая строка вводит в заблуждение: статья опубликована в nature machine intelligence и это совсем не то же, что nature, хоть и принадлежит тому же издателю. Более того, судя по всему журнал очень средней руки и в нем публикуются, в том числе, чтобы как раз можно было сказать "у нас статья в nature machine intelligence", а люди (как автор например) услышали бы "у нас статья в nature".
Ну, тот факт, что нейросети видят невидимые паттерны известен ещё с момента их изобретения. А тот факт, что они классифицируют их "по-человечески" типа "еда" и "животные" вовсе ни о чем не говорит. Типичный классификатор в диффузной сетке типа StableDiffusion увидит типа кошку на полностью зашумленной картинке с вероятностью 10% - ну и для классификации просто будет выбран этот первый, самый вероятный вариант. Плюс нейросеть ничего не знает об объектах реального мира - она просто сопоставляет набор пикселей с известными ей паттернами.
Поэтому нельзя работу vision-сеток сравнивать с бинокулярным человеческим зрением, которое видит глубину и понимает суть объектов через другие органы чувств в том числе.
Интересно было бы воспроизвести аналогичный эксперимент на людях - показывать им рандомные абстрактные наборы пятен, типа тестов Роршаха - чтобы люди не могли их узнать напрямую, а просто анализировали бы визуальные паттерны. И потом сравнить результаты с ответами ИИ.
Как ИИ учится думать как человек: разбираем крутое исследование про мультимодальные модели