balayur13 янв в 10:16

Мы не создаём мыслителей. Где ошибка?

Простой

6 мин

6.1K

Машинное обучение * Искусственный интеллектИсследования и прогнозы в IT *

Из песочницы

-1

Комментарии 18

bookker 13 янв в 11:36

Если бы мы всерьёз захотели проверить, может ли искусственная система стать мыслителем, эксперимент выглядел бы достаточно просто.

Проблема не в том, что кто-то боится. Проблема в том, что сформулированный вами эксперимент изначально обречен на известный результат: воспитание Тамагочи. Чтобы воспитывать "мыслителя", нужно для начала создать живую систему, обладающую самостью. А это "совсем не ерунда, особенно в таком деле", как говаривал один известный персонаж.

balayur 13 янв в 16:40

То есть нас всех, включая и лично Вас, воспитывали как Тамагочи? что то мне подсказывает, что это далеко не так.
Самость возникнет через пару лет, когда система станет личностью. Как и ребенок, который вначале агукает невпопад, а потом говорит свое первое "мама"

bookker 13 янв в 18:47

Ну что ж, можно только пожелать успехов. Начните моделирование с клетки. Там уже есть и самость и мышление и память в зачаточном состоянии. Это уже когнитивный агент, наблюдатель от первого лица, есть свой крошечный умвельт. Весь набор в наличии. Если не придираться, то чем не протоличность?)

Sadler 13 янв в 11:43

Не сделали потому, что есть ряд фундаментальных и технических проблем. Например, эффективная долговременная память -- это грааль современного ИИ: все пытаются реализовать достаточно обширную постоянную память, да так, чтобы модельку не переучивать заново, не сталкиваться с катастрофическим забыванием и контекст не терять. И у всех решения разной степени паршивости: и lora, и vector db, и графовые сети, чего только не выдумали, чтобы привнести "агентность". Вместо пространных размышлений можно было просто взять модельку, сделать обвязку с обучением LoRA/QLoRA в любой желаемой конфигурации, и проверить свой подход в действии.

Лайфхак: в качестве среды для дешевизны можете использовать не реальный мир, а, например, Minecraft. Запускаете на публичный сервер своё творение, и пусть оно там переживает свой совместный опыт хоть с миллионом других игроков и хоть десять лет. Всё это прекрасно инстанцируется, можно тысячу ботов параллельно запустить для сбора опыта. Тут тебе и зрение-слух, и потребности, и творчество, и кооперация. В качестве proof-of-concept более чем достаточно.

При либеральном воспитании мы не вырастим мыслителя

А при авторитарном вырастим? Напомню, авторитарное воспитание предполагает социальную иерархию, традиционализм, "слушайся, а не обсуждай", обучение часто сведено к заучиванию, и обильно сдобрено идеологическими догматами правящего класса.

Это разумно, если мы говорим об инструментах.

Говоря об AI, мы всегда говорим об инструменте. Нам не нужен ни бог из машины, ни цифровые крепостные. Задача в том, чтобы создавать полезные модели для человечества, а не получить повторение рабства.

balayur 13 янв в 16:36

Про долговременную память - не буду вдаваться в технические подробности, ибо не силён. Но, думаю, всякие раг-системы и прочее - есть варианты.
При авторитарном - вырастим. Либеральная система воспитания даст инструмент, но не воина. А инструмент - это калькулятор. Он не способен изобретать.

Sadler 13 янв в 16:39

не буду вдаваться в технические подробности, ибо не силён.

Всё, что нужно знать о статье

При авторитарном - вырастим

И об авторе.

balayur 13 янв в 16:55

Если я не силен в "технических подробностях" - это значит не способен размышлять, так по вашему? Ню-ню. Статья, если что, философская, эссе для размышления, а не тех.документация.
Про авторитарное воспитание - если есть желание, давайте порассуждаем. Если нет, и зашоренность не даёт вести дискуссию, то не стоит обвинять собеседника.

RavenStark вчера в 06:36

Какого еще "воина", это еще на кой? Терминаторов не хватает? Или что у вас под этим словом кроется?

При авторитарном воспитания выращиваются исполнители, рабы, солдаты, действительно. А вот мыслителям для их деятельности при нем обычно воздуха маловато. Время от времени буквально, за "ересь" или "антигосударственность".