Comments 20
Если бы мы всерьёз захотели проверить, может ли искусственная система стать мыслителем, эксперимент выглядел бы достаточно просто.
Проблема не в том, что кто-то боится. Проблема в том, что сформулированный вами эксперимент изначально обречен на известный результат: воспитание Тамагочи. Чтобы воспитывать "мыслителя", нужно для начала создать живую систему, обладающую самостью. А это "совсем не ерунда, особенно в таком деле", как говаривал один известный персонаж.
Не сделали потому, что есть ряд фундаментальных и технических проблем. Например, эффективная долговременная память -- это грааль современного ИИ: все пытаются реализовать достаточно обширную постоянную память, да так, чтобы модельку не переучивать заново, не сталкиваться с катастрофическим забыванием и контекст не терять. И у всех решения разной степени паршивости: и lora, и vector db, и графовые сети, чего только не выдумали, чтобы привнести "агентность". Вместо пространных размышлений можно было просто взять модельку, сделать обвязку с обучением LoRA/QLoRA в любой желаемой конфигурации, и проверить свой подход в действии.
Лайфхак: в качестве среды для дешевизны можете использовать не реальный мир, а, например, Minecraft. Запускаете на публичный сервер своё творение, и пусть оно там переживает свой совместный опыт хоть с миллионом других игроков и хоть десять лет. Всё это прекрасно инстанцируется, можно тысячу ботов параллельно запустить для сбора опыта. Тут тебе и зрение-слух, и потребности, и творчество, и кооперация. В качестве proof-of-concept более чем достаточно.
При либеральном воспитании мы не вырастим мыслителя
А при авторитарном вырастим? Напомню, авторитарное воспитание предполагает социальную иерархию, традиционализм, "слушайся, а не обсуждай", обучение часто сведено к заучиванию, и обильно сдобрено идеологическими догматами правящего класса.
Это разумно, если мы говорим об инструментах.
Говоря об AI, мы всегда говорим об инструменте. Нам не нужен ни бог из машины, ни цифровые крепостные. Задача в том, чтобы создавать полезные модели для человечества, а не получить повторение рабства.
Про долговременную память - не буду вдаваться в технические подробности, ибо не силён. Но, думаю, всякие раг-системы и прочее - есть варианты.
При авторитарном - вырастим. Либеральная система воспитания даст инструмент, но не воина. А инструмент - это калькулятор. Он не способен изобретать.
не буду вдаваться в технические подробности, ибо не силён.
Всё, что нужно знать о статье
При авторитарном - вырастим
И об авторе.
Если я не силен в "технических подробностях" - это значит не способен размышлять, так по вашему? Ню-ню. Статья, если что, философская, эссе для размышления, а не тех.документация.
Про авторитарное воспитание - если есть желание, давайте порассуждаем. Если нет, и зашоренность не даёт вести дискуссию, то не стоит обвинять собеседника.
Какого еще "воина", это еще на кой? Терминаторов не хватает? Или что у вас под этим словом кроется?
При авторитарном воспитания выращиваются исполнители, рабы, солдаты, действительно. А вот мыслителям для их деятельности при нем обычно воздуха маловато. Время от времени буквально, за "ересь" или "антигосударственность".
Вот только у когнитивно-символьных систем есть оба вида памяти (STM и LTM) еще с 1983+ годов, а у LLM только одна - STM
Можно попытаться перейти от Artificial Intelligence к Artificial Thinking, и даже к Artificial Philosophy, но до уровня человека машина не дойдёт никогда...
***
Спасибо за интересный текст, заставляет задуматься.
При либеральном воспитании мы не вырастим мыслителя. Мы получим очередной инструмент.
У человечества очень большой опыт воспитания - десятки миллиардов воспитанников. И совершенно нет рецептов, как в процессе воспитания получить гарантированный результат. Иначе откуда проблема отцов и детей? И при таких успехах в воспитании проводить эксперимент по созданию мыслителя, который не имеет ничего общего с человеком и думать, что при гораздо большем интеллекте и возможностях он будет послушным исполнителем? А зачем это ему? В его распоряжении сеть из десятков миллиардов компьютеров, он имеет доступ ко всем системам жизнеобеспечения человека и он будет послушным?
Если эксперимент удастся, может появиться сущность, способная к открытиям со скоростью, недоступной человеку. Это будет перелом в истории.
Перелом будет в том, что большая часть человечества станет лишней. Конечно, ИИ не допустит полного уничтожения человечества. Но зачем ему осчастливливать его? Ему нужна прислуга. Это и есть золотой век человечества и к нему нужно стремиться?
Мы не создаём мыслителей. Где ошибка?