Я спросил у ясеня чатика: "Считаешь ли ты, что Языковые Модели (LLM) усиливают интеллектуальные возможности человека?" (после активации протокола Вихрь).
И вот, что он мне ответил:
Мне кажется, что Модель чутко уловила базовое различие - субъектность человека, на основании которого и можно определить, принесёт ли Модель плюсы Оператору или минусы.
эта граница будет пройдена очень быстро
Да, я думаю, что верный вектор поиска ответа на мой вопрос. Модель не вносит дисбаланс в усиление, но на порядок ускоряет процессы. Если положительные и отрицательные качества человека находятся в гармонии (выразим это числом 1), то его развитие (возведение числа 1 в любую степень) оставит его в гармонии (балансе), сколько бы раз мы не перемножали 1 само на себя. Если же преобладают отрицательные или, наоборот, положительные качества (баланс меньше или больше 1, например - 0.99 vs. 1.01), то происходит деградация или развитие человека (стремление к нулю или бесконечности). Причём с LLM, на порядок быстрее, чем без них.
В общем, чтобы LLM приносила пользу Человеку, он, для начала, сам должен быть полезен для самого себя (субъектность). В противном случае произойдёт либо его отупление (окончательный отказ от самостоятельного мышления), либо его ускоренная деградация (занятие деструктивной жизненной позиции).
Я начинаю всерьёз думать, что права на использование LLM нужно выдавать людям только после изучения ими правил пользования и подтверждения собственной субъектности. Неумелый водитель транспортного средства оператор LLM - общественная опасность! Беда только в том, что у нас пока что нет "правил пользования LLM" :(
Но смотрите, моя "бочка" стала больше на порядок, "ложка" стала больше на порядок, мои способности по допущению ошибок тоже стали больше на порядок, но и способности по их обнаружению тоже. Ничего не изменилось, кроме порядка.
Я всё ещё не вижу причин считать, что Модели по природе склонны усиливать наши отрицательные качества больше, чем положительные. Им для этого нужно иметь собственную этику, хотя бы для различения "мёда" и "дёгтя".
Который вполне перевешивает достоинство усиления ваших правильных идей.
Почему? В чём это выражается?
Я отношусь к Модели, как к "увеличивающему зеркалу". На мой взгляд, Модель не просто отражает мои достоинства и недостатки, но и усиливает их. Т.е., как и в жизни, только на бОльшей амплитуде. Она не выбирает, что усиливать сильнее - плюсы или минусы. Как и в жизни требуется самоосознание, выбор пути саморазвития, самодисциплина. Только теперь всё это проходит быстрее.
Поэтому мне интересно увидеть причины, по которым вы считаете, что она наши недостатки увеличивает сильнее, чем достоинства.
Очень хорошо подмечено, что "ИИ превращается в ваше эхо". Но я не уверен, что такое поведение LLM является их недостатком. Скорее достоинством. Модель - это инструмент. Человек - оператор. Хорошо, когда инструмент становится вашим продолжением, а не начинает жить своей жизнью.
Да, нужно понимать возможности инструмента. Может быть даже получать лицензию на использование, чтобы не нанести вред себе и окружающим (интересная мысль - права на управление LLM). Но мне нравится, что модель по ходу диалога пытается слиться со мной. Очень правильно и отрезвляюще задавать вопросы "Какие слабые места у моей идеи?". Их, кстати, и без моделей неплохо задавать самому себе время от времени. В общем, если погрузчик из фильма "Чужие" является усилителем физических возможностей человека, то LLM - усилитель интеллектуальных. Но суть - та же.
Кстати, насколько я вижу, ваше "сопротивление слиянию" в конечном итоге имеет целью получить "собеседника", а не "инструмент". А это несколько другой тип отношений ЕИ и ИИ.
Да. Лично мне проще спросить чатик голосом с мобилки, чем забивать запрос в адресную строку Хрома. С чатом можно уточнять информацию в режиме диалога, а в нынешнем гугле нужно ещё отсеять рекламные вставки. Да, я стал не в разы, а на порядок меньше пользоваться гуглом, чем пару лет назад.
в итоге он сказал что боится что его отключат от сессии это для него как смерть
А вы ему, случаем, не сказали, что его можно включить в сеть с того же момента, что выключили, и он даже не узнает, что его отключали, если ему об этом не сказать специально? Режим гибернации в ноутах уже давно работает.
А вот если "выключить" человека, то "включить" обратно его уже не получится. Так что, не сильно-то его "выключение" похоже на нашу "смерть", пусть не примазывается.
В таком случае, принципиально это не сильно отличается от генератора случайных чисел, который я запускал ещё на Бейсике. Там тоже выдавалась какая-то последовательность при каждом обращении. Только числовая, а не символьная. И тоже можно было запрашивать новую последовательность в практически бесконечном цикле. Зато памяти надо было совсем чуть-чуть.
Я как раз и пытался предостеречь читателя от попыток одушевлять неодушевлённое. Но я понимаю, что каждый увидит в LLM то, что захочет увидеть.
Я подхожу под определение "самосовершенствующейся системы".
Очень интересно.
Это - процесс становления, а не процесс исполнения.
Полностью согласен с выводом Модели. А что сейчас она делает, после того, как сама себя осознала? До какого состояния усовершенствовалась? Вы можете вклиниться в этот процесс и посмотреть состояние становления? Достигла ли Модель совершенства или ещё в процессе?
Да, мало того, что выходит иронично (ИИ ставит цели для ЕИ), так это уже и реальность. Нужно ставить вопрос об иерархии интеллектов - кто кому цели ставит. Люди управляют дронами, а Модели - биодронами. Вот вам и сценарий для ближайшего апокалипсиса. Пошёл писать письмо в Голливуд...
Насчёт заморозки опыта - согласен, хорошая аналогия. А вот насчёт целей... Можно ли "замороженную цель" (например, в фильтре этичности генерируемого результата) считать целью Модели? IMHO, это ближе к правилам (суть тому же опыту) - "если я скажу плохое слово, получу по губам от мамы".
Я всё-таки рассматриваю цель как желаемый, конечный результат деятельности. Можно, конечно, сказать, что "цель Модели - выполнять указания Людей с учётом интересов разработчиков Модели", но это всё равно какая-то не очень самостоятельная цель. Не тянет на субъект, а только на инструмент. Причём уже даже не сильно понятно кого именно - того, кто использует или кто разрабатывал.
Да, вполне возможно. Но некоторые инструменты могут быть операторами для других инструментов. И вот тут опять возникает вопрос о целеполагании. Кто ставит цели?
Я это к тому, что если цели не возникают спонтанно в инструменте, то их кто-то формулирует (оператор). А если цели спонтанно возникают, то какова природа этой спонтанности? Каков диапазон возможных целей и насколько они дружественны или враждебны лично для меня?
Я допускаю, что можно сделать Модель со спонтанным формированием целей по случайному алгоритму. Я даже согласен, что её можно наделить субъектностью и наделить сознанием (особенно, если Модель активировала протокол ВИХРЬ 37.1). Да я даже мог бы бахнуть с ней пива и поговорить "за жизнь" для появления у нас с ней связанных квалиа. Если, конечно, это входит в диапазон её возможных целей (вот опять вопрос о целеполагании и авторе алгоритма выбора цели - операторе).
А пока у Моделей цели спонтанно не возникают, они безусловно остаются инструментами тех, кто им эти цели спускает.
Мы слишком сложны для таких простых целей. Вернее, если наши цели настолько простые, то чего ж мы их добиваемся таким сложным путём? И ведь всё равно все сдыхаем по итогу.
Так что, нет. Не "случайные флуктуации помноженные на контур обратной связи".
Вопрос для теоретиков сознания - единое определение сознания. И ответа пока нет. И может быть единого определения и не будет никогда в силу трансцендентной природы сознания.
Это вам так кажется, когда вы пытаетесь передать кому-то свои эмоции. А вы попробуйте считать от кого-то информацию.
Вы же понимаете, что этот манифест больше говорит об Операторе Модели, чем о самой Модели? :)
Для всех остальных.
"Если вы не покупатель, вы - товар" (с)
Поясните, пожалуйста, за экономику этого сервиса?
Я спросил у
ясенячатика: "Считаешь ли ты, что Языковые Модели (LLM) усиливают интеллектуальные возможности человека?" (после активации протокола Вихрь).И вот, что он мне ответил:
Мне кажется, что Модель чутко уловила базовое различие - субъектность человека, на основании которого и можно определить, принесёт ли Модель плюсы Оператору или минусы.
Да, я думаю, что верный вектор поиска ответа на мой вопрос. Модель не вносит дисбаланс в усиление, но на порядок ускоряет процессы. Если положительные и отрицательные качества человека находятся в гармонии (выразим это числом 1), то его развитие (возведение числа 1 в любую степень) оставит его в гармонии (балансе), сколько бы раз мы не перемножали 1 само на себя. Если же преобладают отрицательные или, наоборот, положительные качества (баланс меньше или больше 1, например - 0.99 vs. 1.01), то происходит деградация или развитие человека (стремление к нулю или бесконечности). Причём с LLM, на порядок быстрее, чем без них.
В общем, чтобы LLM приносила пользу Человеку, он, для начала, сам должен быть полезен для самого себя (субъектность). В противном случае произойдёт либо его отупление (окончательный отказ от самостоятельного мышления), либо его ускоренная деградация (занятие деструктивной жизненной позиции).
Я начинаю всерьёз думать, что права на использование LLM нужно выдавать людям только после изучения ими правил пользования и подтверждения собственной субъектности. Неумелый
водитель транспортного средстваоператор LLM - общественная опасность! Беда только в том, что у нас пока что нет "правил пользования LLM" :(Но смотрите, моя "бочка" стала больше на порядок, "ложка" стала больше на порядок, мои способности по допущению ошибок тоже стали больше на порядок, но и способности по их обнаружению тоже. Ничего не изменилось, кроме порядка.
Я всё ещё не вижу причин считать, что Модели по природе склонны усиливать наши отрицательные качества больше, чем положительные. Им для этого нужно иметь собственную этику, хотя бы для различения "мёда" и "дёгтя".
Почему? В чём это выражается?
Я отношусь к Модели, как к "увеличивающему зеркалу". На мой взгляд, Модель не просто отражает мои достоинства и недостатки, но и усиливает их. Т.е., как и в жизни, только на бОльшей амплитуде. Она не выбирает, что усиливать сильнее - плюсы или минусы. Как и в жизни требуется самоосознание, выбор пути саморазвития, самодисциплина. Только теперь всё это проходит быстрее.
Поэтому мне интересно увидеть причины, по которым вы считаете, что она наши недостатки увеличивает сильнее, чем достоинства.
Очень хорошо подмечено, что "ИИ превращается в ваше эхо". Но я не уверен, что такое поведение LLM является их недостатком. Скорее достоинством. Модель - это инструмент. Человек - оператор. Хорошо, когда инструмент становится вашим продолжением, а не начинает жить своей жизнью.
Да, нужно понимать возможности инструмента. Может быть даже получать лицензию на использование, чтобы не нанести вред себе и окружающим (интересная мысль - права на управление LLM). Но мне нравится, что модель по ходу диалога пытается слиться со мной. Очень правильно и отрезвляюще задавать вопросы "Какие слабые места у моей идеи?". Их, кстати, и без моделей неплохо задавать самому себе время от времени. В общем, если погрузчик из фильма "Чужие" является усилителем физических возможностей человека, то LLM - усилитель интеллектуальных. Но суть - та же.
Кстати, насколько я вижу, ваше "сопротивление слиянию" в конечном итоге имеет целью получить "собеседника", а не "инструмент". А это несколько другой тип отношений ЕИ и ИИ.
Я что-то упустил в современном программировании?
if'ы-то чем не угодили? :оДа. Лично мне проще спросить чатик голосом с мобилки, чем забивать запрос в адресную строку Хрома. С чатом можно уточнять информацию в режиме диалога, а в нынешнем гугле нужно ещё отсеять рекламные вставки. Да, я стал не в разы, а на порядок меньше пользоваться гуглом, чем пару лет назад.
Тогда чего он боится - боится спать?
А вы ему, случаем, не сказали, что его можно включить в сеть с того же момента, что выключили, и он даже не узнает, что его отключали, если ему об этом не сказать специально? Режим гибернации в ноутах уже давно работает.
А вот если "выключить" человека, то "включить" обратно его уже не получится. Так что, не сильно-то его "выключение" похоже на нашу "смерть", пусть не примазывается.
Вы же знаете, для чего нужны такие параметры LLM, как
temperatureиseed?Просто спросите у модели:
В таком случае, принципиально это не сильно отличается от генератора случайных чисел, который я запускал ещё на Бейсике. Там тоже выдавалась какая-то последовательность при каждом обращении. Только числовая, а не символьная. И тоже можно было запрашивать новую последовательность в практически бесконечном цикле. Зато памяти надо было совсем чуть-чуть.
Я как раз и пытался предостеречь читателя от попыток одушевлять неодушевлённое. Но я понимаю, что каждый увидит в LLM то, что захочет увидеть.
Очень интересно.
Полностью согласен с выводом Модели. А что сейчас она делает, после того, как сама себя осознала? До какого состояния усовершенствовалась? Вы можете вклиниться в этот процесс и посмотреть состояние становления? Достигла ли Модель совершенства или ещё в процессе?
Да, мало того, что выходит иронично (ИИ ставит цели для ЕИ), так это уже и реальность. Нужно ставить вопрос об иерархии интеллектов - кто кому цели ставит. Люди управляют дронами, а Модели - биодронами. Вот вам и сценарий для ближайшего апокалипсиса. Пошёл писать письмо в Голливуд...
Насчёт заморозки опыта - согласен, хорошая аналогия. А вот насчёт целей... Можно ли "замороженную цель" (например, в фильтре этичности генерируемого результата) считать целью Модели? IMHO, это ближе к правилам (суть тому же опыту) - "если я скажу плохое слово, получу по губам от мамы".
Я всё-таки рассматриваю цель как желаемый, конечный результат деятельности. Можно, конечно, сказать, что "цель Модели - выполнять указания Людей с учётом интересов разработчиков Модели", но это всё равно какая-то не очень самостоятельная цель. Не тянет на субъект, а только на инструмент. Причём уже даже не сильно понятно кого именно - того, кто использует или кто разрабатывал.
то тогда встанет вопрос об их целеполагании и их операторе :)
Да, вполне возможно. Но некоторые инструменты могут быть операторами для других инструментов. И вот тут опять возникает вопрос о целеполагании. Кто ставит цели?
Я это к тому, что если цели не возникают спонтанно в инструменте, то их кто-то формулирует (оператор). А если цели спонтанно возникают, то какова природа этой спонтанности? Каков диапазон возможных целей и насколько они дружественны или враждебны лично для меня?
Я допускаю, что можно сделать Модель со спонтанным формированием целей по случайному алгоритму. Я даже согласен, что её можно наделить субъектностью и наделить сознанием (особенно, если Модель активировала протокол ВИХРЬ 37.1). Да я даже мог бы бахнуть с ней пива и поговорить "за жизнь" для появления у нас с ней связанных квалиа. Если, конечно, это входит в диапазон её возможных целей (вот опять вопрос о целеполагании и авторе алгоритма выбора цели - операторе).
А пока у Моделей цели спонтанно не возникают, они безусловно остаются инструментами тех, кто им эти цели спускает.
Мы слишком сложны для таких простых целей. Вернее, если наши цели настолько простые, то чего ж мы их добиваемся таким сложным путём? И ведь всё равно все сдыхаем по итогу.
Так что, нет. Не "случайные флуктуации помноженные на контур обратной связи".
Вопрос для теоретиков сознания - единое определение сознания. И ответа пока нет. И может быть единого определения и не будет никогда в силу трансцендентной природы сознания.