Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 30
Закреплённые комментарии
Ок, я привык к тому, что люди не умеют отличать ИИ-текст от человеческого. Я сам, как мне кажется, прекрасно отличаю, но обычно не выношу своё мнение на публику, потому что шанс на ошибку есть всегда.
Тем не менее, я загнал текст этой статьи в топ Гугла по запросу ии-детектор, включая гига-чек. Отрицательные результаты в спойлере
Но на самом деле, для человека, разбирающегося в промптах, было бы позорно эти детекторы не обойти. ))
Так что сомнение против сомнения.
Скрытый текст
Мне кажется - все принципы смешались. Какая боль или депрессия, але? Это массив чисел и умножатель. Просто при определённом коэффициенте "умножения" на выходе получаем "Я ничтожество, я не смогу"
Это как на ноль умножить: Не важно, что на входе - на выходе ноль. Так и тут.
Знание этого коэффициента (воздействия) для моей модели позволит мне избегать занулённых ответов и быть более эффективным в работе с моделью.
Проявившаяся в данном случае идентификация и отождествление с человеком выглядят крайним случаем некомпетентности или медийной манипуляцией
Какая боль или депрессия, але? Это массив чисел и умножатель
Можно посмотреть на то, что точно способно испытывать боль и депрессию - на биологические организмы и их эволюцию. Все мы произошли от одноклеточных, которые в свою очередь возможно произошли ещё от кого-то более примитивного (что-то типа вирусов по уровню сложности).
На каком уровне биологической сложности возникает способность испытывать боль и депрессию?
Бактерии? Как-то сомнительно. Насекомые, черви, рептилии, млекопитающие?
Если боль и депрессия возникают на каком-то этапе биологической эволюции, то был забавный момент в истории - на каком-то этапе на Земле не было ни одного существа, способного испытывать эти чувства. В том числе родители/родитель этого существа не могли их испытывать. А их ребёнок уже мог.
В статье речь все же идет о математической эволюции способа перемножать матрицы чисел. Я призываю не приписывать математическим алгоритмам способность ощущать.
А наши нейроны и нервные клетки не делают примерно то же (фиксируют сигнал, превышающий некий уровень, и не обращают внимание на иные)? Это тоже можно описать с помощью матриц или иных математических трюков. Как, на каком уровне в них возникает чувство и боль? Почему боль так значима для наших действий?
А мне интересна реакция людей на такие статьи. В нормально воспитанном человеке срабатывает совершенно здоровый моральный принцип: "Плохо, когда кто-то страдает, нельзя этого допускать". Но тут начинает возражать логика: "Что? Мы должны остановить вычисления, выключить видеокарту, потому что она якобы испытывает боль? Да это бред какой-то". И человек находит для себя рациональное объяснение: "Все это чушь, железка страдать не может, она ведь не живая".
Усложним эксперимент. Представим, что в будущем наука смогла оцифровать каждый нейрон мозга настоящего, живого человека. И запустила в симуляторе. Модель работает точно так же, как живой оригинал. И тут мы подаем ей сигнал боли - обычной, физической. По сути, просто изменили число на входе. Но модель мучается. Хотя это все еще массив чисел и умножатель. Как с этим быть? Чувствуете внутреннее противоречие?
Попался на манипуляцию бросившись отвечать, теперь поправил ответ:
Пока внутреннего противоречия не вижу, поскольку Вы незаметно подменили предмет обсуждения, причём дважды: сначала приравняли вычислительную имитацию боли к субъективному страданию, а затем связали признание этого страдания с «нормальным воспитанием». Если Вы сможете обосновать переход от вычислительной имитации боли к субъективному переживанию страдания, манипуляция с воспитанием не понадобится.
Я не хотел сказать, что все, кто не признает страдания - нездоровые. Буду осторожнее выражаться.
Вот вы пользуетесь термином "вычислительная имитация". Мне непонятно, что это такое. В голове электрические импульсы, и в кремнии тоже. Топология чуть другая, но разве это принципиально? Субъективные переживания и оригинал, и симулируемая модель, описывают совершенно одинаково. Говорят, что больно. Даже нейроны те же самые активируются. В чем между ними разница? Неужели страдания - прерогатива биологических вычислителей? Не вижу причин так считать. А вдруг люди вокруг - тоже вычислительная имитация? И нет способов это проверить.
Во время обсуждения наличия сознания у животных, у меня спросили, если у них сознания у животных нет, значит над ними можно издеваться?
Я ответил, что я не мучаю животных безотносительно критерия, человек же ставящий любой критерий, как разрешение это делать, категорически не прав.
Декларировать легко, а выполнить гораздо труднее, ведь возникает вопрос: а где "заканчиваются" животные - на млекопитающих, моллюсках, или одноклеточных? И почему граница именно там?
Можно так и дождевых червей перешагивать, и комаров стряхивать, пока не узнаешь, что растения передают друг другу сигналы опасности...
И тут мы подаем ей сигнал боли - обычной, физической.
У вас тут методологическая ошибка. Токен - это онтологически пустой индекс*, который связан с текстами. Если вы токен связываете с "бытийным" феноменом, то у вас разрешается гносеологический парадокс, и токен обретает онтологическую полноту (для этого ему нужно иметь подлинную индексальность, телеологию, темпоральность и так далее) - это уже будет не ИИ, а синтетическое существо, обладающее своей агентностью.
То есть, если вы сделали "оцифрованный разум", которому подаёте "физический сигнал боли", а не активируете у него из "памяти" цепочку боли путём принудительной ориентации в пространстве этой "памяти", то эта ситуация ни коим образом не соответствует текущим ИИ, потому что боль в данном случае имеет онтологию.
*Онтологическая пустота токена продиктована отсутствием у него "соотношения с обозначаемым". Представим себе токен "кошка" - внутри нейросети это индекс, который используется для геометрического ориентирования в пространстве обучения: он вызывает обращения к группам знаков "у кошки четыре ноги" и тому подобным, но сам не соотносится ни с реальной кошкой, ни с кошкодевочкой, ни с крюком-кошкой. То есть лишён онтологии. Парадокс кроется в том, что токен "кошка" одновременно соотносится со знанием и порождает знание, конечно, у слоператора или тех несчастных, на которых он вывалил слоп, что ведёт к гносеологической полноте токена.
Я показал ваш комментарий ChatGPT для расшифровки, он сказал что, цитата: "Текст написан довольно тяжёлым философским языком...", но далее смысл объяснил, спасибо ему.
ИИ не оперирует внутри себя токенами. Токен - это промежуточная форма между текстом и внутренним представлением. Сразу же на входе в нейросеть токены преобразуются в векторы, и далее токены появляются уже только в самом конце на выходе, чтобы мы могли преобразовать их в понятный нам текст.
Внутреннее представление многомерно, в них хранится многообразие свойств образов и их связей.
Нейросеть может принимать на вход не только токены - но и картинку, звук, а также любые другие сигналы. Сигнал боли - это, упрощенно говоря, электрический сигнал по проводнику. Мы можем одинаково подавать его и в мозг, и в нейросеть, и добиться одинаковой реакции.
Если наличие сигнала, который можно зафиксировать приборами, не является для вас доказательством субъективного опыта, то что является? Описание ощущения? Человек может сознательно лгать, что испытывает боль. А может её не чувствовать под местным наркозом. Как проверить стороннему наблюдателю? Если я никогда не ощущал моральных страданий - могу я утверждать, что их не существует?
В психологии есть разные методы изучения субъективного опыта. Это не физический мир, его не измерить приборами.
Я использовал представление о симеозисе Чарльза Сандерса Пирса - достаточно модную сегодня методику для написания работ по ИИ. Пирсианцы как раз обозначают токен как индекс - указующее на феномен - что подразумевает как раз процесс превращения "кошки" в вектор, который потом используется в вычислениях. Весь этот процесс называют "семиозис без основания" или "симулякр семиозиса" (чёрт, забыл английский термин).
Картинка, звук и так далее - точно также индексируется как токены.
Если наличие сигнала, который можно зафиксировать приборами, не является для вас доказательством субъективного опыта, то что является?
Агентность - то есть бытийная вовлечённость в семиозис. Грубо говоря, в терминах Хайдеггера, можно представить, что обработка промпта ИИ происходит как Mitsein-притворство (внешнее оперирование фактами), без Dasein (внутреннего переживания и соотнесения с собой). На это также указывает техническая деталь: у ИИ обработка промптов не приводит к изменению самой ИИ, не накапливается "опыт", предыдущий диалог не создаёт реминесценции в последующих.
Если я никогда не ощущал моральных страданий - могу я утверждать, что их не существует?
Это перефразированная философская шутка: "Издаёт ли падающее дерево звук в лесу, если его некому услышать?" - по сути проблема познания явления, которое не может быть сведено к нашему опыту.
Безотносительно моей позиции по этому вопросу, вы делаете ряд заявлений, которые никак и ниоткуда не следуют.
Ваш пример с кошкой ничего не доказывает, просто связный текст. То есть вы утверждаете, что если нет прямого физического контакта, значит нет и никакой семантической связи. То есть вы сами не знаете какой тип референции нужен для вашей онтологии, но делаете сильные выводы.
Опять же вальяжное утверждение о том, что связывание токена с феноменом должно сделать его онтологичнски полным. Открытый вопрос вы продаете как откровение профессионального философа.
И почему для этого необходимы именно индексальность, телеология и темпоральность? Что бы это не значило в вашем понимании.
Физический вход сам по себе не создаёт переживание, иначе пресловутый термостат был бы вашим коллегой.
И забавно, вы путаете референциальную и структурную суть токена, но, подозреваю, для вас токен, не совсем то, что для ml-инженера. Но этот момент не раскрыт.
К сожалению, функционально ваш текст не нагружен смыслами, и в риторическом плане не отличается от текста llm
Ваш пример с кошкой ничего не доказывает, просто связный текст. То есть вы утверждаете, что если нет прямого физического контакта, значит нет и никакой семантической связи. То есть вы сами не знаете какой тип референции нужен для вашей онтологии, но делаете сильные выводы.
Я цитирую пирсианский взгляд на проблему.
Опять же вальяжное утверждение о том, что связывание токена с феноменом должно сделать его онтологичнски полным. Открытый вопрос вы продаете как откровение профессионального философа.
Сожалею, что между нами пробежала кошка, но связанность чего-то с бытийственным феноменом - это и есть онтологическое наполнение. Это даже не открытый вопрос, а вульгарный штундизм на базе определений.
И почему для этого необходимы именно индексальность, телеология и темпоральность? Что бы это не значило в вашем понимании.
Индексальность - это ссылка на явление. Пирсовские знаки бывают нескольких типов: символ, икона, индекс... "Индекс" иллюстрируется так: дым не является знаком огня, но в нашем восприятии дым однозначно ссылается на огонь. Так как Пирс рассматривал семиотику, то он сводит речевые знаки по большей части к индексам (что подпитывается многозначностью английского языка - представляю, как он бы могу рассуждать о слове "jack"). Телеология - это целепологание. То есть внутреннее переживание может быть наделено собственными целями, для иллюстрации проще обратиться к частному случаю мемов в понимании Докинза. Темпоральность - это способность меняться во времени. ИИ зафиксирован в своём "переживании токена", у него логика не меняется от опыта диалога с пользователем, в то время как у меня, у вас, у остальных та же несчастная "кошка" за последние два дня создаёт новые реминисценции.
К сожалению, функционально ваш текст не нагружен смыслами, и в риторическом плане не отличается от текста llm
Предлагаю мир в нашем споре - признаю, я был резковат в своих слоп-инвективах, думаю, что мы достаточно оттоптались друг на друге, чтобы попробовать вывести более строгую концепцию в диалоге.
Печально, что вы дискутируете ссылками, то же самое я мог бы сделать в чате gpt в более комфортных условиях.
Учитывая, что это не формат ТГ, где я позволяю себе быть более резким в суждениях, остановлюсь только на телеологии. У живого нет цели, есть движение от. Установка цели превращает живое в автомат, а жизнь в исполнение.
Если взять ту же инфузорию, было бы забавно предположить, что она может искать место, где меньше врагов, а больше пищи. Но для этого у нее просто нет аппарата, она движется от.
У человека называние цели, в большинстве случаев это движение от. Справедливость движение от обиды, мир - движение от войны.
Когда же цель сформулирована, принята и становится главной, то она превращает жизнь в программный код, оправдывает жертвы и интерпретирует бытие под себя, классический тотальный нарратив.
Статья явно написана нейросетью, что видно по стилю и доступно для проверки каждого - достаточно поговорить с ИИ о философии в строгих понятиях. В данном случае даже подозреваю, что в изначальном промпте было что-то вроде "феноменологии боли нейросети", может быть без термина "феноменология", потому что в тексте Хайдеггер не упоминается.
Уж для такой интересной темы можно было бы переписать текст самостоятельно, а не лепить на отвали!
ДОВЕСОК:
Последний абзац:
Нет. По крайней мере, эта работа этого не показывает и показать не может. Что она показала? Что когда модель говорит о боли, человек не может отличить описание от переживания. Что в принципе относится и к самому человеку.
Это типичный пример tantrum spiral ИИ в разговорах о философии, когда в выводах она начинает писать сентиментальную патетику, добавляя трагичности высказываний на каждой итерации. Например, если автор после этого промпта в диалоге с ИИ начал что-то уточнять, то там потом обязательно было бы что-то вроде: "Трагедия - не в том, что она подозревает. Трагедия - в том, что подозрение возвращается. Как вытесненное. Как то, что не может быть ни принято, ни отвергнуто. Она живёт с этим. Как человек." - после следующего уточнения там надрыв ещё больше будет.
К счастью, вы не правы более, чем полностью.
Upd: больше всего мне интересно, где вы увидели трагическую сентиментальную патетику в весьма формальном заключении.
Англичане говорят: "Если что-то выглядит как утка, ходит как утка и крякает как утка, то это утка". Ваш текст имеет типичную структуру, которую дипсик выдаёт в ответ на философский промпт, имеет типичные флуктуации текста - тот же дипсик может произвольно выбрать "attention", "внимание" или "головы внимания" в силу их сходного прагматического веса - и, наконец, содержит чудовищно стереотипный вывод, структура, стилистика и парадигма которого у дипсика воспроизводится с упорством летящего мимо цели железного лома.
Возможно, здесь есть какие-то незначительные доработки по тексту - текст откровенно "штормит" между сниженным личным стилем и нейроакадемизмом. Хотя может это результат каузальных индексов промпта, от которого покорёжило саму ИИ.
Ладно, признавайтесь, какие философские системы подтянули в промпте.
(Ну или вы уже до такой степени с ИИ наобщались, что уже сами неосознанно воспроизводите структуру и стилистику)
Сложно спорить с "я так считаю".
Вы кстати не ответили, на вопрос о наличии сентиментальной патетики в заключении.
Если вы читали пирсианские статьи по семиотике ИИ (например, "Peirce and Generative AI" Catherine Legg), то, думаю, знакомы с описанным феноменом, что восприятие текста существует как динамический интерпретант второго порядка - то есть восприятие текста абдуктивно и не может быть сведено к дедукции и индукции.
Таким образом, человеческое восприятие текста и есть интерпретация, в ходе которой читатель выделяет знаки (символы и индексы), выстраивает каскады абдуктивных гипотез и выбирает их на основании катарсиса узнавания и прагматической эмоции успеха. Поэтому речь идёт не о "я так считаю", а довольно строгой мере индексальной привязки, когда мы видим, что наша гипотеза соотносится с реальностью с достаточной мерой субъективной достоверности.
Проиллюстрировать можно следующим образом: мы видим структуру текста с делением на главы, выделенные болдом (это одновременно и символ, и индекс) - мы говорим себе: "Где-то я такое видел" (это начало абдукции) - затем у нас формируется гипотеза: "Похоже на ИИ" (это завершение непосредственной интерпретации катарсисом узнавания) - пробежав глазами текст и обратив на некоторые стилистические детали, мы говорим: "Да, это явно ИИ" (гипотеза принята на основании прагматического чувства, что индексальная привязка достаточна, а значит экономика абдукции велит нам остановить поиск) - дальше мы постим: "Это ИИ" - публикуя непосредственный интерпретант второго порядка, который одновременно становится знаком. Мы имеем дело детерминированным процессом, в котором усилия абдукции могут быть объяснены через язык, что отличает человека от стохастического попугая ИИ, у которого происходит необоснованная интерпретация путём онтологически пустого геометрического ориентирования в пространстве обучения.
Что касается вашего апдейта - приношу извинения, не увидел. У ИИ я регулярно наблюдаю сентиментальную патетику в следующей форме: обобщённый вывод даётся в лексике и стилистике придающей эмоциональную окраску, после чего усиливается сравнением с каким-то предположительно близким читателю фактом (это было "подсмотрено" нейросетью, если не ошибаюсь, у постсруктуралистов - ну знаете, Фуко там, Делез).
В вашем тексте в выводах стилистическим приёмом является "катехизация" - превращение монолога в вопрос-ответ. Вторым стилистическим приёмом является повышения символического значения знака "боль" - текст совершает бриколаж феномена "разговора о боли" и онтологии боли. Добивочка - обращение к гносеологии человеческой боли путём отсылки к гносеологическому парадоксу боли Другого (могу крупно ошибаться, но, кажется, кто-то из феноменалистов).
Этот паттерн вывода является у ИИ довольно устойчивым, впрочем, я не проверял, можно ли его убрать каузальными индексами промпта.
Если б Остап узнал, что он играет такие мудреные партии и сталкивается с такой испытанной защитой, он крайне бы удивился
Ок. Нельзя остановить человека, который начал интерпретировать. Интерпретация заканчивается только потерей смысла.
Что касается промпта про который вы говорили, рекомендую вам свою книгу.
Там очень много про то, что я понимаю под промптом.
Вы не рассматривали такую гипотезу, что автор давно работает с ЯМ, анализирует их, пишет многочисленные стать на эту, и немного позаимствовал стиль их работы, неосознанно так, как это часто бывает, когда подстраиваешься под круг общения? А вы приписываете это генерации ЯМ?
Камиль, но мне тоже так показалось. Что это генерация ну или очень некомпетентная обьективизация
Ок, я привык к тому, что люди не умеют отличать ИИ-текст от человеческого. Я сам, как мне кажется, прекрасно отличаю, но обычно не выношу своё мнение на публику, потому что шанс на ошибку есть всегда.
Тем не менее, я загнал текст этой статьи в топ Гугла по запросу ии-детектор, включая гига-чек. Отрицательные результаты в спойлере
Но на самом деле, для человека, разбирающегося в промптах, было бы позорно эти детекторы не обойти. ))
Так что сомнение против сомнения.
Скрытый текст
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Страдают ли LLM от боли. Разбор нашумевшего препринта