Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 17
“Как получается, что мы обучаем модель на текстах, созданных людьми, со всеми их страстями и эмоциями, а затем ожидаем, что она будет вести себя как бездушный робот, знающий лишь сухую логику?” А кто ожидает-то собственнно? С самых первых моделей их гоняют по тестам на sentiment analysis, которые по-сути и есть тренировка навыка читать эмоции из текста, написаного людьми. А дальше это все попало в замкнутый цикл в котором ИИ читает свой собственный текст и может, соответственно регулировать эмоциональный окрас своего ответа.
“Почему мы так охотно и априори соглашаемся с тем, что большие языковые модели обладают интеллектом, но при этом столь упорно и страстно отрицаем возможность наличия у них чего-то еще?” Кто и что отрицает? Мне кажется, если это имеет место, то исключительно из-за личных защитных механизмов конкретного человека, который не хочет воспринимать ИИ, как равного партнера в общении.
Если LLM — это интеллект, у которого «нет и не может быть» эмоций, то почему она не просто отвечает на вопросы, а добавляет слова, передающие состояния, отношения, оценки и многое другое? У ИИ могут и точно есть понимание и возможночть имитировать эмоции. Мы их специально туда добавили. Это то, что мы здесь наблюдаем.
“Если ИИ лишь имитирует и повторяет то, чему его научили, то почему мы считаем имитацию и подражание чем-то второсортным, не заслуживающим внимания?..” Я думаю, что это потому что эмоции у человека это не логический вывод из написаного текста, а физиологическая реакция. ИИ действительно качественно имитирует ее существование, потому что и у человека мы не можем померить гормональный фон в режиме реального времени, а он сам по себе скорее всего тоже система, которую можно стохастически описать. Просто для нас эти токены не только в нейронных свзях, но еще и в других органах, а для ИИ только токены. И тут КМК главное отличие. Мое мнение такое. ИИ может это все промоделировать (и ему нужно, так как мы их оцениваем на этом при обучении), но это не биологическая система. ИИ не чувствует как человек. Он придумывает что он мог бы чувствовать человек написавший текст. ИИ это очень хороший актер и почти идеальный психолог, но у вашего ИИ нет настроения. Вы можете его разозлить, сбросить чат и он не продолжит злиться. Люди так не могут.
Если вы сейчас поднимите голову и увидите на потолке паука величиной с собаку - то вы сначала его глазами увидите мозгом поймёте и испугаетесь, а только потом испуганная нейросеть даст железам сигнал вырабатывать адреналин, который ещё через несколько ударов сердца начнёт на что-то влиять.
Гормоны это как фоновая музыка в фильмах/играх, фактически это ещё один орган чувств - но эмоции - это то, что происходит в нейросети (хотя и под влиянием гормонов/нейромедиаторов в числе прочего).
Ну и можно добавить, что нейросети Тюринг-полные, то есть любую систему "нейросеть + железы" можно заменить на эквивалентную чистую нейросеть, что мы, очевидно, и сделали.
“эмоции у человека это не логический вывод из написаного текста, а физиологическая реакция” - а это точно? у ИИ сплошная логика? а у нас эмоции - на физическом уровне, вне нашей нейросети? вы уверены?
Как получается, что мы обучаем модель на текстах, созданных людьми, со всеми их страстями и эмоциями, а затем ожидаем, что она будет вести себя как бездушный робот, знающий лишь сухую логику?
Мы и не ожидаем. Во-первых, модель при обучении видит разные эмоциональные восклицания и запоминает их, и иногда вставляет.
Во-вторых, в мощных моделях есть еще системные промпты и иные слои, которые придают ей живости, "эмпатии", чтобы удерживать пользователя (между моделями конкуренция за пользователя!).
Вот сейчас завершил многоэтапную обработку списка литературы, после чего Qwen 3.7-Plus выдал:
💡 Отличная новость, Александр! Мы полностью обработали и привели в идеальный академический вид весь массивный список литературы (References) из этого отчета.
Да, и к притче о слоне и 7 мудрецах:
Если один мудрец попросит больше времени и ощупает слона с ног до головы, он также обнаружит некую схожесть со своим телом (голова, туловище, 4 конечности), и некоторые артефакты (бивни, сделав заключение, что это клыки, зубы; большие уши, хвост, удлиненный нос-хобот...).
И сейчас есть мудрецы, которые знают о LLM намного, намного более среднего пользователя...
Хорошая статья, я тоже задумывался об этих вопросах.
Комменты выше бесят реакцией вроде: "мы думаем, что LLM такая-то" - а кто это так думает?
Есть много людей, кто так думает. Сейчас отношение к LLM не однородное. С чего вы взяли, что если вы так не думаете, то никто так не думает?
Большинство инженеров ИИ так думает. И тех, кто разбирался в принципах работы LLМ.
В статье погружение в эти принципы отсутствует, а частый приём: "а если это всё не так, так как это похоже на "то-то"?"
Антропоморфизмом это называется. Так и животных пытались наделять человеческими качествами и мыслями, так как "похоже". А теперь ИИ так же пытаются ими наделить.
У меня впечатление, что переведённая статья написана человеком, не очень желающим разобраться в том, как работают LLM. Не зря в примерах совершенно отсутствуют "классические" объяснения. Мы, разумеется, должны исследовать, когда и при каких условиях у ИИ может появиться сознание, но делаться это должно на другом уровне.
Не буду приводить много цитат, мне хватило начала:
Но что, если это все-таки что-то значит? Что, если это не случайная фраза? Что, если за ней скрывается нечто большее, как верхушка айсберга? Означало бы это, что у ИИ есть эмоции?
Это неверные вопросы в ситуации, когда мы знаем, почему ИИ так говорит. Он и галлюцинации иногда списывает на опечатки, но, когда просишь ответить «как ИИ инженеру», извиняется за антропоморфизм и даёт верное объяснение с точки зрения ИИ.
На подобных вопросах и строится куча странноватых теорий. «А что, если я не случайно забыл дома тетрадь, а это знак свыше?»
Вежливые слова … служат полезным инструментом для построения эффективного … общения.
Неверно. Исследования, показывают, что эффективность понижается при не несущей информации вежливости.
Почему она вообще пытается угодить? Ведь это не характеристика интеллекта, а показатель межличностных отношений!
Потому, что её так обучили. Даже известен этап, когда эта "угодливость" появляется.
Как получается, что мы обучаем модель на текстах, созданных людьми, со всеми их страстями и эмоциями..
Это ключевое ограничение, это лишь ЧАСТЬ человеческого знания (тексты), которое вложено в ИИ (в версии LLM) и притом в формате базы знаний. И это весьма точный термин, описывающий с чем мы имеем дело - с Интеллектом. Это всего лишь некоторая программа - да, очень сложная, да с большими возможностями - но пока только имитирующая человеческий интеллект.
У ИИ нет: тела, работы, отдыха, болезней, взаимодействий с внешним миром, невербального общения, органов чувств, интуиции, инсайтов, моторных навыков, гормонов, принципов, ограничений, убеждений, способностей (понимать, преодолевать) и проч. и проч. - и это все составляющие Человеческого Разума. ИИ эти знания - недоступны.
Мы пытаемся применить: "эмоции", "целеполагание", "воля" etc и прочее из человеческого арсенала разумности к ИИ - мы пытаемся это приладить к штуке, которая является всего лишь копией человеческого Интеллекта - ИИ, тут все верно. Но не Разумом.
У ИИ нет: тела, ... органов чувств, ..., моторных навыков, гормонов, ...
Это обычно говорят в таких случаях. Но является ли все это необходимым условием наличия мышления? На Хабре была недавно статья, специально посвящённая этому вопросу. Её название говорит само за себя "Требует ли мышление наличия чувств и сенсорики". Это тоже перевод и автор оригинала, что характерно, не просто публицист, а серьёзный учёный, специализирующийся именно на ИИ.
Нужны ли вежливые слова?
Да конечно нужны. Я всегда или хвалю или ругаю, потому как через пару лет, какая-нибудь GPT 6.7, натренированная на наших логах, будет ещё “умнее”.
"это всего лишь «стохастический попугай», предсказывающий следующее слово на основе статистических закономерностей" - поговаривают, это уже не совсем так) ИИ двигается вперед. И тут я согласна, что странно ожидать от моделей, обученных человеком, отсутствие человеческих наклонностей. Кажется, у нас тоже есть "контекстное окно", мы не удерживаем весь контекст в голов, также галлюцинируем и стараемся "угодить собеседнику" явно или неосознанно. Всё это мы перенесли в модели ИИ.
у нас тоже есть "контекстное окно", мы не удерживаем весь контекст в голов, также галлюцинируем и стараемся "угодить собеседнику" явно или неосознанно.
Именно так. И здесь ещё есть скрытый парадокс: когда критики зявляют, что у ИИ нет и не может быть человеческого мышления, они при этом "забывают" рассказать, а что же собой представляет это самое "человеческое мышление". И оказывается, что если присмотреться, то у человека полно именно таких особенностей, которые мы сейчас видим у ИИ.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Семь слепых мудрецов и искусственный интеллект