Комментарии 16
Но ИИ не знает, что такое запах
А вы знаете, что такое запах?
Предположим, я утверждаю: "Но автор данной статьи не знает, что такое запах".
Попробуйте меня убедить в обратном, причем сделать это как-то иначе, чем оправдывалась бы LLM. Что бы вы ни говорили, я всегда смогу парировать: "Вы просто вспоминаете и говорите слова, которыми другие чаще всего описывают запах".
Но Qwen никогда не чувствовала пузырьков на языке, не знает, как алкоголь ударяет в голову, и не понимает, почему это ассоциируется с праздником. Она лишь воспроизводит винные обзоры из своих данных.
Философ Дэниел Деннет в книге Consciousness Explained говорит, что понимание требует субъективного опыта, а опыт — это не просто данные. Деннет называет это «компетентностью без понимания».
Но и большинство присутствующих в опытах Шредингера свечку не держали, а лишь воспроизводят то, что прочитали в учебниках. Чем их компетентность в квантовой физике отличается от компетентности LLM?
Но и большинство присутствующих в опытах Шредингера свечку не держали
А Вы уверены, что Шредингер опыты ставил?
Он кажется был теорфизиком?
А вот интересно, если имитации интеллекта работы троешников по теорфизике подсунуть с ошибками и не проставленными оценками - он так же четко будет правильные ответы выдавать? Или его подглючивать начнет из-за изменения статистических результатов?
Автор, а вы понимаете, что такое гомосексуализм?
Автор, было бы интересно послушать в Вашей версии, что такое этот самый "смысл", и как именно вы его понимаете? И чем это отличается от ИИ? (ведь делая такие утверждения, очевидно, что Вы понимаете, как человеческий мозг понимает этот самый "смысл")
Пошло-поехало, квалиа, философские зомби...
Свой опыт человеки передают и обсуждают в основном словами — голосом или на письме. Ну еще немножко картинками (но LLM и с этим более-менее справляются). Можно сколько угодно себе в голове представлять запах хвои и щебет птиц, вспоминая ту прогулку по лесу, но когда вы будете пересказывать это своему ближнему, все равно придется пользоваться словами, ну может фотки покажете, максимум — включите диктофонную запись птиц.
Вы сначала дайте определение того, что такое "понимание", и предложите соответствующие ему критерии, позволяющие однозначно отличить понимание от не_понимания.
Вы это обсуждаете а я пытаюсь реализовать)
Существенное колчество человечества не в состоянии понять смысл чего либо, могут даже отвечать на вопросы спецом ничего не понимая, что в ллм назвали галлюцинациями. Ллм на сегодняшний день полная аналогия человеческого мвшления в среднем. Тот agi к которому стремятся это сверхчеловек.
На мой субъективный взгляд, единственное, чего пока не хватает ИИ — это зрения и умения интерпретировать видеоконтент. Как только начнутся изменения в этом направлении — считай, всё: мы вплотную приблизимся к настоящему искусственному интеллекту.
Системы машинного зрения с локальными ИИ на боевых беспилотниках уже умеют самостоятельно распознавать местность, чтобы ориентироваться в отсутствие GPS, и распознавать конкретные цели, даже замаскированные, принимая решение об атаке без связи с оператором. Какая еще обработка видеоконтента вам нужна?
Так-то осязание, вкус и обоняние играют важную роль в формировании смыслов, плюс вестибулярка, плюс инстинкты. Не уверен, что всё это уже возможно полностью описать. Отсюда простой вывод, что ИИ не имеет той полноты информации, что человек. Но имеет значительно большее количество информации. Далее философия о переходе количества в качество.
Вся эта история с ИИ могла бы стать триумфом "прикладной философии". Но не стала. Может еще надо подождать.
Что любопытно. Именно в постсоветском пространстве могли бы сложиться особенно благоприятные предпосылки для такого триумфа, но тоже не наблюдается.
Какое отношение одно имеет к другому. В старые-добрые, получение высшего образования почти неизбежно подразумевало чтение десятитомника Ландау и Лифшица "Материализма и эмпириокритицизма" с известной компаративной теорией исчерпаемостей электрона и атома. Помимо прочих, книга эта преследовала конкретную цель - установление объективного характера (и, в конце концов, существования) общественных противоречий и спорила формально с Махом (думаю, Ленин прекрасно понимал, что Мах от этой критики посреди ночи в поту не подскочит) и очень всерьез с Богдановым в том числе из-за его "Мышление есть речь минус звук" (очень забавное упражнение - почитать текст по ссылке, как заметку, скажем на Хабре, про ИИ и большие модели). Богданов это приписывает Максу Мюллеру, но здесь есть неясности, до которых у меня руки очевидно никогда не дойдут разобраться. Так или иначе, (по крайней мере) вся высшеобразованная часть постсоветсткого пространства была насильно погружена в контекст проблематики связи между реальностью, ее отражением в мышлении, и внешним представлением. И как будто не было ничего. Вероятно, ЕГЭ все испортил.
Речь без звука - текст. БАМ. В одну сторону побежала волна, где-то там доходящая до условного постмодернизма. Сейчас, наверное, мало кто вспомнит, как каких-то 30 лет назад "крепкие интеллектуалы" дежурно измывались над тезисами в духе "реальность - это текст".
Волна, побежавшая в другю сторону, упирается в Канта с его категориями или как их там, за что его мимоходно записывали в субъективные идеалисты (?), и еще дальше к Декарту, Бекону и, наверняка, древним грекам.
Многовековая традиция философской мысли, казалось бы упирающейся стрелой в пресловутый ИИ, реализованный на языковых моделях, в какой-то момент должна породить конкретное научное знание, упаковывающее тот же ИИ в ясную понятийную систему. По крайней мере, в это хочется верить. А пока люди переоткрывают традицию, со всеми вытекающими.
Что же делать пока это конкретное научное знание не выкристаллизовалось? Как в старые-добрые можно было предположить, что, вполне возможно, условный Богданов не был идиотом и имел основания для уравнивания текста и мысли, так и сейчас можно предположить, что условный крепкий интеллектуал тоже не был идиотом и что-то скрывал за нудной мантрой об объективных характерах и тому подобном. Сейчас, ИИ это лягушачьи лапки, взбивающие масло и нужно пытаться понять, что является молоком. Превратится ли когда-нибудь ИИ в машину, самостоятельно делающую масло из ничего как функция своего существования? Тяжело сказать. Путей к этому пока не видно, а для развернутого рассуждения полей не хватает.
Почему ИИ не понимает смысла, но этого (пока) хватает