Comments 10
Если продолжать внушать людям, что ИИ - это любой инструмент, "решающий задачи, традиционно выполняемые человеком", то скоро и кофеварку начнут называть искусственным интеллектом, ведь она делает то, что раньше делал бариста. По такому же критерию можно назвать ИИ: тостер, автопилот или даже калькулятор. Это не расширение понятия, а его уничтожение. Настоящий искусственный интеллект - это не автоматизация, а система, способная понимать, рассуждать, объяснять, учиться в процессе и признавать ошибки.
"Пока мы заменяем разум имитацией, мы не развиваем ИИ. Мы просто усложняем автозаполнение"
- Гэри Маркус
Не надо использовать "ложную иерархию". Такое представление: AI → ML → DL → GenAI → LLM - удобно для слайдов, но глубоко ошибочно. Да, LLM использует deep learning, а он - machine learning, но это не значит, что весь ИИ сводится к обучению на данных. Существуют логические системы (LBS), когнитивные архитектуры (Soar, ACT-R), символьные модели - все они работают на правилах, выводах, моделировании знаний и при этом, вообще не используют машинное обучение, но они ближе к интеллекту, чем любая LLM.
Особенно тревожно, что статья позиционируется как "для начинающих". Такие упрощения наносят реальный вред - они формируют ложную картину мира, обрезают горизонт, закрывают глаза на десятилетия исследований, не вписывающихся в хайп. Новичкам нельзя давать только одну ветвь истории. Им нужно показывать всё поле: и статистику, и символику, и гибриды, и другие системы, где знания явно задаются. Только тогда, они осознанно смогут выбирать свой путь, а не повторять чужие заблуждения.
Нам в универе давали определение, что ИИ - это метод, решающий слабо формализуемые задачи. (Понятие слабо формализуемых задач, конечно же, вводилось отдельно, но интуитивно итак понятно, что это).
По-моему, неплохое определение, даже, наверное, лучше чем то, что затрагивает интеллект/разум/мышление. Во-первых, это сложно определяемые понятия, во-вторых, не все методы ИИ проявляют признаки разумности или мышления.
Интересное определение - "ИИ решает слабо формализуемые задачи". :D Разница не в степени формализации, а в наличии модели мира, способности к рассуждению, целеполаганию, объяснению. Именно их нет у LLM, даже когда они "решают" неформальные задачи. А системы, которые действительно ближе к интеллекту: Soar, ACT-R, LBS - часто работают с жёстко заданными знаниями, то есть в формализованной среде, но при этом демонстрируют поведение, недоступное любой статистической модели. Значит, проблема не в типе задачи, а в архитектуре. Если университет обучает Вас мыслить так, что замена одного расплывчатого термина другим - это прогресс, то самое время перечитать основания: Тьюринга, Минского, Ньюэлла, Хофштадтера.
Вы даёте определение, и сразу же приводите пример ИИ, который под ваше определение не попадает, в чём его смысл тогда?
Базы знаний относятся к ИИ только потому, что решают плохо формализуемые задачи, а не потому, что строятся на "формализованной среде". Так-то любые нейросети сами по себе строго формализованы с помощью конкретного математическое аппарата (чаще всего это композиция линейных преобразований, между которыми "запихивается" нелинейность). Разница, всё-таки, есть между задачей и архетиктурой модели, которая её решает, в определении указана именно задача. Если ваша база знаний решает задачу, которую можно решить простым перечислением if-else программистом, то традиционно такую задачу не относят к задаче искусственного интеллекта, и модели, которые строятся поверх этой задачи, тоже не относят к ИИ.
Вы утверждаете, что базы знаний относятся к ИИ, потому что решают плохо формализуемые задачи, но это путаница. База знаний сама по себе - не ИИ, так же как учебник по алгебре не является математиком. То же и с системами на основе знаний и если они ограничиваются поиском по фактам, то это не проявление интеллекта, а простой доступ к данным. Но когда эти системы встроены в архитектуру, способную к логическому выводу, целеполаганию, обучению в процессе, например - LBS/CESP, тогда мы говорим о когнитивных моделях, которые приближаются к разумному поведению. И да, я нигде не называл их "искусственным интеллектом". Вы же, определяя ИИ через "решение плохо формализуемых задач", фактически включаете в него всё подряд: от чат-бота до автопилота, от экспертной системы до сложного if-else дерева. Но если любая система, выходящая за рамки простого скрипта, становится ИИ, то тогда и компилятор - ИИ, ведь он решает задачу, которую нельзя описать парой условий.
"Неясность формулировок - главный враг научного прогресса. Она позволяет верить в то, что что-то объяснено, тогда как на самом деле лишь названо."
- Карл Р. Поппер, "Логика научного исследования"
Программы, которые занимаются выводом на основе базы знаний традиционно относят к тем областям ИИ, которые не являются ML, это не моя выдумка и не ваша.
фактически включаете в него всё подряд
Ну, не совсем. Чат-бот, который построен на основе LLM - считается ИИ и подходит под определение. Автопилот тоже считается ИИ, в основном. Экспертная система - слишком широкое понятие, в разных ситуациях их могут относить, могут не относить (когда решается простая задача, описываемая ограниченным набором правил/инструкций). Сложное if-else дерево, построенное программистом, не способно решить подобного рода задачи, и к ИИ не относится. А вот Random Forest может, и он же относится к ИИ.
тогда и компилятор - ИИ
Компилятор строится по ограниченному набору правил вокруг чётко сформулированной задачи. Код, который пишет программист, имеет чёткую структуру, заданную заранее определённым набором правил и условий. Если есть небольшое отклонение от этих правил, компилятор работать откажется. Эти ограничения замечательно формулируются как на языке кода, так и с помощью формальных грамматик, что позволяет писать компиляторы с помощью генераторов синтаксических анализаторов.
Задача не описывается парой условий, но она описывается несколькими десятками условий, т.е. всё ещё хорошо формализуется.
Разработчикам ИИ будут интересны видеозаписи четырёх дней лекций в НЦФМ
https://secriskuran.ru/index.php?page=2023-11-27-i-vserossiiskaya-shkola-ncfm-po-iskusstvennomu-intellektu-i-bolshim-dannym (см. также Вторую, Третью школы по ИИ - несложно найти).
А для новичков полезно сказать примерно так:
LLM, который преподносится (частенько) как венец творения, - всего лишь калькулятор для слов.
Помните, изобрели электронный калькулятор для чисел, который пришёл на смену деревянным счётам и логарифмической линейке? Да, он облегчил расчёты бухгалтеров и инженеров... Но думать за них он не стал, ибо не чем.
Так и здесь.
Однако какая-то религиозная вера в то, что у LLM есть какой-то ум, интеллект, сознание, душа [нужное подчеркнуть :)] - да и вообще какая-либо субъектность - повисла сегодня лапшой на ушах очень многих неглупых людей...
Круто, ИИ объясняет, что такое ИИ, на пальцах. Никогда такого не было и вот опять)
Вижу эмодзи, понимаю что статья мусор от llm.
Искусственный интеллект для начинающих: как всё устроено