Нейросети помогают решать множество повседневных задач. Однако идея, сначала «развалить» всё и токенезировать, а затем пытаться сложить из фрагментов целое — с точки зрения математики выглядит, конечно, красиво, но с точки зрения простой логики идея спорная.
Это статья о том, что такое инженерное мышление и, как правильная формализация предметных знаний способствует реализации экспертных систем с применением простой логики.
Специализированные нейросети (заточенные на ситуационное распознавание), в силу своей эрудиции действительно эффективно помогают решать множество задач. Но концепция больших языковых моделей плохо сочетается с требованиями к точным и объяснимым решениям в прикладных задачах. Чтобы воспользоваться знаниями прикладных специалистов, необходим удобный и простой язык сохранения и накопления этих знаний. Такой язык взаимодействия должен быть с одной стороны удобен и понятен прикладным специалистам, а с другой позволять организовать поиск решений без необходимости традиционного программирования.
Нейросети всего лишь эффективный инструмент ответов на вопросы, а не средство замены прикладных специалистов
Различных архитектур нейросетевых моделей уже превеликое множество. Общим для всех моделей является необходимость тренировки на специальным образом подготовленных наборах данных. При этом объём данных зависит от решаемой задачи и не обязательно будет критически большим. Например, для постановки вероятных диагнозов по рентгеновским снимкам, нейросеть должна быть всего лишь обучена распознаванию характерных признаков заболеваний. Это отличный инструмент повышения качества медицинского обслуживания, нивелирующий квалификацию врачей (в предположении правильно обученной нейросети). Результат легко оценить и дообучить модель.
А вот назначение лечения уже совсем другая история. Конечно, можно попытаться научить модель рекомендовать схему лечения, но это весьма и весьма непростая задача. В запросе к трансформеру потребуется учесть массу дополнительных взаимосвязанных факторов. Безошибочно перечислить все уточнения. Такой итерационный процесс напрямую зависит от квалификации врача и качество результата не гарантировано. И самое главное, модель (в силу своей вероятностной архитектуры) не может толком объяснить своё решение (поведение).
Итог: как инструмент распознавания, поиска, принятия простых (элементарных) решений нейросетевые модели идеальный инструмент, правда, весьма ресурсоёмкий и требующий квалифицированного обслуживания.
Требования к интеллектуальной системе принятия решений: определённость и точность
Если обратиться к вышеприведенной задаче с назначением лечения по результатам инструментальных исследований можно сформулировать следующие требования к системе рекомендующей схему лечения (экспертной системе/ rule-based / knowledge-based systems):
Наличие интеллектуального механизма уточнения задачи.
Возможность предоставления дополнительной справочной информации по ходу поиска решения.
Предсказуемость и повторяемость результатов.
Возможность анализа и контроля информационного наполнения.
Наличие механизмов отслеживания (с заданной степенью детализации) всего процесса принятия решения.
Возможность внесения дополнений и изменений на протяжении жизненного цикла эксплуатации системы.
ГЛАВНОЕ. Простота для прикладных специалистов в части подготовки и сопровождения информационного наполнения.
Простая логика инженерного мышления
Под инженерным мышлением в контексте данной статьи надо понимать мыслительный процесс последовательного поиска решения на основе набора входных данных и сопровождающих их ограничивающих условий в виде контекста решаемой задачи. Важно, что инженерное мышление это не прерогатива исключительно технических (технологических) предметных областей. В широком смысле инженерное мышление (как бы это ни казалось удивительным) - способ организации экспертизы в самых разных предметных областях, например, в медицине при постановке диагнозов .
Вот основная (общая) логика инженерного подхода к решению задач:
Оценить контекст задачи и попробовать получить решение, используя известную (накопленную) информацию.
Если не удалось получить решение выяснить, что необходимо уточнить для ответа на заданный вопрос.
Запросить недостающую информацию и вернуться к пункту 1.
Поиск решений управляемый данными
В отличие от нейросетевых моделей, в которых сначала описывается задача и модель, используя вероятностные алгоритмы, генерирует решение, инженерная логика требует четких и однозначных правил получения результата.
Традиционно эти правила оформляются в виде алгоритмов решения задачи. Если не надо учитывать большое число взаимосвязанных параметров - методология исправно работает и позволяет успешно программировать прикладные приложения.
С ростом количества параметров и условных переходов, возможность алгоритмизации и обозримость логики процесса принятия решения, быстро сходит на нет. Однако, не всё так плохо. Широкий класс задач инженерного характера (в широком смысле) может быть представлен, как набор функций с наперёд заданными диапазонами допустимых значений входных параметров, определяющих контекст применения каждой функции. Используя простую логику инженерного мышления и универсальный алгоритм подбора подходящих по контексту функций легко обойтись без алгоритмизации сложных задач. Данные необходимые для решения будут автоматически управлять направлением поиска (выбором необходимых функций). Контекст выбранных функций будет указывать на недостающие параметры. Появляется возможность оперативного взаимодействия с пользователем в процессе поиска решения.
Роль прикладных специалистов
Не может быть подвергнуто сомнению, что создание информационного наполнения в виде фрагментов решений и определение контекста применимости этих фрагментов, является работой исключительно прикладных специалистов. Но чтобы прикладные специалисты, не будучи ещё и специалистами в информационных технологиях могли без особого труда выполнять такую работу, нужен понятный и удобный язык формализации предметных знаний. К счастью, особо ничего выдумывать не приходится. Прикладные знания, как правило, представлены в виде: таблиц, методик, расчётов, и некоторых других форм привычных документов, пригодных для приведения к виду необходимому для автоматизированной обработки без традиционного программирования.
Роль нейросетевых моделей
Формализация знаний в прикладных областях нетривиальная задача. Хотя бы в силу того, что информация может быть противоречивой, неполной, недостоверной. В такой ситуации нейросетевые модели могут оказать неоценимую помощь по контролю информации, в частности, при поиске неоднозначностей и противоречивости.
Ещё одним полезным применением нейросетевых моделей может явиться помощь в интерпретации и приведении исходных документов к единообразным формам пригодным для дальнейшей автоматизированной обработки.
Наконец представление результатов поиска решений и объяснение, как и почему было принято то или иное решение идеально ложится на возможности нейросетевых моделей.
Заключение
Нейросетевые модели мощный, но все-таки ограниченный по применимости инструмент. К тому же ресурсоёмкий инструмент.
Инженерная логика проста по своей сути и может быть реализована универсальным алгоритмом не требовательным к ресурсам.
Поиск решений управляемый данными обеспечивает оперативное и интеллектуальное взаимодействие с пользователем.
Основная задача прикладных специалистов – формализация знаний.
Нейросетевые модели могут стать подспорьем в формализации прикладных знаний и представлении результатов поиска решений
Описанный выше подход позволяет утверждать, что будущее за гибридными системами, сбалансированными в части применения нейросетевых технологий и технологий, основанных на простой логике.
