ИИ шагает по планете и входит в нашу повседневную жизнь. Но иногда преподносит сюрпризы. Некоторые из них - неприятные.

Моя электрическая газонокосилка начала выбивать в доме пробки.

Я решил с ней разобраться.

Агрегат состоит, грубо говоря, из несколько мудрёного включателя (с дополнительной кнопкой) и электромотора. Разберёмся, кто из них коротит. Так думал я. Вскрыв агрегат, я увидел ещё и конденсатор. Похоже, виновником был он.

Чтобы восстановить в голове школьные познания по физике конденсатора (ментальную модель) стал я расспрашивать про конденсатор ИИ (Copilot). Я задал ему две серии вопросов. Ответы ИИ в обоих случаях были логичны и последовательны, но … противоречили друг-другу.

Пришлось порыться в Википедии и физическом словаре. Оказалось, что ИИ был в обоих случаях прав. Но… конденсатор ведёт себя очень по-разному под постоянным током и под переменным током. 

Любой электрик первым делом спросил бы меня - а какой у тебя ток, постоянный или переменный? Я в своих вопросах напрямую тип тока не упоминал. А ИИ, не спрося меня об этом, «садился» на ту или иную «ветку» теории.

Для меня это пример, когда использование рекомендаций ИИ может оказаться очень опасным.

Думаю, таких областей, где поведение объектов очень различается в зависимости от контекста, очень много. И, насколько я понимаю, «напрямую» в  базирующихся на GPT технологиях эта проблема не решается. А догадываться о контексте на уровне «обвязок» тоже непонятно как.

А что думают по этому поводу специалисты по ИИ?

P.S. И, если вас это волнует - конденсатор я поменял и газонокосилка заработала. А виновник - на снимке.

Дополнение.

Я планировал написать очень короткую заметку, описывающую мой один конкретный опыт. Но по прочтению первых комментариев решил её дополнить упоминанием о собственных многочисленных экспериментах в области практического использования ИИ в программировании.

Последнее время я в своих проектах сравниваю два ассистента - платный GitHub Copilot и бесплатный (подозреваю - пока) - Gemini. (Кому интересно, некоторые из них я описывал в своей ТГ группе).

Оба весьма опаздывают за прогрессом (иногда спорным в Angular). Особенно этим грешит Github Copilot. Он предлагает решения с использованием фич, которые хорошо описаны, но уже помечены разработчиками Angular как deprecated.

А ведь это проблема, очень похожая на проблему с постоянным и переменным током. А именно: существуют два варианта технологии. Оба позволяют решить некую задачу. Разработчики предлагают использовать новый вариант их технологии, а ИИ, наученный на старых примерах, рекомендует вам старый.

Понятно, что проблема эта общая. В программировании компилятор подскажет программисту, что решение deprecated. А кто подскажет инженеру или врачу, если они начнут консультироваться с ИИ?