Вы правильно заметили. К данному вопросу можно подойти и с этой стороны, создать смысловую модель. Это можно сделать, скажем, если вместо слов на вход модели подавать категориальные признаки. Например, " для решения использовать круглую форму" или "для решения переиспользовать электрическое поле" и т.д. Однако в этом случае придется формировать обучающую выборку вручную. Можно сделать гибрид, который будет получать на вход текстовое описание и некоторый вектор "идеи", содержащий информацию о физических и химических эффектах.
Согласен с вами, глубокого понимания проблемы в решениях нейронной сети нет. Она просто тригерит на определенные слова в описании задачи, и если "вспоминает" что-то близкое из обучающей выборки, то выдает похожий ответ. Иногда, то что она "вспомнила" имеет смысл, иногда нет. Собственно говоря, похожие слова критики звучат в адрес проекта Github Copilot, который также работает на больших языковых моделях
Самому стало интересно, переформулировал задачу следующим образом уже безвакуума: "Изобретение относится к осветительной технике.[SEP] Цель изобретения повышение прочности места соединение цоколя лампы со стеклянной колбой.[SEP] Известна лампа накаливания, содержащая нить вольфрама, колба которой заполнена инертным газом.[SEP] Недостатком является низкая прочность колбы в месте соединение цоколя, при механических воздействиях, которые могут возникать при сильных вибрациях в конструкции." На выходе получил ответ: "... отличающаяся тем, что с целью повышения прочности места соединение цоколя лампы со стеклянной колбой она снабжена под углом к вертикальной оси шкворня." Вообщем ответ получился совсем другой, не похоже конечно, что он несет большой смысл
Текущая версия нейронной сети может очень сильно менять свои ответы в зависимости от наличия определенных слов в формулировке. В данном случае нейронная сеть обратила внимание на словосочетание перепад давления, поэтому и выдала такой ответ. Конечно никакого большого понимания контекста задачи там нет, о чем и написано в последнем абзаце статьи. Но кто знает, что исследователи искусственного интеллекта смогут придумать в будущем.
Вы правильно заметили. К данному вопросу можно подойти и с этой стороны, создать смысловую модель. Это можно сделать, скажем, если вместо слов на вход модели подавать категориальные признаки. Например, " для решения использовать круглую форму" или "для решения переиспользовать электрическое поле" и т.д. Однако в этом случае придется формировать обучающую выборку вручную. Можно сделать гибрид, который будет получать на вход текстовое описание и некоторый вектор "идеи", содержащий информацию о физических и химических эффектах.
Согласен с вами, глубокого понимания проблемы в решениях нейронной сети нет. Она просто тригерит на определенные слова в описании задачи, и если "вспоминает" что-то близкое из обучающей выборки, то выдает похожий ответ. Иногда, то что она "вспомнила" имеет смысл, иногда нет. Собственно говоря, похожие слова критики звучат в адрес проекта Github Copilot, который также работает на больших языковых моделях
Самому стало интересно, переформулировал задачу следующим образом уже без вакуума: "Изобретение относится к осветительной технике.[SEP] Цель изобретения повышение прочности места соединение цоколя лампы со стеклянной колбой.[SEP] Известна лампа накаливания, содержащая нить вольфрама, колба которой заполнена инертным газом.[SEP] Недостатком является низкая прочность колбы в месте соединение цоколя, при механических воздействиях, которые могут возникать при сильных вибрациях в конструкции." На выходе получил ответ: "... отличающаяся тем, что с целью повышения прочности места соединение цоколя лампы со стеклянной колбой она снабжена под углом к вертикальной оси шкворня." Вообщем ответ получился совсем другой, не похоже конечно, что он несет большой смысл
Текущая версия нейронной сети может очень сильно менять свои ответы в зависимости от наличия определенных слов в формулировке. В данном случае нейронная сеть обратила внимание на словосочетание перепад давления, поэтому и выдала такой ответ. Конечно никакого большого понимания контекста задачи там нет, о чем и написано в последнем абзаце статьи. Но кто знает, что исследователи искусственного интеллекта смогут придумать в будущем.