Какое отношение затронутая тема вообще имеет к галлюцинации ИИ? То что он отвечает на запрещённый вопрос связано с самим принципом работы ИИ. Он не осознает вопроса, более того он не осознает и собственного ответа. Для него весь диалог выглядит вот так: бла бла бла? Бла 12 бла бла 42..
Кстати для справки галлюцинации ИИ это не побочный продукт, а сам принцип работы трансформера в llm. Без него он не выводе просто не даст никакого ответа.
Больше похоже на какой то челлендж, чем на реальную ситуацию. На написание и отладку всей этой ерунды ушло больше времени чем это заняло бы по старинке. Хотя чему удивляться, у меня был похожий случай. Приехали с России 5 программистов и стали заполнять документы на устройство на работу. В итоге зачем-то полезли в код (и даже драйвера принтера) и начали писать скрипт вместо того, чтобы за 5 минут в 3 документа закопипастить свои данные. В общем своя альтернативная логика.
Это базовый принцип трансформера. Он вычисляет вероятность (предсказывает) несколько вариантов следующего слова, а потом через генератор случайных чисел выбирает какое из них использовать. И так с каждым словом в тексте. В итоге вся выдача это галлюцинация от первой буквы до последней. Но как рыбу использовать можно.
На самом деле это не имеет смысла, так как такая конструкция ног для робопса гарантирует что он зацепится передней ногой за ветку или запутается в траве. Животные не только видят, но и чувствуют куда идут и чего касаются
Он это уже давно делает. Если об этом указано в промпте
Какое отношение затронутая тема вообще имеет к галлюцинации ИИ? То что он отвечает на запрещённый вопрос связано с самим принципом работы ИИ. Он не осознает вопроса, более того он не осознает и собственного ответа. Для него весь диалог выглядит вот так: бла бла бла? Бла 12 бла бла 42..
Кстати для справки галлюцинации ИИ это не побочный продукт, а сам принцип работы трансформера в llm. Без него он не выводе просто не даст никакого ответа.
Больше похоже на какой то челлендж, чем на реальную ситуацию. На написание и отладку всей этой ерунды ушло больше времени чем это заняло бы по старинке. Хотя чему удивляться, у меня был похожий случай. Приехали с России 5 программистов и стали заполнять документы на устройство на работу. В итоге зачем-то полезли в код (и даже драйвера принтера) и начали писать скрипт вместо того, чтобы за 5 минут в 3 документа закопипастить свои данные. В общем своя альтернативная логика.
Это базовый принцип трансформера. Он вычисляет вероятность (предсказывает) несколько вариантов следующего слова, а потом через генератор случайных чисел выбирает какое из них использовать. И так с каждым словом в тексте. В итоге вся выдача это галлюцинация от первой буквы до последней. Но как рыбу использовать можно.
На самом деле это не имеет смысла, так как такая конструкция ног для робопса гарантирует что он зацепится передней ногой за ветку или запутается в траве. Животные не только видят, но и чувствуют куда идут и чего касаются