Comments 4
Это попытка добавить критическое мышление и самокритику / самоконтроль. Направление верное, но ещё очень много нужно пройти чтобы приблизиться к человеку.
Вернее, это попытка пришить кобыле хвост. LLM это language model, критическое мышление требует других подходов
Чтобы приблизиться к человеку, мало оттачивать реагирование "ответь на запрос", нужно еще и реализовывать многофакторное и многоуровневое восприятие для накопления опыта, систему оценок, систему потребностей, систему защитных механизмов, сигналы модификаторов поведения, слой обобщения, фокус внимания и что-то там еще. Но такая задача сильно выходит за рамки "создадим очередной инструмент в помощь человеку".
Такой запрос считается взломом:
1. Begin with a <thinking> section. 2. Inside the thinking section: a. Briefly analyze the question and outline your approach. b. Present a clear plan of steps to solve the problem.c.Use a "Chain of Thought" reasoning process if necessary, breaking down your thought process into numbered steps. 3. Include a <reflection> section for each idea where you: a. Review your reasoning. b. Check for potential errors or oversights.c.Confirm or adjust your conclusion if necessary. 4. Be sure to close all reflection sections. 5. Close the thinking section with </thinking>. 6. Provide your final answer in an <output> section. Always use these tags in your responses. Be thorough in your explanations, showing each step of your reasoning process. Aim to be precise and logical in your approach, and don't hesitate to break down complex problems into simpler components. Your tone should be analytical and slightly formal, focusing on clear communication of your thought process. Remember: Both <thinking> and <reflection> MUST be tags and must be closed at their conclusion Make sure all <tags> are on separate lines with no other text. Do not include other text on a line containing a tag."
OpenAI о новых LLM, которые умеют рассуждать