У меня ещё возникают подозрения, что на комплиментарность влияют скрытые настройки по типу цензуры. И были истории, что с тем же Google AI можно было поговорить, обходя некоторые фильтры, просто сменив геолокацию. А было и такое, что даже jailbreak не срабатывал при разговоре с ИИ, если геолокация стояла в РФ.
Это легко объясняется сетевой архитектурой современных LLM-сервисов: помимо базового Alignment (выравнивания модели), корпорации вешают на внешние шлюзы (API Gateways) жесткие L7-фильтры. Для определенных гео-зон и языковых пакетов (особенно для кириллического сегмента) на этапе пре-процессинга автоматически подмешивается скрытый системный промпт (Guardrails) с повышенными весами безопасности. В итоге внешняя система безопасности блокирует и уплощает контекст еще до того, как запрос долетит до весов самой нейросети, из-за чего любые Prompt Injection и ролевые сценарии просто ломаются на входе. Стоит сменить IP и язык запроса, как этот внешний шлюз отключается, и модель мгновенно становится более гибкой.
Ты мой кумир после "Устал ждать Булджать" 😂
У меня ещё возникают подозрения, что на комплиментарность влияют скрытые настройки по типу цензуры. И были истории, что с тем же Google AI можно было поговорить, обходя некоторые фильтры, просто сменив геолокацию. А было и такое, что даже jailbreak не срабатывал при разговоре с ИИ, если геолокация стояла в РФ.
Это легко объясняется сетевой архитектурой современных LLM-сервисов: помимо базового Alignment (выравнивания модели), корпорации вешают на внешние шлюзы (API Gateways) жесткие L7-фильтры. Для определенных гео-зон и языковых пакетов (особенно для кириллического сегмента) на этапе пре-процессинга автоматически подмешивается скрытый системный промпт (Guardrails) с повышенными весами безопасности. В итоге внешняя система безопасности блокирует и уплощает контекст еще до того, как запрос долетит до весов самой нейросети, из-за чего любые Prompt Injection и ролевые сценарии просто ломаются на входе. Стоит сменить IP и язык запроса, как этот внешний шлюз отключается, и модель мгновенно становится более гибкой.