"Прошу так же ознакомится: " ознакомился. Одни заклинания, ни одного аргумента. Их и быть не может пока при анализе эмбеддинга не обнаружится связь семантической сущности с тем или иным элементом вектора или с группой элементов. Семантика "размазана" да ещё и нелинейно по всем элементам вектора. Какая тут локализация?
Хотим мы или не хотим, но мы не знаем что такое электрон, но получили законы Ома и др., и электронику используем повсеместно. Мы не знаем, что такое гравитация, но вывели законы баллистики, которые позволяют облететь Луну и вернуться на Землю. А если погрузиться в мир квантовых явлений, где нарушаются причинно-следственные связи и нельзя объяснить, но можно посчитать, то детерминизма там быть не может принципиально. А лазеры и светодиоды на каждом шагу и ничего, светят, да ещё длину волны меняют! Всё тоже и с LLM, ничего принципиально нового. Народ это знает и уже квантовые нейросети "строгает" (QGAN, Quantum VAE).
Просьба: пишите аргументы. Ссылка на чужие работы, тем более не модерированные - не самая хорошая форма дискуссии. Мои ссылки - это разъяснение моих аргументов.
"Статья о неприменимости результата ИИ агента, который формируется "принципиально недетерминированной" нейронкой.". Если прочитать эту фразу буквально, то её смысл: "Если вольтметр показывает непонятно какие результаты, то пользоваться им нельзя". Абсолютно согласен, это не вольтметр, а бракованное или сломанное изделие. Я говорю о том, что если на цифровом табло вольтметра последняя цифра самопроизвольно изменяется, и если диапазон этих изменений соответствует диапазону, указанному на этикетке чайника, то чайник порадует нас кипятком не один год. Можно поставить суперстабилизатор напряжения, но это будет дорого и чайник сломается от другой причины, например забыли налить воду. Вопрос лежит принципиально в другой плоскости. Мы не знаем как нейронные сети формируют ответ. Многолетние исследования Anthropic показывают, что результат определяется не только вероятностью следования слов, сформированной при обучении, но и некоторыми, непонятно как сформированными внутренними состояниями нейронной сети. На сайте Anthropic это подробно описано. Пока нет математических/логических оснований считать, что эти внутренние состояния могут быть объяснимы. Как один из примеров возможности применения принципиально не объяснимых объектов в критически важных системах свидетельствует работа в области квантовой криптографии. Посмотрите для начала А.Семихатова. Сто лет недосказанности. Москва, АНФ. 2025.
"Если результат зависит от скрытых параметров без возможности их локализации → система непригодна для критического применения." Много писать не буду ибо мышление человека именно так и работает. См работы Черниговской Татьяны Владимировны.
"ПСИ, и ваш софт начинает заказчику возвращать произвольные ответы ". Произвольные ответы и ПСИ понятия не совместимые. "Произвольные ответы" не равно "недетерминизм". Произвольные ответы это неправильно работающая система и к нашей теме эта ситуация отношения не имеет. В условиях недетерминизма многое определяет допустимый уровень недетерминизма. Если Заказчик понятия не имеет о стохастических процессах то для начала попросите его цифровым вольтметром несколько раз померить напряжение дома в розетке и посмотреть на последнюю цифру. Потом пусть посмотрит на этикетку на любом чайнике, на то место, где указано допустимое напряжение. Пусть Заказчик зайдет в три аптеки и попросит таблетки от головной боли и он многое для себя поймет, и возможно, глаза на многое откроет. Флуктуацию вакуума советую не упоминать.
"""невозможность демонстрации нейросетью детерминированных результатов следует считать опасной проблемой из-за непредсказуемости"" и другие подобные выводы слишком категоричны. Мир скорее стохастичен, чем детерминирован. Экспериментаторы говорят, что если прибор сто раз показывает одно и тоже значение, то или прибор неисправен или точность низкая. Надо уметь работать со случайными процессами. Классика: изучаешь закон распределения, строишь доверительные интервалы, сужаешь доверительные интервалы. С недетерминизмом встретился еще лет 5 назад на сверточных моделях и на Tensorflow и на Pytorch. Алгоритмы NVIDIA тоже "шумели", посмотрите их сайт - это задокументированная фишка. Благодаря недетерминизму удавалось получать очень интересные результаты, которые не получались при подавлении недетерминизма.
"план по организации курсов по обучению работе с искусственным интеллектом для пожилых заключенных" - и, видимо, есть план по трудоустройству??? Фантастика!
"ведь теперь находится идеально подходящее видео" - хотелось бы верить. Смелое заявления для Автора с такой кармой. Интересно с Qwen3-VL-Embedding сравнить
"Добавление нового домена — это набор промптов" Это было бы очень хорошо, но есть ощущение, что и embeddings надо будет адаптировать для каждого домена.
Прочитал с пребольшим удовольствием про МУ «Управление капитального ремонта г. Липецка», Знатно обогатился интеллектуально. Только не понял, причем тут IT? Уважаемый Автор, проясните пожалуйста, а то я совсем видимо в эмбеддингах разных заплутал!!!
Классический пример маркетинговых заклинаний: """Технологии совершили квантовый скачок. Инструменты вроде BotHub... """. Следующее сравнение будет с Бозоном Хиггса
Какая воспроизводимость у LLM, когда она ведет себя как семиклассница: 171 эмоция, психиатр и прямая связь с reward hacking — пробуем заглянуть внутрь Claude / Хабр. Через пяток годков перебесится, гормоны стабилизируются и будет хорошей прогнозируемой рабочей лошадкой.
"Прошу так же ознакомится: " ознакомился. Одни заклинания, ни одного аргумента. Их и быть не может пока при анализе эмбеддинга не обнаружится связь семантической сущности с тем или иным элементом вектора или с группой элементов. Семантика "размазана" да ещё и нелинейно по всем элементам вектора. Какая тут локализация?
Хотим мы или не хотим, но мы не знаем что такое электрон, но получили законы Ома и др., и электронику используем повсеместно. Мы не знаем, что такое гравитация, но вывели законы баллистики, которые позволяют облететь Луну и вернуться на Землю. А если погрузиться в мир квантовых явлений, где нарушаются причинно-следственные связи и нельзя объяснить, но можно посчитать, то детерминизма там быть не может принципиально. А лазеры и светодиоды на каждом шагу и ничего, светят, да ещё длину волны меняют! Всё тоже и с LLM, ничего принципиально нового. Народ это знает и уже квантовые нейросети "строгает" (QGAN, Quantum VAE).
Просьба: пишите аргументы. Ссылка на чужие работы, тем более не модерированные - не самая хорошая форма дискуссии. Мои ссылки - это разъяснение моих аргументов.
"Как и у многих маленьких команд, закупки у нас долго жили в полумагическом режиме: “ну мы же договоримся”. " - а нормально работать не пробовали?
"Статья о неприменимости результата ИИ агента, который формируется "принципиально недетерминированной" нейронкой.". Если прочитать эту фразу буквально, то её смысл: "Если вольтметр показывает непонятно какие результаты, то пользоваться им нельзя". Абсолютно согласен, это не вольтметр, а бракованное или сломанное изделие. Я говорю о том, что если на цифровом табло вольтметра последняя цифра самопроизвольно изменяется, и если диапазон этих изменений соответствует диапазону, указанному на этикетке чайника, то чайник порадует нас кипятком не один год. Можно поставить суперстабилизатор напряжения, но это будет дорого и чайник сломается от другой причины, например забыли налить воду. Вопрос лежит принципиально в другой плоскости. Мы не знаем как нейронные сети формируют ответ. Многолетние исследования Anthropic показывают, что результат определяется не только вероятностью следования слов, сформированной при обучении, но и некоторыми, непонятно как сформированными внутренними состояниями нейронной сети. На сайте Anthropic это подробно описано. Пока нет математических/логических оснований считать, что эти внутренние состояния могут быть объяснимы. Как один из примеров возможности применения принципиально не объяснимых объектов в критически важных системах свидетельствует работа в области квантовой криптографии. Посмотрите для начала А.Семихатова. Сто лет недосказанности. Москва, АНФ. 2025.
"Если результат зависит от скрытых параметров без возможности их локализации → система непригодна для критического применения." Много писать не буду ибо мышление человека именно так и работает. См работы Черниговской Татьяны Владимировны.
"ПСИ, и ваш софт начинает заказчику возвращать произвольные ответы ". Произвольные ответы и ПСИ понятия не совместимые. "Произвольные ответы" не равно "недетерминизм". Произвольные ответы это неправильно работающая система и к нашей теме эта ситуация отношения не имеет. В условиях недетерминизма многое определяет допустимый уровень недетерминизма. Если Заказчик понятия не имеет о стохастических процессах то для начала попросите его цифровым вольтметром несколько раз померить напряжение дома в розетке и посмотреть на последнюю цифру. Потом пусть посмотрит на этикетку на любом чайнике, на то место, где указано допустимое напряжение. Пусть Заказчик зайдет в три аптеки и попросит таблетки от головной боли и он многое для себя поймет, и возможно, глаза на многое откроет. Флуктуацию вакуума советую не упоминать.
Какая модель, какое железо?
"""невозможность демонстрации нейросетью детерминированных результатов следует считать опасной проблемой из-за непредсказуемости"" и другие подобные выводы слишком категоричны. Мир скорее стохастичен, чем детерминирован. Экспериментаторы говорят, что если прибор сто раз показывает одно и тоже значение, то или прибор неисправен или точность низкая. Надо уметь работать со случайными процессами. Классика: изучаешь закон распределения, строишь доверительные интервалы, сужаешь доверительные интервалы. С недетерминизмом встретился еще лет 5 назад на сверточных моделях и на Tensorflow и на Pytorch. Алгоритмы NVIDIA тоже "шумели", посмотрите их сайт - это задокументированная фишка. Благодаря недетерминизму удавалось получать очень интересные результаты, которые не получались при подавлении недетерминизма.
Альтернатива - комплекс самозванца. Очень интересная часть психической деятельности
Цифровые религиозные войны???
"план по организации курсов по обучению работе с искусственным интеллектом для пожилых заключенных" - и, видимо, есть план по трудоустройству??? Фантастика!
Отличное решение! Всё работает и без эмбеддингов, без СЕМАНТИЧЕСКОГО ПОИСКА.
"ведь теперь находится идеально подходящее видео" - хотелось бы верить. Смелое заявления для Автора с такой кармой. Интересно с Qwen3-VL-Embedding сравнить
Согласен, с пребольшим сожалением....
"Добавление нового домена — это набор промптов" Это было бы очень хорошо, но есть ощущение, что и embeddings надо будет адаптировать для каждого домена.
" RAG от гугла (в три строчки) " - это RAG Vertex AI ?
Обзор движка RAG Vertex AI | Генеративный ИИ на Vertex AI | Документация Google Cloud
Прочитал с пребольшим удовольствием про МУ «Управление капитального ремонта г. Липецка», Знатно обогатился интеллектуально. Только не понял, причем тут IT? Уважаемый Автор, проясните пожалуйста, а то я совсем видимо в эмбеддингах разных заплутал!!!
Классический пример маркетинговых заклинаний: """Технологии совершили квантовый скачок. Инструменты вроде BotHub... """. Следующее сравнение будет с Бозоном Хиггса
Где-то я слышал, что тендер выигрывается ещё до его объявления. Интересно, как этот момент ваш ИИ обеспечит?
" всвязи с чем вае был конвертирован" - сразу видно, что не GPT писал и это уже нравиться!
"И эти люди нам рассказывают о галлюцинациях GPT и не разрешают пальчиком в носу поковырять?"