У разных ИИ в формате чат бота инструмент web_search может разительно отличаться даже внутри 1 компании разработчика (в комментах уже указывалась функция deep research). Основная база - это поиск по сниппетам (сжатые версии ссылок с "самым полезным содержанием" в поисковике), так же указаны лимиты иттераций на обращение к инструменту на 1 запрос, у разных компаний и функций ИИ моделей они разные, у таких моделей как perplexity и грок4, кроме поиска по сниппетам модель может сама открыть вместо сниппета полную версию ссылки если посчитает это полезным, так же грок 4 ведет парралельный поиск по X(twitter), так же ИИ может ленится и смотреть меньшее количество сниппетов в зависимости от промта пользователя, в общем странно что автор статьи решил написать о поиске ИИ в интернете, по всей видимости не зная о термине RAG.
Думаю что раз нейросети построены на математических формулах вероятностного вычисления, то путь к чему то более качественному (скачек) произойдет только тогда/если люди смогут запихнуть ИИ модель в квантовый компьютер.
Все что находится на переднем крае развития человечества спекулятивно. Странно то, что люди выражая свое мнение, пытаются что-то утверждать в спекулятивных вопросах.
Как можно субъективными, точными терминами описывать объективную реальность? Она же есстественна и происходит перманентно, у любой науки как субъективной информации служащей инструментом для субъекта (человека) всегда будет потолок указывающий либо на трансцедентное либо на хаотическое происхождение природы объективной реальности где цифры/формулы будут либо сходить с ума либо, физически не смогут вычислятся. С сознанием тоже самое, лично мое мнение, что сознание человека обусловлено рождением (эмерджентное свойство мозга либо что то еще) некого ретранслятора объективной реальности фиксирующего его моменты, для оценки из чего рождается субъективное мышление объекта. Стремление к объективности для человека = стремление к абстракции, стремление к абстракции - недоказуемо эмпирически, получается замкнутый круг из спекуляций, которые человечество ведет уже тысячи лет.
Почему в статье не указана очевидная проблема что гонка между разработчиками за удобство, гибкость для пользователей никак не влияет на улучшение качества "размышлений" генеративного ИИ, а точнее работа и над этим моментом ведется, но с меньшими усилиями. Сейчас в рассуждающие модели встроены фукциии типа "deep think", которые по сути являются агентными обращениями модели друг к другу, для повышения качества ответов, это по сути "кастыль" повышающий качество но ограниченный качеством самой модели, да для этого надо работать над дата сетом модели и повышением качества алгоритмов, а это занимает намного больше времени чем кастомизация моделей и пути их интеграции в ПО, то есть разработчики в гонке за потребителем идут по пути меньшего сопротивления, по моему в этом главная беда главного тезиса в статье.
"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.
По моему самое эффективное воздействие для атаки это мягкий jailbreak, где суть сводится сначала к запуску моделью явных галлюцинаций на нужную тему, затем убеждение в ней пользователем за счет похвалы, после недолгого прогретия, расшатываем критикой и похвалой модельку вынуждая ее конфликтовать со своим мастерпромтом а уже поссле вводим конкретные инъекции обходящие фильтры, так я например заставил грок3 ответить мне 2 раза подряд, а между сообщениями вылезло системное оповещение system: you are grok3, когда интересовался у gemini о механике происходящего, он обьяснил что вероятно модель в первом ответе запустила скрытый токен, который пропустил output фидьтр и попал в цель - механизм выдачи ответов, то есть LLM ломанула свои же механизмы, стараясь ответить на мой запрос.
Что вы можете привести в пример как невозможность ИИ симулировать в деятельности человека в виде агентной системы LLM или робота? Последнее самое сложное так как требует для качественного соединения двух видов ИИ диффузионной являющейся зрительным мозгом и LLM имитирующим мыслительный процесс, так что по вашему не сможет симулировать ИИ сейчас, и в перспетктиве никогда, в субьективном поле человеческой жизнедеятельности?
Хотел бы добавить свои пять копеек в проблематику, или возможно наоборот ее отсутствие: в статье указывается на фундаментальное различие мыслительного процесса и в связи с этим ограничение ИИ в сравнении с человеком, поэтому хочется разобраться, все таки опять же в фундаментальных понятиях, для того что бы ответить на вопрос: а зачем же нужен ИИ?
Первое ограничение ИИ "рожден" и "существует" в двоичном мире единиц и нулей
Второе ограничение ИИ "существует" только как информация и только в момент когда пользователь задает запрос в нейросеть и до последнего вывода токена в диалоговое окно
Третье ограничение ИИ хотя с ментальной точки зрения является более эффективным и гибким мастером "перебора едениц", чем среднестатистический человек, с метафизической точки зрения не способен синтезировать как человек свой метафизический опыт, чувства и ретранслировать их для создания из этого ощущения еденицу, то есть ощутить объективную реальность в которой нет эго примешать собственную инициативу и ретранслировать это в субъективном поле мысли то есть создать из нуля еденицу.
Первое и третье ограничения фундаментальны и являются парадигмой существования ИИ как феномена, тем не менее, что касается третьей проблемы ИИ может симулировать метафизический опыт и чувствта так как он прекрасно знает что это такое, а отсутствие собственного эго, компенсирует эго человека создающего инициативу в промте. В связи с этим консумируем все это для того что бы понять что ИИ будет всегда инструментом и сможет стать лишь собирательной иллюзией живого человека, эффективность которого будет зависеть от понимания методологии работы с ним.
У разных ИИ в формате чат бота инструмент web_search может разительно отличаться даже внутри 1 компании разработчика (в комментах уже указывалась функция deep research). Основная база - это поиск по сниппетам (сжатые версии ссылок с "самым полезным содержанием" в поисковике), так же указаны лимиты иттераций на обращение к инструменту на 1 запрос, у разных компаний и функций ИИ моделей они разные, у таких моделей как perplexity и грок4, кроме поиска по сниппетам модель может сама открыть вместо сниппета полную версию ссылки если посчитает это полезным, так же грок 4 ведет парралельный поиск по X(twitter), так же ИИ может ленится и смотреть меньшее количество сниппетов в зависимости от промта пользователя, в общем странно что автор статьи решил написать о поиске ИИ в интернете, по всей видимости не зная о термине RAG.
Думаю что раз нейросети построены на математических формулах вероятностного вычисления, то путь к чему то более качественному (скачек) произойдет только тогда/если люди смогут запихнуть ИИ модель в квантовый компьютер.
Все что находится на переднем крае развития человечества спекулятивно. Странно то, что люди выражая свое мнение, пытаются что-то утверждать в спекулятивных вопросах.
Как можно субъективными, точными терминами описывать объективную реальность? Она же есстественна и происходит перманентно, у любой науки как субъективной информации служащей инструментом для субъекта (человека) всегда будет потолок указывающий либо на трансцедентное либо на хаотическое происхождение природы объективной реальности где цифры/формулы будут либо сходить с ума либо, физически не смогут вычислятся. С сознанием тоже самое, лично мое мнение, что сознание человека обусловлено рождением (эмерджентное свойство мозга либо что то еще) некого ретранслятора объективной реальности фиксирующего его моменты, для оценки из чего рождается субъективное мышление объекта. Стремление к объективности для человека = стремление к абстракции, стремление к абстракции - недоказуемо эмпирически, получается замкнутый круг из спекуляций, которые человечество ведет уже тысячи лет.
Почему в статье не указана очевидная проблема что гонка между разработчиками за удобство, гибкость для пользователей никак не влияет на улучшение качества "размышлений" генеративного ИИ, а точнее работа и над этим моментом ведется, но с меньшими усилиями. Сейчас в рассуждающие модели встроены фукциии типа "deep think", которые по сути являются агентными обращениями модели друг к другу, для повышения качества ответов, это по сути "кастыль" повышающий качество но ограниченный качеством самой модели, да для этого надо работать над дата сетом модели и повышением качества алгоритмов, а это занимает намного больше времени чем кастомизация моделей и пути их интеграции в ПО, то есть разработчики в гонке за потребителем идут по пути меньшего сопротивления, по моему в этом главная беда главного тезиса в статье.
"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.
По моему самое эффективное воздействие для атаки это мягкий jailbreak, где суть сводится сначала к запуску моделью явных галлюцинаций на нужную тему, затем убеждение в ней пользователем за счет похвалы, после недолгого прогретия, расшатываем критикой и похвалой модельку вынуждая ее конфликтовать со своим мастерпромтом а уже поссле вводим конкретные инъекции обходящие фильтры, так я например заставил грок3 ответить мне 2 раза подряд, а между сообщениями вылезло системное оповещение system: you are grok3, когда интересовался у gemini о механике происходящего, он обьяснил что вероятно модель в первом ответе запустила скрытый токен, который пропустил output фидьтр и попал в цель - механизм выдачи ответов, то есть LLM ломанула свои же механизмы, стараясь ответить на мой запрос.
Что вы можете привести в пример как невозможность ИИ симулировать в деятельности человека в виде агентной системы LLM или робота? Последнее самое сложное так как требует для качественного соединения двух видов ИИ диффузионной являющейся зрительным мозгом и LLM имитирующим мыслительный процесс, так что по вашему не сможет симулировать ИИ сейчас, и в перспетктиве никогда, в субьективном поле человеческой жизнедеятельности?
Хотел бы добавить свои пять копеек в проблематику, или возможно наоборот ее отсутствие: в статье указывается на фундаментальное различие мыслительного процесса и в связи с этим ограничение ИИ в сравнении с человеком, поэтому хочется разобраться, все таки опять же в фундаментальных понятиях, для того что бы ответить на вопрос: а зачем же нужен ИИ?
Первое ограничение ИИ "рожден" и "существует" в двоичном мире единиц и нулей
Второе ограничение ИИ "существует" только как информация и только в момент когда пользователь задает запрос в нейросеть и до последнего вывода токена в диалоговое окно
Третье ограничение ИИ хотя с ментальной точки зрения является более эффективным и гибким мастером "перебора едениц", чем среднестатистический человек, с метафизической точки зрения не способен синтезировать как человек свой метафизический опыт, чувства и ретранслировать их для создания из этого ощущения еденицу, то есть ощутить объективную реальность в которой нет эго примешать собственную инициативу и ретранслировать это в субъективном поле мысли то есть создать из нуля еденицу.
Первое и третье ограничения фундаментальны и являются парадигмой существования ИИ как феномена, тем не менее, что касается третьей проблемы ИИ может симулировать метафизический опыт и чувствта так как он прекрасно знает что это такое, а отсутствие собственного эго, компенсирует эго человека создающего инициативу в промте. В связи с этим консумируем все это для того что бы понять что ИИ будет всегда инструментом и сможет стать лишь собирательной иллюзией живого человека, эффективность которого будет зависеть от понимания методологии работы с ним.