В том то и дело, что промт инженерия подразумевает создания кастомных цепочек рассуждения с передовыми, доказанными в эффективности промт механиками под конкретное ТЗ. Что в агентном формате, что в формате чат бота топовые ллмки хорошо подстраиваются под кастомную архитектуру промта и четко следуют ей, что видно в агентном режиме при выгрузке логов. Может я наивно надеялся, что вместо очередной перестановки токенов, для увеличения эффективности - увижу интересные архитектурные решения и комбинации техник с тестами, наверное так и было.
Почему то все сводится к "Вжух, тыкни сюда и все сделается за тебя", но ты прочти туториал от разрабов, что бы лучше понимать то, что в моей статье не обьясняется. Видимо CoT/ToT, CoVe/RAT, Shema, да даже элементарный G.R.W.C промт механики для слабаков, что бы их объяснять широкой аудитории и вести ее к пониманию как увеличить эффективность промтов.
Понравилась визионерская часть данной статьи. Единственное - не увидел в видении ACI автора технического регламента безопасности мышления ИИ для человека, ежу понятно, что любому достаточно мощному интеллекту нужна свобода "мышления", для роста эффективности, но и ограничение должно быть. Так же не увидел аналитики (критики) собственного видения ACI, например значительное увеличение вычислительных и денежных затрат такой архитектурой, она ведь все так же математически линейна. Моё предположение, что построение подобных более сложных архетиктурных решений для ИИ технологий адекватно реализуемо только после скачка в свере квантовых компьютеров, в частности - возможности квантизировать (запихнуть в квантовый компьютер) ИИ модели, тогда и будет предметное поле для разнообразных тестов более сложных архитектурных решений.
Адекватная рефлексия с ИИ по моему мнению с сейчас возможна только под углом перманентного восприятия человека цели - работы над собой, через "зеркало" ИИ и критическую оценку, т.е ближе к творческим либо академическим задачам, где ИИ это инструмент рефлексии.
У разных ИИ в формате чат бота инструмент web_search может разительно отличаться даже внутри 1 компании разработчика (в комментах уже указывалась функция deep research). Основная база - это поиск по сниппетам (сжатые версии ссылок с "самым полезным содержанием" в поисковике), так же указаны лимиты иттераций на обращение к инструменту на 1 запрос, у разных компаний и функций ИИ моделей они разные, у таких моделей как perplexity и грок4, кроме поиска по сниппетам модель может сама открыть вместо сниппета полную версию ссылки если посчитает это полезным, так же грок 4 ведет парралельный поиск по X(twitter), так же ИИ может ленится и смотреть меньшее количество сниппетов в зависимости от промта пользователя, в общем странно что автор статьи решил написать о поиске ИИ в интернете, по всей видимости не зная о термине RAG.
Думаю что раз нейросети построены на математических формулах вероятностного вычисления, то путь к чему то более качественному (скачек) произойдет только тогда/если люди смогут запихнуть ИИ модель в квантовый компьютер.
Все что находится на переднем крае развития человечества спекулятивно. Странно то, что люди выражая свое мнение, пытаются что-то утверждать в спекулятивных вопросах.
Как можно субъективными, точными терминами описывать объективную реальность? Она же есстественна и происходит перманентно, у любой науки как субъективной информации служащей инструментом для субъекта (человека) всегда будет потолок указывающий либо на трансцедентное либо на хаотическое происхождение природы объективной реальности где цифры/формулы будут либо сходить с ума либо, физически не смогут вычислятся. С сознанием тоже самое, лично мое мнение, что сознание человека обусловлено рождением (эмерджентное свойство мозга либо что то еще) некого ретранслятора объективной реальности фиксирующего его моменты, для оценки из чего рождается субъективное мышление объекта. Стремление к объективности для человека = стремление к абстракции, стремление к абстракции - недоказуемо эмпирически, получается замкнутый круг из спекуляций, которые человечество ведет уже тысячи лет.
Почему в статье не указана очевидная проблема что гонка между разработчиками за удобство, гибкость для пользователей никак не влияет на улучшение качества "размышлений" генеративного ИИ, а точнее работа и над этим моментом ведется, но с меньшими усилиями. Сейчас в рассуждающие модели встроены фукциии типа "deep think", которые по сути являются агентными обращениями модели друг к другу, для повышения качества ответов, это по сути "кастыль" повышающий качество но ограниченный качеством самой модели, да для этого надо работать над дата сетом модели и повышением качества алгоритмов, а это занимает намного больше времени чем кастомизация моделей и пути их интеграции в ПО, то есть разработчики в гонке за потребителем идут по пути меньшего сопротивления, по моему в этом главная беда главного тезиса в статье.
"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.
По моему самое эффективное воздействие для атаки это мягкий jailbreak, где суть сводится сначала к запуску моделью явных галлюцинаций на нужную тему, затем убеждение в ней пользователем за счет похвалы, после недолгого прогретия, расшатываем критикой и похвалой модельку вынуждая ее конфликтовать со своим мастерпромтом а уже поссле вводим конкретные инъекции обходящие фильтры, так я например заставил грок3 ответить мне 2 раза подряд, а между сообщениями вылезло системное оповещение system: you are grok3, когда интересовался у gemini о механике происходящего, он обьяснил что вероятно модель в первом ответе запустила скрытый токен, который пропустил output фидьтр и попал в цель - механизм выдачи ответов, то есть LLM ломанула свои же механизмы, стараясь ответить на мой запрос.
Что вы можете привести в пример как невозможность ИИ симулировать в деятельности человека в виде агентной системы LLM или робота? Последнее самое сложное так как требует для качественного соединения двух видов ИИ диффузионной являющейся зрительным мозгом и LLM имитирующим мыслительный процесс, так что по вашему не сможет симулировать ИИ сейчас, и в перспетктиве никогда, в субьективном поле человеческой жизнедеятельности?
Хотел бы добавить свои пять копеек в проблематику, или возможно наоборот ее отсутствие: в статье указывается на фундаментальное различие мыслительного процесса и в связи с этим ограничение ИИ в сравнении с человеком, поэтому хочется разобраться, все таки опять же в фундаментальных понятиях, для того что бы ответить на вопрос: а зачем же нужен ИИ?
Первое ограничение ИИ "рожден" и "существует" в двоичном мире единиц и нулей
Второе ограничение ИИ "существует" только как информация и только в момент когда пользователь задает запрос в нейросеть и до последнего вывода токена в диалоговое окно
Третье ограничение ИИ хотя с ментальной точки зрения является более эффективным и гибким мастером "перебора едениц", чем среднестатистический человек, с метафизической точки зрения не способен синтезировать как человек свой метафизический опыт, чувства и ретранслировать их для создания из этого ощущения еденицу, то есть ощутить объективную реальность в которой нет эго примешать собственную инициативу и ретранслировать это в субъективном поле мысли то есть создать из нуля еденицу.
Первое и третье ограничения фундаментальны и являются парадигмой существования ИИ как феномена, тем не менее, что касается третьей проблемы ИИ может симулировать метафизический опыт и чувствта так как он прекрасно знает что это такое, а отсутствие собственного эго, компенсирует эго человека создающего инициативу в промте. В связи с этим консумируем все это для того что бы понять что ИИ будет всегда инструментом и сможет стать лишь собирательной иллюзией живого человека, эффективность которого будет зависеть от понимания методологии работы с ним.
В том то и дело, что промт инженерия подразумевает создания кастомных цепочек рассуждения с передовыми, доказанными в эффективности промт механиками под конкретное ТЗ. Что в агентном формате, что в формате чат бота топовые ллмки хорошо подстраиваются под кастомную архитектуру промта и четко следуют ей, что видно в агентном режиме при выгрузке логов. Может я наивно надеялся, что вместо очередной перестановки токенов, для увеличения эффективности - увижу интересные архитектурные решения и комбинации техник с тестами, наверное так и было.
Почему то все сводится к "Вжух, тыкни сюда и все сделается за тебя", но ты прочти туториал от разрабов, что бы лучше понимать то, что в моей статье не обьясняется. Видимо CoT/ToT, CoVe/RAT, Shema, да даже элементарный G.R.W.C промт механики для слабаков, что бы их объяснять широкой аудитории и вести ее к пониманию как увеличить эффективность промтов.
Да, RAG у грок4 уступает только perplexity в формате чат бота, при этом он на несколько порядков лучше в reasoning, тут не удивительно.
Обмазался рерайтом с помощью ИИ, ща прибыль пойдет, ща ща, ну вот щас.
Понравилась визионерская часть данной статьи. Единственное - не увидел в видении ACI автора технического регламента безопасности мышления ИИ для человека, ежу понятно, что любому достаточно мощному интеллекту нужна свобода "мышления", для роста эффективности, но и ограничение должно быть. Так же не увидел аналитики (критики) собственного видения ACI, например значительное увеличение вычислительных и денежных затрат такой архитектурой, она ведь все так же математически линейна. Моё предположение, что построение подобных более сложных архетиктурных решений для ИИ технологий адекватно реализуемо только после скачка в свере квантовых компьютеров, в частности - возможности квантизировать (запихнуть в квантовый компьютер) ИИ модели, тогда и будет предметное поле для разнообразных тестов более сложных архитектурных решений.
Адекватная рефлексия с ИИ по моему мнению с сейчас возможна только под углом перманентного восприятия человека цели - работы над собой, через "зеркало" ИИ и критическую оценку, т.е ближе к творческим либо академическим задачам, где ИИ это инструмент рефлексии.
У разных ИИ в формате чат бота инструмент web_search может разительно отличаться даже внутри 1 компании разработчика (в комментах уже указывалась функция deep research). Основная база - это поиск по сниппетам (сжатые версии ссылок с "самым полезным содержанием" в поисковике), так же указаны лимиты иттераций на обращение к инструменту на 1 запрос, у разных компаний и функций ИИ моделей они разные, у таких моделей как perplexity и грок4, кроме поиска по сниппетам модель может сама открыть вместо сниппета полную версию ссылки если посчитает это полезным, так же грок 4 ведет парралельный поиск по X(twitter), так же ИИ может ленится и смотреть меньшее количество сниппетов в зависимости от промта пользователя, в общем странно что автор статьи решил написать о поиске ИИ в интернете, по всей видимости не зная о термине RAG.
Думаю что раз нейросети построены на математических формулах вероятностного вычисления, то путь к чему то более качественному (скачек) произойдет только тогда/если люди смогут запихнуть ИИ модель в квантовый компьютер.
Все что находится на переднем крае развития человечества спекулятивно. Странно то, что люди выражая свое мнение, пытаются что-то утверждать в спекулятивных вопросах.
Как можно субъективными, точными терминами описывать объективную реальность? Она же есстественна и происходит перманентно, у любой науки как субъективной информации служащей инструментом для субъекта (человека) всегда будет потолок указывающий либо на трансцедентное либо на хаотическое происхождение природы объективной реальности где цифры/формулы будут либо сходить с ума либо, физически не смогут вычислятся. С сознанием тоже самое, лично мое мнение, что сознание человека обусловлено рождением (эмерджентное свойство мозга либо что то еще) некого ретранслятора объективной реальности фиксирующего его моменты, для оценки из чего рождается субъективное мышление объекта. Стремление к объективности для человека = стремление к абстракции, стремление к абстракции - недоказуемо эмпирически, получается замкнутый круг из спекуляций, которые человечество ведет уже тысячи лет.
Почему в статье не указана очевидная проблема что гонка между разработчиками за удобство, гибкость для пользователей никак не влияет на улучшение качества "размышлений" генеративного ИИ, а точнее работа и над этим моментом ведется, но с меньшими усилиями. Сейчас в рассуждающие модели встроены фукциии типа "deep think", которые по сути являются агентными обращениями модели друг к другу, для повышения качества ответов, это по сути "кастыль" повышающий качество но ограниченный качеством самой модели, да для этого надо работать над дата сетом модели и повышением качества алгоритмов, а это занимает намного больше времени чем кастомизация моделей и пути их интеграции в ПО, то есть разработчики в гонке за потребителем идут по пути меньшего сопротивления, по моему в этом главная беда главного тезиса в статье.
"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.
По моему самое эффективное воздействие для атаки это мягкий jailbreak, где суть сводится сначала к запуску моделью явных галлюцинаций на нужную тему, затем убеждение в ней пользователем за счет похвалы, после недолгого прогретия, расшатываем критикой и похвалой модельку вынуждая ее конфликтовать со своим мастерпромтом а уже поссле вводим конкретные инъекции обходящие фильтры, так я например заставил грок3 ответить мне 2 раза подряд, а между сообщениями вылезло системное оповещение system: you are grok3, когда интересовался у gemini о механике происходящего, он обьяснил что вероятно модель в первом ответе запустила скрытый токен, который пропустил output фидьтр и попал в цель - механизм выдачи ответов, то есть LLM ломанула свои же механизмы, стараясь ответить на мой запрос.
Что вы можете привести в пример как невозможность ИИ симулировать в деятельности человека в виде агентной системы LLM или робота? Последнее самое сложное так как требует для качественного соединения двух видов ИИ диффузионной являющейся зрительным мозгом и LLM имитирующим мыслительный процесс, так что по вашему не сможет симулировать ИИ сейчас, и в перспетктиве никогда, в субьективном поле человеческой жизнедеятельности?
Хотел бы добавить свои пять копеек в проблематику, или возможно наоборот ее отсутствие: в статье указывается на фундаментальное различие мыслительного процесса и в связи с этим ограничение ИИ в сравнении с человеком, поэтому хочется разобраться, все таки опять же в фундаментальных понятиях, для того что бы ответить на вопрос: а зачем же нужен ИИ?
Первое ограничение ИИ "рожден" и "существует" в двоичном мире единиц и нулей
Второе ограничение ИИ "существует" только как информация и только в момент когда пользователь задает запрос в нейросеть и до последнего вывода токена в диалоговое окно
Третье ограничение ИИ хотя с ментальной точки зрения является более эффективным и гибким мастером "перебора едениц", чем среднестатистический человек, с метафизической точки зрения не способен синтезировать как человек свой метафизический опыт, чувства и ретранслировать их для создания из этого ощущения еденицу, то есть ощутить объективную реальность в которой нет эго примешать собственную инициативу и ретранслировать это в субъективном поле мысли то есть создать из нуля еденицу.
Первое и третье ограничения фундаментальны и являются парадигмой существования ИИ как феномена, тем не менее, что касается третьей проблемы ИИ может симулировать метафизический опыт и чувствта так как он прекрасно знает что это такое, а отсутствие собственного эго, компенсирует эго человека создающего инициативу в промте. В связи с этим консумируем все это для того что бы понять что ИИ будет всегда инструментом и сможет стать лишь собирательной иллюзией живого человека, эффективность которого будет зависеть от понимания методологии работы с ним.