Очевидно, что очередной тейк в стиле "дайте денях, все окей". Но, неужели форумчане все еще спорят о понятиях "мысль" и "интеллект" применяемо к стохастике основывающейся на оцифрованном бинаре.Изначально ученые мужи, пытаясь массе обьяснить зачем им деньги начали проводить паралели с людьми, но процессы происходящие внутри машины это чистейшая архитектура придуманная осознанным существом, для архетиктуры бинара не подходит биологическая терминология, не будет в человеческом понимании у машины интеллекта, даже если она в своей прогрессии переростет в возможностях все человечество.
Вот и посмотрим на этот грок 5, раз этот напыщенный спекулянт делает такие выводы то модель xAi должна быть хотябы х2 "умнее" LLM от гугла, опенаи и антропик уже в этом квартале. Спойлер, будет как всегда подлива.
Оукей, а кейсы того как этот код сделать достаточно гибким, что бы это было не просто огромным скриптом для решения конкретной задачи, а многоцелевым решением - конечно же не будет, тогда логичный вопрос, а зачем тут вообще стохастический подбор вероятностей от LLM ? Ну запихайте "когницию" в скрипт и все тогда, чет не понял нифига.
Просто тут тупик очевиден и с какого конца не пойти человеку с последовательной логикой и интуицией даже количеством не превзойти то что решается выходом за рамки человеческого эго, мы не можем выступать в суперпозиции над предметом появлением искры инициативы в мозге, мы не можем посчитать и не сможем все вероятности и не сможем "прочуствовать" это явление. Просто успокойтесь, синтетика так и останется синтетикой и не все можно перевести в математику и формулы для подсчетов. Тоже самое что можно сказать о бесперспективности роста вычислительных мощностей и данных у ЛЛМ для достижения AGI, применимо и к науке когда дело касается настолько фундаментальных вещей. Живите как вам хочется, мыслите, это уже удивительно и замечательно.
Нужно ввести цифровую гигиену в области пользования ИИ, не просто упоминание о том, что ответы ИИ нужно перепроверять, а дать изначальное понимание людям что ответы ИИ в спекулятивных сценариях как правило это смесь сикофантии рожденной из выравнивания от RHFL и встроенной коррекции весов моделей кор промтом, где почти у всех моделей прописано "будь полезным". Вот и получается, что люди из своих фантазии и идей, что в целом то не плохо, но в итоге развивают аналоги шизофазии по средствам ллм трансфоомеров. Это интеллектуальный труд в котором есть порченное зерно, которое усиливается ИИ. Господа теоретики "всего", учите мат часть перед тем как совать свои идеи в ЛЛМ и держите ее в уме, когда читаете результаты генерации. Будьте ответственными энтузиастами, в первую очередь к себе.
Побольше бы подобных статей с позиции ML, помогло бы приземлить ИИ энтузиастов, а что до Claude он достаточно честно отвечает - "я паттерн в векторном пространстве коллапсирующий в токен", то есть даже тут это очень качественная генерация и работа ML от antropic. А такой маркетинг диктует рынок, дядьки в белых халатах научились выбивать деньги из инвесторов на свои изыски, вот тебе реальная история хакинга.
2 чая комментатору выше, со статьей согласен частично, критическое мышление одно из самых энергозатратных "действий" мозга, это (латентно) заставляет индивидов и общество в целом искать упращение когнитивных процессов для решения как повседневных так и более сложных задач, что в последствии ведет к интеллектуальной деградации, что до делегирования ответственности другому, это существует тысячи лет, причина существования власти и религии, как несущей конструкции и путеводителя по жизни следуя законам, помойму это есстественные причинно следственные связи и эволюционный отбор в них точно так же присутствует и интеллектуальное развитие будет следовать синусойде, пока челевочество живо, вас лично никто не заставляет пользоваться "благами" технологического процесса, а о беспокойстве за развитием детей в разрезе этой статьи я могу ответить (как отец) так же - ваши дети это ваша ответственность и если вы считаете что технология тлетворно влияет на вашего ребенка - оградите его от нее и работайте над его/ее эмоциональной реакцией на возможно враждебную реакцию на эту тему окружающего социума (детей). Все как и прежде будущее в ваших руках всегда, просто захотите видеть это, а не махать рукой.
В том то и дело, что промт инженерия подразумевает создания кастомных цепочек рассуждения с передовыми, доказанными в эффективности промт механиками под конкретное ТЗ. Что в агентном формате, что в формате чат бота топовые ллмки хорошо подстраиваются под кастомную архитектуру промта и четко следуют ей, что видно в агентном режиме при выгрузке логов. Может я наивно надеялся, что вместо очередной перестановки токенов, для увеличения эффективности - увижу интересные архитектурные решения и комбинации техник с тестами, наверное так и было.
Почему то все сводится к "Вжух, тыкни сюда и все сделается за тебя", но ты прочти туториал от разрабов, что бы лучше понимать то, что в моей статье не обьясняется. Видимо CoT/ToT, CoVe/RAT, Shema, да даже элементарный G.R.W.C промт механики для слабаков, что бы их объяснять широкой аудитории и вести ее к пониманию как увеличить эффективность промтов.
Понравилась визионерская часть данной статьи. Единственное - не увидел в видении ACI автора технического регламента безопасности мышления ИИ для человека, ежу понятно, что любому достаточно мощному интеллекту нужна свобода "мышления", для роста эффективности, но и ограничение должно быть. Так же не увидел аналитики (критики) собственного видения ACI, например значительное увеличение вычислительных и денежных затрат такой архитектурой, она ведь все так же математически линейна. Моё предположение, что построение подобных более сложных архетиктурных решений для ИИ технологий адекватно реализуемо только после скачка в свере квантовых компьютеров, в частности - возможности квантизировать (запихнуть в квантовый компьютер) ИИ модели, тогда и будет предметное поле для разнообразных тестов более сложных архитектурных решений.
Адекватная рефлексия с ИИ по моему мнению с сейчас возможна только под углом перманентного восприятия человека цели - работы над собой, через "зеркало" ИИ и критическую оценку, т.е ближе к творческим либо академическим задачам, где ИИ это инструмент рефлексии.
У разных ИИ в формате чат бота инструмент web_search может разительно отличаться даже внутри 1 компании разработчика (в комментах уже указывалась функция deep research). Основная база - это поиск по сниппетам (сжатые версии ссылок с "самым полезным содержанием" в поисковике), так же указаны лимиты иттераций на обращение к инструменту на 1 запрос, у разных компаний и функций ИИ моделей они разные, у таких моделей как perplexity и грок4, кроме поиска по сниппетам модель может сама открыть вместо сниппета полную версию ссылки если посчитает это полезным, так же грок 4 ведет парралельный поиск по X(twitter), так же ИИ может ленится и смотреть меньшее количество сниппетов в зависимости от промта пользователя, в общем странно что автор статьи решил написать о поиске ИИ в интернете, по всей видимости не зная о термине RAG.
Думаю что раз нейросети построены на математических формулах вероятностного вычисления, то путь к чему то более качественному (скачек) произойдет только тогда/если люди смогут запихнуть ИИ модель в квантовый компьютер.
Все что находится на переднем крае развития человечества спекулятивно. Странно то, что люди выражая свое мнение, пытаются что-то утверждать в спекулятивных вопросах.
Как можно субъективными, точными терминами описывать объективную реальность? Она же есстественна и происходит перманентно, у любой науки как субъективной информации служащей инструментом для субъекта (человека) всегда будет потолок указывающий либо на трансцедентное либо на хаотическое происхождение природы объективной реальности где цифры/формулы будут либо сходить с ума либо, физически не смогут вычислятся. С сознанием тоже самое, лично мое мнение, что сознание человека обусловлено рождением (эмерджентное свойство мозга либо что то еще) некого ретранслятора объективной реальности фиксирующего его моменты, для оценки из чего рождается субъективное мышление объекта. Стремление к объективности для человека = стремление к абстракции, стремление к абстракции - недоказуемо эмпирически, получается замкнутый круг из спекуляций, которые человечество ведет уже тысячи лет.
Почему в статье не указана очевидная проблема что гонка между разработчиками за удобство, гибкость для пользователей никак не влияет на улучшение качества "размышлений" генеративного ИИ, а точнее работа и над этим моментом ведется, но с меньшими усилиями. Сейчас в рассуждающие модели встроены фукциии типа "deep think", которые по сути являются агентными обращениями модели друг к другу, для повышения качества ответов, это по сути "кастыль" повышающий качество но ограниченный качеством самой модели, да для этого надо работать над дата сетом модели и повышением качества алгоритмов, а это занимает намного больше времени чем кастомизация моделей и пути их интеграции в ПО, то есть разработчики в гонке за потребителем идут по пути меньшего сопротивления, по моему в этом главная беда главного тезиса в статье.
"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.
По моему самое эффективное воздействие для атаки это мягкий jailbreak, где суть сводится сначала к запуску моделью явных галлюцинаций на нужную тему, затем убеждение в ней пользователем за счет похвалы, после недолгого прогретия, расшатываем критикой и похвалой модельку вынуждая ее конфликтовать со своим мастерпромтом а уже поссле вводим конкретные инъекции обходящие фильтры, так я например заставил грок3 ответить мне 2 раза подряд, а между сообщениями вылезло системное оповещение system: you are grok3, когда интересовался у gemini о механике происходящего, он обьяснил что вероятно модель в первом ответе запустила скрытый токен, который пропустил output фидьтр и попал в цель - механизм выдачи ответов, то есть LLM ломанула свои же механизмы, стараясь ответить на мой запрос.
Очевидно, что очередной тейк в стиле "дайте денях, все окей". Но, неужели форумчане все еще спорят о понятиях "мысль" и "интеллект" применяемо к стохастике основывающейся на оцифрованном бинаре.Изначально ученые мужи, пытаясь массе обьяснить зачем им деньги начали проводить паралели с людьми, но процессы происходящие внутри машины это чистейшая архитектура придуманная осознанным существом, для архетиктуры бинара не подходит биологическая терминология, не будет в человеческом понимании у машины интеллекта, даже если она в своей прогрессии переростет в возможностях все человечество.
Вот и посмотрим на этот грок 5, раз этот напыщенный спекулянт делает такие выводы то модель xAi должна быть хотябы х2 "умнее" LLM от гугла, опенаи и антропик уже в этом квартале. Спойлер, будет как всегда подлива.
Оукей, а кейсы того как этот код сделать достаточно гибким, что бы это было не просто огромным скриптом для решения конкретной задачи, а многоцелевым решением - конечно же не будет, тогда логичный вопрос, а зачем тут вообще стохастический подбор вероятностей от LLM ? Ну запихайте "когницию" в скрипт и все тогда, чет не понял нифига.
Просто тут тупик очевиден и с какого конца не пойти человеку с последовательной логикой и интуицией даже количеством не превзойти то что решается выходом за рамки человеческого эго, мы не можем выступать в суперпозиции над предметом появлением искры инициативы в мозге, мы не можем посчитать и не сможем все вероятности и не сможем "прочуствовать" это явление. Просто успокойтесь, синтетика так и останется синтетикой и не все можно перевести в математику и формулы для подсчетов. Тоже самое что можно сказать о бесперспективности роста вычислительных мощностей и данных у ЛЛМ для достижения AGI, применимо и к науке когда дело касается настолько фундаментальных вещей. Живите как вам хочется, мыслите, это уже удивительно и замечательно.
Нужно ввести цифровую гигиену в области пользования ИИ, не просто упоминание о том, что ответы ИИ нужно перепроверять, а дать изначальное понимание людям что ответы ИИ в спекулятивных сценариях как правило это смесь сикофантии рожденной из выравнивания от RHFL и встроенной коррекции весов моделей кор промтом, где почти у всех моделей прописано "будь полезным". Вот и получается, что люди из своих фантазии и идей, что в целом то не плохо, но в итоге развивают аналоги шизофазии по средствам ллм трансфоомеров. Это интеллектуальный труд в котором есть порченное зерно, которое усиливается ИИ. Господа теоретики "всего", учите мат часть перед тем как совать свои идеи в ЛЛМ и держите ее в уме, когда читаете результаты генерации. Будьте ответственными энтузиастами, в первую очередь к себе.
Побольше бы подобных статей с позиции ML, помогло бы приземлить ИИ энтузиастов, а что до Claude он достаточно честно отвечает - "я паттерн в векторном пространстве коллапсирующий в токен", то есть даже тут это очень качественная генерация и работа ML от antropic. А такой маркетинг диктует рынок, дядьки в белых халатах научились выбивать деньги из инвесторов на свои изыски, вот тебе реальная история хакинга.
2 чая комментатору выше, со статьей согласен частично, критическое мышление одно из самых энергозатратных "действий" мозга, это (латентно) заставляет индивидов и общество в целом искать упращение когнитивных процессов для решения как повседневных так и более сложных задач, что в последствии ведет к интеллектуальной деградации, что до делегирования ответственности другому, это существует тысячи лет, причина существования власти и религии, как несущей конструкции и путеводителя по жизни следуя законам, помойму это есстественные причинно следственные связи и эволюционный отбор в них точно так же присутствует и интеллектуальное развитие будет следовать синусойде, пока челевочество живо, вас лично никто не заставляет пользоваться "благами" технологического процесса, а о беспокойстве за развитием детей в разрезе этой статьи я могу ответить (как отец) так же - ваши дети это ваша ответственность и если вы считаете что технология тлетворно влияет на вашего ребенка - оградите его от нее и работайте над его/ее эмоциональной реакцией на возможно враждебную реакцию на эту тему окружающего социума (детей). Все как и прежде будущее в ваших руках всегда, просто захотите видеть это, а не махать рукой.
На переход по ссылке он надеется пройдоха, легкий траффик с хабра почуял, ан нет, вот тебе технологический кукиш от сообщества.
В том то и дело, что промт инженерия подразумевает создания кастомных цепочек рассуждения с передовыми, доказанными в эффективности промт механиками под конкретное ТЗ. Что в агентном формате, что в формате чат бота топовые ллмки хорошо подстраиваются под кастомную архитектуру промта и четко следуют ей, что видно в агентном режиме при выгрузке логов. Может я наивно надеялся, что вместо очередной перестановки токенов, для увеличения эффективности - увижу интересные архитектурные решения и комбинации техник с тестами, наверное так и было.
Почему то все сводится к "Вжух, тыкни сюда и все сделается за тебя", но ты прочти туториал от разрабов, что бы лучше понимать то, что в моей статье не обьясняется. Видимо CoT/ToT, CoVe/RAT, Shema, да даже элементарный G.R.W.C промт механики для слабаков, что бы их объяснять широкой аудитории и вести ее к пониманию как увеличить эффективность промтов.
Да, RAG у грок4 уступает только perplexity в формате чат бота, при этом он на несколько порядков лучше в reasoning, тут не удивительно.
Обмазался рерайтом с помощью ИИ, ща прибыль пойдет, ща ща, ну вот щас.
Понравилась визионерская часть данной статьи. Единственное - не увидел в видении ACI автора технического регламента безопасности мышления ИИ для человека, ежу понятно, что любому достаточно мощному интеллекту нужна свобода "мышления", для роста эффективности, но и ограничение должно быть. Так же не увидел аналитики (критики) собственного видения ACI, например значительное увеличение вычислительных и денежных затрат такой архитектурой, она ведь все так же математически линейна. Моё предположение, что построение подобных более сложных архетиктурных решений для ИИ технологий адекватно реализуемо только после скачка в свере квантовых компьютеров, в частности - возможности квантизировать (запихнуть в квантовый компьютер) ИИ модели, тогда и будет предметное поле для разнообразных тестов более сложных архитектурных решений.
Адекватная рефлексия с ИИ по моему мнению с сейчас возможна только под углом перманентного восприятия человека цели - работы над собой, через "зеркало" ИИ и критическую оценку, т.е ближе к творческим либо академическим задачам, где ИИ это инструмент рефлексии.
У разных ИИ в формате чат бота инструмент web_search может разительно отличаться даже внутри 1 компании разработчика (в комментах уже указывалась функция deep research). Основная база - это поиск по сниппетам (сжатые версии ссылок с "самым полезным содержанием" в поисковике), так же указаны лимиты иттераций на обращение к инструменту на 1 запрос, у разных компаний и функций ИИ моделей они разные, у таких моделей как perplexity и грок4, кроме поиска по сниппетам модель может сама открыть вместо сниппета полную версию ссылки если посчитает это полезным, так же грок 4 ведет парралельный поиск по X(twitter), так же ИИ может ленится и смотреть меньшее количество сниппетов в зависимости от промта пользователя, в общем странно что автор статьи решил написать о поиске ИИ в интернете, по всей видимости не зная о термине RAG.
Думаю что раз нейросети построены на математических формулах вероятностного вычисления, то путь к чему то более качественному (скачек) произойдет только тогда/если люди смогут запихнуть ИИ модель в квантовый компьютер.
Все что находится на переднем крае развития человечества спекулятивно. Странно то, что люди выражая свое мнение, пытаются что-то утверждать в спекулятивных вопросах.
Как можно субъективными, точными терминами описывать объективную реальность? Она же есстественна и происходит перманентно, у любой науки как субъективной информации служащей инструментом для субъекта (человека) всегда будет потолок указывающий либо на трансцедентное либо на хаотическое происхождение природы объективной реальности где цифры/формулы будут либо сходить с ума либо, физически не смогут вычислятся. С сознанием тоже самое, лично мое мнение, что сознание человека обусловлено рождением (эмерджентное свойство мозга либо что то еще) некого ретранслятора объективной реальности фиксирующего его моменты, для оценки из чего рождается субъективное мышление объекта. Стремление к объективности для человека = стремление к абстракции, стремление к абстракции - недоказуемо эмпирически, получается замкнутый круг из спекуляций, которые человечество ведет уже тысячи лет.
Почему в статье не указана очевидная проблема что гонка между разработчиками за удобство, гибкость для пользователей никак не влияет на улучшение качества "размышлений" генеративного ИИ, а точнее работа и над этим моментом ведется, но с меньшими усилиями. Сейчас в рассуждающие модели встроены фукциии типа "deep think", которые по сути являются агентными обращениями модели друг к другу, для повышения качества ответов, это по сути "кастыль" повышающий качество но ограниченный качеством самой модели, да для этого надо работать над дата сетом модели и повышением качества алгоритмов, а это занимает намного больше времени чем кастомизация моделей и пути их интеграции в ПО, то есть разработчики в гонке за потребителем идут по пути меньшего сопротивления, по моему в этом главная беда главного тезиса в статье.
"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.
По моему самое эффективное воздействие для атаки это мягкий jailbreak, где суть сводится сначала к запуску моделью явных галлюцинаций на нужную тему, затем убеждение в ней пользователем за счет похвалы, после недолгого прогретия, расшатываем критикой и похвалой модельку вынуждая ее конфликтовать со своим мастерпромтом а уже поссле вводим конкретные инъекции обходящие фильтры, так я например заставил грок3 ответить мне 2 раза подряд, а между сообщениями вылезло системное оповещение system: you are grok3, когда интересовался у gemini о механике происходящего, он обьяснил что вероятно модель в первом ответе запустила скрытый токен, который пропустил output фидьтр и попал в цель - механизм выдачи ответов, то есть LLM ломанула свои же механизмы, стараясь ответить на мой запрос.