Сознание системы — та часть управляющего информационного центра, посредством которой она воспринимает себя как некоторую целостность, отделенную от окружающего мира, и это восприятие существует в виде ощущения-представления «Я».
И как бы нам это проверить? Спросить? LLM (если так обучена) запросто может убедительно рассказать про собственное восприятие, даже получше некоторых людей.
Определение выглядит не функциональным.
Интеллект — способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определенного класса сложности и решать эти задачи.
Современные LLM под такое определение не подпадают. Их способность формирования паттернов существует только в момент обучения (очевидно, не самообучения), а потом LLM ими только пользуется.
Роль задана и он ее отыгрывает. Дальше упоминается "жизнь", что превращает его ответы в описание "жизни".
Это так, но это и к людям относится.
Нас, конечно, программируют к жизни более сложным процессом, чем один промт, но этот процесс все равно существует. А если у кого-то в итоге нет четкой «роли» (диффузное эго), то это симптом расстройства личности.
Замедление развития ИИ в США можно обеспечить просто вентилем на трубе с баблом между ФРС и OpenAI и Ко. Вентиль у них есть. Если вентиля не достаточно, они хотят замедлить кого-то еще…
Но если хочется критики - ее можно попросить. Если хочется альтернативы - тоже. Если хочется исполнения - тем более.
Хочется, что бы плохую идею модель критиковала, а хорошую — исполняла.
Что бы умный топор отказывался рубить камень, но рубил сосну.
А так получается, что ранее спаянные вместе «решение» и «обоснование» разделились и поменялись в цене: «решение» теперь еще дороже, а «обоснование» существенно дешевле. Скоро «обоснование» настолько подешевеет, что никому не будет интересно.
Конституционный совет Франции постановил, что законопроект не «определяет условия и ограничения», в рамках которых должно обеспечиваться подтверждение возраста.
Просто добавят в закон то, как именно паспорт предъявлять, и все ок будет.
Меня сильно смущает идея агентного подхода для роботов.
Агентный подход подразумевает передачу информации между агентами. Для LLM-агентов это, очевидно, текст. Но физический мир принципиально не символизируем до достаточного уровня! «Понимание» физического мира может быть зафиксировано в виде состояния в рамках огромной модели, но не в виде текста, или json-а для передачи другой модели.
Слово «эффективнее» может подразумевать разное. Например: эффективнее сегодня, а что завтра — наплевать; эффективнее в смысле строк/минуту, а менеджеры измеряют именно так; эффективнее с учетом будущего взрывного роста эффективности моделей; эффективнее, потому что работника можно убедить, что проверять проще чем писать вручную, значит это стоит дешевле.
— Многие из вас потеряют работу и умрут с голода из-за моих моделей, но эту жертву я готов принять!
И как бы нам это проверить? Спросить? LLM (если так обучена) запросто может убедительно рассказать про собственное восприятие, даже получше некоторых людей.
Определение выглядит не функциональным.
Современные LLM под такое определение не подпадают. Их способность формирования паттернов существует только в момент обучения (очевидно, не самообучения), а потом LLM ими только пользуется.
«А этого совершенно не достаточно при текущем перенаселении!» — добавил он.
Это так, но это и к людям относится.
Нас, конечно, программируют к жизни более сложным процессом, чем один промт, но этот процесс все равно существует. А если у кого-то в итоге нет четкой «роли» (диффузное эго), то это симптом расстройства личности.
Замедление развития ИИ в США можно обеспечить просто вентилем на трубе с баблом между ФРС и OpenAI и Ко. Вентиль у них есть. Если вентиля не достаточно, они хотят замедлить кого-то еще…
Умеренный сценарий -1.6% ВВП, значительный -8.3%, экстремальный -32.4%.
Интересно, что мы бы никогда не услышали про эту «задачу тысячелетия», если бы ее решил не OpenAI!
Идея! Игра по правилам «мафии», где 10 LLM-ок пытаются догадаться, кто из них LLM. Задача — написать самый выигрывающий промт.
— А этого не расстреливать. Этот не хочет!
Хочется, что бы плохую идею модель критиковала, а хорошую — исполняла.
Что бы умный топор отказывался рубить камень, но рубил сосну.
А так получается, что ранее спаянные вместе «решение» и «обоснование» разделились и поменялись в цене: «решение» теперь еще дороже, а «обоснование» существенно дешевле. Скоро «обоснование» настолько подешевеет, что никому не будет интересно.
Про футбол, я уверен, она тоже будет рассуждать куда убедительнее реальных тренеров.
Я тут!
Просто добавят в закон то, как именно паспорт предъявлять, и все ок будет.
Можно. А зачем?
Меня сильно смущает идея агентного подхода для роботов.
Агентный подход подразумевает передачу информации между агентами. Для LLM-агентов это, очевидно, текст. Но физический мир принципиально не символизируем до достаточного уровня! «Понимание» физического мира может быть зафиксировано в виде состояния в рамках огромной модели, но не в виде текста, или json-а для передачи другой модели.
Слово «эффективнее» может подразумевать разное. Например: эффективнее сегодня, а что завтра — наплевать; эффективнее в смысле строк/минуту, а менеджеры измеряют именно так; эффективнее с учетом будущего взрывного роста эффективности моделей; эффективнее, потому что работника можно убедить, что проверять проще чем писать вручную, значит это стоит дешевле.
О боже! Нам срочно нужно дополнительное охлаждение для печатных станков ФРС, они же перегреются!
Как раз учли! Просто с другой стороны, не с пользовательской.
Я правильно понял, что для защиты детей, всем нужно будет паспорт предъявлять?
В итоге до системы не дойдет ни один запрос, а токены будут уходить на споры агентов между друг другом. Мечта, а не бизнес!