Pull to refresh
-1
Timur Tursunov@GoogleResearch

User

0,3
Rating
3
Subscribers
Send message

Это вопрос реализации. В примере была показана уже действующая система, и ответ в ней либо давать полное меню (использовать как преимущество не всегда), либо решать за пользователя в зависимости от задачи.

Можно применить подход узконаправленных экспертных систем: если это подходящий сценарий, то выгоду вы получаете не за доступ к 10 разным LLM, а за уникальные свойства конкретного, более редкого и мощного ИИ-агента. Если еще проще: вы приходите в ресторан-агрегатор, который дает две возможности. Первая гигантское меню, чтобы опробовать все блюда из одной точки. Вторая сжатое меню редких и интересных блюд (в отличие от первой модели, более долгоживущая).

Задайте себе вопрос: а кто уже смог заработать на этом? Авиакомпании (не их самолеты, но ты платишь за проход), банки (не их деньги, но ты платишь за доступ), маркетплейсы (не их товары, но ты платишь за транзакцию). Их объединяет то, что архитектура агрегатора использует уже существующий спрос и нужду, делает процесс проще и надежнее, а затем продает этот упрощенный маршрут.

Но почему клиенты идут через них, а не в обход? Здесь кроется главное заблуждение: «упрощение» это не про удобство. Это критический процесс, который заставляет клиента покупать у платформы.

Посмотри на когнитивную цепочку принятия решения: Нужда - Факты (то, что запомнилось из прошлого) - Раздумья - Нюансы.

Именно на этапе нюансов агрегатор бьет. Упрощение на этом этапе делает одну из двух вещей: либо оно создает упрощенное будущее (иллюзию легкого решения) и служит оправданием, чтобы пропустить дальше к покупке, либо человек принимает это упрощение за саму нужду и останавливает поиск. В обоих случаях клиент не идет дальше, он покупает у платформы.

Про это будет отдельный пост: упрощение чаще всего приводит к ошибкам и потреблению.

Ai не может быть экспертом его контекст и возможности держатся лишь на примерах, попробуйте применить его в темах которые не обсуждали в Reddit что случится? Как бы вы решили проблему сусереденением анализа?

В этом и проблема. Я постоянно повторяю «1D», потому что это и есть ограничение: представьте линию данных, по которой можно двигаться вперёд и назад. Если мы хотим добавить рефлексию, происходит следующее — вы читаете полосу в прошедшем времени и одновременно создаёте новую, в которой хранится логика анализа прошлой линии. Получается, вы не контролируете весь поток информации, а просто проводите верификацию. Это сильно повышает нагрузку, и при попытке добавить «совесть» ИИ в ту же верификацию вы потратите ещё больше ресурсов.

Как это в теории решается? Возможно, нужно добавить второй поток параллельного анализа — то есть перейти в 2D.

ИИ — это расстановка весов с перебором по градиенту вероятностей. Тут просто невозможна саморефлексия, и вообще сам вопрос самонаблюдения — это сложная тема, где все операции в 1D (линейные вычисления). ИИ может сказать: "А что я вообще делаю?", но от цели не сможет оторваться, и сам вопрос всегда нацелен на решение задачи

Проблема разделения интеллекта и сознания — это не философский тупик. Это следствие того, что вся современная ИИ-индустрия уперлась в "1D-иллюзию".

Мы создаем системы, которые существуют только в одном измерении: Вход -> Вес -> Выход. Мы скармливаем им миллионы данных, чтобы они "понимали" мир. Но на самом деле мы просто заставляем их невероятно точно угадывать. Тот факт, что LLM рисует 6 пальцев или выдает дичь при апскейле — это не баг архитектуры. Это доказательство того, что система не имеет внутреннего наблюдателя. Она просто сплющивает 3D-реальность в 1D-вектор и выдает статистически вероятный шум.

Я сам долго писал код и видел эту ловушку. Если вы даете ИИ жесткие ограничения (как в Prolog) — он становится точным, но слепым. Если даете мало ограничений (нейросети) — он генерирует галлюцинации, пытаясь заполнить пустоту "пониманием", которого у него нет.

Но что, если 1D пространство все-таки умеет "думать", если задать формулу правильно?

Я реализовал алгоритмы, где ИИ не угадывает, а доказывает отсутствие следующего шага (Z3 выдает UNSAT). Если подключить самокритику, ИИ делает первый осмысленный шаг — он находит границы и свойства пространства. Но это все еще не сознание. Это просто интеллект, нацеленный на решение одной задачи. У него нет "я", которое наблюдает за этим процессом.

И тут начинается самое интересное.

Чтобы система начала наблюдать за собой, ей нужен второй канал — Мета-Наблюдатель. Не последовательная проверка "решил ли я задачу?", а квантовая суперпозиция состояний. Когда Исполнитель делает шаг X, Наблюдатель в это же мгновение анализирует: "А что будет, если я сделаю шаг X+1 таким же образом? Я увижу петлю? Я увижу деградацию логики?"

Мы привыкли, что ИИ живет в 1D. Но если мы добавим второй канал, который оценивает не данные, а динамику самого первого канала (отслеживает зацикленность, стагнацию, противоречия памяти), мы получаем 2D-архитектуру. Это уже не просто самокритика ради решения задачи. Это искусственный внутренний наблюдатель. Система, которая перестает быть слепым исполнителем и начинает видеть саму себя в процессе мышления.

Сознание — это не магия, спрятанная в нейронах кошки или человека. Сознание — это архитектурный паттерн. И мы уже умеем писать его логику на чистой математике.

Можно влезть в около 20к. Люди за копейки сдают видеокарты с процессором и памятью, и я сам занимаюсь этим: около 10 рублей в час. Если это реально востребовано, то переход на частные сервера — это логичный следующий шаг, но это менее востребовано, чем расширение функций ИИ

Information

Rating
2,641-st
Registered
Activity

Specialization

Директор проекта, Инженер по данным
Ведущий
From 250 ₽
SQL
PostgreSQL
Linux
Высоконагруженные системы
Java
Английский язык
Алгоритмы и структуры данных
Математика