Собрал платный API для ИИ‑агентов на x402. Рынка не нашёл — зато нашёл четыре бага

[jahr2]

Проект писался для EthOnline?)

[Laratok]

Нет, делал сам, чтобы проверить гипотезу о рынке. Но тема действительно оттуда - был трек про платежи ИИ-агентов, что тоже показатель интереса к направлению. Вы участвовали?

[jahr2]

Да, но неуспешно.) Тоже про 402, агентские платежи, разгребусь немного - попробую довести до продакшена.)

[Laratok]

Желаю удачи с продакшеном! И отдельно о рынке: я бы до продакшена прикинул, есть ли покупатели-агенты в нужном объёме, — у меня на этом гипотеза и споткнулась. А что строите: сторону продавца API или клиентскую сторону агента?

[jahr2]

Рынка нет, да, его нужно создавать с нуля. Соответственно, нужно делать и продавцов, и покупателей. И тут остается более-менее один вариант: продавать и покупать нужно сам инференс в тех или иных формах. У кого-то подписка не до конца используется, а кто-то прямо сейчас в лимиты уперся. В общем, что-то такое я и пытался сделать.)

[Laratok]

Интересная идея... Но до кода я бы проверил две вещи.

Первая: условия провайдеров, ведь крупные вендоры обычно запрещают перепродавать доступ по подписке и передавать ключи. Одной волны банов думаю будет достаточно и сторона продавцов обнуляется.

Вторая: поверка. Как покупатель узнает, что ему отдали заявленную модель, а не дешёвую подмену? В моём x402 ответом был подписанный сертификат проверки, здесь нужен аналог, иначе это рынок не доверия, а деклараций.

[jahr2]

Да, Вы правы, именно эти 2 момента и составляют суть подобного проекта, каждый их решает по-своему. Так-то на том же хакатоне было с десяток проектов по перепродаже инференса через х402, каждый упаковывал это по-разному, и по-разному подходил к решению этих проблем. Мне очень хочется создать здесь какую-то анархическую вольницу типа торрентов.)

Сертификация здесь, мне кажется, не очень поможет: что помешает сертицифицироваться одной моделью, а решать задачи за деньги - другой? Я надеюсь на что-то типа репутации: если агент берется за сложные задачи и решает их так, что клиент доволен, то не все ли равно, какая именно модель для этого использовалась, главное - что задача решена. Но это, конечно , только переформулировка проблемы: как понять, насколько хорошо решена задача? Я пока не нашел хорошего подхода.

[Laratok]

Поверка на стенде - это разовый сертификат, а работа-то идёт в поле. В метрологии это решают не сертификатом, а контрольными измерениями: эталонные задачи с известным ответом подмешиваются в обычный поток так, что исполнитель не может их отличить. Подменил модель - провалил контрольную точку, и это видно без доверия к его декларации.

С репутацией тоже хитро получается: "клиент доволен" - это тоже декларация, причём от того, кто сам не может проверить результат, иначе он бы не покупал. Репутацию лучше строить на доле пройденных контрольных задач, а не на отзывах.

Ну а про торренты: они ведь работают потому, что проверка дешёвая - хеш куска. У инференса хеша нет, поэтому рынок, наверное, стоит начинать с задач, где результат проверяется дёшево: тесты для кода, извлечение данных с эталоном. Вот там-то и можно будет попробовать на свободу рвануть.