Это действительно очень талантливая шутка про "шотландо-говорящего" и "ирландо-говорящего" в английском лифте. Очень мило и смешно, но никакого отношения к реальности не имеющее. Вы это можете сами проверить. Все модели доступны, в том числе и бесплатно. Сделайте ассистента для распознавания этажей. Проговорите 100 раз слово eleven. Коверкайте его как хотите, до полной неузнаваемости. И посмотрите сколько раз модель ошибется (ответ, примерно нисколько)
Но кто-то же должен это делать (рассказывать на массовых ресурсах)
Не так уж это и бессмысленно. Худо-бедно, но 50K уже посмотрели. Плюсы-минусы почти в попаламе. Не все приходят, чтобы заявить свое мнение о том, почему это работать не будет. Есть такие, кто спрашивает, как оно работает, интересуются техническими деталями. Я таким отвечаю. В целом, я считаю, что неплохо эта статья работает
С чего вдруг он окажется подвешенным? Вы эксперименты проводили? Сделали 1000 разных запросов и получили зависание? В скольких случаях? На каких запросах?
Для организации приема заказов в кафе контекст гонять не надо. Достаточно хранить (не передавать модели, а только хранить у себя текущее состояние заказа)
Никакой компьютер недетерминирован. Просто ваш домашний компьютер детерминирован в практическом смысле. Он выдает условные 2+2=5 раз в миллион лет. А суперкомпьютер выдает эти самые 2+2=5 раз в день или раз в час, в зависимости от мощности. Цифры я взял "с потолка", но суть верная. На этом Каспаров в свое время погорел, но специалистам это должно быть известно
С нейросетями все еще немного хитрее. Там есть seed. Но это уже детали
С чего вы взяли, что не являются? Конечно являются. Нейросеть прекрасно справляется с написанием SQL запросов. Но в 1 случае из 1000 может сломаться. Нейросеть недетерминирована, как и все, что использует суперкомпьютеры
Какова бы ни была метрика, она простым приемом мультиплицируется. Из метрики 1 к 100 вы за один шаг (и буквально несколько центов в год) перейдете к метрике 1 к 10 000. А за два шага 1 к 1 000 000. Об этом статья
Это действительно очень талантливая шутка про "шотландо-говорящего" и "ирландо-говорящего" в английском лифте. Очень мило и смешно, но никакого отношения к реальности не имеющее. Вы это можете сами проверить. Все модели доступны, в том числе и бесплатно. Сделайте ассистента для распознавания этажей. Проговорите 100 раз слово eleven. Коверкайте его как хотите, до полной неузнаваемости. И посмотрите сколько раз модель ошибется (ответ, примерно нисколько)
Меню передается. По моим расчетам оно укладывается в 1000 токенов. 1000 входных токенов у OpenAI это от 0.0075 до 0.015 центов. У китайцев еще дешевле
Да, понимаю. Вот уже и карму почти всю сожгли.
Но кто-то же должен это делать (рассказывать на массовых ресурсах)
Не так уж это и бессмысленно. Худо-бедно, но 50K уже посмотрели. Плюсы-минусы почти в попаламе. Не все приходят, чтобы заявить свое мнение о том, почему это работать не будет. Есть такие, кто спрашивает, как оно работает, интересуются техническими деталями. Я таким отвечаю. В целом, я считаю, что неплохо эта статья работает
В смысле? Всякий раз отправляю только один(текущий) запрос от пользователя. Получаю ответ от модели и обрабатываю его.
Текущее состояние заказа такое-то. Пользователь говорит: добавь это, убери то. Отправляю запрос модели. Получаю структурированный ответ. Обрабатываю ответ. Вывожу пользователю обновленное состояние заказа
С чего вдруг он окажется подвешенным? Вы эксперименты проводили? Сделали 1000 разных запросов и получили зависание? В скольких случаях? На каких запросах?
Для организации приема заказов в кафе контекст гонять не надо. Достаточно хранить (не передавать модели, а только хранить у себя текущее состояние заказа)
Я это сделал без прогона истории разговора
Ссылку кинь, если не влом. Будет интересно почитать
Копейки стоит. Вот здесь я давал расчет
https://habr.com/ru/articles/864882/
Весь диалог гонять не надо, но список товаров придется.
Те, которые гоняют по кругу, не AI, а простые алгоритмические
Получать то, что тебе нужно - выгодно для всех
А если AI преуспеет в том, чтобы было выгодно людям? Чтобы они получали то, что им нужно, а не то, что за них решили?
Никакой компьютер недетерминирован. Просто ваш домашний компьютер детерминирован в практическом смысле. Он выдает условные 2+2=5 раз в миллион лет. А суперкомпьютер выдает эти самые 2+2=5 раз в день или раз в час, в зависимости от мощности. Цифры я взял "с потолка", но суть верная. На этом Каспаров в свое время погорел, но специалистам это должно быть известно
С нейросетями все еще немного хитрее. Там есть seed. Но это уже детали
С чего вы взяли, что не являются? Конечно являются. Нейросеть прекрасно справляется с написанием SQL запросов. Но в 1 случае из 1000 может сломаться. Нейросеть недетерминирована, как и все, что использует суперкомпьютеры
Вот и предъявите этот самый конкретный вопрос. Пока вы рассуждаете абстрактно
Какова бы ни была метрика, она простым приемом мультиплицируется. Из метрики 1 к 100 вы за один шаг (и буквально несколько центов в год) перейдете к метрике 1 к 10 000. А за два шага 1 к 1 000 000. Об этом статья
Полностью согласен. В конце статьи я об этом и говорю
Вам "проще", потому что вам проще или потому, что вы умеете "грамотно проектировать меню"?
Вот здесь можете почитать насчет надежности
https://habr.com/ru/articles/872312/
Разработчик решения даст вам гарантию