Perplexity - это стартап, основанный в 2022 году, который разрабатывает платформу поиска на основе искусственного интеллекта с использованием больших языковых моделей и нейронного поиска. Основной продукт компании - искусственный интеллект-поддерживаемый ответчик на вопросы, который предоставляет точные ответы на вопросы пользователей.
Недавно компания выпустила PPLX Online LLMs - 2 нейросети с доступом по API, которые используют данные из Интернета для предоставления актуальных ответов на вопросы пользователя - например, "Какой сегодня курс доллара к рублю?". Такие вопросы крайне затруднительны для обычных "оффлайновых" моделей типа ChatGPT, т.к. оффлайновые модели используют только данные, попавшие к ним в процессе тренировки.
Perplexity представило две модели: pplx-7b-online и pplx-70b-online. Первая базируется на mistral-7b, вторая - на llama2-70b. Выдержки из сайтов ("сниппеты") предоставляются моделям pplx-online, чтобы обеспечить ответы с самой актуальной информацией.
Компания произвела оценки качества своих моделей (Chatbot Arena, рейтинг Эло) в сравнении с другими моделями (LLama2 70B и gpt-3.5-turbo (ChatGPT)):
Как видно, модели значительно выигрывают по параметрам "свежести" и "точности фактов".
Вот примеры работы данных нейросетей на русском языке (сделаны через российский агрегатор текстовых нейросетей VseGPT, так как доступ к зарубежному оригиналу затруднен). Примеры приведены на 3 декабря 2023 и показывают способность моделей выдавать по API-запросу актуальную информацию даже на русском языке.
