Обновить

Совет от Андрея Карпаты для всех пользователей ИИ, которые работают над идеальными промптами: расслабьтесь. Вместо этого просто начните нести что-нибудь — долго, нудно и без остановки. «Иногда LLM просто нужно больше деталей, чтобы понять, чего именно вы хотите добиться», — написал Карпаты. По его словам, такой подход помогает разделить задачи между человеком и ботом. Человек сгружает в модель любые сырые мысли о проекте, а чат-бот уже преобразует сбивчивый монолог во что-то чистое и структурированное.

Карпатый добавил, что часто начинает такие сессии с предупреждения для нейросети — что его ход мыслей может быть путаным, а в распознанном тексте будут опечатки. В итоге модель настраивается на волну пользователя, и ему приходится гораздо меньше поправлять её.

Теги:
Всего голосов 13: ↑12 и ↓1+15
Комментарии0

Как запустить Qwen3.8-Flash-Next 125B на 6 ГБ VRAM

Qwen3.8-Flash-Next - открытая 125B-модель на архитектуре, которая станет основой Qwen4. По опубликованным Qwen результатам она конкурирует с закрытыми frontier-моделями в задачах программирования, работы с агентами и computer use.

Мы запустили полный checkpoint Qwen/Qwen3.8-Flash-Next на одной RTX 4090. Пиковое потребление VRAM составило 5,95 ГБ, без 4-битной квантизации и дистилляции. Использовался полный checkpoint в bf16, который генерировал обычные токены.

По сравнению с Opus 4.6 Max, согласно собственным данным Qwen:

Как запустить Qwen3.8-Flash-Next 125B на 6 ГБ VRAM

Публикации