Ошибки при работе с ИИ. Часть 1
Бывает, что ИИ выдает совсем не тот результат, который мы ожидали. И дело не всегда в возможностях самой модели: даже хороший инструмент может отвечать хуже, если смешать контекст, нечетко поставить задачу или передать лишние данные.
Пообщались с Константином, экспертом по ИИ в Naumen, и собрали несколько частых ошибок, которые встречаются в работе с нейросетями.

В первой части нашего материала говорим о контексте, постановке задачи и конфиденциальных данных: почему не стоит решать все в одном чате, как задавать рамки и что проверять перед загрузкой рабочих материалов.
1️⃣ Решаем все задачи в одном чате
Чем больше разных тем и задач накапливается в диалоге, тем сложнее модели понять, какая информация сейчас действительно важна.
В чем суть
У модели есть ограниченный рабочий контекст. И дело не только в его объеме: важно, насколько информация внутри него связана с текущей задачей.
Как исправить
Открывайте новый чат под новую тему.
Большую задачу делите на этапы.
Перед следующим этапом делайте выжимку.
2️⃣ Ставим задачу без необходимых рамок
Расплывчатые или перегруженные запросы не помогают модели понять, какой результат вы ожидаете.
В чем суть
Модель не знает ваших целей и критериев, пока вы их не обозначили. Хороший запрос — это не обязательно длинный промпт. В нем просто должно быть достаточно информации, чтобы понять задачу и ожидаемый результат.
Как исправить
Укажите, что нужно сделать, зачем и для кого, какие данные использовать, что исключить и в каком виде нужен результат.
Плохой промпт: «Вот документ с заметками, таблицами и ссылками. Проанализируй его и выдели главное».
Хороший промпт: «Проанализируй документ и выдели: ключевые показатели, отклонения, возможные причины и риски. Не используй информацию из черновых заметок и внешних ссылок. Результат собери в таблицу: показатель → значение → отклонение → комментарий».
Если контекста много, лучше всего надиктовать задачу своим голосом. По опыту, модели лучше справляются с подробным, пусть и сырым описанием, чем с коротким запросом, в котором не хватает контекста.
→ Полезный инструмент для голосовой надиктовки задач и контекста для ИИ.
3️⃣ Передаем ИИ конфиденциальные данные
Помимо рабочих материалов, в модель могут попасть API-ключи, пароли, персональные данные или внутренняя информация.
В чем суть
При работе с внешними ИИ-сервисами правила работы с данными зависят от платформы и тарифа. Поэтому важно понимать, что можно передавать, а что нужно обезличить.
Как исправить
Удалите или замените API-ключи, пароли, имена и контакты плейсхолдерами.
Уберите данные, без которых и так можно решить задачу.
Если сомневаетесь, попросите ИИ подсказать способ обезличивания на нейтральном примере.
Плохо:
API_KEY=7hd83k...
user_name=Иван Иванов
user_phone=+7...Хорошо:
API_KEY=KEY_HERE
user_name=USER_NAME
user_phone=PHONE_NUMBER
Перед загрузкой данных в ИИ задайте себе два вопроса: безопасно ли передавать этот материал за пределы компании и может ли эта информация навредить компании — например, дать доступ к системе, клиентским данным или внутренним ресурсам.
Если хотя бы в одном случае есть сомнения, не передавайте материал в исходном виде.











