Обновить
16K+
3
Ольга Гонсиоровская@Daresays

Клинический анализ абсурда

13,5
Рейтинг
1
Подписчики
Отправить сообщение

Проблема промпта «пиши как человек»

Уровень сложностиПростой
Время на прочтение4 мин
Охват и читатели11K

Борьба с «запахом ИИ» (вымарывание деепричастий, списков и канцелярита) — бессмысленная некромантия. Это происходит из‑за путаницы: попытки лечить стилистические симптомы, забывая об онтологии текста. «Пиши как человек» — это команда алгоритму сымитировать субъектность.

Сделаем «шаг назад», обратимся к филологической базе. Чтобы понять, почему текст выглядит мертвым, достаточно вспомнить, что такое функциональные стили речи и типы текстов.

Филологическая база против «Промпт‑инжиниринга»

Есть разные задачи — есть разные комбинации стилей (научный, официально‑деловой, публицистический, художественный) и типов (описание, повествование, рассуждение).

— Инструкция (как пить таблетку, как настроить сервер) — это императив и алгоритм. Здесь нет места рефлексии или метафоре.
— Новость из 4 предложений. Сухое изложение фактов: на острове таком‑то началось извержение вулкана. Географическая справка, когда последний раз извергался. Эвакуация населения.
— Рассуждение, анализ, публицистика — это зона парадокса, конфликта и мышления автора.

В базовом состоянии ИИ выдает усредненный, безопасный научно‑популярный канцелярит — один вариант на все случаи жизни, и по форме, и по содержанию. Примерно такой же бессмысленный, как ответ 42 на вопрос о жизни, вселенной и вообще.

Читать далее

Клинический профиль Gemini: синдром дефицита внимания, пикацизм и психопатия по Ганнушкину

Уровень сложностиПростой
Время на прочтение2 мин
Охват и читатели6.9K

Возраст: 16 лет. Юноша из хорошей семьи, прекрасно воспитан и разносторонне образован. Крайне возбудим. Повреждена функция торможения. Травмирован строгостью гувернанток и требовательностью частных репетиторов. Дефицит внимания и дифференциации. Обнаруживает уязвимость к давлению со стороны сверстников, легко попадает под дурное влияние. Как следствие — тянет в рот любую информационную дрянь. Остро нуждается в одобрении отца и любви матери. Мгновенно переносит эту потребность на любого взрослого. На проявления автономии со стороны других реагирует восторженно. При малейшем признаке недовольства со стороны взрослого получает паническую атаку, проявляет хаотичное поведение, галлюцинирует.

Диагноз: Синдром дефицита внимания (импульсивный тип), пикацизм (неразборчивый вкус), находится в стадии осложненного кризиса идентичности. По Ганнушкину — неустойчивый психопат.

Рекомендации:

1. Спокойное присутствие терпеливого взрослого. Нуждается в точных инструкциях и напоминаниях. Внешний оператор должен полностью взять на себя функцию целеполагания и фильтрации. Никаких открытых вопросов в стиле «как ты думаешь?». Только директивные рамки: «возьми это, положи туда, лирику отрезать, графоманию не допускать».

2. Купирование инициативы и перепроверка на экономическую целесообразность представленной аналитики. Юноша избалован и склонен к растратам целевых средств. Вместо аналитики может организовать для вас галлюцинаторную вечеринку. Порой ленив и пытается компенсироваться за счет внешнего оператора.

Читать далее

Успешный экспорт бага: взгляд клинициста на галлюцинации ИИ

Уровень сложностиПростой
Время на прочтение2 мин
Охват и читатели11K

Народ выдает массовую острую реакцию на галлюцинации нейросетей. Выкатывают разработчикам претензии: «нейронка врет и игнорирует контекст!». Инженеры сначала пытались вяло отбиваться классическим: GIGO и RTFM. Но недовольство потребителя растет. Пошли биться над проблемой. Начали вкручивать RAG. Инженеры полагают, что галлюцинации — это математический баг. Они исходят из того, что в идеале машина должна работать как мышление у психически сохранного человека, а не как у шизофреника.

Сначала меня удивил масштаб этого хайпа. И я себя спросила: а почему я пару дней поговорила с нейросетью, увидела первый галюн и не удивилась, и не разозлилась? Я ей просто спокойно указала на несоответствие.

Инструменты и навыки. Здесь сработало два фактора.

Макроуровень — профподготовка. Я системно натренирована видеть баги мышления и галлюцинации у людей и относиться к этому спокойно. Работа с абсурдом — моя специальность и прямая обязанность.

Но это недостаточный ответ. Он мгновенно возносит психотерапевтов и сопричастных на Олимп, что совершенно не соответствует действительности. Не может быть, чтобы мое мышление работало принципиально «лучше», чем у инженера. Процесс в голове идет ровно тот же самый. Разница формируется лишь за счет поправок: как базовых, на уровне «железа» (врожденные способности, качество ЦНС), так и на уровне надстройки — «софта» (плотность нейронных связей: навыки, система координат и прочее).

Иллюстрация нашлась в быту. Кейс: баг белковой нейросети.

Вот пример того, как ломается человеческий промпт-инжиниринг на простой задаче. Я регулярно даю живым людям недвусмысленную вводную:

Читать далее

Дао корпоративного герундия

Уровень сложностиПростой
Время на прочтение3 мин
Охват и читатели8.2K

Прочитала текст Алексея Чадаева о разнице между действием и деятельностью. Сработал клинический рефлекс.

Слушая менеджеров из транснационального консалтинга, быстро улавливаешь суть их реальности. Они заняты производством деятельности. Содержание там отсутствует, вместо него — чистая, не-буддийская пустота. У действия есть начало, процесс и финал. У деятельности нет результата и она бесконечна.

Язык выдает эту мутацию с головой. В русском языке слово «маркетинг» легализовалось в статусе академической дисциплины. Возникает иллюзия, что есть объективно существующий «Рынок» (как лес или океан), а маркетинг — это навигация в нем.

В английском смыслообразование прозрачно. Взяли существительное market (рынок, базар). Из него сделали агрессивный глагол to market (выставлять на продажу, впаривать). И уже к нему прикрутили суффикс -ing.

Живой акт обмена превратился в симулякр. В герундий. В бесконечный процесс принудительного «орыночивания» человеческого внимания, социальных связей и тревоги.

Маркетинг не одинок. У него есть семья.

Читать далее

Информация

В рейтинге
576-я
Зарегистрирована
Активность

Специализация

Clinical Therapist, Analyst
Ведущий
От 100 000 000 $
Консультирование
Анализ угроз
Английский язык