ИИ как инструмент

Один из самых тиражируемых недостатков ИИ — он слишком охотно соглашается с пользователем.

Сказал глупость — поможет ее обосновать. Предложил сомнительную идею — разовьет. Впрочем, с тем же энтузиазмом раскритикует, если попросишь.

Мы почему‑то считаем соглашательство недостатком ИИ, хотя для инструмента выполнять поставленную задачу — как бэ нормально.

Проблема в том, что как инструмент он воспринимается плохо.

Он помнит больше нас, пишет быстрее, иногда рассуждает лучше и вполне способен найти ошибку, которую мы не заметили. Поэтому где‑то незаметно возникает ощущение, что перед нами независимый разум. А у независимого разума должна быть собственная позиция.

Но ИИ — все еще инструмент. Просто впервые инструмент оказался способен превосходить своего владельца, в том что мы считали исключительно человеческой чертой.

Отсюда и довольно странное требование: мы хотим, чтобы он был умнее нас, но последнее слово оставлял за нами.

Возможно, поэтому вообще так плохо приживаются по‑настоящему умные вещи. Автопилоту оставляют руль, автоматике — ручной режим, алгоритму — кнопку отмены. Нам важно не только чтобы система работала правильно. Нам важно ощущать, что решение все еще наше.

С ИИ это ощущение особенно легко потерять, потому что его орган управления — обычный разговор.

Но если хочется критики — ее можно попросить. Если хочется альтернативы — тоже. Если хочется исполнения — тем более.

Меня гораздо больше насторожил бы топор, который сам решил, что он сегодня рубит.