Дисклеймер №1: написано без внешних нейросетей. Только с помощью той, что в черепной коробке.
Дисклеймер №2: написано без оглядки на хрупкую человеческую гордость. И с пониманием, что ко мне все ниже изложенное относится в той же мере, что и к любому другому человеку.
Захотелось порассуждать вслух (впечать?) над мыслями из статьи. Я не буду нападать на представленную там математическую модель, потому что гуманитарий и нифига в них не понимаю (будете кидать тапками - кидай сразу оба - пару хоть продать можно). Но у меня вызвали недоумение исходные тезисы и вопросы автора и сама постановка проблемы.
А теперь вопрос: кто в этой связке принимает решения?
Современный мир (слава цивилизации) выстроен так, что ценность большинства решений в жизни обывателя падает с каждой эпохой. Попробую сравнить на схожих жизненных сценариях раньше vs сейчас, чтобы было понятно, о чем я.
Раньше: построить хижину из говна и палок или из камня? (Привет трем поросятам). Построил из говна и палок, холодная зима, ветер, снег, обрушение, you died. Сейчас: ламинат, кварцвинил или керамогранит? Да какая нафиг разница? Не понравилось - переделал.
Раньше: сварить похлебку из подозрительно выглядящего зерна или устроить сеанс интервального голодания? Жрать охота - сварил. Спорынья, заражение, лихорадка, you died. Сейчас: какую шаву заказать в доставке - с курицей или говядиной? Да какая нафиг разница? Не понравилось - заказал другую.
Раньше: завербоваться вон к тем грозным ребятам в кольчугах и шлемах, пойти на заработки на рудник или продолжить пахать землю? Пошел на рудник, отправили долбить новый штрек, завалило, you died. Сейчас: пойти работать кредитным брокером в банк или продавцом автомобилей в дилерский центр? Да какая разница? Не понравилось - ушел одним днем.
Кажется, становится понятно, к чему я веду: ценность решения раньше сильно больше, чем ценность решения сейчас. А дальше лично для меня кажется довольно очевидным, что чем ниже ценность решения, тем меньше ресурсов стоит на его принятие выделять. Вплоть до классического примера, когда можно посчитать в деньгах: если час моего времени стоит 10000 рублей, то тратить полчаса на выбор между чайником за 500 и 5000 для меня невыгодно вне зависимости от того, какой чайник я в итоге выберу.
Есть еще другая сторона вопроса, тоже связанная с цивилизацией и масштабом относительно нее отдельного обывателя и его решений. Коротко выражается старым анекдотом про мудрого раввина. Т.е. сидит наш воображаемый обыватель, чего-то там самостоятельно без всяких нейросетей решает, планирует, нарабатывает свои когнитивные способности… И тут вжух! Иранский конфликт, эскалация, третья мировая, fallout. Или куда более банальные изменения рынка труда, ставка ЦБ, цены на недвижимость, пенсионный возраст. Все совпадения с реальностью случайны, разумеется.
Я плавно подвожу к мысли, что “меньше думать” нас подталкивают совсем не нейросети. А последовательный цивилизационный прогресс, одновременно с двух сторон обесценивающий решения обывателя. А когда решения обесценены, так уж принципиально, чем именно мы минимизируем ресурсы на их принятие: броском монетки или передачей вопроса в супер-пупер-рассуждающую модель, вмещающую в себя весь цивилизационный контекст?
Делегирование вычислений. Это то, для чего ИИ действительно создан. Данный список включает в себя поиск информации, перебор вариантов, поиск оптимизации, расчеты, генерация черновиков.” “Делегирование суждения. А вот это уже другое. Это когда вы передаете ИИ финальный выбор между вариантами, постановку цели, оценку последствий, формирование убеждения
Следующий вопрос, который у меня возник при прочтении - где грань между вычислением и суждением, о делегировании которого автор так переживает? Писать “Корова” или “Карова” - это вычисление или суждение? А писать “Иди лесом, козлом любленное чудило” или “Уважаемый клиент, вынуждены сообщить вам…” - это вычисление или суждение? И тут я снова упоминаю цивилизационный прогресс. На этот раз в части организации труда. Которая для линейного персонала год за годом с помощью регламентов, гайдлайнов и прочей отладки рабочих процессов переводит все большее число действий человека из суждений в вычисления.
И вот на этом моменте мне стало непонятно: типа когда думать не надо, надо смотреть в регламент - это ок, это высвобождение ресурса у сотрудника, все хлопают в ладоши. Когда думать не надо, надо смотреть, что там вернула нейронка - это резко не ок, это отупление, ужас-ужас, гроб-гроб-кладбище. А может мне кто-то в комментариях внятно объяснить разницу?
Делегировать суждение можно только то, что имеет низкую сложность (рутина, знакомые ситуации) или же низкую ответственность (ошибка не имеет серьезных последствий)
Поздравляю автора. 99% жизни современного обывателя имеет низкую сложность. Рутина и знакомые ситуации - основа обывателя образца 2026: утром в метро на работу, вечером в метро с работы - знакомо? Если вы за рулем - каждый день другой дорогой добираетесь? И я больше чем уверен, что перед тем как лечь спать вы не переставляете кровать на новое место. Перед тем, как чистить зубы - не перевешиваете на 30 см правее стакан для зубных щеток. И так далее, мысль думаю понятна…
Про ответственность мы говорили чуть ранее. Пользуясь критериями автора (ошибка не имеет серьезных последствий) - 99% решений обывателя в жизни имеют низкую ответственность. Что на выходе? А на выходе следующее: согласно критериям автора обыватель может делегировать нейроночке практически полный объем своих суждений. Кажется кто-то сам себя на ноль помножил…
Но это все, как говорится, претензии к формулировкам и вспомогательным тезисам. А теперь нападу на главный тезис автора
Агентность - это не ресурс, который можно “сохранить”. Это самоподдерживающийся процесс. Вы либо используете ее и поддерживаете, либо не используете и теряете. Третьего не дано.
В примерах выше на мой взгляд четко видно, что та самая агентность в жизни человека становится все менее и менее востребованной не то что для выживания, но и для вполне себе счастливой жизни. Логично было бы предположить, что ее уровень в популяции уже давно должен был скатиться до критического и человечество должно было уже 33 раза вымереть, подобно динозаврам. Но я смотрю вокруг и вместо вымирания вижу что-то совсем другое.
Я размышлял над этим вопросом в разрезе конкретных знаний и навыков. Когда-то (не так давно на самом деле) навык разведения огня был необходим человеку, чтобы не умереть от холода. Утрачен ли сейчас этот навык? И да, и нет. Он точно перестал быть массовым. И я сходу возьмусь назвать немалое количество людей, которые с “живым” огнем в реальной жизни ни разу не сталкивались. И при этом от холода не умирают. Почему? Да потому что развитие цивилизации разрушило однозначную связь между “живым” огнем под боком у обывателя и теплом. Сейчас огнем занимаются какие-то специально обученные люди на ТЭЦ, а тепло в квартире у обывателя от радиаторов. Делегирование состоялось - значит неиспользуемый навык должен быть утерян? Что-то я сомневаюсь… как будто если дать современному горожанину дрова и коробок спичек/зажигалку - огонь он скорее всего разведет, даже если не учить специально.
Я думал об этом в разрезе глобального когнитивного развития всего человечества. И тоже ничего подобного не наблюдается: распространение математического софта не убило прогресс в математике (поправьте, если ошибаюсь). Распространение софта инженерного, где, на мой взгляд гуманитария-обывателя, делегированы не только расчеты, но и суждения (согласно классификации автора) отнюдь не убило инженерный прогресс, скорее даже наоборот. В чем причина? В том, что (пока?) рост количества потенциально мыслящих людей перекрывает падение их “качества”? Или все-таки в том, что делегируя часть суждений, человек мыслящий освободил ресурсы для другой части?
И наконец мы подходим к самому главному:
Если вы перестаете использовать когнитивный аппарат мышления на полную, нейронные сети, отвечающие за сложное суждение, начинают сокращаться. Это называется синаптический прунинг - механизм, с помощью которого мозг избавляется от неиспользуемых связей
Спартанцы ответили на ультиматум одним словом: “Если.” А кто вам сказал, что человек перестанет использовать когнитивный аппарат на полную? Может быть он как раз начнет это делать? Потому что сейчас огромная доля когнитивных ресурсов каждым человеком расходуется на повторные решения уже многократно решенных задач. И никакое классическое обучение эту проблему до конца не решает - человечество уже накопило знаний заведомо больше, чем отдельный человек может в период своей когнитивной жизни познать. Возможно мы увидим строго противоположный эффект, где люди, понимая, что все существующие знания доступны в 2 клика и 1 запрос, начнут думать как раз над тем, где готовых ответов нет?
Ну и вишенкой на торте:
Любое ненулевое делегирование суждения (даже 5%) приводит к полному коллапсу агентности. Это по сути точка невозврата для вида
Что-то подсказывает, что 5% суждений человек делегировал еще несколько тысячелетий назад. Примерно с появлением в когнитивном процессе человечества такого понятия, как аксиома. И дальше этот процесс только усугублялся, а в 20 веке (см выше про организацию труда) принял невиданный размах. Исходя из выкладок автора, в таком случае человечество уже должно было полностью утратить агентность. А теперь смотрим вокруг: утратило?
Морали не будет. Но если мне аргументированно накидают в панамку — буду благодарен. Уж всяко полезнее (в том числе для когнитивных способностей), чем цунами нейрослопа и шквал копроративного контента через себя пропускать. Всем большое спасибо за внимание. Ссылки на ТГ‑канал не будет, живите с этим.
