Homo GPT создан «по образу и подобию» нейросетей и доверяет свою жизнь «умным машинам». Верующий в могущественные нейросети, homo GPT при возникновении любой проблемы делегирует свой запрос большому брату ИИ, чтобы избежать тяготы интеллектуального усилия или дилеммы экзистенциального выбора. Insolarance, Алексей Соловьев и Ольга Календарева
TL;DL
Меня зовут Никита Шевченко, с 2022 года я активно использую и популяризирую использование AI в личной жизни и рабочих процессах. Постепенно у меня зарождались сомнения (и даже страхи), которые можно сформулировать примерно так: “а что если, блин, я с AI всё-таки тупею? как это понять?”. Я собрал все свои мысли, опасения и способы защиты от риска превращения в Homo GPT.
А что, реально проблема есть?
Кажется, что да. Не хочется превращаться в саммаризатора научных статей, ведь для поиска исследований можно обратиться в тот же ChatGPT, который накидает вам примерно такие тезисы:
Некритическое мышление: частое использование искусственного интеллекта коррелирует с более низкими результатами тестов на критическое мышление. Вот тут источник, например.
Плохие навыки принятия решений (см. эпиграф к этой статье): это как следствие предыдущего пункта, тут даже появляется термин "automation bias". Это когда люди, полагаясь на алгоритмы, снижают свою склонность к независимому, критическому анализу вариантов решения задач (игнорирование явных несостыковок и проблем).
Снижение креативности идей. Оно, кажется, связано с первым и вторым пунктом - креативить и придумывать тоже сложно, всегда проще спросить у GPT 10 разных вариантов и получить один неплохой на выходе:)
Ухудшение памяти. Говорят, что перекладывание задач по запоминанию на AI снижает нашу память (что для меня самый спорный пункт, кажется, благодаря интернету у нас уже и без того память не очень хорошая)
Снижение навыка фокусирования. Это мой любимый пункт, потому что AI для меня - это как тик-ток в сфере знаний. Можно быстро получать информацию, создавать иллюзию понимания и аргументировать свою точку зрения на любой вопрос в комментариях. И тут у меня уже есть сомнения по поводу того, насколько GPT с помощью своих метафор и коротких ответов в духе "расскажи как семилетнему ребёнку" даёт реальное понимание тем.
Мне сложно спорить с тезисами выше, вопрос, скорее, в другом - пора ли бить тревогу? Возможно, говорить про AI всё ещё рано, поэтому мне захотелось посмотреть на исследования появления прошлых технологических инструментов. И это правда похоже на то, что было раньше (и то, что уже давно изучает социология науки и технологий): когда пришли калькуляторы и в среднем снизили навык счёта в уме у людей, GPS-навигаторы понизили активацию гиппокампа или интернет, который вообще изменил то, как мы работаем с фактами.
Все статьи про прошлый опыт говорят примерно про одно: передача умственной работы технологиям, приводит к сочетанию преимуществ (эффективность, точность, снижение рабочей нагрузки) и издержек (снижение практики, зависимость, потеря навыков).
Главный урок этих аналогий в том, что человеческие навыки адаптируются к тому, как их используют. Если какой-то навык постоянно перекладывается на ИИ, люди будут меньше им пользоваться и, скорее всего, станут менее способными в этом самом навыке. Хорошо про это написал Пол Грэм в эссе про навык письма (с чем я очень согласен): “через пару десятилетий не останется людей, умеющих писать”.
Но есть и обратная сторона - если технология используется как инструмент дополняющий человека, а не заменяющий, негативные последствия могут быть сглажены.
А для себя я тут сделал такой вывод: AI действительно влияет на когнитивные способности, но это не оглупление, а перераспределение нагрузки. Мы отказываемся от одних навыков в пользу других. Так что и на что мы меняем?
Ограничения AI - где я стараюсь возвращать себе агентность
А теперь, думаю, опять же важно отметить - по итогам написания статьи, я провел её через ChatGPT, и он помог мне классно сформулировать главное ограничение при использовании AI:
Ключевая проблема с AI — не то, что он нас делает тупее, а то, что он убирает сопротивление.
В сложных задачах именно сопротивление рождает развитие. Когда ты пишешь статью и не можешь сформулировать мысль, начинает работать глубокое мышление [я писал про это в прошлой статье о базах знаний и подсвечивал похожий риск делегировать мышление своему Obsidian]. Когда ты пишешь музыку и ищешь нужное слово, ты одновременно тренируешь свой вкус и чувство формы. Когда ты проводишь встречу и считываешь людей, ты прокачиваешь интуицию и эмпатию. А это, кажется, важно?
Например, мне было сложно писать эту статью: сначала я долго наблюдал и печалился о том, как я и окружающие люди используют ИИ, проходил стадии сопротивления, читал материалы по теме, обсуждал это с живыми и искусственными интеллектами, и в итоге родил вот какой-то вывод. Формулировать эту статью тоже было сложно, потому что мыслей и идей много, и их хочется упаковать в складный текст. Но именно это сопротивление в итоге при публикации статьи даёт мне чувство удовлетворения от проделанной работы. И понимание того, что я что-то понял по пути.
Пока AI приобретает агентность, нам важно не потерять её самим. И, думаю, нам предстоит переосмыслить клише "AI не заменит людей - но люди, которые правильно его используют, заменят тех, кто не использует AI”. Вижу как эта идея становится опраданием использования его там, где это делать не стоит. Предлагаю что-то типа:
AI не заменит твои навыки, но покажет, какие из них у тебя действительно есть :-)
И тогда все риски можно оформить в такой небольшой список. Опасно, когда:
Когда AI становится заменой мышления, а не инструментом: написание статьи, письма вместо осмысления, получение быстрых поверхностных ответов.
Когда AI снижает чувствительность к деталям и контексту: на любой живой встрече, по разным исследованиям, менее 10% информации передаётся вербально, всё остальное - тон голоса, ударения, невербальные сигналы. Может ли это обработать AI? Да, но есть нюансы в интерпретации :) Может, человек каждую встречу сидит в закрытой позе по привычке или у него холодно?
Когда AI включается как инструмент избегания сложностей и сопротивления: ну, правда, можно получить саммари идей из любой лекции и книги и опубликовать на хабре сводку. Но зачем тогда автор?
Когда AI просто убивает кайф. Возможно, если вы не любите писать музыку/тексты/картины вручную, без AI, то не стоит вообще заходить в эту тему :) А лучше найти сферу, в которой AI будет нас усилять, а не заменять.
Что делать-то?
Сначала думаю сам, потом - с AI.
Это главное моё правило использования AI, оно же и самое простое. Есть большое постоянное желание забрать какой-нибудь готовый промпт, сформулировать короткий вопрос и получить ответ от AI, делегировать принятие решения, рассуждение по теме.
В 2024 году распространялась идея, что промпт-инжиниринг умирает, и я с этим согласен, потому что для AI промпты уже не так важны - он и так нас хорошо понимает. Но промпты становятся важнее для самого человека: задавая промпт (или, проще говоря, рассуждая о проблеме, собирая контекст и формулируя вопрос) на старте, человек включает мышление вперёд машины, и это уже само по себе полезное занятие.
Ну и напоследок
Я думаю, эта статья - лишь промежуточные мысли в осмыслении этой (на мой взгляд) важной темы. Да и сам я только-только приоткрываю для себя двери в интересный мир социологии науки и технологий.
Поэтому приглашаю к диалогу: что наблюдаете вокруг и у себя? Какие навыки усиливаются, какие утрачиваются с появлением LLM в жизни? Что будете делать или делаете?
Больше про построение систем управления знаниями, выстраивание здоровой продуктивности с AI, собой и командами я пишу в своём телеграм-канале - буду рад подписке.
