Так думает Дуглас Хофштадтер, автор популярной книги "Гёдель, Эшер, Бах: эта бесконечная гирлянда".
Цитата взята отсюда: Gödel, Escher, Bach, and AI - The Atlantic. В статье Хофштадтер приводит эссе, написанное чатботом от его имени, а затем разносит эссе в пух и прах. Утверждает, что чатбот переврал и его стиль, и фактологию. Статья рекомендуется к прочтению.
Мнение Хофштадтера о чатботах вызывает во мне двоякие мысли. С одной стороны, хочется с ним согласиться. Чатботы посягнули на то, что до сих пор считалось подлинно человеческим. И вроде как, не хочется делиться этой поляной с бездушной машиной. Также не хочется, чтобы глубокие подлинные человеческие истории вытеснялись поверхностными, переполненными банальщиной суррогатами, которые сейчас генерит ИИ.
С другой стороны, чисто исторически определение того, что является "подлинно человеческим" постоянно менялось. Некоторые функции, которые когда-то были основными для человека, со временем перестали быть таковыми. Например, у наших предков, живших 3000 лет назад, мозг был больше нашего. Есть гипотеза (хотя доподлинно это неизвестно), что благодаря большему мозгу наши предки могли запоминать больше информации. А с распространением письменности и усилением специализации труда необходимость запоминать много отпала. Соответственно, наш давний предок с появлением письменности мог бы, наверное, сказать: "Эти бездушные, быстро теряющие актуальность буквы не заменят живой памяти человека, способного запомнить расположение десятков полян для сбора самых сочных ягод". Однако прошло несколько тысяч лет, и сейчас мы, пожалуй, не особо расстраиваемся от того, что у нас не слишком крутая память. Заглянуть в книжку, в блокнот, позвонить другу, поискать в Интернете - привычные операции, которые компенсируют нам недостаток собственной памяти. Мы совсем не против того, чтобы эта память была где-то "снаружи" нас.
Так что да, перечень того, что является "человеческим", менялся на протяжении истории. Однако не совсем очевидно, что отдача письменного творчества на откуп чатботам для нас так же полезна, как появление письменности. Во-первых, появление письменности, скорее всего, способствовало развитию более абстрактного мышления и новых граней творчества. То есть креативить мы благодаря письменности стали, скорее всего, больше и лучше. Ситуация с чатботами пока выглядит противоположно. По крайней мере, не очевидно, как от неё может выиграть наше мышление. Во-вторых, у нас перед глазами не супер-позитивный (на мой взгляд) пример с интернет-поиском, который во многом, наверное, можно считать технологическим предшественником чатботов. Почему я считаю, что история интернет-поиска не супер-позитивная?
Ну, как мне кажется, поисковики перестали понимать умные запросы. Получилось так, что не поисковики подстроились под нас, а нам пришлось подстроиться под поисковики. Сейчас, чтобы найти что-то толковое, необходимо составлять самые тупые запросы. Что-то "среднее по больнице". Мы сейчас сидим и думаем не о том, "как бы этот вопрос задал именно я?", а о том, "как бы его задали миллионы других?" Если нам удаётся угадать "усреднённый" запрос, то бинго, если нет - ничего дельного мы не находим. Также поисковики умеют очень хорошо удовлетворять запросы о поиске товаров и магазинов, но если покупки нас не интересуют, то придётся попыхтеть. Поисковик часто всё равно будет предлагать купить какую-нибудь фигню, даже если это совсем не к месту. А ёще упала ценность результатов поиска, расположенных на страницах, отличных от первой. Никто уже не идёт на вторую и тем более третью страницу, потому заранее известно, что там фигня. Хотя когда-то это было не так. Первые несколько страниц содержали более-менее релевантные результаты. Так что поисковики, на мой взгляд, научили нас быть более банальными. Мы не учимся взаимодействовать с ними более умно, наоборот: мы стараемся быть с ними как можно более тупыми. Да и более-менее умную информацию добыть из них стало не так-то просто. То есть выполнить индивидуальную, креативную задачу с помощью поисковика - сложно. А вот сделать что-то статистическое и тривиальное - просто, но дополнительной ценности от этого не очень-то и много.
Я думаю, что скепсис многих по поводу чатботов связан именно с тем, что у нас мало позитивного опыта именно с предыдущими инкарнациями схожих по назначению технологий. Основываясь на опыте тех же поисков, наверное, вполне справедливо ожидать от чатботов в будущем статистической банальщины, тривиальщины, да ещё и заточенных под продажи ненужного нам хлама.
Но в целом, конечно, посмотрим. Жутко интересно, к чему всё это придёт.