Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 12
Сегодня мы имеем доступ к огромным массивам информации, накопленной за тысячелетия. Но их правильное структурирование, поиск максимально возможной объективности — вызов для каждого. К сожалению, наше субъективное мнение часто к этому не готово. Запрещать и подавлять проще, чем разбираться в сложных вопросах.
Никакая «Алиса» не заменит в этом процессе самого человека. Большие библиотеки ИИ могут быть как хорошими помощниками, так и инструментами введения в заблуждение. Вся ответственность лежит на тех, кто и как их использует. За нас этот вопрос не решит никто.
Текст пока только начал читать, но слог мне нравится. Чем-то таким от Умберто Эко отдаёт :)
LLM могут быть как хорошими помощниками, так и мощными инструментами введения в заблуждение. Но точно так же, как и любое символическое вообще — включая религию, философию, науку и идеологии.
Ярчайший исторический пример — геоцентрическая система мира (модель Птолемея).
В течение почти полутора тысяч лет (с античности до XVII века) она считалась не просто «лучшей теорией», а объективной истиной, освящённой авторитетом Аристотеля, Птолемея, а позже и христианской церковью. Она идеально «структурировала» огромный массив наблюдений того времени: объясняла видимое движение планет через эпициклы и деференты, соответствовала повседневному опыту («Земля неподвижна, Солнце и звёзды вращаются вокруг нас»), поддерживала антропоцентрическое мировоззрение («человек — центр творения») и прекрасно вписывалась в богословскую картину мира.
Ответственность человека остаётся не в «правильном структурировании информации», а в постоянной готовности к тому, что сегодняшняя «максимально возможная объективность» завтра может оказаться новым геоцентризмом. Ответственность в постоянном подозрении к любой идее, которая обещает объяснить всё.
Если прослеживать вашу мысль, то для каждой местности или исторической эпохи есть своя определяющая догматика, что совершенно верно. Как верно и то, что она может быть большим заблуждением. Вопрос в «чистоте знаний» и объективности, если сам человек, как «мерило истины», бывает очень предвзят и часто от нее достаточно далек. Как замерить полноту, если ты ей не обладаешь? Так и выходит бег человека и цивилизаций — кругами. У людей такая мешанина, а LLM ее копирует и местами усиливает, показывая наше же отражение.
Истина часто болезненна, неудобна и разрушает уютную картину мира. Геоцентризм держался полторы тысячи лет не потому, что люди были глупы, а потому, что он прекрасно успокаивал: «Мы в центре, всё имеет смысл, Бог нас любит, мир упорядочен».
Точно так же в финальной сцене фильма «Не смотри наверх», когда комета уже входит в атмосферу и конец неизбежен, большинство людей выбирают не истину, а душевное спокойствие. Они собираются за семейным ужином, молятся, шутят, говорят о простых вещах и просто проводят последние минуты вместе — вместо того чтобы смотреть на приближающуюся катастрофу. Они отказываются «смотреть наверх» до самого конца.
Сегодняшние религиозные догматики выполняют ровно ту же функцию. Религия — это уже не опиум, а прозак. Она стала высокоэффективным психологическим щитом, который защищает психику от тревоги, пустоты и экзистенциального ужаса.
LLM лишь усиливают этот механизм. Они позволяют человеку ещё глубже спрятаться в комфортной, внутренне когерентной картине мира, даже когда реальность уже летит прямо на вас.
Мысли понятные. Именно поэтому я подчёркиваю: ИИ — это не источник истины, а лишь инструмент для выявления противоречий. Геоцентризм держался полторы тысячи лет не из-за глупости людей, а потому что не было инструментария (необходимого анализа) для его системного опровержения. Сегодня LLM-библиотеки могут помочь увидеть — тем, кто этого желает — где наша картина мира «трещит по швам». Можно, конечно, уйти и в большие дебри. Но всё зависит от того, кто и чего ищет.
Проблема в том, что LLM в силу своей сути не может уйти с человеческой точки зрения. Он и представляет собой модель человеческого мышления, логики, последовательности слов, обычно выдаваемых людьми.
Да, он может показать закономерности, найти мелкие нестыковки (типа уязвимостей в ПО), но кардинально сменить парадигму и создать принципиально новую модель мира не способен (IMHO, конечно).
Геоцентризм держался полторы тысячи лет не из-за глупости людей, а потому что не было инструментария (необходимого анализа) для его системного опровержения.
Когда появились более сильные инструменты (телескоп Галилея и др.), церковь (и общество) не обрадовались «новой истине», а попытались её запретить — официально осудила гелиоцентризм как ересь в 1616 году. Возможность системного опровержения привела только к большему сопротивлению. Церковь официально признала ошибку только в 1992 году — через 376 лет
ИИ — это не источник истины, а лишь инструмент для выявления противоречий.
ИИ — это не источник истины, а лишь инструмент для выявления противоречий внутри его собственного символического порядка. Он отлично находит логические нестыковки между текстами и гипотезами, добавлять новые, более изящные эпициклы.
Сегодня LLM-библиотеки могут помочь увидеть — тем, кто этого желает — где наша картина мира «трещит по швам». Можно, конечно, уйти и в большие дебри. Но всё зависит от того, кто и чего ищет.
Если вы ищете более красивую и приятную ложь — ИИ станет вашим лучшим помощником. Он мастерски полирует старые иллюзии, делает их внутренне непротиворечивыми и убедительными.
Если вы хотите понять, чем ваша картина мира отличается от Реального, то ИИ вам не поможет. У него нет объективной реальности данной ему в ощущение!
Мечтают ли андроиды об электроовцах? Можно ли обсуждать воображаемого всемогущего повелителя с воображаемым всезнающим экспертом? И другие философские вопросы... ;)
Вессь вопрос, кого считать воображаемым и по какому критерию оценивается такая экспертиза от возможного эксперта?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Сожжение за ересь» в цифровую эпоху: почему ИИ не новый римский папа, а просто очень большая Википедия