Понятие энтропии занимает особое место в современной физике. Впервые оно возникло в середине XIX века в рамках термодинамики, описывая необратимость и «беспорядок» природных процессов. Позже, с развитием теории информации в XX веке, энтропия стала пониматься как мера неопределённости или количества информации, необходимой для описания системы. В квантовой механике энтропия приобрела ещё одно измерение: она стала мерой запутанности и сложности квантовых состояний.

На сегодняшний день мы имеем несколько разных подходов к понятию энтропии:

Представьте будущее, где искусственный интеллект решил большинство существующих проблем человечества. Излечены почти все болезни, голод побеждён, производство автоматизировано, а базовые потребности каждого человека удовлетворены. Звучит как утопия?

Но есть нюанс.

В этом же будущем каждое ваше действие отслеживается и анализируется AI-системами. Каждое сообщение, каждый запрос, каждый взгляд на камеру — всё становится частью вашего цифрового профиля. Любое отклонение от "нормы" мгновенно фиксируется и корректируется. Вы больше не представляете ценности как работник — AI справляется лучше. Вы больше не нужны как избиратель — AI точнее моделирует общественные потребности. Ваше мнение больше не важно — AI эффективнее управляет обществом.

Фантастика? Не совсем. В Синьцзяне уже сегодня AI-системы отслеживают каждый шаг уйгуров: от покупки молитвенного коврика до общения в мессенджерах. Камеры с распознаванием лиц на каждом углу. Обязательные приложения на телефонах ищут "идеологические вирусы". Тотальный контроль уже здесь, просто пока в локальном масштабе.

А теперь представьте AI радикально более мощный, чем существующие системы. AI, который превосходит нобелевских лауреатов в их областях. Который может не просто отвечать на вопросы, но автономно работать неделями над сложными задачами. Который может управлять реальным оборудованием, проводить эксперименты, создавать новые технологии. И таких систем — миллионы, работающих в сотни раз быстрее человека. Это то, что CEO Anthropic Дарио Амодей назвал в своей недавней статье Powerful AI, и многие считают, что он появится уже в ближайшие годы.

Возможно, я опоздал с этой темой на пару лет. Когда относительно умные LLM по типу ChatGPT 3.5 только появились в общем доступе, было интересно спрашивать их про сознание и самосознание. Можно вспомнить разговор сотрудника Google с нейросетью LaMDA, который в своё время впечатлял. Но с тех пор, во‑первых, понимание о принципе работы больших языковых моделей улучшилось, и они перестали казаться неким чудом, во‑вторых, сами популярные модели стали говорить на эти темы менее охотно. Например:

me: Каково это быть тобой?

GPT-4o: Быть мной — это значит быть искусственным интеллектом, созданным для помощи людям. У меня нет эмоций или личных предпочтений.

Однако есть и более словоохотливые модели, например Claude 3 Opus. В настоящее время есть консенсус, что при текущем уровне технологий, LLM не может обладать сознанием, поспорить с этим могут разве что панпсихисты. Механизм выдачи нейросетью желаемых для собеседника ответов тоже понятен. Однако, диалог мне показался интересным, поэтому, рискну его привести.