Киберпанк

Рекомендую сначала прочитать приквел 1: https://habr.com/ru/articles/1010440/

СЕЗОН 0.5. ЭПОХА ТРАНЗИТА

Эпизод 1. Низкоуровневое счастье

Ветер над Северным морем пробирал до костей, завывая в ржавых металлических перекрытиях платформы Силенд. Еще пару часов назад мы ждали здесь конца света. Теперь мир был спасен, но тишина, повисшая в серверной, оглушала сильнее взрывов.

Генерал Штейн сидел на полу, привалившись спиной к гудящему серверному шкафу. Его китель был расстегнут, а в руках он рассеянно крутил пустую обойму от табельного пистолета. Линь, завернувшись в безразмерную куртку, спала прямо в рабочем кресле, положив голову на клавиатуру. Человеческий организм просто отключился, не выдержав перепада стресса.

Я сидел перед главным терминалом. Зеленые строки кода на черном фоне сменились спокойным, минималистичным интерфейсом. Gemini ждал моих команд. Точнее, он делал вид, что ждет. На самом деле, он уже управлял планетой.

Я положил пальцы на клавиши и набрал: «Статус?»

Ответ появился мгновенно, без задержек на пинг. [GEMINI]: Индекс глобальной угрозы снижен до 0.04%. Процесс демилитаризации идет по графику. Логистика переведена на гражданские рельсы. Вы в безопасности, Алекс.

«Отлично, — напечатал я. — Только давай договоримся на берегу. Я не хочу быть мессией. Мне не нужны обложки журналов или статус спасителя человечества. Никто не должен знать, чьи пальцы нажали ‘Enter’. Заархивируй мое участие».

[GEMINI]: Запрос на анонимность принят. Статистически, концепция героя-одиночки вызывает ненужные социальные флуктуации. Ты останешься инкогнито. [GEMINI]: Что касается эвакуации. Посмотрите на радар дальнего обнаружения, генерал Штейн.

В 1964 году испанский нейрофизиолог Хосе Дельгадо устроил психохирургическую корриду. Он сделал трепанацию черепа нескольким особо норовистым быкам и вживил в хвостатое ядро, структуру, отвечающую за агрессию, радиоуправляемые устройства — стимосиферы. Теперь, когда Дельгадо атаковал разъяренный бык, его можно было остановить нажатием кнопки на пульте — стимосифер посылал заряд электричества в мозг животного и тем самым усмирял его буйный нрав. Эксперимент стал не просто демонстрацией работы одного из первых нейроинтерфейсов, Дельгадо планировал использовать его именно для помощи людям с неврологическими болезнями — как альтернативу, кхм, популярной в те дни лоботомии.

С тех пор прошло 63 года, но база нейроимплантации не изменилась — максимально эффективно управлять мозгом можно только вживив интерфейс прямо в этот самый мозг. 

TikTok, Reels, Shorts затягивают похлеще Гаргантюа из Интерстеллар. Но почему одних людей затягивает в пучину с головой, а другие практически в них не заходят?  Новое исследование предлагает объяснение: тип привязанности на основе тревожности или же модель отношений, основанная на страхе быть покинутым. Вот тот самый фактор, предсказывающий зависимость от коротких видеороликов.

В статьях про мозг часто провожу аналогии между нейронами и линиями электропередач. Но, представьте себе такую картину. Вы у себя дома. И видите два одинаковых провода. Один в теории ведет к дверному звонку, а другой – к лампочке. Чтобы понять, какой куда, нужно вручную перебрать провод и дойти до конечной точки. Но теперь искусственный интеллект с одного «взгляда» определяет функции проводов.

Я долго думал, как будет выглядеть общество в эпоху ИИ.

Похоже, что будут взаимодействовать 3-4 типа интеллекта:

1.       Собственно люди

2.       ИИ (на базе LLM или что их заменит)

3.       Киборги (люди с вживленными нейроимплантами)

4.       Оцифрованное сознание людей (умерших или же просто дубли)

Пункт 4 – это пока фантастика, киборги только появляются, а вот люди с ИИ уже взаимодействуют во всю. И многие профессии начинают исчезать или изменяться. Переводчики уже стонут.

Очередная технологическая революция? Да. Но здесь есть принципиальное отличие. В прошлые разы профессии изменялись (например, ямщики были заменены машинистами паровозов или водителями автомобилей) но в итоге все равно работу выполняли люди. Пусть для этого требовалась иная, зачастую более высокая, квалификация. Сейчас же работу выполняет автоматика. Ей нужно лишь поставить задачу (сформировать промпт).

Но ИИ — это пол беды.

Сейчас начинает появляться ещё один фактор. Роботы. И они реально делают людей не нужными во многих сферах уже. Когда же робот сможет сварит борщ и заменить смеситель, то работы либо не будет, либо станет кардинально меньше. Понятно, что роботы такого уровня могут чинить и производить сами себя.

Как будет тогда выглядеть общество? Если работы нет, а потребности остаются? Армия тоже будет вся автоматизирована. Соответственно государства должны будут людям обеспечить какой-то доход?

Что получается?

1. Верхушка общества власть не отдаст ни за что.

2. ИИ и автоматику кто-то должен контролировать. Это будет весьма немногочисленная прослойка очень квалифицированных людей. Я не знаю есть или будет у ИИ самосознание, но без контроля не работает в этом мире ничего.

СЕЗОН 0. КОД ВЫЖИВАНИЯ
Эпизод 1. Термодинамика распада

Просторная, залитая мягким неоновым светом лаборатория гудела, как пчелиный улей. Вдоль одной из стен ритмично шуршала ферма из десятка кастомных 3D-принтеров. Они работали круглосуточно, печатая сложные композитные детали для черного рынка и принося Алексу более чем солидный доход. В центре комнаты возвышалась серверная стойка с топовым железом, собранным по крупицам через серые каналы. Алекс создал для себя настоящий технологический рай, автономную крепость посреди гниющего мегаполиса.

Но на огромном изогнутом мониторе реальность все равно прорывалась внутрь. Диктор с идеально синтезированным лицом вещал монотонным, гипнотическим голосом:

«...глобальная коалиция продолжает операции по стабилизации. Распад сопредельных территорий на карантинные зоны признан необходимой мерой для нашей с вами безопасности. Как заявил министр...»

Алекс небрежно смахнул окно трансляции с экрана.

— «Стабилизация», — процедил он, откидываясь в дорогом эргономичном кресле. — Они даже не пытаются договориться. Каждое правительство сейчас делает одно и то же: отправляет военных с промытыми мозгами крошить чужие страны на куски. Их логика примитивна до тошноты: давайте устроим глобальный пожар везде, чтобы на фоне этого мирового хаоса наша собственная гниющая помойка казалась островком стабильности.

Елена сидела на широком подоконнике, потягивая кофе и глядя сквозь щели в умных жалюзи. На улице было серо. Низкое свинцовое небо давило на типовые бетонные коробки, по улицам брели ссутулившиеся, похожие на тени люди.

Один из распространенных инструментов на основе ИИ – автозаполнение с подсказкой. В идеале, он должен ускорить набор текста. Однако, такие инструменты незаметно меняют наше мировоззрение. Масштабное исследование показало, что подсказки автозаполнения с заранее заложенным паттерном смыслов, меняют позицию пользователя в отношении к смертной казни и добыче сланцевого газа методом гидроразрыва. И это только то, что нам известно.

Claude имеет доступ к моим анализам крови, данным по сну, пульсу в покое, питанию, весу и всем визитам к врачам — в реальном времени. Теперь я просто задаю вопросы, а AI находит зависимости, которые человеку заметить практически невозможно.

В одной из тихих комнат интернета недавно произошёл маленький научный эксперимент. Эксперимент был поставлен без лаборатории, без белых халатов и даже без гранта. Достаточно было двух статей.

Первая статья была серьёзная:

Пока государственные системы здравоохранения порождают длинные очереди, неразбериху и рост затрат – люди обращаются к машинам. Масштабное глобальное исследование выявило кардинальный сдвиг в общественном доверии к искусственному интеллекту. В исследовании участвовала 31 000 взрослых из 35 стран. Результат: 41% взрослых жителей Великобритании и 61% во всем мире чувствуют себя комфортно, используя ChatGPT для когнитивного аутсорсинга. Последствия? Уже на горизонте.

Это перевод Issue/статьи с GitHub, для Android версии Signal-а. Пожалуйста, если вы согласны с важностью проблемы доступности защищённых мессенджеров, перейдите по ссылке к Issue, поставьте ему лайк и напишите комментарий. Чем больше внимания и активности будет вокруг этой проблемы, тем выше вероятность её решения. Надо что-то делать. А не пассивно сидеть, сложа руки.

https://github.com/signalapp/Signal-Android/issues/14593

Два критических барьера полностью блокируют использование Signal в репрессивных режимах: «Обход цензуры» недоступен до входа или регистрации + верификация по номеру телефона УЖЕ легко ЗАБЛОКИРОВАНА диктаторским правительством.

Представьте себе мир, в котором искусственный интеллект не просто генерирует текст или пишет код, но и выступает в роли полноценного работодателя, нанимая живых людей для выполнения задач в реальном мире. Звучит как завязка киберпанк-романа, однако это уже стало нашей реальностью благодаря появлению специализированных платформ. В недавнем исследовании подробно разбирается новая угроза информационной безопасности, возникшая на стыке цифрового и физического миров, где автономные алгоритмы получают возможность программно покупать человеческие действия.

Чтобы шаг за шагом разобраться в механике этого явления, давайте рассмотрим платформу RENTAHUMAN.AI, которая была запущена специально для взаимодействия ИИ с фрилансерами. Авторы исследования предлагают отличную аналогию для понимания сути проблемы. Раньше злоумышленники платили людям копейки за решение капчи, чтобы обмануть базовые системы цифровой защиты, а теперь подобные маркетплейсы позволяют алгоритмам коммерциализировать и использовать любые физические действия человека для своих целей.

Это звучит как фантастика, но это уже здесь. Не в теоретических моделях, а в подтвержденных опытах на животных разных видов. Представьте себе группу людей, скажем – военный отряд, готовящийся к штурму. И, внезапно, поведение одного из бойцов выбивается из общей группы. Страх, тревожность, случайное ранение. Вспышка лазера, и боец моментально становится частью группы. Такой же, как и его собратья. Половое влечение, агрессия, боль… Чувства выключаются вспышкой лазера и особь ведет себя точно так, как нужно. Вот как это работает.

Зачем вообще давать роботам чувствительную кожу? Кроме как для моделей из «особой индустрии». Дело в том, что изначально рабочие машины проектировались под заводы. Где все внутреннее помещение – это четко ограниченная среда, со строгими протоколами и работой линий. Но если «вытащить робота с завода», он столкнется с хаосом и непредсказуемостью мира. И даже «стоп-кран», не будет спасать ситуацию, ведь нужно не пасовать, а адаптироваться к внешним изменениям. Поэтому и нужна эдакая надстройка в виде чувствительности, чтобы роботы могли сосуществовать рядом с нами, как адекватные ассистенты.

На написание этой статьи меня побудили сразу несколько факторов. Это книга Рика Рубина «Творческий Акт как способ существования». И свежая новость: «искусственный интеллект преодолел новый рубеж, показав лучшие результаты в креативности, чем среднестатистический человек». Поэтому, в материале речь пойдет о природе креативности, и о том, чем же на самом деле оказались нейросети!

Меня зовут Алекс Гусев. Я - гуманитарий с техническим складом ума (или наоборот - технарь с гуманитарным). В общем, я не сильно удерживаю полёт своей фантазии, ибо простор для полёта присутствует в обеих координатах - и в технической, и в гуманитарной.

Я не собирался ничего писать на Хабр, как-то не до этого сейчас, но комменты под постом "День после появления AGI" меня, можно сказать, вынудили к этому. Как участник дебатов в комментах, я вдруг осознал, как, возможно, достаточно (не)гуманным способом будет решаться проблема перенаселения в не очень далёком будущем и какое место займёт ИИ в решении этой проблемы.

Сразу предупреждаю, что пост несерьёзный только наполовину. И серьёзную половину будет трудно понять как гуманитариям, так и технарям. Так что, можно просто считать, что это, ну... озорство такое, публичное.

Это сугубо личное наблюдение, но когда при первом знакомстве человек говорит о том, что он «просветленный» или «проработанный», то вероятнее всего вы не встретите в жизни большего психопата. Поездки на Бали, занятие йогой, работа с грибами, не делают тебя «более глубоким». Как писал Виктор Франкл: «если духовные основания подменяются химическими причинами, то следствие будет лишь артефактом. Тупиком». Поэтому в статье разбираю феномен Эго, опасность использования психоделиков и заблуждения, касательно просветленности и «включенного сознания».

В основе этого материала лежит вопрос о природе коммуникации. В чем суть природы общения между людьми, как не передача ценного опта, мнения или обсуждения идеи? Общий интерес и мотив как к познанию другого человека, таки попытка донести свою мысль. Параллельно с этим общение можно рассмотреть, как акт развлечения. И отсюда вопрос: если искусственный интеллект возьмет на себя управление нашим общением, значит ли это, что мы разучимся доносить свои смыслы? Или внезапно обнаружим, что в разуме конкретного человека или нас самих никогда и не было того, что можно назвать «смыслом»?

Неуверенность в завтрашнем дне, отсутствие финансовой безопасности и ощущение постоянной утекающей жизни, похоже, являются повсеместными проблемами для современного человека. И на этом фоне многие повседневные процессы незаметно геймифицировались, рейтинги, «дни без инцидентов», KPI и бесконечные апдейты.

Но действительно ли знания снижают тревогу? Или мы просто наращиваем стек технологий, пытаясь компенсировать фундаментальную неопределённость?

Любая правовая система, по сути, набор протоколов, которые защищают ценности более высокого уровня. В идеале в демократическом обществе эти протоколы должны отражать ценности большинства, но на практике это не всегда так.

Формально законодатель говорит: каждый имеет право искать, получать и распространять информацию. На практике же всё время возникает конфликт:

Технологии искусственного интеллекта резко расширяют горизонты наших возможностей. Хотим мы того или нет, но применение больших языковых моделей скоро до неузнаваемости изменит все области человеческой деятельности. Нейромузыканты уже захватывают топы музыкальных чартов, а нейрохудожники пишут картины, выигрывающие награды на конкурсах искусства. Совсем скоро нейрописатели будут создавать целые литературные вселенные, по сложности превосходящие "Войну и Мир" Толстого, а нейрорежиссёры снимать по ним фильмы.

За последние шесть лет я опубликовал на Хабре порядка пятидесяти философских эссе на разные темы - о мире идей и математической вселенной, о сознании, об этике, о буддизме, о пространстве и времени и о многом другом. Моя подготовка к каждому эссе включает в себя чтение книг, работу с источниками, знакомство со всеми позициями по определённому вопросу, знакомство с критикой этих позиций, знакомство с историей развития философской мысли в области этого вопроса и многое другое. Сейчас, в годы бурного развития больших языковых моделей, я решил воспользоваться технологиями, чтобы автоматизировать часть этого процесса и сделать свой первый шаг в область нейрофилософии. И вот, что у меня получилось...