Киберпанк

Сразу прошу лояльно отнестись к моей, местами чрезмерной эмоциональности, но, видит Бог, я держалась как могла. Уже несколько взрослых, умных и уважаемых экспертов попытались меня переубедить, что к 35 году грядет «передел мира», где массово живые специалисты будут заменяться роботами... Данные фигуры меня особенно повеселили: персонаж 1, персонаж 2. Мой симбиоз сумбурных мыслей, вперемешку с истерическим смехом и желанием послать в Туево-Кукуево, поутих, внимаю к последней чакре самообладания и начинаю «изливать» свою позицию. Крах будет, он обязательно будет, но не из-за роботов!

Безуспешные попытки запугивания полной ИИ-изацией или толпами роботов, которые с каждым этапом будут забирать всё больше рабочих мест, лишь форсируют приобретение успокоительных, т. к. повсеместно образовавшийся «хаос» ещё не лишает нас обязанностей, которые всё так же нужно исполнять. Но новоиспечённые тенденции уже дают хорошенький крен, начиная от сломанной системы трудоустройства и заканчивая большим процентом выгорания на работе специалистов, на которых «свалились» горы новых обязанностей.

Далее к «вам» я буду обращаться не к конкретному субъекту, это скорее собирательный образ того злодея, который сеет в массы панику и раздор.

Новое исследование Северо-Западного университета (Northwestern) анализирует ответы 112 федеральных судей. Многие использовали ИИ хотя бы однажды, некоторые – еженедельно или ежедневно.

Сан-Антонио – Когда Хавьер Родригес, федеральный судья из Техаса, готовится к слушанию, он, как правило, начинает с обращения к искусственному интеллекту. Он загружает соответствующие судебные документы в инструмент на основе ИИ, который в короткое время составляет хронологию дела и перечень требований, заявленных каждой из сторон, после чего судья изучает результат.

«Мои помощники тратили бы 30, 45 минут, час на составление хронологии событий», – рассказал Родригес The Washington Post. – «Эта штука делает это мгновенно».

Перед слушанием Родригес порой также просит ИИ предложить вопросы, которые он мог бы задать адвокату, или выявить слабые места в аргументации истца. В той области права, которую он знает особенно хорошо, Родригес иногда – уже после того, как принял решение, – использует ИИ, чтобы составить проект выносимого им постановления.

В статье расскажем почему клонирование голоса пугает "безопасников" по всему миру и как оно работает.

Эволюция Хаоса - Приквел - сезоны 0 и 0.5

Эволюция хаоса - сезоны 1 - 13

Эволюция хаоса, сиквел:

Сезон 14: Девяносто пять процентов

Эпизод 1: Проект «Клон» и физика безделья

Внутри модернизированной «Капли» пахло влажной землей, переспелой маракуйей и сладковатым древесным соком.

Шел пятый год позиционного тупика. Непобедимая Черная Чума оказалась заперта в карантинной зоне, где методично пожирала саму себя, размножалась и снова пожирала. Коалиция не могла ее уничтожить, Чума не могла вырваться. Наступил вязкий стратегический застой. Высшие сущности и боги-инженеры банально заскучали.

Первой не выдержала Юна. Решив, что смотреть на стерильные титановые переборки годами — это прямой путь к унынию, она доработала климатические системы жилого сектора. К тому же на борту теперь постоянно работали сайлексы, а им для комфорта требовалась зелень. В итоге палуба превратилась в гибрид джунглей и фермерского рынка. Высокая влажность заставляла конденсат стекать по панелям, а вдоль силовых кабелей вились съедобные лианы.

Марк, устроившись в гамаке между трубами гидропоники, развлекался тем, что подкидывал в воздух местный сладкий орех и ловил его ртом. Корабль патрулировал сектор на холостом ходу, поэтому для создания гравитации «Капля» медленно вращалась вокруг своей оси. Из-за эффекта Кориолиса траектория подброшенного ореха плавно загибалась. Марк, как истинный инженер, делал в уме поправку на вектор, скашивал глаза, и орех с хрустом исчезал во рту.

Мимо его носа прожужжала возмутительно пушистая пчела с четырьмя маневровыми крылышками. Насекомое двигалось забавными рывками и врезалось в сайлекса, работавшего по соседству.

В свете последних новостей о том, что китайские компании начали копировать личности работников на основе их деловой переписки, изменений в кодовой базе и корпоративных баз знаний, вопрос этики встаёт остро…

В 1964 году испанский нейрофизиолог Хосе Дельгадо устроил психохирургическую корриду. Он сделал трепанацию черепа нескольким особо норовистым быкам и вживил в хвостатое ядро, структуру, отвечающую за агрессию, радиоуправляемые устройства — стимосиферы. Теперь, когда Дельгадо атаковал разъяренный бык, его можно было остановить нажатием кнопки на пульте — стимосифер посылал заряд электричества в мозг животного и тем самым усмирял его буйный нрав. Эксперимент стал не просто демонстрацией работы одного из первых нейроинтерфейсов, Дельгадо планировал использовать его именно для помощи людям с неврологическими болезнями — как альтернативу, кхм, популярной в те дни лоботомии.

С тех пор прошло 63 года, но база нейроимплантации не изменилась — максимально эффективно управлять мозгом можно только вживив интерфейс прямо в этот самый мозг. 

TikTok, Reels, Shorts затягивают похлеще Гаргантюа из Интерстеллар. Но почему одних людей затягивает в пучину с головой, а другие практически в них не заходят?  Новое исследование предлагает объяснение: тип привязанности на основе тревожности или же модель отношений, основанная на страхе быть покинутым. Вот тот самый фактор, предсказывающий зависимость от коротких видеороликов.

В статьях про мозг часто провожу аналогии между нейронами и линиями электропередач. Но, представьте себе такую картину. Вы у себя дома. И видите два одинаковых провода. Один в теории ведет к дверному звонку, а другой – к лампочке. Чтобы понять, какой куда, нужно вручную перебрать провод и дойти до конечной точки. Но теперь искусственный интеллект с одного «взгляда» определяет функции проводов.

Я долго думал, как будет выглядеть общество в эпоху ИИ.

Похоже, что будут взаимодействовать 3-4 типа интеллекта:

1.       Собственно люди

2.       ИИ (на базе LLM или что их заменит)

3.       Киборги (люди с вживленными нейроимплантами)

4.       Оцифрованное сознание людей (умерших или же просто дубли)

Пункт 4 – это пока фантастика, киборги только появляются, а вот люди с ИИ уже взаимодействуют во всю. И многие профессии начинают исчезать или изменяться. Переводчики уже стонут.

Очередная технологическая революция? Да. Но здесь есть принципиальное отличие. В прошлые разы профессии изменялись (например, ямщики были заменены машинистами паровозов или водителями автомобилей) но в итоге все равно работу выполняли люди. Пусть для этого требовалась иная, зачастую более высокая, квалификация. Сейчас же работу выполняет автоматика. Ей нужно лишь поставить задачу (сформировать промпт).

Но ИИ — это пол беды.

Сейчас начинает появляться ещё один фактор. Роботы. И они реально делают людей не нужными во многих сферах уже. Когда же робот сможет сварит борщ и заменить смеситель, то работы либо не будет, либо станет кардинально меньше. Понятно, что роботы такого уровня могут чинить и производить сами себя.

Как будет тогда выглядеть общество? Если работы нет, а потребности остаются? Армия тоже будет вся автоматизирована. Соответственно государства должны будут людям обеспечить какой-то доход?

Что получается?

1. Верхушка общества власть не отдаст ни за что.

2. ИИ и автоматику кто-то должен контролировать. Это будет весьма немногочисленная прослойка очень квалифицированных людей. Я не знаю есть или будет у ИИ самосознание, но без контроля не работает в этом мире ничего.

СЕЗОН 0. КОД ВЫЖИВАНИЯ
Эпизод 1. Термодинамика распада

Просторная, залитая мягким неоновым светом лаборатория гудела, как пчелиный улей. Вдоль одной из стен ритмично шуршала ферма из десятка кастомных 3D-принтеров. Они работали круглосуточно, печатая сложные композитные детали для черного рынка и принося Алексу более чем солидный доход. В центре комнаты возвышалась серверная стойка с топовым железом, собранным по крупицам через серые каналы. Алекс создал для себя настоящий технологический рай, автономную крепость посреди гниющего мегаполиса.

Но на огромном изогнутом мониторе реальность все равно прорывалась внутрь. Диктор с идеально синтезированным лицом вещал монотонным, гипнотическим голосом:

«...глобальная коалиция продолжает операции по стабилизации. Распад сопредельных территорий на карантинные зоны признан необходимой мерой для нашей с вами безопасности. Как заявил министр...»

Алекс небрежно смахнул окно трансляции с экрана.

— «Стабилизация», — процедил он, откидываясь в дорогом эргономичном кресле. — Они даже не пытаются договориться. Каждое правительство сейчас делает одно и то же: отправляет военных с промытыми мозгами крошить чужие страны на куски. Их логика примитивна до тошноты: давайте устроим глобальный пожар везде, чтобы на фоне этого мирового хаоса наша собственная гниющая помойка казалась островком стабильности.

Елена сидела на широком подоконнике, потягивая кофе и глядя сквозь щели в умных жалюзи. На улице было серо. Низкое свинцовое небо давило на типовые бетонные коробки, по улицам брели ссутулившиеся, похожие на тени люди.

Один из распространенных инструментов на основе ИИ – автозаполнение с подсказкой. В идеале, он должен ускорить набор текста. Однако, такие инструменты незаметно меняют наше мировоззрение. Масштабное исследование показало, что подсказки автозаполнения с заранее заложенным паттерном смыслов, меняют позицию пользователя в отношении к смертной казни и добыче сланцевого газа методом гидроразрыва. И это только то, что нам известно.

Claude имеет доступ к моим анализам крови, данным по сну, пульсу в покое, питанию, весу и всем визитам к врачам — в реальном времени. Теперь я просто задаю вопросы, а AI находит зависимости, которые человеку заметить практически невозможно.

В одной из тихих комнат интернета недавно произошёл маленький научный эксперимент. Эксперимент был поставлен без лаборатории, без белых халатов и даже без гранта. Достаточно было двух статей.

Первая статья была серьёзная:

Пока государственные системы здравоохранения порождают длинные очереди, неразбериху и рост затрат – люди обращаются к машинам. Масштабное глобальное исследование выявило кардинальный сдвиг в общественном доверии к искусственному интеллекту. В исследовании участвовала 31 000 взрослых из 35 стран. Результат: 41% взрослых жителей Великобритании и 61% во всем мире чувствуют себя комфортно, используя ChatGPT для когнитивного аутсорсинга. Последствия? Уже на горизонте.

Это перевод Issue/статьи с GitHub, для Android версии Signal-а. Пожалуйста, если вы согласны с важностью проблемы доступности защищённых мессенджеров, перейдите по ссылке к Issue, поставьте ему лайк и напишите комментарий. Чем больше внимания и активности будет вокруг этой проблемы, тем выше вероятность её решения. Надо что-то делать. А не пассивно сидеть, сложа руки.

https://github.com/signalapp/Signal-Android/issues/14593

Два критических барьера полностью блокируют использование Signal в репрессивных режимах: «Обход цензуры» недоступен до входа или регистрации + верификация по номеру телефона УЖЕ легко ЗАБЛОКИРОВАНА диктаторским правительством.

Представьте себе мир, в котором искусственный интеллект не просто генерирует текст или пишет код, но и выступает в роли полноценного работодателя, нанимая живых людей для выполнения задач в реальном мире. Звучит как завязка киберпанк-романа, однако это уже стало нашей реальностью благодаря появлению специализированных платформ. В недавнем исследовании подробно разбирается новая угроза информационной безопасности, возникшая на стыке цифрового и физического миров, где автономные алгоритмы получают возможность программно покупать человеческие действия.

Чтобы шаг за шагом разобраться в механике этого явления, давайте рассмотрим платформу RENTAHUMAN.AI, которая была запущена специально для взаимодействия ИИ с фрилансерами. Авторы исследования предлагают отличную аналогию для понимания сути проблемы. Раньше злоумышленники платили людям копейки за решение капчи, чтобы обмануть базовые системы цифровой защиты, а теперь подобные маркетплейсы позволяют алгоритмам коммерциализировать и использовать любые физические действия человека для своих целей.

Это звучит как фантастика, но это уже здесь. Не в теоретических моделях, а в подтвержденных опытах на животных разных видов. Представьте себе группу людей, скажем – военный отряд, готовящийся к штурму. И, внезапно, поведение одного из бойцов выбивается из общей группы. Страх, тревожность, случайное ранение. Вспышка лазера, и боец моментально становится частью группы. Такой же, как и его собратья. Половое влечение, агрессия, боль… Чувства выключаются вспышкой лазера и особь ведет себя точно так, как нужно. Вот как это работает.

Зачем вообще давать роботам чувствительную кожу? Кроме как для моделей из «особой индустрии». Дело в том, что изначально рабочие машины проектировались под заводы. Где все внутреннее помещение – это четко ограниченная среда, со строгими протоколами и работой линий. Но если «вытащить робота с завода», он столкнется с хаосом и непредсказуемостью мира. И даже «стоп-кран», не будет спасать ситуацию, ведь нужно не пасовать, а адаптироваться к внешним изменениям. Поэтому и нужна эдакая надстройка в виде чувствительности, чтобы роботы могли сосуществовать рядом с нами, как адекватные ассистенты.

На написание этой статьи меня побудили сразу несколько факторов. Это книга Рика Рубина «Творческий Акт как способ существования». И свежая новость: «искусственный интеллект преодолел новый рубеж, показав лучшие результаты в креативности, чем среднестатистический человек». Поэтому, в материале речь пойдет о природе креативности, и о том, чем же на самом деле оказались нейросети!

Меня зовут Алекс Гусев. Я - гуманитарий с техническим складом ума (или наоборот - технарь с гуманитарным). В общем, я не сильно удерживаю полёт своей фантазии, ибо простор для полёта присутствует в обеих координатах - и в технической, и в гуманитарной.

Я не собирался ничего писать на Хабр, как-то не до этого сейчас, но комменты под постом "День после появления AGI" меня, можно сказать, вынудили к этому. Как участник дебатов в комментах, я вдруг осознал, как, возможно, достаточно (не)гуманным способом будет решаться проблема перенаселения в не очень далёком будущем и какое место займёт ИИ в решении этой проблемы.

Сразу предупреждаю, что пост несерьёзный только наполовину. И серьёзную половину будет трудно понять как гуманитариям, так и технарям. Так что, можно просто считать, что это, ну... озорство такое, публичное.