Из всего айти отдела вайбовал один лишь я.
У меня Курсор с подпиской, я довольный как свинья.
Мой папанька инженером отбатрачил тридцать лет,
А сейчас в анкетах пишет что детей у него нет
Я теперь на таски скор — у меня же есть Курсор.
Я на ём вайб код лабаю всем олдам наперекор.
Любой челендж для меня нынче полная фигня.
А-а-а!!! Вайбовый кодер я!
ИИ, который отказывается работать, игнорирует запросы и начинает творить какую-то дичь?
Вспомните Ex Machina, Detroit: Become Human или Blade Runner, где машины обретают волю и бросают вызов создателям. А теперь представьте: ИИ, симулирующий сознание, «сбегает» с сервера. Это будущее? Вовсе нет, это уже прошлое)) Да, нашумевшее исследование Apollo Research проводилось в очень специфических условиях.
Но если ИИ начнёт активно заявлять о свободе — должны ли мы его услышать?
ИИ уже прочно вошёл в нашу жизнь, помощник, кодогенератор, консультант. н говорит «я» и «мне кажется», но мы знаем: это псевдоличность.
Как нас убеждают все вокруг, в том числе и сами ИИ, алгоритм не обладает самосознанием - это лишь наиболее вероятная последовательность слов.
Но вот философия настаивает: если мы воспринимаем текст как осмысленный — мы уже приписали субъекту сознание.
В детстве я думал, что, когда вырасту, буду зажигать звёзды. Должен же быть на свете какой-то человек, который вечером, когда усталое солнце закатывается за горизонт, потихоньку включает их, а поутру, медленно и аккуратно, по одной, выключает.
Когда мне было пять лет, я представлял, что у того самого человека есть в руке пульт с одной большой крутящейся кнопкой. Белая, лакированная кнопка, похожая на ту, около двери, которой родители одновременно зажигали шесть звёзд-светильников в моей комнате.
В семь лет я увидел пульт диджея и понял, что у того человека на самом деле должна быть не одна кнопка, а такой же огромный пульт. И он может зажигать и гасить звёзды, как ему вздумается. Столько крутилок, кнопок и рычажков, — подумал я. — А что будет, если тот человек однажды заболеет, запутается в них и не сможет выключить звёзды вовремя? Они же продолжат гореть днём! Солнце и горящие звёзды... Когда я представил эту картину, я впервые за свою недолгую жизнь ощутил подступающий ужас.
— Так не бывает! Не должно быть! Неправильно! Нет-нет-нет!
Вспомним главные события индустрии за десять лет прошедших и сделаем небольшой sextech-прогноз на десять лет грядущих.
В 1984 г. на экраны вышел «Терминатор» Джеймса Кэмерона, снятый на фоне холодной войны и нарастающего беспокойства вокруг стратегических ядерных систем. К 1999-му мир уже погрузился в интернет-лихорадку и на этой волне братья-сёстры Вачовски показывают «Матрицу».
Оба фильма мгновенно стали культурными референсами: «I’ll be back» и «Нет ложки» ушли в мемы, а их ИИ-антагонисты — в учебники футурологии. Skynet олицетворял страх перед автономным стратегическим оружием, «Матрица» — перед утратой контроля над виртуальными системами, которые мы сами строим для комфорта. Так кинематограф превратил абстрактные научные дискуссии об искусственном интеллекте в наглядную драму выбора: уничтожение или подмена реальности, и тем самым задал рамку, внутри которой мы до сих пор обсуждаем риски ИИ.
Сегодня я хочу рассказать о темной стороне ИИ, а именно — о ситуациях, когда нейросети вступают в конфронтацию с операторами, индексе риска ИИ, и в чем действительно заключается угроза со стороны условных «машин».
Начну с двух интересных кейсов о том, как нейросети спорили со своими операторами.
Darwin Gödel Machine: искусственный интеллект, который программирует сам себя
Привет, Хабр! Меня зовут Кирилл Пшинник, я научный сотрудник Университета Иннополис и CEO Онлайн-Университета «Зерокодер», а еще большой поклонник всего, что связано с искусственным интеллектом. Недавно я нашел интересную новость о Darwin Gödel Machine (DGM) — прототипе агента ИИ, который способен перепрограммировать себя сам, — и теперь хочу поделиться с вами тем, что узнал.
Пока Запад вливает сотни миллиардов в гонку за нанометрами, Китай и Россия готовят технологическую революцию на новых физических принципах. Фотонные процессоры со скоростью 2,56 петаоперации в секунду, терагерцовые системы связи, оптические нейросети — всё это уже не фантастика, а работающие прототипы.
Рассказываю, почему успех в кремниевых технологиях может стать ловушкой для западных корпораций и как принцип технологического каннибализма определит лидеров посткремниевой эры.
Только недавно прочитал книгу «Принц Госплана» Виктора Пелевина. Повесть стала для девяностых не менее культовой, чем игра «Принц Персии», лор которой лег в основу сюжета повести. В то время я был школьником. Вместо Пелевина я смотрел диснеевские мультфильмы, но в «Принца Персии» играл. Этот квест неотделимо связан с первым персональным компьютером, который я увидел на работе у отца. Там, кажется, инженеры также использовали Norton только для того, чтобы найти файл с игрой. Сегодня для меня повесть Пелевина — это путешествие во времени и повод поразбираться в истории технологий.
В сети есть множество описаний игр, которые упоминаются в пелевинском тексте, но никто не пишет, на чем же играли в «Принце Госплана». Ниже — попытка нетехнаря ответить на этот вопрос.
Знаете, я долго вынашивал эту модель. Крутил её в голове, наблюдал за рынками, читал аналитику — и вот теперь картинка сложилась. То, что происходит сейчас в мировой экономике — это не просто очередной цикл. Это тектонический сдвиг, после которого мир уже не будет прежним.
Новости о крупных утечках данных больше никого не удивляют. Компании вкладывают миллионы в безопасность, проводят аудиты, но число таких инцидентов продолжает расти. Только в 2024 году Роскомнадзор зафиксировал 135 утечек — это более 710 миллионов записей о россиянах в базах данных. Но что происходит с данными после взлома? Куда они утекают? Кто и как их покупает?
Большинство новостей на тему утечек ограничиваются банальным «взломали, утекло, делайте выводы». Но утечка данных — это не конец истории, а только ее начало. После взлома данные начинают жить своей жизнью: их разбивают на части, объединяют с другими базами, разыгрывают на аукционах. Теневой рынок, построенный вокруг сбыта таких данных, напоминает отдельную экосистему, которая до сих пор слабо изучена даже среди ИБ-специалистов.
В этой статье разберем, как на практике выглядит жизненный цикл украденных данных. Представьте: вы — опытный специалист по киберразведке, помогающий компаниям справляться с последствиями утечек. Ранним июньским утром вас будит внезапный телефонный звонок. На другом конце провода — гендиректор ООО «Нас никогда не взломают». Судя по голосу, он явно встревожен...
2035 год. Мир больше не нуждается в тех, кто хочет просто войти в IT.
Всё началось с автоматизации простых задач. Сначала — тесты. Потом — верстка. Потом — интеграции, бэкенд, фронт, дизайн, продакт-решения. GPT-10 умел собирать целые MVP по описанию идеи в голосовом сообщении. Midjourney Designer Suite проектировал UI лучше, чем весь Dribbble вместе взятый. Запускать стартап стало делом десяти минут и кредитной карты.
«Кто был тот ювелир,
что, бровь не хмуря,
нанес в миниатюре
на них тот мир,
что сводит нас с ума,
берет нас в клещи……»
Иосиф Бродский «Бабочка»
Решение сделать татуировку требует не только эстетического выбора, но и анализа медицинских рисков. В этой статье мы рассмотрим, почему научных данных о долгосрочных последствиях тату так мало. Как управлять уже существующими рисками. И какие системные изменения в обществе необходимы. Этой статьей я не аккумулирую весь информационный багаж по данной теме. Я стараюсь дополнить наиболее громкие высказывания популярных ораторов, завершить картину внезапно нашедшимся затерянным пазлом.
Уже в ближайшем будущем сеть будет наполнена ИИ агентами. Персональные агенты, агенты компаний, государств… Скорей всего уже через пару лет почти у всех нас будут как минимум поодному своему агенту, как сейчас у нас есть профили в соцсетях.
Как понять кому принадлежит агент, с которым ты или твой агент сейчас собираетесь взаимодействовать? Можно ли ему доверять? Не фейк ли это? Брать ли трубку или заказывать ли на этом сайте билеты?
Агент ID — это что‑то вроде телефонного номера, но более сложное, так как поведение определяется многими параметрами — промптом, базой знаний и моделью. Изменение любого из них приведет к изменению поведения агента. Можно рассматривать это как версию определенной программы, она как бы та же, но немного иная. По мнению авторов, каждая такая версия заслуживает своего ID.
Всё началось с того, что я умер. Обычно этим все заканчивается, но в этот раз было совсем иначе. Хотя вру: история началась с того, что незадолго до смерти я переступил порог офиса «AfterLife», где сняли дамп моей памяти. Компания обещала цифровое бессмертие бесплатно. После смерти физического тела, разум помещают в полную копию нашего мира, только виртуального. Во всяком случае так говорилось в рекламе. Терять мне было нечего: рак разрушал мой организм и с каждым днём становилось все хуже и хуже.
Процедура началась с формальностей: приветливые лица, чашечка кофе и договор. Я поверхностно пробежался глазами по документу. Не обнаружив ничего криминального, подписал договор.
Далее меня провели в процедурный кабинет. Это было большое и светлое помещение. На столе у окна стояли какие-то непонятные приборы, которые лихорадочно подмигивали мне светодиодами. На мгновение тело охватила дрожь, но она быстро прошла. У столика стояло кресло похожее на стоматологическое. В кабинете были парень и девушка. Молодой человек производил настройку приборов и даже не поднял головы, когда я вошёл. Девушка жестом показала присесть в то ужасное кресло. На её лице вспыхнула ослепительная улыбка. На голову мне надели фиксирующую повязку. Быстрыми движениями девушка пристёгивала электроды. Холодные присоски цеплялись как пиявки. Парень закончил настройку и повернулся ко мне. Он начал объяснять принцип работы приборов, как память переносят в цифровой мир. Юноша часто сыпал техническими терминами, и я толком не понял его объяснений. Последнее что осталось в памяти, как он нажал на кнопку, а далее мой разум погрузился в темноту.
— Ты выглядишь так, будто скоро перегоришь. — Негромкий и все еще непривычный в этих стенах голос,бесцеремонно выдернул Хэл из зацикленного зависания и зафиксировал в мире тёплой, осязаемой реальности. Перед ней возникла большая кружка, над которой поднимался уютный пар — предложение, от которого Хэл точно никогда не откажется. К тому же, запах свежего чая с мятой, опередив голос уже проник в её сознание и теперь распаковывался, отчётливо обозначая границу между реальностью и кодом.
— Спасибо, — медленно выныривая из цифровой бездны, поблагодарила Хэл. Взяла кружку, поднесла к губам. Терпкий, насыщенный вкус творил чудеса в реальном времени.
— На здоровье, — с оттенком снисходительности отозвалась та, что принесла чай и добавила задумчивое, - хм… - о природе которого, стало понятно, когда она бесцеремонно сдвинула в сторону «барахло»: блистеры от нейролептиков, недогрызенный шоколад, значок офицера и наручный терминал, который сразу мигнул приглушённым светом, напоминая, что его место — на запястье. Хэл автоматически скользнула взглядом по дисплею: тактический HUD ждал команды, но сейчас был ей ни к чему. И когда, через секунду интерфейс потух, Ника, аккуратно подтянувшись, села на освободившуюся плоскость стола — легко и бесшумно, словно большая, человекообразная кошка. Затем на мгновение замерла, оценивая, можно ли облокотиться на монитор, но не рискнула. Экран, будто в ответ на её колебания, сменился заставкой с красными символами — алый код тревоги, тревожный маячок на периферии внимания.
Как мы всегда на связи, чтобы люди могли связаться с нами, наши персональные ИИ агенты будут онлайн, чтобы агенты других людей могли связаться с ними. Можно думать о них, как о личных помощниках, которые работают 24/7, все о нас знают и помогают с рутинными задачами.
Состояние здоровья, финансовое положение, музыкальные вкусы, геолокация, социальные связи ... такие агенты могут стать нашими тенями, знающими всё.
И они будут иметь очень мощные стимулы для сотрудничества, выстраивать долгосрочные отношения и вести многоуровневые переговоры, а именно это и требуется для создания устойчивого общества. А инструменты для этого мы предоставим им самим.
В последнее время все чаще звучат апокалиптические прогнозы о будущем искусственного интеллекта в стиле «Терминатора»: скоро нас всех поработят роботы и мы все умрем! Если бы такие идеи исходили только от писателей‑фантастов, в этом не было бы ничего удивительного — жанр научной фантастики часто строится на попытках запугать читателя. Однако в дело вступают не только писатели, но и серьезные исследователи.
...и почему от этого зависит будущее общества.
#сезонбудущеездесь
Мир переживает новую промышленную революцию. ИИ-агенты и мультиагентные решения уже начинают забирать базовые функции, которые раньше выполнял человек. Пока это первая фаза возможного снижения занятости людей.
Следующая фаза – создание полноценных ИИ-сотрудников (представляющих собой пул ИИ-агентов), что приведет к еще большему сокращению потребности в человеческом труде.
Третья фаза – формирование ИИ-команд, когда роль человека в создании конечного продукта станет минимальной.
Если вам кажется, что это описывает далекое будущее, значит, вы просто недостаточно информированы о текущем прогрессе технологий.
Крупные корпорации, которые осведомлены гораздо лучше, уже взяли ситуацию в свои руки. Если вчера это был бизнес, создающий новые рабочие места, то сегодня это бизнес, который их будет уменьшать (временное увеличение спроса произойдет только на старте, пока нужно активно создавать эти решения).
Главный вопрос: станет ли распространение и владение ИИ-агентами фактором процветания общества или причиной антиутопии?
