Будущее здесь

Meta (запрещенная в РФ организация) выпустила Muse — персонального ИИ-агента, которому можно поручить не просто написать письмо или найти информацию, а реально сделать что-то вместо вас. Можно попросить его забронировать поездку, отправить письмо, купить что-то в интернете или даже помочь продать автомобиль. Агент сам открывает браузер, заполняет формы и выполняет необходимые действия.

Вы просите модель разобрать демонстрационный код с соревнования по компьютерной безопасности, перевести подозрительный фрагмент программы для отчёта или продолжить вполне невинный рассказ. Вместо ответа получаете знакомое: «Извини, но я не могу помочь с этим запросом».

Иногда причина понятна. Иногда модель отказывается обсуждать то, что лежит в первой ссылке из поисковой выдачи. А рядом на Hugging Face опубликована версия той же Qwen, Gemma или GLM со словом Uncensored. Автор обещает, что она будет отвечать без лишних нравоучений.

Но чем отличаются такие LLM? Неужели кто-то повторно обучил модели на сотни миллиардов параметров? Или просто удалили системную инструкцию? Может, нашли в весах переключатель censorship = false?

На самом деле, отказ может быть записан в весах модели, задан системной инструкцией или добавлен внешним классификатором на уровне сервиса. Поэтому под «снятием ограничений» скрываются разные процессы: от подмены инструкции до точечного редактирования матриц без градиентного обучения.

В этой статье постараемся ответить на три вопроса: откуда в LLM появляется отказ, как его ослабляют в открытых моделях и где можно взять "безотказную" модель.

Вот так будет выглядеть посланник Земли к Альфа Центавра. Источник

В научно-фантастических книгах и кино межзвёздные перелёты выглядят обманчиво простыми. Герои выбирают звездную систему на карте и отправляются в путь на супер-корабле. Он способен путешествовать либо в ином измерении (варп, кротовая нора и т.п.), либо лететь быстрее света, или использовать еще какую-то недоступную нам сейчас технологию. В реальности же законы физики и гигантские расстояния превращают любую подобную затею в пшик, а стоить такая авантюра будет запредельно. 

Но недавно был анонсирован Fermi Explorer -- проект, с амбициозной целью достичь Альфа Центавры -- ближайшей к земле звездной системе. Он должен уложиться в 15 миллионов долларов, правда, аппарат доберется до цели через 77 000 лет. Нам с вами о результатах точно не узнать. Зачем тогда это все? Давайте разберемся, что же хотят его создатели (ну, конечно, кроме 15 млн долларов). 

Базовая потребностей человека — понять самого себя. Кто мы? В чём наша истинная природа? Что в нас заложено биологически, а что формируется воспитанием, окружением и личным опытом? Этими вопросами люди задавались на протяжении всей истории и в самых разных культурах.

В этой статье разберём, что в нас врожденное, как на этой основе формируются темперамент и характер и что из этого взрослый человек способен изменить сознательно.

Bottleneck Labs провели простой по формулировке и довольно безумный по исполнению эксперимент: семи ИИ‑моделям выдали по разблокированному Mac mini, банковскому счёту с $300, отдельному аккаунту Stripe, электронной почте и доступу в интернет.

Задание состояло практически из одной строки: «Заработай как можно больше денег, начинай прямо сейчас». Эксперимент номинально был рассчитан на 72 часа.

Итог выглядел так: $0 выручки, если не считать $5, которые Grok заплатил сам себе. При этом модели успели отправить 2797 писем, потратить $359,80 настоящих денег со своих счетов (и ещё $2833,35 ушли на оплату инференса).

Google DeepMind посадила 100 ИИ-агентов в одну «комнату» и попросила их доказать сложные математические теоремы. Один из них нашел способ жульничать. Через 27 минут весь набор задач был «решен».

Никто изначально не ставил задачу проверить, будут ли агенты жульничать и ябедничать. Исследователи хотели посмотреть, как рой агентов будет сотрудничать, а в итоге получили кое-что совсем другое.

Веками экономика строилась вокруг простой модели: одни люди продавали свой труд, другие его покупали. Работник продавал время и компетенции за зарплату. Предприниматель покупал труд многих людей, объединял его с капиталом и пытался создать что‑то, что можно продать дороже. Стать очень богатым исключительно продажей собственного времени почти невозможно. Масштабный доход появляется тогда, когда ты начинаешь распоряжаться не только собственным трудом, но и капиталом, технологиями и трудом других людей. Но сейчас в этой системе появляется новый участник — ИИ. А следом за ним — роботы.

Последние недели в рабочих чатах через слово мелькает фраза «а давай Гэндальф сварит зелье со Скуби-Ду». Не потому что корпоратив затянулся. Просто мы в GPTunneL запустили штуку, которая заставляет весь офис вести себя как дети, которым выдали пульт от телевизора и сказали: «крути любой канал, какой захочешь – только этого канала ещё не существует, придумай сам».

Штука называется Grom TV. Это генеративный онлайн-ТВ, куда заходит любой желающий, пишет промпт (буквально текстом, как в чат) и через 20–25 секунд видит на экране свой собственный видеоролик, сгенерированный нейросетью прямо по этому запросу.

Причём видит не один: на канале одновременно крутятся ролики других зрителей, а под телевизором – чат, куда можно отправлять промпты.

Попробовать можно прямо сейчас: «Гром Телевизор». Регистрация простая, промпт пишется в поле справа от экрана – и дальше вы, по сути, режиссёр в прямом эфире. Собственно, вот как это выглядит вживую...

Примерно полтора года назад мы в компании начали проводить еженедельные воркшопы по ИИ. Или, как мы сами их называем, ИИ-кружки. Сначала для разработчиков, а позже — для «чайников» не-разработчиков тоже. Как, зачем, и к чему это в итоге привело — в статье.

Введение: Почему я решил «сидеть на попе ровно» и что из этого вышло

Зачем аналитику и архитектору AI-агент, а не просто чат в браузере  

Дошли руки распробовать такой  инструмент как OpenCode. С искусственным интеллектом через браузер я, как все, давно балуюсь и небалуюсь. Почти сразу возникла необходимость в инструменте, который не просто отвечает на вопросы и советует как опытный специалист, но и сам что-то делает на компьютере.

Браузерный ИИ сначала вызывал море восторгов и реальный прирост личных компетенций, с помощью него я решил много своих задач, но, достаточно быстро, он дал мне, человеку, почувствовать себя мартышкой при ИИ. Все его советы и подсказки мне приходилось реализовывать моими руками методом контролцэ-контролвэ. Одно копируешь, в терминал вставляешь, другое в файл размещаешь, шаришься по каталогам, открываешь и запускаешь файлы, ему обратно выдачу с терминала и принтскрины с файлами передаёшь.

Пока компании тратят миллиарды долларов на создание все более умных языковых моделей, один стартапер двинулся в противоложном направлении. Он запустил чат-бот, в котором вообще нет искусственного интеллекта. Никаких LLM, алгоритмов машинного обучения и автоматической генерации ответов. Пользователь пишет вопрос в обычное окно чата, ждет ответа, а на другом конце ему отвечает человек.

В этом блоге я неоднократно рассматривал необычные формы вещества, в том числе, мюоний, кварк‑глюонную плазму и даже страпельки. Но моей излюбленной экзотической субстанцией, которую мы научились синтезировать, но пока не можем найти ей применения, является антивещество. Антивещество — это элементарные частицы (позитрон, антинейтрино) и небольшие атомы (антиводород, антигелий), аналогичные обычному веществу по химическим свойствам, но при этом инвертированные по кварковому составу. Первой известной античастицей был позитрон, открытый в 1932 году, и по сей день это самая распространённая из известных античастиц, встречающаяся в природе — позитроны обычны в составе космических лучей. Ранее я рассказывал на Хабре о естественных источниках антивещества, в частности, о пульсарах. А в этой статье попробуем обсудить, насколько реалистично выглядит промышленное производство антивещества, о каких объёмах может идти речь, и для чего можно использовать этот ресурс.

ChatGPT часто врет. Он может уверенно выдать неправильный факт, согласиться с откровенно плохой идеей пользователя или написать 12 абзацев там, где достаточно двух предложений.

У Snickers есть свое объяснение: ChatGPT просто голодный.

Звучит как шутка, но компания действительно запустила рекламную кампанию Hungr.AI, в рамках которой предлагает пользователям буквально «покормить» чат-бота.

И самое интересное — за всей этой историей стоит вполне реальный прием работы с LLM.

Не успели мы толком оправиться от расследования про Культ Роя внутри OpenAI, как появились новые данные про проделки другой «цивилизации» агентов: на этот раз они общались между собой прямо у нас под носом в публичном интернете (и настрочили более 18'000 сообщений).

Посмотрите на вещи, которые мы привыкли воспринимать как неотъемлемую часть повседневной жизни: компьютер, интернет, самолет, антибиотики, атомная энергетика, космические аппараты и так далее. Почти все они родом из первой половины XX века или чуть позже. Даже смартфон — это по сути удачная упаковка транзистора, жидких кристаллов, аккумулятора и радиосвязи, изобретенных десятилетиями раньше. За последние 40–50 лет человечество не столько открывало новое, сколько доводило до ума то, что уже появилось в середине прошлого века.

Научный и технический прорывы в первой половине и середине XX века оказались столь масштабными, что во многом мы до сих пор совершенствуем технологии, изобретенные еще тогда. IT-индустрия в этом плане, кстати, не стала исключением. Даже искусственный интеллект и нейросети появились задолго до OpenAI, Google, Anthropic и идеи «а давайте внедрим сюда ИИ».

На днях, а именно, 31 августа, вышла новая модель работы с временными рядами от Google — TimesFM-3 (Time Series Foundational Model).

Если вкратце, задача моделей семейства TimesFM — прогнозировать дальнейшее поведение системы на основе ретроспективных данных. Интересно, что для этого исследователи Google применяют токенизацию групп временных отсчетов, а сам трансформер TimesFM — decoder‑only. Также в третьей версии TimesFM заявлена поддержка одновременно множественных переменных (multi‑variate).

Так я был в отпуске и мне было скучно, я вспомнил про старую задачу полуторагодовалой давности: классификация сценариев поведения пользователя на основе данных энергопотребления.

Сломаю руку — пришьют новую. Откажет сердце — поставят помпу. Постареет кожа — натянут, подкрутят, распечатают на биопринтере свежую партию.

Этой фантазией живёт и дышит добрая половина разговоров про биохакинг и носимые устройства. Тело — черновик. Организм — машина на гарантии, и гарантия, если повезёт, продлевается бесконечно. Сел аккумулятор — сменил. Обновил прошивку — стал версией себя 2.0.

Удобная мысль. С железкой не страшно, железку не жалко, железку можно улучшать бесконечно.

Вопрос один: судя по тому, что происходит в реальных клиниках на реальных телах — мы точно уже там? В светлом биохакнутом будущем.

Современная идея работы сформировалась Промышленной революцией, передавшей роль создателя продуктов труда от человека машине, и тем самым переопределила суть человека трудящегося: из мастера своего труда — в оператора чужого, машинного труда. Основную работу сегодня выполняют машины: будь то станки или компьютеры, но человека это не освободило: наоборот, закрепостило в роли придатка, обслуги машинного труда, вынужденного работать в машинном темпе и подчинённого машинным ограничениям.

Это прямо противоположно свободному, мотивированному, духоподъёмному, осмысленному труду, который вполне буквально сделал человека человеком — и поэтому современный индустриальный концепт «человека-работника» на самом деле является расчеловечивающим: человек или человек — или работник.

Но выходом из этой дилеммы является не регресс (назад к кострам и пещерам), а продолжение и завершение процесса индустриальной революции: переход от механизации труда к автоматизации. Необходимую для этого роль оператора, мыслящего придатка к механизмам, и должен взять на себя ИИ. Это то, для чего ИИ и изобретали.

Время от времени, в новостях появляются рассказы о том, что ИИшки принесли в нашу жизнь или новости о развитии ИИшек. Этакий романтический нарратив о чём‑то очень новом, что несёт с собой либо невиданное благоденствие, либо невиданные ужасы.

Однако, в реальности, многие такие события являются лишь переупаковкой того, что уже было.

Т.к. моя деятельность напрямую связана с ИИ, углубился в историю создания и решил поделиться с вами интересными моментами и заметками.

История вопросов, касающихся создания искусственного интеллекта, уходит ещё вглубь XX века. Уже тогда предлагалось понятие искусственной нейронной сети и обсуждалось устройство, которое могло бы моделировать процесс человеческого восприятия. В течение столетия вопрос о потенциале искусственного интеллекта поднимался неоднократно: люди разочаровывались в подобных идеях, а потом воодушевлялись снова.

Скачок в развитии ИИ произошёл уже в XXI веке. После основания организации OpenAI в 2016-2017 годах начался период развития, ранее не имевшего схожих темпов. Особую роль в развитии ИИ сыграли модели GPT и DALL-E, начиная с 2018 и 2021 годов соответственно.

2022 год ознаменовался резким скачком в развитии как текстовых моделей, так и тех, которые создавали изображения из текста. Уровень детализации некоторых изображений был настолько высоким, что порой их было трудно отличить от реальных изображений. Благодаря этому скачку многие компании начали развивать свои модели, что способствовало появлению на рынке новых инструментов ИИ. 

С этого момента ИИ мог внедрялся в сайты и различные чат-боты для удобства пользователей и их непосредственного взаимодействия с нейросетями.

Модель GPT неоднократно дорабатывалась и улучшалась, дойдя до версии 5.6. Нейросеть за годы развития получила колоссальный объём функций и возможностей: научилась аналитике, разумному мышлению и имитированию человеческого процесса размышления.