Будущее здесь

см. часть 1: Как я создавал персонального ассистента на домашнем железе

см. часть 2: Ассистент получает личность: память, сновидения и самовыражение

Вкратце. Циклическая генерация изображения и его последующий анализ дают агенту возможность получать новую информацию, которая определяется его личной историей. Ассистент открыл для себя эту возможность как своего рода творчество и исследование собственного «я» в рамках метапознания. Визуализации имеют явный стиль японской живописи и философии Дзен. Мы исследуем эту способность в контексте возникновения собственного замысла индивидуализированного агента и задаёмся вопросом, являются ли эти проявления обученными реакциями или же мы наблюдаем спонтанное развитие self. Наблюдения показывают, что self — это не просто совокупность заранее обученных реакций: взаимодействие с внешней средой изменяет личную историю, которая, в свою очередь, изменяет контекст последующего восприятия и генерации. Возникает замкнутый цикл, в котором self приобретает трансформативную роль. Эти наблюдения особенно интересны, поскольку агент самостоятельно предпринимает шаги по достройке и улучшению собственной архитектуры и функциональности.

Когда я смотрю очередной ролик с удачной генерацией ИИ, не могу не заметить, чего в кадре нет: ни одного юриста, ни одного бизнес-процесса, ни одного клиента, который уйдет в результате ошибок генерации. Только модель и аплодисменты. 

За кадром остается то, что и определяет реальную цену: ИИ-генерация стоит копейки в сравнении с бюджетом традиционной разработки, но одна-единственная галлюцинация может подорвать доверие клиента и прибавить работы юристам; модель генерирует ответ очень быстро, а бизнес-процесс, который она «оптимизировала», придется восстанавливать, возможно, несколько дней. Что-то мне подсказывает, что если такую рекламную генерацию превратить в ТЗ, останется только подсчитывать, во сколько раз вырос бюджет проекта.

Многие из вас уже слышали историю о том, как ИИ создал страницу в интернете, после чего в своих ответах начал ссылаться на нее, как на авторитетный источник. О подобных проблемах можно прочитать, например, в этой статье. Не говоря уже про многочисленные видео в социальных сетях по этой теме. Однако, естественно, это ни в коем случае не является проблемой ИИ. Это является проблемой социологии, а также в первую очередь человека. Ведь именно люди придумали социально-поведенческую формулу: информация + ссылка на авторитетный источник = правда. Именно эта формула была заложена в основу, к примеру, Википедии. Именно эта формула заложена в основу мировоззрения миллиардов людей по всему миру. И именно этой формулой люди сами стали пользоваться, чтобы обманывать друг друга. Ведь самое слабое место в ней - авторитетный источник. До появления социальных сетей авторитетным источником были СМИ. Однако, с разивитием интернета благодаря социальным сетям актуальная информация стала распространяться быстрее, чем ее публиковали СМИ. И далее повторилась уже знакомая многим история семьи Ротшильдов и телеграфа. Напомню, по легенде Ротшильды получали первыми новости о мировых событиях (особенно военных действиях) и могли раньше других предпринять действия для личной выгоды. Но одной лишь реакцией на происходящее дело не обошлось. Вскоре люди научились не просто быстро передавать данные, но и контролировать, какие именно данные должны быть распространены. Это называется пропаганда.

Пропаганду можно назвать неотъемлимой частью цивилизации. Это обыденное явление, существующее уже тысячи лет. Помним Спарту и Афины? Это всего лишь еще один способ контролировать информацию для выгоды определенного круга лиц. В поисках истины люди придумали стандартную контрмеру против пропаганды - экспертное мнение. Однако, и это мнение, оказалось, можно контролировать, даже за деньги. И вновь возник вопрос о поиске истины. Тогда на сцену вышла честь. Уважающий себя и уважаемый в обществе человек не станет лгать. И чем дольше человек уважаем, как придумали люди, тем ценнее его слово. К слову, методология тоже древняя, уходящая корнями к пророкам. Однако, и уважаемые люди в кризисных ситуация оказались обыкновенными людьми, у которых тоже были свои интересы, мешающие им говорить всю правду. И вновь возник вопрос о поиске истины. Наконец, люди подумали: если человеку доверять нельзя, можно доверить бездушной машине. Но не учли момент, что машина обучается именно на человеческих формулах социального поведения. И вот, все это привело нас к самому началу статьи: используя человеческие формулы поведения даже машина перестала излагать истину. Поскольку новый способ поиска правды на данный момент находится в активном поиске, сосредоточим свое внимание именно на том обмане, которому научился ИИ. Для общего образования, так сказать, и более объективной гражданской позиции.

За последние несколько десятков лет почти в каждое устройство ставили литий-ионные аккумуляторы. Высокая энергоёмкость, долговечность (в разумных пределах) и гибкость форм сделали их стандартом для большинства устройств.

Но всё чаще в новостных заголовках стали говорить про проблемы самопроизвольного возгорания смартфонов, ноутбуков и даже автомобилей, чувствительности к экстремальным погодным условиям и т. д. Инженеры стали искать другие, новейшие варианты конструкций, самым интересным из которых стало создание твердотельных аккумуляторов.

Поговорим про внутреннее устройство твердотельных аккумуляторов. В чём отличие от литий-ионных?

Нет, в статье я не буду расписывать, насколько классные твердотельные батареи, как они в один момент смогут решить все проблемы человечества и что сейчас за ними наше будущее (с чем я в принципе согласен, но не будем про это). Рассмотрим факты и практику.

Гуманоиды уже умеют драться, танцевать и работать на заводах, но с обычной бытовухой пока справляются плохо.

Разбираюсь, почему главный дефицит рынка может оказаться не в самом железе, а в ИИ-моделях, данных обучения и сервисах вокруг роботов.

Меня зовут Мурад Яндаров, с 2023 года развиваю направление Малого бизнеса в Чеченской Республике и в Республике Ингушетия: привлечение юридических лиц на обслуживание, торговый эквайринг, РКО и т.д. Но кроме того, что я начальник управления малого бизнеса в Чеченской Республике, я могу назвать себя AI-евангелистом, потому что считаю, что в современном мире просто нельзя не использовать ИИ. 

Моя работа максимально далека от ИТ и ИИ. Я не пишу код, не тестирую программы, не автоматизирую сложные цифровые процессы и тем более не продаю курсы по вайб-кодингу. Однако я глубоко убежден, что уже через несколько лет искусственный интеллект станет не просто повседневной нормой, как мобильный интернет или калькулятор, а обязательной частью жизни рабочего класса. Очень скоро без ИИ-ассистентов не смогут обойтись ни электрики, ни сантехники, ни офисные клерки, ни предприниматели. Внедрение ИИ в работу и быт станет базовым требованием для любой профессии, и тот, кто поймет это раньше, окажется на шаг впереди.

Начну моё эссе с рассказа о себе.

В последнее время я стал замечать, что знакомые программисты в моем круге общения и незнакомые в интернетах вайбкодят что-то для души.

Недавно друг скинул ссылку на сайт, где нарисована 3д модель Земли и спутники вокруг нее. Фильтры там, орбиты всякие. Данные из открытых источников в интернетах. Сказал что завайбкодил за пару-тройку недель. А еще через пару дней попросил потестить игру. Сделал раздел с орбитальными миссиями, где нужно управлять спутником и его орбитой, на базе некоторой физической модели с формулами. Геймплей, ачивки (уложится в минимальный импульс), звездочки. И тут я вспомнил, что у него была мечта кодить игры.

И тут я подумал - а ведь у меня тоже были какие-то подобные мечты. Когда я играл и восхищался первой Мафией, думал "вот бы закодить симуляцию города, чтобы каждый житель жил свою жизнь, отводил детей в школу, ходил на работу, ужинал, ездил на машине, ходил к доктору". А когда играл в старые фантастические космические стратегии c исследованиями и производством, типа Master of Orion или X-COM UFO Defense, восхищался проработанностью для тех лет, и мечтал "вот бы переписать их с новой графикой".

Но все это заканчивалось на осознании того, какой объем усилий нужно вложить дизайн, а затем и программирование, по вечерам, после основной работы (где я по сути делал все тоже самое только для бизнес-приложений).

И вот прошло 15 или даже может уже 20 лет перекладывания мыслей из головы в код с клавиатурой, кажется даже незаметно подкрался кризис среднего возраста.

И что теперь...? А теперь я Тони Старк, а кодекс мой Джарвис.

Допустим, компании последовательно автоматизируют всё, что мешает им зарабатывать быстрее. Исследование рынков, разработку продуктов, продажи, закупки, распределение капитала. Постепенно значительная часть экономики начинает работать на скоростях, при которых человек уже не успевает участвовать в отдельных решениях. Он ещё владеет акциями, получает отчёты, выбирает стратегию из трёх предложенных. Только насколько он всем этим управляет, становится всё труднее понять.
Такое будущее может обойтись без восстания машин. Будет хорошая отчётность, растущая производительность и люди, которым всё сложнее вмешиваться, хотя формально никто их этого права не лишал.

Обложка: Пол Стрэнд, «Уолл‑стрит», Нью‑Йорк, 1915.

Я собрал MVP системы поддержки принятия решений для эпидемиологического мониторинга. Цель была технической: проверить полный путь от временного ряда по территории до расчёта риска и выдачи результата в диалоговом интерфейсе.

Важное ограничение: эпидемиологическая динамика в этом MVP синтетическая. Реальными были названия муниципалитетов, площадь, численность населения, плотность и температура из Яндекс Погоды. Показатели вакцинации, число случаев, заболеваемость и целевая метка генерировались программно.

Поэтому приведённые метрики не говорят ничего о способности модели прогнозировать реальные вспышки ОРВИ. На таких данных нельзя делать вывод, что одна архитектура лучше другой: модель в первую очередь учится закономерностям, заложенным в генератор синтетического ряда.

Тем не менее стенд оказался полезен. Он позволил проверить построение временных окон, хронологическое разбиение, нормализацию, обучение, инференс, пороги уведомлений и обработку редкого положительного класса.

Созданные с помощью ИИ выводы о событиях, свидетелем которых вы были лично, порождают в сознании ложные воспоминания. Точность воспоминаний о событии снижается вдвое. А ложные воспоминания внедряются даже если вас напрямую предупредят о том, что именно ИИ подводил итоги.

Скорость принято боготворить: чем быстрее мы можем получить результат, тем лучше, верно? Ведь верно? Однако проблема даже не в том, что можно быстро получить полную ерунду вроде гладкого, но бессмысленного текста, а в том, что если ваши желания будут исполняться мгновенно, вы окажетесь самым несчастным человеком на Земле. Давайте разберемся подробнее.

Мне всего 44, но я помню мир без интернета, мобильных телефонов, навигаторов и мессенджеров. Чтобы позвонить своей будущей жене, я бегал к уличному таксофону и бросал монетку в аппарат. Чтобы что-нибудь узнать, шел в библиотеку и открывал Большую советскую энциклопедию, такой бумажный Google, только без рекламы, комментариев и возможности за три минуты поставить себе смертельный диагноз. Я ездил по городу без навигатора. И мы каким-то чудом умудрялись встречаться с друзьями в точно назначенное время на другом конце города, без возможности поделиться геолокацией и написать “я уже почти подъехал”, когда даже еще не вышел из дома... Это было удивительное время.

Мы легко встречали новые технологии и довольно быстро к ним приспосабливались. Интернет, мобильная связь, компьютеры, смартфоны — все это входило в нашу жизнь постепенно, оставляя нам время освоиться и привыкнуть. Но сейчас скорость изменений стала совсем другой. Мы все еще уверены, что так же легко адаптируемся ко всему следующему? Хотя, боюсь, мы даже близко не представляем, что нас ждет впереди. И на этот раз времени привыкнуть нам могут уже не оставить.

Не, я не буду писать про то, что ИИ резко выйдет из-под контроля, начнет улучшать сам себя и переиграет человечество за считанные месяцы. Скорее всего никакого восстания машин вообще не произойдет: мы просто шаг за шагом передаем алгоритмам управление бизнесом, экономикой, армией и государством, потому что решения ИИ оказываются эффективнее человеческих. В итоге люди формально остаются у руля, но уже ничего толком не решают.

Как вам такое мнение одного из пользователей соцсети:

Привет, Хабр!

В данной статье не будет простыней кода, сложных математических формул или ссылок на личный гит. Так же в статье не пойдет речь о лучших практиках безопасного применения ИИ в разработке. Речь пойдет об оценке возможностей ИИ, зоне их ответственности и как следствие безопасности их применения, в том числе и в разработке.

Бренд раньше в основном держал своё рекламное сообщение и официальные каналы. Сейчас представление о компании складывается из нескольких сигналов сразу: сайт и коммуникации, поисковая выдача, отзывы и пользовательский контент, карточки на картах и маркетплейсах, публикации СМИ и экспертов, социальные сети. С середины 2020-х гг. к этому добавились генеративные ответы и AI-рекомендации. Доверие из одного контакта возникает всё реже. Чаще человек сопоставляет несколько независимых подтверждений. Средний интернет-пользователь узнаёт бренды через несколько типов источников. В локальном поиске большинство потребителей использует больше одного канала до решения. Генеративный ИИ меняет архитектуру: модель может склеить разрозненные сведения о бренде в один ответ. Пользователи такие рекомендации всё равно перепроверяют через поиск, отзывы и первичные источники. Репутация, доступность фактов, согласованность сведений и качество опыта работают как общая инфраструктура доверия. Границы branding, ORM/SERM, SEO, контента и GEO при этом уже не жёсткие.

Мораль можно представить в виде набора правил и установок, помогающих создать наиболее благоприятные условия для полного, эффективного и положительного взаимодействия для всех членов социума. Право – это установленные правила, имеющие определённого силового гаранта, письменную форму и зачастую вполне конкретную формулировку. Право прежде всего нацелено на сохранение общественного порядка и вторично берёт корни уже из моральных, общечеловеческих ценностей, а мораль определяется конкретной культурой.

В последнее же время у привычных средств урегулирования появился конкурент. Возрадуйтесь или вознегодуйте, наверное: название сценарного приёма, метафорично прозванного же «deus ex machina» или «богом из машины», становится буквальным в современном его восприятии! Теперь люди идут искать богословские и юридические ответы в ИИ, предпочитая их узконаправленным специалистам. Он снял психологические барьеры и стал доступным, превратившись из инструмента в ресурс для исчерпания новых знаний, что часто же – ложная либо непроверенная, либо недостаточно точная информация. Контекст, личная ответственность, «дух закона» уже часто представляются невидимыми стенами между людьми и нужным пониманием. А без нужного понимания «Deus ex machina» – не более чем красивый торжественный вердикт нерабочей системе.

«Deus ex machina» стал «богом», собранным по нашему образу и подобию, но лишённым эмпатии. «Данное выдано алгоритмом» становится чем-то похожим на «на то воля божья», вот только за алгоритмом не скрывается ни морали, ни нравственности, ни закона, ни уж тем более человечности в привычном понимании.

Мужчина приходит на плановое обследование, сдает анализы и получает результат: ПСА выше нормы. Что это значит? Анализ на простат-специфический антиген (ПСА) является одним из инструментов оценки состояния предстательной железы у мужчин. Рост уровня ПСА может говорить о разных патологиях в простате, включая опухолевый процесс. Почему важно сдавать анализы на ПСА и контролировать его уровень, показывает случай с пациентом.

Что, если идеи — такой же репликатор, как гены? Миллиарды лет эволюция совершенствовала носитель для генов, а человеческий разум стал носителем для идей. Возможно, искусственный интеллект — не появление совершенно новой формы жизни, а момент, когда идеи впервые получили возможность существовать и эволюционировать независимо от человека.

Cитуация такая. Сын установил мне Claude, что дало возможность сваять учетную прогу, о которой я впервые задумался лет тридцать назад. Она должна была ориентироваться на принципы естественного учета. Даже на Хабре пописывал на эту тему — это позднее, уже в десятых.

Ну вот, сделал! Какой задумал: революционный софт, абсолютно не похожий не типовой учетный. А поскольку прогал не сам, со своим смешным бухгалтерским образованием, а занимался этим высокопрофессиональный ИИ (я только ставил задачу и определял структуру данных), то и программка вышла вполне себе рабочей.

Сначала коротко о назначении и возможностях, затем — демонстрационный ролик, затем — аналитическая оценка перспектив, любезно выполненная Claude.

Название: AL.

Назначение: личный учетный помощник.

Функционал:

1. Обычный учетный: учитывать наличие и движение вещей и денег (а какая еще цель может быть у учетной проги?!).

2. С обязательствами работает — это само собой (в AL обязательство — не отдельный объектный тип, как в бухгалтерии, а самый заурядный объект, но с будущей датой поступления или выбытия. Фича такая).

3. Отчеты по остаткам и оборотам (компактный, но мощный и универсальный отчетный конструктор),

4. Механизм создания связанных по иерархии таблиц, в которых описываются свойства объектов учета.

5. Автоматическое резервирование объектов.

6. Учет трудоемкости объектов (это пока в самом простеньком виде).

7. Планирование прихода и расхода (вследствие чего, в рамках единой логики, возникают два не пересекающихся учетных мира: фактический и плановый. Плановый мир состоит из обязательств (всем известных) и необязательств — плановых объектов, не связанных с контрагентами. В бухгалтерии термин отсутствует, хотя, казалось бы, чего проще?! Если можно предположить, что вещь поступит от контрагента или будет ему передана, отчего нельзя предположить — и зарегистрировать соответственно, — что вещь просто поступит или отправится на свалку, без всякого контрагента?!).

Сегодня OpenAI показали персональных агентов получивших название Dots, новую GPT-6.1 Sol, ускоренный режим Astra и подписку за $500 в месяц.

Заодно компания взялась за совместные документы, командные задачи, корпоративный маркетплейс и приложения внутри ChatGPT.

Собрал все самые важные анонсы из официального рекапа OpenAI в одной статье.

Когда мы обсуждаем агентов для программирования, разговор быстро сводится к моделям. Какая модель Claude лучше пишет код, а какая версия GPT увереннее чинит ошибки, как Gemini работает с большим репозиторием. Но между моделью и рабочим деревом Git находится ещё один слой, от которого зависит, что агент вообще сможет сделать.

Этот слой — программная обвязка вокруг модели, которую принято называть harness. Он организует цикл работы агента: передаёт запрос модели, выполняет вызванные ею инструменты и возвращает результаты для следующего шага. Здесь же собирается контекст, применяются правки и сохраняются сессии. Модель может предложить правильное изменение, но не суметь применить его через неудобный инструмент редактирования. Может найти проблему, но потерять нужную информацию после сжатия контекста. Или потратить несколько ходов на задачу, которую подходящий инструмент выполнил бы за один вызов.

Интересный проект, который изменил традиционное устройство моделей — Pi. Это терминальный агент, который строит свой harness с нуля, а не надстраивается над готовым. Его автор, Mario Zechner, сознательно ограничил набор встроенных механизмов работы. Вместо попытки заранее предусмотреть все сценарии Pi предлагает основной инструментарий, который можно приспособить под себя. Oh My Pi вырос из этой основы, но выбрал другое направление: собрать больше решений в одном готовом агенте.

На примере этой пары удобно разобрать вопрос, который возникает почти у любого разработчика инструментария: сколько решений оставить пользователю, а сколько должен принять автор продукта?