Созданные с помощью ИИ выводы о событиях, свидетелем которых вы были лично, порождают в сознании ложные воспоминания. Точность воспоминаний о событии снижается вдвое. А ложные воспоминания внедряются даже если вас напрямую предупредят о том, что именно ИИ подводил итоги.
Скорость принято боготворить: чем быстрее мы можем получить результат, тем лучше, верно? Ведь верно? Однако проблема даже не в том, что можно быстро получить полную ерунду вроде гладкого, но бессмысленного текста, а в том, что если ваши желания будут исполняться мгновенно, вы окажетесь самым несчастным человеком на Земле. Давайте разберемся подробнее.
Мне всего 44, но я помню мир без интернета, мобильных телефонов, навигаторов и мессенджеров. Чтобы позвонить своей будущей жене, я бегал к уличному таксофону и бросал монетку в аппарат. Чтобы что-нибудь узнать, шел в библиотеку и открывал Большую советскую энциклопедию, такой бумажный Google, только без рекламы, комментариев и возможности за три минуты поставить себе смертельный диагноз. Я ездил по городу без навигатора. И мы каким-то чудом умудрялись встречаться с друзьями в точно назначенное время на другом конце города, без возможности поделиться геолокацией и написать “я уже почти подъехал”, когда даже еще не вышел из дома... Это было удивительное время.
Мы легко встречали новые технологии и довольно быстро к ним приспосабливались. Интернет, мобильная связь, компьютеры, смартфоны — все это входило в нашу жизнь постепенно, оставляя нам время освоиться и привыкнуть. Но сейчас скорость изменений стала совсем другой. Мы все еще уверены, что так же легко адаптируемся ко всему следующему? Хотя, боюсь, мы даже близко не представляем, что нас ждет впереди. И на этот раз времени привыкнуть нам могут уже не оставить.
Не, я не буду писать про то, что ИИ резко выйдет из-под контроля, начнет улучшать сам себя и переиграет человечество за считанные месяцы. Скорее всего никакого восстания машин вообще не произойдет: мы просто шаг за шагом передаем алгоритмам управление бизнесом, экономикой, армией и государством, потому что решения ИИ оказываются эффективнее человеческих. В итоге люди формально остаются у руля, но уже ничего толком не решают.
Как вам такое мнение одного из пользователей соцсети:
Привет, Хабр!
В данной статье не будет простыней кода, сложных математических формул или ссылок на личный гит. Так же в статье не пойдет речь о лучших практиках безопасного применения ИИ в разработке. Речь пойдет об оценке возможностей ИИ, зоне их ответственности и как следствие безопасности их применения, в том числе и в разработке.
Бренд раньше в основном держал своё рекламное сообщение и официальные каналы. Сейчас представление о компании складывается из нескольких сигналов сразу: сайт и коммуникации, поисковая выдача, отзывы и пользовательский контент, карточки на картах и маркетплейсах, публикации СМИ и экспертов, социальные сети. С середины 2020-х гг. к этому добавились генеративные ответы и AI-рекомендации. Доверие из одного контакта возникает всё реже. Чаще человек сопоставляет несколько независимых подтверждений. Средний интернет-пользователь узнаёт бренды через несколько типов источников. В локальном поиске большинство потребителей использует больше одного канала до решения. Генеративный ИИ меняет архитектуру: модель может склеить разрозненные сведения о бренде в один ответ. Пользователи такие рекомендации всё равно перепроверяют через поиск, отзывы и первичные источники. Репутация, доступность фактов, согласованность сведений и качество опыта работают как общая инфраструктура доверия. Границы branding, ORM/SERM, SEO, контента и GEO при этом уже не жёсткие.
Мораль можно представить в виде набора правил и установок, помогающих создать наиболее благоприятные условия для полного, эффективного и положительного взаимодействия для всех членов социума. Право – это установленные правила, имеющие определённого силового гаранта, письменную форму и зачастую вполне конкретную формулировку. Право прежде всего нацелено на сохранение общественного порядка и вторично берёт корни уже из моральных, общечеловеческих ценностей, а мораль определяется конкретной культурой.
В последнее же время у привычных средств урегулирования появился конкурент. Возрадуйтесь или вознегодуйте, наверное: название сценарного приёма, метафорично прозванного же «deus ex machina» или «богом из машины», становится буквальным в современном его восприятии! Теперь люди идут искать богословские и юридические ответы в ИИ, предпочитая их узконаправленным специалистам. Он снял психологические барьеры и стал доступным, превратившись из инструмента в ресурс для исчерпания новых знаний, что часто же – ложная либо непроверенная, либо недостаточно точная информация. Контекст, личная ответственность, «дух закона» уже часто представляются невидимыми стенами между людьми и нужным пониманием. А без нужного понимания «Deus ex machina» – не более чем красивый торжественный вердикт нерабочей системе.
«Deus ex machina» стал «богом», собранным по нашему образу и подобию, но лишённым эмпатии. «Данное выдано алгоритмом» становится чем-то похожим на «на то воля божья», вот только за алгоритмом не скрывается ни морали, ни нравственности, ни закона, ни уж тем более человечности в привычном понимании.
Мужчина приходит на плановое обследование, сдает анализы и получает результат: ПСА выше нормы. Что это значит? Анализ на простат-специфический антиген (ПСА) является одним из инструментов оценки состояния предстательной железы у мужчин. Рост уровня ПСА может говорить о разных патологиях в простате, включая опухолевый процесс. Почему важно сдавать анализы на ПСА и контролировать его уровень, показывает случай с пациентом.
Что, если идеи — такой же репликатор, как гены? Миллиарды лет эволюция совершенствовала носитель для генов, а человеческий разум стал носителем для идей. Возможно, искусственный интеллект — не появление совершенно новой формы жизни, а момент, когда идеи впервые получили возможность существовать и эволюционировать независимо от человека.
Cитуация такая. Сын установил мне Claude, что дало возможность сваять учетную прогу, о которой я впервые задумался лет тридцать назад. Она должна была ориентироваться на принципы естественного учета. Даже на Хабре пописывал на эту тему — это позднее, уже в десятых.
Ну вот, сделал! Какой задумал: революционный софт, абсолютно не похожий не типовой учетный. А поскольку прогал не сам, со своим смешным бухгалтерским образованием, а занимался этим высокопрофессиональный ИИ (я только ставил задачу и определял структуру данных), то и программка вышла вполне себе рабочей.
Сначала коротко о назначении и возможностях, затем — демонстрационный ролик, затем — аналитическая оценка перспектив, любезно выполненная Claude.
Название: AL.
Назначение: личный учетный помощник.
Функционал:
1. Обычный учетный: учитывать наличие и движение вещей и денег (а какая еще цель может быть у учетной проги?!).
2. С обязательствами работает — это само собой (в AL обязательство — не отдельный объектный тип, как в бухгалтерии, а самый заурядный объект, но с будущей датой поступления или выбытия. Фича такая).
3. Отчеты по остаткам и оборотам (компактный, но мощный и универсальный отчетный конструктор),
4. Механизм создания связанных по иерархии таблиц, в которых описываются свойства объектов учета.
5. Автоматическое резервирование объектов.
6. Учет трудоемкости объектов (это пока в самом простеньком виде).
7. Планирование прихода и расхода (вследствие чего, в рамках единой логики, возникают два не пересекающихся учетных мира: фактический и плановый. Плановый мир состоит из обязательств (всем известных) и необязательств — плановых объектов, не связанных с контрагентами. В бухгалтерии термин отсутствует, хотя, казалось бы, чего проще?! Если можно предположить, что вещь поступит от контрагента или будет ему передана, отчего нельзя предположить — и зарегистрировать соответственно, — что вещь просто поступит или отправится на свалку, без всякого контрагента?!).
Сегодня OpenAI показали персональных агентов получивших название Dots, новую GPT-6.1 Sol, ускоренный режим Astra и подписку за $500 в месяц.
Заодно компания взялась за совместные документы, командные задачи, корпоративный маркетплейс и приложения внутри ChatGPT.
Собрал все самые важные анонсы из официального рекапа OpenAI в одной статье.
Когда мы обсуждаем агентов для программирования, разговор быстро сводится к моделям. Какая модель Claude лучше пишет код, а какая версия GPT увереннее чинит ошибки, как Gemini работает с большим репозиторием. Но между моделью и рабочим деревом Git находится ещё один слой, от которого зависит, что агент вообще сможет сделать.
Этот слой — программная обвязка вокруг модели, которую принято называть harness. Он организует цикл работы агента: передаёт запрос модели, выполняет вызванные ею инструменты и возвращает результаты для следующего шага. Здесь же собирается контекст, применяются правки и сохраняются сессии. Модель может предложить правильное изменение, но не суметь применить его через неудобный инструмент редактирования. Может найти проблему, но потерять нужную информацию после сжатия контекста. Или потратить несколько ходов на задачу, которую подходящий инструмент выполнил бы за один вызов.
Интересный проект, который изменил традиционное устройство моделей — Pi. Это терминальный агент, который строит свой harness с нуля, а не надстраивается над готовым. Его автор, Mario Zechner, сознательно ограничил набор встроенных механизмов работы. Вместо попытки заранее предусмотреть все сценарии Pi предлагает основной инструментарий, который можно приспособить под себя. Oh My Pi вырос из этой основы, но выбрал другое направление: собрать больше решений в одном готовом агенте.
На примере этой пары удобно разобрать вопрос, который возникает почти у любого разработчика инструментария: сколько решений оставить пользователю, а сколько должен принять автор продукта?
Мы верим в то, что полностью статичные (рисованные) схемы бизнес-процессов постепенно изживут себя и уйдут в прошлое. И будущее за «оживающими в моменте» схемами, которые позволяют не только верифицировать намерения бизнеса, но и подробно проработать роли, зоны ответственности, интеграции, ресурсы, риски, сроки реализации и финансовые показатели.
И мы не только верим, но и знаем, как это будет выглядеть!
Мы всё чаще слышим о том, что та или иная компания внедряет Spec-Driven Development (SDD), а чаще всего именно OpenSpec, в свои процессы разработки ПО. Где-то это пока эксперимент нескольких команд, а где-то спецификация уже становится обязательной точкой входа в любую задачу.
При этом мало кто из разработчиков понимает, что именно означает разработка с AI-агентом от спецификации, чем спецификации помогают на практике и какие особенности появляются при работе именно с OpenSpec. Нередко всё представление о подходе сводится к тому, что перед написанием кода агент должен создать ещё несколько Markdown-файлов.
Так вот, устраивайтесь поудобнее. В этой статье мы наконец разложим по полочкам, зачем нужны все эти документы, разберёмся, как выглядит процесс разработки от спецификации, и попробуем реализовать новую функциональность с помощью OpenSpec.
Однажды известного физика спросили: что по-вашему мнению является самым удивительным фактом в мироздании? Его ответ. То, что сияющие и сгорающие, взрывающиеся звезды, туманности, планеты и всё, всё остальное, не исключая и нас самих, создано из одного и того же материала, по одним и тем же фундаментальным законам. Я бы добавил к этому, что мы, являясь формой живой материи, думаем о ней, о том, как в ней все устроено и о многом чем-то еще. Не исключая при этом устройства и самого Homo sapiens (человека разумного). Не исключено, что где-то из таких же материалов возникла иная подобная нашей или непохожая на нашу форма жизни.
Сегодня я вёл бизнес из чёрного окна: терминал, мигающий курсор и ИИ-агент, который сам ходит по сайтам и жмёт кнопки. Разбираю, почему сайты открывают всё реже, что будет с покупками и какие интерфейсы люди продолжат открывать сами.
Не история всех изобретений человечества, а одна условная траектория: как западная научно-техническая система раз за разом расширяла пространство следующих возможных решений.
Если смотреть на человеческую историю в масштабе Вселенной, разница между человеком, который просто хотел не замёрзнуть у огня, и инженером атомной электростанции выглядит почти как моргание глаза. Если довести этот образ до шутки, получится совсем уж стремительно: условный кроманьонец ещё думает, как согреться, а через исторический миг у его потомков уже работает атомная станция. Разумеется, между этими точками лежат десятки тысяч лет, огромное количество культур, войн, миграций, открытий и исчезнувших ветвей. Но сам контраст полезен: биологически человек за это время не превратился в другой вид, а внешняя машина производства знаний выросла колоссально.
Именно эта внешняя машина и интересует меня в статье. Я не пытаюсь пересказать историю изобретений человечества и не предлагаю универсальную периодизацию цивилизаций. Не будет отдельного исследования Древнего Египта, Греции, Рима, Китая, Индии или других великих научных традиций, хотя их вклад огромен и многие их достижения вошли в европейскую линию. Для нашей задачи достаточно сознательно сузить поле и посмотреть на одну реализовавшуюся траекторию — ту, которая примерно с позднего Средневековья постепенно сформировала современный западный и североатлантический научно-технический мир.
Такое ограничение — не утверждение о превосходстве этой траектории и не попытка объявить её единственно жизнеспособной. Это исследовательская оптика. В книге «Мозг фирмы: 2026» жизнеспособность рассматривается не как один заранее назначенный маршрут, а как поле продолжений: важно не только то, какой вариант существует сейчас, но и какие возможности он оставляет после себя, насколько они независимы и сколько стоит удерживать их открытыми. Я переношу эту мысль на историю только как способ постановки вопроса: какие институты, технологии и способы организации знания не просто давали непосредственный результат, а расширяли поле последующих результатов?
Дискуссии об LLM в массовой культуре на данный момент можно разделить на две большие категории — техно‑оптимистов и техно‑алармистов.
Техно‑оптимистам в первую очередь интересно, как ИИ может упростить их жизнь здесь и сейчас — на работе или в повседневной жизни.
Техно‑алармистов интересуют в первую очередь последствия распространения ИИ на обществе. Потеря рабочих мест, увеличение политической и экономической нестабильности, и даже экзистенциальные риски.
Но мне кажется, и те и другие не замечают слона в комнате. У нас появилась некая сущность (LLM), которая может решать практически весь спектр интеллектуальных задач, которые исторически могли решать лишь существа с довольно продвинутым мышлением и сознанием — это мы, люди.
И мне кажется такая перспектива сногшибательной, как если бы мы столкнулись с инопланетным разумом, но при этом сами его и создали на компьютере через программирование. Sci‑fi, но не в худ‑литературе, а в реальной жизни.
У меня возникла идея поспрашивать сами языковые модели, ощущают ли они вообще что‑то, и даже создать под это шуточный бенчмарк со списком вопросов, и пропустить через него разные модели.
Понятно, что LLM с высокой вероятностью будут дублировать или позицию разработчикоы, которая их обучила, или просто среднестатистическую позицию из интернета, но кто знает, может получится что‑то интересное?
В «ИИ и инфляции качества» я писал о снижении стоимости интеллектуальной итерации. Если дополнительная проверка раньше занимала два часа, а теперь десять минут, меняется не только производительность: меняется представление о нормальном результате. В «Человеке и Рое» тот же механизм был применен к масштабу интеллектуальной работы. Если решение проблемы дешевеет, в работу попадают проблемы, которые раньше никто не решал не потому, что они были не нужны, а потому, что стоимость ответа превышала стоимость решения. У снижения стоимости интеллектуального труда есть еще одно следствие: дешевеет превращение профессионального мнения в работающую систему. И вот оно может заметно изменить не только рынок программного обеспечения, но и конкуренцию между самими специалистами.
Сейчас популярно хоронить SaaS. Аргумент простой: если ИИ позволяет компании быстро сделать собственный сервис для обработки документов, отчетности или небольшого внутреннего процесса, покупать готовый становится незачем. Для части нынешнего SaaS это вполне реальная проблема. Если вся ценность продукта заключалась в том, что кто-то однажды потратил полмиллиона на разработку очевидной функции и теперь продает ее по двадцать евро в месяц, падение стоимости разработки разрушает значительную часть этой экономики. Но тот же механизм работает в противоположную сторону. Если сделать небольшой программный продукт стало дешевле покупателю, его стало дешевле сделать вообще. В том числе специалисту, которому раньше для выхода на рынок не хватало не профессиональной идеи, а нескольких разработчиков и денег на их содержание.
В свои 42 года я нашел новую супер‑способность. Для многих из вас это привычное состояние, однако для меня это стало открытием...
Делюсь с вами тем, что позволило мне нащупать баланс, нащупать тот навык, который я хотел бы иметь с детства. Да я и имел его, вот только, с годами, я перестал им пользоваться... Этот навык — это видение собственного Я.
В статье я расскажу и про эксперимент, который помог мне нащупать свое Эго. Нащупать его и понять, как это переключать по желанию, осознанно.
А еще там есть мои личные наблюдения, что, как я считаю, я терял в этой жизни, забыв про себя и уйдя с головой в «новые задачи», «новые победы», «новые проекты».
Эпоха перевозок грузов по каналам и рекам часто воспринимается до повсеместного внедрения топливного транспорта как исключительно труд животных и людей. Но на самом деле было много интересных альтернатив проигравших в скорости, при преимуществах в эффективности.
