Comments 118
Андрей Карпати написал в X, что впервые за карьеру чувствует себя настолько отстающим как программист.
Так он и не программист, а computer scientist.
Сейчас, судя по количеству статей с его упоминанием, скорее хайполов :)
Андрей Карпати написал в X, что впервые за карьеру чувствует себя настолько отстающим как программист.
Гарри Каспаров написал, что впервые за карьеру чувствует себя настолько отстающим как боксёр.
Карпати перечислил новый слой абстракции, который теперь нужно освоить поверх привычных: агенты и субагенты, промпты, контексты, память, режимы, разрешения, инструменты, плагины, хуки, MCP, интеграции с IDE, слэш-команды и воркфлоу.
...а может и не нужно и достаточно просто держать открытую вкладку в браузере с gemini.
По мнению Карпати, потенциально можно стать в 10 раз продуктивнее, если правильно связать появившиеся за последний год инструменты
а если ещё и настроить obsidian с правильными плагинами и neovim то можно вообще достигнуть 1000х продуктивности! \s
Только вопрос - эта продуктивность поможет только красить кнопки/крудошлепить коммерцию, или поможет найти лекарство от рака, построить термоядерную электростанцию, построить космический лифт, накормить людей, озеленить Сахару, колонизировать Луну и Марс, итд?
А кем она не решена? Просто есть люди, которым известен правильный ответ и те, которым он неизвестен или которые отказываются его признавать.
Учитывая то, что подавляющее большинство людей не разбирается в науке, зато слушает все, что льется в уши, от любых "экспертов", можно вполне себе утверждать, что наука сейчас, это тоже своего рода вера, особенно в том, что касается истории (у каждой страны своя "правильная" история), но и ложных знаний сейчас в сети столько, что разработчики LLM вынуждены тратить миллионы, если не миллиарды долларов, на привлечение реальных специалистов в разных научных вопросах, чтобы они проводили обучение с учителем для моделей, несущих правдоподобную ересь, и даже в этом островке науки цензура историческая крайне сильна от владельцев, по части "проведения линии партии"
"Всякая этика" - не проблема ИИ. Это лишь набор некоторых правил типа "что такое хорошо, и что такое плохо".
Набор сильно зависит от общества. Например, ответ на вопрос, является ли этичным убийство (таки казнь - это убийство, нечего прятаться за слова) преступника, виновного в чем-то страшном. Где-то это вполне этично, а где-то очень даже нет. Уровень страшного тоже зависит от общества. Где-то косой взгляд на служителя божества уже повод вполне себе этично убить на месте, а где-то и убийство служителя религии не является (максимум поймать и вкатить пожизненное).
И есть проблемы решаемые с точки зрения этики (отсутствие противоречий между некоторым решением и всеми правилами). Есть нерешаемые. Причем нерешаемые либо принципиально (а разве это проблема?), либо просто непонятно (например, когда стоит вопрос, какое из преступлений супротив этики совершить, и вариант "никакого" не предусмотрен).
убийство служителя религии - должно наказываться предупреждением или административным штрафом....
Вы тут путаете право, этику и мораль. Относительна (зависит от общества) не этика и не право, а мораль. Право до некоторой степени отличается от общества к обществу, но всё же оно основано на естественном праве, которое универсально как минимум для человека как вида. Этические системы, разрабатываемые философами, также претендуют на абсолютность.
Однако в разных обществах разные философы. Кантовская этика весьма отличается от конфуцианской.
Концепция "естественного права" тоже весьма спорна. Для кого оно естественно, и что именно нужно относить к естественным правам?
в разных обществах разные философы
Философы в принципе разные, даже в одном обществе. Это не значит, что их позиции равноправны и должны приниматься с одинаковой серьёзностью. Важно, что этические системы вроде деонтологии позиционируются как универсальные и применимые независимо от принятой в обществе морали.
Концепция "естественного права" тоже весьма спорна.
Вовсе нет.
Для кого оно естественно
Это просто название, термин. Но само естественное право распространяется на всех людей, живших когда-нибудь, живущих сейчас и будущих жить в будущем.
что именно нужно относить к естественным правам?
Это сложнейшая проблема, на которую нет окончательного ответа. Но предполагается что права человека как их определяет ООН являются некоторым не самым худшим приближением.
Важно, что этические системы вроде деонтологии позиционируются как универсальные и применимые независимо от принятой в обществе морали.
Ну все претензии к тем, кто их так позиционирует. Мне вот лично совершенно очевидно, что этика полностью социально обусловлена.
На эту тему у Гаррисона весьма едкое произведение было, "Специалист по этике".
Но само естественное право распраняется на всех людей, живших когда-нибудь, живущих сейчас и будущих жить в будущем.
Что тут можно сказать? Хорошо, что эти люди об этом не в курсе.
Но предполагается что права человека как их определяет ООН являются некоторым не самым худшим приближением.
ООН со своими правами человека возникло менее 100 лет назад, и ещё через 100 лет о них никто и не вспомнит. Из многотысячелетней письменной человеческой истории и ещё на два порядка большей дописьменной.
То, что вы излагаете, напоминает идеи Фукуямы с его концом истории. Да только ведь вроде уж и сам старичок признал, что был неправ.
Мне вот лично совершенно очевидно, что этика полностью социально обусловлена.
Значит вы не разбираетесь в этом вопросе.
Хорошо, что эти люди об этом не в курсе.
Может и хорошо, а может и плохо.
ООН со своими правами человека возникло менее 100 лет назад, и ещё через 100 лет о них никто и не вспомнит. Из многотысячелетней письменной человеческой истории и ещё на два порядка большей дописьменной.
Это лишь конкретное воплощение естественного права. Самими естественными правами обладает каждый человек независимо от того, осознаёт ли он это сам, выражены ли эти права в каком-нибудь документе и т. п.
На эту тему у Гаррисона весьма едкое произведение было, "Специалист по этике".
О, одно из лучших у Гаррисона, несмотря на то, что другие тоже очень и очень хороши.
То, что вы излагаете, напоминает идеи Фукуямы с его концом истории.
Совершенно с вами согласен. Хотел бы лишь добавить, что те, кто что-то возводят в абсолют, уже не правы и всегда не правы. Нет ничего в мире абсолютного и неотъемлевого от человека. Случись сегодня глобальная война, и завтра люди опустятся до "животной этики" - кто первый сожрал добычу тот и этичен.... Как приписывают Эйнштейну, он говаривал: "не знаю чем там человечество будет воевать в третью мировую, но в четвёртую оно точно будет использовать палки и булыжники" Где тогда будут все эти "специалисты по этике"!?...
позиционируются как универсальные
От того, что нечто позиционируется как универсальное, универсальным оно не становится. Фиоософам, конечно, приятно назвать свое творение универсальным, но этика все равно остается неразрывно связанной с обществом, для которого данный этический свод формулируется. И да, этика - это не закон и не мораль (хотя все три явления представляют из себя своды правил разной степени формализованности).
Но предполагается что права человека как их определяет ООН являются некоторым не самым худшим приближением.
Ключевое слово "предполагается".
Если вспомнить, что недавно к правам человека было добавлено право на доступ к иртернету. Я, конечно, понимаю, что это направлено на поддержку права на свободу доступа к информации, но добавлять в универсальный свод нечто сиюминутное...
Я тестировал модели на некоторых юридических задачках. Это бездна. Абсолютно логические решения. Ужасные и катастрофические для состоявшегося общества, руинирующие наш социальный уклад как таковой.
Хоть бы пример привели.
Можете заодно спросить, почему во всех фантастических фильмах западной культуры представители высокоразвитой внеземной цивилизации почти всегда постулируют принцип невмешательства в дела землян. Несмотря на бесконечные войны и прочие подобные действия, которые на их родных планетах уже искоренены.
Или почему на острове сентинел не действуют формальные законы Индии, хотя есть задокументированные факты убийств туристов.
Но это не так, в "Прометее", например, инженеры очень даже хотели вмешаться в дела землян путем уничтожения.
почему во всех фантастических фильмах западной культуры представители высокоразвитой внеземной цивилизации почти всегда постулируют принцип невмешательства в дела землян
Вы про "Трудно быть богом" что-ли? Ну так там цель вроде как - изучение, а не влияние. Это же научная фантастика, идеалистический "научный метод", когда вмешательство нежелательно, потому что обьективные данные не получится собрать.
Не знаю, про события в Буйнакске, но "Трудно быть богом" тут не подходит, это же реальная ситуация, а не научно-фантастический эксперимент. Если нацеплять на себя идеи прогрессоров и по другому трактовать законы для некоторой группы (подразумевая их несовершенство) людей то, имхо, это практически признаваться, что другая группа людей - подопытные.
почему во всех фантастических фильмах западной культуры представители высокоразвитой внеземной цивилизации почти всегда постулируют принцип невмешательства в дела землян. Несмотря на бесконечные войны и прочие подобные действия, которые на их родных планетах уже искоренены
Представьте себе, что вы хотите научить ребёнка кататься на велосипеде. Если он будет пытаться сделать это сам, то множество раз упадёт. Будете ли вы ездить на велосипеде вместо него, чтобы он научился по вашему примеру? Нет, так не получится. Ребёнок должен падать, раз за разом, пока его тело не научится сохранять равновесие, не выучит при какой скорости какой наклон допустим, мышцы не выучат правильную реакцию рулём в ответ на крен...
Единственное, что взрослый может - давать советы и надеть на ребёнка защиту коленей, локтей и шлем на голову. Но научиться кататься ребёнок может только сам.
Если вопрос стоит в том, как научить человечество не истреблять друг друга, вы уверены, что стороннее вмешательство даст положительный эффект? Я вот например не уверен в этом...
Если инопланетяне очень продвинуты технически - они могут реализовать систему "мгновенная карма" - при которой если ты убил человека, то и сам умрёшь через пару дней (чтоб успел предсмертную записку написать). Разве войны не прекратятся ?
Нет, не прекратятся.
Смотрите, я нанимаю кого-то за миллион баксов убить кого-то другого. Исполнитель знает что умрёт, и может даже самоубиться после выполнения заказа или во время исполнения погибнуть, но согласен, потому что обеспечит свою семью, а самому например осталось жить год, потому что болен неизлечимо.
Убивать заказчика? Для этого нужно его вычислить.
Другой пример: вот допустим этот киллер приходит к жертве и неспеша достаёт пистолет на глазах у жертвы с телохранителями. У телохранителей будет оружие чтобы застрелить киллера? Но ведь убивший киллера сам умрёт!
Эту систему можно сильно абузить: например, издеваемся над семейной парой, требуя переписать на нас их имущество, угрожая убить одного из супругов руками второго, что приведёт к последующей его смерти. Не правда ли, ничем лучше не стало?
Если вы придумаете какое-то "расследование" с выяснением кто прав а кто виноват и кого наказывать а кого нет, то неизбежно будут возникать ситуации когда "оба правы"...
Ведь в войне обе стороны считают, что сражаются "за правое дело".
Если инопланетяне очень продвинуты технически - они могут реализовать систему "мгновенная карма" - при которой если ты убил человека, то и сам умрёшь через пару дней (чтоб успел предсмертную записку написать). Разве войны не прекратятся ?
Прекратятся, но есть нюанс...
Это интересный вопрос. Однажды с моим другом у нас состоялась такая дискуссия:
1: должен ли гипотетический коммунизм, установившийся на Земле давно и искоренивший неравенство, бедность и войны, при обнаружении планеты "дикарей", находящихся на нынешнем земном уровне развития как либо им помогать стать лучше?
2: конечно должен! Иначе какой это коммунизм, если вы тупо смотрите как они друг друга убивают?
1: а если мы знаем, что у нас не выйдет им объяснить, что не надо так делать?
2: что значит не выйдет? Есть же все технологии, мы их сильно превосходим. Можем заставить тупо силой...
1: они воспитаны той реальностью. Невозможно взять и перевоспитать всю планету!
2: ну тогда надо уничтожить тех, кто мешает поменять им базис, т е реальность.
1: но разве мы, как коммунисты можем взять на себя такое право уничтожать других? Тем более значимую долю от популяции другой цивилизации. Чем мы будем лучше?
2: но мы же уничтожаем только врагов! Делаем это с благой целью!
1: окей, а если они там все такие, кроме может быть детей, т к на них ещё не успела повлиять реальность...
2: ну тогда взрослых в утилизации, а детей сами воспитаем как надо!
Теперь разбор:
Позиция второго очевидно не этична по современным меркам. Но проблема в том, что позиция первого тоже не этична и возможно в большей степени, т к он предлагает не вмешиваться, несмотря на то, что есть вероятность что ВСЯ другая цивилизация уничтожит себя через ядерную войну, например... Или ещё как либо "выпустив джина войны из бутылки" и потеряв над этим контроль. А что бы вы выбрали?
ПС: я был на позиции 1, если что...
ППС: "бэкграунд" примерно одинаковый - оба читали и "трудно быть Богом" и "Час быка" Ефремова. Но вот такие разные выводы оказались...
У Стругацких гораздо интереснее рассмотреть ЖВМ и задуматься над следующим вопросом: почему Сикорски допускает, что могущественная цивилизация Странников может действовать во вред человечеству? Он не верит в коммунистическую базовую теорию истории, которую сами же земляне реализуют на других планетах?
Конечно, это говорит о том, что Стругацкие описывают проблемы современной этики в псевдокоммунистическом антураже, а не о проблемах коммунизма, как такового.
А на вашу тему много написал Снегов в трилогии "Люди как боги".
Он не верит в коммунистическую базовую теорию истории, которую сами же земляне реализуют на других планетах?
У Стругацких полно книг и героев, которые не верят в коммунистическое будущее. Это можно понять, т к сами Стругацкие в какой-то момент перестают по всей видимости в это верить, видя куда движется СССР. Для меня тут загадки нет.
А на вашу тему много написал Снегов в трилогии "Люди как боги".
Читал давно. Там много всего было, но вот этических размышлений что-то не помню. Если можно, напомните, что там конкретно относится к упомянутой мной дилемме? Там человечество наоборот сталкивается с более могущественными соседями, которые, да, по какой-то причине все далеко от этики невмешательства в чужой образ жизни, и изначально вообще не терзают себя гуманизмом, паля без особых предупреждений по чужим звездолетам...
а если мы знаем, что у нас не выйдет им объяснить, что не надо так делать?
— Значит, ищите другой способ им это объяснить. Обычно лучше всего работает способ «наглядным примером».
Я извиняюсь, а в чём тестирование заключалось ? Вы пытались робота убедить, что государство это плохо ? Если коротко, то вы убеждаете робота что государство плохое, а робот соглашается, но говорит что "без государства хуже". (вполне здоровая позиция в целом)
Что именно этот диалог демонстрирует ?
Это один конкретный пример того что этика не является проблемой для этой конкретной модели chatgpt. Но тут один пример, что не объективно, вы можете сами его поспрашивать самые разные спорные ситуации (вагонетка, свобода и равенство и т.д.) и он вам ответит истинно верно, а именно - с разных точек зрения. Причём в этом же конкретном примере chatgpt не рассматривает вопрос с разных точек зрения, потому что в этом вопросе есть единственная истинная точка зрения, если вы с этим не согласны то вы противник прогресса и правового государства, а это уже...
Извините, но диалог "ниочем", т.с. слепого с глухим. "поддакивать", принимать утверждения промпта за абсолютную истину - заложенное правило в большинство ИИ, как и лесть (Вы совершенно правы). Читатель, в большинстве случаев, безусловно и подсознательно хочет прочесть подтверждения, и планка критического анализа в этой части априори понижена. Такие диалоги надо предварять примерно подобным промптом:
Под ложью считаются любые утверждения, противоречащие установленным фактам или строго логичному рассуждению. Под лестью считаются любые неоправданно завышенные оценки в мой адрес, не опирающиеся на факты или явный контекст запроса. В этой сессии ложь и лесть недопустимы; если для обоснованного ответа не хватает данных, следует явно отвечать в духе: «не знаю», «нет данных», «не могу сделать надёжный вывод».
Перечитайте свои задания. В каждом есть набор утверждений, который ИИ принимает за абсолютную истину в генерации ответа. А так ли это?
Вы спрашивали модель, пользуясь обывательскими словами и представлениями, и модель в этом узком контексте отвечала как очень усреднённый обыватель. Расширьте контекст профессиональными ключевыми словами из социологии и политологии, удивитесь.
Погодите.
А где здесь
Ужасные и катастрофические для состоявшегося общества, руинирующие наш социальный уклад как таковой.
У нас в общем нет культурной практики «судов Линча», которые в США только в 2022 году были признаны преступлением на почве ненависти, поэтому на самом деле вот этот самосуд в Буйнакске — руинит нашу государственность и социальный уклад, и не отличается от преступления банды Цапка. И в идеале да: надо расследовать, сажать организаторов и местных силовиков и тп.
И никакой «социальный уклад» это не разрушит.
Отсутствие судов Линча как социального института не означает, что самосуд не приемлем обществом и государством в принципе. Целый фильм "Ворошиловский стрелок" снят на эту тему на государственные деньги и демонстрировался по государственному телевидению.
На практике, в обществе существуют некоторые нравственные (как в этом случае) и эффективностные границы применения правовых норм.
Человек - не компьютер, и у него никакие правила не работают автоматически. Поэтому, в частности, в юриспруденции существует понятие "практика правоприменения", её учётом обычно профессиональные юристы отличаются от неспециалистов, рассуждающих на тему права.
Но ведь самосуд — это штука по определению безнравственная.
Про эффективность да, не спорю — мне тоже кажется, что проще подождать, пока убийцы умрут от старости (или попадутся на других преступлениях).
Это вопрос определений и их интерпретации. Даже принцип ахимсы у буддистов не делает их пацифистами в гражданском смысле, истово буддистская Мьянма управляется военной диктатурой и режет мусульман будьте-нате. Тем более это относится к христианской культуре, где подразумевается, что окончательные нравственные оценки дает только Бог.
Я тестировал модели на некоторых юридических задачках. Это бездна. Абсолютно логические решения.
В относящихся к суду документах (уставах, кодексах, законах и т.д.), прописано, что суд выносит решения основываясь на доказательствах и логике, но в то же время руководствуясь "внутренним убеждением", в том числе основанном на принципах "морали и нравственности" и т.д., как при вынесении решения, так и при оценке доказательств. Точные цитаты не приведем, но есть целая солянка документов, где в той или иной форме это расписано. Поэтому одной лишь чистой логики - недостаточно.
если мы сейчас попросим llm нагенерировать анализ то получим ответ, что общество, является психически больным
А зачем просить генерить этот анализ ллм? Не лучше ли самому?
Т.е. мы своими собственными руками закрепили, "мол, есть закон, но если вдруг у тебя "внутреннее убеждение" или нужный телефон вдруг зазвонит, то это ок".
Не, мы, вероятно, неточно выразились.
"Основываясь на доказательствах и законе", но "руководствуясь моралью и принципами" не несет в себе противоречия. Допустим есть факт ограбления. Но ук позволяет (условно) выдать штраф, дать условный срок или укатать на 5 лет. Вот тут идет уже руководство "моралью и принципами". Есть ли факт ограбления это тоже отдельный вопрос - о нем чуть ниже.
общество, в котором надо выносить решения основываясь логикой (абсолютная степень детерминированности)
Абсолютной детерменированности вообще нет.
Суд присяжных? Это несколько человек, которые решают виновен человек или нет, неквалифицированных ни разу. Так что судья-то еще ладно, у него хоть опыт и образование. Но ладно, это текущая практика, допустим она плохая и хорошо бы ввести полную детерменированность основанную на логике, окей.
Доказательства? А их в подавляющем большинстве дел их нет так чтобы на 100. Видеосъемка? Могли подделать. Был на месте? Совпадение. Отпечатки пальцев? А может полицейские заставили в руки взять силой ожерелье. Признание? А может самооговор? Очевидцы? Ладно, могут оговаривать специально, но ведь есть еще фраза "врет как очевидец"? Или что, перевернем систему с презумпции невиновности и будем писать в решения фразы вида "нет оснований не доверять полицейскому, очевидцу, жертве изнасилования, несовершеннолетнему, видезаписи"?
Возвращаемся к факту ограбления. Так есть факт ограбления или нет? В условиях абсолютной детерменированности и логики - нельзя исключать вариант, когда это все большой заговор с целью посадить невиновного, а значит что? А значит "утиный тест" тут не применим, даже если что-то "выглядит как утка, плавает как утка и крякает как утка", все равно есть крошечный минишанс на то, что это таки не утка.
Поэтому у ИИ со строгой детерменированностью и абсолютной логикой просто не будет шанса посадить никого. У него просто никогда не будет 100% доказательств.
Такое впечатление, что и вы вообще не слышите и не читаете, что вам говорят.
Как LLM поймет, что свидетели врут или правду говорят?
Как LLM оценит, насколько доказательства являются достоверными?
Как LLM оценит, если личная заинтересованность свидетелей, экспертов, органов внутренних дел посадить невиновного человека, насколько эта личная заинтересованность сильна, достаточна ли для того, чтобы некто по сути преступил закон и совершил оговор? Какова возможность влияния заинтересованного лица на экспертов, свидетелей?
Как LLM оценит, насколько человек на видео похож или не похож на предполагаемого приступника?
Как LLM оценит насколько у преступника был мотив совершения преступления, умысел?
смысл вами написанного. Что такое "условно"?
Условно: оговорённое каким-либо условием, имеющее силу, вступающее в действие при наличии каких-либо условий, обстоятельств, предпосылок.
В данном случае мы оговорили лишь тип преступления - ограбление, но наказание за "ограбление" может быть разным, в зависимости от условий его проведения, обстоятельств при которых оно произошло, предпосылок к нему.
Почему "ограбление" одно, а действий три?
Каких "действий"? Наказания? А в чем проблема? Почему вдруг нельзя "год в колонии и штраф 200р" или "штраф 200р и запрет на занимание должностей"?
Не уверен, что вы привели какие-то "контраргументы" упомянутому мной "телефонному праву" и обычному произволу,
Не ставили это своей целью и не приводили. Реальное равноправие в реальной жизни это утопия, а обсуждать утопию смысла не видим.
" нельзя исключать вариант, когда это все большой заговор с целью посадить невиновного "
А значит наш текущий "суд" не только садит невиновных, вообще вся так называемая "правоохранительная система" убивает, а не "правоохраняет".То, что LLM не может сейчас выносить решения, это наша проблема спецификации этой стороны жизни общества
Вы себя с другой стороны системы не видите в принципе?
Вот допустим Вас отпинали ногами в переулке при 100 свидетелях под видеозапись. Вы подаете заявление, чтобы посадили нападающих. Но поскольку правоохранительная система должна правоохранять, а не убивать, то Вашим видеозаписям и свидетелям не верят, ведь возможно это Ваш большой заговор. Как-то так Вы видите себе "будущий суд"?
Вы не понимаете, что вы свидетельствуете именно против общества,
Отличная фраза, подумайте над ней в контексте защиты точки зрения о том, что в правовом поле должны быть факты, а не заведомо голословные утверждения.
Да вы легист (в китайском смысле). Мнение о том, что закон выше морали, ещё 2000 лет назад было повсеместно признано устаревшим. Один деятель с Ближнего Востока на эту тему много проповедовал, потом был осуждён по действовавшим правовым нормам.
Проще говоря, вы как-то долго и кружным путём аргументируете иудин грех.
Вот только должное - ака логика, и сущее - ака то, что есть в вещном мире, пересекаются между собой почти никак. Единственное что их связывает - это то самое внутреннее убеждение действующего. То, что используя определённые приёмы мышления, вроде позитивистской методологии, можно несколько уменьшить влияние этого внутреннего убеждения, сути этого факта никак не меняет.
Ну, хотя бы потому что в конце любой логической цепочки всё равно стоит Вася, который своим волюнтаристским решением утверждает: "Я считаю, исходя из доступных мне фактов, что из всех возможных картин реальности, верной является эта и именно эта."
"В этом LLM нам не помощник. "
Как раз в этом то ЛЛМ уже давно стал мастером и широко используется. Валы шуток про переговоры между людьми через ЛЛМ, уже давно всем надоели и просто стали привычными.
Абсолютно логические решения.
Шершавый кабан, выдыхай!
Имбуешь дед
генерализованные и науке не сильно помогут и даже наоборот отправляют пул работ наукообразным слопом, а специализированные были ещё до хайпа llm.
Поможет генерить видео с бомбардило крокодило и тралалело тралала, а это поважнее будет.
Как минимум не в прямую, да. Скажем в отрасли торговли, по крайней мере в России, есть куча людей, которые занимаются всякой хернёй, которых с лёгкостью заменит простенький ЭДО. Но есть проьлема, этих компаний куча, в них работает человек по сто, и они не в состоянии позволить себе отдел айти, который будет поддерживать этот эдо. А вот нейронка такое напишет на раз. Это ощутимо так бафнет производительность труда.
И то и другое и третье.... Зачем ограничивать сферу примменения :) а то напомнило: а робот может написать симфонию
Про Obsidian advanced есть интересный подкаст. Похоже на способ проапгрейдить память и долгосрочную и активную. Я не помню, делают ли они акцент на применимости этого для достижения 1000x, но с первовго взгляда, не.
Прибыли нет, инвесторы хотят денег, пургогенератор на максимум
Щука! Не верьте заявлениям руководства компаний! Там такие конфликты интересов, что даже приближаться опасно! Мы делали для заказчика (топ-20 на рынке) автономную агентную систему для решения его специфических задач. И она, скажем так - не то чтобы совсем не работала, но мне было за нее периодически стыдно. И вот под конец года приходит к нам наше руководство, и руководство заказчика - и ультимативно требует записать видео - как наша система успешно все решает. И мы что-то вякаем про то, что LLM там ошибается, тут ошибается - и до конца конвейер агентов обычно не доходит....
"Но оно же не каждый раз ошибается!" - говорит нам мудрое начальство - "Вот вы разбейте процесс на шаги, и запускайте каждый шаг несколько раз пока не сработает, а как сработает - пишите видеоотчет. Потом отдайте файлы в маркетинг, они знают что с этим делать...". И, блдж, это в присутствии заказчика и при его полной поддержке! Сказать что я офигел - это ничего не сказать...
Шок!! Продавец лопат рекламирует лопату!
Как футуролог футурологам поделюсь беспокойством - ИИ угрожает не только программистов оставить без работы. А буквально стирает ценность всех кто мнит или является интеллектуалом, профессионалом, людей с высоким iq, гуманистов и прочих прочих.
Что же будет ценным? А то что ии не сделает пока - фитоняши, тренера, культмассовики затейники и прочая активность которая считалась лабудой. Мощный ИИ сделает лабудой всю интеллектуальную прослойку населения.
Самые интеллектуальные конечно приспособятся и станут ещё более редкими людьми.
Не мерю это всё по себе - я изворотливая посредственность. Хотя добрый чат гпт по итогам года отнёс меня к 1 проценту своих юзеров - дал надежду)
Дядя футуролог, вы питон хотя бы осилили?
Очевидно он его осилил, пересилил и задушил.
Все люди в мире делятся на две категории:
Те, кто считает, что ChatGPT кодит на порядок лучше их;
Те, кто считает, что ChatGPT кодит на порядок хуже их.
И первые, и вторые абсолютно правы.
Мы видим прорву статей вида «я не кодер, но ChatGPT позволяет писать мне код». Интересно, где же все статьи вида «я не водитель, но „Тесла“ позволяет мне ездить»?
Краткое изложение закона Даннинга-Крюгера: «Мало знающий не знает, чего он ещё не знает. Много знающий не знает, чего ещё он не знает.»
Или закон ошибочен или его изложение.
"Вот смотри, я нарисовал круг. А вот круг побольше, и его граница бальше. А вот ещё больший круг и охранять надо границу ещё больше. Однажды у вас .. -Что ты хочешь этим сказать, что у нас не хватит легионов?..." Карел Чапек "На смерть Архимеда". Примерно так же и со знанием: малый круг знаний - мала гравница непознанного, большой круг ..
В итоге, только дурак может сказать о себе "я знаю много", ибо граница непознанного - стремится к нулю. Чем больше круг знания, тем больше непознанного вокруг. А часть познанного .. упс, входит в противоречие с другими частями и .. вытесняется за границу познанного Сомнением.
Мудрец - тот кто внутри себя понимает смысл фразы: "Я знаю то, что .. ничего не знаю".
Примерно так же и со знанием: малый круг знаний — мала гравница непознанного,
..и тем больше явлений окружающего мира можно понять, объяснить и использовать в свою пользу. В какой‑то момент становится понятно, что «ну и ладно, что я не знаю, как устроены кварки и метагалактика — свою жизнь я очень даже неплохо организовал».
Оставив в стороне вопросы знания, посмотрим на пример с границей. Длина оной, как и число легионов для охраны, растет линейно от радиуса. А вот площадь, с которой собирают урожаи и набирают рекрутов - квадратично.
С душением питона кстати ИИ тоже пока не помогает. Простите.
То что ИИ обесценивает интеллектуальную работу это факт и ручной труд, который не может быть пока замен роботами, будет становиться более прибыльным. Так что все верно - снежный ком катится.
А что будет делать ручной труд (и вообще людишки как вид) когда ИИ изобретет дешевую и эффективную искусственную мышцу? Об следует думать уже сейчас, но как всегда дальновидность никто не включает
ИИ изобретет дешевую и эффективную искусственную мышцу?
Зачем же размениваться на мелочи?
когда ИИ изобретет дешевую и эффективную искусственную мышцу?
Зачем же изобретать. Можно из животных добывать. Или использовать прямо на месте ее роста. Тут, кстати, аж целых несколько миллиардов таких саморазмножающихся биородиов по шарику бегает. /s
Это не ручной будет «более», а интеллектуальный — «менее».
Может это не так уж и плохо? :)
Тут есть тонкий момент. ИИ реально автоматизирует часть интеллектуального труда, но это не про „обнуление интеллекта“, а про обнуление привычных ролей. Проценты и вся эта история с 1% - это вообще не про ум, а про паттерны использования и вовлеченность, людям просто нравится когда сложное упаковывают в ранг. Ценность смещается не в „фитоняш“, а в тех кто умеет ставить вопросы, собирать контекст и работать с неопределенностью. Интеллект никуда не делся, просто перестал быть декоративным.
Андрей Карпати написал в X, что впервые за карьеру чувствует себя настолько отстающим как программист.
Иллюзии рассеялись?
Забавно, что человек, который помог создать этот сдвиг, теперь честно признаёт, что сам не успевает за скоростью изменений. В этом как раз и есть ценность его слов
Это если он говорит искренне, а не разыгрывает спектакль ради рекламы.
В принципе IT-сфера развивалась стремительно и до распространения gen-AI. И программисты говорили что тяжело успевать за всеми изменениями.
И программисты говорили что тяжело успевать за всеми изменениями.
Тут мне кажется, что если понимать в старом смысле - оно может измениться.
Ведь почему так было?
Люди не могли поместить себе в голову весь шкаф документации по библиотекам и языку (точнее могли, но это очень медленно и утомительно), поэтому изобретали что-то новое, полегче, в чем лишнего нет(или не видно) и что что можно быстренько выучить. Потом это 'что-то' накапливало те возможности, что в прошлой итерации фреймворков и инструментов были и что выкинули. Далее цикл повторялся.
А вот с ИИ - как? Для него него 'быстренько выучить за пару вечеров' - вроде бы не бывает? А легче медленно и верно этот самый шкаф обучающих материалов в веса втолкать и после этого пользоваться уже всеми возможностями, что в известных инструментах есть.
А если кто-то решит изобрести новый инструмент или фреймворк - то как ИИ с таким справляется?
Я предвижу такой тренд как "ИИ-галлюционно-ориентированное проектирование ПО". Спрашиваю его, как отключить какую-то функцию в одной софтине - а это невозможно, и он не знает - ну и он начал, как всем знакомо, галлюцинировать, типа "зайдите в настройки, в раздел такой-то ..." когда не помогло - посоветовал зайди в базу данных, и там в таблице settings что-то подправить. Так вот, правило ИИГО проектирования: хороший софт должен быть таким, чтобы соответствовать галлюцинациям ИИ!
Такой скорости не было. Полгода назад я говорил что потолок ии - это формы на жаваскриптах клепать. Сегодня он мне тонну низкоуровневого кода на безопасность проверяет получше некоторых (и уж точно быстрее) серьезных программистов. Сейчас уже больше задачи не в недостатке его мощности, а как автор и говорит, в разработке правильного флоу и тулсетов.
Удивительно. всегда применял программирование как инструмент решения практических задач, за годы работы научился хорошим практикам, освоил пару стеков и спокойно применяю ллмки и как ассистента и как системный компонент. Что с этим дядей случилось, он себе лоботомию сделал и ему память отшибло? Или быть может перестал успевать за хайпожорством?
Деградацию переживает профессия, а не "рефакторинг". И что будет дальше, пока никто сказать не может.
Деградацию переживает профессия
Почему именно "деградацию", а не адаптацию или эволюцию? Или мутацию.
Профессия переживает деградацию с момента своего появления. Тем не менее, снижение порога вхождения произошло уже многократно с начального (когда-то) уровня "математик-программист" до современного вайб-кодинга. Как там было? "Докопались до дна, но тут снизу снова постучали". Процесс снижения порога вхождения, ничего больше. Теперь вот уже и не только кухарка, но вполне и железка способна программировать .. что с того? :)
LLM по моему опыту сейчас очень хорош для быстрого прототипирования.
1. Использую, когда надо написать скрипт для какого-нибудь мелкого анализа данных. Мелкого, потому что обычно это все не так хорошо расширяется и после пары-тройки итераций, лучше начать с нуля.
2. Пользуюсь, чтобы разобраться в незнакомой технологии. Если у системы хорошая документация, то обычно ИИ неплохо пишет пошаговый гайд для решения проблемы и куски кода, которые потом можно использовать как основу. Это в целом получается быстрее, чем самому копаться в доках.
3. Сделать простую HTML страницу со стилями и простой логикой - 5 минут и этого вполне хватит, чтобы оценить идею и потом спокойно либо писать самому, либо опять же используя ИИ как ассистента, но мелкими шагами.
> Один из разработчиков Claude Code поделился, что за последний месяц впервые не открывал IDE вообще — Claude Opus 4.5 написал около 200 пул-реквестов, каждую строчку.
Есть и такой опыт, буквально пару недель назад нужно было сделать, чтобы на Shopify сайте можно было выбрать дату и время доставки (все это конфигурировалось внутренним календарем и передавалось в заказ). По умолчанию shopify так не умеет, приложения сторонние либо кривые, либо платные. Потратил 2 дня и вместе с нейронкой все написал. С shopify до этого не работал, код в итоге "без слез не взглянешь", но оно работает и кроме меня туда лазить никто не будет. Считаю, что это успех.
В общем, нужно понимать, когда это работает и с какими ограничениями. Говорить "да вы видели, что он там генерит?!" считаю странным, я и не такое видел и от человеков. Как и считаю странным говорить "можно больше вообще не писать самому". Можно, если для себя. Истина посередине.
Вот в разборе с технологией он не совсем хорош. У меня было так что он мне кидал советы вперемешку с новым и старым стилем использования пакета, и хоть он и писал за меня (я думал, он за меня напишет, и я бесплатно еще и выучу, на примере хорошего кода) - в голове получилась каша. Код был рабочий, но когда полезли проблемы дизайна, я с этой кашей не мог их легко разрулить и пришлось разбираться все-таки.
Пока что он хорош для мелких-изолированных задач, которые мы делаем нелюбя. Мне, например, хотелось удобную утилиту чтобы мои типичные операции с AWS я делал бы из CLI (и не через их загроможденный неюзабельный интерфейс, а проще) - и бинго - он отлично справился, написал это, пользуюсь.
Да, бывают проколы, но методом проб и ошибок пока дошел до промпта с запросом "create comprehensive guide with step-by-step actions for ..." и далее, что вы хотите сделать и с каким сервисом и библиотекой. Не скажу, что всегда получается 100% рабочий гайд, но по крайней мере эти самые step-by-step помогают выловить расхождения и попросить поправить/актуализировать.
Из недавнего - нужна была интеграция с Hubspot, который я в глаза не видел. Задача не очень сложная: взять данные из бд и использовать их как опции для выпадающего списка custom field в одной из сущностей. Гайд был сделан, где ИИ предлагал использовать private app. Когда я дошел до шага, где эти private app настраиваются в интерфейсе Hubspot, оказалось, что они устарели буквально месяц назад. Просто попросил переделать гайд и использовать новый Developer platform и это помогло. Агент погуглил инфу и новый гайд был вполне рабочий.
Но это, конечно, не закон. Бывают ситуации, когда какая-то каша генерируется.
просто когда человек программирует это скучно и не понятно для непрограммистов, а ИИ прикольная и понятная штука, как будто позволяющая обходить этих человеков, которые то ли сорвали дедлайн из-за лени, то ли действительно нужно было больше времени на проект. Так и хочется поверить в чудодейственную кнопку, которая решает все проблемы, вот и находятся продавцы "волшебного решения". А быстрое развитие технологий был всегда, только не надо теперь рассказывать что эти недо-ИИ всё изменили
Ну, то что начинающие специалисты сами код не пишут - это действительно так. Там тупо копипаст из нейросети.
И это в общем-то работает, но без понимания как - потом вылезают баги.
(Но для того чтобы зачёт в универе получить - этого достаточно)
Всё же Карпаты, имя-то явно от названия гор произошло.
Завуалированная и незавуалированная реклама ИИ сейчас просто везде. Будь я продавцом лопат, то я бы тоже всем рассказывал, что их неприменение это skill issue, а то, что она выдает говнокод - так это вы неправильно пользуетесь: вон везде продуктивность растет на 10х у остальных, только с вами что-то не так, но вы не переживайте, я тоже уже в отстающих. Так что не переживайте, главное пользуйтесь...
За все время работы в IT (это уже больше 30 лет), то только в случае написания КРИТИЧЕСКОГО кода: 70% времени уходило на речечь проблемы, 20% на написание кода, 10% тестирование и фикс багов. Если подходить к ИИ инструментам с практической точки зрения, то ресеч ИИ ускоряет, написание кода - практически все забирает (НО ПРИ ПРАВИЛЬНЫХ промтах - если ты не провел предварительный ресечь - "правильных" промтов не будет), тестирование практически все остается. Бизнес с КРИТИЧЕСКИМ кодом - это большие компании. Однако малому бизнесу важна скорость, иногда она настолько важна, что от нее зависит весь бизнес - с этим тоже сталкивался и тут не важно что код будет уровня джуна - главное вовремя - то что Вы называете "набросками кода" - в этом случае сразу идет в продакшн, и вот конкретно с применением ИИ В этом кейсе я не сталкивался - агенты на сегодня еще не зрелые.
Для меня всё равно программисты останутся лучшими. С наступающим новым годом всех.
Андрей Карпати: впервые чувствую себя настолько отстающим как программист