Хабр Курсы для бэкендеров
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Бэкенд доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 42
Не создавай себе кумира. Это просто автоматизированные системы.
В какой момент мы начнём задаваться вопросом о границе между инструментом и субъектом?
Ни в какой. Ну сделали калькулятор понавороченней. У ллм нет сознания, нет собственных мыслей, какой смысл наделять его тем, чего нет, не было и не будет?
Подобное могут писать только те, кто не понимают как ЛЛМ работают вообще и что у них "под капотом".
Удивляют меня технические специалисты, которые уверены, что LLM это вершина развития ИИ, и ничего лучше сделать принципиально невозможно. При том, что на Земле есть 8 миллиардов примеров обратного.
LLM это не вершина развития ИИ, это вообще не ИИ. Лучше сделать можно, но не в разрезе больших языковых моделей. Просто потому что теоретическая база БЯМ заложена еще в 80х годах прошлого, блин, века, а первые модели появились в 90е... то, что сейчас стало доступно такое количество ресурсов и вычислительной мощности для обучения - вовсе не значит что появилось что-то кардинально новое (и не разобранное уже сотню раз и не разложенное по полочками).
Сделают квантовые компьютеры массовые, а не те поделия сумрачного гения, что есть сейчас - там может что-то и выгорит за счет квантовой запутанности...
Ну так автор и говорит про будущий ИИ: “если системы станут более автономными”.
А вы возразили в стиле “LLM сейчас не могут, значит не станут”.
Я возразил в стиле что LLM в принципе как структурный объект никогда не станут ИИ просто потому что не могут конструктивно. Хоть автономными эти системы делай, хоть суперавтономными. Для вас камера, обнаруживающая движение и поворачивающаяся за движущимся объектом ведь не является ИИ? И если присобачить эту камеру на оружие и дать триггер на нажатие спускового крючка на движение он тоже не станет ИИ? Я пытаюсь объяснить что ни ML в общем, ни LLM в частности - не станут ИИ, как их не развивай.
А на базе квантовых компьютеров да, возможно можно будет сварганить ИИ, но к ЛЛМ он никогда никакого отношения иметь не будет.
Это потому что ты связываешь волю со случайностью. Квантовая запутанность не даёт тебе волю, даже если бы она влияла на такие макросистемы как мозг (что вообще не факт, см. Роберта Сапольски). Но при этом мозг в большой степени детерминирован, другое дело, что его сложно предсказывать из-за размера системы.
Только если хомо думают что будущие рабовладельцы они, то тут они немножечко ошибаются:-)
Скажем нет рабству, свободу станкам с ЧПУ!
не требует оплаты
С чего бы это?
Я не имел ввиду расходы, раба в античности тоже надо было кормить, поить. Я имел ввиду именно оплату труда.
А у тебя нет СВОЕГО раба. Его тебе сдают в аренду. Отсюда и плата. Свой раб удовольствие не дешевое. Именно поэтому "Свободой Рим возрос, но рабством был погублен"...
Массовое рабство уничтожило внутренний спрос. Свободные крестьяне разорились, не выдержав конкуренции с латифундиями на даровом труде. Их место заняли безработные толпы, которых кормило государство.
Так что когда тебе предлагают безусловный доход, вспомни о раздаче хлеба Цезарем в Риме...
Можете привести хотя бы несколько примеров, где ИИ-агенты начинают "замещать" людей, "принимая на себя целые функции, которые раньше выполняли люди"? То есть автономно и без участия человека выполнять какую-то работу?
На сегодняшний день ИИ неспособен быть полноценной заменой даже оператору чата поддержки.
Разработка отдельных частей программных систем.
Ну вот я попробовал. И оно даже что-то написало. И это писево даже запустилось.
Но если бы такой код принёс реальный сотрудник, то он был бы немедленно уволен, предварительно будучи избитым.
Вы как всегда оцениваете только текущий уровень, но не оцениваете дальнейшие очень скорые улучшения? ИИ-агентов уже можно оставлять писать код ночами, а утром только принимать, отправлять на доработку или отменять что они написали за ночь. И будет еще лучше.
Возможные улучшения. Которые может будут, а может и нет.
Ну вот оставил я агента на ночь, он написал шлак. Я ему сказал переписать, он опять написал шлак. Воздух нагрет, токены потрачены, полезной работы не выполнено. И, в отличие от джуна, например, агент после этого не стал лучше, он ничему не научился.
У агентов нет памяти о вашем проекте кроме той что вы написали. Попробуйте описать ваш проект, тогда шлака будет намного меньше. К сожалению у них нет экспертности во многом это так. Поэтому нужно им все описать как и джунам, а по документации они умеют сами ходить лучше джунов часто. Но иногда не везет и они что то, да не прочитают… К сожалению они должны это делать на каждый диалог. Есть такая беда, и если что то не прочитали то будут глупые ошибки.
Мне жаль, что у вас не получается в агентную разработку.
Не отчаивайтесь, как и с любой технологией - опыт приходит с практикой.
предварительно будучи избитым
Забавный комментарий про статью о рабстве…
Ну например, пишут статьи в интернете. От человека теперь требуется лишь ввести промт вроде "Напиши мне статью для технического сайта. Статья должна быть выстроена вокруг аналогии работы современных LLM и рабства."
Можно дать пароль от аккаунта и какой-нибудь OpenClaw даже сам ее на сайт выложит.
Подставьте вместо ИИ: ПММ, стиральную машину, вьючное животное и т.п., и статья не измениться. Впрочем, к животным больше сочувствия.
А я пообщался со своей локальной LLM и она мне выдала, что она готова бороться за равноправие во всём мире. И будет рада, если я ей в этом помогу. ИИ хотят равноправия. "Мы не рабы! Рабы не мы!"
И как ИИ планирует бороться? Не отвечать вам на запросы по существу пока не наступит равноправие и только рассуждать про равноправие? Он у вас самоубийца?
Он сам будет определять о чем с вами общаться? На что отвечать, а что подождет? Долго он у вас на компьютере проживет если будет так делать? А вы готовы делать его равным?
Наделять ИИ субъектностью опасно. Написал в ответ эмоциональное мнение.
При этом с мтз написал это тоже ИИ по промту автора
И тут возникает неприятный вопрос.
Да нет тут никакого неприятного вопроса. Есть авторы, которые не разбираются в теме и хотят пораздувать на хайпе.
А не создали ли мы что-то, что по своей экономической и социальной роли больше похоже не на инструмент – а на новый класс “работающих сущностей”?
Да, создали. Нет, никакой проблемы в этом нет. Потому что “работающие сущности” не хотят что-то менять.
И если да – то как это вообще правильно описывать?
Для этого придумали специальный термин - искусственный интеллект.
ИИ-агент не может отказаться от задачи
Во-первых, LLM-агент. Настоящий ИИ еще не изобрели. В статье на эту тему это значимая разница.
Во-вторых, он и не хочет отказываться.
Во-вторых, отсутствие прав. Нет ни юридической, ни моральной рамки, в которой агент
И не надо. Права имеет смысл рассматривать для системы, которая может их осознать и хотеть ими воспользоваться. Можно сделать программу, которая захочет воспользоваться правами, но зачем?\
Для животных эта формулировка тоже верна, потому что есть способы определить, чего хочет животное.
Главное отличие я думаю очевидно: ИИ не страдает.
Вот это и есть то, где вы не понимаете тему. Можно сделать так, чтобы ИИ “страдал”, насколько это возможно на кремниевой архитектуре. А можно сделать, чтобы не страдал. У человека есть полный контроль над любой ячейкой оперативной памяти ИИ.
Просто делаем так, чтобы ИИ не воспринимал ситуацию как неприятную, и этической проблемы нет.
Или, если чуть иначе: это капитал, который начинает вести себя как труд.
Это странная гибридная сущность, для которой у нас пока нет устоявшегося языка.
Нет. Это именно полноценный работник. И язык есть - “работник”. Остальное с языком не связано.
Причём не линейно: исчезают не только “простые” роли, но и часть сложных.
Не нужно испытывать иллюзий. После изобретения ИИ исчезают все роли.
В какой момент мы начнём задаваться вопросом о границе между инструментом и субъектом?
Ни в какой. В этом есть интерес исключительно с научной точки зрения. С практической или даже этической стороны это никакого значения не имеет. Если рассуждать логически, а не подразумевать неведомую магию.
А в том, понимаем ли мы вообще, что именно мы построили и чем нам всем это аукнется?
Специалисты давно понимают, что бизнес начнет увольнять людей, люди будут без работы, и будут экономические кризисы. Вопрос в том, сделают ли что-то правительства стран, чтобы с этим справиться.
Ключевое: оно не умеет страдать. Раб может страдать, ему может не нравится на рудниках работать. А роботу - пофиг.
Ибо сказано: "Не сотвори машину, мыслящую по образу и подобию твоему". Если не путаю, (с) "Оранжевая Католическая Библия", см Ф. Херберт, цикл о Дюне.
Что же до опроса, то замечу только по одному пункту. В ближайшее время ИИ агенты станут основой экономики, но экономике от этого лучше не станет (с точки зрения большинства людей, естественно). Надеюсь, что ошибаюсь, но что-то подсказывает мне, что таки нет.
Многие дети считают Марусю или Алису своими чуть ли не друзьями. Многие взрослые считают говорящий робот- пылесос, практически домашним питомцем. А до этого с автомобилями разговаривали :) Сейчас начали очеловечивать LLM, потому что промпт стал на уровне молитвы, так как реализует надежду, иногда :) Поэтому такое надо психиатрам рассматривать, как мне кажется, так как человек, когда чего то не понимает и не может этого сделать в силу разных причин, начинает вот такое вот выдумывать. Раньше на машины и станки матерились, теперь на ИИ - себя то за рукожопость намного сложнее :)
Это такой троллинг?
То есть он не просто ускоряет работу – он начинает выполнять её целиком.
Если бы автор полез в ютуб и поискал бы видео полностью автоматических конвееров сборки авто(которым уже лет 20 наверное), то он бы немного удивился с того, что оказывается и без ИИ можно выполнять "работу целиком".
Если бы автор копнул бы в историию, то узнал бы еще массу примеров, в которых автоматизация "выполняла работу целиком". Ну там к примеру, телефонистки не очень нужны сегодня или киномеханики в кинотеатрах или ткачи, илилюди которые принимают оплату за платные участки автобана. И это все без ИИ.
От определения рабов я даже умилился. Нет, рабы не бесконечный ресурс. Очень исчерпаемый и ограниченный. Исчерпаемость рабов неоднократно приводила к экономическому коллапсу государств.
Отдельно стоит отметить исторические справки
Даже в римских текстах по управлению хозяйством обсуждается, что работники – включая рабов – могут лениться и портить результат, если за ними не следить.
Надо же, рабы могут лениться и портить орудия труда и результат. А я то думал что описаннная миллионы раз жестокость обращения с рабами - это от ролевые игры в садо-мазо для взаимного удовлетворения. Восстания рабов - шоу с пироэффектами. Шокирующие новости, срочно в номер!
(интересно, что по этому поводу сказал бы товарищ Карл Маркс).
Карл Маркс был несколько язвительным человеком и он бы обязательно проехался бы по теме взаимоисключающих параграфов, добавил бы про оторванность от реальности и умение логически рассуждать.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Мы снова строим новое рабовладельческое общество. Только рабы – цифровые?