Comments 43
Спасибо за статью - особенно за смещение фокуса с технологических паттернов на человеческие отношения. Частично прямо с языка сняли.
Позволю себе развить вашу мысль о власти. Вы спрашиваете: "Способен ли ИИ изменить что-то в отношениях между людьми? Променяет ли кто-то власть над людьми на власть над машинами?"
Мне кажется, здесь кроется не дихотомия, а эволюция формы власти. Исторически власть строилась больше на прямом контроле: над ресурсами, над производством, над людьми. Но ИИ предлагает соблазнительную альтернативу - власть через предсказание и оптимизацию.
Тот, кто контролирует алгоритмы принятия решений (от кредитного скоринга до подбора и генерации контента), не «отказывается» от власти над людьми - он получает более тонкий, масштабируемый и, что важно, делегированный инструмент влияния. Люди продолжают "принимать решения", но в рамках архитектур, спроектированных другими. Можно додумать даже какую-то аналогию с эзотерикой. Только ИИ верит побольше людей, чем картам таро.
Это прямо наводит на следующий классический вопрос:
Если ИИ становится посредником в отношениях власти, то кто и как контролирует самого посредника?
Это в конечном счете уже не технический и не даже управленческий вопрос - это вопрос политической философии цифровой эпохи. И лично я скептик в данном вопросе - кроме дальнейшей централизации и сопутствующих проблем, реалистичного пути не вижу. Но всякое бывает в жизни, может я что-то упускаю
способен ли ИИ изменить что-то в отношениях между людьми ...
возможно способен, и не в лучшую сторону, например как эффективное средство влияния, типа soft power, к сожалению люди имеют особенность использовать как оружие все что попадет в руки, от палки и камня, до химии и электроники
Небольшой нюанс - Искусственный Интелект не существует. Есть зоопарк алгоритмов, относительно успешных в определенных областях.
И значимость, опасность этих алгоритмов преувеличена в силу ряда факторов - эффектность, коммерческая подоплека и прочее.
Любая новая технология меняет мир - колесо, электричество, смартфоны и атомная бомба.
В условиях развитой письменности новые технологии рождают дискуссии.
Что произойдет далее - можно только гадать. Те кто угадал - назначаются пророками. Остальных - забывают.
Блокчейн, электромобили, атомная энергетика, зеленые технологии , электричество - поищите что писали об этом в свое время. Сравните с реальностью.
"Современные технологии позволяют практически любому написать, например, статью на Хабре". Не согласен. Пробовал на Хабре статью запостить на интересующую меня тему. Сгенерила мне её DeepSeek. И картинки к ней тоже с помощью ИИ создал. Немного подправив отправил на Хабр и её не приняли, сославшись на то, что статья очень похожа на ИИ. Так что фильтры есть.
Хороший замах, прям очень. Тема очень интересная. А вот реализация, на мой взгляд подкачала, тема так и не раскрыта. Является ли нынешний переход чем-то принципиально новым, доселе небывалым или нет? Опять же - почему?
То... что всё развивается по спирали - верно, но ничего особенно так и не проясняет.
Поясню, например, свой подход к этой теме, можно назвать его условно "историческим".
Итак, возьмем период 1920...30 гг. ХХ века как проводник, точка входа в.. и источник неких маркеров для всего ХХ века. (В уме держим аналогию, что сейчас тот же период, но только для ХХI века, т.е. многие определяющие будущее признаки, технологии и т.д. уже проявлены и существуют, трудность только в том, что их надо распознать, ну и не отвергать всё новое скопом, а вычленять полезное и не реагировать на бесполезное).
Итого, в период 1920..30 - уже имеется и вполне широко: ДВС, электричество, телефон, радио, танки, авиация... Чего ЕЩЕ нет в этот период: ракет, реактивного движения ну и, само собой, атомной энергии... в виде АЭС и бомб.
Что есть, но, пользуясь послезнанием, не будет определяющим в ХХ веке: например, дирижабли.
Ну и необходимая ремарка: конечно, бипланы 20-х годов мало похожи на современные нам самолеты, но тем не менее, принципы остаются абсолютно те же. То же касается и радиосвязи, телефонии и проч.
Ну и ИИ в виде известных нам нейронок, перед нами встает задача распознавания, что это? Это своего рода "бипланы", которые совсем скоро превратятся в лайнеры из титана и алюминия... Или это "дирижабли", красивые и поражающие воображения, но как технология, которая не будет определять текущий век...
Ответа на прям сейчас у меня нет, надо думать.
Хороший замах, прям очень. Тема очень интересная. А вот реализация, на мой взгляд подкачала, тема так и не раскрыта. Является ли нынешний переход чем-то принципиально новым, доселе небывалым или нет? Опять же - почему?
вот здесь вот: Недостатки искусственного интеллекта: ... Кому нужен божественный ИИ - я еще на родственную (как минимум) тему писал. Может что-то все таки получилось раскрыть или может будет просто интересно. Хочется надеяться что все же не зря писал.
да, я читал это, спасибо и даже плюсик поставил, как оказалось
Но там больше общие вопросы поднимаются, в целом правильные, но.. Как бы это сказать, общие рассуждения они и есть общие... слишком круглые, слишком правильные, не к чему прицепиться, нет повода для дискуссии. Хотя... вот в части прозрачности, например. У меня пока противоположное мнение. Прозрачность или "цепочка рассуждений" - это одно и то же? Мне кажется - нет.
Мой опыт с deepseek, как кажется, противоречит вашему. Цепь рассуждений там изначально есть. Первое время это умиляет и нравится. Затем мне это быстро надоело и я попросил нейронку это отключить. ИИ согласился! Но все осталось по-прежнему, "цепочка рассуждений" была в каждом, каждом мать-его ответе! Я указал ИИ на это и еще раз попросил... и ИИ снова согласился. Но ничего не изменилось! Н-и-че-го! Меня это выбесило и я стал ругаться. Ругаться с ИИ хахаха... но быстро остыл, в конце концов, из нас двоих умнее должен быть я.
А по факту? По факту ИИ продолжает делать так как делает, а мне продолжает это не нравиться, но приходится мириться с этим. Но зародилось ощущение, именно ощущение, что прозрачность не равно "цепочка рассуждений".
Потому что прозрачность - это что? Это не знание человеком всех подробностей всех движений всего механизма, отнюдь. Мне кажется, что прозрачность - это скорее ПРЕДСКАЗУЕМОСТЬ... Ну как если мы нажимаем крестик в правом верхнем углу окна - оно закрывается. Это предсказуемость поведения. Сделал это - произошло это (что ожидалось). И из цепочки таких действий, одно за одним, одно за одним... и появляется то, что ощущается как ПРОЗРАЧНОСТЬ.
А не "цепочка рассуждений". Она как бы есть.. но правда ли то, что там написано? Особенно, когда ИИ тебе в глаза говорит, что отключил, а ты своими глазами видишь - что нет!
Какая же это прозрачность? это какой-то ... обман, позор... что угодно, но не прозрачность
PS если хотите, я могу перенести это ответ туда..
Цепь рассуждений там изначально есть. Первое время это умиляет и нравится. Затем мне это быстро надоело и я попросил нейронку это отключить.
оно начинает всегда с того что рассказывает вам как она поняла ваш вопрос, без этого с достаточно большой вероятностью, не будет понятно что же она вам ответила, насколько я понимаю. Ну и ответ должен логически развиваться, как это можно отключить? Она излагает основания и логику которая приводит к выводам, и собственно сами выводы. Прозрачность заключается в том что вы можете проследить откуда что взялось, но гарантии что логика найдена правильная или она правильно применена конечно нет, и вряд ли такое будет - это вероятностные алгоритмы они считают вероятности и выдают версию для которой посчитана максимальная вероятность, точного ответа на любой вопрос нет по определению.
Я спрашивал по очень специальным вопросам, в которых я достаточно хорошо ориентируюсь, но всех нюансов не помню, например, и только наличие этой логики помогает мне понять насколько ее ответ корректный. А вообще, чтобы выяснить что-то очень специальное надо задавать вопросы в разной форме, с разных сторон об одном и том же и сопоставлять ответы и добиться чтобы они сошлись, чтобы появилось объемное понимание и чтобы оно было не противоречивым. С точки зрения математики я добавляю еще одну фазу на которой ищу максимальную вероятность совпадения между ее ответами и тем что знаю сам. И без того чтобы что-то знать самому (и желательно побольше) - это все равно не работает.
Ну и ответ должен логически развиваться, как это можно отключить? Она излагает основания и логику которая приводит к выводам, и собственно сами выводы.
Не обязательно должен же я это видеть (а по факту должен), например, я задам классический вопрос, 2х2 = ? И зачем мне цепочка его рассуждений, если мне нужен именно ответ? Кстати, попробовал, оказалось, что использовать нейронку как калькулятор довольно уныло... Но дело то не в этом абсолютно, в вашем случае нужна цепочка, мне, например, нет... Для меня сюр в другом, в том что ИИ что-то утверждает про себя... но по факту этого не делает. Мой инженерный калькулятор не позволяет себе такого. И я бы очень удивился такому его поведению и скорее всего, перестал бы им пользоваться, понимаете. Получается, что если мне хочется получить ответ, обязательно точный и желательно быстрый - то мне не нужен ИИ, мне нужен калькулятор? Хм... Ну ладно, вижу тут мы не сойдемся.
Зато у меня появился ещё один вопрос к той вашей статье... его много кто уже озвучивал, но думаю, его стоит добавить к тем вашим пунктам.
Сформулировать его как-то так... проблема рекурсии исходных данных при обучении ИИ
Исходно все модели обучались на человеческих текстах и человеческих (т.е. сделанных человеком) изображениях, фото, рисунках и т.д... Но! Уже сейчас инет завален сгенерированными ИИ изображениями. И это ужасно, скажу вам вполне уверенно. Знающие люди говорят, что с музыкой происходит тоже самое... И следующее поколение ИИ будет обучаться уже на нынешнем массиве и снова выталкивать из себя результаты в сеть. И процент реальных текстов будет неуклонно падать. А учитывая скорость генерации - процесс, видимо, экспоненциальный... Тут видится серьезная проблема, насколько быстро мир ИИ разойдется с привычным нам миром людей?
Интуитивно кажется, что очень (очень) быстро. Подвопрос: нравится ли нам (в целом) продукт, производимый ИИ? (мой ответ в части фото - однозначно нет), а если нет - то что делать? напрашивается ответ, что делать с этим уже что-то банально поздно
Что такое API знаете?
Любая власть стремится к абсолюту, только противодействие может её в чем-то ограничить. Влияние LLM, на мой взгляд, схоже с появлением письменности. Не в плане масштаба, а то как изменится отношение между властью и народом.
На первом этапе они усиливают влияние государства и корпораций. Обучение крупных моделей доступно не многим, они получают возможность внедрять туда свою цензуру. Формировать общественное мнение. Делать мощные модели для своих нужд. Это схоже с этапом, когда письменность была монополизирована религией и властью, а народ мог только слушать.
Но так же как и с письменностью, долгосрочно это приведет к ослаблению власти. Так как повысит уровень знаний и возможностей одного человека.
Ещё можно провести связь с социальными сетями и сотовыми телефонами. Они разрушают монополию власти на первоисточник информации и позволяют быстро организоваться. LLM в руках государства хороший инструмент чтобы это контролировать не вызывая негатива, как происходит сейчас. Взамен блокировок всего и вся, LLM могли бы модерировать контент поумнее и создавать иллюзию свободы.
Я ошибаюсь, или вы придаёте власти и государству какое-то свойство, выделяющее его из общества? Мне казалось, что государство - это форма организации общества, присущее ему внутреннее свойство выражающее общественные, прежде всего хозяйственные отношения.
Очень интересно, как можно прийти к выводу, что "любая власть стремится к абсолюту"? Не понятно даже то, что подразумевается под властью и абсолютом.
Власть и абсолют имеют общепризнанное значение - возможность навязывать свою волю и делать это неограниченно. Это и выделяет власть государства, корпораций, олигархов из общества. Была это первоначально самоорганизация или навязывание извне, значения не имеет. Как только появляется возможность взамен диалога использовать силу - общественные цели начинают проигрывать личным. Власть тратит ваши деньги и ваши жизни в первую очередь ради поддержания своей власти. Речь не про Россию сегодня, а в принципе, всегда и везде.
Власть - понятие очень расплывчатое, в зависимости от контекста имеющее широких спектр значений. Абсолютная же власть как неограниченная - просто бессмыслица. Власть всегда чем-то ограничена. Есть понятие абсолютизма и иногда говорят, что это абсолютная власть монарха - но понятно, что это нельзя понимать буквально.
И ещё вопрос: вы пишете, что власть - это способность, а потом "власть тратит деньги и жизни". Способность не может быть субъектом, на сколько я понимаю.
Что является ограничителем?
Способность не может быть субъектом, на сколько я понимаю
Чего?
Что является ограничителем?
физические законы, социальные законы, юридические законы, наконец воображение
Спасиобность не может быть субъектом - не может действовать, совершать поступки, целеполагать, реагировать. Она может быть только свойством другого объекта или субъекта.
Корпорации и олигархов ограничивают законы, но во-первых они могут их игнорировать явно там где не видят угрозы, как мы видим по поведению того же Телеграма и Гугла. Могут игнорировать тайно, просто потому что могут, ведя пропоганду или собирая данные пользователей в своих целях. Могут откупаться и лоббировать законы под себя - привет Rutube и Max или Tesla. Государство, плюс к этому имеет неограниченные возможности по изменению законов.
Законы физики и воображение не ограничения. Если народ нагнули ровно на столько, чтобы он смог выжить - это и есть абсолют.
Я вас понял. Точнее ваше понимание абсолюта, которое далеко не абсолютно. Ок.
Я считаю вредной ошибкой отделять государство от народа. Это фактически выводить и персонифицировать часть общества. Так вы не поймёте суть происходящего и наделаете ошибок в интерпретации реальности.
Государство, власть, классы, народ - это всё и есть в совокупности общество, и это всё нельзя отделить друг от друга, не скатившись в метафизику.
Грубо говоря, это не народ нагнули, а народ нагнул и народ же прогнулся. Пока это не станет базой рассуждений, любая попытка что-то исправить будет приводить к той же ситуации, с которой всё начиналось.
Если вас интересует аргументированный альтернативный взгляд, если вы готовы анализировать, а не просто вешать ярлыки, приглашаю вас порассуждать о том что мы имеем
К сожалению, я особого аргументированного рассуждения не увидел. Автор задает вопросы. Но не выражает свою позицию, лишь сомнения. По идее, должен быть вопрос (а судя по заголовку их несколько), ответ (с аргументами) и приглашение обсуждению (альтернативный взгляд). Сейчас мы имеем рассуждения с вопросительной интонацией.
Собственно, заголовок статьи не отражает ее контента.
Представьте себе. Вы капиталист и "имеете власть распоряжаться людьми". А я робовладелец. Я не распоряжаюсь людьми. Зато, я умею контролировать ИИ. Вы делаете "пирожки" и продаете их за 10 рублей. Я делаю точно такие же, но продаю за 5 рублей. Расстанетесь ли со своей властью над людьми? Нет, конечно. Вы просто разоритесь и уйдете с рынка, а я останусь
ха, ну это слишком упрощенный поход. Вы видите свое преимущество и уверены в...
Но есть же вариант, что "капиталист" пойдет на вас войной... в ее ходе пирожки вообще подорожают до 15, а вы вынуждены будете пойти к нему в найм ..
А вы сферический робовладелец в вакууме? Судя по описанию вы обычный капиталист, который дошёл наконец до огромных значений производительности труда, уже решил, что ему не нужен труд человека, чтобы зарабатывать, но ещё не подумал, кто будет покупать его пирожки, если все капиталисты всех уволят и перестанут всем платить зарплату.
Ничего страшного не произойдет. Наемный труд это сомнительная социальная практика последних двух-трех сотен лет. Раньше без нее жили, и в будущем обойдутся
Ничего страшного не произойдет.
Не очень конкретизированный ответ на конкретный вопрос: кто будет покупать пирожки и на какие деньги?
Наемный труд это сомнительная социальная практика последних двух-трех сотен лет.
Ну на этой сомнительной практике слишком много было построено, чтобы вот так просто её отбросить.
Раньше без нее жили, и в будущем обойдутся
В ваших размышлениях фигурируют капиталисты и товарно-денежные отношения. Вы как при современном уровне хозяства преставляете себе эти явления без наёмного труда?
Люди будут покупать пирожки на свои деньги. Так же, как это было 1000 лет назад.
Я вам попытаюсь в двух словах объяснить разницу между капиталистом и робовладельцем.
Капиталист, чтобы выжить должен продавать много. Не важно, нужно людям это или нет. Не нужно? Не беда, задействуем маркетинг. Не он для людей, а люди для него.
А у робовладельца таких проблем нет. Он точку безубыточности проходит с самого первого дня. Робовладелец может позволить себе роскошь работать на благо людей
А можно конкретнее, пожалуйста?
Люди будут покупать пирожки на свои деньги.
Откуда они эти деньги возьмут? Или если они у них были изначально, откуда они их возьмут, кодгда все истратят?
Капиталист, чтобы выжить должен продавать много. Не важно, нужно людям это или нет.
Эм... как бы это зависит от того, какой товар производит капиталист. Некоторые товары крайне нужны людям. А некоторые товары крайне нужны капиталистам, которые производят товары, которые крайне нужны людям. Опять же, можно поконкретнее?
А у робовладельца таких проблем нет. Он точку безубыточности проходит с самого первого дня.
Опять какой-то сферический робовладелец в вакууме. Откуда он робота взял? Как этот робот функционирует? Кто его построил, на каких условиях продал, как и сколько стоит его содержать? И наконец, на что робовладелец будет жить, если у него нет проблемы сбыта продукции?
Откуда люди брали деньги 1000 лет назад, когда наемного труда не было?
Дело в количестве. Допустим людям крайне нужно 10 штук. Но капиталист не выживет, продавая 10, ему нужно продать 100. А робовладелец выживет продавая ровно столько, сколько нужно людям
Робовладелец робота сам сделал. Физика тут вторична. Первичны навыки контролирования ИИ
Откуда люди брали деньги 1000 лет назад, когда наемного труда не было?
1000 лет назад - Это 1026 год, средневековье, феодальные отношения. Основа производства - сельское хозяйство, феодальные отношения подразумевают малую товарность - большинство необходимых продуктов большинство населения добывает для себя само своими силами, а излишки распределяются по правящей феодальной верхушке. Наёмный труд составляет крайне незначительную часть производства, сконцентрирован в городах. Даже товарное ремесленое производство обходится своими силами и наёмный труд не развит. Но деньги беруться исключительно из товарных отношений. Чтобы их добыть нужно продать товар или услугу, товар либо нужно произвести самому, либо изъять у другого производителя силой или принуждением.
Современная капиталистическая экономика устроена иначе. Большинство населения сейчас не способно необходимые продукты произвести самостоятельно и вынуждено вступает в товарные отношения с производителями. На товарные отношения нужны денежные средства, а получить их БОЛЬШИНСТВО населения может только продав свой труд.
Отсюда возвращаемся к поросу: ОТКУДА ДЕНЬГИ?
Дело в количестве. Допустим людям крайне нужно 10 штук. Но капиталист не выживет, продавая 10, ему нужно продать 100.
Капиталист просто будет продавать 10 в 10 же раз дороже.
Робовладелец робота сам сделал. Физика тут вторична. Первичны навыки контролирования ИИ
Это как сам сделал? Как можно сделать робота самому? Или если сделать самому - то какого робота?
Каждый сам ведёт хозяйство и продает не труд, а продукт или услугу.
Придет другой капиталист и предложить людям в 10 раз дешевле
Обозначил границы ИИ, создал "обвес" по границам
Каждый сам ведёт хозяйство и продает не труд, а продукт или услугу.
А, простите, зачем он продукт и услугу продаёт?
Придет другой капиталист и предложить людям в 10 раз дешевле
А как этот пришедший выживет, если нужно продавать 100?
Обозначил границы ИИ, создал "обвес" по границам
А как из этого получится продукт, который можно продать?
Чтобы получить деньги
Вот тут и спрятался главный порок капитализма. Хочешь победить конкурентов, придумай, как впендюрить людям ненужное. По научному это называют перепроизводством.
Тут у нас лёгкая болтовня, а не мастер-класс
Чтобы получить деньги
А зачем ему деньги?
Хочешь победить конкурентов, придумай, как впендюрить людям ненужное
Ну придумает он, это подхватят другие. В итоге один капиталист сменит другого на время, но в принципе ничего не поменяется. Вы просто изначально противопоставили капиталиста и робовладельца, а разницу не обрисовали. Хотя очевидно, что разницы нет: вы не можете описать этого гипотетического робовладельца, который не является капиталистом. Управлять ИИ ещё не достаточно, чтобы получить продукт. Нужны ресурсы, платформа для работы ИИ. А это всё и есть капитал, а робовладелец привращается в капиталиста, не снимая штанов.
Капитал это не деньги и не основные средства. Капитал это наёмный труд.
Попрошу автора прояснить, что он подразумевает под "нормальной жизнью" в контексте статьи. Дело в том, что у меня сложилось впечатления, что нормальная жизнь противопоставляется попыткам спрогназировать и приготовится к будущим проблемам, расплнировать поведение, наметить цели.
Если это так, то автор призывает ограничится реакцией на изменения, что очевидно с большей вероятностью приведёт к катастрофе. Напомню, что не айсберг потопил Титаник, а неверные действия рулевого, при встрече с ним.
Моглашусь с одним из комментаторов в том, что, раскритиковав развешивание ярлыков, автор тут же развесил свои, не привнеся почти никакой конкретики.
что он подразумевает под "нормальной жизнью" в контексте статьи.
это когда проблемы не ожидаются, потому что жизнь строится так чтобы их обходить и/или как-то изподволь решать. Например проблема землятресений решается определенным качеством построек. Хотя, и видимо к сожалению, нельзя решить проблему падающего на голову метеорита, или попадания в ваш летящий самолет молнии, например, но готовиться к такой проблеме лично я, например, не считаю нужным.
Как говорил один из моих любимых авторов словами Воланда: "Проблема не в том что человек смертен, проблема в том что человек внезапно смертен." По моему если на такой проблеме внезапности сосредоточиться, ничего хорошего все равно не получится.
Автор, ознакомьтесь с марксизмом - ленинизмом. Капитал читать не обязательно, можно начать с учебника Политической экономии Островитянова и других.
Далее - основные работы Ленина и Энгельса. И только потом Капитал, ибо он тяжело читается.
Тогда идеалистических мыслей, выраженных в статье больше не будет.
Люблю запах ереси Хоруса по утрам...
Благодетели, значица, хотят привести человечество к благу, а Вы, значица, сомневаетесь в них
Пожалуй, подпишусь на Вас)))
Мифы о технологических революциях