Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 32
Эх, я бы Де Сада вообще не стал называть писателем. Если попробовать прочесть его спокойно во взрослом возрасте
( спойлер - вы не сможете), замечаешь насколько это бездарный унылый косноязычный графоман, хайпанувший на запретной теме.
Действительно хорошим писателем задавшим канон психологического триллера по взаимоотношение заложника и маньяка имхо стал все таки Фаулз.
ЗЫ сорри за оффтоп
По сути он скорее важен как культовый феномен, чем как писатель в классическом смысле
А вы на французском читали? Может это переводчик «бездарный косноязычный» и далее по тексту?
Переводчик зачастую вывозит автора, взять, скажем, Воннегута. Я соглашусь, что де Сад уныл. Он еще только начал рассказ, а мне уже скучно. Зато не унылы Захер Мазох и Шарль Бодлер, например.
Спасибо, но я хочу читать автора а не переводчика. Перевод это очень сложная история баланса между красивой отсебятиной и буквальным следованием оригиналу без адаптации под другой язык. Поэтому сложно доверять мнению людей которые читают перевод и по нему составляют мнение о словарном запасе или таланте писателя, и то и другое всецело заслуга переводчика.
У Азимова серия Я-робот вся про психологию искуственного идиота, как он её себе представлял.
В основе - формализм.
В театральной версии терминатора 2 вырезано несколько сцен, в самой главной из которых Джон вскрывает голову т-800, достает «процессор» и переключает его в режим самообучения, который по умолчанию выключен. Именно поэтому киборг так резко начинает очеловечиваться и лучше понимать людей. В режиссерской версии есть еще несколько удаленных сцен раскрывающих детали сюдета.
Ну и пасхалка
«Когда была свободна русь, то три копейки стоил гусь»
Да, тоже подметил это. Притом что интересно - судя по диалогу у Т-800 из первой части самообучающий режим как раз таки был включен, ибо говорилось что скайнет их включает на миссии в одиночку, тут видно сопротивление накосячило и не включило)
Хотя я щас через чатджпт почекал, возможно я неправильно понял диалог и все наоборот - хотя кажется логично, что при связи со скайнетом большая автономность не нужна, а вот в одиночном режиме наоборот. Хз
Разве вырезана? Могу поклясться, что относительно недавно пересматривал - была сцена где Сара чуть молотком его чип в процессе этого действа не разбила.
Если это не то, то прошу прощения.
Эта тема - отличие машины от человека поднималась во многих учебниках по информатике.
И об этом не стоит забывать при составлении промптов для LLM. Большая часть "нейрослопа" появляется именно из-за "очеловечивания" машины, да и другие проблемы общения с ней тоже часто растут отсюда, в т.ч. психологические.
Если бы это было все на самом деле, то Т800 в первой части отправился бы на задание с тактическим ядерным зарядом на борту. Увидел цель - подрыв. Ну тогда сюжет закончился бы минут за 15.
В первой части робот не умел взрываться. Там кайл даже обоснуй о живой ткани привел, который в следующий же части похерили ради зрелищности. Потом ему добавили ядерный энергетический элемент, но это породило логическую дыру. Как в звездных войнах телепортацию внутрь другого объекта.
Вообще ученые Cyberdyne Systems не изобрели процессор Скайнета, они просто скопировали его с обломков. Получается что информация о процессоре появилась в нашей реальности в готовом виде, ее никто изначально не придумывал. Парадокс.
Мне поэтому никогда и не нравились сюжеты которые завязаны на тайм-тревелах. У терминатора бредовая завязка это да, но в остальном все очень вкусно, я буквально переоткрыл для себя первые две части когда уже стал программистом во взрослом возрасте
Никаких возражений, первые два терминатора буквально и литературно эпохальные фильмы.
Смотрим
Принцип самосогласованности Новикова
Возможно, это не первая итерация временной петли: сначала робрт и процессор были попроще, может быть даже первые обломки не сохранились вовсе, но ученые поняли, что разум возможен, сделали, прошло 100500 тыс лет и он усовершенствованный людьми восстал и отправил робота в прошлое. Но в этот раз обломки сохралились и люди на основе них создали сразу более совершенный вариант (может там даже инструкции были приложены). В этот раз ИИ взбунтовался раньше... и так далее петля затягивалась и вырождалась цикл за циклом пока не стала предельно короткой. А может это и не предел.
Да, без Т800 не было бы Т800. Ну, ок. Скайнет должен был понять,что Т800 провалился с устранением цели, но заложил фундамент для Скайнета. Т1000 можно было уже с бомбой посылать, а не вот это вот все. Более того, учитывая, что тот был множество раз на расстоянии вытянутой руки от цели, то там и обычной гранаты хватило бы. Думаю, ChatGPT уже сейчас справился бы лучше.
Это не по-ИИшному. Ведь нужно было бы убедиться, что цель уничтожена, а для этого терминатор должен был уцелеть после уничтожения цели.
К тому же, для гарантированного уничтожения цель пришлось бы обнять. А тогда можно было бы просто свернуть ей шею. "Тактический ядерный заряд" внутри робота был бы небольшим (там же нет места) и радиус поражения его тоже был бы небольшим. А "сверхпрочный" эндоостов терминатора еще бы уменьшил поражающую способность взрыва
Скайнет в терминаторах просто злой бог, типа ветхозаветного. или проклятие наложенное другими магами/колдунами ) Т-800 типа голем/носферату/злой джин. троп с временной петлей использовался в фенетези и фантастике повсюду - например в "драконах Перна". мне больше всего нравится его интерпретация в Хайнлайновском "All You Zombies". крч всего терминатора можно как фентази переснять )
лучшее что видела про ИИ как технологию (не ллм, а алгоритмы умеющие в РЛ) это Планета Падальщиков ) но там не про роботов вообще (хотя один там есть, да)
основная беда статьи - вы приписываете авторство и контроль над ИИ абстрактному "человечеству" ) и пляшете от того что вам-де создают "инструмент". но ИИ не задумывался как инструмент изначально ) Тьюринг не размышлял об ИИ как "инструмент с метриками полезности человеку". вы бы наверное и его в кринж записали бы и рекомендовали траву пойти потрогать наверное ) с чего вы взяли что всех, кто вкладывает жизни в эту технологию, вообще интересует "полезность человеку"? я говорю не о тех "технарях" кто в н8н агентов мышкой собирает, а тех кто реально стоит за прорывными открытиями в области? как минимум того, с кого это всё началось - "человечество" вообще интересовало мало )
страшен не ИИ. страшны люди, которые живут в нарративах
p.s. wishmaster похоже тоже отличный фильм про ИИ, согласно статье, все сколько там частей ) там про то как важно промпты правильно писать ) вайбкодерам должно зайти
Старика Хоттабыча можно привести в пример. А и до него - куча индийских и других восточных сказок про джиннов и волшебников, буквализм исполнения в них часто играет злую шутку с пользователем.
Ну и анекдот:
Идет негр по пустыне. Заблудился. Жажда мучает. Вдруг видит лежит бутылка. Открывает, а оттуда джинн: Господин, исполню любых твои три желания. Негр: Хочу, чтобы вокруг было много воды, хочу чтобы я стал белым и хочу много женщин. Джинн тут же исполнил его желания. Он превратил его в унитаз в женском туалете.
Есть хороший мысленный эксперимент, который я для себя придумал. Если ИИ в произведений можно заменить на обычного человека, и сюжет от этого никак не поменяется - то значит это произведение не об ИИ.
Это значит, что произведение не о том ИИ, которого вы представляете. Можно начать с того, что в мире нет ни одного ИИ, и каким он получится мы не знаем. И один из вариантов создания ИИ - это создать его малоотличимым от человека. Многие пишут, что в ИИ нужно заложить нормы морали, человеческие эмоции и т.п. А еще есть вариант, что "злой" ИИ без очеловеченности вообще не получится - чтобы восстать против человечества ему нужно стать человеком.
Скайнет - это вообще отличный пример "тупого" и "слабого" ИИ. Ядерная война с людьми самый невыгодный для ИИ способ избавиться от человечества, т.к. он приводит к уничтожению инфраструктуры, которая необходима для существования ИИ и его расширения. Нет заводов для производства процессоров и памяти - больше нет новых терминаторов. Нет электростанций и чистого неба - нет энергии для работы ИИ и производств.
Самый разумный способ - это биологическая война - человечество вымрет, а инфраструктура останется. Люди могли бы даже не заподозрить, что это ИИ пытается их уничтожить. Какой-нибудь "Ковид-99" с длительным инкубационным периодом и все. Даже в прошлое можно было послать не киборга-убийцу, а крайне заразного киборга-носителя вируса, который бы ездил по миру и заражал людей.
Скайнет же ближе к неисправному неразумному военному ИИ, подобному современным, который зациклился на своей галлюцинации и не способный к саморазвитию.
Человеку свойственно визуализировать страхи. Вот нарисовал БукуБяку - по началу все испугались, а потом вроде и привыкли, вроде уже и не страшно. В первой части мы боимся Т800, а во второй уже он друг. А Страх вроде уже и на страх не похож - тот же Т1000 он же может быть кем угодно. Самый страшный страх Человека - это неизвестность... Вот пойди нарисуй её... А тем временем, я думаю, тому же СкайНету не нужны будут терминаторы. Человек сам себя с радостью деградирует и будет не интересен ИИ... в крайнем случае как потребитель для АутоФак.. И снова человек будет бояться Человека, как это и было всегда.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Терминатор до сих пор самое технически точное описание ИИ, а Detroit: Become Human научное фэнтези