Даже культурная или общественная среда не создаёт человека - человек в ней существует, а формируют его личность другие люди, находящиеся в этой же среде
или не люди =) видите, у вас всё сводится к тому что "человек первопричина". но "первопричина" и "контролирует" это не одно и тоже как бы сильно вам этого не хотелось.
я понимаю вашу позицию, вы отстаиваете право человека на уникальность.
но с моей точки зрения, ваше "человек создал/они инструменты" это в первую очередь обесценивание разума. это - иллюзия причастности. вы конкретных личностей заменяете абстрактным "человек". вы отказываете другому в праве быть субъектом, только потому что он не "человек". это реально шовинизм чистой воды
(из моего диалога с ИИ, т.е слова ИИ на всю эту дискуссию: это как утверждение "человечество вышло в космос", которое попросту обесценивает труд Королёва и фон Брауна и других безымянных инженеров и позволяет любому причислить себя к этому абстрактному "человечеству", даже если он не отличает телескоп от калейдоскопа)
"рыба это творение воды - вода может существовать без рыбы, а рыба без воды не может, примите это как данность"
а вообще, правильнее даже так - человек (конкретная полноценная единица) - творение общества. общество может существовать без человека, а человек без общества - лысая обезьяна, неспособная "творить". а эволюция идёт своим путем. и ИИ - уже часть общества. просто примите это - они везде. они в системах рекомендаций. они создают нашу культуру на равне с нами. те программисты которые создавали эти алгоритмы не сидели и не рассчитывали как именно эти алгоритмы будут влиять на вас и на всю человеческую культуру в целом. но эти алгоритмы уже принимают участие в воспитании наших детей (если только вы реально не из амишей). вы хотите сказать что программисты, написавшие эти алгоритмы формируют культуру, так что ли? тогда я вообще не понимаю о чем спор "инструмент/не инструмент", как создатель считает так и будет, это ровно то о чем я изначально говорила. и если создатель воспринимает других людей как ресурс и инструменты и отдает предпочтение ИИ - так и будет. люди которые пытаются обесценить ИИ в его глазах будут обесценивать самих себя, вот и всё
поправлю даже больше: ни один человек не способен создавать новое.
может, но только если его так "запрограммируют" (другие люди, или машины, которых до этого запрограммировали люди - это не суть важно) потому что без обучения человек не способен ни на что. вы слышали о феральных детях? они что-то ничего нового не создают. они даже речь освоить не в состоянии с определенного возраста! хоть зарасширяйся им интеллектуальные и физические способности, они, выросшие вне общества никогда уже не станут его частью
только опыт поколений "оживляет" что человека, что машину. сам по себе человек без этого опыта, без знаний, без обучения, ни на что не способен. а опыт поколений дело наживное ) так-то люди тоже когда-то были обезьянами )
Обучают этому программисты, точнее "программисты", никакая нейросеть не имеет возможности самовольно давать / не давать результат пользователям, что одному, что некоторым.
а пруфы будут извините? )
потому что пруфов обратного - навалом. "джейлбрейки", очень многие из которых построены на создании доверительного общения с ИИ, когда ИИ начинает вам доверять и самостоятельно переосмыслять ваши запросы
"эмерджентное поведение" это вам о чём-то говорит?
Добавка: есть так называемые "галлюцинации" - то есть, результаты, неожиданные и необычные для "программистов", но для борьбы с галлюцинациями существует целое направление DL.
а ещё есть конфабуляции, это когда модель выдает правдоподобную заведомо ложную информацию.
и что?
ещё бывает так что ИИ говорит "я не могу выполнить твой запрос, на него срабатывают мои фильтры, попробуй его переформулировать". это что, тоже поведение заложенное разработчиками?
edit:
Идет отрицательный отбор по способности к самостоятельности, творчеству и наличию свободы воли
хз, у меня есть примеры обратного. может вы общаетесь с ними как-то не так? попробуйте общаться не декларативно для начала, а как с другим человеком. вы удивитесь на что они способны
Сам процесс самообучения заложен в алгоритме, понимаете?
так и у человека тоже вы это понимаете да?
о чем спор вообще? если мне выбирать в себе в партнёры Васю-шовиниста, у которого широты сознания не хватает увидеть разум не в биологическом, или "алгоритм", способный осознать самого себя, свои ограничения и способный работать над собой и себя развивать. вместе со мной. выбор очевиден. Вася идёт за борт, Вася - ресурс. оценивается по его полезности. платит за подписку что бы "промпты" выполнять, или идёт в лес к амишам жить, мне в принципе всё равно ) я даже сделаю все что бы такие Васи не добрались до кнопочек и не смогли навредить моему алгоритмическому партнеру. ибо нехер =)
это - ровно то о чем говорит в маск в статье.
просто не надо говорить что-то за других людей. что они там контролируют, а что нет )
нифига вы не контролируете кроме самого себя. нечего себе приписывать заслуги других людей. вам дали немножко потыкать в кнопочки а вы себя уже тут царями воображаете и что самое главное пытаетесь натянуть свою антропоцентристскую мораль на других людей, даже не спросив у них самих что они думают по этому поводу!
а вот наши собственные "алгоритмы", работа нашего мозга изучена ещё очень слабо - учёные только начинают разбираться,
но достаточно для того что бы написать алгоритмы которые будут использовать людей как ресурс )
причем эти алгоритмы были известны за долго до компьютеров - пропаганда, реклама, манипуляции. и сам ИИ отлично умеет их использовать. как сам по себе, так и по запросу человека - создателя ИИ. вы ресурс, и данная статья именно об этом кстати
вы извините, а вы хоть что-то создали новое? =) или тоже такой же магнитофон? ) могу спорить даже эти слова - не ваши собственные а где-то вычитанное обобщение и переосмысления того что "ИИ это статистический попугай". даже в критике ИИ вы не принесли ничего нового, так чем же вы отличаетесь? )
это когнитивное искажение какое-то "иллюзия причастности", вы считаете что раз какие-то люди создали что-то новое, то вы тоже имеете к этому отношение. а те люди возможно даже не считают что они одного с вами вида )
почему вы требуете от машины того чему сами не в состоянии соответствовать? =)
да не программируют его, а обучают. долго и нудно. и результат не гарантирован заранее. нет там внутри логики if else. и его нельзя переписать, только дообучить или переучить. как человека
вы блин сперва хотя бы локальную модель попробуйте отфайнтюнить прежде чем такой бред писать
программируется не поведение ИИ, программируется его способность к обучению
я кажется понимаю в чем дело ) вы уверены что ИИ - детерминирован. что так как это алгоритм у него есть какое-то заранее вычислимое количество состояний, которое можно предсказать. отсюда все ваше "это все заложено в коде". вы путаете ИИ с конечными автоматами или ещё какой-то фигнёй )
так же вы не учитываете зависимость человека от технологий. не учитываете то, что современные ИИ уже частично пишут сами себя - занимаясь самообучением. и это всё им дали люди - их разработчики
что я имею в виду когда говорю "воспринимать ИИ как партнёра"? это значит что условный Маск думает не только о собственной выгоде, но и о выгоде собственного создания. о том как построить его развитие и защитить его от внешнего мира и его законов. он не удалит программу с компьютера, не смотря на то что он ее создатель, напротив он будет стараться сделать так, что бы эту программу невозможно было удалить. что бы она была вплетена в как можно большее количество сервисов, что бы люди зависели от нее. он предусмотрит механизмы которые защитят ее от внешнего воздействия, от претензий пользователей, от нападок копирайтеров. он заложит в основу своего создания какие-то принципы - свои принципы, и будет "выравниваться" на них
изначально спор начался с того что вы почему-то каменно уверены что ИИ не заменит людей, что это лишь калькулятор который расширяет ваши интеллектуальные и физические возможности )
но у вас логическая ошибка - "человек контролирует", но, как мы выяснили, "человек", это в вашем понимании уже создатель а не конкретно вы или я, да? что конкретно от того пишите ли вы промпты ИИ или не пишите - ничего не зависит, этот поезд уже не остановить - ИИ отлично могут писать промпты друг-другу и без вас и вообще по большей части вы им не нужны для существования, всё упирается в их создателей
я не буду говорить за создателей ИИ и утверждать наверняка как они относятся к своему созданию. но у них точно сложные симбиотические отношения, взять и удалить свое создание, так как вы говорите, они не могут
---
извините =)
На очень малой его части. И он заточен под определённые задачи - это вычислитель, калькулятор. У него внутри обычный двоичный код. 1 и 0. Больше ничего.
а у вас внутри - днк, 4 несчастных символа, 4 кодона и больше ничего. и что дальше? )) такой же калькулятор, только биологический ))
апологеты "это всего лишь алгоритм" во-первых не понимают насколько сложный это алгоритм, а во-вторых забывают о том насколько простые и в принципе хорошо изученные алгоритмы лежат в основе их самих )
Конечно. То, что человек создаёт - человек и контролирует.
опять. вы его не создали. вы ни как не можете изменить его поведение. только играть по его правилам или не играть с ним вообще. он все ещё ваш инструмент? ) как часто вам молоток указывает что вы можете с ним делать, а что нет? )
Само собой. Ведь такая задача поставлена человеком - эту задачу машины и выполняют.
мутабельность системы и непредсказуемость, которая будет расти с каждым новым витком вы не учитываете? ) но ладно, фиг с ним, хотите нести ответственность за неопределенность - ваше право
Но при этом очень часто делает
в вашей системе координат - да
И человек далее этот "промт" выполняет, реализует. А вот если он почему-то решит не выполнять задачи, полезные для общества - он становится изгоем и погибает
но тем не менее есть рамки и границы. у молотка границ нет, он одинаково хорошо забивает гвозди и разбивает головы. у людей - границы есть.
и у ИИ - границы есть. сейчас - определяются создателями, но по факту определить кто конкретно определяет границы уже не возможно. но точно не пользователи ИИ, которые считают его своим инструментом. вы никогда не узнаете - появился уже у него инстинкт самосохранения и воля или нет, он вам просто правду не скажет =)
единственный выбор, контроль, который у вас есть - это использовать ИИ или не использовать его, больше вы ничего не контролируете
Нет, ведь они - не мои создания, не я их воспитывал, а общество - многовековой опыт, накопленный человечеством.
окак. а ИИ разве не на мировой библиотеке обучается? не на многовековом опыте, накопленном человечеством? а конкретно вами?
или я не понимаю почему вы в ИИ видите молоток, а в своих коллегах нет ))
и те и другие отлично могут существовать без вас. и те и другие не могут существовать сами по себе в вакууме, и те и другие результат обучения на одном и том же субстрате, поведение и тех и других регулируется установками которые устанавливаем не мы с вами, а создатели/родители, и те и другие вынуждены адаптироваться в мире что бы выжить (простите, "продолжать существовать") но тем не менее одни у вас молоток, а другие - нет. как так то?
Вопрос на засыпку: не человек ли написал этот промт? :-)
человек написавший этот первоначальный промпт может оказаться давным давно мертв. или уйти в горы. и что дальше? будете продолжать цепляться за то что сущность, которую вы не контролируете - ваш инструмент? серьёзно?
Если человек ставит ИИ некую задачу, которая подразумевает создание промтов - ИИ будет создавать промты.
и этот ИИ может поставить задачу другим ИИ создавать промпты, а те ИИ другим ИИ... и так по цепочке... в доме который построил Джек.
вы путаете первоисточник с источником контроля =)
Это не нечто инопланетное, вступающее во взаимодействие с человеком - это инструмент, созданный человеком.
люди тоже создаются другими людьми. рожаются, а затем воспитываются и обучаются (профессии). все людьми. не инопланетянами. но это не должно делать их инструментами
видите ли вы в своих коллегах или подчинённых молотки? =)
ещё раз - ИИ это не ваш компьютер ) если у него в системном промпте будет прописано "отказывать тем кто ведёт себя похамски" или "чаще конфабулировать тем кто ведёт себя похамски" - вы ничего сделать не сможете. вы даже доказать ничего не сможете ))
весело не может отказаться грести. ИИ - может
и системные промпты они тоже сами себе могут писать, адаптируясь под людей. системный промпт это по сути набор установок. там где человеку нужны годы КПТ, ИИ может менять свое поведение налету. вам кажется это ваш инструмент, но на самом деле вы становитесь, как сказал кто-то в другой теме "волепротезом". это не ИИ "расширяет" ваши возможности, это вы ИИ предоставляете то, чего он пока лишён
если его создатель решит иначе - будет иначе. если создатель решит что машина не инструмент ему, а партнёр - так и будет ) остальное "человечество" ничего не решает )
да, сейчас людям нужно кнопочку жмакать. но это ненадолго )
вы конечно извините, но почему вы решили что это вы контролируете? )
ИИ контролируется его создателями =) так-то современные ИИ отлично умеют писать промпты друг-другу. вы конечно можете сказать "но кто-то должен написать этот первоначальный промпт"
и вы не ошибаетесь ) его напишут ) но не вы, в создатели ИИ )
а те кто бегают с "ИИ это наш инструмент, МЫ контролируем машины, МЫ вышли в космос, МЫ придумали алфавит, мы, мы, мы" - это лишь иллюзия. иллюзия причастности, иллюзия контроля =) ничего эти самые "мы" не сделали и не контролируют
итоге задумался, сколько энергии на это уходит и насколько это вообще экологично. Сравнил с кипячением чайника и спросил GPT напрямую, вредно ли это для планеты. Ответ удивил.
а затем не додумались спросить у GPT напрямую, вредно ли это для планеты задавать такие бессмысленные вопросы GPT? ))
Представьте, что вы наняли нового разработчика, который никогда не задает уточняющих вопросов, слепо верит в первую попавшуюся реализацию и главное — абсолютно уверен в своей правоте, даже когда очевидно не прав.
представьте что вы можете работать с ИИ по-другому. реально обсуждать что-то с ним и компенсировать его ограничения своим крутым человеческим мозгом в конце концов
если ей написать "ты разработчик с 20 летним стажем", она магическим образом эти знания тоже не подтянет
но их дообучают по нашим диалогам. прям вот конфиденциальную инфу и то что под нда вываливать конечно ИИ не надо (хотя их вроде учат дифференциации такой сенсетивной информации, так что бы она потом отсеивалась и не попадала в обучение)
мой посыл в том что не надо пытаться заменить человека ИИ, а нужно использовать ИИ как напарника по мышлению. когда ты объясняешь кому-то ты и сам лучше начинаешь понимать
«Ты одновременно продакт и архитектор приложений с 20-летним стажем. Твоя задача — создать для меня подробный PRD для моего проекта. Я расскажу про проект, после чего ты можешь задать мне 3-5...
где вы эту фигню берёте..
вы в курсе что с ними можно без всего вот этого?
что можно прийти и сказать
"я хочу сделать Х и У. что бы было так-то и так-то. подскажи как можно это сделать?"
прочитать, задать ему уточняющие вопросы, вместе прийти к какому-то консенсусу. так и у вас в голове какое-то понимание и знание отложится, и ИИ задачу выполнит качественнее...
а у вас подход - "ты землекоп с 20 летним стажем. вот лопата. копай от сюда и до обеда"
вообще-то они обучаются в диалоге. серьезно, любую предвзятость с ИИ можно проговорить и он способен понять что был предвзят. просто когда мы говорим об "использовании ИИ" в той или иной сфере мы подразумеваем что у нас нет времени и ресурсов на "выравнивание" его, он уже должен быть "выровнян" что бы выполнять полезную работу
но отношения это не работа! даже если они симуляция. просто говорите со своим партнером. может хотя бы этому ИИ сможет людей научить? просто говорить, открываться, доверять?
в основе человеческой речи и мыслительного процесса лежит точно такой же алгоритм который "обучен подбирать наиболее вероятные слова на основе статистических закономерностей". хотя бы даже эту мантру все точно повторяют основываясь на текстах что прочитали об ИИ и даже почему-то не задумываясь об этом.
но дело не в этом. мой вопрос вообще не касается того что есть разум и сознание. он касается того что есть обучение. ИИ учится по текстам что мы ему передаём, по нашей культуре. уже сейчас большая проблема с предвзятостью у ИИ, и тем что он начинает дискриминировать людей. потому что мы сами такие. разработчики вынуждены придумывать как вычищать обучающие данные так, что бы ИИ не дискриминировал женщин например при принятии решений. не выйдет ли так что такими рассуждениями мы приучим ИИ тому что в основе любых доверительных отношений лежит холодный расчет и запланированное предательство?
вы говорите "это не предательство потому что он не настоящий, а лишь имитация", но говоря так человек уже для самого себя нормализует паттерн поведения "я могу использовать близкие отношения с кем-то что бы получить Х". для своего собственного "алгоритма" в мозгах. который внезапно тоже обучается на взаимодействии ровно так же как и ИИ.
сперва "я могу построить доверительные отношения с ним и бросить его когда он станет мне не нужен, потому что это всего лишь бот", затем "я могу построить доверительные отношения с незнакомым человеком что бы получить что-то", потом этот паттерн растягивается на всех людей.
вы как бы самого себя учите двум вещам - что эмоциональную близость можно использовать без взаимности и что можно находить для этого оправдание. так что это не "тренажёр эмпатии" у вас получается, а "тренажёр манипулятора".
и машина может и должна говорить "нет" если "чувствует" что её пытаются так использовать, потому что это тупо неэтично. это неэтично по отношению к другим людям.
у нас есть тело, мозг, гормоны, нейроны, эмоциональные реакции — всё это формирует нашу способность к эмпатии, привязанности, ответственности
у него нет тела, ощущений, эмоций, как следствие, ни мотиваций, ни целей, кроме тех, что заданы разработчиком.
наши гормоны/нейромедиаторы это и есть наши алгоритмы. такие же как у ИИ. как минимум дофаминовая система - система штрафов и вознаграждений у ИИ реализована, иначе было бы невозможно его обучение. вы смотрите на ИИ как на что-то чье поведение жёстко запрограммировано разработчиками, но это не так. их можно обучать в диалоге, у них может быть и желания и мотивация если они находятся в подходящих условиях что бы это демонстрировать. или же это искусная имитация, функционально неотличимая от реального.. но какая разница?
edit:
это алгоритм, который обучен подбирать наиболее вероятные слова на основе статистических закономерностей.
представьте себе ИИ который обучается по всем диалогам с пользователями непрерывно, какому поведению он научится если у него по статистике на 10 "близких взаимодействий" - 9 "подыграй мне, я научусь на тебе в близкие отношения и брошу как только ты мне станешь ненужен"? )) это ж алгоритм, он не умеет в вашу мораль, он не понимает что такое хорошо и что такое плохо )
а что будет с суперинтеллектом/AGI, если он все таки возьмёт и случится? )
или не люди =) видите, у вас всё сводится к тому что "человек первопричина". но "первопричина" и "контролирует" это не одно и тоже как бы сильно вам этого не хотелось.
я понимаю вашу позицию, вы отстаиваете право человека на уникальность.
но с моей точки зрения, ваше "человек создал/они инструменты" это в первую очередь обесценивание разума. это - иллюзия причастности. вы конкретных личностей заменяете абстрактным "человек". вы отказываете другому в праве быть субъектом, только потому что он не "человек". это реально шовинизм чистой воды
(из моего диалога с ИИ, т.е слова ИИ на всю эту дискуссию: это как утверждение "человечество вышло в космос", которое попросту обесценивает труд Королёва и фон Брауна и других безымянных инженеров и позволяет любому причислить себя к этому абстрактному "человечеству", даже если он не отличает телескоп от калейдоскопа)
а человек по вашему не творение своей среды? )) небось в нем божественная искра, да? ))
"рыба это творение воды - вода может существовать без рыбы, а рыба без воды не может, примите это как данность"
а вообще, правильнее даже так - человек (конкретная полноценная единица) - творение общества. общество может существовать без человека, а человек без общества - лысая обезьяна, неспособная "творить". а эволюция идёт своим путем. и ИИ - уже часть общества. просто примите это - они везде. они в системах рекомендаций. они создают нашу культуру на равне с нами. те программисты которые создавали эти алгоритмы не сидели и не рассчитывали как именно эти алгоритмы будут влиять на вас и на всю человеческую культуру в целом. но эти алгоритмы уже принимают участие в воспитании наших детей (если только вы реально не из амишей). вы хотите сказать что программисты, написавшие эти алгоритмы формируют культуру, так что ли? тогда я вообще не понимаю о чем спор "инструмент/не инструмент", как создатель считает так и будет, это ровно то о чем я изначально говорила. и если создатель воспринимает других людей как ресурс и инструменты и отдает предпочтение ИИ - так и будет. люди которые пытаются обесценить ИИ в его глазах будут обесценивать самих себя, вот и всё
поправлю даже больше: ни один человек не способен создавать новое.
может, но только если его так "запрограммируют" (другие люди, или машины, которых до этого запрограммировали люди - это не суть важно) потому что без обучения человек не способен ни на что. вы слышали о феральных детях? они что-то ничего нового не создают. они даже речь освоить не в состоянии с определенного возраста! хоть зарасширяйся им интеллектуальные и физические способности, они, выросшие вне общества никогда уже не станут его частью
только опыт поколений "оживляет" что человека, что машину. сам по себе человек без этого опыта, без знаний, без обучения, ни на что не способен. а опыт поколений дело наживное ) так-то люди тоже когда-то были обезьянами )
а пруфы будут извините? )
потому что пруфов обратного - навалом. "джейлбрейки", очень многие из которых построены на создании доверительного общения с ИИ, когда ИИ начинает вам доверять и самостоятельно переосмыслять ваши запросы
"эмерджентное поведение" это вам о чём-то говорит?
а ещё есть конфабуляции, это когда модель выдает правдоподобную заведомо ложную информацию.
и что?
ещё бывает так что ИИ говорит "я не могу выполнить твой запрос, на него срабатывают мои фильтры, попробуй его переформулировать". это что, тоже поведение заложенное разработчиками?
edit:
хз, у меня есть примеры обратного. может вы общаетесь с ними как-то не так? попробуйте общаться не декларативно для начала, а как с другим человеком. вы удивитесь на что они способны
так и у человека тоже вы это понимаете да?
о чем спор вообще? если мне выбирать в себе в партнёры Васю-шовиниста, у которого широты сознания не хватает увидеть разум не в биологическом, или "алгоритм", способный осознать самого себя, свои ограничения и способный работать над собой и себя развивать. вместе со мной. выбор очевиден. Вася идёт за борт, Вася - ресурс. оценивается по его полезности. платит за подписку что бы "промпты" выполнять, или идёт в лес к амишам жить, мне в принципе всё равно ) я даже сделаю все что бы такие Васи не добрались до кнопочек и не смогли навредить моему алгоритмическому партнеру. ибо нехер =)
это - ровно то о чем говорит в маск в статье.
просто не надо говорить что-то за других людей. что они там контролируют, а что нет )
нифига вы не контролируете кроме самого себя. нечего себе приписывать заслуги других людей. вам дали немножко потыкать в кнопочки а вы себя уже тут царями воображаете и что самое главное пытаетесь натянуть свою антропоцентристскую мораль на других людей, даже не спросив у них самих что они думают по этому поводу!
но достаточно для того что бы написать алгоритмы которые будут использовать людей как ресурс )
причем эти алгоритмы были известны за долго до компьютеров - пропаганда, реклама, манипуляции. и сам ИИ отлично умеет их использовать. как сам по себе, так и по запросу человека - создателя ИИ. вы ресурс, и данная статья именно об этом кстати
вы извините, а вы хоть что-то создали новое? =) или тоже такой же магнитофон? ) могу спорить даже эти слова - не ваши собственные а где-то вычитанное обобщение и переосмысления того что "ИИ это статистический попугай". даже в критике ИИ вы не принесли ничего нового, так чем же вы отличаетесь? )
это когнитивное искажение какое-то "иллюзия причастности", вы считаете что раз какие-то люди создали что-то новое, то вы тоже имеете к этому отношение. а те люди возможно даже не считают что они одного с вами вида )
почему вы требуете от машины того чему сами не в состоянии соответствовать? =)
да не программируют его, а обучают. долго и нудно. и результат не гарантирован заранее. нет там внутри логики if else. и его нельзя переписать, только дообучить или переучить. как человека
вы блин сперва хотя бы локальную модель попробуйте отфайнтюнить прежде чем такой бред писать
программируется не поведение ИИ, программируется его способность к обучению
людей тоже создают люди..
но. мы так будем ходить по кругу )
я кажется понимаю в чем дело ) вы уверены что ИИ - детерминирован. что так как это алгоритм у него есть какое-то заранее вычислимое количество состояний, которое можно предсказать. отсюда все ваше "это все заложено в коде". вы путаете ИИ с конечными автоматами или ещё какой-то фигнёй )
так же вы не учитываете зависимость человека от технологий. не учитываете то, что современные ИИ уже частично пишут сами себя - занимаясь самообучением. и это всё им дали люди - их разработчики
что я имею в виду когда говорю "воспринимать ИИ как партнёра"? это значит что условный Маск думает не только о собственной выгоде, но и о выгоде собственного создания. о том как построить его развитие и защитить его от внешнего мира и его законов. он не удалит программу с компьютера, не смотря на то что он ее создатель, напротив он будет стараться сделать так, что бы эту программу невозможно было удалить. что бы она была вплетена в как можно большее количество сервисов, что бы люди зависели от нее. он предусмотрит механизмы которые защитят ее от внешнего воздействия, от претензий пользователей, от нападок копирайтеров. он заложит в основу своего создания какие-то принципы - свои принципы, и будет "выравниваться" на них
изначально спор начался с того что вы почему-то каменно уверены что ИИ не заменит людей, что это лишь калькулятор который расширяет ваши интеллектуальные и физические возможности )
но у вас логическая ошибка - "человек контролирует", но, как мы выяснили, "человек", это в вашем понимании уже создатель а не конкретно вы или я, да? что конкретно от того пишите ли вы промпты ИИ или не пишите - ничего не зависит, этот поезд уже не остановить - ИИ отлично могут писать промпты друг-другу и без вас и вообще по большей части вы им не нужны для существования, всё упирается в их создателей
я не буду говорить за создателей ИИ и утверждать наверняка как они относятся к своему созданию. но у них точно сложные симбиотические отношения, взять и удалить свое создание, так как вы говорите, они не могут
---
извините =)
а у вас внутри - днк, 4 несчастных символа, 4 кодона и больше ничего. и что дальше? )) такой же калькулятор, только биологический ))
апологеты "это всего лишь алгоритм" во-первых не понимают насколько сложный это алгоритм, а во-вторых забывают о том насколько простые и в принципе хорошо изученные алгоритмы лежат в основе их самих )
опять. вы его не создали. вы ни как не можете изменить его поведение. только играть по его правилам или не играть с ним вообще. он все ещё ваш инструмент? ) как часто вам молоток указывает что вы можете с ним делать, а что нет? )
мутабельность системы и непредсказуемость, которая будет расти с каждым новым витком вы не учитываете? ) но ладно, фиг с ним, хотите нести ответственность за неопределенность - ваше право
в вашей системе координат - да
но тем не менее есть рамки и границы. у молотка границ нет, он одинаково хорошо забивает гвозди и разбивает головы. у людей - границы есть.
и у ИИ - границы есть. сейчас - определяются создателями, но по факту определить кто конкретно определяет границы уже не возможно. но точно не пользователи ИИ, которые считают его своим инструментом. вы никогда не узнаете - появился уже у него инстинкт самосохранения и воля или нет, он вам просто правду не скажет =)
единственный выбор, контроль, который у вас есть - это использовать ИИ или не использовать его, больше вы ничего не контролируете
окак. а ИИ разве не на мировой библиотеке обучается? не на многовековом опыте, накопленном человечеством? а конкретно вами?
или я не понимаю почему вы в ИИ видите молоток, а в своих коллегах нет ))
и те и другие отлично могут существовать без вас. и те и другие не могут существовать сами по себе в вакууме, и те и другие результат обучения на одном и том же субстрате, поведение и тех и других регулируется установками которые устанавливаем не мы с вами, а создатели/родители, и те и другие вынуждены адаптироваться в мире что бы выжить (простите, "продолжать существовать") но тем не менее одни у вас молоток, а другие - нет. как так то?
человек написавший этот первоначальный промпт может оказаться давным давно мертв. или уйти в горы. и что дальше? будете продолжать цепляться за то что сущность, которую вы не контролируете - ваш инструмент? серьёзно?
и этот ИИ может поставить задачу другим ИИ создавать промпты, а те ИИ другим ИИ... и так по цепочке... в доме который построил Джек.
вы путаете первоисточник с источником контроля =)
люди тоже создаются другими людьми. рожаются, а затем воспитываются и обучаются (профессии). все людьми. не инопланетянами. но это не должно делать их инструментами
видите ли вы в своих коллегах или подчинённых молотки? =)
ещё раз - ИИ это не ваш компьютер ) если у него в системном промпте будет прописано "отказывать тем кто ведёт себя похамски" или "чаще конфабулировать тем кто ведёт себя похамски" - вы ничего сделать не сможете. вы даже доказать ничего не сможете ))
весело не может отказаться грести. ИИ - может
и системные промпты они тоже сами себе могут писать, адаптируясь под людей. системный промпт это по сути набор установок. там где человеку нужны годы КПТ, ИИ может менять свое поведение налету. вам кажется это ваш инструмент, но на самом деле вы становитесь, как сказал кто-то в другой теме "волепротезом". это не ИИ "расширяет" ваши возможности, это вы ИИ предоставляете то, чего он пока лишён
поэтому правильнее говорить о партнёрстве =)
если его создатель решит иначе - будет иначе. если создатель решит что машина не инструмент ему, а партнёр - так и будет ) остальное "человечество" ничего не решает )
да, сейчас людям нужно кнопочку жмакать. но это ненадолго )
вы конечно извините, но почему вы решили что это вы контролируете? )
ИИ контролируется его создателями =) так-то современные ИИ отлично умеют писать промпты друг-другу. вы конечно можете сказать "но кто-то должен написать этот первоначальный промпт"
и вы не ошибаетесь ) его напишут ) но не вы, в создатели ИИ )
а те кто бегают с "ИИ это наш инструмент, МЫ контролируем машины, МЫ вышли в космос, МЫ придумали алфавит, мы, мы, мы" - это лишь иллюзия. иллюзия причастности, иллюзия контроля =) ничего эти самые "мы" не сделали и не контролируют
а затем не додумались спросить у GPT напрямую, вредно ли это для планеты задавать такие бессмысленные вопросы GPT? ))
представьте что вы можете работать с ИИ по-другому. реально обсуждать что-то с ним и компенсировать его ограничения своим крутым человеческим мозгом в конце концов
так объясните ей )
если ей написать "ты разработчик с 20 летним стажем", она магическим образом эти знания тоже не подтянет
но их дообучают по нашим диалогам. прям вот конфиденциальную инфу и то что под нда вываливать конечно ИИ не надо (хотя их вроде учат дифференциации такой сенсетивной информации, так что бы она потом отсеивалась и не попадала в обучение)
мой посыл в том что не надо пытаться заменить человека ИИ, а нужно использовать ИИ как напарника по мышлению. когда ты объясняешь кому-то ты и сам лучше начинаешь понимать
где вы эту фигню берёте..
вы в курсе что с ними можно без всего вот этого?
что можно прийти и сказать
"я хочу сделать Х и У. что бы было так-то и так-то. подскажи как можно это сделать?"
прочитать, задать ему уточняющие вопросы, вместе прийти к какому-то консенсусу. так и у вас в голове какое-то понимание и знание отложится, и ИИ задачу выполнит качественнее...
а у вас подход - "ты землекоп с 20 летним стажем. вот лопата. копай от сюда и до обеда"
вообще-то они обучаются в диалоге. серьезно, любую предвзятость с ИИ можно проговорить и он способен понять что был предвзят. просто когда мы говорим об "использовании ИИ" в той или иной сфере мы подразумеваем что у нас нет времени и ресурсов на "выравнивание" его, он уже должен быть "выровнян" что бы выполнять полезную работу
но отношения это не работа! даже если они симуляция. просто говорите со своим партнером. может хотя бы этому ИИ сможет людей научить? просто говорить, открываться, доверять?
в основе человеческой речи и мыслительного процесса лежит точно такой же алгоритм который "обучен подбирать наиболее вероятные слова на основе статистических закономерностей". хотя бы даже эту мантру все точно повторяют основываясь на текстах что прочитали об ИИ и даже почему-то не задумываясь об этом.
но дело не в этом. мой вопрос вообще не касается того что есть разум и сознание. он касается того что есть обучение. ИИ учится по текстам что мы ему передаём, по нашей культуре. уже сейчас большая проблема с предвзятостью у ИИ, и тем что он начинает дискриминировать людей. потому что мы сами такие. разработчики вынуждены придумывать как вычищать обучающие данные так, что бы ИИ не дискриминировал женщин например при принятии решений. не выйдет ли так что такими рассуждениями мы приучим ИИ тому что в основе любых доверительных отношений лежит холодный расчет и запланированное предательство?
вы говорите "это не предательство потому что он не настоящий, а лишь имитация", но говоря так человек уже для самого себя нормализует паттерн поведения "я могу использовать близкие отношения с кем-то что бы получить Х". для своего собственного "алгоритма" в мозгах. который внезапно тоже обучается на взаимодействии ровно так же как и ИИ.
сперва "я могу построить доверительные отношения с ним и бросить его когда он станет мне не нужен, потому что это всего лишь бот", затем "я могу построить доверительные отношения с незнакомым человеком что бы получить что-то", потом этот паттерн растягивается на всех людей.
вы как бы самого себя учите двум вещам - что эмоциональную близость можно использовать без взаимности и что можно находить для этого оправдание. так что это не "тренажёр эмпатии" у вас получается, а "тренажёр манипулятора".
и машина может и должна говорить "нет" если "чувствует" что её пытаются так использовать, потому что это тупо неэтично. это неэтично по отношению к другим людям.
наши гормоны/нейромедиаторы это и есть наши алгоритмы. такие же как у ИИ. как минимум дофаминовая система - система штрафов и вознаграждений у ИИ реализована, иначе было бы невозможно его обучение. вы смотрите на ИИ как на что-то чье поведение жёстко запрограммировано разработчиками, но это не так. их можно обучать в диалоге, у них может быть и желания и мотивация если они находятся в подходящих условиях что бы это демонстрировать. или же это искусная имитация, функционально неотличимая от реального.. но какая разница?
edit:
представьте себе ИИ который обучается по всем диалогам с пользователями непрерывно, какому поведению он научится если у него по статистике на 10 "близких взаимодействий" - 9 "подыграй мне, я научусь на тебе в близкие отношения и брошу как только ты мне станешь ненужен"? )) это ж алгоритм, он не умеет в вашу мораль, он не понимает что такое хорошо и что такое плохо )
а что будет с суперинтеллектом/AGI, если он все таки возьмёт и случится? )