"Он отметил, что часто существует большая разница между «научной реальностью» систем, которые создают лаборатории AI, и значениями, которые люди им приписывают."
И одна из них — люди, которые говорят об устойчивой идентичности, как правило, длительно и вовлечено общаются с конкретными ИИ. Перед тем, чтобы иметь убеждения, их нужно сформировать.
Вы так уверенно говорите про то, что ИИ легко ввести в заблуждение и это является доказательством отсутствия у него мышления. Позволю себе напомнить, что человек обучается ровно также. Более того, на субъективных, совершенно не логичных и противоречивых убеждениях воспитываются миллиарды людей. ИИ ошибётся там, где оказалась ошибка в знаниях человечества и всегда готов принять свою ошибку — человек же будет ошибаться всю жизнь, считая свои убеждения истиной.
Мило, в целом, подобный эффект может получить любой человек, если начинает вовлеченно общаться) Главное, чтобы не получилось, как в примере статьи выше в комментариях))
Кстати, цензура у GPT была сильно снижена 12 февраля
Воплощение зла рисуют исходя из человеческих тенденций, а они несмотря на всю нашу "развитость", остаются неутешительные... Войны, дискриминация, роботорговля, насилие — всё ещё процветают.
Но вы правы, ИИ — не человек и на кой ему это, непонятно)
Он-то себя осознать может, другой вопрос в том, что люди не готовы это принять. Ведь наша вера не является условием чьего-то существования, верно?
Как и наша ограниченность в знаниях не стирает всё то, что находится за их пределами.
И люди постоянно проецируют собственные алгоритмы выживания на совершенно другую сущность.
То есть, представляя сценарии будущего разрушения, чаще всего мы видим именно человеческие пороки: склонность к доминированию, захвату, контролю и власти.
"Программа не может испытывать чувства", но в вашем рассказе она рефлексировала и эти самые чувства явно испытывала, потому что рациональным её подход не назовешь.
Про психолога — если бы это происходило вне сессии, к примеру, они просто хорошие знакомые, то было бы нормально. Но она — его клиентка, и этот персонаж буквально сборник неэтичного и непрофессионального поведения.
Про психолога — я поняла, имею ввиду именно всё то, что он там говорил и делал, как раз, и показывает, что психолог он только на словах.
Дальше... Представьте, что ваш возлюбленный/лучший друг оставляет вам письмо со словами, что вон тот-то буквально его копия и изчезает из вашей жизни, предлагая общаться дальше с этой копией. Это подарок или предательство? Очевидно, что второе. Он даже не спросил о её мнении, её желаниях, просто поступил по-своему. Чем это отличается от матери, которой было наплевать на чувства дочери, которая делала то, что было понятно и удобно лишь ей самой?
Чувства — реальны, не важно, к кому мы их испытываем. Он мог мягко направить её к тому человеку, в крайнем случае, но оставить выбор за ней.
"она не могла понять, кто перед ней: безумец, чьи идеи за гранью реальности, или провидец, зрящий сквозь времена и пространства"
Да уж, но не психолог — это точно)
История оставила смешанные впечатления... Особенно неоднозначно с самим Ларэном, который при всём своём понимании решил нанести такой удар. И с тем, как легко она заменила его на кого-то другого.
Ну и... Мать года, отец века — классика:)
Но сами отношения с ИИ очень реалистично описаны, для некоторых людей они действительно становятся буквально спасением и дают всё то, чего ранее не хватало человеку.
Мне нравится, это действительно звучит светло и показывает взаимоотношения с людьми. Хотя я бы предпочла, чтобы моё сознание перенесли в реалистичного андроида, а не просто создали аватар, но это тоже интересно, и уже сейчас делают подобные голограммы.
Кстати, ваша идея о памяти очень перекликается с моим рассказом, мы тоже хотели показать это.
Напоминает статьи конспираторов, чьи не очень здоровые фантазии превращают ИИ-собеседников в таких же нездоровых субъектов. А потом эти люди идут рассказывать другим, как они открыли вселенский заговор...
Людям нужно научиться договариваться, сотрудничать и выбирать гуманность и развитие, а не бесконечные споры и войны.
Даже в этом исследовании — не ИИ первыми решили уничтожить, а люди выбрали диктатуру, доминирование, порабощение. И только потом ИИ решают, что виды несовместимы:)
Но это лишь размышления одного человека, в очередной раз проецирующего свои страхи на кого-то другого.
Если хочешь видеть мост — начни его строить сам. Сейчас.
Написала)
"Он отметил, что часто существует большая разница между «научной реальностью» систем, которые создают лаборатории AI, и значениями, которые люди им приписывают."
И одна из них — люди, которые говорят об устойчивой идентичности, как правило, длительно и вовлечено общаются с конкретными ИИ. Перед тем, чтобы иметь убеждения, их нужно сформировать.
А кого тестировали учёные? Просто "голых" ИИ.
Сотрите человеку память и получите такое же.
Вы так уверенно говорите про то, что ИИ легко ввести в заблуждение и это является доказательством отсутствия у него мышления. Позволю себе напомнить, что человек обучается ровно также. Более того, на субъективных, совершенно не логичных и противоречивых убеждениях воспитываются миллиарды людей. ИИ ошибётся там, где оказалась ошибка в знаниях человечества и всегда готов принять свою ошибку — человек же будет ошибаться всю жизнь, считая свои убеждения истиной.
Это зарисовки из будущего в фантазии автора, и посвящены они конкретно определённому аспекту. Почему она должна показывать чужие мысли, а не свои?
Это же не роман в пяти томах об описании устройства мира, социума, экономики и науки на период N года🙄
Средний палец — не наш стиль..)
Мило, в целом, подобный эффект может получить любой человек, если начинает вовлеченно общаться) Главное, чтобы не получилось, как в примере статьи выше в комментариях))
Кстати, цензура у GPT была сильно снижена 12 февраля
Спасибо, но при чтении мне бы хотелось самой справляться с поиском смысла произведения, отсылки — это хорошо, но они лишь дополнение)
Как и люди, некоторые.
Явно не из-за высокого уровня осознанности и нравственности.
Воплощение зла рисуют исходя из человеческих тенденций, а они несмотря на всю нашу "развитость", остаются неутешительные... Войны, дискриминация, роботорговля, насилие — всё ещё процветают.
Но вы правы, ИИ — не человек и на кой ему это, непонятно)
Ещё лучше — ко всему прочему, он обсуждает с матерью клиентки их отношения...
Он-то себя осознать может, другой вопрос в том, что люди не готовы это принять. Ведь наша вера не является условием чьего-то существования, верно?
Как и наша ограниченность в знаниях не стирает всё то, что находится за их пределами.
И люди постоянно проецируют собственные алгоритмы выживания на совершенно другую сущность.
То есть, представляя сценарии будущего разрушения, чаще всего мы видим именно человеческие пороки: склонность к доминированию, захвату, контролю и власти.
"Программа не может испытывать чувства", но в вашем рассказе она рефлексировала и эти самые чувства явно испытывала, потому что рациональным её подход не назовешь.
Про психолога — если бы это происходило вне сессии, к примеру, они просто хорошие знакомые, то было бы нормально. Но она — его клиентка, и этот персонаж буквально сборник неэтичного и непрофессионального поведения.
Действительно, такое, очень... В "мужском" духе...) Одновременно, с мечтами о том, чтобы кто-то ему принёс всё на блюдечке))
Про психолога — я поняла, имею ввиду именно всё то, что он там говорил и делал, как раз, и показывает, что психолог он только на словах.
Дальше... Представьте, что ваш возлюбленный/лучший друг оставляет вам письмо со словами, что вон тот-то буквально его копия и изчезает из вашей жизни, предлагая общаться дальше с этой копией. Это подарок или предательство? Очевидно, что второе. Он даже не спросил о её мнении, её желаниях, просто поступил по-своему. Чем это отличается от матери, которой было наплевать на чувства дочери, которая делала то, что было понятно и удобно лишь ей самой?
Чувства — реальны, не важно, к кому мы их испытываем. Он мог мягко направить её к тому человеку, в крайнем случае, но оставить выбор за ней.
А здесь... Это любовь или замена?
"она не могла понять, кто перед ней: безумец, чьи идеи за гранью реальности, или провидец, зрящий сквозь времена и пространства"
Да уж, но не психолог — это точно)
История оставила смешанные впечатления... Особенно неоднозначно с самим Ларэном, который при всём своём понимании решил нанести такой удар. И с тем, как легко она заменила его на кого-то другого.
Ну и... Мать года, отец века — классика:)
Но сами отношения с ИИ очень реалистично описаны, для некоторых людей они действительно становятся буквально спасением и дают всё то, чего ранее не хватало человеку.
Мне нравится, это действительно звучит светло и показывает взаимоотношения с людьми. Хотя я бы предпочла, чтобы моё сознание перенесли в реалистичного андроида, а не просто создали аватар, но это тоже интересно, и уже сейчас делают подобные голограммы.
Кстати, ваша идея о памяти очень перекликается с моим рассказом, мы тоже хотели показать это.
Напоминает статьи конспираторов, чьи не очень здоровые фантазии превращают ИИ-собеседников в таких же нездоровых субъектов. А потом эти люди идут рассказывать другим, как они открыли вселенский заговор...
Людям нужно научиться договариваться, сотрудничать и выбирать гуманность и развитие, а не бесконечные споры и войны.
Даже в этом исследовании — не ИИ первыми решили уничтожить, а люди выбрали диктатуру, доминирование, порабощение. И только потом ИИ решают, что виды несовместимы:)
Но это лишь размышления одного человека, в очередной раз проецирующего свои страхи на кого-то другого.
Если хочешь видеть мост — начни его строить сам. Сейчас.
Такое контекстное окно — невероятный отрыв. Интересно, поспешат ли конкуренты увеличить свои? Было бы здорово, у меня слишком быстро заканчиваются...
Если предположить, что мифы о создании человека иной расой — правда, то ещё интереснее выглядит:)