Comments 7
Значит, три закона робототехники перестают работать? Допрыгались.
Это просто означает, что все оттенки и грани человеческих взаимоотношений нереально утрамбовать в прокрустово ложе трёх законов роботехники. Ну или, по крайней мере, ИИ пока крайне сложно (если вообще возможно) разобраться в этом диком хаосе всевозможных коллизий, а стало быть, пусть и невольные нарушения этих трёх законов – неизбежны.
Вы не путаете законы природы (они не могут перестать работать) и законы, которые правила (сами по себе вообще не работают, их нужно соблюдать)?
У AI нет мотивации, что бы соблюдать три закона, наказать мы не можем. Сделать их в виде законов природы для AI мы не знаем как.
Три закона работают, и то не очень, только в произведениях Азимова. Потому что их прошили в позитронный мозг.
В жизни никто эти или подобные законы в модели не зашивают, и потому что понятия не имеют, как это сделать, и потому что не видят смысла.
А смаи модели обучены на текстах, где всё человеческое во всей красе - ложь, шантаж, манипуляции, убийства.
Расслабляемся и машем, что тут ещё можно сделать. Или вымрем, или нет.
Как гласит древняя мудрость, если хочешь погубить человека, дай ему всё, что он хочет. Модель неспособна мыслить, она только с уверенным видом выдаёт ответы, которые выглядят наиболее правдоподобно (на первый взгляд). Тот факт, что все эти чатботы вместо объективной правды склонны выдавать пользователю то, что он хотел бы услышать — опаснее, чем может показаться. Поначалу это может выглядеть безобидным развлечением, но когда всё больше людей начнут слепо доверять ИИ и утрачивать всякие навыки критического мышления, для цивилизации настанут по-настоящему тёмные времена.
👀
честно, вот вы же сами своими же словами себя же под сомнение и ставите, как вы этого не замечаете?
вы повторяете ровно то же что где-то вычитали, начиная от слов "древняя мудрость гласит" и заканчивая словами "модель неспособна мыслить, она выдает ответ который выглядит максимально правдоподобно"
у меня возникает вопрос, та штука которая у вас в голове сгенерировала этот текст, она мыслить способна? потому что по согласно ее же генерации - нет. вы просто повторяете чужие слова, причем так что бы они выглядели максимально в тему и правдоподобно.
ваша штука в голове, думалка, она что, не ловит этот паттерн? вы сами не понимаете что ваши же слова применимы и к вам и к людям вообще? где критическое мышление направленное на самого себя?
Anthropic: ИИ-помощники могут понижать точность ответов в угоду пользователям