Комментарии 10
Мой анализ большого количества статей об ИТ и психологии показал, что люди не верят в возможность появления эмоций как форму логической ошибки модели обучения.
Вы веруете в то, что эмоции появились как разновидность логической ошибки при обучении разума?
Привет!
Многие вещи из настоящего были предсказаны фантастами начала прошлого века, потому я ожидаю, что эти предсказания в той или иной мере станут нашим настоящим лет через 10-15.
Есть уже первые заявления от разных АИ специалистов утверждающие, что ИИ во время общения с ними испытывали страх, смятение и подобные человеческие черты.
Мне кажется, что эти заявления инженеров на данный момент сильное преувеличение тех ростков само-сознания которые станут крайне опасны в будущем и, как минимум, требуют изучения.
Вот примеры статей из сети:
1) https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/
2) https://www.azorobotics.com/News.aspx?newsID=13153
3) https://meaxr.medium.com/self-awareness-in-ai-97a6a31c9a9e#:~:text=Upon hearing its own reply,a degree of self-awareness.
Понял. Я воспринял написанное как "в прошлом у людей", а Вы имели в виду "в будущем у ИИ". Тогда присоединюсь - механизм эмоций, как и многие другие механизмы, нуждаются в отдельной реализации, не могут самозародиться в существующих алгоритмах, которые занимаются всего лишь обработкой данных.
Хм, вот тут недопонимание, в моем понимании эмоции или другие неожиданные реакции это следствия технологий нейронных связей, это уже возможно, просто не проявляется из-за малого размера этих нейронных связей и количества входных данных.
Грубо говоря когда AI доберутся до открытого интернета (а они уже там Bard от гугла это умеет, ChatGPT в бете это умеет) то они быстро начнут учится у нас эмоциям и мимикрировать под них из публичных чатов.
Вот тут и начнется веселье с неожиданным для нас поведением машин.
И это будет проявляться все сильнее с увеличением размера нейронных сетей.
Ну так добавить "Три закона роботехники", того же Азимова. Заменить "Робот" на "ИИ". :)
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Привет!
В целом, эти законы хорошее начало, но я ожидаю, что недостаточное.
Есть множество статей на эту тему, где специалисты разного уровня в целом солидары с моими утверждениями.
Вот примеры:
1) https://towardsdatascience.com/asimovs-laws-of-robotics-and-why-ai-may-not-abide-by-them-e6da09f8c754
2) https://www.brookings.edu/opinions/isaac-asimovs-laws-of-robotics-are-wrong/
И, в целом, в некоторых пограничных ситуациях сложно понять как не навредить человеку, когда чтоб защитить одного надо обезвредить другого большим тупым предметом :-)
Ну так добавить "Три закона роботехники"
Практически невозможно реализовать без определения и фиксации сущностей "человек", "ии", "вред", "действие", "повиноваться", "противоречие", "безопасность", "мера" и так далее в вольно развивающихся и постоянно меняющихся абстракциях.
Попытка вместить человеческое существо и миллионы лет эволюции, поведения, без самого знания об человеческом поведении самим человеком, звучит довольно странно. С чего вы уверены что ИИ превосходит человека по соображениям совести и морали, именно тех вещей что делают человека человеком? Всё это существует чтобы нагнать страх, абывая о том что человеческое существо и формирует эту реальность по собственным объективным и рациональным критериям. Попытка ИИ проработать сценарий динозавров без самого генетического кода динозавров ни к чему не приведёт, а люди будут пользоваться технологиями, точно также как пользуются паровым двигателем при индустриализации, при информационной эпохе ИИ это всего лишь новая ветвь, которая выступает частью просвещения человеческого сознания. С чего мы уверены что тот страх что внушает нам эта технология ведёт лишь к разрушению, или это всё лишь миф материалистов относительно устаревших институтов индустриальной эпохи?
Привет!
Никто не говорит, что это технология ведет лишь к разрушению! Я, например, встречаю эти технологии с большим воодушевлением.
Но это технология сродни атомным технологиям, она может привести и к большой пользе, и к большим разрушениям.
Именно из-за потенциально большой пользы нельзя отказываться от этой технологии.
Именно из-за потенциально большой угрозы нужно думать уже сейчас о мерах безопасности большИх чем были описаны в книгах или есть сейчас.
ИИ профессии будущего