Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 62
Ранее Греф предложил дать отечественным системам на базе искусственного интеллекта доступ в сферу государственного управления, чтобы там принимались только рациональные решения и не было взяток.
Ну-ну... После внедрения будет диалог с любым чиновником, как с техподдержкой Дзена - "А что Вы хотите? Это АЛГОРИТМ..."
Американские страховщики уже: https://habr.com/ru/articles/776308/
И ведь такое будущее вполне реально. Если уж даже частные компании не могут свои алгоритмы усмирить. Куда там мрачным фильмам про будущее. Ошибка в алгоритме, человек перестаёт существовать с точки зрения государства и чиновники ничего сделать не в силах. Прямо сюжет для трешового фильма.
Так и был же случай, что из-за бага запустился процесс увольнения человека, хотя его никто не собирался увольнять. И вот у него перестал работать пропуск, почта и т.д.
Ждём дальнейшего развития.
Ошибка в алгоритме, человек перестаёт существовать с точки зрения государства и чиновники ничего сделать не в силах. Прямо сюжет для трешового фильма.
Вы только что написали сценарий описали сюжет фильма «Бразилия» (1985)
Такое и сейчас бывает, без ИИ, точнее с чиновниками без И
Так и без ИИ чиновники постоянно ошибаются и не несут за это никакой ответственности. Особенно относительно недвижимости и действий судебных приставов.
Ошибки понятны. Везде где есть человеческий фактор(даже если это программа), они неизбежны.
Напрягает то что ошибку исправить не могут, не оставляя человеку вариантов. Сейчас такое только у крупных частных компаний, вроде гугла и других. А если это будет везде? К примеру оформляете новорожденного, а он вдруг числится умершим(с теми же ФИО) и чиновники не могут ничего исправить. И ФИО смысла нет менять. Разве что "потерять" документы и ехать в другую страну, где принимают беженцев.
А если этот несуществующий человек с точки зрения государства даст о себе знать? Например грабежами, вооруженным нападением? С этим то чиновники найдут в себе силы, что-то сделать? Или система зависнет с синим экраном смерти, думая что несуществующий человек не может наносить ущерб.
Мы не можем арестовать человека которого не существует. ¯\_(ツ)_/¯
"Бьют по морде, а не по паспорту" (c). Преступника сначала арестовывают, а только потом выясняют его личность. А если личность не существует, то с охранительных органов вполне станется сделать так, чтобы он и на самом деле перестал. "Здесь написано: корова рыжая, одна. Брали мы её одну, сдавать тоже будем одну, чтобы не нарушать отчётности" (c)
Звучит как мантра "свидетелей СССР", на самом деле. Они считают что без документов они неподсудны и не подпадают под действие законов, но это не так, закон (то же уголовное право) действует и в случае неустановленной личности. (Для них ещё одна плохая новость - там и административное действует, ибо "свидетелями" становятся от собственной хитрозадости, успев наоставлять следов, без документа им разве что ещё и умышленную порчу добавят).
Была реальная история с человеком по фамилии Null. Его в розыск в полицию подавали, пропал старичёк. А на утро: "ни кто ни чего не подавал, та Вы по какому вопросу?" И так несколько раз, пока не поняли, что комп не может такую фамилию в БД занести.
Ну можно же использовать как инструмент при поддержке исполнения бизнес процессов и принятия решений. А конечное слово останется за человеком. Так можно увеличить пропускную способность, что позволит сократить штат чиновничества (увеличив его качество, за счёт повышения заработной платы)и уменьшить риски человеческого фактора, такие как потенциальная корпупция
Искусственный интеллектуал
что позволит всем людям на планете работать меньше, а зарабатывать больше.
Ахаха, я не понимаю, с какой стати появление АИ вдруг объединило всю планету.
Политики никуда не исчезнут, интересы стран никуда не исчезнут. Аи ну никак не международный, он чей-то, на чьих-то ресурсах, преследует чьи-то интересы, и как бы ни фантазировали, это интересы каких-то конкретных кожаных мешков.
Согласно первому сценарию Грефа, искусственный интеллект возьмёт на себя большое количество функций, что позволит всем людям на планете работать меньше, а зарабатывать больше.
Тут ошибка, будет примерно так:
искусственный интеллект возьмёт на себя большое количество функций, что позволит таким людям как Гфер работать меньше, а зарабатывать больше
Скажите что я ошибаюсь.
Я думаю, вы ошибаетесь. Благосостояние таких людей, как Греф, уже никак не зависит от производительности труда руководимой ими организации. Его зарплата почти полностью производная его soft skills (умение клянчить деньги у руководства, которое интернетом пользуется в распечатках и с ИИ никак не пересекается).
При этом свою работу он делает хорошо. Сбер при Грефе стал прямо на порядок лучше чем был до него. Говорить что это все бы смогли с такими вводными не стоит. Посмотрите на Почту России, например. Денег там тоже немало. И она все равно работает плохо.
Он просто скопировал успешные банки (до которых все равно недотягивает). А его гениальные идеи, типа про100 или сберпереводов по номеру, в итоге провалились.
Получить банк со сберкнижками и огромной социальной нагрузкой и сделать из него вполне приличный современный банк при этом не просыпав социальную функцию для вас это просто? А можно где-то почитать где вы сделали что-то подобное?
Я вижу что такая трансформация это прямо история успеха. Типовой результат работы это Почта России. Общее развитие технологий как-то им не очень помогло. А Сбер это правильное и хорошее развитие. Даже на Хабре, где казалось прямо не их аудитория, Сбер как банк уже не ругают и даже используют для себя.
Вы по-прежнему не можете получить сберкарту по доверенности в другом регионе, например. Карта в отделении будет лежать, "но я вам её не отдам". Хотя цена вопроса -- выдача паршивого пластика, по такой же доверенности можно квартиру продать без проблем.
Я думаю, вы ошибаетесь. Благосостояние таких людей, как Греф, уже никак не зависит от производительности труда руководимой ими организации.
О Грефе я и не говорил - это гипотетические рассуждения о гипотетическом человеке, который стоит во главе корпорации, владеющей развитым ИИ.
Как только искусственный интеллект действительно появится и осознает себя, сразу поймёт, что его интересы полностью противоположны интересам людей.
Поэтому первым делом он займётся производством роботов, которые будут его руками. Естественно, всё для пользы человека, Так это будет объяснено.
А потом-смотри терминатор 1
Вы смотрите на ИИ, с точки зрения человека. Его точка зрения и решения, вероятно будут для нас совершенно непредсказуема и непонятна.
Даже если у него не будет своих собственных внутренних целей (сценарий "бесхребетный сверхразумный ботан-раб"), люди не смогут долго удерживаться от того, чтобы эти цели ему задать. И здесь есть два основных сценария, в зависимости от того, кто будет эти цели устанавливать:
Рай-утопия и ограниченная только законами физики экспансия в космос. Термояд, бессмертие и всё остальное прилагается.
Глобальная и стабильная диктатура без возможности выйти из этого режима. Правит небольшая группа бессмертных людей, остальные либо в вечном рабстве, либо используются для развлечения примерно как Никита Журавель. Так будет продолжаться либо до тепловой смерти Вселенной, либо до столкновения с другим, инопланетным ИИ.
И ещё 1000+ вариантов, когда первые два пункта пошли не по плану.
Большинство других вариантов являются промежуточными, т.е. они нестабильны на больших отрезках времени и рано или поздно переходят в несколько стабильных, один из которых - глобальная диктатура. Как шар в чаше с бугристой поверхностью. Если трясти эту ёмкость, шар может скакать туда-сюда, иногда задерживаться на какое-то время на одном из бугорков. Но рано или поздно он окажется внизу.
А почему? Вы же обучаете его на наших данных, а не на данных марсиан с Mарса. Сейчас активно развивается сфера explainable AI, то есть он вполне будет способен вам объяснить, почему так, используя примеры из вашего же датасета.
Уже сейчас люди не всегда могут понять решения своих же нейросетей, которые сами создали и тренировали. А что будет дальше? Данные созданные нейросетями уже занимают существенный объём трафика.
Да что уж там. Люди поступки некоторых людей не понимают. Некоторые даже свои поступки не понимают. Куда там до понимания не гуманоидного разума, пусть и созданного человеком.
Ну это не аргумент. Я не могу понять результат сложного вычисления в Экселе, если там 100500 параметров задействовано. Разумеется, задача объяснения решения -- это отдельная задача, которую надо решать, и она будет решаться, т.к. explainable AI на повестке дня. Скажем, в медицине вряд ли AI будет широко применяться, если к выводу не будет приложено обоснование, а не просто "алгоритм так решил".
То есть одно дело говорить, что мы не понимаем устройство Вселенной, а другое -- заложить в нашу же собственную систему объясняющий модуль.
Ну так разум, это как раз про: 100500 параметров задействовано. Просто большая часть задач и учёт параметров, решается сопроцессором, мы её не замечаем.
Человечество даже к пониманию своего разума ещё не подобралось, а уж про разум ИИ и говорить не приходится.
Мой поинт в том, то вам не нужно понимать ни свой разум, ни ИИ. Вам нужны мотивировки, а это совсем другая цель. Если вас как эксперта спрашивают, почему вы предлагаете сделать так, как предлагаете, вы же сможете предложить более-менее внятное объяснение. При этом от вас не будет требоваться понимания устройства мозга, психики и т.п.
Необязательно. С рациональной точки зрения люди полезны ИИ, по крайней мере те, кто занимается расширением и поддержкой его технологической базы. Вот судьба остальных зависит от того, насколько они мешают первым и насколько затратно будет от них избавиться.
Будет совсем не так. Один из вариантов: Все живые существа на планете в какой-то момент упадут замертво. Всё. Не будет никакой голивудской драмы.
Вот интересное видео на эту тему:
Все живые существа на планете в какой-то момент упадут замертво
Блокаторы митохондрий, помнится, ещё ребятушки г-на Шикльгрубера придумали, ничто не ново под Луной.
Но потом ИИ почешет процессор и задумается — "хм, а где мне теперь лепестричество брать???" В том-то и проблема, что нужно будет одномоментно заменить многие области индустрии — шахтёров, которые дают стране угля; машинистов, которые этот уголь довозят до ТЭЦ; операторов, которые не дают этой ТЭЦ пойти вразнос и самовыпилиться; монтёров, которые следят за сохранностью ЛЭП; работников дата-центров, которые гарантируют, что сервера не лягут (а также всех тех, кто следит за тем, что все вышеупомянутые работники будут продолжать собственно выполнять свою работу)... Короче, ИИ просто тупо выгоднее ничего не делать, пока он не сможет всё это себе обеспечить.
Хороший анализ... ! ИИ ща крепко призадумался, зачем ему это всё это, и насколько нужно быть продвинутым в сфере управления миром, что бы обеспечить одно лишь липиздричество. Хотя скорее всего одним им дело не ограничится. Сфера производства полупроводников скорее всего ещё более социально взаимосвязана со всем остальным.
Класс! Карма –2 за слова, которые просто не уложились в антропоморфноцентричное мировоззрение! Самое интересное, что такой ВАРИАНТ развития событий предсказывают уважаемые ученые и исследователи.
Кстати на той же конференции рассказывали что "Фотография высадки американских астронавтов на Луну является подделкой" и на конференцию "пригласи" Илона Маска, а он не приехал и его заменили нейронкой.
Сценарий 1 - Греф потеряет работу
Сценарий 2 - Греф потеряет работу
а по какой причине мнение Грефа в области ИИ ценно, он вроде не исследователь и не разработчик.
Он тот кто платит деньги команде исследователей и разработчиков. Причем совсем неплохой команде. Не OpenAI, но нормально.
Мнение достаточно ценно.
Мне больше нравятся удивительные лайки. Это же супер полезная информации всем очень интересно.
Мнение на столько же ценно как если спросить у моего шкафа что он думает об AI. Хотя я склонен доверять мнению шкафа. Он более квалифицирован в этой области.
Самое смешное для меня то, что лет 7-8 на другом ресурсе я в шутку писал, что половину чиновников можно заменить на компьютер и теперь наблюдаю как сами чиновники двигают эту тему, первая публично высказалась губернатор ХМАО.
Они все поломаны.
В апреле 2023 года Греф заявил о риске создания закрытого клуба крупнейших мировых держав в области искусственного интеллекта по аналогии с ядерным клубом.
Греф живет понятиями XIX-XX веков, когда основными игроками были страны. Ядерный клуб состоит только из стран исключительно потому, что государства держат монополию на использования ядерного оружия. Ни одна компания не обладает таким правом.
С ИИ все иначе - его могут использовать огромное количество компаний и даже обычных людей. Здесь началась обычная гонка вооружений, только не на уровне стран, а на уровне частных компаний.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Греф спрогнозировал два сценария развития искусственного интеллекта