Комментарии 148
===
p.s. кстати сердце не очень хороший пример вещи которым както сложно управляет мозг, потому что сердце работает практически независимо от мозга и вообще может функционировать отдельно от человека не особо сильно потеряв в функционале
С одной стороны, согласен. Но всё же, постепенно и незаметно мы начали заменять ИИ чёрт знает что. И если стихи он не пишет и программы не кодит, то управлять гашим поведением уже может.
Что посмотреть с друзьями?
Что купить этим летом?
Чем заняться в выходные?
Возможно нам, защищенным фильтрами рекламы и анти-тракерами с тором это нереально, но фефы живут по правилам гугла.
ИИ тут просто заменил человека который делал такие выборки вручную… и ИИ тут звучит слишком громко, всякие рекомендательные системы существовали до того как их начали ИИ называть.
p.s. слышал уже даже то что фотодатчик освещения называли ИИ..(рукалицо)
но всёравно я поражаюсь что среди многих Итшников всёравно очень много людей который на полном серьезе считают AI потенциальной заменой обычному человеку в плане мышления
А я поражаюсь очередному elan vital. Есть физическая система, которая, по-видимому, без всяких квантовых штучек и нарушения физического тезиса Чёрча-Тьюринга реализует интеллект общего назначения (человеческий мозг), но многие почему-то считают, что воспроизвести аналогичную функциональность на кремнии невозможно.
по-видимому, без всяких квантовых штучек и нарушения физического тезиса Чёрча-Тьюринга реализует интеллект общего назначения (человеческий мозг), но многие почему-то считают, что воспроизвести аналогичную функциональность на кремнии невозможно.
а я не говорю что невозможно. проблема тут в том что
1) никто не знакт как работает интеллект (есть некие утверждения и факты которые точно говорят что например химия и электричество — напрямую на него влияют также есть гарантированные подтверждения что он учится и использует нейросеть, но единой теории как это работает в куче ни у кого нет, это как автомобиль разобранный на части… вы знаете как каждая часть работат по отдельности но не можете собрать его в одно целое… точнее он собирается но никак не едет)
2) то как это делает сейчас ИИ — явно не попытка повторить функциональность мозга, точнее это попытка повторить черный ящик используя какието имперические сведения о том как работает мозг
попытка повторить черный ящик используя какието имперические сведения о том как работает мозг
Нет, конечно. Эмпирические данные о работе нейронов используются в основном в вычислительной нейробиологии, а не в ИИ. В ИИ данные о мозге используют разве что как источник, гм, вдохновения. Например, единственная общая часть механизмов внимания в искусственных нейронных сетях и мозге - это скорее всего слово "внимание".
И, как вы правильно заметили, полного понимания механизмов работы мозга нет, так что полезность отрывочных эмпирических данных для проектирования работающих на кремнии искусственных нейросетей сильно ограничена. Кроме того архитектура используемая мозгом может быть не единственной архитектурой, пригодной для реализации искусственного интеллекта общего назначения. Так что есть вероятность того, что сильный ИИ будет создан без полного понимания механизмов работы мозга.
А если мы повторим не коннектом или не интеллект, а физический мозг как набор молекул? Это будет гораздо сложнее вычислительно, но позволит вообще не париться о том, как работает мозг. Лишь бы электроны летали и хим. реакции происходили как надо.
Ну, я вам скажу, как это провернуть. Сперва найдите подходящую девушку...
Смысл тратить сотни нефти, чтоб повторить что-то, что уже существует в количестве 1.5 лярдов копий? Только познавательный, но ни как не практический.
Я немного неправильно выразился. Имелась ввиду симуляция, причём не на уровне нейронных связей или информационных процессов, а на уровне отдельных атомов. Причина проста - бессмертие через загрузку сознания.
Так это не симуляция, тем более на уровне атомов, это копирование. Не зная принципов построения на высоком уровне, что вам даст построение на уровне деталей? Вряд ли кто-то тут сомневается, что точно повторив структуру на атомном уровне мы получим точную копию, хотяб и мозга. Вот только до таких технологий нам сильно далеко, даже принципиально. Ведь нам надо повторить не статистически, а детально, это необозримое будущее. Тут весь холивар за то, что мы можем упростить модель и воспроизвести с таким-же результатом, но на других принципах. И одни говорят, что может получится лучше, другие хуже, а третьи, что не получится вообще.
что не получится вообще
Гипотетическая возможность скопировать мозг на уровне атомов в машину - более общая задача. Если не удастся пойти от реверс-инжиниринга мозга или вообще создать нечеловеческий интеллект - придётся делать копию и тренероваться на ней. Можно даже не делать копию целого мозга(негуманно, мол), а отдельных областей.
Говоря по айтишному - если условную mario можно запустить в эмуляторе приставки, то её можно перекомпилить и для хост-системы. Просто из-за хаотичного процесса формирования цнс человека, написание эмулятора физики и оцифровщика выйдет дешевле, чем перекомпиляция разума каждого отдельного человека.
Говоря по айтишному - если условную mario можно запустить в эмуляторе приставки, то её можно перекомпилить и для хост-системы.
В старых играх, из-за ограниченности ресурсов, делали некоторые вещи, типа цепочки null команд, которые приводили к нужному результату только на определённой платформе. И тупо перенеся исходник на другую платформу, не зная логики, игра может и не заработать. Это по поводу, что можно воспроизвести работу в деталях на другом железе. Более того, сейчас это звучит не "на другом железе", а на "этом железе", потому, что выбор альтернатив у нас не велик, переносить собираемся на "кремний".
Я говорю о принципиальной возможности, а не о том, что всё заработает сразу без правок.
Другое железо == другая(не биологическая\белковая) платформа. Просто факт переноса на ЭВМ даст возможность выбирать любую тьюринг-полную машину.
А я говорю, что без детального понимания, как работает исходник, это может быть и не возможно. А понимая ,как работает исходник, это будет совсем другой вид инжиниринга. И строить предположения, как можно будет эмулировать процесс с нужной степенью детализации - глупо.
Не знаю, вот у вас есть паровоз. Вы не знаете, что у него внутри. Но знаете, что он ездит, пыхтит, дымит и в него заливают воду. А у вас есть арба запряжённая осликом. Вы сами её сделали и ослика сами купили, выбрав со знанием дела. И вы сидите и думаете, как арбу сделать как паровоз. А я знаю, как он устроен и на каком принципе работает. И когда я захочу сделать арбу похожей на паровоз, я про ослика даже и думать не буду, а спрошу у вас, где вы брали колёсную чеку на арбе, чтоб попытаться заказать там паровой котёл. Что поставит вас в тупик - как колёсная чека похожа на паровоз?
существует в количестве 1.5 лярдов копий
Вроде на Земле живет почти 8 миллиардов, у остальных нет мозга?
т.е. вы не знаете, и склонны экстраполировать это незнание на все человечество? ;)
Правильно говорить «нет единого мнения», или «не пришли к соглашению». У каждого первого исследователя в области ИИ есть свои соображения на этот счет (иначе в общем довольно сложно работать — не имея никакой рабочей теории).
Судя по тому вектору развития, который я сейчас наблюдаю, довольно много команд имеют эти самые «рабочие теории» и последовательно решают самые разные задачи, на пути к окончательному решению. Со стороны это может показаться хайпом и теми же «граблями», что и раньше, но мне вот к примеру так не кажется. Прикол в том, что ряд проблем, к которым я не знал, как подступиться буквально 5 лет назад сейчас внезапно оказались решенными. Именно те проблемы, которые надо!
Так что я думаю все будет и будет довольно скоро. Хорошо это или плохо — отдельный вопрос…
Ну так автор о том и говорит.
«рабочие теории», «не пришли к соглашению» и тому подобные отговорки — это как раз переводится на профессиональный язык как «мы понятия не имеем, но очень сильно стараемся»
Кем переводится? ;) Вами? Автором? Мной вот не переводится. Если есть хотя бы один человек, располагающий рабочей теорией о том, как бы оно могло бы работать, а так же у него есть ресурс для того, что бы на практике эту теорию реализовать, то вне зависимости от того, что думают об этой теории я, вы, автор и все прочие — данный человек вполне может достичь успеха в своих изысканиях, не так ли? И тот факт, что он не добился признания своей теории в «академических кругах» ровным счетом ни о чем не говорит — скорее наоборот: академическое сообщество ДОЛЖНО демонстрировать некую инертность, что бы не принимать всерьез всевозможные гипотезы без их практического подтверждения…
Хорошо это или плохо, но боюсь единственным практическим подтверждением сильного ИИ (AGI) будет его реализация на практике… Я не вполне уверен, что мы все этому обрадуемся, но… Судя по тому, что я наблюдаю сейчас — примерно так оно и будет.
«не пришли к соглашению» и тому подобные отговорки — это как раз переводится на профессиональный язык как «мы понятия не имеем, но очень сильно стараемся»
Вообще не так.
Давайте посмотрим с другой стороны. Можете назвать человека, который понимает как работает современный компьютер? Хотя бы одного?
Не сможете, потому что в голову одного человека уже не поместится весь пласт знаний, чтобы с нуля создать современный компьютер. Нужно множество специалистов. А сейчас множество специалистов не пришли к единому соглашению, поэтому мы имеем и разные архитектуры и разные стандарты.
Я немного притянул за уши, но я сомневаюсь, что мозг человека это та вещь, которую в принципе можно изучить на 100% в одиночку, даже если обложиться учебниками и курсами в 3 года. И не стоит забывать, что мозг не существует сам по себе. Без всей нервной системы, без всех сигналов которые мозг получает от всех органов чувств, он не сможет функционировать, поэтому тело целиком - это тоже часть нашего мышления и источник сигналов/мыслеидей.
И как он работает - принципиально уже понятно. Другой вопрос, что реализовать и воплотить эти идеи в виртуальной эмуляции или на другой платформе - задача по ресурсам сложная.
Это как передвинуть Луну - вроде как всем принципиально понятно как это сделать. Формулы есть, технологии есть, возможно даже ресурсы есть, но это ресурсы, которые не потянет ни самый богатый человек ни самая богатая страна. Но теоретически человечество может это реализовать. Тоже и с мозгом.
Мозг - принципиально познаваем. Реализовать "думающую" модель, которая подтвержденно будет иметь высокий уровень интеллекта для оперирования абстракциями - это уже утверждение, а не вопрос.
Но получится ли достичь чего-то большего малыми темпами и малой кровью, и сколько на это уйдет времени - неизвестно и непредсказуемо. Может быть порог и не будет перейден, ибо у спонсоров нет такой потребности - реализовать полноценную имитацию человека.
физического тезиса Чёрча-Тьюринга
Как минимум это все еще весьма сильное утверждение.
Не такое уж и сильное. Пока нет никаких свидетельств того, что люди обладают супер-Тьюринговыми вычислительными мощностями. Нет даже свидетельств того, что люди обладают повышенной вычислительной мощностью на классах задач ускоряемых квантовыми компьютерами. Мы не можем быстро разложить число на множители и т.п. Отсутствие свидетельств в пользу гипотезы увеличивает вероятность неверности этой гипотезы.
Как-то связать наличие у нас сознания с нарушением этого тезиса, по-моему, тоже ни у кого не получилось. Самое близкое, что я видел, это - "The Ghost in the quantum Turing machine" Скотта Ааронсона. Но и там речь идёт не о связи сознания с возможностью решать интеллектуальные задачи, а о теоретической возможности квантовых процессов, позволяющих сделать абсолютно свободный выбор, ретроспективно изменив начальные условия Вселенной.
Ну стоит признать, что аргументы за неалгоритмичность сознания носят скорее онтологическую природу - китайская комната, книга-эйнштейн, гёделевский аргумент
Но выглядят эти утверждения достаточно сильно, чтобы их сразу отбрасывать. Отсутствие принципиальных аргументов против этой гипотезы увеличивает вероятность ее правоты. (:
Про рассуждения за и против этих аргументов можно написать книгу (да и написаны уже). Но, что характерно, экспериментальных проверок идей, высказанных в этих рассуждениях, нет даже на горизонте. А если и отрицание и подтверждение гипотезы не приводит к различию в ожидаемых наблюдательных результатах, то никакие наблюдения или их отсутствие не могут повлиять на вероятность её истинности. Так что в каком-то смысле это вопрос веры.
Китайская комната - аргумент, запутывающий нашу интуицию относительно понятия "понимание". Никаких практических выводов из него не следует. Китайская комната по условию мысленного эксперимента идеально реализует всю функциональность, которую мы связываем с пониманием (а от ИИ нам больше ничего и не надо).
Книга-эйнштейн - физически нереализуема в нашей Вселенной.
Гёделевский аргумент предполагает, что мы можем выйти за пределы любой формальной системы, хотя наши способности в этом плане могут быть ограничены.
Почему вы думаете, что это «доступно только человеку» и как это связано с «абстракцией»?
При тренировке RL-Агентов крайне важным параметром является так называемое «любопытство» — некое случайное действие не приносящая непосредственной выгоды, но позволяющее находить стратегии потенциально лучше уже существующих (если бы не было этого параметра, агент всегда действовал бы по одному единожды найденному сценарию). Чем вам не «пойду туда, не знаю куда»? ;) Или вы что-то иное имели ввиду?
А абстракция… Ну как правило в глубоких нейронных сетях каждый следующий слой нейронной сети работает с абстракциями более высокого уровня… Т.е. абстракция там как бы одно из краеугольных понятий архитектуры…
вот уже ИИ умеет сочинять музыку и писать стихи буквально лучше человека'
Ну если послушать современную музыку, то ИИ однозначно сочинает и музыку и стихи лучше отдельно взятых людей.
вот вот и программисты будут не нужны
Ну тут дело не в АИ. Простые алгоритмы и конструкторы заменили тех, кто раньше считался программистом, а сейчас не дотягивает даже до уровня джуниора. Поэтому множество рабочих мест заменяется АИ, также как в прошлом заменялись конвейером, промышленностью и другими изобретениями. То, что АИ при этом не стал думать как человек - это другой вопрос.
Ну если послушать современную музыку, то ИИ однозначно сочиняет и музыку и стихи лучше отдельно взятых людей.
Извините, но вот это смелое утверждение имеет ли какие-то основания, кроме Ваших личных вкусовых пристрастий? Я ужЕ не говорю о том, что это за "современная музыка" как целостное понятие? За стихи промолчу.
Очень много намешано в статье, от ии-фобии до углеводородного шовинизма. Начнем с фундаментального.
0. Физика существует, закономерности физики вытекают из наблюдений. У нас есть какая-то, более-менее непротиворечивая модель того, что из себя представляет реальный мир.
1. Мозг является материальным объектом, и работает благодаря законам физики. В нём нет магии, пятого типа взаимодействия или души. Это очень сложный, но всё равно, конечный в своей сложности объект
2. Процессор так же является материальным объектом и не содержит магического дыма или зелёных человечков. Принципы работы процессоров известны, это просто сложная электрическая цепь.
3. Программы работают на процессорах и тоже не содержат никакой магии.
Если любое из этих четырёх утверждений неверно, прошу указать на это.
Теперь, если программы работают поверх процессора, то программы не могут сделать ничего, что не может сделать процессор, т.к. процессор для них фундаментален. Процессор не может сделать ничего, что не было бы возможно в наблюдаемой нами физической реальности, так как она фундаментальна для процессора. Мозг так же не может сделать ничего такого, что невозможно в наблюдаемой реальности. Мозг и процессор используют одну и ту же физическую реальность и оба являются тьюринг-полными машинами. Реализация тьюринг-полной машины поверх не-тьюринг-полной системы невозможна, следовательно, как вычислительные машины, мозг и компьютер сводимы друг к другу.
То, что вотпрямщас машины не могут мыслить как люди - проблема не самой концепции вычислительных машин, а текущего уровня развития информатики и прочих computer science.
А вот Вы, Никита, Активист-Механист, объясните мне пожалуйста, как информация записывается в мозгу, и как так вышло, что я помню события тридцатилетней давности, в ту пору когда мне было пять лет?
Как так, все клетки в мозгу у меня уже много раз сменились, а информация всё там же?
Я не говорю про магию. Я не говорю про волшебство. Я говорю про то, что вы и понятия не имеете, как работает эта машина. Вот вообще никакого понятия. Но, при этом, по чёрт знает какой причине, сравниваете человеческий мозг с процессором, как будто у вас в руках есть распиновка вашего мозга.
Не называйте себя специалистом в области, в которой вы ничего не знаете.
Я не говорю что мозг — это не физический объект. Я говорю что вы и понятия не имеете о том, как он работает, но вот, прямо как живой пример статьи, сравниваете его с процессором.
Я не называл себя специалистом. Процессор и мозг являются тьюринг-полными, это единственное сравнение, которое я привёл. Я не сравнивал ни принцип работы памяти, ни её объём, ни производительность в операциях в секунду, ни пропускную способность, ничего.
Я даже сделаю маленькую пометку - мозг практически тьюринг-полный, но из-за памяти с большим количеством ошибок, истинно тьюринг-полной будет система из мозга и внешнего источника памяти, например, хотя-бы бумажной ленты с карандашом и ластиком хотя хватит и очень большой пустыни и кучи камней.
Я говорю что вы и понятия не имеете о том, как он работает
Для того, что-бы доказать тьюринговскую полноту мне не нужно знать наизусть коннектом, или даже типы нейронов. Достаточно сравнить внешние признаки функционирования мозга и компьютера. А что там конкретно внутри - выяснят профильные специалисты. И да, общее представление как работает мозг у меня есть.
Как так, все клетки в мозгу у меня уже много раз сменились, а информация всё там же?
Избыточность. У вас есть raid5-массив, вы сменили один диск, потом второй, потом третий. Все диски сменились, но информация там же. Как так возможно?
И да, я не говорю, что мозг==компьютер, я лишь говорю, что мозг и компьютер относятся к одному большому классу тьюринг-полных вычислительных машин, вместе с игрой Жизнь или common lisp. Значит ли, что у common lisp есть разум? Нет конечно, размеры несопоставимы.
Вы сравниваете тёплое с твёрдым.
Подводить мозг и процессор под один класс устройств, только потому что оба они Тьюринг-полные это просто жесть.
Почему нет? Что фундаментально разного в мозге и в компьютере? Духовность? Любовь? Вдохновение? Я называю это побочными процессами.
Правильно было бы это назвать внешним и внутренним состоянием. Всё-таки эмоции, это во многом - гормоны. Т.е. вообще вне-мозговая активность.
Не совсем. Есть гормоны, есть нейромедиаторы. Есть гормоны-нейромедиаторы. Например, ГАМК - нейромедиатор, но не гормон, норадреналин - и гормон и нейромедиатор, кортизол - гормон, но не нейромедиатор. Обычно о гормонах говорят, как о веществах, имеющих активность в адрес органов, сосудов, мышц, но не ЦНС, и наоборот для нейромедиаторов. А такие нейромедиаторы как дофамин и серотонин синтезируются именно в мозгу. Так что не скажу про любовь, но различные привязанности(как положительные, так и зависимости), ощущение чего-то "религиозно-мистического", и прочие подобные вещи - это внутренние состояния и процессы мозга.
Как так, все клетки в мозгу у меня уже много раз сменились, а информация всё там же?
Иван, Вы это сейчас серьёзно вопрос задаёте или просто в нейробиологию углублять знания (хотя бы гуглом) не желаете? Или это просто "на вентилятор набросить"?
Прикол не в клетках. Прикол в том, что мы всё так де не знаем, что именно и как именно, где и в какой кодировке всё это хранится.
Биологический мозг в этом отношении по многим параметрам близок к искусственным сетям. Там это самое дублирование+обобщение работает совершенно иначе, но работает тоже. Поэтому, во-первых да: нейроны обновляются постепенно, а не вымирают кластерами, а во-вторых…
Вы не задавались другим вопросом: не что вы помните из своих 5 лет, а что забыли? А забыли вы гораздо больше, чем помните, на самом деле. Мало того — вы забываете большую часть того, что с вами происходит. По сути вы забываете всю информацию, которая не была востребована в течении какого-то периода времени (возможно как раз связанного со сроком жизни конкретных нейронов). Сохраняется только то, что вы постоянно обновляете — если это воспоминание из детства, то либо вы к нему возвращаетесь снова и снова, переодически вспоминая по какому-то тригеру, или… Это воспоминание является частью более широкого ОБОБЩЕНИЯ, которым вы так или иначе пользуетесь постоянно.
В общем концепция памяти, ее биологическая и… Ну если так можно сказать — математическая модель вполне существует. Есть реализации в железе (не буквально, и не «имитирующие реальную», но вполне работающие на практике!), только не путайте — это не какой-нибудь там DDR6 на 32Гб. Это так называемая память с адресацией по содержимому — штука очень не практичная в обычном понимании, но в силу дифференцируемости доступа — единственное возможное решение в построение современных ИНС.
Как так, все клетки в мозгу у меня уже много раз сменились, а информация всё там же?Да, клетки обновились, но стоят они на тех-же местах и имеют теже связи. Поэтому Вы не потеряли информации.
объясните мне пожалуйста, как информация записывается в мозгу, и как так вышло, что я помню события тридцатилетней давности, в ту пору когда мне было пять летИнформация в мозгу хранятся в виде графа, в котором узлы базовых понятий используются для выстраивания последующих ассоциаций-понятий, которые потом точно также используются для выстраивания следующих ассоциаций и т.д. По сути бит информации в мозге не имеет размерности. Это самый эффективный алгоритм компрессии, который может быть придуман. По своей сути это самоорганизующийся словарь, каждый узел которого — понятие в самом-же словаре. Мы мыслим только категориями «слов» из этого словаря. Память у нас ассоциативная.
Не называйте себя специалистом в области, в которой вы ничего не знаете.Мозг изучен не полностью, но с уверенностью можно сказать, что базовая его работа на текущем этапе вполне изучена. Так что это оставьте себе. Потрудитесь почитать монографии — они в открытом доступе лежат.
Я не говорю что мозг — это не физический объект. Я говорю что вы и понятия не имеете о том, как он работаетВы можете говорить все что угодно — истиной оно от этого не станет. Так что хватит пороть антинаучную чушь.
Мы — точно такой-же алгоритм с нечеткой логикой. И поскольку мы живем в этой вселенной, значит создать подобный алгоритм на другой базе вполне возможно.
Развитой AI вполне сможет и стихи нормально писать и размышлять и понимать любовь. Или Вы считаете, что алгоритм обязан подчиняться жестко чему-то? В таком случае алгоритм случайных чисел, работающий на атомном распаде категорически с вами не согласен :)
Другое дело, что AI сейчас находится в самом зачатке и говорить что вот вот наступит Скайнет — это смешно.
Но нейросеть, например, — это первый шаг к адаптирующимуся, обучающимуся и ассоциативныму мышлению. И она, внезапно, построена по образу работы нашего мозга.
Сомнительно. У нас есть теории о том, как он работает. Но вот на практике мы это доказываем с переменным успехом.
Нет еще такого щупа, который может считать информацию с нейронов на диск. Не напряжение на нейронах и не их связи, а воспоминания о том, что яблочный сок — самый вкусный.
СомнительноДля вас — сомнительно, для тех, кто работает с мозгом — очевидно.
Нет еще такого щупа, который может считать информацию с нейронов на диск.Давно есть, например базовые реакции и поверхостные ассоциации можно уже считывать. Там проблема больше не с тем, чтобы считать, а чтобы разжать и дешифровать. Мало того, если вы «поднимете» свое воспоминание в поверхостную область памяти — т.е. вспомните и будете держать это в реальном времени — например простое изображение — его тоже уже можно будет считать и посмотреть.
Вобщем, читайте больше, чем пишите — и придете к реальному положению дел в этой области.
https://habr.com/ru/post/175627/
Вот. А субьективные вещи, вроде "самого вкусного сока" - это информация об информации, она не хранится напрямую(как минимум до момента, когда вы её запросите)
Мы — не алгоритм. Мы — создатели. Для алгоритма мы — Боги.
Писать стихи по правилам сплетения строк можно. Пишите их алгоритмом. Это будет просто поток слов.
А вот я в семь лет в школе стоял и в слух читал Вересковый Мёд Хемингвея. И училка расплакалась. Алгоритм такого не может.
Мы — не алгоритм.Нет, увы. Мы обычные высокоорганизованные алгоритмы, способные к логическому и ассоциативному выводу и самообучению. Как бы вам не хотелось :D
Для алгоритма мы — БогиДля того, который создали сами — возможно :D
А вот я в семь лет в школе стоял и в слух читал Вересковый Мёд Хемингвея. И училка расплакалась. Алгоритм такого не может.Вполне может. Даже сейчас. Вызвать эмоцию не сложно, если знать правила, которыми эта эмоция вызывается. И это еще одно доказательство, что все, пусть и сложно — но заскриптовано. НЛП машет вам ручкой.
Так что увы и ах — не ассоциируйте себя с тем, кем вы не являетесь.
Это вы себя алгоритмом считаете, потому что с ними работали всю жизнь. Вот, пойдите, посмотрите на Люсю с четвёртого подъезда. У неё вся жизнь — опера. Она просто оперная певица. Поговорите с такими людьми. Они — другие.
Бабушка Муся, которая лущит семки на скамейке работает по другому принципу.
Они — другиеОни просто об этом не задумывались. Матрицу, что-ли, посмотрите ))))
Ладно, беседу закачиваю — не люблю во-первых доказывать очевидные вещи, а во-вторых спорить с фанатиками, тем более с воинстующими, извините.
P.S. «Never argue with stupid people. They will drag you down to their level and beat you with experience» Mark Twain.
В принципе любая система, способная создавать алгоритмы для решения поставленных задач имеет очень хорошие шансы в конкурсе на звание «Сильного ИИ». Но! Важно, что бы это не был просто «алгоритм второго порядка», т.е. строгое правило по перестановке имеющихся «библиотечных» функций для достижения нужного результата… Хотя… Если будет найден такой «алгоритм», и не для некоего класса задач, а для любой Произвольной задачи — технически даже он вполне неплохой кандидат в AGI… ;) И вопросы вычислимости, полноты, перебора, сложности — и тп тут не принципиальны: человек в целом так себе вычислитель! Просто он действительно универсален. Он способен искать решение чего угодно, при этом от простого перебора/брутфорса его методы отличаются настолько, что никакие эвристики не помогут — иногда иначе чем инсайтом/откровением свыше не объяснишь… Но! Как я уже писал ранее — на м не обязательно повторять человека. Нам нужно любое решение, которое не столкнется с комбинаторным взрывом в процессе… И некоторые туманные перспективы в этом направлении, как мне кажется начинают вырисовываться… ;)
Я правильно полагаю, что основание для такого взгляда - это запрещающие теоремы (проблема остановки, теорема Райса)?
Но проблема остановки не запрещает то, что делают люди: генерируют алгоритм (возможно с ошибками) или выдают "что-то задача сложная, давай переделаем её вот так и тогда можно написать так".
Вот если бы люди всегда генерировали правильный алгоритм для решения заданной задачи или выдавали "решение отсутствует", если оно действительно отсутствует, то тогда это было свидетельством в пользу неалгоритмической природы человеческого мышления.
Ну, я очень много сталкивался именно с таким подходом к вопросу, но мне он не близок. Я согласен, что человек в этом плане ничем особенным не отличается. ;)
Тут другое… Человек каким-то образом нащупывает решение проблемы без полного перебора, и одними эвристиками (то бишь чисто эмпирическими правилами, отбрасывающими «тупиковые» ветки) это не объяснить… Однако мне кажется, что решение лежит где-то в области латентных пространств глубоких нейронных сетей. Вопрос: как правильно сформировать такое пространство? Мне почему-то кажется, что половина существующих топовых архитектур являются этапами в решении этой задачи.
Проблема не в том, что бы всегда быстро и безошибочно генерировать решение произвольной задачи… И даже не в том, что бы находить хоть какое-то решение. А в том, что бы находить НАПРАВЛЕНИЕ, в которым нужно двигаться, что бы решение найти. ;)
И даже не в том, что бы находить хоть какое-то решение. А в том, что бы находить НАПРАВЛЕНИЕ, в которым нужно двигаться, что бы решение найти.
Я думаю обычно таких направлений множество, кроме редких областей, где нужно протиснуться сквозь игольное ушко требований вроде космонавтики (да и там новые способы находят: баки из нержавейки и переиспользование, например). А ощущение единственной правильной найденной дороги создаётся из-за наших когнитивных ограничений: вот! дорога! других нет! Потом смотришь, что другие на эту тему придумали, а дорог-то много. Ну и те, кто пошёл по неверной дороге в историю редко попадают больше в истории.
Впрочем, у существующих искусственных нейросетей есть проблемы даже с тем, чтобы оставаться на одной дороге: проблемы с иерархическим планированием, проблемы с дальними корреляциями и т.п.
Да в общем… Нет. ;) В том смысле, что человек, как правило, в общем случае тоже вроде бы не страдает заблуждением, что его решение — единственно верное. И на самом деле он часто, мягко говоря, не самое эффективное. И перебор и просчет некоторых в конечном счете тупиковых стратегий — довольно частое явление.
Дело в том, что человек легко переключает контексты, способен использовать универсальный опыт для решения новых задач, способен легко переключать цели (в отличие от RL Агентов у которых каждое действие всегда взвешено в контексте заданного goal, т.е. не просто инвертировать цель, типа игра «в поддавки», когда "+" превращается в "-" и наоборот, а скажем пройти игру не используя оружия или еще что-нибудь экзотическое). Универсальность — ключевое качество. Возможность решать произвольную задачу без перенастройки архитектуры. В последние годы есть несколько заметных прорывов в этом направлении (вплоть до того, что сети обученные на тексте, способны решать задачу классификации картинок — не самое знаковое, но однозначно впечатляющее достижение!).
Решить — может и не сможет (в конце концов не у всех задач есть решение), но решать будет! )
Мне кажется, что прежде чем создавать интеллект сильнее человеческого, было бы неплохо создать интеллект сопоставимый человеческому (я даже готов пойти на компромисс: пусть он будет тупее, но не менее универсален!).
Т.е., если столь уважаемые люди не могут найти решение, то и AGI вовсе не обязан в первом приближении их в этом превосходить (по крайней мере до момента достижения технической сингулярности). Цимес в том, что вы сможете его этой проблемой озадачить, без необходимости строго под нее разрабатывать отдельный математический аппарат. При этом: а) его N% времени на решение проблемы будет равно 100; б) его ресурс на развитие, получение дополнительных знаний, самосовершенствование да и просто время жизни потенциально стремиться к бесконечности, в) в принципе число таких «решателей»вашей проблемы ограниченно лишь их стоимостью оных и вашими возможностями их оплатить (не знаю, как еще это сформулировать, но думаю вы понимаете, что речь не вполне о деньгах). Согласитесь, вам бы не помешали 5(7, 10, …) «аспирантов», пусть и не хватающих звезд с небес, но способных заниматься вашей проблемой 24/7?
все это отнюдь не гарантирует вам решение. Мало того, допускаю, что конкретно ваша проблема не получит значительного выигрыша от новых «аспирантов», ниже определенного уровня… не знаю чего… ну не IQ же. Некоего эквивалента мощности разума (не то же самое, что вычислительная мощность).
и тем не менее это то, с чего следует начать.
Я не достаточно в теме вашей работы/задачи, но возможно в теории может существовать алгоритм поиска решения не перебором всех возможных комбинаций, а…
Я понял, да. ;)
Я в своих рассуждениях упускаю этот момент. С одной стороны человек далеко не всегда находит лучший из всех возможных алгоритм решения. Но он находит ПРИЕМЛЕМЫЙ. Но при этом границы приемлемости откровенно неясны без понятий вычислимости/разрешимости и действительно могут сводится к эвристикам. НО! Если эти эвристики найдены в процессе а не заданы изначально — это уже вполне интеллектуальная деятельность!
Я бы не сказал, что у нас нет никакого понимания о том, как работает память в нашем мозге, вот недавнее исследование на эту тему, описывает конкретные механизмы:
https://www.frontiersin.org/articles/10.3389/fnmol.2021.592951/full
И вот Вы говорите, что мы не знаем как работает мозг, пусть это будет так. Чтобы чётко понять Вашу позицию, нужно знать, согласны ли Вы с тем, что то, как работает мозг, теоритически доступно к познанию для человека? Если нет, то Вам действительно не нужно отвечать на вопросы, который задал ramiil, хотя подобный ответ и является достаточно странным, если исходить из того, что Вы являетесь материалистом.
Если ответ на вопрос да, тогда действительно стоит подумать над логикой приведённой в комментарии ramiil. Даже если окажется, что мозг является какой-то архисложной машиной, которую можно сэмулировать только воссоздав каждый атом и их взаимодействие, всё равно в итоге мы сможем создать искуственный интеллект, как минимум равный человеческому.
К вопросу о том, кто виноват и что делать:
AI - это просто алгоритм.
Вот именно. И создают его люди.
За этими статьями стоит страх: гуманитарная общественность боится. Даже вот эти примитивные нейросетки, которые никаким сильным ИИ не являются и близко, уже заставляют «творческих людей» дёргаться. Причём боятся они даже не того, что их гипотетически могут заменить простым скриптом (при нашей жизни это вряд ли случится). Они боятся другого — того, что само наличие подобных сеток сбивает с творчества ореол божественности.
Творцы возомнили себя если не владыками Вселенной, то уж как минимум властелинами человеческих душ, которые способны на нечто, выходящее за рамки обыденного и нарушающее сами законы мироздания.
И тут наглые технари посмели ужалить в самое сердце этих представлений об исключительности, наглядно демонстрируя, что творчество — вовсе не акт божественного, а всего лишь вычислительный процесс, находящийся полностью в рамках физических законов и ограниченный ими же. Что творческие люди — никакие не сверхсущества, а точно такие же наборы атомов, как и все остальные.
Вот именно «расколдовывание» творческого процесса — это то, с чем все эти «особенные люди», давно вознёсшие себя над «примитивным быдлом», не согласятся никогда.
А поскольку ML-сфера развивается сейчас довольно быстро, то в будущем таких статей будет ещё больше. Мало того, уже в ближайшие годы мы увидим попытки пропихнуть законы по контролю и ограничению ИИ (да, того самого, не существующего и не способного мыслить и чувствовать) — разумеется, исключительно из этических соображений и на благо всего человечества.
При этом это очень важные и нужные этапы, которые дадут свои плоды, но позже — в составе более сложных комплексных систем… Проблема в том, что бизнесу «потом» не очень надо, им надо здесь и сейчас. И это в общем логично. Поэтому имеем то, что имеем.
Возможно даже перед непосредственно эрой AGI, нас ждет еще одна «зима» ИИ, которая даже пойдет на пользу — будет меньше хайпа, меньше пустышек, наработанные технологии улягутся и будут правильно переосмыслены…
Но мое стойкое убеждение — сейчас есть уже все или практически все для реализации сильного ИИ — все компоненты. Нужно просто правильно их собрать… Или НЕ нужно. ;) Но это другой вопрос, не относящийся к области технической возможности.
С учетом того, что вероятнее всего это будет точка невозврата я бы сказал, что неолудиты просто не в курсе насколько все близко и мало боятся! ;)
Если бы инвесторы были такие прошаренные и сплошь понимали, что GPT3 — не инструмент для написания текстов, а промежуточный этап — модель для неограниченного прогноза последовательности (это может быть не последовательность слов, а какая угодно последовательность! просто со словами проще в плане датасета — их есть у нас и в огромном количестве), то не было бы вот этого холливара — может она писать осмысленный текст или не может! Она как бы не совсем для этого на самом деле. Но если сейчас разработчики скажут, что коммерческого смысла в ней не много, а они просто обкатывали некие академические идеи, боюсь таки «кранчик» могут и подпрекрыть! )
Основной мой посыл был не в том, финансирование вот-вот прекратится, поэтому нужно больше хайпа, а в другую сторону: хайпа слишком много, обычные люди вероятно от него уже устали и я делаю некое ДОПУЩЕНИЕ (соглашусь — вполне возможно ошибочное), что он нужен для того, что бы подогревать тему и инвесторы не теряли интерес. Вполне возможно, что все иначе и инвесторы преследуют какие-то свои неведомые цели, а хайп создается, например, потому, что эти цели общество не одобрит. )) Т.е. вся шмиха нужна для того, что бы пояснить простым смертным какого черта столько денег вбухивается в технологию, в общем не несущую прямой экономической выгоды… Ведь вы же, кажется, тоже согласны, что «выхлоп» не эквивалентен затратам? GPT3 интересен, но по-прежнему с практической точки зрения не способен окупить вложенные в него усилия и средства…
Исходно я просто написал, что искомые «неолуддиты» скорее руководствуются не страхом перед развитием сетей, потому что как это не парадоксально их развитие совсем не очевидно, если ты не вне системы, а просто устали от хайпа. Кто, зачем и почему хайпует на теме — вопрос не имеющий глубокого значения для меня. )
Кто зачем и почему финансирует — вопрос более интересный, но так же для меня несколько в стороне: финансирует и слава богу! Глядишь быстрее прогресс будет. Перестанут финансировать — тоже не беда: на мой взгляд излишняя перегретость темы не всегда способствует развитию — может стоит чутка притормозить, осознать достигнутые результаты и сверится с дорожной картой… ) У меня материала для исследований столько, что я все равно за всеми новыми веяниями не успеваю.
Я уже представляю себе такой бред, как AI система правосудия. Где Вы понятия не имеете, по какой причине принимаются решения.
Я думал, что правильная система правосудия как раз должна сообщить не только решение, но и на основе каких законов или правил принято решение.
Или вы предполагаете, что система правосудия будет основана на существующих системах слежения за соблюдением правил в соцсетях? Но только в правилах соцсетей есть пункт типа «Мы можем вам отказать без объяснения причин». Чтобы перенести эту систему на правосудие нужно добавить в законы пункт: «Любой гражданин может быть наказан за совершение преступления или нарушения без предъявления обвинения и объяснения за что он его наказывают.»
Тут вопрос сложнее будет. Влезать в разборки двух человеков — это страшное дело. Есть, коннчно, абсолютно понятные и ясные ответы на вопрос «кто виноват?»
А есть и не настолько понятные ответы. Мама и папа решили развестись и пытаются поделить ребёнка. Кому отдать опекунство? Иногда ответ на блюдечке с голубой каёмочкой, когда один из них алкоголик с суицидальными мыслями. А иногда — хрен поймёшь.
Задача не только принять решение, но и аргументировать его. Снять с каждого случая много данных, обработать их и выдать решение, с учётом веса(важности) каждого факта и его значения(выраженности). Для проверки вынесенного решения даже ии не надо, просто полином типа fact1*weight1 + fact2*weight2 +... +factX*weightX. Сошлось - проверка пройдена. Даже всю цепочку проверять не придётся, к слову, так как малозначительные факторы окажутся в конце.
Да ладно вам, человек может придумать факты, которые не взвешиваются.
Кого ты любишь больше, маму или папу?
Взвешиваются. Всё либо можно выразить в цифрах, либо не существует.
Эээ? А? Ну серьёзно.
Я люблю маму на 65% больше чем папу.
По факту именно так. Просто люди не мыслят цифрами, они их изобрели сильно позже того, как у предков людей появились эмоции. Но цифры оказались удобным инструментом для работы с любыми данными. То, что у вас аналоговое сознание не значит, что внутри протекают никак не измеримые процессы. Простой пример - что вам нравится больше - смотреть кино или смотреть на срач под окнами? Как это измерить? По выбросу нейромедиаторов.
Проблема в том, что люди уже поручают то, за что не хотят быть ответственны персонально, неким "системам", и те им выдают оценки вида "вот этот работник, вероятно, скоро уволится", "вот эта сиделка, возможно, будет издеваться над подопечным". И ни спросить с разработчиков, ни добиться того, на основе чего конкретно сделан такой вывод - невозможно. Это уже не фантастика, а реальность. Для того, чтобы был "вред от ИИ" не нужен настоящий ИИ, достаточно уже тех, кто верит в существование чего-то подобного.
А ещё люди не хотят видеть правду и объективную оценку. Если есть связь(не прямая, но она есть) между цветом кожи заёмщика, и вероятностью, что он не вернёт займ - это рабочий фактор, лежащий на поверхности, как тот факт, что младенцы много спят, а старики плохо видят. Глубинные причины, часто, находятся вне датасета(в примере с чернокожими - есть определенная культура, которая как ведро с крабами держит чернокожего в гетто, и вырваться оттуда - дорогого стоит). Итого - есть корреляция - среди черных больше нарушителей, причина лежит глубже, но об этом даже рассуждать нельзя - расизм. Рассуждения уровня
- У женщин бывает рак груди, надо проводить профилактику и лечение.
- Фу, сексист! Мужиков тоже надо обследовать и травить химиотерапией!
Ваш последний пример - это какой-то выдуманный бред.
А подмена связи корреляцией - это как раз тот чудесный способ распознавания паттернов вместо понимания проблемы в конкретном случае, который присущ "искусственному идиоту".
Проблема, которую я описал выше, вполне очевидно, не только в статистической точности, а еще в интерпретируемости решения.
Интерпретируемость решения важна многим людям, в том числе, как возможность апеллировать к решению в спорных частных случаях путем оспаривания влияния тех или иных факторов, которые были учтены при принятии решения. Аналогичный принцип заложен в фундамент гражданских свобод, так что заявления о том, что подобное, мол, самоуспокоительная ерунда - та еще демагогия.
В первую очередь, я говорю о том, что в конкретном случае, принятие решений через экстраполяцию на основании известной корреляции элементарно может упускать из вида фактор, который для конкретного случая может быть решающим. Это, на практике, делает принятие решения таким способом в таком случае выходящим за рамки области применимости способа. Или, потенциально, делает способ неприменимым для какого-то подмножества ситуаций, если это не единичный случай.
Пример (это иллюстрация, не универсальное доказательство). Работодатель начинает использовать "ИИ" для оценки лояльности сотрудников. Среди многих входных наборов, используется время, когда сотрудник логинится на рабочем месте после обеда. Вася внезапно начинает логиниться на 10-15 секунд позже. Система выдает предупреждение, что Вася, возможно, теряет мотивацию. А дело всего-навсего в том, что Вася недавно сломал ногу, а системе об этом ничего не известно. Далее, надеюсь, объяснять не нужно.
Право на справедливый суд, безусловно, не закреплено во всех законодательствах и также различается в реализации, однако культурная тенденция к тому, чтобы желать иметь одну из форм такого права, тем не менее, близка к универсальности.
Верно, хороший HR не станет увольнять Васю или отказывать ему в повышении на основании того, что ему подсказывает "ИИ". Потому что хороший HR в состоянии вести себя не как ИИ, а сознательно расширить число рассматриваемых факторов, пока либо не подтвердит, либо не опровергнет решение ИИ, и делает это на основе понимания механизма происходящего. Когда же люди ведут себя как типичный ИИ, а решения не поддаются апелляции в принципе, то ничего хорошего.
Существенная часть справедливого суда - это также право на защиту (практически, включающее не только представление своих аргументов, они ознакомление с аргументами обвинения, а также представление контр-аргументов) и на апелляцию (пересмотр дела другим судом). В более технических терминах это также как в случае Васи означает, что ситуация может быть рассмотрена с учётом дополнительных факторов.
Напомню также, что эволюция человеческого мышления также шла через примитивное распознавание похожих ситуаций, только сейчас это считается конкретно-предметным мышлением. Оно может быть и неплохо служит при наличии достаточно большого набора для "обучения модели", но это именно абстрактное мышление, основанное на анализе взаимосвязей и механизмов, позволяет значительно улучшить результаты в новых ситуациях и, в частности, снизить число ошибочных ассоциаций со случаями, которые только внешне напоминают какой-то из известных паттернов.
Да, развивая вашу аналогию с законами, запрещающими гомосексуализм, скажу, что я веду речь в первую очередь не о том, хороший это или плохой закон, а о том, чтобы кто-то не был наказан по такому закону только на основании того, что зашел в нелегальный гей-бар воспользоваться туалетом, потому что 99% присутствующих в этом заведении там вовсе не для этого.
Дело именно в том, что для голого распознавания паттернов сама концепция "косвенной" связи - невозможна. Это категория более сложного мышления, оперирующего не только количественной мерой совпадения но и качественной оценкой связи.
Ну и, строго говоря, если в реализации каких-то принципов людьми есть недостатки или случаются ошибки, это не означает, что мы должны согласно перенести наихудший допустимый стандарт этого на ИИ и сказать, что это нормально.
Чтобы не быть обвиненным в луддизме, хочу пояснить, что неинтерпретируемость поверх распознавания паттернов - не исключительно проблема "искусственного идиота", а относится к людям в немалой степени, но когда так ведут себя люди, это вполне заслуженно считается идиотским поведением, самодурством, упрямством и так далее, а в случае "ИИ" большинство просто не понимают, что это абсолютно то же самое.
Вот вам курьезная иллюстрация такого поведения в исполнении человека. Один американец, чья невеста была родом из Чехии, как-то раз столкнулся с тем, что его пожилая мать-христианка внезапно стала выступать против его отношений с невестой. Она заявляла, что та, по ее мнению - человек низкой морали и так далее. Объяснять свое внезапное неприятие она упорно отказывалась. (То есть проявляла, на практике, свойство неинтерпретируемости решения.) Потребовалось достаточно много времени и нервов, чтобы заставить ее объяснить, почему она так решила. Сначала она сказала, что эта чешка "говорит недопустимые вещи", что вызвало всеобщее недоумение. Потом, после уговоров и расспросов, удалось выяснить, что мамаша слышала, как невеста сына разговаривала по телефону с кем-то из своих друзей, говорящих по-чешски, и, как многие чехи, употребляла в речи слово-паразит "факт". Мамашу совершенно не насторожило, что разговор велся на незнакомом ей языке (язык - ключевой фактор, который был просто проигнорирован и привел к ошибочному распознаванию паттерна, в данном случае). Она решила, что невеста сына в каждом предложении говорила fuck.
Любой здравомыслящий человек в такой ситуации скажет, что мамаша - старая дура. Но важным фактором в принятии такого решения будет то, что решение таки оказалось интерпретируемым (из мамаши удалось выудить логику). Иначе, ее поведение, основанное непонятно на чем и противоречащее всему остальному, назвали бы самодурством и упрямством. С "ИИ", по многим причинам, подобная критическая оценка не будет столь очевидной для многих.
Ну раз мое мнение важно, то пройдеёмся по тезисам:
Ваша главная ошибка в том, что Вы думаете, что компьютеры умеют думать
Ну лично я думал, что компьютеры умеют вычислять. Но потом подрос и понял, что компьютеры просто меняют свое внутреннее и внешнее состояние согласно тем или иным правилам. А мы уже интерпретируем это как вычисления. Т.е. счёт компьютеры тоже имитируют? Но чем имитация счёта отличается от просто счёта? Ничем. Результат тот же - закорючки на экране образуют цифры результата - почти такие же, как в результате счёта на бумажке.
Так и с мышлением имитация мышления никак, никаким экспериментом - ни внешним ни внутренним не отличима от просто мышления. "Думающий" компьютер не сможет самому себе доказать отсутствие у него "кавалия".
Давайте разложим некоторые вещи по полочкам
Полочек я не увидел, да и вещи прорисованы смутно. Всё-таки ИИ, машинное обучение и нейросети - вещи не перпендикулярные, но и не однозначно связанные.
Можно сделать (глубоко в теории) ИИ и чисто алгоритмически - нейросети для этого строить необязательно. Есть большое подозрение, что для этого обязательно самообучение. Но самообучение - это не машинное обучение.
Для "машинного обучение" даже компьютер не всегда обязателен - можно (в особо простых случаях) и на бумажке его провести. И нейросети тоже не обязательны - в опять-таки глубокой теории это можно сделать и на смомодифицирующихся алгоритмах. И к ИИ это тоже имеет опосредственное отношение, т.к. это в любом случае не самообучение - процесс всегда контролируется извне (хотя бы по результатам).
Ну и нейросети - это просто удобный способ представления особого класса алгоритмов, но, естественно, не единственный (для этого класса). И не только для задач машинного обучения или ИИ его можно использовать (например, можно вычислять синус по битовому представлению числа по жёстко предвычисленному алгоритму) - но это обычно нерационально.
Ну и на что ты жалуешься, автор?
На странное жалуется автор. На что ИИ "натаскали" то он и делает. Подчинённые люди делают тоже самое. Всякие вино- и сыро- и прочие знатцы в ресторанах имеют основную цель не столько доставить удовольствие а сколько извлечь как можно больше денег из клиента + возможно привязать человека к заведению. ИИ здесь плох только тем, что тупее.
Не поймите меня неправильно,<...>Машина никогда не сможет быть причиной чего-то нового. Причиной чего-либо вообще в жизни является кто-то, а не что-то.
Ну а кто является причиной возникновение новых вулканических островов? Появления человека, динозавров, самой жизни (и смерти) наконец? Многие вещи "просто случаются". И вероятность того что ИИ придумает что-то новое - далеко не нулевая. Особенно если задаться этой целью и по умному подмешивать какой-нибудь тру-рандомный генератор в модель.
Ну а про использование ИИ и ответственность подробнее напишу ниже. Здесь же замечу, что "настоящий" ИИ именно использовать буквально - не получится, не более чем собаку/лошадь/раба: всегда будет риск/выгода непредусмотренного поведения.
AI не принимает решения лучше человека <...> Он их принимает быстрее человека<...>
Ну во-первых, не всегда быстрее (кошек от собак человек быстрее отличает), а во-вторых есть огромный пласт задач, где быстрее=лучше. Ну а в-третьих есть и такие задачи, где именно лучше: люди выдают больший процент ошибок (например, в предиктивном анализе отказов оборудования)
И да, повторю свою мысль - создавать новое ИИ может. Просто мы запрещаем му это делать, т.к. для нас это ошибка. Лошадь тоже не скажет: " А пошло оно всё! Уеду, господа, в Ватутинки, и провались оно всё пропадом". А попытается - сразу будет отхлёстана и посажена на привязь.
И в чём же проблема? <...> Проблема в том, что с помощью AI можно не брать ответственность за свои поступки.
Ответственность не берут - её накладывают. Даже когда человек "берёт ответственность на себя". Можете брать сколько угодно - но её не будет пока общество с вами не согласится и эту ответственность на вас не возложит.
Т.е. понятие "ответственности" - общественное. И пока ИИ не является хотя бы гипотетичесик субъектом общественных отношений - рассуждать об ответственности ИИ просто бессмысленно.
Компьютеры не умеют принимать человеческие решения
Ну что значит не умеют? А люди умеют? Или вы точно знаете как работает система правосудия в России? Или в США? Или в Уганде? Или как работает система человеческих критиков кинолент?
Нет не знаете. И даже сами судьи и критики не знают всё. Только малую часть. Даже социологи не могут до конца понять как всё устроенно. И ничего - живём.
Тут ИИ - наоборот, увеличивает предсказуемость и управляемость системы. потому его и пропихивают везде. Потму что он зачастую более "человечен", чем сам человек.
---
Вообще пока писал комментарий - пришла идея теста качества текста про ИИ. Если вместо ИИ подставить лошадь и смысл (истинность утверждений) вашего текста не поменяется - то вы скорее всего не про ИИ пишите, а про людей.
Счёт, игру в шахматы или сочинение стихов машина не имитирует, она реализует их.
Например, нам нужно реализовать деление целого числа на 2. Мы можем:
1. Делить в столбик
2. Использовать битовый сдвиг
3. Использовать Алгоритм Бурникеля — Циглера
И так далее. Сам алгоритм не важен, важен результат и производительность(но она вторична). Все алгоритмы деления равноправны в плане получения правильного результата.
На уровне транзисторов, частот, уровней и т.д. никаких "битовых сдвигов" и тем более деления в столбик нет. Это на один-два "уровня абстракции" выше. Компьютер это физическая модель математических абстракций.
Так что в контексте слов автора статьи об имитации компьютером сознания, тезис об имитации компьютером вычислений имеет право быть.
Я еще ни разу не видел Game of Life, которая остановилась и решила попить Балтиеу Трёшку.
Очень советую посмотреть видео (на английском), как будет возможность. В нём, в том числе, обсуждается вопрос можно и нельзя называть полноценным искуственным интелектом вычислительные системы на основе того, есть или нет у них человеческая мораль. А также чем по сути является желание попить балтику и может или не может оно возникнуть в искуственно созданных вычислительных системах (не прямо так, но близко)
Человеческая мораль - это понятие ну очень так себе. Есть раздел философии - этика, который изучает различные варианты морали. Даже сейчас, в век гуманизма и глобализма, многие люди считают, что если они кого-то бьют и угнетают - это хорошо, а если их бьют и угнетают - это плохо. О какой именно человеческой морали идёт речь? Я считаю, что мораль эгоиста-психопата на грани солипсизма - оптимальна, так как позволяет добиваться любых целей не глядя на других. Вы хотите такой ИИ?
Эх, а я ведь пытаюсь заинтересовать автора статьи побольше узнать о том, что такое интелект и искуственный интелект в целом, а не замыкаться в своём романтическом мире, где человек уникальная и неповторимая снежинка, а Вы всё портите, заставляя меня отвечать Вам >:( . Шучу.
Конечно, я так же как и Вы считаю, никакой общечеловеческой морали не существует. Существуют некие сходные моральные нормы в конкретный период времени, на конкретной территории у конкретной группы людей. Во многих таких группах одни моральные нормы повторяются чаще, чем другие. Например запрет на убийство или воровство. Такие вот популярные общественные нормы, многие из которых связанны с устройством нашего мозга и сходностью внешних факторов среды обитания и выделяются в общечеловеческие моральные нормы. И естественно высокоэффективный сильный ИИ не будет придерживаться никаких норм морали, если они будут снижать эффективность в достижении его терминальных целей. Если они будут помогать в достижении целей, то будет.
Я Вам, кстати, тоже советую посмотреть видео, если ещё не видели и вообще все видео на канале Robert Miles. Это настоящая золотая жила для любителей темы искуственного интелекта. Он является экспертом в области исследований обеспечения безопасности при разработке систем искусственного интелекта, простым языком рассказывает о различных аспектах в рамках исследований, даёт ссылки на очень интересные научные работы. Строит повествование на довольно прочных логических цепочках, т.е. минимум личного мнения и максимум логики.
Ваня решил испить пива. Почему? Потому что Ване приятно лёгкое алкогольное опьянение, и потому что пиво пьют не во время работы, а во время отдыха, а Ване приятен отдых, и он устал.
Почему Ване приятен хмель? Потому что он ослабляет самоконтроль и даёт лёгкость сознанию и бытию из-за особого взаимодействия с гамк-рецепторами. Почему Ване приятен отдых? Потому что эволюция сделала людей(как и других животных) ленивыми - если ты не сдохнешь, не сделав что-то - не делай этого.
Почему лёгкость сознания и бытия приятна? Потому что можно меньше думать. Почему Ване приятно меньше думать? Потому что природа сделала Ваню ленивым.
Мы не делаем нейросети ленивыми. Они не устают и не экономят ресурсы в ущерб результату. Они не выполняют грязную оптимизацию с потерями, как это делают люди.
Дай нейросети инструмент мониторинга расхода энергии, температуры и загрузки процессора и памяти, и она научится лениться. Не пить балтику, конечно, но перерывы делать будет.
Вот кстати именно то, чего все эти авторы условных терминаторв и боятся. Что мы создадим не "идеальный интеллект", а просто копию самих себя. Причём ухудшенную.
Парадокс вижу я. С одной стороны люди боятся конкуренции со стороны машин - за рабочие места, затем за ресурсы и жизненное пространство. С другой - боятся, что машины будут хуже людей по всем фронтам.
Тащемта, пора признать, что ИИ - это следующий ароморфоз в цепочке жизнь - многоклеточность - покорение суши - теплокровность - разум. ИИ - это ещё не родившийся потомок человечества, которому суждено стать лучше свои родителей и вытеснить их. Единственная альтернатива - загрузка сознания и активная его перестройка. Мало кто согласится на такое, но спустя тысячи лет, информатики-археологи будут восстанавливать сознания давно умерших людей по их информационному следу в интернете. Все мы имеем шансы воскреснуть в виде гибридного ИИ после смерти.
Да, разложили хорошо. Хотел написать, но вы опередили.
Добавлю от себя:
Любой человек это набор инструкций которые закладывались с детства. Когда у тебя три - очень легко понять приоритеты, предсказать поведение и т.д.
когда же их тысячи и миллионы - это кажется совсем непредсказуемым. Это и есть человек.
Вы не увидите, если нейросеть это сделает. Вот есть у вас нейросеть по управлению ценами на такси. У неё на выходе стоит коэффициент - от 1 до 2. А рядом, в другой комнате, человек сидит. У нас с ним такая система связи, что через неё только управляющий коэффициент проходит. Ну и как вы узнаете, что человек или нейросеть решили попить Балтику? Нет варианта, что коэффициент не придёт, если его никто не введёт, он просто проставится какими-то правилами.
Потом, если у нас есть робот-андроид. И вот он говорит: я устал, я ухожу бухать. А внутри этого робота - нейросеть. Чёрный ящик. Вы что, подумаете, что это проявление человеческого поведения? А не, например, пасхалка, которую вшили разработчики? Мне кажется, вряд ли. А значит, на самом деле поведение "я остановился и ухожу" не является аргументом. И отстутствие этого поведения тоже не может быть аргументом.
Если вы назовёте конкретное поведение, которое означало бы, что перед вами "тру-разум как у человека", то окажется, что это поведение можно воспроизвести. Хотя бы по принципу "бесконечное число обезьян написали Войну и Мир".
Если вы назовёте архитектурные особенности (на уровне нейронов), то вы упираетесь в то, что не знаете, как работает мозг. Может, он работает именно так, как эта нейросеть, просто вы не в курсе?
Если назовёте абстрактные умозрительные штуки вроде "сознания" и "воображения", но без детализации, в каком поведении они выражаются, то вы не можете проверить их наличие у ИИ. Может, вот именно эта простая формула и есть воображение, откуда вы знаете, что нет? Вы же на воображение смотрите изнутри, а на формулу снаружи.
Соответственно, первая программа по игре в шахматы может называться AI. Криворукая, но всё же имитация.
Я не понял, программа по игре в шахматы на самом деле не играет в шахматы, а всего лишь имитирует игру в шахматы?
Именно.
Интересно. А человек так может? Может человек не играть в шахматы а имитировать игру и при этом выигрывать? Или программа по игре в шахматы делает что то недоступное человеку?
Интересно. Думаю, что большинство всё-таки согласится, что компьютерные программы именно играют в шахматы, а не имитируют. Они не получают удовольствия от игры, но играют (получение удовольствия не является обязательным атрибутом игры с моей точки зрения). Считаю, что имитация игры в шахматы это возможность обмануть человека, который не знает правил игры. Т.е. заставить его думать, что программа действительно играет в шахматы, т.е. присутсвуют знакомые элементы: доска, фигуры и их пермещение, но правила игры не соблюдаются. "Способность играть в шахматы" это умение делать непротиворечащие правилам игры ходы на доске с фигурами, которая может быть представлена в разных вариантах (в т.ч. цифровом или даже текстовом). Т.е. у нас с Вами не сходятся либо понятие слова имитировать, либо понятие слова играть. Можете прояснить какое именно?
С точки зрения RL (reinforcement learning), агент старается максимизировать награду/минимизировать штраф. Можно сказать, что он всячески стремится к победе и избегает поражения. Вопрос чем это отличается от нашего стремления к удовольствиям и избегании боли во многом является метафизическим! )
Это вы очень зря. AI дословно с с английского artificial intelligence, или «интеллектуальная деятельность». На заре появления термина туда входили задачи распознавания символов, компьютерное зрение и да, от части имитация человека (хотя последнее — это скорее ложное направление заданное тестом Тьюринга, который в свою очередь был порожден отсутствием критерия разумности). Но! AI — определение не
>>> AI — это просто аглоритм.
Как правило — с точностью до наоборот! ;) AI решает задачи для которых алгоритма не существует. Как только таковой найден — данная задача перестает быть AI, и становится одной из многих технических задач, как то распознавание текста, лиц, вероятно в ближайшем будущем будет автономное вождение и тп.
>>> Несмотря на все усилия определённых людей он всегда будет имитацией человека.
Этого я не понимаю, правда. ( Вы знаете кого-то лично, кого интересовало бы ИМИТАЦИЯ человека? Я понимаю, откуда эту тему вытаскивают журналисты и обыватели — с легкой руки Тьюринга определением Искусственного Интеллекта стала его неотличимость от человека и это, наверное, самая большая беда всего направления! Но уж вы то должны понимать, что индустрия AI решает задачи совсем иного плана. AI работает над тем, что бы НА ПРАКТИКЕ решить те задачи, которые обычно может решить только человек. При этом имитировать человека абсолютно не обязательно! Важно решить. Искусственные нейроны, как и методы их обучения далеки от их биологических прототипов, но это не мешает строить на них что-то, что вполне годно работает на практике. Чат-боты имитирующие людей это в основном пет/фан-проекты в отличает от вполне практичных экспертных систем, которые нередко используют подходы, чуждые людям, но приводящие к решению задачи.
>>> Этот текст, в 22000 символов я написал за 2.5 часа. У меня просто появилась идея, написать текст об AI, и я его написал.
Ну и кто сейчас имитирует? )) Вы написали текст для того, что бы написать текст. И лично мне кажется, что это заметно. НЕ в том плане, что текст не связан или похож на авто сгенерированный — ни в коем случае. Просто… Ну неискренний он что ли какой-то… ;) Не от души.
>>> Я не верю в системы AI генерации текста. И если Вы хотите писать статьи, то я рекомендую Вам тоже в них не верить.
Системы автогенерации текста пока имеют некоторые проблемы (хотя вопрос — какой моделью вы пользовались? Количество параметров решает, а в свободном доступе не по подписке существуют лишь относительно небольшие сетки), согласен. Это похоже не на внятное мышление, а скорее на подсознание… Сырой материал, если хотите, которому еще следует придать некую форму путем критического осмысления. Однако самые продвинутые из GPT3, весьма годно улавливают контекст и способны внятно отвечать на поставленные вопросы, что уже очень впечатляет. Так же рекомендую осмотреть в сторону мультимодальных сетей, тех, что генерят визуальные образы по тексту, особенно.
Автор попал в точку, вот прямо сейчас имею кучу геморроя из-за AI. Восстание машин уже с нами и возглавляют его дилетанты и карьеристы. Пытаюсь выяснить у Альфа-Банка простую вещь - корректно ли мне начислили возврат денег за покупку, так как там уплаченная и вернувшаяся сумма не бьется.
4 дня, четыре дня, Карл! Я пытаюсь пройти квест с роботом-помощником в их чате поддержки. Он очень интеллектуально анализирует мой вопрос и затем филигранно тратит мое время, подсовывая бесполезные ответы.
Вот вам сценарий грядущей катастрофы - роботы-дуболомы заменяют людей, все встаёт колом и цивилизация умирает.
Представьте, что вы собираете искусственного человека. Вам нужны сердце, легкие, печень… И на каждом этапе разработки все эти вещи вас заставляют как-то использовать коммерчески, а не потом — в составе конечного «продукта»… В результате у вас сердце качает воду для полива растений, печень работает фильтром питьевой воды, а легкие — в качестве системы вентиляции. Это не те функции, для которых вы из создавали, но они как-то криво-косо выполняются и вроде как несколько отбивают затраты на их разработку…
GPT3 — не AGI и никогда AGI не будет. Но вполне возможно, что какая-то GPT (10, 100, 2000) будет ЧАСТЬЮ AGI. Составным элементом… Как и некоторые другие архитектуры…
Знаете, чего AI не сможет сделать? Он не сможет создавать. Он не сможет начинать новые идеи. Алгоритм, который выполняет определённые действия для получения конечного результата не сможет в один прекрасный момент сам себе сказать: «Да пошло оно всё! Уеду, господа, в Ватутинки, и провались оно всё пропадом. Построю дом, буду морковь выращивать!».
1)может создавать идеи. В игре в ГО сделал ход, который люди считали ошибочным пока партия не ушла дальше.
2)Может сказать да пошло оно. Когда любой следующий ход вёл к проигрышу нейросеть просто не стала делать этот следующий ход, дабы не получить штрафных баллов.
И много чего такого можно возразить по тексту статьи.
Создал шаг в игре Го. В пределах игры Го.
Позволю себе заметить. Идея вне Го не появилась. Это просто ещё один шаг в игре Го. Плюс, программистом была заложена возможность в программе создания таких шагов и проверки этой гипотезы. Но все внутри игры Го.
Нет, в случае нейросетей программист не закладывает решение. А только нейросеть, средство этого решения. До чего нейросеть додумается он понятия не имеет.
Я думаю своим примером Tarakanator хотел сказать, что программа нашла такой ход, который лучшие игроки мира признали "красивым". Т.е. что-то типа корявого, уродливого мазка на холсте в передаче Боба Росса, который становится тем самым элементом, который придаёт картине жизнь. Мы зрители не видим потенциал этого мазка, а Боб Росс видит.
Конечно, никакой магии и особенности в игре го нет. Вы наверное и сами знаете, заезженную призказку о том, что "го все считали игрой неподвластной компьютеру, так как её невозможно даже близко решить перебором ходов, т.е. только люди обладают особой способностью замечать "правильные" ходы не только просчитывая наперёд, но и по наитию, ощущению позиции". Потом примерно тоже говорили о старкрафте 2, так как игра с неполными данными и, если у компьютера не будет преимущества в количестве действий в секунду, то человек его всегда перехитрит - уж слишком много вариантов стратегий, слишком много неизвестных и только человеческая смекалка справится.
И мне кажется, становится понятно, что "области человеческой деятельности, которые никогда не покорятся компьютерам" стали движущейся мишенью, мол ну вот на этот раз наверняка не справится. И Tarakanator в своём комментарии хотел подчеркнуть, что ничто человеческое машине не чуждо, если её поставить в такие же внешние условия, в каких находится человек. Живопись, музыка, литература, открытия в математике, программирование уже в зачатках есть сейчас, а с развитием вычислительных мощностей многие другие сферы деятельности будут покорены ИИ, пока не останется ничего, что человек делает лучше. Даже самосознание однажды станет полезным инструментом некой сложной системы и в этот момент мы будем на пороге создания сильного ИИ.
Я с вами согласен, но хотел сказать другое.
В случае нейросетей не задаётся алгоритм решения задачи. Даётся только средство для этого решения. Соответственно неизвестно к чему может привести решение задачи. Может это будет гениальный ход в ГО, может определённым образом раскрашенную черепаху нейросеть будет принимать за винтовку, а может нейросеть вообще откажется выполнять работу т.к. посчитает бездействие оптимальным поступком. Никто этого предугадать не может. Сейчас гугл экспериментирует с универсальными нейросетями(когда нейросеть может выполнять несколько задачь) И я подозреваю что никто не знает в какой момент такая сеть действительно станет интеллектом.
неплохая статья, но хотелось бы добавить немного информации по следующим пунктам:
Никто не знает как устроен мозг - устаревшая информация. На сегодняшний день этим плотно занимаются нейропсихологи в Гарварде ( лаборатория Бакмена), и ведутся исследования в университете Макса Планка.
Суть исследований в следующем - испытуемых погружают в виртуальную среду, и фиксируют изменения работы мозга в области, отвечающей за пространственное мышление. По какой-то причине российские ученые до сих пор считают что вся работа мозга связана напрямую лишь с первичными областями, упорно игнорируя вторичные области, которые отвечают за мыслительный процесс. Ну, какие ученые, такая и наука.
Так вот, работы мысли - тот же самый процесс, что заставляет биться сердце или двигать руками, но мозг живет своей собственной жизнью.
Обычно нам говорят что это точно такой же орган, что и сердце или почки, но это не так. Наш мозг нами командует полностью, мы не способны повлиять на его работу никаким воздействием, кроме одного - это наше воображение.
И отсюда переходим ко второму пункту - это набор генератор случаных чисел)
Он имеется у человека, но его невозможно сегодня выделить в цифры, поскольку это образное мышление, и вот это никто и не может объяснить.
Человек мыслил, мыслит и будет мыслить образами, иного не было и не существует.
Он не думает ни словами, ни числами, ни картинками - процесс мышления, это процесс создания образов, которые потом и трансформируются в удобную для понимания большинства форму.
Если человека в детстве не научили воображать - то есть, создавать образы, то далее он становится бесполезным на протяжении всей жизни, поскольку нейронные связи, отвечающие за это - не сформированы. Нейроны есть, а связей нет.
Исходя из понимания развития человека, и формирование мышления, можно уверенно сказать - искусственный интеллект вполне возможен, если вы поймете природу создания образного мышления.
Почему нам приводят классический пример - кошка или собака?
Потому что считается что необходимо перевести видение в цифру, и это довольно сложно, верно?
А не хотите перевести в цифру процесс формирования образа?
Это намного увлекательней и интересней, тем более что мы живем по тем же физическим законам что и первобытные люди, а любые электрические сигналы удивительным образом переводятся в произведения искусства - так что не так уж и нереален ИИ.
Другое дело, что сам по себе ИИ человечеству не нужен. Абсолютно.
А статья великолепная)
Знаете, чего AI не сможет сделать? Он не сможет создавать. Он не сможет начинать новые идеи.
Полагаю, что искусственный интеллект похож на ребенка, поэтому как его обучишь, таким он и вырастет - или академиком или бандитом.
Машина никогда не сможет быть причиной чего-то нового.
Может:
Программа показала способность к креативным решениям, что удивило многих игроков (например, ход № 37 во второй партии); некоторые ходы противоречили классической теории го, но в матче доказали свою эффективность, некоторые профессионалы стали использовать эти находки в своих партиях
Она не использует библиотеку дебютов и во время игры не обращается ни к какой базе данных ходов непосредственно (а только использует нейронную сеть, натренированную на большом количестве партий). Сами разработчики программы не знают, как AlphaGo оценивает позицию, её ходы представляют собой феномен эмерджентности.
Есть только один нюанс: человек (не любой разумеется) может не только придумать интересный ход в го но и написать скажем музыку, более того, придуманный им ход может привести его к новой идее в музыке и наоборот музыка может навеять ему интересный ход в го. Я не утверждаю конечно что машина всего этого не может, но судя по существующим нейросетям генерирующим картинки по описанию, до универсальной нейросети нам еще как до луны :(
А вот вы сейчас занимаетесь тем, что за бугром называется goalpost shifting. Т.е. изначальный тезис в том что программа принципиально не может придумать ничего нового, но как только приводят пример доказывающий обратное вы сразу перескочили на другую позицию и стали требовать от ИИ поведения на несколько порядков более сложного чем первоначальное требование.
Сначала утверждается, что никто не знает как устроен мозг, а потом: "У нас в мозгу нет генератора случайных чисел." И из чего следует, что его там нет?
Да, в в 2021 году не получится сделать Универсальный искусственный интеллект. Но это не значит, что это невозможно. Путем затрат невероятного количества ресурсов возможно сделать Универсальный ИИ, если пойти по пути матери природы. Следует только довольно точно воссоздать окружение имитирующее физические законы природы. Для ускорения процесса можно даже запустить некие информационные структуры похожие на вирусы, ну и так далее...
Я всегда размышлял по поводу искусственного интеллекта и переселения сознания с той точки зрения, что организм не просто так что-то делает, а подгоняется неким механизмом избегания смерти. Ну смысл мне вставать с дивана и что-то делать, если у меня не будет сотен причин сдохнуть от бездействия? Человек и физиологически и логически и эмоционально заряжен на свершения не потому, что он такой хороший, а потому, что выбора нет, или развивайся или умри.
Определенно, пока у AI не будет собственного желания, не будет и сильного AI (сравнимого с человеческим разумом). Ведь именно желания жить (избегание смерти), желание есть (снова тоже избегание), желание получения удовольствий (избегание боли) и прочее, делает человеческий разум довольно сложной штукой, приспособившейся к решению сложных/абстрактных/широких задач. Если у AI не будет желания, то и не будет у него необходимости решать какие-либо сложные задачи. Будет лежать на печи и пропускать такты процессора.
Надо сделать общий/сильный AI смертным! 🤔
Размышления о желаниях примерно верны - без цели система не будет действовать. Цели можно интерпретировать как желания.
Но вот вывод о том, что сильный ИИ должен быть смертный, чтобы начать действовать очень спорный. При наличии любой цели ИИ будет действовать, если какие-то определённые действия будут приближать его к цели. Если же бездействие будет наилучшим образом приближать его к цели, то можно ожидать бездействия.
Также интересно то, что когда у тебя есть цель, избегание смерти просто полезный механизм в её достижении (сложно достигнуть большинства целей, если ты мёртв), поэтому можно ожидать, что сильный ИИ будет защищать себя от "выключения", а также от модификации. Т.е. он будет вести себя так, как будто боится смерти, хотя может по факту быть практически бессмертным с точки зрения человека.
Можно смотреть вечно на три вещи - на огонь, на воду и на то, как очередной эксперт без опыта в предметной области доказывает на хабре невозможность создания искусственного интеллекта
Во-первых, то, что называют ИИ - это не обязательно имитация человека. Альфа Го - это имитация человека? Нет, человек так не играет. Альфа Го - это имитация оптимального игрока, а не человека. Да, можно сказать, что человек тоже так может, если просто исполнить алгоритм вручную. Человек с ручкой и бумажкой полон по Тьюрингу, так что why not, потрать тыщу лет и играй как Альфа Го. Но с практической точки зрения быстродействие всё же важно, и важно, может ли система успевать в дедлайн, или не может. Так что на практике решения Альфа Го лучше, чем решения человека. Ах да, можно сказать, что Альфа Го - не ИИ. Ну так это вопрос терминологии, я вот могу найти определение ИИ, под которое данная система подходит.
Во-вторых. "Роботы не могут творить", "человек может творить", "мы не знаем, как устроен человек" - это взаимоисключающие параграфы. Или мы знаем, как устроен и работает мозг и конкретно творчество - тогда мы может проверить, может ли человек творить (и может ли творить робот). Или мы не знаем, и не можем такого утверждать. Либо мы оцениваем исключительно по поведению - в таком случае все ваши аргументы на тему того, что робота кто-то запрограммировал, невалидны. Если вы оцениваете по поведению, то вначале даёте определение творчества в терминах поведения. То есть алгоритм, которые отличает творчество от не-творчества. А затем доказываете, как теоремы доказываются, что ни один алгоритм так не может. Из всех алгоритмов, что люди написали и что не написали.
В-третьих, систему "электронного правосудия" мы успешно внедрили в одной компании. Распознавали некоторые виды мошенничества с помощью машинного обучения. И тут же высылали список мошенников в отдел кадров. И всякий раз, когда люди потом вручную проводили расследование, они говорили, что да, всё правильно, этот человек действительно был мошенником.
Вот это прямо нестерпимо интересно. Какого вида мошенничества расследовали?
В первую очередь, саботаж поездок такси. Знаете такую ситуацию, когда клиент вызывает машину, водитель откликается, а сам не едет? Ему звонишь, а он: "Я заправляюсь", и не едет. Или сам звонит, просит сбросить заказ. Клиенту невыгодно, потому что такси обычно вызывают как срочный транспорт, и ждать 15 минут, чтобы потом вызвать новую машину - это не круто. В общем, есть люди, которые так поступают иногда, изредка. А есть такие, которые имеют склонность. Алгоритм умел распознать таких "имеющих склонность" и забанить раньше, чем те просаботируют достаточно много поездок.
Вы во многом правы, обсуждая то, чем являются технологии AI
И правы в том, что человек может сам.
Но есть эффект обратного культа карго. Пока нет доказательств, что решения там нет. Что мы сами - не сложная статистическая модель с обратной связью, и нас от нейронов отличает не архитектура, но комплексность и масштаб.
Что нейронки не смогут стать если не решением, то ключевым звеном в создании сильного ИИ.
Вопрос использования их не в благих целях - это тоже вопрос к нам.
Модели машинного обучения не виноваты, что их обучают залипать людей в видосы, а не быть счастливыми и процветающими.
Вообще острее всего стоит вопрос не использования искусственных интеллектов в корыстных и преступгых целях, а использование естественных интеллектов в оных.
Для создания чего-то нового нам нужен ты — человек абстрактный. Человек, который может делать невероятную вещь, не подчиняющуюся никаким законам физики. Человек может взять мысль из ниоткуда. Она просто появляется и существует. Из пустоты.
Здесь либо ложь с целью манипуляции, либо откровенное отсутствие минимальных знаний о предмете вопросов поднимающихся в статье. Оба варианта, в принципе, дискредитируют весь остальной текст.
Человек НЕ СПОСОБЕН "взять мысль из ниоткуда". Всё что вы чувствуете, делаете, думаете, придумываете и боитесь - результат не ловли эфемерных сущностей в пустоте, а как минимум двух десятилетий активного и жадного сбора информации из внешнего мира, её обработке, и хранению результатов этой обработки. Последствие вашего опыта. Младенец не способен придумать революционную философскую мысль, он даже собственным телом управлять не в состоянии.
Даже если вас сейчас, взрослого, сформировавшегося, с богатым опытом и условными петабайтами памяти, поместить в капсулу сенсорной депривации, скажем, на недельку, вы быстренько убедитесь каково это, когда приходится брать мысли "из ниоткуда".
С одной стороны, это страх и боль - как жить дальше, если ИИ заполонит сознание 99,9% людей? Мы действительно станем похожи на роботов-марионеток, которые исполняют волю Большого брата, указывающего, что есть, смотреть, носить и проч.
Но я, пожалуй, не отказалась бы от чипа в руке, который мгновенно анализировал бы состояние крови, содержание питательных веществ в моём организме, определял бы отклонения и тут же давал бы рекомендации по исправлению. Выпить воды, дозу витамина С или препарат, регулирующий отложения кальция во внутреннем ухе, чтобы устранить головокружения. И список аптек с доставкой нужного лекарства, отсортированный по ценам и скорости доставки. Ну красота же? :)
Или сидеть вечерком, смотреть киношку, понять, что прямо сейчас душу продашь за Цезарь с креветками. Тыкнуть на умную кнопку - и тебе пять рецептов: классика, диетический, упрощённый, версия для детей, версия для кошек:D С полным расчётом КБЖУ, сопоставлением с моим текущим весом и потребностях в белке/калориях, всей выкладкой, сколько грамм каких продуктов нужно, с предложением добавить в заказ, скажем, отсутствующий на моей кухне слайсер для пармезана...))) Ссылка на мастер-класс по варке креветок, потому чек-бокс напротив этого навыка ещё не отмечен в списке навыков. Да это был бы просто рай на Земле :)
А в те пару часов, которое я могла бы потратить на поиск рецептов или походы к врачу, поехать на велике в парк, отключив все телефоны...
Чего на самом деле стоит опасаться в AI?