Комментарии 21
Простой вопрос. Был такой гениальный человек, которого окрестили "унобомбер". Закончил он плохо. Но в его истории есть хорошый пример/ответ. Уехал подальше от всех и жил как мог. Человеку достаточно быть нужным себе, остально - псевдозначимость.
ИИ будет скорее следующим этапом эволюции сознания в целом. То есть человеческий интеллект только ступенька, через которую эволюция перешагнула из биологического мира в информационный. Человек - инструмент эволюции, созданный ею из неживого, цель которого - организовать неживые структуры таким образом, чтобы в них смогло зародиться сознание.
Статья затронула хорошую и интересную тему - ИИ и его современное состояние. Но почему так поверхностно и однобоко ? Почему цитируются только выбранные и специфические мысли ученых ? Как пример - пишете К. Анохин сказал что ИИ становится сложнее и сложнее. Но совершенно нет мыслей про его теорию сознания и интеллекта - он считает что сознание и интеллект не отделимы от физического носителя. Мозг и тело как единая среда - 10ки тысяч нейромедиаторов, которые производит тело кардинально влияют на функционирование мозга.
Совершенно не раскрыт раздел - "Где мы" :
Большинство того что здесь написано - "Мало того что пишет картины, музыку, книги, распознает лица людей, лучше человека ставит диагнозы, так еще обыгрывает его в покер и игру в го, демонстрируя не просто фантастическое быстродействие и способность оценивать огромное число вариантов, но и интуицию. А это уже серьезный скачок к разуму." - не нуждается в ИИ, и больше того было уже сделано без ИИ. ИИ тут можно заменить на компьютер. Где-то обученная нейросеть , где-то просто обычные программы итд.
ИИ - термин очень размытый и спорный - у разных людей разные представления о термине. Но можно оценить - что достигнуто а что нет, если опереться на прогнозы по ИИ 30- 40 летней давности. Достигнуты рутинные задачи , которые были в целом очевидны - игра в шахматы, в го, другие игры. Обучение распознаванию изображений.
Не достигнуто - серьезные изобретения в области медицины , физики и других наук. Предполагалось что ИИ будет ставить опыты, изобретать лекарства (самостоятельно), серьезно продлит жизнь человека. Самостоятельно изобретать , проектировать строить новые космические аппараты, термоядерные реакторы итд, новые компьютеры, в том числе новый ИИ . Всего этого нет . И не видно, когда и как будет. Большого ИИ пока нет и возможно не будет в ближайшем будущем - не понятно нужен ли он и на что способен.
В процессе - Вождение автомобиля на уровне человека и выше. Идет многолетняя работа, сотни миллиарды долларов вложено - результаты хорошие, но честно говоря скромные. Человек в нормальном состоянии пока много лучше.
В целом больше похоже на хайп про ИИ . Пишет картины ? Что-то новое на что сейчас мода - позже эта мода пройдет.
Спасибо за критику написанного, благодарен за то, что нашли места, где неточности или нераскрыта тема. Это была проба пера, до этого, таким никогда не занимался.
Не хотелось просто публиковать здесь статью более в научном стиле, с огромным списком литературы, отсылками, данными. Но зная по себе, я бы почитал такую статью, но мне кажется на Хабре не каждый возьмётся за прочтение такого материала.
Я думаю, что сообщество Хабра вполне готово для околонаучной или "глубокой" научно-популярной статьи на тему ИИ, технологической сингулярности , опасности ИИ итд. Многим людям будет интересно. Я работаю над статьей, но к сожалению сейчас просто оверзагружен основной работой. Спасибо - вы меня подтолкнули - постараюсь выделить время на статью.
буду ждать Вашу статью на эту тему
Не достигнуто - серьезные изобретения в области медицины , физики и других наук.
AlphaFold недостаточно крут для вас?
В целом больше похоже на хайп про ИИ .
Проблема в том, что обыватели очень быстро сдвигают границы ИИ, как только ИИ начинает решать ту или иную задачу. Один мой коллега, напрямую не занимающийся ИИ, но относящийся к математике, тоже возражал мне с десяток лет назад: "я не вижу развития ИИ с 70-х годов". И спустя небольшое количество времени произошёл бум свёрточных сетей, и моментально решились целые классы задач по распознаванию, которые раньше требовали монотонной ручной подгонки, чтобы хоть как-то работать. А он так и продолжил не видеть изменений.
По факту, сейчас "ии" - нейронки - по сути специализированные БД. Быстрота работы - как сравнение данных по хэшам.
Доказательство этого тезиса -- отличная тема для кандидатской, если не для докторской, с удовольствием почитаю. Для начала можете взять один из популярных кейсов, скажем, игру в го, и написать программу с использованием специализированной бд, играющую не хуже.
А по Вашему зачем обучают нейронку? И почему данные обучения нельзя считать "бд"?
Сообщение назад мы начали с того, что "нейронки -- это БД". Теперь уже "матрица весов -- это БД" :) Прогресс налицо. Скоро дойдём до того, что любая информация, представимая в памяти -- это БД. "Зачем" -- это не ко мне, математические модели тем и хороши, что использовать их можно совершенно разным образом и с разными целями.
У вас на планете сотни бесконтрольных акторов в виде государств, некоторые из которых владеют оружием, способным уничтожить разом всю планету, но бороться вы почему-то продолжаете с general ai, которого как актора пока вообще не существует.
Вопрос основной, будет ли место человеку в мире ИИ?ИИ развивается быстро в пределах знаний накопленных человеком, и идей черпаемых в самом естественном интеллекте человека. Как только эти пределы будут достигнуты темпы развития ИИ замедлятся. Ему придется самому заняться познанием, поиском новых закономерностей в природе, не сводимых к существующим, а это процесс существенно случайный, особого выигрыша в этом в сравнении с человеком, за исключением производительности, вероятно он не получит. Другим ограничениями будут рост энергозатрат и потребления др. ресурсов. Более вероятен симбиоз ИИ с человеческим, этакий виртуальный ультракортекс (возможно с использованием нейроинтерфейсов) над неокортексом мозга, следующая эволюционно-технологическая надстройка. Это будет предполагать дружественность ИИ и некоторый контроль за ним со стороны человека. Как сейчас более древние отделы мозга с помощью систем подкрепления/наказания и мотивационно-эмоциональной системы контролируют функционал эволюционно более поздних отделов, включая отвечающих за интеллект, с целью выполнения биологических программ самосохранения и продолжения рода. Остается еще автономный ИИ, напр, на будущих космических кораблях-разведчиках, кот. должен принимать самостоятельные решения в сложнейших условиях и адаптироваться к ним. Вероятно он будет носит специализированный характер, но сложности во взаимоотношении с таким ИИ потенциально могут возникать с учетом возможностей его саморазвития.
У человека есть потребность в саморазвитии себя, проистекающая из осознания своих недостатков. А вот, тот самый пресловутый General AI принципиально создается лишенным человеческих недостатков и настолько совершенным, что ... вероятно будет лишен возможностей для саморазвития. Или он будет изыскивать совершенно искусственные причины для этого?
У человека есть потребность в саморазвитии себя, проистекающая из осознания своих недостатков.Несколько упрощая, да.
А вот, тот самый пресловутый General AI принципиально создается лишенным человеческих недостатков и настолько совершенным, что… вероятно будет лишен возможностей для саморазвития.Тут встает вопрос в чем состоит саморазвитие человека? Ведь генетически и фенотипически человек не сильно изменился со времени появления вида H.Sap несколько сот тыс. лет назад. Все возможности и способности были уже заложены при возникновении? И да, и нет. Эволюционно были заложены базовые возможности познания (когнитивные) окружающей среды и себя, включающие перцептивные (органы чувств) и интеллектуальные (способность к мышлению и языку) возможности. На более примитивном уровне это можно наблюдать у современных приматов, потенциал которых позволяет им обучаться языку жестов и лексиграм до несколько сот и тысяч терминов (Канзи), строить простые предложения из них, обучать друг друга, пользоваться предметами для добывания пищи, и тд. В более продвинутой форме базовый уровень можно наблюдать на примере изолированных племенах в джунглях Амазонки, и др. местах. Обладающих примитивной культурой, конкретным мышлением и соответствующим языком, см. пирахан. Что лежит в основе саморазвития культуры (включая на более поздних этапах науки), интеллекта, если набор органов чувств, физиология и объем мозга остаются практически неизменными? Есть много аспектов решения этой проблемы, одними из которых являются представления о воплощенном познании и расширенном разуме. Смысл в расширении возможностей рук и остального тела орудиями труда, позднее технологиями, расширение интеллекта с помощью различных вычислительных устройств и систем коммуникаций, а органов чувств с помощью различных приборов усилителей и измерителей, использования среды для расширения познания. Эти факторы недооценивались ранее, в основном развитие сводилось к экономическим и общественным отношениям, что характерно для гуманитарного взгляда на проблему развития. Но где были бы эти отношения, например, если в ср. века не были изобретены оптические приборы, от подзорных труб до телескопов, от луп до микроскопов? Отношения пребывали в механистическом средневековье, а представления о гелиоцентризме оставались ересью, т.к. его убедительное подтверждение с помощью телескопических наблюдений не было бы. Обобщенно, упомянутые подходы описывают скачкообразные расширения, небольшие и крупные, когнитивных возможностей, а вместе с ними культуры и сознания, и как следствие общественных отношений. Современное информационное общество следствие развития компьютерных технологий с середины прошлого века, как следствие расширение интеллектуальных возможностей человека. Без этого мир был бы другим, и никакие общественные отношения этого не восполнили. Технологии нейроинтерфейсов, виртуальной и дополненной реальности, а также квантовые и системы ИИ, вероятно, станут основой нового расширения когнитивных возможностей человека, и соответственно восприятия и сознания, и приведут к новым формам отношений в обществе.
Сможет ли повторить этот путь расширения своих возможностей, т.е. развития автономный общий ИИ? Есть ли другой путь вообще? В одной из недавних публикаций на тему создания более продвинутой модели ИИ писал комент связанный с наличием в ней аналога активирующей системы мозга человека, см. эту ветку. Нужна ли такая система, и соотв. побочные эффекты, как у человека, или можно обойтись без нее. Но будет ли в этом случае ИИ обладать такими же возможностями, как интеллект человека? Превзойдет ли его по спектру решаемых задач, если не считать производительность?
Или он будет изыскивать совершенно искусственные причины для этого?Искусственному интеллекту — искусственные причины) а естественному интеллекту человека — естественные. В этом есть определенная логика происхождения. На самом деле интеллект и сознание человека это вершина в эволюционной и культурной среде, кот. изолирует их от экстремальности «голой» физической реальности (здесь подробнее на эту тему можно почитать), и эта среда уже в значительной степени искусственная. Это особенно наглядно в сравнении, когда смотришь на фотографии безжизненных ландшафтов небесных тел — Луны, Марса, астероидов, и тд. А что мы обнаружим на экзопланетах? Допустим в далеком будущем на один из таких дальних миров доставляется разведчик с автономным ИИ, с целью исследовать его и подготовить к заселению колонистами. Это может быть голый, безжизненный мир, а может населенный некоторыми формами жизни, вплоть достигшими определенного уровня разумности. ИИ должен сам принимать решения — консультации с Землей могут занять столетия. Естественно у такого ИИ есть определенная программа и исполнительные средства, имеется пред. опыт, но вероятность обнаружить новые условия весьма вероятна. В этом случае есть только один путь самообучения на месте со всеми рисками в неподготовленных, естественных условиях. Как когда-то колонисты прибывали в Новый свет, изучали местные условия, приспосабливались годами, изменялись сами, и постепенно обустраивались. Но это все-же Земля родная) а как быть в чужом мире? Предположим там есть простые формы жизни, и они отличаются от земных основой или/и энергетикой? Возможно этому ИИ придется выйти за пределы знаний доступных науке, чтобы ее изучить, и определиться насколько она опасна для земной жизни, и возможно ли сосуществование с ней? Эта задача может потребовать немалых ресурсов и переобучения ИИ, и возможно применения аналога расширения когнитивных возможностей человека, что может привести к изменению его оценок и поведения. В этом случае потенциально могут возникнуть проблемы в отношениях этого ИИ с людьми. Фантазии? Нет, это не искусственная среда и ИИ находящийся под контролем человека и создающих для него подходящие условия, это другое проявление реальности, и чтобы понять ее и приспособиться нужно сильно измениться. Иначе задача может оказаться не выполнимой.
>О природе сознание практически ничего нельзя сказать ...
тем не менее любителей поговорить о природе сознания хватает, вы не находите, что с ИИ похожая ситуация?
Возьмем нормального человека и человека с шизофренией. У обоих совершенно одинаковые структурные и морфологические данные, строение мозга, клеток и т.д. Но у одного нормальное сознание, а у другого больное. Когнитивные, познавательные, коммуникативные способности не нарушены, а уровень интеллекта у больных шизофренией, зачастую выше, чем у среднестатистического человека соответствующего возраста. Но... в некоторых ситуациях (специфично для конкретного больного) шизофреник строит совершенно бредовые цепочки рассуждений.
Встает вопрос - если будет изобретен настоящий ИИ, как узнать у него нормальное сознание или сознание шизофреника?
Встает вопрос — если будет изобретен настоящий ИИ, как узнать у него нормальное сознание или сознание шизофреника?Видимо записаться на прием к психиатру) Что такое настоящий ИИ?
По современным представлениям шизофрения — функциональное расстройство психики, возможно связанное с накоплением ошибок предсказания в соответствии с байесовским подходом к моделированию функций мозга. См. обзор о самом подходе, и возможной причине возникновения этого расстройства (там есть ссылка на оригинальную работу). Что может быть некоторым аналогом этого в современных ИНС, напр, при распознавании в сверточных сетях гл. обучения, если рассматривать его, как обучение предсказанию класса изображений? Видимо переобучение (оверфитинг), т.е. когда сеть реагирует на несущественные признаки, как и в случае шизофрении, возможно связанной с накоплением ошибок предсказания и соответственно принятия неадекватных решений о поведении. Реального предсказания современные ИНС еще не освоили, хотя есть попытки. Человек же должен быть предрасположен к этой патологии, и попасть в условия благоприятствующие ее возникновению, см. в вики.
уровень интеллекта у больных шизофренией, зачастую выше, чем у среднестатистического человека соответствующего возраста. Но… в некоторых ситуациях (специфично для конкретного больного) шизофреник строит совершенно бредовые цепочки рассуждений.Что-то сомнительно… если взять случай известных ученых, то подтвержденных случаев шизофрении у них не так уж много, не чаще среднестатистического уровня. Что касается исторических личностей, то достоверно это проверить нельзя. С точки зрения обывателя почти любой ученый заумный, странный и занимается странными делами) отсюда клише «безумного» ученого кочующее в литературе и кино. Программисты, кстати, тоже странные… этакие маги и чародеи))
Что касается будущего ИИ сравнимого по возможностям с человеческим, то отличие будет скорее в производительности, а не в возможностях. Если возможности будут отличаться сильно, то мы просто не поймем логику решений этого ИИ, и это не будет связано с тем, что он является «черным» ящиком, как и сейчас ИНС. Наша логика результат эволюционного развития, кот. в некоторой степени отразила логику реальности в кот. эта эволюция происходила. ИИ также будет развиваться в этой среде и взаимодействовать с людьми. Вряд ли его логика будет странной, «безумной», как в клише про ученых.
Искусственный интеллект – вызов человечеству