Pull to refresh
4
Karma
0.3
Rating
  • Followers 8
  • Following

Похожи ли компьютерные игры на войну?

В достаточно сложных играх они начисто сливают профессиональным игрокам, даже имея сверхчеловеческую реакцию.

Это откуда информация? У OpenAI Five не было сверхчеловеческой реакции (время реакции было около 200мс), когда она выиграла у OG 2-0, и получила винрейт 99.4% в последующих семи тысячах играх в интернете.

Мы уникальны. И, вероятно, одиноки

Уже сегодняшними технологиями можно отправить во вселенную пакет "собери хомосапиенса", с конкретными ДНК.С

С сегодняшними технологиями нельзя. То есть отправить последовательность нуклеотидов можно, но собрать из неё человека не получится. В яйцеклетке, кроме ядерной и рибосомальной ДНК содержится огромное количество информации. Например, как именно ДНК упакована в хроматине, какие белки и в каких концентрациях там присутствуют и т.п.

Мы уникальны. И, вероятно, одиноки

Так там и кислорода нет в таких количествах. Да и на существующую на Марсе жизнь уже мало кто надеется. Ищут свидетельства наличия жизни в прошлом.

Мы уникальны. И, вероятно, одиноки

Самый короткий известный рибозим имеет всего с десяток оснований.

Да, но длина самого короткого самореплицирующегося рибозима (или комплекса из взаимно-реплицирующих рибозимов) неизвестна. PTC - это, конечно, их наследник, но сколько ставших ненужными частей от него отрезано - кто знает.

Кроме того, для точной оценки вероятности нужно изучить весь "ландшафт" РНК-мира, там может быть множество "поглощающих состояний" - слишком успешных саморепликаторов, которые сильно снижают разнообразие доступных кусков РНК и, соответственно, скорость эволюции; или так меняют окружающую среду, что эволюция практически останавливается (возможно это почти произошло при Гуронском оледенении, уже для более сложных репликаторов, конечно).

Естественно, проанализировать весь "ландшафт" практически невозможно. Остаётся полагаться на веру в то, что мы неуникальны.

Мы уникальны. И, вероятно, одиноки

Если у них найдётся оптический телескоп космического базирования с эффективным диаметром где-то 100км, то они смогут обнаружить большое количество молекулярного кислорода в атмосфере Земли.

Исходные данные для оценки взяты из раздела 4.3 в https://www.liebertpub.com/doi/10.1089/ast.2017.1727

Мы уникальны. И, вероятно, одиноки

В галактиках десятки и сотни миллиардов звёзд. Считать что мы тут на своей каменистой планете совсем уникальные - это особый уровень эгоцентризма.

Обычная комбинаторика. Мы пока не можем исключить вероятность того, что для возникновения жизни необходим минимальный репликатор такой длины, что вероятность его сборки в подходящих условиях составляет 10^-100. В этом случае даже квинтиллионы потенциально обитаемых планет - капля в океане.

Так что я не настроен ни оптимистично, ни пессимистично, а считаю, что пока мы ничего не можем сказать по этому поводу.

Windows 11: минусы дизайна

Активнее плюсуем топик в Feedback Hub: https://aka.ms/AAd2ifw

Проект мультфильма по произведениям Ивана Ефремова

Наверно что-то вроде такого

Чего на самом деле стоит опасаться в AI?

Ага. DeepMind (по-моему) недавно задекларировал свою готовность решать проблему низкой универсальности существующих подходов. Посмотрим, что из этого получится.

Чего на самом деле стоит опасаться в AI?

И даже не в том, что бы находить хоть какое-то решение. А в том, что бы находить НАПРАВЛЕНИЕ, в которым нужно двигаться, что бы решение найти.

Я думаю обычно таких направлений множество, кроме редких областей, где нужно протиснуться сквозь игольное ушко требований вроде космонавтики (да и там новые способы находят: баки из нержавейки и переиспользование, например). А ощущение единственной правильной найденной дороги создаётся из-за наших когнитивных ограничений: вот! дорога! других нет! Потом смотришь, что другие на эту тему придумали, а дорог-то много. Ну и те, кто пошёл по неверной дороге в историю редко попадают больше в истории.

Впрочем, у существующих искусственных нейросетей есть проблемы даже с тем, чтобы оставаться на одной дороге: проблемы с иерархическим планированием, проблемы с дальними корреляциями и т.п.

Чего на самом деле стоит опасаться в AI?

Я правильно полагаю, что основание для такого взгляда - это запрещающие теоремы (проблема остановки, теорема Райса)?

Но проблема остановки не запрещает то, что делают люди: генерируют алгоритм (возможно с ошибками) или выдают "что-то задача сложная, давай переделаем её вот так и тогда можно написать так".

Вот если бы люди всегда генерировали правильный алгоритм для решения заданной задачи или выдавали "решение отсутствует", если оно действительно отсутствует, то тогда это было свидетельством в пользу неалгоритмической природы человеческого мышления.

Чего на самом деле стоит опасаться в AI?

Про рассуждения за и против этих аргументов можно написать книгу (да и написаны уже). Но, что характерно, экспериментальных проверок идей, высказанных в этих рассуждениях, нет даже на горизонте. А если и отрицание и подтверждение гипотезы не приводит к различию в ожидаемых наблюдательных результатах, то никакие наблюдения или их отсутствие не могут повлиять на вероятность её истинности. Так что в каком-то смысле это вопрос веры.

Китайская комната - аргумент, запутывающий нашу интуицию относительно понятия "понимание". Никаких практических выводов из него не следует. Китайская комната по условию мысленного эксперимента идеально реализует всю функциональность, которую мы связываем с пониманием (а от ИИ нам больше ничего и не надо).

Книга-эйнштейн - физически нереализуема в нашей Вселенной.

Гёделевский аргумент предполагает, что мы можем выйти за пределы любой формальной системы, хотя наши способности в этом плане могут быть ограничены.

Чего на самом деле стоит опасаться в AI?

Не такое уж и сильное. Пока нет никаких свидетельств того, что люди обладают супер-Тьюринговыми вычислительными мощностями. Нет даже свидетельств того, что люди обладают повышенной вычислительной мощностью на классах задач ускоряемых квантовыми компьютерами. Мы не можем быстро разложить число на множители и т.п. Отсутствие свидетельств в пользу гипотезы увеличивает вероятность неверности этой гипотезы.

Как-то связать наличие у нас сознания с нарушением этого тезиса, по-моему, тоже ни у кого не получилось. Самое близкое, что я видел, это - "The Ghost in the quantum Turing machine" Скотта Ааронсона. Но и там речь идёт не о связи сознания с возможностью решать интеллектуальные задачи, а о теоретической возможности квантовых процессов, позволяющих сделать абсолютно свободный выбор, ретроспективно изменив начальные условия Вселенной.

Чего на самом деле стоит опасаться в AI?

попытка повторить черный ящик используя какието имперические сведения о том как работает мозг

Нет, конечно. Эмпирические данные о работе нейронов используются в основном в вычислительной нейробиологии, а не в ИИ. В ИИ данные о мозге используют разве что как источник, гм, вдохновения. Например, единственная общая часть механизмов внимания в искусственных нейронных сетях и мозге - это скорее всего слово "внимание".

И, как вы правильно заметили, полного понимания механизмов работы мозга нет, так что полезность отрывочных эмпирических данных для проектирования работающих на кремнии искусственных нейросетей сильно ограничена. Кроме того архитектура используемая мозгом может быть не единственной архитектурой, пригодной для реализации искусственного интеллекта общего назначения. Так что есть вероятность того, что сильный ИИ будет создан без полного понимания механизмов работы мозга.

Чего на самом деле стоит опасаться в AI?

но всёравно я поражаюсь что среди многих Итшников всёравно очень много людей который на полном серьезе считают AI потенциальной заменой обычному человеку в плане мышления

А я поражаюсь очередному elan vital. Есть физическая система, которая, по-видимому, без всяких квантовых штучек и нарушения физического тезиса Чёрча-Тьюринга реализует интеллект общего назначения (человеческий мозг), но многие почему-то считают, что воспроизвести аналогичную функциональность на кремнии невозможно.

Проект мультфильма по произведениям Ивана Ефремова

После того как такие красотки начинают ходить в школу и университеты, желание придерживаться местечковых традиций у них сильно падает. И, подозреваю, не только из-за влияния "белой" эстетики. Единственная "целесообразность" тут - поддержание традиций ради традиций, и она становится сомнительной после расширения кругозора.

Проект мультфильма по произведениям Ивана Ефремова

Это как сказать. Я не видел исследований, что светлая голова должна обязательно сопровождаться боковым амиотрофическим склерозом или каким-то другим заболеванием. Но в жизни такие вещи отданы на откуп более-менее случайному кроссинговеру и, в результате, имеем что имеем.

Проект мультфильма по произведениям Ивана Ефремова

Насколько я понял, говорили не о мотивах ГГ, а о мотивах автора этого опуса. А в рамках мира Стругацких этот рассказ больше напоминает пролеченный эпизод параноидального бреда.

Как их мир поддерживается в состоянии "все люди - замечательные" Стругацкие оставили за скобками, но за скобками точно были не аппаратно-бюрократические реалии 70-х.

Архитектура Вселенной, часть 1: Сознание

Если подходить с точки зрения, что существует некое безусловное определение понятия система, которое мы ещё не нашли - да. Но может оказаться, что система, сама определяющая чем она является, а чем нет - это наибольшее приближение к безусловности, которое мы можем получить.

Архитектура Вселенной, часть 1: Сознание

Так в этом и смысл. Кому нужно всеобъемлющее, абсолютно точное, не зависящее от контекста в котором оно используется, определение понятия система? Философам, возможно. А обычным системам, содержащим неполное и неточное описание самих себя, достаточно контекстно-зависимых целеориентированных приближений. Экономия вычислительных ресурсов.

Information

Rating
1,706-th
Registered
Activity