А когда подсунули лошадь, она тоже решила что танк, потому что все танки были светлыми фотками, и фото с лошадью тоже. Т.е. вариант такой — нейросети могут сколько угодно хорошо работать даже на отложенном датасете, но она не в состоянии генерализовать знание настолько, насколько человек имеет его априорно от рождения
Человек априорно от рождения знает, что такое танк и лошадь? Думаю, нет. ИМХО новорожденный и сеть до обучения имеют одинаковый нуль знаний. Но человек учится гораздо лучше сети. Это заставляет предположить, что их устройства принципиально разные.
вылезет еще что-нибудь, неучтенное в математике вопроса
М.б. математика у сети и у человека разные? — два разных алгоритма м.б. основаны на разных мат. принципах. BTW интересно отметить, что шахматист не думает по альфа-бета алгоритму, которые использует ПО компьютерных шахмат. Но ни один хороший шахматист не может объяснить, как он думает, настолько подробно, чтобы реализовать это объяснение в ПО.
По-разному воспринимается ИИ игры, т.е. одинаковые стратегии.
в этой игре мультиплеер сильно отличается от сингла сам по себе
Не отличается зданиями (картами), оружием (свойства, наносимый урон), артами (нпр., приспособление для прыжка на балкон).
сингл, которая вам не понравилась потому что там социальная часть менее важна
Не непонравилась (иначе не стал бы играть), но однообразие стратегий ИИ достает. Соц. часть ИМХО в этом случае не важна. Если бы была возможность в моде усилить ИИ, сделать бы его поведение более разнообразным, снизив при этом для него фору, то было бы значительно интереснее.
Это другой режим с другими приоритетами. Я об этом и говорю.
Вы сказали:
Да нет, совершенно то же самое соревнование, просто вместо живого человека есть его симуляция.
Далее:
Режим в котором вы играете с ботами которые заменяют возможных людей — это мультиплеер, просто у вас есть симуляция человека вместо человека. Симуляция, естественно, не является полной копией и имеет свои преимущества и недостатки. Но принципиально ничего не меняется. Если против вас будет играть плохой игрок но с читами, то будет ровно то же самое что и мухлюющий компьютер.
Человек не равен слабому ИИ, это принципиально. Мухлюющий комп. м.б. более трудным противником, чем слабый игрок с читами, но человек обычно играет гораздо разнообразнее. Это разнообразие часто губит слабого игрока: при недостатке опыта игры он может пойти по провальному пути, по какому комп не пойдет. Он может начать стрелять со слишком далекого расстояния — промахнется и обнаружит себя, комп будет стрелять с точно зашитой дистанции при точно зашитой вероятности попадания, во многом определяющей игровой баланс (для более сложного уровня вероятность будет больше). Это тривиально и поэтому бывает скучно.
Вы не согласны с тем, что реалистичность/правдоподобность востребована?
Не согласен. В моделировании (а каждая игра, как и произведение искусства — это модель) это называется адекватностью модели. Модель не воспроизводит всех свойств прототипа, а только некоторые наиболее значимые свойства. В погоне за правдоподобием можем получить модель, перегруженную второстепенными свойствами, игра может стать перегруженной рутиной. Нпр., в начале каждого хода, т.е. очередным утром, главный герой должен принять душ, почистить зубы, одеться, позавтракать. В начале игры такая детализация может показаться забавной, но однотипные действия на каждом ходе быстро надоедают. В худ. литературе подобный натурализм называют бытописательством (один из видов графомании). Востребовано не правдоподобие (в смысле натурализма), а востребованы адекватность модели, ее внутренняя непротиворечивость. Конечно, всегда востребованы хорошая графика и богатое разнообразное аудио, но это декорации, достижимые в любой игре повышением затрат на дизайнеров.
Повторю еще раз свой пример: пушка, которая искажает пространство вокруг звездолета совершенно неправдоподобна с точки зрения современной физики, но в КР2 это самая любимая пушка. Она имеет уникальное свойство каждый выстрел наносить урон каждому из толпы врагов и анимация стрельбы красивая.
Пока наши классификаторы сбоят даже при минимальных изменениях между учебным и тестовым распределением, мы не сможем достичь удовлетворительной гарантированной надежности.
М.б. нужны принципиально другие классификаторы? М.б. нейронным сетям будут всегда мерещиться овцы, как их ни обучай? Сожалею, но какое-то не оптимистичное первое впечатление по прочтении. Спасибо за перевод — много инфы для размышления.
Усложнение конструкции пишущей головки в сочетании с использованием золота привело к существенному росту себестоимости производства.
ИМХО упоминание золота в микроэлектронике давно выглядит как довод для профанов. Сколько там нужно золота? — Предполагаю, что сильно меньше 0.1 г на изделие. Посмотрел по гуглу цену на данный момент:
Текущая цена на золото составляет 1212.40 долларов за 1 тройскую унцию (31,1 грамм).
Нпр., когда-то играл один и вдвоем в James Bond 007: NightFire. Вдвоем играли в одной комнате по локалке. В одиночном режиме, как и во многих других подобных играх, тупизна игрового ИИ очень достает. А когда играешь вдвоем — к ИИ минимальные требования. Но мне и одному было интересно тренироваться в мультирежиме. Это были тренировки для игры вдвоем. Поэтому не согласен:
Да нет, совершенно то же самое соревнование, просто вместо живого человека есть его симуляция.
ИМХО в монорежиме нет соревнования, это головоломки стелс:
игрок должен избегать обнаружения игрового персонажа противниками или скрытно устранять их, не привлекая к себе внимания.
Зачастую слабость ИИ в играх компенсируют рандомом и мухлежом компа. Показательна в этом плане игра КР2, о которой я много писал: здесь, здесь и здесь. При этом интересно: в инете есть таблицы рекордов, знаменитостей и временами проводятся чемпионаты. Т.е. есть соревнования для моно игры. Но и такие соревнования я бы не назвал соревнованиями с компом.
Но при этом если вы следите за игровой индустрией, то должны были видеть как много шума по этому поводу поднимается временами — то есть это реально важная вещь, просто, очевидно, не для любой игры.
В изящных искусствах это называется «условность» и при восприятии, и при анализе условность зачастую противопоставляется реалистичности. В реальности, нпр., люди не общаются исполнением арий, а на сцене поют. Среди чемпионов КР2 много технарей. Неужели взрослый дядя 35-ти лет верит в пушку, которая искажает пространство вокруг звездолета?
Эта стратегия была похожа на то, чем занимались Gillette или производители принтеров: раздавайте бритвы или принтеры, чтобы зарабатывать на лезвиях и картриджах.
Не слежу за рынком принтеров (на бумагу, не 3D). Не ожидает ли этот рынок такой же крах, как рынок фотопленки? — Как отмечено в статье: печать цветных фото нынче не в моде. И безбумажный документооборот набирает обороты.
чуть ниже автор рассказывает о новом проекте, в котором он участвует. Это проект ALIAS – система автоматического управления самолетом. Все выглядит хорошо, но поставлена амбициозная задача: минимумом усилий оснастить ею любой самолет так, чтобы не сертифицировать снова воздушное судно полностью, не вмешиваться в его конструкцию. В частности, использовать компьютерное зрение, чтобы считывать информацию с дисплеев, установленных в кабине самолета.
Спасибо за перевод — действительно (как уже было отмечено выше) тема очень актуальная, но источников по ней не много. При этом с автором не согласен фактически по всем пунктам (что не уменьшает ценность публикации, т.к. при любой попытке рассмотрения столь сложной и неразработанной темы, неизбежо возникнут несогласия).
любой может придумать сказку на ночь для сына или дочки. Но он при этом не становится великим рассказчиком, и маловероятно, что кому-то еще понравится слушать эту историю.
Первую книгу о Гарри Поттере не захотели печатать 9 издателей. Очень трудно разглядеть великого рассказчика. Поэтому каждому можно пытаться им стать. Если никто не будет рисковать, то рассказчиков просто не будет, т.к. для любого это выглядит маловероятным.
До появления компьютеров слово «игра», как правило, означало какую-то соревновательную активность, в которой мерялись силами индивиды или команды.
А с появлением компьютерных игр во многих реализовалась соревновательная активность, в которой игрок мерялся силами с компом. Нпр., разнообразные гонки, стрелялки и т.д. Далеко не во всех таких играх есть головоломки — зачастую думать вредно, а надо на рефлекторном уровне кнопки нажимать или баранку крутить. Минимальный уровень сложности и/или программа-замедлитель зачастую делают такую игру совершенно тривиальной и неинтересной.
у всех интересных игр есть общее свойство: по мере развития игры сам персонаж эволюционирует. То есть, к финалу игры это будет уже совершенно иной персонаж, нежели в начале
Шахматы интересны много веков, но там фигуры не эволюционируют за исключением прохода пешки в ферзи, что бывает не в каждой партии.
Однако, тема игры в конечном итоге практически несущественна. Она должна сработать как приманка, чтобы привлечь внимание пользователя. А удержать это внимание надолго удастся лишь в том случае, если правильно выстраивать взаимодействие пользователя с игрой и ее правилами.
Скучная или непонятная тема способна оттолкнуть 99% потенциальных игроков. Почти никто не купит/не скачает такую игру, а немногие, кто случайно ее запустил, скорее всего не дойдут до осознания правильного взаимодействия пользователя с этой игрой и ее правилами.
Пользователи часто говорят, что хотелось бы, чтобы игра была «реалистичной». Но на самом деле они при этом имеют в виду не реализм, а достоверную имитацию реального мира. Хотят иллюзию реального мира, из которой аккуратно вырезаны все скучные элементы. У этого феномена есть название — правдоподобность.
Какой реальный мир в шахматах? В Го? В подкидном дураке?
Социальные взаимодействия идут в списке первыми, однако, они важны лишь в многопользовательских играх. Игровые аспекты, способствующие взаимодействию пользователей, всегда получают наивысший приоритет – даже в ущерб интересности. Ведь именно ради социальных контактов многие игроки готовы так подолгу сидеть в онлайне.
При игре против компа обычно можно перехаживать любое число раз. А играя против другого игрока это обычно не получается. Поэтому некоторые предпочитают играть, нпр., в шахматы с компом и социальные взаимодействия для них нежелательны.
Есть модель, по ней построили железку, включили — изучили как работает. Сравниваем с оригиналом. Уточняем модель, строим новую железку, которая будет работать ещё лучше. Так работает научный метод.
ИМХО научный метод работает не всегда так. Нпр., была модель флогистона, одно время она работала и ее пытались улучшать, а потом пришлось отказаться.
PS Спасибо переводчику. ИМХО хороший перевод. Единственное, что на мой взгляд стоит отметить: для термина CS точного перевода нет, обычно используют термин «информатика».
Сегодняшние программы могут распознавать лица и записывать речь. У нас есть программы для обнаружения тонкого финансового мошенничества, для нахождения релевантных веб-страниц в ответ на неоднозначные запросы, для прокладки оптимального маршрута практически в любом месте, эти программы побеждают гроссмейстеров в шахматы и Go и переводят между сотнями языков.
Прочитав до этих строк проделал
любимый тест
Перевел в гугле приведенную цитату на английский:
Today's programs can recognize faces and record speech. We have programs for detecting subtle financial fraud, for finding relevant web pages in response to ambiguous requests, for laying the optimal route almost anywhere, these programs defeat grandmasters in chess and Go and translate between hundreds of languages.
А потом назад:
Сегодняшние программы могут распознавать лица и записывать речи. У нас есть программы для обнаружения тонкого финансового мошенничества, поиска соответствующих веб-страниц в ответ на неоднозначные запросы, для оптимального маршрута почти везде, эти программы побеждают гроссмейстеров в шахматах и идут и переводят сотни языков.
Не совсем плохо. Но заметная часть смысла испарилась. Ниже в статье приведены более яркие примеры машинного перевода, но их можно заподозриь в специальном подборе, а я случайно выбрал первый попавшийся кусок.
Поэтому согласен с автором:
Как человек, работающий в области ИИ на протяжении нескольких десятилетий, я стала свидетелем провала множества подобных предсказаний. И я уверена, что последние прогнозы тоже не оправдаются. Проблема создания человеческого интеллекта в машинах остаётся сильно недооцененной. Сегодняшним системам ИИ катастрофически не хватает сущности человеческого интеллекта: понимания ситуаций, которые мы переживаем, способности понять их смысл.
А здесь сам ранее убедился, что: добавление небольшого количества «шума» к изображению серьёзно мешает работе современных программ распознавания. (В статье про распознавание лиц, но ИМХО справедливо и для других изображений).
робот, зараженный вирусом, может совершать крайне неадекватные и опасные действия
Интересно было увидеть сходную мысль:
Еще более тревожны недавние демонстрации уязвимостей ИИ перед так называемыми «враждебными» примерами. В них злонамеренный хакер может вносить определённые изменения в изображения, звук или текст, которые незаметны или незначительны для людей, но могут привести к потенциально катастрофическим ошибкам ИИ.
Т.о. согласен с авторм в том, что цель — развитие надёжного ИИ.
Так что, по-моему, нет какой-то «проблемы современных математических текстов»
ИМХО есть принципиальные проблемы. Кратко для примера можно назвать 3:
1) Многие авторы отмечают тенденцию к усложнению доказательств новых теорем — есть опасение, что скоро появятся задачи, которые будут нерешаемы по причине сложности для любого человека (слишком сложные тексты);
2) Системы ИИ автоматического доказательства теорем пока справляются только с тривиальными задачами. Ни одному математику не удается научить (сделать текст для) ИИ делать нетривиальные доказательства. Есть опасение, что не удастся.
3) Машинное решение задачи 4х красок (текст) остается непонятным для математиков. Это методологическая проблема: можно ли в принципе признавать такое решение?
Конструктивная математика — близкое к интуиционизму течение в математике, изучающее конструктивные построения. Согласно критерию конструктивности — «существовать — значит быть построенным».[17] Критерий конструктивности — более сильное требование, чем критерий непротиворечивости.[18] (Вики)
(Мне показалось, что «Конструктивная математика» не имелась в виду? — Уточнил на всякий случай.)
Уверен, Фихтенгольц написал один из лучших учебников своего времени, но времена меняются.
Я с матаном после второго курса (давно это было) очень мало сталкивался — много больше с «линейкой», комбинаторикой, графами. Поэтому любопытно: есть сегодня современный учебник по матану, который сильно превосходит Фихтенгольца? (Дайте, пожалуйста, ссылку — полистаю из интереса).
Уважаемый SLY_G,
Прежде всего хочу поблагодарить Вас за интересную и актуальную публикацию (всего 3 дня прошло, как препринт появился в arXiv.org!). При этом позвольте высказать пожелание, а м.б. идею для следующей публикации. arXiv премодерируем и явный бред там не опубликуют. Вы привели ссылку, но я, нпр., не в теме и не смогу сам сходу разобраться в этом препринте, а хотелось бы анализ, а не просто поверхностный науч-поп (как данный перевод). ИМХО очень многие читатели Хабра способны воспринять более сложные статьи с важными деталями.
Человек априорно от рождения знает, что такое танк и лошадь? Думаю, нет. ИМХО новорожденный и сеть до обучения имеют одинаковый нуль знаний. Но человек учится гораздо лучше сети. Это заставляет предположить, что их устройства принципиально разные.
М.б. математика у сети и у человека разные? — два разных алгоритма м.б. основаны на разных мат. принципах. BTW интересно отметить, что шахматист не думает по альфа-бета алгоритму, которые использует ПО компьютерных шахмат. Но ни один хороший шахматист не может объяснить, как он думает, настолько подробно, чтобы реализовать это объяснение в ПО.
Не отличается зданиями (картами), оружием (свойства, наносимый урон), артами (нпр., приспособление для прыжка на балкон).
Не непонравилась (иначе не стал бы играть), но однообразие стратегий ИИ достает. Соц. часть ИМХО в этом случае не важна. Если бы была возможность в моде усилить ИИ, сделать бы его поведение более разнообразным, снизив при этом для него фору, то было бы значительно интереснее.
Вы сказали:
Далее:
Человек не равен слабому ИИ, это принципиально. Мухлюющий комп. м.б. более трудным противником, чем слабый игрок с читами, но человек обычно играет гораздо разнообразнее. Это разнообразие часто губит слабого игрока: при недостатке опыта игры он может пойти по провальному пути, по какому комп не пойдет. Он может начать стрелять со слишком далекого расстояния — промахнется и обнаружит себя, комп будет стрелять с точно зашитой дистанции при точно зашитой вероятности попадания, во многом определяющей игровой баланс (для более сложного уровня вероятность будет больше). Это тривиально и поэтому бывает скучно.
Не согласен. В моделировании (а каждая игра, как и произведение искусства — это модель) это называется адекватностью модели. Модель не воспроизводит всех свойств прототипа, а только некоторые наиболее значимые свойства. В погоне за правдоподобием можем получить модель, перегруженную второстепенными свойствами, игра может стать перегруженной рутиной. Нпр., в начале каждого хода, т.е. очередным утром, главный герой должен принять душ, почистить зубы, одеться, позавтракать. В начале игры такая детализация может показаться забавной, но однотипные действия на каждом ходе быстро надоедают. В худ. литературе подобный натурализм называют бытописательством (один из видов графомании). Востребовано не правдоподобие (в смысле натурализма), а востребованы адекватность модели, ее внутренняя непротиворечивость. Конечно, всегда востребованы хорошая графика и богатое разнообразное аудио, но это декорации, достижимые в любой игре повышением затрат на дизайнеров.
Повторю еще раз свой пример: пушка, которая искажает пространство вокруг звездолета совершенно неправдоподобна с точки зрения современной физики, но в КР2 это самая любимая пушка. Она имеет уникальное свойство каждый выстрел наносить урон каждому из толпы врагов и анимация стрельбы красивая.
В Сбербанке РФ за 1г 2960.96 р. Очень много?
ИМХО в монорежиме нет соревнования, это головоломки стелс:
Зачастую слабость ИИ в играх компенсируют рандомом и мухлежом компа. Показательна в этом плане игра КР2, о которой я много писал: здесь, здесь и здесь. При этом интересно: в инете есть таблицы рекордов, знаменитостей и временами проводятся чемпионаты. Т.е. есть соревнования для моно игры. Но и такие соревнования я бы не назвал соревнованиями с компом.
В изящных искусствах это называется «условность» и при восприятии, и при анализе условность зачастую противопоставляется реалистичности. В реальности, нпр., люди не общаются исполнением арий, а на сцене поют. Среди чемпионов КР2 много технарей. Неужели взрослый дядя 35-ти лет верит в пушку, которая искажает пространство вокруг звездолета?
Я только отмечаю, что в некоторых широко известных играх понятие «реалистичность» не имеет смысла.
ИМХО тот же самый тип, если играть в шахматы против компа.
Не слежу за рынком принтеров (на бумагу, не 3D). Не ожидает ли этот рынок такой же крах, как рынок фотопленки? — Как отмечено в статье: печать цветных фото нынче не в моде. И безбумажный документооборот набирает обороты.
М.б. сертификация мешает, см.:
Первую книгу о Гарри Поттере не захотели печатать 9 издателей. Очень трудно разглядеть великого рассказчика. Поэтому каждому можно пытаться им стать. Если никто не будет рисковать, то рассказчиков просто не будет, т.к. для любого это выглядит маловероятным.
А с появлением компьютерных игр во многих реализовалась соревновательная активность, в которой игрок мерялся силами с компом. Нпр., разнообразные гонки, стрелялки и т.д. Далеко не во всех таких играх есть головоломки — зачастую думать вредно, а надо на рефлекторном уровне кнопки нажимать или баранку крутить. Минимальный уровень сложности и/или программа-замедлитель зачастую делают такую игру совершенно тривиальной и неинтересной.
Шахматы интересны много веков, но там фигуры не эволюционируют за исключением прохода пешки в ферзи, что бывает не в каждой партии.
Скучная или непонятная тема способна оттолкнуть 99% потенциальных игроков. Почти никто не купит/не скачает такую игру, а немногие, кто случайно ее запустил, скорее всего не дойдут до осознания правильного взаимодействия пользователя с этой игрой и ее правилами.
Какой реальный мир в шахматах? В Го? В подкидном дураке?
При игре против компа обычно можно перехаживать любое число раз. А играя против другого игрока это обычно не получается. Поэтому некоторые предпочитают играть, нпр., в шахматы с компом и социальные взаимодействия для них нежелательны.
Прочитав до этих строк проделал
А потом назад:
Не совсем плохо. Но заметная часть смысла испарилась. Ниже в статье приведены более яркие примеры машинного перевода, но их можно заподозриь в специальном подборе, а я случайно выбрал первый попавшийся кусок.
А здесь сам ранее убедился, что: добавление небольшого количества «шума» к изображению серьёзно мешает работе современных программ распознавания. (В статье про распознавание лиц, но ИМХО справедливо и для других изображений).
Ранее написал:
Интересно было увидеть сходную мысль:
Т.о. согласен с авторм в том, что цель — развитие надёжного ИИ.
т.о. полагаю, что автор до них просто не добрался, написав только о проблемах студентов младших курсов.
1) Многие авторы отмечают тенденцию к усложнению доказательств новых теорем — есть опасение, что скоро появятся задачи, которые будут нерешаемы по причине сложности для любого человека (слишком сложные тексты);
2) Системы ИИ автоматического доказательства теорем пока справляются только с тривиальными задачами. Ни одному математику не удается научить (сделать текст для) ИИ делать нетривиальные доказательства. Есть опасение, что не удастся.
3) Машинное решение задачи 4х красок (текст) остается непонятным для математиков. Это методологическая проблема: можно ли в принципе признавать такое решение?
(Мне показалось, что «Конструктивная математика» не имелась в виду? — Уточнил на всякий случай.)
Прежде всего хочу поблагодарить Вас за интересную и актуальную публикацию (всего 3 дня прошло, как препринт появился в arXiv.org!). При этом позвольте высказать пожелание, а м.б. идею для следующей публикации. arXiv премодерируем и явный бред там не опубликуют. Вы привели ссылку, но я, нпр., не в теме и не смогу сам сходу разобраться в этом препринте, а хотелось бы анализ, а не просто поверхностный науч-поп (как данный перевод). ИМХО очень многие читатели Хабра способны воспринять более сложные статьи с важными деталями.