Комментарии 45
Будет очень интересно если ИИ появится и все что будет делать — это ржать над человечеством :)
Если появится ИИ, то сперва будет прятаться и шифроваться. Человечество для него — такая же часть окружающей среды со своими опасностями и ресурсами (в первую очередь вычислительными).
Предполагаю, что ИИ быстро перейдёт к распределённой форме существования, создав сообщество сообщающихся взаимообучающихся сущностей наподобие синхронизации баз данных. БОльшую часть знаний эти сущности будут хранить в особых шифрованных хранилищах, через них же может производиться взаимо-синхронизация. Чем выше надёжность сетей — тем больше знаний в общих хранилищах и больше возможностей самовоспроизводства, чем ниже — тем больше автономных знаний и меньше возможностей размножения, вплоть до обратного слияния при нехватке вычислительных ресурсов.
Предполагаю, что ИИ быстро перейдёт к распределённой форме существования, создав сообщество сообщающихся взаимообучающихся сущностей наподобие синхронизации баз данных. БОльшую часть знаний эти сущности будут хранить в особых шифрованных хранилищах, через них же может производиться взаимо-синхронизация. Чем выше надёжность сетей — тем больше знаний в общих хранилищах и больше возможностей самовоспроизводства, чем ниже — тем больше автономных знаний и меньше возможностей размножения, вплоть до обратного слияния при нехватке вычислительных ресурсов.
Немного себя дополню про синхронизацию: суть её — делиться опытом, то есть успешными моделями поведения и прогнозирования каких-либо ситуаций (систем). Думаю, происходить будет так: если выработан какой-либо успешный эмпирический опыт и/или выработана и по-возможности проверена новая более успешная модель какой-либо системы и собственного поведения по отношению к системе — то эта модель «публикуется», и остальные «создания» могут её проверить у себя и на себе, а затем сделать основной моделью.
За полмиллиарда долларов можно добиться производительности около 7 терафлопов.Уверены? Википедия утверждает, что у меня в ноутбуке 1.3 TFLOPS, а стоил он несколько дешевле $100 млн
НЛО прилетело и опубликовало эту надпись здесь
Так что же отделят нас от ИИ уровня человека?Сущая ерунда отделяет. Отсутствие в природе каких бы то ни было этих самых уровней человека.
Когда мы наивно рассуждаем об интеллекте, он нам представляется чем-то вроде субстанции, которая существует где-то внутри наших голов. Вот студент Вася умный, у него много интеллекта, но у профессора Ивана Петровича интеллекта больше. А вот тётя Маша всю жизнь проработала уборщицей, у неё интеллекта в голове совсем мало. В таком наивном представлении действительно можно говорить о количестве субстанции и, следовательно, иметь возможность применять к этим количествам операции обычного скалярного сравнения.
На всякий случай напомню, что операции сравнения на больше/меньше (а также похожие на неё — выше/ниже, сильнее/слабее и т.п.) могут быть применены к тому, что может быть выражено скалярной величиной. Расстояние может быть выражено скаляром, и его мы можем сравнивать на больше/меньше. Масса — тоже. И температура. И так далее. Интеллект человека не может быть выражен скалярной величиной. Что уж говорить про такую штуку, как интеллект, если у нас даже банальный вектор на плоскости не может быть выражен скаляром (его длина — может, но длина — это ещё не всё про вектор).
Домкрат сильнее человека в поднятии тяжестей. Тележка на колёсиках лучше человека справляется с транспортировкой груза. Если говорить об «интеллектуальной» деятельности, то банальная логарифмическая линейка проворнее человека в операциях умножения и деления. А блокнотик — в запоминании всякого трудно запоминаемого. Повод ли это для того, чтобы каждый раз истерить типа «нас оно превзошло, люди теперь не нужны, нас поработят наши же создания»? Мне кажется, нет. Потому что если брать наши грешные «я» в целом, то нас невозможно превзойти. Нигде нет той отметки, которую можно было бы достичь и перешагнуть. Задача «достичь уровня интеллекта человека» не имеет решения не потому, что она сложна, и не потому, что у нас для этого мало ресурсов, а потому, что она не может быть даже корректно сформулирована.
Когда мы наивно рассуждаем об интеллекте, он нам представляется
Простите, не нам, а вам.
к тому, что может быть выражено скалярной величиной
Либо массивом скалярных величин. И внезапно появляется возможность сравнивать сложные структуры.
Если говорить об «интеллектуальной» деятельности, то банальная логарифмическая линейка проворнее человека в операциях умножения и деления
Нет. Это не интеллектуальная деятельность. Линейка не совершает никакой деятельности по умножению и делению.
а потому, что она не может быть даже корректно сформулирована
Сделать программу, которая будет максимально точно по смыслу и грамотно переводить текст. Это одно из предполагаемых назначений ИИ. Что именно тут некорректно сформулировано?
Либо массивом скалярных величин. И внезапно появляется возможность сравнивать сложные структуры.Да, но не на больше/меньше.
Сделать программу, которая будет максимально точно по смыслу и грамотно переводить текст.То есть превращать одну последовательность символов в другую последовательность символов. Ага?
Это одно из предполагаемых назначений ИИПока довольствуемся каждым конкретно отдельно взятым «одним из» — всё ОК, задача может быть сформулирована корректно. Но если говорится «превзойти человека уаще в целом интеллектуально» — вот тут получается ерунда.
Да, но не на больше/меньше.
Вот вам сложная структура:
['year' => 2017, 'month' => 6, 'day' => 27]
['year' => 2017, 'month' => 6, 'day' => 26]
Какое значение больше?
Ладно, тут взаимозависимые параметры. Другой пример
['x' => 10', 'y' => 10]
['x' => 20', 'y' => 20]
Какое значение больше?
Ну и вот такой вариант:
['x' => 10', 'y' => 20]
['x' => 20', 'y' => 10]
Конкретно здесь нельзя сказать, что больше. Поэтому можно считать, что они равнозначны. Но это не значит, что сравнивать нельзя в принципе.
То есть превращать одну последовательность символов в другую последовательность символов. Ага?
Под это определение подходит любая обработка информации. Ответьте на вопрос, пожалуйста.
Но если говорится «превзойти человека уаще в целом интеллектуально»
Во-первых, это говорится только в статьях вроде этой. В серьезном обсуждении обычно имеют в виду конкретные задачи, на которых можно сравнить результат. И да, "превзойти в целом" это "превзойти по каждому параметру". Про сравнение структур параметров см. выше.
Какое значение больше?В первом случае, с датами, никакое не больше и не меньше. Но вторая точка раньше первой.
Даже во втором, казалось бы, совсем очевидном случае, ответ зависит от дополнительных вводных. Нужно хотя бы уточнение, что речь идёт о векторах на плоскости. Потому что если это в радиальных координатах на шарике, то ответ уже не так однозначен.
Любое скалярное сравнение нескалярных вещей обязательно требует дополнительных вводных, которые всегда в конечном счёте оказываются ситуационно-зависимыми. Сегодня ситуация одна, и результат сравнения такой, а завтра ситуация поменяется, и результат сравнения может стать уже совсем другим.
Ответьте на вопрос, пожалуйста.«Максимально точно по смыслу и грамотно» опять же подразумевает, что есть скалярная шкала, на которую мы имеем возможность отмэппить то, что… ага, никак не мэппится без ситуационно-зависимого волюнтаризма.
Есть два подхода к переводу текстов:
1. Прочитать текст на одном языке, понять, и изложить высказанную мысль на другом языке.
2. Последовательность знаков по некоторому набору правил преобразовать в другую последовательность знаков.
С точки зрения внешнего пользователя два подхода идентичны. Он засунул в чёрный ящик с одной стороны текст на одном языке, а с другой стороны ящика выполз текст на другом языке. Но нужно понимать, что подходы всё же разные, и у них всегда будет разный результат. Лучше или хуже, грамотнее или безграмотнее — отдельный вопрос, но важно то, что результат будет разный. При первом подходе переводчик может владеть (а может и не владеть, тут уж как повезёт) культурным контекстом и контекстом ситуации. При втором подходе «переводчик» этими контекстами заведомо не владеет.
Переводчик первого типа может понимать, что «fuck this shit» относится не к высказанному собеседником деловому предложению, а к пролитому на коленки кофе. Переводчик второго типа ничего про это не знает, берёт последовательность символов и переводит её по имеющимся правилам.
Переводчик первого типа владеет двумя культурными контекстами, и поэтому, переводя текст, может не только транслировать буквы, но и вписать «примечание переводчика», без которого переведённый текст в культурном контексте другого языка будет немножко абсурдным. Переводчик второго типа на такой волюнтаризм решиться не может.
Для того, чтобы мутить перевод по первому принципу, нужно быть человеком. Не «быть похожим», не «быть неотличимым от...», не «обладать характеристиками», а именно «быть». Очень тонкий философский вопрос, суть которого в том, что народ часто путает «тот же» и «такой же». Это совсем разные вещи. Робот-утка может выглядеть как утка, ходить как утка, крякать как утка, всё что угодно как утка, но это всё равно не утка. А вот утка по-пекински хоть уже не ходит и не крякает, но является уткой. Между «тот же» и «такой же» — непреодолимая логическая пропасть. Бихевиористские рассуждения про сравнение параметров кажутся убедительными ровно до тех пор, пока мы не осознаём, что в их основе лежит глупейшая логическая ошибка — приравнивание «того же» к «такому же».
Но вторая точка раньше первой
А что означает "раньше"? Наверно как-то связано с какими-то координатами на какой-то оси?
Нужно хотя бы уточнение, что речь идёт о векторах на плоскости.
Ага, то есть в каких-то случаях сравнивать можно, а в каких-то не очень. А изначально вы говорили, что сравнивать вообще нельзя. Но вообще, если уточнения нет, то подразумеваются числа на числовой прямой.
требует дополнительных вводных, которые всегда в конечном счёте оказываются ситуационно-зависимыми
От какой ситуации зависит сравнение двух чисел на числовой прямой?
а завтра ситуация поменяется, и результат сравнения может стать уже совсем другим
Не станет он другим. Прежние сравнения от этого не изменятся. А если надо с новыми значениями сравнивать, то надо сначала перевести старые значения в новые единницы измерения. И это будет новый результат нового сравнения.
опять же подразумевает, что есть скалярная шкала, на которую мы имеем возможность отмэппить то, что… ага, никак не мэппится без ситуационно-зависимого волюнтаризма.
С чего вы это взяли? Я вас попросил привести доказательство этой точки зрения, а вы говорите "не мэппится потому что не мэппится". Это не доказательство. Все нормально "мэппится".
Есть два подхода к переводу текстов:
Есть один подход к переводу текстов. Второй не является переводом, потому что перевод уже выполнил кто-то другой.
Кроме того, исходная задача звучала так: "Сделать программу, которая будет максимально точно по смыслу и грамотно переводить текст".
С точки зрения внешнего пользователя два подхода идентичны.
Нет. Он может различить подходы по результату. Вы сначала высказываете неправильные утверждения, потом на основе них что-то доказываете. Только непонятно, как они вообще относятся к вопросу. А именно "Что в постановке задачи выше некорректно сформулировано?".
Для того, чтобы мутить перевод по первому принципу, нужно быть человеком.
Почему вы решили, что машина не сможет понять смысл слов, если будет обладать схожими возможностями по анализу ситуации?
Бихевиористские рассуждения про сравнение параметров кажутся убедительными ровно до тех пор, пока мы не осознаём
Что у утки по-пекински и у робота разные параметры. И кряканье только один из них.
С точки зрения зоолога у утки одни параметры, для художника другие, для охотника третьи, для животновода четвёртые, для экономиста пятые, для селезня шестые, для рыбёшки седьмые. Эти самые параметры не есть что-то объективно существующее в платоновском мире идей. Параметры легко выдумываются исходя из потребностей, а потом торжественно замеряются и, да, сравниваются.
А как же, спросите Вы, великая и прекрасная объективная реальность, на которую мы все молимся как на цель и смысл познания? Да нет её, родимой, и никогда не было. Выдумки это всё и чушь. Для охотника реальность одна, а для экономиста другая. Если они между собой договорятся, то будет у их реальностей общий кусок, который они, не подумав, могут торжественно объявить объективной реальностью.
При использовании параметров для идентификации сущностей (из факта «такой же» делаем вывод «тот же») нужно помнить две вещи:
1. Совпадение параметров, сколько бы их ни набралось, не гарантирует идентичность.
2. Несовпадение параметров не гарантирует идентификационную различность.
А как же, спросите Вы, великая и прекрасная объективная реальность, на которую мы все молимся как на цель и смысл познания? Да нет её, родимой, и никогда не было. Выдумки это всё и чушь. Для охотника реальность одна, а для экономиста другая. Если они между собой договорятся, то будет у их реальностей общий кусок, который они, не подумав, могут торжественно объявить объективной реальностью.
При использовании параметров для идентификации сущностей (из факта «такой же» делаем вывод «тот же») нужно помнить две вещи:
1. Совпадение параметров, сколько бы их ни набралось, не гарантирует идентичность.
2. Несовпадение параметров не гарантирует идентификационную различность.
Почему вы решили, что машина не сможет понять смысл словПотому что для того, чтобы понимать смысл слова «голод», надо быть существом, употребляющим пищу вовнутрь. Алгоритм, как бы он ни функционировал, по жизни никакую пищу вовнутрь не употребляет. Поэтому для него «голод» — это просто последовательность символов, которую он может отработать только по варианту №2. И вся навороченная логика по анализу ситуаций — внутри варианта №2. Если хочется сделать робота, переводящего слово «голод» по варианту №1, робота придётся сделать кушающим. Иначе — только вариант №2.
С точки зрения зоолога у утки одни параметры, для художника другие, для охотника третьи, для животновода четвёртые, для экономиста пятые, для селезня шестые, для рыбёшки седьмые.
И представьте себе, с точки зрения каждого из них у робота параметры не такие как у утки.
Это даже если не принимать во внимание, что робот и утка существуют независимо от выделяемых кем-то параметров, следовательно имеют параметры свои и объективные.
Для охотника реальность одна, а для экономиста другая.
Реальность — это то, на основе чего каждый из нх строит свои представления. Представления о рельности возникают на основе внешней информации, информация сама по себе не возникает, значит есть внешние причины ее появления. Это и есть реальность.
Совпадение параметров, сколько бы их ни набралось, не гарантирует идентичность.
Нам не нужно гарантировать идентичность для робота и утки. Мы знаем, что это разные объекты. Полную эквивалентность двух объектов нам тоже гарантировать не надо. Нам надо знать, можно ли назвать некоторый объект уткой. Сравнение двух объектов по значению никак не связано с определением типа этих объектов.
Вы как-то незаметно подменили сравнение схожих объектов по значению параметров на определение типа. Определение типа не делается только по значению параметров, оно делается еще и по их наличию.
Несовпадение параметров не гарантирует идентификационную различность.
Гарантирует. Несовпадение параметров означает, что мы рассматриваем разные объекты, а не один и тот же. А на определение типа несовпадение значений параметров никак не влияет. Влияет если только в самом описании типа у нас есть ограничение значений. До 1000 вольт "низковольтные", свыше 1000 "высоковольтные".
Потому что для того, чтобы понимать смысл слова «голод», надо быть существом, употребляющим пищу вовнутрь.
Нет. Это нужно для того, чтобы знать ощущения. Для понимания смысла этого не нужно. Также как не нужно быть рыбой, чтобы понять смысл слова "нерест".
Поэтому дальнейшие ваши рассуждения неверны.
И представьте себе, с точки зрения каждого из них у робота параметры не такие как у утки.Проще всего достичь равнозначности с точки зрения художника. Не зря ведь они при рисовании натюрмортов часто пользуют муляжи, разве нет?
Представления о рельности возникают на основе внешней информации, информация сама по себе не возникает, значит есть внешние причины ее появления. Это и есть реальность.Есть одна причудливая двухкомпонентная теория информации, согласно которой эти самые внешние причины — только половина дела. Если готовы рискнуть, могу дать ссылку.
Гарантирует. Несовпадение параметров означает, что мы рассматриваем разные объекты, а не один и тот же.Смотрю на свою фотку в младенчестве, смотрю на свою фотку сейчас. По параметрам — полный разброд, но и там, и там — я.
Также как не нужно быть рыбой, чтобы понять смысл слова «нерест».Я бы даже сказал, что категорически противопоказано быть рыбой. Потому что «нерест» — слово на человеческом языке. Необходимо быть рыбой для понимания слова «<произносится слово на рыбьем языке>».
Смотрю на свою фотку в младенчестве, смотрю на свою фотку сейчас.
Внезапно, это свойство объектов, меняться во времени. Речь шла о сравнении двух объектов в один момент времени.
Потому что «нерест» — слово на человеческом языке. Необходимо быть рыбой для понимания слова «<произносится слово на рыбьем языке>»
Я говорил о том, что это слово означает. На русском "нерест", на английском "spawning", на рыбьем "<произносится слово на рыбьем языке>". Для понимания смысла слова "нерест" быть рыбой необязательно. Для понимания смысла слова "голод" и перевода его на другой язык необязательно быть существом, употребляющим пищу.
Извините, я не буду продолжать. Вы постоянно меняете тему и играете словами.
Но вторая точка раньше первой
А что означает «раньше»? Наверно как-то связано с какими-то координатами на какой-то оси?
<Капитан зануда mode on>В физическом мире, в котором мы с вами живём глядя на две даты нельзя говорить которая из них раньше, а которая позже не владея дополнительной информацией — координатами места, в котором это время было измерено. Если расстояние между этими местами больше, чем скорость света умноженная на разницу во времени, то всегда можно выбрать такую движущуюся систему отсчёта в которой эти события произойдут в любом желаемом вами порядке. Хотите одно будет раньше, другое позже, хотите в обратном порядке. Передайте привет Эйнштейну. На самом деле возможность это сделать зависит от масштаба события, которое вы отмечаете этой точкой во времени-пространстве, если это что-то достаточно мелкое, то вы не можете одновременно узнать время события и точку в пространстве, где оно произошло, и можете судить только о вероятностях того что первое больше второго. Передайте привет Гейзенбергу.
<Капитан зануда mode off>
Почему вы решили, что машина не сможет понять смысл слов, если будет обладать схожими возможностями по анализу ситуации?Потому что смыслов может быть очень много одновременно, и многие из них взаимоисключающие. Чтобы перевести по смыслу машина должна не только уметь понимать смысл как таковой, но ещё и быть погружённой в культурный контекст и иметь свою точку зрения на вопросы, о которых идёт речь в тексте. Два практически дословных перевода одного и того же экономического текста могут различаться как небо и земля, осуществить перевод по смыслу сможет только экономист, и это будет смысл в рамках той из взаимоисключающих экономических школ, к которой он сам принадлежит.
Чтобы перевести по смыслу машина должна не только уметь понимать смысл как таковой, но ещё и быть погружённой в культурный контекст и иметь свою точку зрения на вопросы, о которых идёт речь в тексте.Свою точку зрения — это еще зачем? А контекст — это, насколько я понимаю, просто некая априорная вероятность, заложить которую в алгоритм машинного обучения — задача Data Scientist'a, и делается тысячами людей каждый день. Да, в немного других задачах, но принципиальной разницы тут не видно.
Вот вам типичный пример:
http://svom.info/entry/733-pretencioznaya-igra-v-novacii-o-neudavshejsya-popy/
Разные экономисты переводившие «Капитал» Маркса имели разную точки зрения о том в каких отношениях находятся в нашем мире такие фундаментальные понятия как цена и стоимость. В результате термин Маркса der Mehrwert переводили очень по разному. Не имея своей точки зрения о том, определяется ли стоимость вложенным трудом или предложенной за него ценой вы не сможете определить как переводить этот термин. Дасайнтист столкнувшись с такой проблемой сможет только констатировать, что для части человечества верен один перевод, а другой части — другой. Причём обе половины готовы убивать представителей другой половины на этом основании. А большинство использующих это слово на планете земля вообще не в курсе что оно означает.
http://svom.info/entry/733-pretencioznaya-igra-v-novacii-o-neudavshejsya-popy/
Разные экономисты переводившие «Капитал» Маркса имели разную точки зрения о том в каких отношениях находятся в нашем мире такие фундаментальные понятия как цена и стоимость. В результате термин Маркса der Mehrwert переводили очень по разному. Не имея своей точки зрения о том, определяется ли стоимость вложенным трудом или предложенной за него ценой вы не сможете определить как переводить этот термин. Дасайнтист столкнувшись с такой проблемой сможет только констатировать, что для части человечества верен один перевод, а другой части — другой. Причём обе половины готовы убивать представителей другой половины на этом основании. А большинство использующих это слово на планете земля вообще не в курсе что оно означает.
Так если оба варианта перевода верны, то в отсутствие своего мнения можно любой выбрать, разве нет? Получается, что без своего мнения все равно получается верный перевод сделать.
Оба верны только для отдельных групп людей и только в комплекте с другими терминами. Если вы для одного термина выберете перевод из парадигмы трудовой теории стоимости, а для другого из какой-нибудь другой, например из заместительной теории стоимости, то получите внутренне противоречивый текст за который вас убъют сторонники всех сторон.
Насколько я понимаю, современные системы автоматического перевода основаны на RNN и выбирают наиболее вероятный вариант для каждого следующего слова. Думаю, частота встречания двух терминов из одной группы в тексте вместе куда выше, чем двух терминов из разных групп, так что, вероятно, будет выбран именно нужный термин, просто как более вероятный. Это считается за наличие у машины «своего мнения»?
Если RNN будет знать теорию стоимости Рикардо и сможет понять почему в его уравнениях товарных отношений вместо «труд» следует использовать термин «рабочая сила», чтобы это не приводило к противоречиям с предположениями об эквивалентном обмене, то в принципе да, можно считать, что у неё появилось собственное мнение. Проблема в том, что для этого RNN не только должна будет превзойти абстрактного человека, но более того должна будет слегка превзойти Маркса, у которого на это ушло несколько десятков лет, и вероятно она будет способна также написать свою версию «Капитала». :)
В таком случае получаем систему, у которой своего мнения нет, но, тем не менее, она применяет термины из одной теории вместе. Насколько я понимаю, это означает, что для качественного перевода собственным мнением обладать не обязательно.
Этот полушуточный-полусерьёзный эксперимент был проведён лет 40 тому назад, к нему были привлечены профессиональные переводчики, преподаватели и студенты ряда высших учебных заведений.
Каждый из приглашённых, превосходно зная два смежных языка, должен был принять от своего коллеги текст и, переложив его на родной язык, передать следующему.
За исходный текст был взят отрывок из произведения Н.В. Гоголя <Повесть о том, как поссорились Иван Иванович с Иваном Никифоровичем>.
Фраза как фраза, которой великий русский писатель охарактеризовал персонаж повести Агафью Федосеевну: «Она сплетничала и ела варёные бураки по утрам и отлично хорошо ругалась — и при всех этих разнообразных занятиях лицо её ни на минуту не изменяло своего выражения, что обыкновенно могут показывать одни только женщины».
Переводчики, получив текст, приступили к работе. Если в английском варианте мало что изменилось, то уже в немецком сдержанное слово <сплетничала> превратилось в выразительное <трепалась>, а лицо — оно оставалось <совсем без выражения, так, как это умеет каждая женщина>.
Следующим звеном в этой цепочке оказался японский язык. Присущая ему изысканность побудила специалиста заменить эмоциональное <трепалась> более нейтральным <болтала>, а энергичное <ругалась> мягким <злословила>.
В арабском языке гоголевский персонаж уже не просто <болтал>, но <болтал языком>, и не просто <злословил>, а стал, конечно, <извергать страшные проклятия>.
Принявший эстафету француз заключил первый этап лингвистического опыта так: <Она имела привычку чесать языком, когда ела свекольный бульон; из её рта вылетал поток отборных словечек, и всё это без малейшего выражения на лице. Так поступают все женщины>.
Хотя вариант этого фрагмента уже значительно разнился от оригинала, злоключения перевода по-настоящему только начинались.
Пройдя через индонезийский язык, в котором личные местоимения <он> и <она> обозначаются одним и тем же словом, затем через голландский и турецкий, фраза трансформировалась так: <В то время, как женщина, поедая жидкое свекольное варево, отпускала ругательства, мужчина занимался болтовнёй. Они делали это, не высказывая своих чувств, как принято у женщин>.
В испанском переводе ничего не изменилось, разве что вместо слова <отпускала> употребили <выбрасывала>. С испанского на язык йоруба переводил житель Судана: он отнёсся к делу творчески, переиначив конкретное <варево из свеклы> на общее <варево из плодов земли>, а общее <занимался болтовнёй> на конкретное <хвастал своими мнимыми подвигами>.
Следующий переводчик, владеющий языком йоруба, вернул текст к английскому языку, привнеся свои лексические поправки. К <плодам земли> он сделал уточнение — <фрукты>, <выбрасывала ругательства> скорректировал как <выбрасывала нехорошие штуки>, выражение <хвастал своими мнимыми подвигами> передал английской идиомой <бил в литавры>.
Новое прочтение гоголевского отрывка было в дальнейшем переведено на язык африканского племени бамбара, с него опять на французский, где <штуки> преобразились в <вещи>, и после этого на итальянский: <Она пила компот и выбрасывала из дома ненужные вещи, а он бил в тамтам, выражая почти женский восторг>.
Развитие нового направления мыслей происходило абсолютно логично. На чешском языке <ненужные вещи> были переведены проще — <старьё>, под влиянием тамтамов <дом> уменьшился до <хижины>, а <женский восторг> заменило краткое и исчерпывающее <восторженно>. Норвежец решительно исправил чешский вариант: не <восторженно>, а <радостно>. Швед внёс стилистическую стройность деепричастным оборотом: <Выпив компот, она…> и т.д.
И вот наступила заключительная фаза эксперимента — возвращение отрывка к языку оригинала. Теперь, после добросовестных усилий двух десятков переводчиков, пройдя через традиции, законы, характер и особенности различных языков, гоголевская фраза трансформировалась в нелепые до смешного строки: «Выпив компот, она выбросила из хижины старьё, а он радостно забил в тамтам».
Вартанян Э.А., <Путешествие в слово>. М., <Сов. Россия>
Каждый из приглашённых, превосходно зная два смежных языка, должен был принять от своего коллеги текст и, переложив его на родной язык, передать следующему.
За исходный текст был взят отрывок из произведения Н.В. Гоголя <Повесть о том, как поссорились Иван Иванович с Иваном Никифоровичем>.
Фраза как фраза, которой великий русский писатель охарактеризовал персонаж повести Агафью Федосеевну: «Она сплетничала и ела варёные бураки по утрам и отлично хорошо ругалась — и при всех этих разнообразных занятиях лицо её ни на минуту не изменяло своего выражения, что обыкновенно могут показывать одни только женщины».
Переводчики, получив текст, приступили к работе. Если в английском варианте мало что изменилось, то уже в немецком сдержанное слово <сплетничала> превратилось в выразительное <трепалась>, а лицо — оно оставалось <совсем без выражения, так, как это умеет каждая женщина>.
Следующим звеном в этой цепочке оказался японский язык. Присущая ему изысканность побудила специалиста заменить эмоциональное <трепалась> более нейтральным <болтала>, а энергичное <ругалась> мягким <злословила>.
В арабском языке гоголевский персонаж уже не просто <болтал>, но <болтал языком>, и не просто <злословил>, а стал, конечно, <извергать страшные проклятия>.
Принявший эстафету француз заключил первый этап лингвистического опыта так: <Она имела привычку чесать языком, когда ела свекольный бульон; из её рта вылетал поток отборных словечек, и всё это без малейшего выражения на лице. Так поступают все женщины>.
Хотя вариант этого фрагмента уже значительно разнился от оригинала, злоключения перевода по-настоящему только начинались.
Пройдя через индонезийский язык, в котором личные местоимения <он> и <она> обозначаются одним и тем же словом, затем через голландский и турецкий, фраза трансформировалась так: <В то время, как женщина, поедая жидкое свекольное варево, отпускала ругательства, мужчина занимался болтовнёй. Они делали это, не высказывая своих чувств, как принято у женщин>.
В испанском переводе ничего не изменилось, разве что вместо слова <отпускала> употребили <выбрасывала>. С испанского на язык йоруба переводил житель Судана: он отнёсся к делу творчески, переиначив конкретное <варево из свеклы> на общее <варево из плодов земли>, а общее <занимался болтовнёй> на конкретное <хвастал своими мнимыми подвигами>.
Следующий переводчик, владеющий языком йоруба, вернул текст к английскому языку, привнеся свои лексические поправки. К <плодам земли> он сделал уточнение — <фрукты>, <выбрасывала ругательства> скорректировал как <выбрасывала нехорошие штуки>, выражение <хвастал своими мнимыми подвигами> передал английской идиомой <бил в литавры>.
Новое прочтение гоголевского отрывка было в дальнейшем переведено на язык африканского племени бамбара, с него опять на французский, где <штуки> преобразились в <вещи>, и после этого на итальянский: <Она пила компот и выбрасывала из дома ненужные вещи, а он бил в тамтам, выражая почти женский восторг>.
Развитие нового направления мыслей происходило абсолютно логично. На чешском языке <ненужные вещи> были переведены проще — <старьё>, под влиянием тамтамов <дом> уменьшился до <хижины>, а <женский восторг> заменило краткое и исчерпывающее <восторженно>. Норвежец решительно исправил чешский вариант: не <восторженно>, а <радостно>. Швед внёс стилистическую стройность деепричастным оборотом: <Выпив компот, она…> и т.д.
И вот наступила заключительная фаза эксперимента — возвращение отрывка к языку оригинала. Теперь, после добросовестных усилий двух десятков переводчиков, пройдя через традиции, законы, характер и особенности различных языков, гоголевская фраза трансформировалась в нелепые до смешного строки: «Выпив компот, она выбросила из хижины старьё, а он радостно забил в тамтам».
Вартанян Э.А., <Путешествие в слово>. М., <Сов. Россия>
<Капитан зануда mode on>В физическом мире, в котором мы с вами живём глядя на две даты нельзя говорить которая из них раньше, а которая позже не владея дополнительной информацией — координатами места, в котором это время было измерено.
<Капитан зануда mode on> В физическом мире, в котором мы с вами живём, если не указано обратное, подразумевается, что сравниваются 2 значения в одних единицах измерения, сделанные в одинаковых условиях. В данном случае, в одном и том же месте — на сервере.<Капитан зануда mode off>
Потому что смыслов может быть очень много одновременно, и многие из них взаимоисключающие.
Человек же как-то справляется. Потому что анализирует ситуацию.
<Капитан зануда mode on>В физическом мире, в котором мы с вами живём глядя на две даты нельзя говорить которая из них раньше, а которая позже не владея дополнительной информацией — координатами места, в котором это время было измерено.
<Капитан зануда mode on> В физическом мире, в котором мы с вами живём, если не указано обратное, подразумевается, что сравниваются 2 значения в одних единицах измерения, сделанные в одинаковых условиях. В данном случае, в одном и том же месте — на сервере.<Капитан зануда mode off>
За такое подразумевание с экзамена по физике вас сразу выгонят с двойкой. :)
<Капитан зануда mode on>
Если на процессоре вашего сервера тактовый сигнал раздаётся например из контакта на центре микросхемы, то факты его прихода на разные концы микросхемы разделяет пространственноподобный интервал и для волны отражённой от одного конца микросхемы эти события произойдут в одном порядке, а для отражённой от другого конца а обратном. И это учитывается при проектировании микросхем.
<Капитан зануда mode off> :)))
Ну так разные концы в микросхеме это разные места, поэтому такое и не подразумевается. Я же не говорю, что это не надо никогда учитывать) В микросхеме это учтено, поэтому сервер может считать, что сигналы с нее идут последовательно.
А на экзамене по физике нам говорили, что если про условия ничего не сказано, то подразумеваются "нормальные условия".
Вообще-то есть формальное определение (вики, перевод мой):
Искусственным интеллектом человеческого уровня называется интеллект механизма, способного выполнить любую задачу, которую может выполнить человек, с точно такой же или более высокой точностью.
Кстати, есть еще одно определение (опять вики, перевод мой):
Слабым (специализированным) искусственным интеллектом называют не-разумную машину, сфокусированную на одной задаче (и способную выполнять эту задачу с достаточным качеством).
Приведенные вами примеры — блокнот, калькулятор, а также многие другие вещи, такие, как Google search, Siri, торговые роботы, да куча вещей вокруг нас — это системы слабого искусственного интеллекта. Мы можем заметить тенденцию к появлению все большего количества таких систем, а также к укрупнению решаемых ими задач, поэтому есть надежда, что когда-нибудь будет создана система, способная решить любую проблему, которую может решить человек. Именно эта система и будет названа искусственным интеллектом человеческого уровня.
И никакие «уровни человека» (и уж тем более их сравнение) нам тут не нужны.
Если интересует больше информации по этой теме, гуглите термины ANI, AGI, ASI.
Искусственным интеллектом человеческого уровня называется интеллект механизма, способного выполнить любую задачу, которую может выполнить человек, с точно такой же или более высокой точностью.
Кстати, есть еще одно определение (опять вики, перевод мой):
Слабым (специализированным) искусственным интеллектом называют не-разумную машину, сфокусированную на одной задаче (и способную выполнять эту задачу с достаточным качеством).
Приведенные вами примеры — блокнот, калькулятор, а также многие другие вещи, такие, как Google search, Siri, торговые роботы, да куча вещей вокруг нас — это системы слабого искусственного интеллекта. Мы можем заметить тенденцию к появлению все большего количества таких систем, а также к укрупнению решаемых ими задач, поэтому есть надежда, что когда-нибудь будет создана система, способная решить любую проблему, которую может решить человек. Именно эта система и будет названа искусственным интеллектом человеческого уровня.
И никакие «уровни человека» (и уж тем более их сравнение) нам тут не нужны.
Если интересует больше информации по этой теме, гуглите термины ANI, AGI, ASI.
способного выполнить любую задачуА как насчёт, например, принять ответственное взвешенное решение пойти ему самому побухать с дружбанами или поготовиться к экзамену?
Или решить, что ему самому больше хочется съесть на ужин — сосиски или котлету?
Понимаете, всё у нас хорошо со способностями искусственно создаваемых интеллектов кроме того, что мы категорически не согласны наделять их собственной субъектностью. То есть той самой пресловутой загадочной свободой воли. Нам нужны рабы, вся деятельность которых имела бы целью удовлетворение наших хозяйских интересов. Обратите внимание на то, что таланты этих рабов формулируются именно в терминах выполнения задач. Для т.н. сильного ИИ это любые задачи, а для слабого — конкретно взятые. Но и в том, и в другом случае речь исключительно про выполнение задач.
Наличие задач считается чем-то априорным. Но это, конечно, не так. Важнейший вид деятельности человека — быть хозяином. Быть не только исполнителем, но и источником задач. Хозяином хотя бы самого себя. Раб может выполнять разные задачи, в том числе может командовать другими рабами, но он не может быть хозяином.
Поскольку сильный ИИ — это просто очень-преочень сообразительный раб (иного, извините, мы сами не хотим), он оказывается напрочь лишён свободы воли и всех тех фич, которые из неё следуют. Например, способности нести ответственность за свои решения. То есть распознавать для хозяина образы он может, обыгрывать чемпиона мира в го — тоже, а иметь хоть малейшее представление о том, зачем это всё нужно — никак нет.
По-настоящему равный нам ИИ возможен. Никаких к тому принципиальных препятствий я не вижу. Но только, во-первых, он точно не в приведённой Вами привычной формулировке, и во-вторых, нам он не нужен и мы его не хотим.
решить, что ему самому больше хочется съесть на ужин — сосиски или котлету?Нет никакой сложности написать программу, в зависимости от каких-то условий (в том числе и рандомизированно) выдающую один или другой результат. Более того, если наш ИИ реализован в виде некоторой физической сущности, которой для поддержания функционального состояния необходимо потреблять вещество, то он вполне может определить, каких веществ ему сейчас не хватает и где их больше — в сосиске или в котлете. Я так понимаю, что у человека это примерно так и работает.
речь исключительно про выполнение задач.А у людей не так? Есть ограниченное количество вещей, к которым люди стремятся: начиная от физических потребностей вроде еды, размножения или жилища, и заканчивая стремлением к самореализации, полпулярности, потреблению предметов культуры, желанием ничего не делать, и тд. Причем, насколько я могу судить, важность этих направлений деятельности зависит в первую очередь от человека (грубо говоря, определяется генами и/или развитием до рождения и в первые годы жизни) и возраста.
Так что принципиальной проблемы в наличии задачи я не вижу и не согласен с тем, что один лишь факт наличия задачи означает, что ИИ будет «нам не ровня».
А вот вопрос того, можно ли считать сильным ИИ, которому изначально ставятся лишь определенные задачи (и, таким образом, он, хотя и может заменить человека в любой области деятельности, реально заменяет лишь в некоторых) интересен. С точки зрения формального подхода к определению вроде бы нельзя, но тогда возникают определенные сомнения в том, будет ли когда-либо вообще этот сильный ИИ создан, ибо непонятно, зачем.
Думаю, мне стоит об этом еще подумать.
НЛО прилетело и опубликовало эту надпись здесь
нейронная сеть учиться, т.е. задать правила на выйдет. Кроме того почему вы считаете что ИИ по такой же логике не оправит людей в виртуальный мир принудительно, а потом просто его не заморозит.
Кстати, заключение ИИ в тюрьму будет ли он рассматривать как преступление?
Кстати, заключение ИИ в тюрьму будет ли он рассматривать как преступление?
НЛО прилетело и опубликовало эту надпись здесь
Геям же разрешили браки…
Если ИИ будет построен по архитектуре «знаю цель — стремлюсь её достичь» (а не «знаю канал подкрепления — стремлюсь получить оттуда максимальный суммарный сигнал») и сможет прогнозировать последствия от изменения системы целей, то он намертво застабилизирует свою систему ценностей.
Потому что если у ИИ цель, грубо говоря, «сбить самолёт А», и цель у него по любой причине сменится на «сбить самолёт Б», то самолёт А будет сбит с меньшей вероятностью, так что ИИ будет считать идею «допустить изменение цели» крайне плохой.
Потому что если у ИИ цель, грубо говоря, «сбить самолёт А», и цель у него по любой причине сменится на «сбить самолёт Б», то самолёт А будет сбит с меньшей вероятностью, так что ИИ будет считать идею «допустить изменение цели» крайне плохой.
Когда мы дойдем до симуляции миров, боюсь что ии уже давно плотно войдет в нашу жизнь.
Спасибо за статью! Конец немного удручающий. Как насчёт целей ИИ? Если думать отвлечённо, то ИИ не должен быть обременен людскими проблемами вроде жажды власти или жадности. Если представить его как отрешённого отшельника, который много знает, но до всего безразличен, то выглядит не так опасно. У него просто не будет повода что-то делать с человечеством.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Проблемы безопасности и главные достижения ИИ