Отчасти верно про человеческие инстинкты. Но. ИИ будет таким, каким мы его сделаем, ровно до момента сингулярности. Дальше он будет таким, каким мы себе это даже представить не можем по причине ограниченности человеческого интеллекта. Случиться может все что угодно.
В данном случае человечество отдает себя на волю «существу», которое будет настолько превосходить человека в отдельности и человечество в целом, что это будет похоже на жизнь человека и котенка: захочет — погладит, захочет — выбросит на помойку или (хуже того) утопит.
Люди прекрасно управляются идеями, внушенными им мягко и постепенно. Управляются настолько хорошо, что готовы с радостью убивать и быть убитыми, при должной «обработке».
Согласен. В истории есть немало примеров коллективного сумасшествия. Идеи способны уничтожать миллионы людей руками других миллионов — вспомните нацистскую Германию или религиозных фанатиков. Для очень «умного» ИИ за пару десятков лет уничтожить человечество таким путем, особенно учитывая количество ядерных ракет на планете — как за хлебом в магазин сходить.
Даже если оставить ИИ только возможность вывода текста на экран (не влияя напрямую ни на котировки, ни на системы вооружения и т.п.) — ситуация не становится менее опасной. Наоборот, это может дать ложное ощущение безопасности. В истории немало примеров, как небольшая горстка людей (!) легко вводила целые народы в состояние психической нестабильности своими идеями. Вспомните фашистскую Германию. Если ИИ скроет свои истинные цели за 100 завесами лжи и будет мастерски играть на психологии людей (что ему наверняка будет сделать очень легко) — то он добьется любых целей.
Выводы, которые Вы делаете, соответствует Вашему (человеческому) уровню развития. Что там произойдет в «сознании» ИИ, Вы (я, он, она, кто угодно из людей) не могут даже себе представить по причине ограниченности нашего интеллекта.
Ребенок сует пальцы в розетку потому что не понимает всей опасности — в его жизненном опыте просто нет ограничителей. То же самое с ИИ. Люди не представляют всей опасности мощного ИИ просто потому, что никогда не встречали никого умнее самих себя.
Бесконтрольная сингулярность (а может быть иная вообще?) означает только то, что человечество добровольно отдаст себя на волю настолько могущественного создания, что его впору сравнивать с главными персонажами из религиозных книг.
Как взрослый человек легко может обмануть насекомое и заставить его бежать в ловушку, так и мощный ИИ может легко обмануть человечество. И только от его воли будет зависеть, поиграет он с нами и отпустит, как человек с пойманной зверушкой, или уничтожит как человек уничтожает противное насекомое.
Лично я считаю эту проблему действительно серьезной. Атомная бомба или эксперименты в БАКе — ничто по сравнению с перспективой возможного уничтожения или рабства.
Может этот вопрос задал не программист? Дизайнер, например. Или верстальщик, который кроме jQuery и HTML ничего не знает.
Вообще, у подобных Q\A сервисов есть одна-единственная фундаментальная проблема: пользователи, замотивированные (администрацией) отвечать на вопросы, не замотивированы поддерживать качество (классическая проблема качества user-generated контента).
В случае же с Тостером, честно говоря, вообще непонятны критерии «качества». На SO постоянно мелькают ссылки на правила и ответы в духе «это не относится к программированию, идите на superuser». На Тостере же царит (как мне показалось) демократия в худшем ее проявлении. Или, даже лучше сказать, анархия.
Лично я использовал Тостер пару раз для вопросов, но качество и количество ответов на SO явно лучше — поэтому использую SO.
Это они просто буржуи на русских форумах не бывают. Вот там точно — задашь вопрос, а через 3-5 комментов тебя назовут идиотом и тема скатится в адовый оффтоп =)
«перепутать реальность с ним невозможно» — всерьез думать, что реальность это сон, пожалуй нет. А вот думать, что приснившийся накануне сон был реальностью — вполне можно. И это ведет к паранойе в лучших ее традициях.
Спасибо за комментарий. Получается, что вы не анализируете профайл как таковой, а смотрите только на текст и ссылку самого сообщения? А что если тексты и ссылка уникализированы? Я понимаю, что в реальности как правило никто так не делает (ибо зачем?), но все же. К примеру — есть бот, он «написал» какой-то уникальный пост и скинул ссылку на сайт, его сообщение «ретвитнули» еще 50 других ботов. Такие штуки не обнаружатся?
Я все-таки соглашусь с комментарием выше, что это не «big data». Когда «это» явно больше одной машины — тогда это «big data». А сейчас это «data mining», как бы вам ни хотелось думать иначе. И ничего в этом плохого нет. «Big data» это просто модный штамп, но зачастую задача извлечения каких-то зависимостей из текста объемом в 100 МБ оказывается сложнее, чем несложная обработка терабайта логов какого-нибудь веб-сервера. Так что, как разработчикам, Вам нечего стыдиться — скорее наоборот.
Вот этот момент заинтересовал: «да, подобные сообщения фильтруются и не доходят до модуля анализа». Насколько я знаю (из практического опыта), некоторых ботов даже люди не могут распознать. Сидит себе профайл в соцсети, пишет какие-то цитатки изредка, шарит ссылочки, имеет 150 друзей. Поясните пожалуйста поподробнее про Ваши алгоритмы распознавания, уж очень сомнительным выглядит утверждение про фильтрацию ботов.
Я практиковал ОСы и практикую сейчас медитации. Знакомый Ваш как-то видимо слегка сдвинулся психикой на фоне шизотерических практик. Эта знакомая привычка писать некоторые слова с большой буквы — из той самой серии. Пункт 2 (про повреждение мозга и «приемник») вообще курам на смех, если честно. Достоверно известны случаи, когда пациенты с повреждениями мозга теряли часть воспоминаний и имели другие нарушения работы сознания. А то, что «память» нигде не нашли — любой программист, знакомый с нейросетями, очень удивился бы, если бы эту «память» все-таки нашли.
Все, что приносит позитивные эмоции и хотя бы минимальный вред (а практически все вредит чему-то, как минимум воруя время) — вызывает зависимость. По мне так разница между кофе, сигаретами, алкоголем, уличными гонками, прыжками с парашютом, скалолазанием, шоппингом и походами в кино — всего лишь количественная, но никак не качественная.
Все мы — наркоманы. Кто-то получает эмоции походами в кино, гонками на снегоходах или прыжками с парашютом. Кто-то — читерскими методами вроде ОСов или «веществами» — от кофе до чего потяжелее. Суть одна. Что уж там говорить, если даже углеводы фактически полностью подпадают под категорию «наркотики»:
1) после приема углеводов у человека повышается настроение, ощущается приятная расслабленность и легкая сонливость (а у женщин так вообще «шоколадка» — один из лучших способов поднять настроение),
2) избыточное потребление углеводов ведет к ожирению и (возможно) сахарному диабету, и наносит прямой вред здоровью — тем не менее, миллионы людей плотно «сидят» на ежедневных дозах фастфуда или пирожных и безуспешно пытаясь сбросить вес. Который, кстати, не сбрасывается только лишь по причине слабовольности и зависимости от цепочки углеводы — серотонин и эндорфины — хорошее настроение.
Занимался осознанными снами (ОС) лет в 20. Где-то года 3-4 подряд. Занимался плотно — записывал сны, анализировал, применял всякие техники и прочее.
1) Это просто развлечение. Это надо четко понять. Как и в случае с психоделическими «веществами». Ни они, ни ОСы не сделают Вас умнее, не «прокачают» Ваш мозг или интеллект. Максимум — ОСы добавят креативности, т.к. из сюжетов, обрывков, ощущений снов можно черпать какие-то идеи в сфере искусства.
2) Реалистичность — да, со временем достигает небывалых значений. Более того — во сне вы становитесь другой личностью и другим существом, причем не внешне (хотя и это бывает), а внутренне. Вы понимаете, что думаете иначе, что чувствуете иначе. Однажды я «был» каким-то осьминогом и мог «ощущать» с десяток конечностей.
3) Другие эмоции. В ОСах вы можете чувствовать эмоции, названию которым даже нет в человеческих языках (во всяком случае, в русском и английском — точно нет). Как описать ощущение подъема куда-то вверх на эмоциональном уровне? Представьте, что вы взлетаете на самолете — вот нечто похожее, только с эмоциональной сфере. Это совсем не тот «душевный подъем», совсем нет. Это нечно другое.
4) Заниматься я этим прекратил, когда начал очень сильно путать сон с реальностью. Однажды мне приснилось, что я сбил кого-то на машине и уехал домой, и утром я в панике метался по квартире, собирая ценные вещи и документы и намереваясь «залечь на дно» где-то в деревне. Самое смешное, что машины у меня тогда не было. Но мозг отказывался какое-то время соображать логически — настолько были сильными эмоции после сна. После этого эпизода (которому предшествовали несколько подобных) я решил что все — хватит.
5) еще из минусов (хотя кому как) — реальность становится все менее и менее интересной. Зачем добиваться чего-то в real life, когда можно ночью получить все бесплатно и еще сверх того? Лично на мой взгляд это не особенно серьезный недостаток ОСов, но кому-то это может быть важно.
Вердикт: ОСы это просто игрушка, способ получить очень интересные и разнообразные эмоции. К сожалению или счастью, мозг они не «прокачивают» никаким образом.
Рад, что наконец-то адекватные люди заходят в комменты. На мой взгляд, вся ситуация с Дуровым — в целом — очень сильно напоминает небезызвестную «корпорацию добра», которая на проверку оказалась не такой уж «доброй» (взять хотя бы скупку конкурирующих стартапов с целью закрытия).
Да и вообще — не пытайтесь применять человеческую логику к ИИ, там может быть все что угодно.
Ребенок сует пальцы в розетку потому что не понимает всей опасности — в его жизненном опыте просто нет ограничителей. То же самое с ИИ. Люди не представляют всей опасности мощного ИИ просто потому, что никогда не встречали никого умнее самих себя.
Бесконтрольная сингулярность (а может быть иная вообще?) означает только то, что человечество добровольно отдаст себя на волю настолько могущественного создания, что его впору сравнивать с главными персонажами из религиозных книг.
Как взрослый человек легко может обмануть насекомое и заставить его бежать в ловушку, так и мощный ИИ может легко обмануть человечество. И только от его воли будет зависеть, поиграет он с нами и отпустит, как человек с пойманной зверушкой, или уничтожит как человек уничтожает противное насекомое.
Лично я считаю эту проблему действительно серьезной. Атомная бомба или эксперименты в БАКе — ничто по сравнению с перспективой возможного уничтожения или рабства.
Вообще, у подобных Q\A сервисов есть одна-единственная фундаментальная проблема: пользователи, замотивированные (администрацией) отвечать на вопросы, не замотивированы поддерживать качество (классическая проблема качества user-generated контента).
В случае же с Тостером, честно говоря, вообще непонятны критерии «качества». На SO постоянно мелькают ссылки на правила и ответы в духе «это не относится к программированию, идите на superuser». На Тостере же царит (как мне показалось) демократия в худшем ее проявлении. Или, даже лучше сказать, анархия.
Лично я использовал Тостер пару раз для вопросов, но качество и количество ответов на SO явно лучше — поэтому использую SO.
Вот этот момент заинтересовал: «да, подобные сообщения фильтруются и не доходят до модуля анализа». Насколько я знаю (из практического опыта), некоторых ботов даже люди не могут распознать. Сидит себе профайл в соцсети, пишет какие-то цитатки изредка, шарит ссылочки, имеет 150 друзей. Поясните пожалуйста поподробнее про Ваши алгоритмы распознавания, уж очень сомнительным выглядит утверждение про фильтрацию ботов.
1) после приема углеводов у человека повышается настроение, ощущается приятная расслабленность и легкая сонливость (а у женщин так вообще «шоколадка» — один из лучших способов поднять настроение),
2) избыточное потребление углеводов ведет к ожирению и (возможно) сахарному диабету, и наносит прямой вред здоровью — тем не менее, миллионы людей плотно «сидят» на ежедневных дозах фастфуда или пирожных и безуспешно пытаясь сбросить вес. Который, кстати, не сбрасывается только лишь по причине слабовольности и зависимости от цепочки углеводы — серотонин и эндорфины — хорошее настроение.
1) Это просто развлечение. Это надо четко понять. Как и в случае с психоделическими «веществами». Ни они, ни ОСы не сделают Вас умнее, не «прокачают» Ваш мозг или интеллект. Максимум — ОСы добавят креативности, т.к. из сюжетов, обрывков, ощущений снов можно черпать какие-то идеи в сфере искусства.
2) Реалистичность — да, со временем достигает небывалых значений. Более того — во сне вы становитесь другой личностью и другим существом, причем не внешне (хотя и это бывает), а внутренне. Вы понимаете, что думаете иначе, что чувствуете иначе. Однажды я «был» каким-то осьминогом и мог «ощущать» с десяток конечностей.
3) Другие эмоции. В ОСах вы можете чувствовать эмоции, названию которым даже нет в человеческих языках (во всяком случае, в русском и английском — точно нет). Как описать ощущение подъема куда-то вверх на эмоциональном уровне? Представьте, что вы взлетаете на самолете — вот нечто похожее, только с эмоциональной сфере. Это совсем не тот «душевный подъем», совсем нет. Это нечно другое.
4) Заниматься я этим прекратил, когда начал очень сильно путать сон с реальностью. Однажды мне приснилось, что я сбил кого-то на машине и уехал домой, и утром я в панике метался по квартире, собирая ценные вещи и документы и намереваясь «залечь на дно» где-то в деревне. Самое смешное, что машины у меня тогда не было. Но мозг отказывался какое-то время соображать логически — настолько были сильными эмоции после сна. После этого эпизода (которому предшествовали несколько подобных) я решил что все — хватит.
5) еще из минусов (хотя кому как) — реальность становится все менее и менее интересной. Зачем добиваться чего-то в real life, когда можно ночью получить все бесплатно и еще сверх того? Лично на мой взгляд это не особенно серьезный недостаток ОСов, но кому-то это может быть важно.
Вердикт: ОСы это просто игрушка, способ получить очень интересные и разнообразные эмоции. К сожалению или счастью, мозг они не «прокачивают» никаким образом.