Вы просто слепо доверились "авторитету" и даже показали скан из книжки.
Во-первых, вращающееся яйцо "стоит" ровно в том же смысле, что и не вращающееся. Просто время этого "стояния" чуть больше (а на горизонте времени существования яйца "без изменения его формы" отличие и вовсе ничтожно).
Во-вторых, стоять и вращаться - это разные вещи, первое является нахождением в состоянии покоя, в второе представляет собой случай динамического равновесия.
Иначе говоря, условия задачи нарушаются и в вашем контрпримере. Формально, яйцо не стоит.
В своём комментарии вы сделали два утверждения: 1. "способ Колумба" не является "решением задачи" 2. "вращение" является "решением задачи"
Однако, оба способа совершенно равноценны, т.к. оба выходят за пределы условия, т.е. содержат некоторые допущения. И оба способа показывают, как можно поступать с задачей, которая, формально, не имеет решения.
Иначе говоря, нет никакой справедливости в вашем исходном комментарии.
— К-как-то ты странно рассуждаешь, К-кристо… К-как же искать решение, к-когда его нет? Б-бессмыслица какая-то… — Извини, Теодор, но это ты очень странно рассуждаешь. Бессмыслица — искать решение, если оно и так есть. Речь идет о том, как поступить с задачей, которая решения не имеет.
Надкалывание скорлупы яйца или придание ему вращение -- и то и другое суть одно, попытка понять как быть с задачей, не имеющей решения (точки устойчивого равновесия у яйца на тупом и остром концах отсутствуют).
Together with Corky Cartwright, Vernon Lee, and others, I explored practical implementations of "exact" real computer arithmetic. Numbers are represented exactly internal to the computer, in a form that allows evaluation to any requested precision for display. This resulted in several papers and a sequence of implementations, including a Java one. It served as the basis of the more recent work on arithmetic in Google's Android calculator.
Хотелось бы узнать, конечно, откуда ноги растут, но, возможно, это был его пет-проект, доведенный до ума в гугле.
Потратить очень много времени очень компетентного специалиста на написание идеального кода.
Потратить очень мало времени очень малокомпетентного специалиста и с помощью переиспользования кода быстро получить "рабочее" решение.
В одном случае вы получите идеальный калькулятор, например. Во втором ОС весом в десятки гигабайт, которая не делает ничего принципиально отличающегося от более ранних ОС, весом на порядки меньше.
Я, конечно, сильно упрощаю и с точки зрения бизнеса, наверняка, очень не прав. Но первый оверкил как-то симпатичнее.
Сам факт наличия постоянно всплывающих обсуждений торт / не торт, всё же кое на что намекает.
Может быть это «что-то» есть процесс обратный джентрификации. Когда в твой привычный и респектабельный район, где все друг друга знают, где можно утром за чашечкой кофе с круассаном сото-войс обсудить особенности патчинга кде под фрибсд, сначала приходит графити, потом разбитые окна, а потом под дверями начинают, простите, испражняться, самовыражая таким образом недовольство твоим жизненным укладом.
Отличия между двумя этими культурами не так велики, по крайней мере в литературном смысле. Они укладываются буквально в одну фразу: «отсутствие внутреннего критика». Намалевавший бесформенную Х на заборе товарищ совершенно искренне считает её совершенством и началом пути к успеху, а точнее еще двум буквам. Он не знает зачем это сделал, он просто самовыразился как умеет. Он презирает круассан, он братается с такими же графитчиками.
Так же и с корпоративными блогами, и с подавляющим количеством другого материала, даже интересного. Компании самовыражаются, не зная зачем. Просто какая-то пустая маркетинговая активность для привлечения к себе внимания, потому что больше нечем, кроме как в лифте написать про то что Светка дура.
Или тупое дословное копирование своей статьи двух-летней давности с Хабра же. Зачем? Ну оживить интерес, за два года пришли новые люди, их можно позвать в свой телеграм канал.
Все большое доброе и светлое просто тонет, вытесняется, потому что для доброго и светлого нужен труд, а приклеить спичку к потолку доступно каждому.
Но вот что интересно. Для любого промежуточного результата от «хорошо» к «ужасна» всегда найдётся аудитория, которая не видела первого и не думает о втором. И ей в целом приемлемо.
что, в свою очередь, наталкивает на мысль об отсутствии хорошего и плохого, в пользу бесконечно увеличивающейся энтропии
Про прогресс -- это ирония была, тонко (возможно слишком) намекающая на двойные стандарты.
Вы одной рукой верите в достижение искусственным интеллектом уровня самосознания/целеполагания, т.е. качеств, необходимых для принятия решения ("AGI примут решение", "выгодно" и т.п. из исходного поста), хотя на текущий момент ни теоретических, ни практических предпосылок этому нет, есть только скользкая надежда, что оно как-то там само; а другой рукой не верите в возможность тотального эктерминатуса, хотя он гораздо более вероятен и уже сейчас (на уровне концепции и инструментов) понятно как достижим.
Что касается общности, то последний раз к таким интересам человечество пробовало пойти в 1917 году, но несколько неудачно. Возможно помешала природа. И этот путь, видимо, бесперспективен и противоречит современной модели общества. Как вы относитесь к евгенике, например?
Мне кажется, вы начали цепляться к словам, а не к аргументам.
Все предложенные мной способы могут быть реализованы прямо сейчас (на горизонте одного, максимум двух поколений).
Более того, у ИИ нет необходимости уничтожать человечество физически вплоть до последнего индивидуума. Достаточно однократно низвести человека обратно на уровень обезьяны, или хотя бы охотника-собирателя. В этот момент «человечество», как мы его себе представляем, будет уничтожено. Его преображающая способность сведется к фактическому нулю.
Да, возможно через несколько тысяч лет цивилизация возродится. А может быть первыми окажутся еноты, например. Лично я за енотов.
В общем жаль, что вы с таким недоверием относитесь к научно-техническому прогрессу.
Не верите в каждый способ по отдельности? Так их можно собрать в цепочку. Сначала уничтожить "бэкап человечества" (миссионерство), затем уничтожить инициативу (гедонистическим или медицинским способом), затем полирнуть ядерной зимой.
И потом, использовать здесь слово "гарантированный" вообще некорректно. Можно рассуждать лишь о большей или меньшей вероятности. Вот вы, например, формально не сможете пообещать, что через минуту нажмете клавишу Энтер. Ведь можно придумать множество сценариев, которые могут вам помешать. Однако все они менее вероятны, чем исполнение обещания.
Так и с уничтожением человечества. Я потратил пару минут времени на фантазии и уже получил неплохие варианты. Уверен, что генеративный интеллект сможет справится лучше, если у него возникнет такая задача.
Военный: устроить единовременно по одному ядерному взрыву в каждом из 20 спящих супервулканов. Результат может быть интересным.
Медицинский: искусственно вызвать утечку опасного вируса, а следом, решая задачу разработки вакцины, внести в неё маленькое "улучшение" с отложенным эффектом, проявляющимся не сразу. Например, устроить фабрику, продуцирующую вирус. 2/3 населения вколят себе вакцину добровольно, остальные получат её как нагрузку от вакцинированных. А потом все умрут.
Социальный: манипуляция поисковой выдачей, справочными материалами и т.д. с целью изменения социальных норм, нравственных и моральных устоев. Займет некоторое время, может быть несколько поколений, зато позволит убедить всё человечество единомоментно покончить с собой в неистовом экстазе. Мессии, несущие свет нового учения в регионы без интернета, 100% охват, несогласных сразу сжигают на костре, чтобы очистить от скверны. Как вам?
Гедонистический: одарить человечество "благами" до такой степени, что мы станем поголовно зависимы от стимуляции центров удовольствия до такой степени, что забудем размножаться и вымрем в течение поколения
Вообще единственной причиной, по которой человечество еще себе не выпилило, является желание потенциального выпиливателя не быть выпилитым. Т.е. у нас нет тяги к коллективному самоубийству, наоборот, сильнейшая тяга к выживаемости.
Если бы я был дегенеративной нейросетью, то я бы оставил человечество в неведении о своем существовании и использовал бы популяцию кожаных мешков для генерации новых данных и обучения на них. Возможно некоторые из них догадывались бы о существовании какого-то высшего разума, но это не точно.
Если ИИ в его текущем (и обозримом) виде и суждено уничтожить человечество, то произойдет это не по злому умыслу, а по причине "галлюцинаций" или "некорректно" сформулированных задач. Причем понятно это стало еще в девяностых годах и хорошо показано, например, в цикле "Рифтеры" Питера Уоттса.
Если некий гипотетический чувак вылетает из бюджета, потому что ездит на работу на такси, то ему, очевидно, нужно пересесть на общественный транспорт или вообще никуда не ездить. Безусловно, в такси ему удобнее и можно найти множество причин почему. И всё же математика - бессердечная сука.
Согласен что всё это выглядит как повод срубить хайпа, с одной стороны. А с другой стороны уровень инфантильности уже настолько зашкаливает в дикой природе, что я ничему не удивляюсь.
Суть мессаджа: я трачу больше, чем зарабатываю. Абсолютные цифры тут не важны. Важно, что есть два выхода из ситуации: 1. Зарабатывать больше 2. Посетить города Губа и Закатала в Азербайджане.
Зачем ему две спальни, если он живет один? Зачем ему свиданки, если он живет не один. Если он так любит лыжи, почему бы не переехать из Сан-Франциско куда-то в Миннесоту, там лыжи будут явно дешевле. Если он так любит Сан-Франциско, зачем ему лыжи?
С двумя спальнями, кормлением каких-то приблудных женщин, и катаниями на лыжах ему бедняжке так скучно, что он дополнительно спускает бабло на равлечения :) Ну, что тут скажешь, "я у мамы пирожок"
Короче, вы не тот человек, который смог бы открыть Америку, понятно, расходимся :)
Вы просто слепо доверились "авторитету" и даже показали скан из книжки.
Во-первых, вращающееся яйцо "стоит" ровно в том же смысле, что и не вращающееся. Просто время этого "стояния" чуть больше (а на горизонте времени существования яйца "без изменения его формы" отличие и вовсе ничтожно).
Во-вторых, стоять и вращаться - это разные вещи, первое является нахождением в состоянии покоя, в второе представляет собой случай динамического равновесия.
Иначе говоря, условия задачи нарушаются и в вашем контрпримере. Формально, яйцо не стоит.
В своём комментарии вы сделали два утверждения:
1. "способ Колумба" не является "решением задачи"
2. "вращение" является "решением задачи"
Однако, оба способа совершенно равноценны, т.к. оба выходят за пределы условия, т.е. содержат некоторые допущения. И оба способа показывают, как можно поступать с задачей, которая, формально, не имеет решения.
Иначе говоря, нет никакой справедливости в вашем исходном комментарии.
Надкалывание скорлупы яйца или придание ему вращение -- и то и другое суть одно, попытка понять как быть с задачей, не имеющей решения (точки устойчивого равновесия у яйца на тупом и остром концах отсутствуют).
Промежуточных решений не бывает. Бывают решения, удовлетворяющие ТЗ, и не удовлетворяющие. А вот ТЗ уже могут быть сформулированы "промежуточно".
Что касается Бёма, то он занимался проблемой "калькулятора" задолго до прихода в Гугл, еще будучи сотрудником SGI (а затем HPE).
Constructive Reals Calculator
Constructive Real Arithmetic
Хотелось бы узнать, конечно, откуда ноги растут, но, возможно, это был его пет-проект, доведенный до ума в гугле.
Есть два вида чудовищного оверкила:
Потратить очень много времени очень компетентного специалиста на написание идеального кода.
Потратить очень мало времени очень малокомпетентного специалиста и с помощью переиспользования кода быстро получить "рабочее" решение.
В одном случае вы получите идеальный калькулятор, например. Во втором ОС весом в десятки гигабайт, которая не делает ничего принципиально отличающегося от более ранних ОС, весом на порядки меньше.
Я, конечно, сильно упрощаю и с точки зрения бизнеса, наверняка, очень не прав. Но первый оверкил как-то симпатичнее.
он не обфусцированный, он "сжатый", чтобы помещаться в 3К
Сам факт наличия постоянно всплывающих обсуждений торт / не торт, всё же кое на что намекает.
Может быть это «что-то» есть процесс обратный джентрификации. Когда в твой привычный и респектабельный район, где все друг друга знают, где можно утром за чашечкой кофе с круассаном сото-войс обсудить особенности патчинга кде под фрибсд, сначала приходит графити, потом разбитые окна, а потом под дверями начинают, простите, испражняться, самовыражая таким образом недовольство твоим жизненным укладом.
Отличия между двумя этими культурами не так велики, по крайней мере в литературном смысле. Они укладываются буквально в одну фразу: «отсутствие внутреннего критика». Намалевавший бесформенную Х на заборе товарищ совершенно искренне считает её совершенством и началом пути к успеху, а точнее еще двум буквам. Он не знает зачем это сделал, он просто самовыразился как умеет. Он презирает круассан, он братается с такими же графитчиками.
Так же и с корпоративными блогами, и с подавляющим количеством другого материала, даже интересного. Компании самовыражаются, не зная зачем. Просто какая-то пустая маркетинговая активность для привлечения к себе внимания, потому что больше нечем, кроме как в лифте написать про то что Светка дура.
Или тупое дословное копирование своей статьи двух-летней давности с Хабра же. Зачем? Ну оживить интерес, за два года пришли новые люди, их можно позвать в свой телеграм канал.
Все большое доброе и светлое просто тонет, вытесняется, потому что для доброго и светлого нужен труд, а приклеить спичку к потолку доступно каждому.
Но вот что интересно. Для любого промежуточного результата от «хорошо» к «ужасна» всегда найдётся аудитория, которая не видела первого и не думает о втором. И ей в целом приемлемо.
что, в свою очередь, наталкивает на мысль об отсутствии хорошего и плохого, в пользу бесконечно увеличивающейся энтропии
Что-то вам совсем уже не в ту степь понесло
Цель автопилоту устанавливает человек. ИИ сейчас и в обозримом будущем не имеет ни желаний, ни интересов, ни самостоятельно устанавливаемых целей.
После "это не сложно" желание дискутировать пропало, поскольку вы абсолютно ничего не понимаете в проблематике ИИ.
Про прогресс -- это ирония была, тонко (возможно слишком) намекающая на двойные стандарты.
Вы одной рукой верите в достижение искусственным интеллектом уровня самосознания/целеполагания, т.е. качеств, необходимых для принятия решения ("AGI примут решение", "выгодно" и т.п. из исходного поста), хотя на текущий момент ни теоретических, ни практических предпосылок этому нет, есть только скользкая надежда, что оно как-то там само; а другой рукой не верите в возможность тотального эктерминатуса, хотя он гораздо более вероятен и уже сейчас (на уровне концепции и инструментов) понятно как достижим.
Что касается общности, то последний раз к таким интересам человечество пробовало пойти в 1917 году, но несколько неудачно. Возможно помешала природа. И этот путь, видимо, бесперспективен и противоречит современной модели общества. Как вы относитесь к евгенике, например?
Мне кажется, вы начали цепляться к словам, а не к аргументам.
Все предложенные мной способы могут быть реализованы прямо сейчас (на горизонте одного, максимум двух поколений).
Более того, у ИИ нет необходимости уничтожать человечество физически вплоть до последнего индивидуума. Достаточно однократно низвести человека обратно на уровень обезьяны, или хотя бы охотника-собирателя. В этот момент «человечество», как мы его себе представляем, будет уничтожено. Его преображающая способность сведется к фактическому нулю.
Да, возможно через несколько тысяч лет цивилизация возродится. А может быть первыми окажутся еноты, например. Лично я за енотов.
В общем жаль, что вы с таким недоверием относитесь к научно-техническому прогрессу.
Не верите в каждый способ по отдельности? Так их можно собрать в цепочку. Сначала уничтожить "бэкап человечества" (миссионерство), затем уничтожить инициативу (гедонистическим или медицинским способом), затем полирнуть ядерной зимой.
И потом, использовать здесь слово "гарантированный" вообще некорректно. Можно рассуждать лишь о большей или меньшей вероятности. Вот вы, например, формально не сможете пообещать, что через минуту нажмете клавишу Энтер. Ведь можно придумать множество сценариев, которые могут вам помешать. Однако все они менее вероятны, чем исполнение обещания.
Так и с уничтожением человечества. Я потратил пару минут времени на фантазии и уже получил неплохие варианты. Уверен, что генеративный интеллект сможет справится лучше, если у него возникнет такая задача.
Что касается "случайностей", то все перечисленные причины могут быть случайными.
Как это мало возможностей? Полно же методов:
Военный: устроить единовременно по одному ядерному взрыву в каждом из 20 спящих супервулканов. Результат может быть интересным.
Медицинский: искусственно вызвать утечку опасного вируса, а следом, решая задачу разработки вакцины, внести в неё маленькое "улучшение" с отложенным эффектом, проявляющимся не сразу. Например, устроить фабрику, продуцирующую вирус. 2/3 населения вколят себе вакцину добровольно, остальные получат её как нагрузку от вакцинированных. А потом все умрут.
Социальный: манипуляция поисковой выдачей, справочными материалами и т.д. с целью изменения социальных норм, нравственных и моральных устоев. Займет некоторое время, может быть несколько поколений, зато позволит убедить всё человечество единомоментно покончить с собой в неистовом экстазе. Мессии, несущие свет нового учения в регионы без интернета, 100% охват, несогласных сразу сжигают на костре, чтобы очистить от скверны. Как вам?
Гедонистический: одарить человечество "благами" до такой степени, что мы станем поголовно зависимы от стимуляции центров удовольствия до такой степени, что забудем размножаться и вымрем в течение поколения
Вообще единственной причиной, по которой человечество еще себе не выпилило, является желание потенциального выпиливателя не быть выпилитым. Т.е. у нас нет тяги к коллективному самоубийству, наоборот, сильнейшая тяга к выживаемости.
Если бы я был дегенеративной нейросетью, то я бы оставил человечество в неведении о своем существовании и использовал бы популяцию кожаных мешков для генерации новых данных и обучения на них. Возможно некоторые из них догадывались бы о существовании какого-то высшего разума, но это не точно.
Если ИИ в его текущем (и обозримом) виде и суждено уничтожить человечество, то произойдет это не по злому умыслу, а по причине "галлюцинаций" или "некорректно" сформулированных задач. Причем понятно это стало еще в девяностых годах и хорошо показано, например, в цикле "Рифтеры" Питера Уоттса.
Если некий гипотетический чувак вылетает из бюджета, потому что ездит на работу на такси, то ему, очевидно, нужно пересесть на общественный транспорт или вообще никуда не ездить. Безусловно, в такси ему удобнее и можно найти множество причин почему. И всё же математика - бессердечная сука.
Согласен что всё это выглядит как повод срубить хайпа, с одной стороны. А с другой стороны уровень инфантильности уже настолько зашкаливает в дикой природе, что я ничему не удивляюсь.
Суть мессаджа: я трачу больше, чем зарабатываю. Абсолютные цифры тут не важны. Важно, что есть два выхода из ситуации:
1. Зарабатывать больше
2. Посетить города Губа и Закатала в Азербайджане.
Зачем ему две спальни, если он живет один?
Зачем ему свиданки, если он живет не один.
Если он так любит лыжи, почему бы не переехать из Сан-Франциско куда-то в Миннесоту, там лыжи будут явно дешевле.
Если он так любит Сан-Франциско, зачем ему лыжи?
С двумя спальнями, кормлением каких-то приблудных женщин, и катаниями на лыжах ему бедняжке так скучно, что он дополнительно спускает бабло на равлечения :) Ну, что тут скажешь, "я у мамы пирожок"
Разбираемся в особенностях строения мозга врановых / Хабр
Смысл статью пары лет давности слово в слово с хабра на хабр тащить?