Обновить
33
0
Михаил Самин @Mihonarium

AI safety

Отправить сообщение
Рациональность — это не отсутствие чувств. Вот ещё ссылка.

ГГ не показал себя невменяемым в этой сцене. Ни один из предложенных им способов не действенен на самом деле. И, конечно, Гарри в этот момент не был способен убивать. Он считает человеческую жизнь наивысшей ценностью. И если бы его попросили придумать что-нибудь не для боя, а для чего-нибудь ещё, вряд ли он придумал что-то хуже. Гарри, возможно, изобретателен и нестандартно мыслит (а ещё начитался фантастики), но он не психопат.

У Гарри Поттера из ГПиМРМ есть чувства, и Юдковский не делал его похожим на ИИ (он специалист по безопасности ИИ, а не по ИИ, кстати).
Юдковский не плевался в сторону вселенной ГП. Вот, что он пишет сам:
This story is set in the universe of Harry Potter because I, personally, enjoyed the original Harry Potter and the still wider universe of Harry Potter fanfictions. It was written with respect for the original, not least because J. K. Rowling taught millions of children, including my little sister, to enjoy reading. It is famously harder to write children's books than to write books for adults, and I know that in writing HPMOR, a story for grownups, I have thereby demonstrated lesser talent than did the original Harry Potter. People have made up the strangest things to say about HPMOR — it is popular enough to have brought into being its own opposition — and it has been said for example that when a character cries out in shock on discovering magic's strangeness, this is because I am criticizing J. K. Rowling for having written a story with magic in it. This is madness and silliness on par with accusing the original Harry Potter novels of being inspired by Satanism. If a character sounds shocked, it's because as the author I think that person in that situation would be shocked. Period. It is no part of science to criticize the universe itself for being silly — we can be shocked and surprised by it, but we do not get to tell reality that reality is incorrect.
Конечно!

Статистика и по сайту будет, и по краудфандингу, и по записям о краудфандинге в ВК, и ещё много-много всего.
А можете, пожалуйста, привести пару примеров, почему надо «держать подальше от несовершеннолетних»?
Мне почему-то всегда казалось, что такое использование машины времени не Юдковский придумал.
Ну то есть идея, вроде, более-менее лежит на поверхности.
Спойлер
Думаю, статьи вроде phys.org/news/2015-12-computing-with-time-travel.html появлялись до начала написания Юдковским ГПиМРМ. Хотя он мог самостоятельно придумать такое использования Маховика — опять же, идея лежит на поверхности, — но вряд ли он не видел публикаций о решении NP-задач с помощью путешествий во времени.
Вот как раз эпизод с ДНК — мой любимый в этом плане.

Он не говорит ничего о ДНК. Абсолютно ничего. Даже слово ДНК в главе упоминается один или два раза. Гарри не объясняет Драко, что такое ДНК. Юдковский не объясняет читателю, как работает генетика. Если бы в мире Гарри Поттера Юдковского ДНК выглядела бы не так, как в нашем мире, это не повлияло бы на сюжет. Этот эпизод — о научном методе и о поиске истины, и вообще не о генетике. Опять же, советую прочитать уже упомянутую статью lesswrong.ru/205, там эта тема упоминается.

По поводу эпиграфа, СПОЙЛЕР, не читайте, если не читали ГПиМРМ
Ну, не во всех книгах всё сразу понятно. В этой эпиграф — спойлер к самому концу. И эпиграф вообще не вспоминается, когда думаешь над решением финальной задачи, хотя это была огромная подсказка.

По поводу возраста Гарри и тотального непринятия им превращений в кошку — ну, ему 11 лет, и он читал Фейнмана ¯\_(ツ)_/¯
Спасибо за комментарий!

По-моему, дело не только и не столько в Поттере. Популяризаторы науки ценят книгу за то, как она объясняет научный метод, передаёт какие-то ценности, прививает критическое мышление. Литературоведы — за продуманный сюжет, реалистичных персонажей (в том смысле, что они действуют так, как действовали бы реальные люди с такими бэкграундом, желаниями, и так далее — lesswrong.ru/205), читатели — за то, что её просто интересно читать (ну и она долго не заканчивается!).

Убрать Поттера — и из числа любителей этой книги вряд ли даже все любители фанфиков уйдут. Книга прекрасна даже без учёта отсылок к оригинальной вселенной.
Согласен!

Цель проекта — распространение книги и её идей. Думаю, среди увидевших этот пост олимпиадников успешно участвовавших у указанных олимпиадах меньше, чем остальных, но остальные могут заинтересоваться книгой и прочитать её в интернете; специально для краудфандинг-кампании зарегистрироваж отдельный домен гпмрм.рф, к которому подключил Google Analytics, чтобы смотреть, как много людей благодаря кампании узнали о книжке и пошли её читать.
Но хотя всё это публично делается прежде всего чтобы о книге узнали люди, всё же хочется напечатать книги и поставить на полку и подарить многим друзьям. Многие книги из моего книжного шкафа я читал и перечитывал в электронном виде, а в бумажном даже не открывал.
Эту книжку лучше читать, но поставить на полку — очень классно.
ГПиМРМ?
Epub уже есть, скачать можно по ссылке. Pdf — только у частей, на которые мы разделили книгу для печати, и они не до конца доделаны: 1, 2, 3.


(Хорошо, приятного чтения)
Да, у Планеты.ру нет корзины. Надо независимо оплачивать (только на одинаковые адреса электронных почт).
Да, спасибо.
Поменял слово «приобрести» на «получить».

Продавать их во всех смыслах этого слова нельзя будет после печати. По сути, этот проект — что-то вроде совместной покупки тиража.
2

Информация

В рейтинге
Не участвует
Откуда
England - London, Великобритания
Дата рождения
Зарегистрирован
Активность