9 тезисов о том, почему будущие системы искусственного интеллекта могут уничтожить человечество, и какие меры нужны, чтобы это предотвратить.

1. ИИ отличается от нормальных программ.

Традиционные программы — это написанные людьми инструкции, которые выполняет компьютер. Эти инструкции содержат придуманные людьми алгоритмы. Современные системы ИИ вроде ChatGPT — это нейронные сети: матрицы с миллиардами-триллионами чисел. В принципе, для любого алгоритма, даже ещё неизвестного людям, есть (возможно, очень большая) нейронная сеть, которая его приближённо выполняла бы. Но числа в нейронных сетях и алгоритмы, которые они выполняют, людям непонятны.

Несколько лет назад мы собрали 11 миллионов рублей на некоммерческую печать «Гарри Поттера и методов рационального мышления», побив рекорд российских краудфандинг-проектов по объёму сборов, и пообещали подарить трёхтомники ГПиМРМ школьникам и студентам, побеждавшим в олимпиадах.

Наконец, мы начали рассылать обещанные книги. Пять с половиной сотен экземпляров уже доставлены, ещё сотня — в пути. Если вы подходите под критерии, можете заполнить заявку и через несколько дней получить от курьера книжки (или через несколько недель почтой, если находитесь за границей).

Там же есть рекомендации книги от Александра Панчина (популяризатор науки, член комиссии РАН по борьбе с лженаукой, лауреат премии «Просветитель»); Владимира Брагина (преподаватель ЦПМ, тренер сборной Москвы на всероссийской олимпиаде школьников по математике); Дмитрия Ветрова (глава исследовательской группы байесовских методов, профессор-исследователь ФКН НИУ ВШЭ, руководитель центра глубинного обучения и байесовских методов НИУ ВШЭ); и Галины Юзефович (литературный критик, преподаватель ВШЭ и РЭШ).

Подробнее ->

Книга популяризирует идеи критического мышления и эффективного альтруизма — и мы решили, что стоит распространить её среди талантливых людей, которые благодаря ГПиМРМ смогут принести больше пользы миру.

О чём это вообще?