Comments 3
Студенты не научатся писать, потому что ИИ сделает всю работу за них
Всё уже украдено до Билли.
— Теперь-то я это понимаю, — сказал Джордж, — до того ясно, что только удивляюсь, каким я был слепым. В конце концов, кто изобретает новые модели механизмов, для которых нужны новые модели специалистов? Кто, например, изобрел спектрограф Бимена? По-видимому, человек по имени Бимен. Но он не мог получить образование через зарядку, иначе ему не удалось бы продвинуться вперед.
— Совершенно верно.
— А кто создает образовательные ленты? Специалисты по производству лент? А кто же тогда создает ленты для их обучения? Специалисты более высокой квалификации? А кто создает ленты... Ты понимаешь, что я хочу сказать. Где-то должен быть конец. Где-то должны быть мужчины и женщины, способные к самостоятельному мышлению.
— Ты прав, Джордж.
Джордж откинулся на подушки и устремил взгляд в пространство. На какой-то миг в его глазах мелькнула тень былого беспокойства.
— Почему мне не сказали об этом с самого начала?
— К сожалению, это невозможно, — ответил Омани. — А так мы были бы избавлены от множества хлопот. Мы умеем анализировать интеллект, Джордж, и определять, что вот этот человек может стать приличным архитектором, а тот — хорошим плотником. Но мы не умеем определять, способен ли человек к творческому мышлению. Это слишком тонкая вещь. У нас есть несколько простейших способов, позволяющих распознавать тех, кто, быть может, обладает такого рода талантом. Об этих индивидах сообщают сразу после Дня чтения, как, например, сообщили о тебе. Их приходится примерно один на десять тысяч. В День образования этих людей проверяют снова, и в девяти случаях из десяти оказывается, что произошла ошибка. Тех, кто остается, посылают в такие заведения, как это.
— Но почему нельзя сказать людям, что один из... из ста тысяч попадает в такое заведение? — спросил Джордж. — Тогда тем, с кем это случается, было бы легче.
— А как же остальные? Те девяносто девять тысяч девятьсот девяносто девять человек, которые никогда не попадут сюда? Нельзя, чтобы все эти люди чувствовали себя неудачниками. Они стремятся получить профессии и получают их. Каждый может прибавить к своему имени слова «дипломированный специалист по тому-то или тому-то». Так или иначе каждый индивид находит свое место в обществе. Это необходимо.
— А мы? — спросил Джордж. — Мы, исключения? Один на десять тысяч?
— Вам ничего нельзя объяснить. В том-то и дело. Ведь в этом заключается последнее испытание. Даже после отсева в День образования девять человек из десяти, попавших сюда, оказываются не совсем подходящими для творчества, и нет такого прибора, который помог бы нам выделить из этой десятки того единственного, кто нам нужен. Десятый должен доказать это сам.
— Каким образом?
— Мы помещаем вас сюда, в приют для слабоумных, и тот, кто не желает смириться с этим, и есть человек, которого мы ищем. Быть может, это жестокий метод, но он себя оправдывает. Нельзя же сказать человеку: «Ты можешь творить. Так давай, твори». Гораздо вернее подождать, пока он сам не скажет: «Я могу творить, и я буду творить, хотите вы этого или нет». Есть около десяти тысяч людей, подобных тебе, Джордж, и от них зависит технический прогресс полутора тысяч миров. Мы не можем позволить себе потерять хотя бы одного из них или тратить усилия на того, кто не вполне отвечает необходимым требованиям.
Студенты и так в большинстве своём ничего не пишут, им корочка нужна и давно известно, что 90 и более % тупо платят деньги за курсачи и даже докторские, чатботы и поисковики юзаются повсеместно, в архивы и библиотеки ходят единицы. Преподами становятся много, кто не разбирается в тематике и тупо проводят одни и те же лекции по книжке, всё отскакивает от зубов и заучено, но убери переменные или условия и тормозят в лучшем случае. Общался с многими доцентами кафедр, издевался и задавал их же задачи, но с изменёнными входными данными, на что получал ответ, что нам нужно лишь проводить лекции и зп мы получаем не за саморазвитие и что и так хорошо!..
Глобальный риск от ASI несравним с локальным риском от автомобиля или ядерной бомбы. Риск от ASI подобен риску от взрыва Солнца или фазового перехода вакуума, событием, в случае реализации уничтожающем человечество целиком быстрее возможной реакции на него.
Удивительно, что Гейтс поменял точку зрения.
На мой взгляд, речь идёт не о плюсах или минусах использования ИИ. Основной риск — создание равнодушного сильного ИИ, и что мы с этим будем делать потом (или что он с нами будет делать).
Риски ИИ реальны, но управляемы: Билл Гейтс опубликовал новую колонку в своём блоге