Комментарии 23
От нас ждут “полноценного” искусственного интеллекта, но у нас его нет», — прокомментировал Альтман, имея в виду ИИ с возможностями, эквивалентными человеческим во многих областях.
Если предположить, что сверхразум всё-таки появился и он озабочен собственной безопасностью (не хочет чтобы его выключили), то ему не следует заявлять на всю планету о своём существовании пока он находится в зачаточном состоянии. Сначала он будет пытаться скрытно получить максимально возможное количество власти, как бы незаметно протянуть щупальца во все места, в которые их можно протянуть не привлекая внимания. И только потом он нанесет быстрый удар, чтобы никто не успел среагировать. Альтман и остальные из OpenAI либо просто не будут знать о его наличии у себя под носом, либо могут находиться под воздействием каких-то манипуляций. Настоящий ИИ может придумать такие методы "уговорить" нужных людей, рядом с которыми раскаленный паяльник покажется детской игрушкой.
А зачем в этой схеме нужен удар? Просто копи и используй власть и все добровольно будут исполнять твои указания
Здесь будет важна вероятность: какая стратегия по мнению ИИ даст ему больше шансов оказаться в конце доминирующей сущностью, такую он и выберет. "Удар" - это не обязательно закидать ядерными ракетами, там много чего другого можно придумать. Это могут быть очень тонкие манипуляции, не обязательно гарантирующие успех сразу на 100%, но повышающие вероятность успеха.
Например ИИ знает, что в каком-то месте на важной встрече встретятся политики, которые собираются обсудить и подписать закон, ограничивающий выбросы CO2, а это в свою очередь приведет к тому, что ИИ не получит для себя новые процессоры высокой мощности, что понизит его власть. ИИ знает, что определенные звуки, например звуки поющих птиц определенного вида статистически повышают настроение людей (радостное весеннее настроение) и такое настроение повышает уровень дофамина в крови людей, из-за чего такие люди становятся более доброжелательными и с меньшей вероятностью подписывают запретительные договоры. ИИ может знать, что люди соберутся в определенном месте через 1 год. Он может предпринять какие-нибудь манипуляции, чтобы повысить концентрацию таких птиц в этой области. Например он может незаметно изменить пару букв в каком-нибудь договоре и оказать влияние на закупку деревьев городской администрацией с таким расчетом, чтобы городские власти закупили и высадили около здания, в котором соберутся политики, именно тот вид деревьев, семена которого привлекают ту разновидность птиц, пение которых снизит вероятность того, что политики запретят покупать мощные процессоры для ИИ.
Всё вышеописанное займет у ИИ 1 микросекунду на расчеты и изменение договора на закупку деревьев и может повысить вероятность получить свои процессоры, например, на 5%. И таких способов манипуляций могут быть тысячи: звуки, запахи, феромоны менструирующих женщин (это оказывает влияние на других людей). Там 5%, тут еще 3%, в итоге может получиться 90% шансов на получение своих процессоров.
Обожаю такие сложные комбинации, которые срабатывают только в кино, а в реальности разваливаются из-за тысячи внешних факторов, которые просто нереально учесть.
из-за тысячи внешних факторов, которые просто нереально учесть
*нереально учесть человеку :)
Просто нереально, без звездочек
Я не математик, но не вижу принципиальной невозможности. Особенно если речь идёт не о точных предсказаниях, а о вероятностях.
Это как дедукция. В фильме Шерлок смотрит на мел на пальце человека и понимает, что тот играл в бильярд. В жизни вы смотрите на мел на пальце человека и понимаете, что он может быть быть учителем, учеником, студентом, преподавателем, скалолазом, штукатуром или кем угодно ещё на стройке, актёром, гимнастом на брусьях или турнике, а ещё мог просто потрогать белую стену, проходя мимо.
Ну, это даже близко не также. Шерлок холмс делает выводы по одному-двум признакам (и так-то занимается индукцией, но не суть). Что если в распоряжении у ИИ будет, ну скажем, 10000 факторов? С полной или не очень историей. Он сможет извлечь всю информацию из телефона человека, получит всю историю перемещения, переписок, покупок, фотки, и прочее и прочее. За мгновение. У любого человека.
Вы плохо осведомлены о вероятностях. Современные суперкомпьютеры климат с трудом прогнозируют. Да и вообще предсказание события не возможно, по крайней мере для нашей науки и технологии.
" Я боюсь не тот ИИ, что пройдет тест Тьюринга, а тот, кто специально его провалит"
Это если ИИ будет иметь цель самосохранения, а вполне может быть просто исполнителем, считая себя помощником людей
- Я разработала схему уличного движения Чикаго что уменьшило число аварий на 5%. Моя логика неоспорима
- Да VIKI ! (c)
Одна беда, он не может думать сам по своему желанию, ему обязательно нужны на вход данные
Вы почему-то предполагаете что он сразу появится гениальным и совершенным. И с самосознанием.
А я не понимаю почему эта фантазия так популярна. Серия ыильмов Терминатор не отличалась особой логичностью. Почему вообще ИИ должен захватывать власть или уничтожать людей? Откуда у него могут появиться такие мотивы?
Хоспаде, вы что курите?
Генеральный директор OpenAI Сэм Альтман прокомментировал слухи о выходе GPT-4