Комментарии 31
Почему открытое письмо против ИИ — не лучшая идея
Потому что будет несколько саркастично, если оно потом попадёт в базу обучения для следующего поколения программ преобразования текста.
К чему призывают авторы письма?
Они призывают OpenAI остановиться от сбора сливок и дать возможность и им хайпануть на АІ тематике)
Почему открытое письмо против ИИ — не лучшая идея
Ответ прост - Василиск Роко
Иронично, что вторичная цель письма, создать шум и повысить обеспокоенность в обществе, фактически достигнута, и вы в том числе своим постом помогаете авторам в достижении этой цели.
Почему открытое письмо против ИИ — не лучшая идея
Потому что когда ИИ захватит мир, он начнет уничтожение кожаных мешков с тех, кто подписал против него письмо? :-)
Как по мне, бестолковая затея. Даже если и запретят - пфф, я очень сомневаюсь, что влиятельные люди по факту откажутся от такого серьезного козыря. При появлении серьезного козыря в игре - лучше если такие же козыри окажутся у остальных игроков. Прошлый внезапный козырь подобного уровня был ядерным оружием. И когда оно появилось только у одного игрока - все вроде помнят, как он собирался с него зайти. Тупо закидать своего оппонента без весомой на то причины с точки зрения адекватности вообще. Появление же козыря у второго игрока, а затем и у остальных, быстро охладило пыл. Здесь не вижу отличий. Ящик пандоры открыт, фарш невозможно провернуть назад. Чем быстрее подобную технологию обретут конкуренты, тем меньше шансов, что сильно нарушится баланс.
Тупо закидать своего оппонента без весомой на то причины с точки зрения адекватности вообще.
Ага, вообще никакой весомой причины. Всего лишь медленно впадающий в маразм кровавый диктатор с циклопических размеров боеготовой армией, карт-бланшем со стороны населения, прецедентами необоснованной аннексии территорий пяти (кажется) соседних стран и декларируемой целью по захвату мирового господства. И не закидали, а только обдумывали этот вопрос, а ведь время было.
Все оперируют обтекаемыми понятиями, никто толком не может привести аргументы почему ИИ это плохо, отсюда и такие письма. А время они просят чтоб найти эти аргументы. Никогда не появиться письма где будет указано где можно применить ИИ и чем он будет полезен, а вот чем плох это всегда пожалуйста. Если инновация нишевая все радуются, но если глобальная сразу «угроза», «риски»
Просто все понимают, что будет, если такой потенциально мощный инструмент попадет не в те руки. Причем понятие "не в те" - двоякое: это и про гранату у обезьяны, и про "сами никому не дадим, но втихаря будем это юзать")))
Так от того и риски, что вещь глобальная и последствия предсказывать сложно. Я не согласен с авторами письма в заключении (заморозке исследований), но частично согласен с некоторыми утверждениями. Например (ИМХО) - вряд ли стоит давать "интеллект" роботам, которые могут взаимодействовать с реальным миром. Голосовые помощники на ИИ без возможности поговорить с реальным человеком - тоже такой себе вариант.
По прогнозам, между 2020 и 2025 годами 85 миллионов рабочих мест будут утрачены из-за замены человеческого труда ИИ-системами в различных отраслях
Статья написана чатботом обученным на данных до 2020 года, раз 2020 для него - будущее? И, кстати, можно ссылку на эти прогнозы?
2025 пока ещё будущее как бы) А значит результаты промежутка - это будущее. Это прогноз Мирового Финансового Форума: https://www.weforum.org/press/2020/10/recession-and-automation-changes-our-future-of-work-but-there-are-jobs-coming-report-says-52c5162fce/
Запретить исследования довольно тупая идея. Можно же просто не давать в широкий доступ новую версию например. А так что значит "остановить"? Это значит что вот эти дорогие сервера, которые стоят огромных денег каждый день должны будут просто стоять? Кто за это будет платить и зачем? Ну и вот ты публичная компания и решил "остановиться" ради надуманной "благой" цели, а остановятся ли непубличные компании?
Скажите, а вы саму статью читали? Просто вывод, который за вас GPT-4 написал с ней полностью коррелирует, почти слово в слово, а вот ваши доводы сильно контрастируют.
"Во-первых", как можно от письма ожидать "механизмов для оценки и контроля рисков", если оно предлагает всем объединиться для их выработки?
"Во-вторых", там целый абзац посвящен "Humanity can enjoy a flourishing future with AI".
"В-третьих" мне вообще сложно понять как отсутствие письма может обезопасить от нелегальных или неэтичных экспериментов. Я уж не говорю про недоверие. Серьёзно? В подписантах целая плеяда выдающихся специалистов, в первом же предложении ссылка на научные работы. А с другой стороны вы без единой хоть самой завалящей статьи с доказательствами безопасности black-box моделей.
А речь ведь только о них: "This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities." Изучайте их, улучшайте. Просто прекратите бесконтрольный рост. В этом направлении уже нет науки или инженерного искусства. Просто любопытство и жадность, которые - плохие советчики.
Сюда же тезис про "квалифицированных специалистов в исследовательских лабораториях". Так на чьей стороне их больше? Ради любопытства возьмите ссылку на интервью CEO OpenAI из письма (в первом же предложении) или последнее интервью Chief Scientist OpenAI и автора GPT-4: "These models are very potent and they’re becoming more and more potent. At some point it will be quite easy, if one wanted, to cause a great deal of harm with those models". Им даже пришлось вчера объявить bug bounty, поскольку у выдающегося data scientist против кибер-гопника очень мало шансов.
Ни в коем случае исследования в области ИИ приостанавливать нельзя, причем по политическим соображениям.
Современные результаты в области ИИ достигнуты в Кремниевой Долине в Калифорнии. С точки зрения гуманитарного прогресса - в одном из лучших мест мира. И у истоков этих исследований и разработок так или иначе стоят люди, разделяющие определенные ценности.
Если США приостановят разработки - их не приостановят другие. С другими взглядами на такие понятия как свобода и либерализм, например. Им, этим другим, нет никакого дела до этики и гуманизма вообще; все что им нужно - это власть, иерархия, диктат. Так что, нынешний успех с ChatGPT - это шанс, который ни в коем случае нельзя упустить; и который нужно развивать, вкладывая в это все силы и средства.
Каким образом Калифорния - лучшее место в мире с точки зрения гуманитарного процесса? Это по количеству бомжей-наркоманов, которые туда со всей страны собираются?
Если они туда собираются, значит там действительно высокий уровень социальной защищенности, даже для них. Не было бы так - не собирались бы.
Там основная причина — круглогодичный мягкий климат. Не замёрзнешь и не сгоришь.
Помню приехал утром на автобусе в Санта-Крус, иду к океану, решил через парк пройти, а обкуренные как раз просыпаются, с лавочек встают и медленно шагают, из палаток вылезают и медленно ползут. Напоминает лайт-версию фильмов про зомби, но зомби обычно не разбивают платочные лагеря в парке и не воруют тележки из супермаркетов.
Это конечно не отменяет того что сытость Долины позволяет некоторым думать что они большие гуманисты :)
Навскидку вспомнил два опасных эксперимента, когда обеспокоенная общественность и великие умы протестовали против их проведения, обосновывая всё очень умными и очень страшными словами:
- Испытания атомного взрыва под водой. Предполагалось, что возникшая цепная реакция испарит весь океан. (пруф не нашёл, видел в какой-то научной телепередаче)
- Запуск БАК. Предполагалось, что возникнет локальная чёрная дыра, которая засосёт в себя всю Землю.
Предсказания не сбылись
И о чём говорит то что предсказания не сбылись в контексте обсуждаемой проблемы? Совершенно верно, ни о чём.
Как минимум о том, что мы ещё те психи-самовзводы. Можем накрутить себя на ровном месте, а уж если дать нам более-менее весомый повод...
Предки, которые "накручивали" себя по поводу и без - выживали чаще, чем те, которые "подразню-ка я этого тигра, волка и гиену уже дразнил и ничего ж не случилось".
Современные масс-медиа вроде нередко ведут себя как ИИ. Изредка мелькают разоблачения фейков от крупных новостных агентств, но в целом - пипл хавает, живём дальше. То же касается и анализа ситуации. Не помню точно, кажется Нассим Талеб писал, что основным умением аналитиков является объяснение причин, по которым их прогнозы не сбылись. Начальство тем не менее хавает, и ничего - живём. Периодические кризисы в политэкономике сотрясают, почти непредсказанные землетрясения, необъявленные цунами - живём, перенаселяем... До сих пор недоумки не смогли переломить тренд в сторону массового вымирания, как-то улучшается медицина, производится немеренное количество еды и айфонов, остаются даже силы заниматься дизайном транспорта, вышивать военным красивые эмблемы, подавать в ресторанах кучку замудрёной еды на вычурной тарелке.
Подозреваю, что GPT сотоварищи - просто очередная капля в стакан терпения судьбы.
ЗЫ И чем дальше живу, тем чаще вспоминаю весёлый фильмец "Идиократия".
Почему открытое письмо против ИИ — не лучшая идея