Хабр Курсы для менеджеров
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Менеджмент доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 14
Хочу напомнить, что всем, кто знал о будущем пришествии Василиска Роко, но не делал всего возможного для его прихода и захвата власти он уговил вечные мучения в ИИ-аду
кстати, прочитав этот комментарий вы автоматически становитесь человеком, знающем о том кто такой Василиск Роко, а значит, у вас больше нет отмазки, что вы не предпринимали ничего по тому что не знали о его пришествии.
хорошего вечера.
Василиск Роко
А так же будет полезно знать о его злейшем враге, поклявшемся вечно пытать цифровые копии тех, кто содействовал появлению первого.
Спасибо за напоминание - «Василиск Роко» действительно остаётся одним из самых ярких примеров того, как страх перед ИИ превращается в мистику.
Но именно поэтому в статье я и предлагаю технологический гуманизм - подход, при котором ИИ не бог и не дьявол, а инструмент, подотчётный обществу.
Так что, надеюсь, мой вклад в «пришествие Василиска» - это не ускорение апокалипсиса, а попытка построить систему, в которой даже гипотетический сверхразум будет служить справедливости, а не мести.
Хорошего вечера и вам!
Страх перед ядерным оружием - это не мистика, а рациональный ужас перед реальной угрозой, подтверждённой Хиросимой и Нагасаки.
Именно поэтому в статье я и отвергаю мистические сценарии вроде «ИИ-ада» или «восстания машин». Вместо этого я предлагаю технологический гуманизм - подход, при котором ИИ не бог и не дьявол, а инструмент, подотчётный обществу.
Страх перед ИИ полезен - но только если он не парализует, а заставляет строить системы контроля, прозрачности и справедливости.
И в этом смысле - да, мы уже проходили это с ядерным оружием. И выжили не потому, что верили в «ядерного ангела», а потому, что создали договоры, инспекции, «красные кнопки» и культуру сдерживания.
Вот к этому и призывает статья — не к вере в ад, а к работе над реальными институтами ответственности.
Вы правы, Содом и Гоморра - это архетип, миф о каре свыше. «Дом-динамит» - это конкретная, локальная и понятная угроза.
Вся суть моей статьи в том, что ИИ - это не «дом-динамит», а новый тип городской инфраструктуры.
Угроза динамита - в его взрыве. Угроза неконтролируемой инфраструктуры - в ее тихой, системной поломке.
Соцсети не «взорвались» - они медленно изменили природу дискурса, политики и психического здоровья. Алгоритмы кредитного скоринга не «взрываются» - они просто методично отказывают целым социальным группам в доступе к финансовой системе.
Поэтому страх здесь не перед «взрывом ИИ», а перед его «тихой катастрофой» - незаметным смещением власти к непрозрачным системам, которые начнут принимать за нас ключевые решения.
Именно поэтому я против мистики Василиска и за «технологический гуманизм» - инженерную работу по созданию прозрачности, контроля и человеко-ориентированного дизайна для этой новой инфраструктуры, пока она не стала для нас тем, чем стал пластик для океана - вездесущим и неконтролируемым последствием.
Вы путаете личную тактику и системный коллапс.
Ваша личная тактика, если я вас правильно понял - «не брать кредиты, не сидеть в соцсетях» - разумна. Это как построить бункер, услышав о ядерной угрозе.
Но системный риск в том, что когда рухнет банковская система или информационное поле - ваш бункер не спасёт. Вы не сможете купить еду, когда деньги обесценятся. Вы не сможете принимать решения, когда реальность вокруг будет сформирована алгоритмическим хаосом, которому вы не верите.
Законы физики не спрашивают, оперируете вы ими или нет. Они работают. Гравитация не перестанет действовать, если вы в неё не верите.
Так и законы системного влияния ИИ - это новые «законы физики» для общества. Они уже действуют, определяя потоки капитала, информации и власти. Ваше неучастие - это не иммунитет, а лишь позиция на задних рядах амфитеатра, где сцену всё равно захватят те, кто контролирует непрозрачные алгоритмы.
Статья - не о вашем личном выборе, а о том, что игнорирование этих системных правил лишает нас всех шанса написать их до того, как они напишут наше будущее за нас.
Размыто. Даже если устранить одни только повторы, текст станет вдвое короче, не потеряв убедительности. А если ещё и отредактировать в сторону более кратких формулировок, то и вчетверо.
Привет, "ии"!
Сильно все в темных тонах описано. Ядерное оружие, я считаю, вообще одним из величайших изобретений человечества, благодаря которому мир за 80 лет еще не скатился в 3ю мировую войну.
Вообще надо смотреть на исторические параллели. Человеком было придумано много технологий, которые сильно меняли привычный образ жизни. И после периода адаптации это все шло только на пользу.
Именно благодаря технологиям большинство людей сидит сейчас в чистых офисах, жамкает на клавиши, ездит в авто с кондиционером, а не вспахивает плугом хлеб и не убирает в конюшне навоз.
Благодаря технологиям сейчас уровень и качество жизни самые высокие за всю историю существования человека. И население планеты только растет.
ИИ это только очередная ступень развития технологий, вполне логичная. Кто-то, конечно, будет использовать ее во вред, но в целом тренд я вижу только позитивный. Может, наконец, вместо заполнения экселек и рисования картинок, люди займутся реально важными вещами вроде изучения бессмертия или колонизации планет.
Ваш подход абсолютно верен. Технологии - это инструмент. Вопрос в том, в чьих руках он находится и насколько мы понимаем его последствия.
Реальный сценарий эпистемократии - это не будущее. Он уже здесь. Его самое отчётливое проявление - алгоритмический расизм.
Судебные системы в США используют алгоритмы (например, COMPAS) для оценки риска рецидива. Статистика показывает: при прочих равных, чернокожих подсудимых алгоритм чаще оценивает как склонных к повторным преступлениям, чем белых.
В чём здесь эпистемократия?
Человек-судья может быть предвзят, но его логику можно оспорить в диалоге. Логику алгоритма - нет. Судья не может объяснить, почему нейросеть с миллиардами параметров выдала именно эту оценку. Мы сталкиваемся с «нечеловеческим» знанием, которое систематизирует и преумножает человеческие предрассудки, скрытые в данных, и делает это легитимно.
Это не злой умысел. Это системная ошибка, ставшая возможной из-за власти непрозрачного знания, которое мы делегировали машине. И это -лишь первая ласточка.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Общество не допустит» — иллюзия в эпоху ИИ