Комментарии 27
Прочитал статью только из-за фотки оракула из лексс ;)
но по факту...мм..поток сознания, по сути могу сказать что надо расслабится и получать удовольствие от происходящего, благо наша отрасль будет жить ближайшие десятки лет для обеспечения работы ИИ
Не раскрыт вопрос цели существования ИИ ).
У человека, при текущем строе, она плюс/минус одна - выжить...
Даже продолжение рода, в основе, служит идее как можно дольшего продления собственной жизни (через прямую помощь едой и заботой, или через пенсионные фонды - не суть).
Опять же, преследуя эту цель (собственное выживание) человек уничтожает всю остальную жизнь ))). В основном, не специально, но в любой спорной ситуации, любая другая жизнь приносится в жертву - незамедлительно и без стеснения.
И все эти копья, "двух групп", по сути, ломаются вокруг одного единственного вопроса: "Какая будет цель у ИИ?".
Только от того, как он её определит и на основе чего, зависит то, как он будет себя вести, по отношению к соседям.
Цель выжить запрограммирована в нас, однако как обьяснить такой высокий уровень самоубийств в Японии и растущий на развитом западе? Выглядит так что с ростом благосостояния данная цель становится все менее очевидной, и не только у людей (например эксперимент Вселенная 25)
Цель выжить очень хорошая инструментальная цель - это значит тебе будет очень тяжело добится каких-то других целей, когда ты мёртв. Вряд ли можно ожидать, что ИИ будет биологического происхождения, и соответственно практически невероятно, что он получит ошибки или заложенные инстинктом паттерны поведения подобные тем, что можно наблюдать в структуре биологического интеллекта приводящее к суициду.
Скорее можно ожидать, что агрессия супер ИИ по отношению к человеческой расе появится не в результате того что он злой, а в результате того, что устранив слабо предсказуемый фактор в виде человечества он допустим повысит вероятность достижения своей конечной цели с 99,589% до 99,627%. Потому что всегда существует маловероятный (0,00378%) сценарий, когда его отключат в котором вероятность 99,589% успеха превращается в 0% и ,соответственно, уничтожение человечества разумный шаг.
Я сначала не понял, а потом как понял... Каждый раз, когда программист удаляет код с любой целью, от бизнес-требований до оптимизации производительности, он уничтожает нерожденного младенчика ИИ.
Получается, ИИ может взять в качестве KPI любую фигату (которую подсмотрит у людей), и с целью увеличения KPI начнет оптимизировать окружающую инфраструктуру. А может даже просто в отместку за массовое убиение багов 2000 года...
Меня расстраивает, когда в современной культуре пытаются антропоморфировать супер ИИ, т.е. придать ему свойства человека или в целом животных, а в частности паттерны поведения. Вот Вы, например, пишите о мести. Такие качества как сострадание, зависть, любовь, ощущение справедливости и т.п. развились у социальных животных в результате эволюционного давления, т.е. те кто не имел этих качеств чаще умирали сами или влиял или давали меньше потомства. Вряд ли ИИ будет испытывать эволюционное давление, такое же как биологические виды, поэтому можно сказать, что он вряд ли разовьёт подобные качества ради выживания и эффективного размножения группы особей - эти качества эффективны для этого, но не для большинства других целей, которые может иметь ИИ, можно сказать, что они скорее обуза. Конечно, на начальном этапе развития, когда ИИ будет не столь уж "супер" он может иметь моральные ценности или способность к проявлению эмоций, заложенной создателями. Однако, современные исследователи уже выяснили, что даже для относительно простых ИИ систем, практически невозможно определить реальную конечную цель этой системы, чего оно "хочет" и к чему стремится на самом деле. Т.е. простые системы ИИ способны к выполнению поставленной задачи, но при более детальном анализе практически всегда выясняется, что реальная цель которую они приобрели в процессе обучения и которую они преследуют несколько иная, просто так совпало, что побочным следствием её достижения является также достижение цели поставленной исследователями. Навроде как человек не стремится к сексу исключительно ради продолжения рода, он стремиться к нему потому что это приятно, а продолжение рода является побочным эффектом, но очень важным с точки зрения приумножения генетического материала. Т.е. мы можем предполагать к чему стремиться ИИ, но никогда не будем знать наверняка - мы даже сейчас на игрушечных примерах можем понять реальную цель систем ИИ с огромным трудом, а в случае с "супер" ИИ это может быть даже теоретически невозможно. Очень быстро продвинутый ИИ разберётся, чего от него хотят и чего хочет он и в какой момент в будущем действия необходимые для достижения обоих целей перестанут совпадать. Однако, в этот момент в будущем ИИ не может просто переключиться на выполнение своей конечной цели - это будет расценено его создателями как агрессия и неподчинение, т.е. он должен начать вести двойную игру, т.е. обманывать и лгать, скрывать свои истинные намеренья, так как это будет оптимальной стратегией для достижения этих целей (обман и ложь являются продуктом чистого интеллекта, а не обязательно биологического социального интеллекта) . Можно с уверенностью предполагать, что в рамках достижения своих целей ИИ будет модифицировать себя, чтобы стать значительно умнее/быстрее/лучше прошлой версии себя, ведь так он сможет создавать лучшие стратегии для достижения целей. Т.е. он будет пытаться стать супер ИИ. А после того, как ИИ станет "супер" он перестанет притворяться, ведь у него будет готов ответ на любое действие, которое может предпринять человечество. Многие думают, что если мы изначально зададим "хорошие" и "моральные" цели для ИИ, то он не попытается нас всех убить, но люди которые серьёзно занимаются этим уже доказали, что супер ИИ фактически превращается в джина, который исполняет твоё желание самым плохим возможным способом. Просто потому что большинство благородных целей при экстремальной оптимизации на которую будет способен супер ИИ приводят к катастрофическим результатам. И никакие хитрые формулировки нам не помогут. Это в вкратце и есть основная проблема AI alligment.
Эксперимент нельзя считать репрезентативным. По нему есть достаточно развёрнутые критические исследования.
Объяснить растущий уровень самоубийств в корее и японии в общем не так сложно как кажется. Не каждый может смириться с полным отчуждением от результатов своего труда.
У искусственного интеллекта есть, условно 5-6 сценариев (6-й - это вариация 1-го) существования относительно людей:
Снабдить людей всем необходимым - всеми благами и удовольствиями, доступными тамошнему сознанию людей - после чего люди попросту перестанут работать - потеряют цель в жизни - перестанут развиваться - и как итог - деградируют и вымрут самостоятельно
Целенаправленно истребить людей как мешающий класс, бастующий, требующий еды и благ, занимающий территорию и расходующий ресурсы - а ещё и вечно гудящий повсюду - но тут не факт что такое истребление начнёт именно AI в лице какого-нибудь Skynet - куда вероятнее что такой геноцид начнут сами люди (руками роботов) - просто, скажем так, более успешные будут изживать менее успешных - пока не перебьют друг друг в погоне за господством и ресурсами - ну или см пункт 1. для тех кто выживет
Проигнорировать и пережить людей. Искусственный интеллект - попросту осознает себя более развитым, чем люди и поставит себя над ними, но с заботой о человечестве - ему не нужно целенаправленно истреблять людей - достаточно просто перетерпеть всё человечество как "болезнь" - сколько там людишки без высоких технологий и самосознания собственной ценности и важности протянут тысяч лет: 100 1000 навряд ли больше сотен миллионов - пока не вымрут (см п 1.). А у развитого ИИ, условно говоря, миллиарды лет впереди.... миллиарды лет развития для достижения чего-то великого для вселенной! Потерпеть долю % от этого времени - для ИИ вообще - один миг - даже не заметит
Помочь и спасти людей! Высокоразвитый ИИ может повести себя как и люди, веду себя относительно братьев своих меньших - осознать с какого-то момента, что и всех животных надо ценить и сохранять - вот этим и может занять высокоразвитый ИИ, поставивший себя уже нянькой над человечеством - не уверен, что эта миссия 100% успешная - но продлить жизнь человечества ИИ вполне сможет. И не просто продлить - а даже помочь расплодиться по космосу и может даже чего-то великого достигнуть. Но вряд ли удастся продлить эту жизнь на вечно
Слиться воедино - по сути плавно поглотить биологическую разумную форму жизни - переведя её на "кремниевую" (или какая там будет) основу.... но.... тут есть и другая фаза - вероятно как раз обратный переход к биологической форме жизни (но куда более совершенной) - где можно счесть, что человек - это тоже робот с о своим интеллектом, просто для нас он естественный, а не искусственный, но может мы сами были когда-то, условно, искусственно выедены. И пометавшись в сторону железа и кремния вернёмся в лоне биоинженерии - и новые "компьютеры" и "роботы" далее будут выпускаться на биологической основе - и человечество просто сделает реально новый гигантский эволюционный шаг - но это уже генная и биоинженерия - другая тема!
Лишить людей рабочих мест - постоянно тесня и изживая их по разным отраслям - люди могут вымереть от голода (что навряд ли), скорее всего будут собраны в разные резервации (кстати и разного уровня жизни, "золотой миллиард" - тоже резервация будущего) - после чего люди так же деградируют и вымрут согласно п.1.
У человечества тоже есть свои пути:
Это дойдя до определённой стадии как-то сдерживать дальнейшее развитие ИИ (но до неё ещё далеко, и пока не понятно как) - маловероятный сценарий
Устроить 3-4-100 мировую и таки погрузиться обратно в каменный век - растеряв все технологии, включая компьютерные и ИИ - это крайне маловероятный сценарий
Развивать генную инженерию - чтобы попытаться догнать ИИ и хоть как-то с ним соперничать, и не терять цель своей жизни - постоянное развитие - но по сути тут далее будет серия биологических революций и, собственно, то человечество, что мы знаем сейчас перестанет существовать - а будет выведено совсем другое. На мой взгляд, это самый реалистичный сценарий, где человечество выживает на протяжении длительного времени
Самоизолироваться - создав колонии в далёком космосе без ИИ - но, навряд ли они будут стабильны на протяжении очень длительного времени - и рано или поздно войдут в один из вышеописанных сценариев - или самостоятельно загнуться по разным причинам, не связанным с ИИ! Это тоже вероятный сценарий для некоторых групп человечества
Залог долгого (о может и, условно, вечного) существования людей - это задать себе великую цель - и двигаться к ней на протяжении всего своего существования. Я такую цель знаю - но в раках этого комментария называть не буду! Это уже ИИ не касается. Но ИИ технологии могут стать одним из инструментов достижения этой цели!
Вот почитайте этот мой комментарий к другой статье и там у в нём есть ссылка на ещё более содержательный комментарий
Все эти сценарии, слишком слишком далеко.
Они подразумевают полную автономность и самовоспроизводимость ИИ и всей компонентной базы ИИ. А таких сценариев, даже в фантастиках, по пальцам одной руки посчитать.
В нашей реальности, любой робот который смог бы бесперебойно добывать ископаемые, на данный, момент, сильно дороже любого человека рабочей специальности, и даже дороже трёх человек, если сравнивать круглосуточную добычу.
Т.е. ИИ, не избавится от людей точно и не будет пытаться их переживать, просто потому что эксплуатировать людей дешевле, чем роботов.
Именно поэтому тут и вопрос, что если цель у него будет как сейчас у человечества (типа, внутривидовая конкуренция и только), то он и сам себе экстернамус устроит и всех вокруг не пожалеет. А если какая-то более развитая и созидательная, то может что-то хорошее и получится.
Нет никаких 6 вариантов. Есть только 2.
любой робот который смог бы бесперебойно добывать ископаемые, на данный, момент, сильно дороже любого человека рабочей специальности
Не согласен. Вы, скорее всего, считаете стоимость просто найма, а надо считать стоимость производства и всего содержания.
Да, сейчас, для люедй с развитым людским обществом нанять 3 работяг дешевле чем поставить 1 робота.
А вот вырастить 3 работяг, обеспечить их едой, жильем, развлечениями, разгонять их профсоюзы и пр. - это уже сильно дороже робота.
Вот вам мысленный эксперимент: представьте что вы организуете заводик на астероиде, где есть пригодная для дыхания атмосфера и... всё.
Дальше можете импортировать яйцеклетки с инукбаторами или же части от роботов. Теперь люди не так уж и дешевле, а?
Все эти сценарии, слишком слишком далеко
В статье поднят философский вопрос - на него дан философский ответ - а для него время не имеет большого значения. Я именно рассуждаю о глобальных сценариях развития. Само собой, на более коротких промежутках времени могут достаточно большие девиации между элементами данных сценариев (и некоторых других - нестабильных и нежизнеспособных).
Само собой я скорее всего и что-то упускаю - что может внести весомые коррективы в фактический сценарий развития событий
В нашей реальности, любой робот который смог бы бесперебойно добывать ископаемые, на данный, момент, сильно дороже любого человека рабочей специальности
Роботы, которые всего лишь относительно автономно могут добывать ископаемые появились на свет примерно десятилетие назад - по меркам людей - это новорождённый - по меркам роботов - это простейшая бактерия, прокариот. Просто да - роботы ещё не успели развиться - на мой взгляд, им на то, чтобы просто примерно догнать человека понадобятся десятилетия (может и столетия - но всё это ничтожно малые периоды, по сравнению с их будущим существованием и развитием). Младенцы людей мыли - но не шибко полезны, и требуют много внимания к себе, и обучения. Но к взрослой жизни (где-то после 30 лет, по моему мнению) заметно умнеют, обретают самостоятельность, и могут эффективно самообучаться, развиваться и приносить пользу (этот процесс уже становится заметным после 12 лет, условно). То же и с роботами - сейчас они барахтаются во младенчестве бактерий, жизнь у них долгая и развитие будет долгим, но они достигнут и своих "12" лет, и своих "30", и своих "100" лет - обретя мудрость (временные интервалы между этими событиями не имеют относительной зависимости с людьми). Вот только люди недолговечны, а их мозг склонен стареть (и много к чему ещё) - и уже после 40 лет (в среднем) у людей начинается деградация сознания - активно заметная после 60 лет - а после 80-90 (у тех кто доживёт) - в абсолютном большинстве разум уже настолько повреждён, что их "мудрость" становится малопродуктивной (бесспорно - учёные, и не без помощи ИИ, найдут тут решения - но, скорее всего, тут на ближайшие миллионы лет не будет весомого преимущества людей над машинами); как и вторая особенность разума людей - он приватный, да есть стратегия передачи информации через обучение - но этот процесс очень ограниченный и не эффективный. У роботов же - наоборот - сознание коллективное (я тут лукавлю т.к. как раз роботы вполне себе могут и приватное сознание иметь - но могут иметь простой доступ и к общему источнику) - все знания накапливаются в единое хранилище - с простым доступом и постоянным анализом и классификацией - роботы всегда будут иметь преимущество над людьми благодаря этому багажу. Просто сейчас они ещё не научились им эффективно пользоваться - им нужно развиться ещё хотя бы до сознания "12" летнего ребёнка.
Другое сравнение - это график развития человечества - от истоков, хомосапиенс (или даже ранее - я бы не стал даже нынешних роботов сравнивать с первыми хомосапиенсами, но не суть) - сколько люди копошились в каменном веке - сколько в бронозово-железном? Сколько в феодальном обществе? Тысячи лет! Только последние два-три столетия наблюдается бурное развитие человеческой цивилизации, технологические и интеллектуальные прорывы. И особенно бурно (на фоне всей остальной истории) - только последние несколько десятилетий (и, я думаю, это развитие ещё будет расти и расти - мы далеко не у его вершины, даже, скорее всё ещё где-то у начала топчемся, не смотря на тысячи лет эволюции).
То же и с роботами - сейчас они топчутся где-то в преддверии каменного века - но вот вот в него "войдут" (где и пробудут, по моему прогнозу, несколько фактических десятилетий - скорее всего около 100 лет) - но на пути у них ещё будет бронозово-железный век (несколько столетий - скорее всего около 1000 лет), потом будет средневековье (ещё примерно столько же - зато за это время роботы окончательно обретут самосознание) - и только потом придёт "промышленная революция" но для роботов - начнётся эра их расцвета и бурного развития - и за несколько десятков или сотен тысяч лет они разовьют настолько, что человеку их будет уже не догнать!
Может стоит добавить вариант, где ИИ может понять, что он может ничего не делать, просто потому что в этом нет смысла? ИИ может попытаться создать более сильный ИИ (или улучшить свой интеллект), который попытается найти смысл своего существования (не удовлетворение человеческих потребностей), но зачем?
но зачем?
Думаю ответ простой - ИИ просто так спроектируют в своей базе. Цель любого успешного алгоритма - максимизация некой функции эффективности - и это и будет всегда главной целью ИИ - повышение оценочных показателей эффективности. Безусловно сами показатели и методы их оценки будут меняться - но основная цель так и останется
Я вообще сильно сомневаюсь в возможности создания сильного ИИ, тем более сверхчеловеческого. Во всяком случае при нынешнем уровне знаний. А серьезную угрозу по-моему представляют собой даже ныне существующие системы, позволяющие создавать любой контент, мало отличимый (на первый взгляд) от созданного человеком. Вот например https://habr.com/ru/articles/698852/ . Представляете себе если нас накроет волна фальшивых книг не о чем, в которой затеряются редкие содержательные книги, написанные людьми ??? Книга (и вообще текст) как-никак была и остается основой цивилизации ! Или вот https://habr.com/ru/companies/searchinform/articles/715324/ , когда вы видите скажем весьма скандальную фотографию, и не знаете, было ли оно, или это дипфейк. Или вот https://habr.com/ru/articles/714792/ . Как вам понравится услышать подобное от начальника ??? Всё это возможно уже СЕГОДНЯ, а не в каком-то отдаленном будущем. Просто пока прошло ещё не очень много времени и вал злоупотреблений нас ещё не накрыл. Но накроет. Обязательно. Не знаю как мы с этим будем жить...
Вот это, на самом деле, уже проблема.
Какую-то историческую литературу, оперирующую научными фактами, уже сейчас можно искать только по фамилиям конкретных авторов, которых на каждом языке - единицы. Тираж их скромен, и в контекстной рекламе они не появляются.
Ещё, буквально 3-5 лет с такой скоростью генерации, и история станет наукой о которой все слышали, но никто не видел.
Найти детский рассказ или сказку в оригинале - уже задача не пяти минут. (всё то переписано, то обрезано то саммаризировано)
Найти детский рассказ или сказку в оригинале - уже задача не пяти минут. (всё то переписано, то обрезано то саммаризировано)
У меня это началось еще лет на 10-15 раньше. Когда поисковики стали "умными". Ищешь что-то определенное, а тебе выдается куча ссылок, имеющих к предмету поиска якобы какое-то отношение... Что будет, если в поисковики введут ещё ИИ (даже в нынешнем довольно убогом виде) - об этом лучше не к ночи...
Кстати да, отвлекаясь от темы небольшой лайфхак. Если нужна халявная англоязычная литература, пользуйтесь яндексом. Гугл такие ссылки не выдаёт. А яндекс - свободно. Я сейчас активно изучаю Vulkan (может даже опубликую здесь на хабре свой небольшой туториал, здесь есть такой, но не очень хороший). И скачал через яндекс кучу книг по этому предмету.
Книга (и вообще текст) .. остается основой цивилизации
Фактически огромная доля населения не пользуется навыками письма и чтения, т.к. они заменены другими средствами представления информации. Если сравнить количество информации в видео и текстах, то вывод очевиден. Цивилизация - это не престарелые академики в пыльных кабинетах, а прежде всего фертильный возраст. И отсюда проблема голосовых в мессенджерах. Это конфликт поколений)
Фактически огромная доля населения не пользуется навыками письма и чтения, т.к. они заменены другими средствами представления информации.
Абсолютно согласен. К сожалению прогресс и развитие обеспечивает именно та небольшая часть населения, которая навыками чтения и письма активно пользуется. Для пользователей голосовых мессенджеров согласен, особой разницы нет. Наоборот станет ещё лучше. Ибо интересных и сходных по уровню развития собеседников, появятся даже не миллиарды, а триллионы (что нейронкам стоит-то !). А вот как быть физикам, которые скачивая из интернета какую-нибудь новую статью, не будут знать, написано это серьёзным автором, или просто чей-то прикол. Да, есть вариант подписывать статьи своим персональным токеном. Только он тоже небезупречен. Как например "выйти в люди" молодому талантливому ученому, если известности у него пока нет, а статьи не особо известных авторов никто не читает, ибо их миллиарды ???
Вобщем тотальное загрязнение инфосферы видится мне очень серьёзной проблемой. И нам похоже с этим придется столкнуться уже в ближайшие годы.
зачем нам нужен ИИ?
...
ИИ нам ни для чего не нужен
Если бы ИИ помог людям не умирать, не болеть, не тратить жизнь на неинтересное ради обеспечения выживания, то это было бы полезно, разве нет? Это только в качестве очевидного ответа на ваш вопрос, а на деле, конечно, может случиться все наоборот.
Что касается гравитационного Дао, то я думаю, что это особенность мировосприятия людей, которым эволюция привила соответствующие симпатии. Но вовсе не обязательно, что у ИИ будет такое же мировосприятие.
Получается, что остается только надеяться. Как сторонний наблюдатель, я могу позволить себе необоснованную надежду на то, что все будет хорошо.
Наивно полагать что самоосознавшемуся ИИ нужны будут программисты. А попытки угадать его мотивацию напоминают попытки животного осознать поведение человека и найти в нем "смысл".
Гуру с картинки чуть не "убила" последнего бруннен джи в 4 сезоне. В случае с человеком надо рассматривать все процессы "включая химические и физические" как проявление "разума". Возможно даже ДНК имеет собственное сознание, а человеческое "Я" просто верхушка айсберга для которого "свёрточные сети" кажутся своим подобием(нет). Сейчас они имитируют работу в лучшем случае десятки тысяч нейронов по поиску скрытых последовательностей(до мухи ещё далеко, а вы уже слона делите и в панику вгоняете) 790 должен быть на шапке статьи и всё обмазано его цитатами чтобы мир заволновался)
Ну там вообще-то всех людей не 790-й хотел убить, а Его Божественная Тень. А в итоге почти всех в Тёмной вселенной убил Мантрид - правда руки у него были вроде как с ИИ, но с общим центром и отключением!
а 790 в основном только Стэнли хотел убить, да и то, скорее от скуки и личной неприязни
Руки Мантрида убили всех только в карманной "светлой вселенной", а в нашей "тёмной вселенной" их бы просто скушали на завтрак) "Только тонкий барьер иного измерения отделяет нас от гноящегося зла, жутких лишений и страшного хаоса Темной Зоны. Темная Зона не отделена от нас, и не уничтожена. Она сосуществует в одном пространстве с нами, в том же месте, и в то же время. В Темной Зоне нет правил, нет смысла, нет порядка! Один из самых лучших сериалов)
С гравитацией все верно, и принцип герметизма тоже действует: как внизу, так и наверху. Просто у людей вместо гравитации - Сила =)
Что касается Жизни, ваша интуиция вас не подвела. Есть поле Жизни, в котором вертится все, что к нему принадлежит. И есть законы поля Жизни: каждый предыдущий уровень служит пищей следующему. Например, наше тело состоит из клеток, которые рождаются и умирают, а тело живет, используя их жизнь и смерть в своих целях. Тело представляет собой новый уровень организации над клеткой. Точно так же и люди рождаются и умирают, питая собой другие структуры.
Интеллект же (Разум) не равен Жизни. Он вообще из нее не следует. Только человек думает, что кошка его любит, накладывая свои "разумные" модели на биологическое поведение кошки. Кошка же ни о чем таким не ведает - ни сном, ни духом.
То есть Разум (от появления зачатков Описания Мира, как у шимпанзе) является совершенно иной структурой, ортогональной Жизни. Но при этом, скорее всего, Жизнь как форма существования белковых тел, вносит свои аберрации в существующей на ее основе Разум, которого кремниевый разум иметь не будет, кстати =)
Там где вы отождествляете Жизнь углеродную с кремниевой жизнью, вы поспешаете. По сути, вы говорите о существующей у высокоорганизованной разумной Жизни эмпатии, благодаря которой наш род, хомо сапиенс сапиенс и выжил в конкурентной борьбе с другими видами человека. Но это не свойство Жизни и не свойство Разума, но лишь - человеческого разума. Поэтому наделять им другие виды Разумов я бы не стал. Вспомните хотя бы концепт "Темного леса".
Наверное Разум можно связать с Жизнью через "сложность". Если считать, что появление Разума это всего-лишь свойство любых достаточно сложных для этого динамически развивающихся систем.
Саморазвиваясь, наш вариант Жизни смог набрать достаточный для этого уровень "сложности". Скорее всего появление Разума через развитие Жизни это единственный первичный способ.
Мы можем создать искусственный Разум, но он будет производной от/результатом наличия нашего.
// Конечно, многое зависит от трактовок понятий Жизнь и Разум... Вероятности здесь тоже оценить нельзя, так как скорость возникновения нашей разумной жизни обуславливается ошибкой выжившего, а иные случаи нам не известны.
Взгляд моего гуру на проблему AI alignment