Комментарии 14
Простите, но я обязан запостить эту картинку.
Если учёные вырастили органоид из стволовых клеток, не вижу принципиальных отличий от других выращенных органов, например, печени. А раз так, никаких этических проблем возникнуть не должно.
Этические проблемы, КМК, могут возникать только между объектами, обладающими самосознанием, т.е. способным отделить себя от окружающего мира (ну, по крайней мере, один из объектов должен быть способен - случай типа взрослого человека и новорождённого ребёнка). Если даже кто-то попытается сделать из органоида Голову проф. Доуэля, не факт, что органоид сможет это осознать.
А где та грань? Сначала органоид, потом мозгоподобный органоид, потом мозг, потом надразум.
Ну... я скептик.
Представляю себе эксперимент: учёный сделал "мозг" и говорит ему: " Ты самостоятельная личность";
"Мозг": - ок, я самостоятельная личность (запомнил типа)
-ты можешь делать, что хочешь;
-Ок, а как это?
И всё. Объяснить органоиду свободу воли и принципы нелогично поведения (неразрушающего, типа задачи Буриданова осла) будет невозможно.
свобода воли это как?)
Это: делай, что хочешь. Хочешь- пиво пей, хочешь - мир захватывай. )) Органоид , думаю, этого не поймёт. И даже пресловутый Супер ИИ.
Дык, даже "свободное" поведение человека, кажется, является всего лишь результатом решения комплексной задачи оптимизации с ограничениями. Есть определенный набор химических веществ, которыми мозгу нравится себя наполнять, есть железы, которые выбрасывают эти вещества в мозг в результате определенных действий, при этом всё это надо поддерживать в рабочем состоянии, что не позволяет свалиться в нажатие одной кнопки "сделать приятно". Дальше мозг живого человека решает, как бы ему получить как можно больше самой приятной химии и при этом не умереть, в зависимости от индивидуальной склонности к получению каждого вещества в его мозгу и имеющихся возможностей. Эту систему вознаграждений можно задать тому же самому искусственному мозгу в виде математической формулы и мозг точно так же будет предпринимать псевдопроизвольные действия для максимизации вознаграждения.
Детерминизм во всей красе. Мы знаем из каких компонентов состоит вычислительная часть мозга (нейроны, синапсы), знаем правила по которым компоненты системы взаимодействуют, мы не можем "узреть" всю картину из-за колоссальной сложности системы, но это не мешает нам сделать вывод что для свободы воли там места нет. Мы биороботы, такт за тактом вычисляющие матрицы нейросети, а свобода воли (или Я) - иллюзия.
Как-то задал вопрос известному антропологу, - Что нужно для эволюции искусственного интеллекта в сознание?
Главное, не переврать, но как я понял, он ответил, что у искусственного интеллекта нет цели. Биологическая эволюция шла потому что была необходимость бороться за жизнь. Слабые и неприспособленные умерла и не дали потомства. Если запустить, например, ChatGPT на компьютере, то он может стоять включенным десятки лет, но ничего не произойдёт, если не будет какой-то стимуляции или не будет работы со стороны человека. Поэтому нужны условия или вмешательство человека.
Окей, а в чем отличие той самой печени от новорожденного ребёнка? Оба - куски мяса без самосознания, но почему-то этика распространяется только на одного из них.
Когда слышу про трансгуманизм (всерьез)по Пелевинду, мозги в банках, сомнительные ссылки на невероятные эксперименты с мутной теоретической базой, представляю даже не сервочерепа из Вахи, а а сценку из Lexx, когда Стэнли Твиддл учит мозги на полочках петь хором.
Как всерьез принимать смесь художественной метафоры и постмодернистского стёба за видение будущего?
Последние книги Пелевинда - это, как говорил Заратустра, только канат над пропастью между Карлосом Кастанедой и Даниилом Хармсом
Можно посмотреть не по Пелевину, например, у Ника Бострома, который ввёл это понятие
Неплохая книга "Футурология», Алексей Турчин и Михаил Батин, если интересует это тема.
Имхо, воспринимать их всерьёз не стоит никак. h+ - это такой модный sci-fi, с примесью религии, псевдонауки, эстетики (собственно, эстетики в нём больше всего), хотя я признаю заслуги Бострома - он ещё 20 лет назад исследовал этические вопросы будущего, которое сейчас становится настоящим (например, генную модификацию детей). Ещё игры трансгуманистические, Deus Ex и иже с ними, получаются очень крутыми - во многом тоже из-за показанных технологий, проработанного открытого мира и различных вариантов поведения.
К сожалению сейчас уровень прогресса, воспеваемый трансгуманистами, мне кажется крайне труднодостижимым: слишком многое не понятно, не понято, не открыто. Может в 22 веке дойдём, или даже в 23, а может и в 25ом. Слишком уж сложны эти штуки (мозг, сознание и т. п.) с точки зрения науки, чтобы просто взять и перенести их в "банки".
Банка по Пелевину. Предпосылки и развитие трансгуманизма