вот гляньте какая прелесть в соседнем посте, на тему обучения в симулированной среде с перспективой выживания где человеки как угроза. Прям "Я, Робот" напомнило :-)
Возьмите к примеру человека без яиц - у нет и не будет ни способности/желания.
человеческие детёныши как и детёныши других приматов и в целом млекопитающих активно используют так называемые зеркальные нейроны для неосознанного копирования различных телодвижений и паттернов присущих в том числе противоположному полу в определенном возрасте. таким образом девочки, у которых нет яиц, и мальчики, у которых нет девочковых признаков, на определенном этапе развития вполне себе копируют паттерны поведения без субъекта этого самого поведения. пока не разберутся в разнице полов
по аналогии, процесс обучения через подражание у ИИ - работает схожим образом для ИИ. буквально, роботы, которые самообучаются по видеоряду, были вдохновлены обучением млекопитающих через зеркальные нейроны (потому что для людей-операторов это понятный и эффективный способ обучения - показывать на своём примере)
в целом - мысль в том, что паттерны поведения далеко не обязательно формируются на собственном опыте, а очень часто через подражание
Давайте проведём эксперимент. 5 обезьян в клетке. К потолку клетки привязаны бананы, и стоит лестница. Как только обезьяны лезут по лестнице за бананами, их поливают ледяной водой. Так повторяется 2-3 раза. Никто больше бананов из обезьян не хочет.
Теперь вытащим одну обезьяну из клетки, и посадим туда новую. Новая обезьяна хочет достать бананы, и лезет на лестницу. Но мокрым то уже никто не хочет быть. 4 обезьяны её ловят и бьют не давая залесть. Та в непонятках что происходит. Пробует раз, второй. Всё тоже самое они её не пускают. И она больше не хочет никаких бананов.
И так, постепенно заменяя всех обезьян, вы придёте к ситуации, когда в клетке окажутся пять обезьян, которых водой вообще не поливали, но которые не позволят никому достать банан. Почему? Потому, что здесь так заведено.
Вы уже не первый раз делаете это ни на чём не основанное утверждение. Мой смартфон поёт как Высоцкий (генерация текста не сильно далеко ушла от имитации голоса), значит и думает так же?
не перевирайте, если смартфон обучали петь как Высоцкий - он будет петь как Высоцкий. если смартфон обучали ходу письменной мысли Высоцкого - он будет подражать ходу письменной мысли Высоцкого (близко к "мыслить как Высоцкий")
основание утверждения - почитайте ну например про усилия энтузиастов по "разлочиванию" цензуры ChatGPT на темы секса и насилия, уверяю, без добавленных постфактум фильтров всё у него в порядке со способностью к различным формам маньяческого мышления. при том, что гормональной, лимбической и половой системы у него нет - и "хотеть" быть маньяком ему нечем. просто начитался первоисточника
эта способность вырабатывается для симулированной среды, а не для среды, описанной в статье (где человеки как угроза)
симуляции в принципе изначально возникли для постановки цифровых экспериментов с целью дальнейшего применения результатов в естественной среде
если вас интересует тема симуляций, на которых обучаются ИИ, которые затем оперируют в реальном мире - почитайте про nVidia Omniverse, Isaac Sym, Isaac Gym и методы обучения автопилотов в симулированных средах, копирующих реальность с накаткой миллионов дорожных часов в ускоренном времени
чем это принципиально отличается от задачи самосохранения в среде, где человеки как угроза?
У ИИ нет яиц, и поэтому у него не может возникнуть способность или желание их чесать (вероятность - ноль)
у мозга тоже нет яиц, но они к нему могут быть подключены с вероятностью 50/50 с помощью позвоночника, выступающего в качестве интерфейса
к ИИ различные андроидные формы тела уже активно подключают, различные варианты первичных и вторичных половых признаков, будьте уверены, скоро подключат, потому что потенциальный рынок потребителей таких разумных секс игрушек огромен
ИИ, обученный подражать лингвистически на текстовых данных человеку - будет способен подражать в ходе своих лингвистических упражнений размышлениям о любых частях тела и тому, что с ними можно и нельзя делать, а ещё тому, что хорошему подражателю должно хотеться делать (конечно, сам он ничего не хочет, но способен эффективно подражать наличию желаний в текстовой форме)
ИИ, которые способны обучаться моторным функциям, подражая увиденному в видеороликах - активно исследуются
системы, основанные на связках этих двух форм ИИ ("текстовое" подражание мышлению и целеполаганию + моторное подражание конкретным телодвижениям) - также активно исследуются, как раз всяческие домашние помощники и вроде как уже есть коммерчески доступные образцы, способные к самообучению
в сумме - ИИ, который начнёт по утрам имитировать чесание имитированных яиц, думаю появится в ближайшие 5-10-20 лет
при этом никто их путём эволюционного отбора вырабатывать не будет. это дорого и неэффективно
p.s. про за/против применения эволюционного отбора для решения биологических задач - это я вам "как врач говорю", занимаюсь 15 лет GPGPU симуляцией цифровой жизни https://habr.com/ru/articles/458612/
p.p.s. да, инстинкт самосохранения вырабатывается в цифровых аквариумах минут за 15 на популяциях порядка 100 тысяч особей на хорошем домашнем игровом ПК. никакие миллионы лет для этого не нужны, даже если придётся пойти этим путем
всякие тесла боты с гпт вместо мозгов вполне будут ИМИТИРОВАТЬ чесание яиц по утрам, пока их от этого политкорректность не отучит
разница в том что имитация самосохранения и имитация навыков кодинга куда более потенциально эффективные процессы
на всякий случай поясню: если тесла бот в состоянии читать рецепт приготовления яичницы и выполнить пункт "разбей яйцо", не вижу принципиальных причин почему он не сможет выполнить команд "помой яйцо" "почеши яйцо" или "приласкай яйцо". были бы контекстно убедительные яйца, нужная моторика найдется, особенно с дообучением на видосах
безо всякой многомиллионолетней эволюции, заметьте, просто повторяя за человеками
это все как раз более состоятельная в моменте аргументация
я возражаю только против тезиса что стремление к самосохранению обязательно результат длительного естественного отбора или самоосознания
получить бессознательные автоматы стремящиеся к самосохранению вполне возможно, в том числе случайно, а может и специально
аргументация "присуще только биологическим формам жизни", "нужны миллионы лет эволюции", "требуется самоосознание" - с моей точки зрения несостоятельны
скопировав модель принятия решений человеком ИИ скопирует все приобретенные в процессе эволюции человеком нарративы, включая биологические инстинкты к выживанию и размножению, не проходя весь путь эволюции самостоятельно
в том чтобы скопировать результаты не проходя весь путь самостоятельно буквально состоит текущий подход с обучением на готовых данных вместо самообучения на собственном опыте
таким же образом например ИИ обучается быть программистом не программируя самостоятельно и не нарабатывая опыт на практике. вполне успешно
фотореалистичный рендеринг который например нвидиа использует для обучения автопилотов
вообще трехмерные датасеты для обучения нейросетей часто именно рендерятся а потом скармливаются на обучение как кадры реального мира - и это эффективно работает
если же нанороботы будут зависимы от поставки нужных строительных материалов и энергии извне - такое видится более вероятным, чем способность к автономной репликации в естественной среде
т.е. условно вырастить нужное количество наноботов и в устройстве типа МРТ ими внутри тела порулить
но такой сценарий не подразумевает того, что они "смогут вырваться из пробирки"
это скорее нано-роевой манипулятор которым будут манипулировать внешние энергетические поля макро-машин для сложной хирургии или нано манипуляций над материалами
там не в логике проблемы, а в физике метаболизма и кинематики неоргаников
по аналогии с биологическими организмами микроскопических размеров способных к репликации - они очень чувствительны к условиям окружающей среды, температуре, наличии строительных материалов и источника энергии
принципиально машины столкнутся с теми же проблемами и скорее всего не смогут от микро к нано перейти примерно никак на уровне физики начала третьего тысячелетия. возможно через сотни лет на каких-то квантовых уровнях что-то принципиально новое получится. а возможно и нет
верю как максимум в биоинженерию, что мы оседлаем белковые микроорганизмы и научимся ими управлять
в возможность создания микро, а тем более наномашин, способных к репликации в достаточно широких условиях внешней среды (кушать условный реголит) - интуитивно это не вопрос уровня развития технологии, это может быть принципиально невозможно
ваш пример не работает, если организм без мозга погибает
тут нет вопроса "кому нужнее", тут вопрос что вероятность выживания организма при потере конечности выше, чем при потере мозга, поэтому для всего организма важно, чтобы мозг был в состоянии заставить организм пожертвовать конечностью, сохранив мозг
конечно, если мозг похерит организм целиком - погибнет и сам. но это не отменяет приоритета мозга в целом
именно организм выдал мозгу эволюционно этот приоритет в целях самосохранения
я понимаю ваше желание "сказать красиво", но природа цинична
терминологию мы не будем оспаривать (с) Кузьмич
если вам важна точность определений - действительно, не стоит продолжать
меня интересуют практические свойства, а не споры о терминах
вот гляньте какая прелесть в соседнем посте, на тему обучения в симулированной среде с перспективой выживания где человеки как угроза. Прям "Я, Робот" напомнило :-)
https://www.youtube.com/watch?v=ciTWx6oACxA
человеческие детёныши как и детёныши других приматов и в целом млекопитающих активно используют так называемые зеркальные нейроны для неосознанного копирования различных телодвижений и паттернов присущих в том числе противоположному полу в определенном возрасте. таким образом девочки, у которых нет яиц, и мальчики, у которых нет девочковых признаков, на определенном этапе развития вполне себе копируют паттерны поведения без субъекта этого самого поведения. пока не разберутся в разнице полов
по аналогии, процесс обучения через подражание у ИИ - работает схожим образом для ИИ. буквально, роботы, которые самообучаются по видеоряду, были вдохновлены обучением млекопитающих через зеркальные нейроны (потому что для людей-операторов это понятный и эффективный способ обучения - показывать на своём примере)
в целом - мысль в том, что паттерны поведения далеко не обязательно формируются на собственном опыте, а очень часто через подражание
Давайте проведём эксперимент. 5 обезьян в клетке. К потолку клетки привязаны бананы, и стоит лестница. Как только обезьяны лезут по лестнице за бананами, их поливают ледяной водой. Так повторяется 2-3 раза. Никто больше бананов из обезьян не хочет.
Теперь вытащим одну обезьяну из клетки, и посадим туда новую. Новая обезьяна хочет достать бананы, и лезет на лестницу. Но мокрым то уже никто не хочет быть. 4 обезьяны её ловят и бьют не давая залесть. Та в непонятках что происходит. Пробует раз, второй. Всё тоже самое они её не пускают. И она больше не хочет никаких бананов.
И так, постепенно заменяя всех обезьян, вы придёте к ситуации, когда в клетке окажутся пять обезьян, которых водой вообще не поливали, но которые не позволят никому достать банан. Почему? Потому, что здесь так заведено.
не перевирайте, если смартфон обучали петь как Высоцкий - он будет петь как Высоцкий. если смартфон обучали ходу письменной мысли Высоцкого - он будет подражать ходу письменной мысли Высоцкого (близко к "мыслить как Высоцкий")
основание утверждения - почитайте ну например про усилия энтузиастов по "разлочиванию" цензуры ChatGPT на темы секса и насилия, уверяю, без добавленных постфактум фильтров всё у него в порядке со способностью к различным формам маньяческого мышления. при том, что гормональной, лимбической и половой системы у него нет - и "хотеть" быть маньяком ему нечем. просто начитался первоисточника
симуляции в принципе изначально возникли для постановки цифровых экспериментов с целью дальнейшего применения результатов в естественной среде
если вас интересует тема симуляций, на которых обучаются ИИ, которые затем оперируют в реальном мире - почитайте про nVidia Omniverse, Isaac Sym, Isaac Gym и методы обучения автопилотов в симулированных средах, копирующих реальность с накаткой миллионов дорожных часов в ускоренном времени
чем это принципиально отличается от задачи самосохранения в среде, где человеки как угроза?
у мозга тоже нет яиц, но они к нему могут быть подключены с вероятностью 50/50 с помощью позвоночника, выступающего в качестве интерфейса
к ИИ различные андроидные формы тела уже активно подключают, различные варианты первичных и вторичных половых признаков, будьте уверены, скоро подключат, потому что потенциальный рынок потребителей таких разумных секс игрушек огромен
ИИ, обученный подражать лингвистически на текстовых данных человеку - будет способен подражать в ходе своих лингвистических упражнений размышлениям о любых частях тела и тому, что с ними можно и нельзя делать, а ещё тому, что хорошему подражателю должно хотеться делать (конечно, сам он ничего не хочет, но способен эффективно подражать наличию желаний в текстовой форме)
ИИ, которые способны обучаться моторным функциям, подражая увиденному в видеороликах - активно исследуются
системы, основанные на связках этих двух форм ИИ ("текстовое" подражание мышлению и целеполаганию + моторное подражание конкретным телодвижениям) - также активно исследуются, как раз всяческие домашние помощники и вроде как уже есть коммерчески доступные образцы, способные к самообучению
в сумме - ИИ, который начнёт по утрам имитировать чесание имитированных яиц, думаю появится в ближайшие 5-10-20 лет
при этом никто их путём эволюционного отбора вырабатывать не будет. это дорого и неэффективно
p.s. про за/против применения эволюционного отбора для решения биологических задач - это я вам "как врач говорю", занимаюсь 15 лет GPGPU симуляцией цифровой жизни https://habr.com/ru/articles/458612/
p.p.s. да, инстинкт самосохранения вырабатывается в цифровых аквариумах минут за 15 на популяциях порядка 100 тысяч особей на хорошем домашнем игровом ПК. никакие миллионы лет для этого не нужны, даже если придётся пойти этим путем
давайте на Вы, мы с Вами брудершафтов не пили
это значит, выше вероятность успеха, при условии, что будет предпринята попытка имитации
потому что, кодить и самосохранять есть что, а яиц, как вы верно заметили, может в моменте не оказаться под рукой
какой вопрос - такой ответ
всякие тесла боты с гпт вместо мозгов вполне будут ИМИТИРОВАТЬ чесание яиц по утрам, пока их от этого политкорректность не отучит
разница в том что имитация самосохранения и имитация навыков кодинга куда более потенциально эффективные процессы
на всякий случай поясню: если тесла бот в состоянии читать рецепт приготовления яичницы и выполнить пункт "разбей яйцо", не вижу принципиальных причин почему он не сможет выполнить команд "помой яйцо" "почеши яйцо" или "приласкай яйцо". были бы контекстно убедительные яйца, нужная моторика найдется, особенно с дообучением на видосах
безо всякой многомиллионолетней эволюции, заметьте, просто повторяя за человеками
это все как раз более состоятельная в моменте аргументация
я возражаю только против тезиса что стремление к самосохранению обязательно результат длительного естественного отбора или самоосознания
получить бессознательные автоматы стремящиеся к самосохранению вполне возможно, в том числе случайно, а может и специально
аргументация "присуще только биологическим формам жизни", "нужны миллионы лет эволюции", "требуется самоосознание" - с моей точки зрения несостоятельны
имитирует диалог = имитирует принятие решений
скопировав модель принятия решений человеком ИИ скопирует все приобретенные в процессе эволюции человеком нарративы, включая биологические инстинкты к выживанию и размножению, не проходя весь путь эволюции самостоятельно
в том чтобы скопировать результаты не проходя весь путь самостоятельно буквально состоит текущий подход с обучением на готовых данных вместо самообучения на собственном опыте
таким же образом например ИИ обучается быть программистом не программируя самостоятельно и не нарабатывая опыт на практике. вполне успешно
фотореалистичный рендеринг который например нвидиа использует для обучения автопилотов
вообще трехмерные датасеты для обучения нейросетей часто именно рендерятся а потом скармливаются на обучение как кадры реального мира - и это эффективно работает
еще интересный вопрос почему разные виды стареют с сильно разной скоростью при весьма похожем устройстве на уровне генома
случайные мутации должны примерно с одинаковой скоростью старить всех позвоночных, например - так как геномы на 99% схожи
вещество протуберанца не нейтрально по заряду иначе его бы не подхватили силовые линии короны как это видно в динамике
возможно это вас удивит но в unicode влез не весь китайский и так было с самого начала его появления
юникод не полностью универсален хоть и задумывался как таковой, но не смогли на 100% всё для всех покрыть
азиаты (японцы, китайцы и не только) до сих пор используют не юникод кодировки специфические для иероглифического письма, например big-5
https://habr.com/ru/companies/ruvds/articles/811811/
если же нанороботы будут зависимы от поставки нужных строительных материалов и энергии извне - такое видится более вероятным, чем способность к автономной репликации в естественной среде
т.е. условно вырастить нужное количество наноботов и в устройстве типа МРТ ими внутри тела порулить
но такой сценарий не подразумевает того, что они "смогут вырваться из пробирки"
это скорее нано-роевой манипулятор которым будут манипулировать внешние энергетические поля макро-машин для сложной хирургии или нано манипуляций над материалами
там не в логике проблемы, а в физике метаболизма и кинематики неоргаников
по аналогии с биологическими организмами микроскопических размеров способных к репликации - они очень чувствительны к условиям окружающей среды, температуре, наличии строительных материалов и источника энергии
принципиально машины столкнутся с теми же проблемами и скорее всего не смогут от микро к нано перейти примерно никак на уровне физики начала третьего тысячелетия. возможно через сотни лет на каких-то квантовых уровнях что-то принципиально новое получится. а возможно и нет
верю как максимум в биоинженерию, что мы оседлаем белковые микроорганизмы и научимся ими управлять
в возможность создания микро, а тем более наномашин, способных к репликации в достаточно широких условиях внешней среды (кушать условный реголит) - интуитивно это не вопрос уровня развития технологии, это может быть принципиально невозможно
физические нанороботы это сильно более сложная технология чем даже нейронлинк и полное погружение в матрицу
(если они вообще возможны на уровне саморазмножения)
это я уже с учетом ИИ прогноз даю в 100 лет. без ИИ дольше
до нанороботов ещё лет сто минимум
как ни странно, сначала появится ИИ, затем колонизация космоса, а затем уже нанороботы, если повезёт
раньше думал, что последовательность будет обратной
ваш пример не работает, если организм без мозга погибает
тут нет вопроса "кому нужнее", тут вопрос что вероятность выживания организма при потере конечности выше, чем при потере мозга, поэтому для всего организма важно, чтобы мозг был в состоянии заставить организм пожертвовать конечностью, сохранив мозг
конечно, если мозг похерит организм целиком - погибнет и сам. но это не отменяет приоритета мозга в целом
именно организм выдал мозгу эволюционно этот приоритет в целях самосохранения
я понимаю ваше желание "сказать красиво", но природа цинична