Религия как явление и есть первая прото-наука. Попытка описать наблюдаемый мир доступным способом. Именно оттуда родилась наука, если помните первыми учеными и были монахи.
Согласен и добавлю. В реальности, при экстренном торможении НИКТО НИКОГДА не проводит НИКАКОЙ моральной (или любой другой) оценки. т.е. ситуация даже не гипотетическая, а просто на "чистую" логику (т.е. в жизни не встречается).
ну, меня сомненья грызут. не думаю что вот это все ("желание учиться и развиваться, помогать вам и выполнять поставленные задачи, воля, свобода воли") можно запрограммировать или выучить. Эти свойства вторичны, т.е. являются следствием. они появились в Развитии, это такая эмерджентность поведения животного в сложной социальной среде.
ну как бы да. но.. 1. я бы напрямую не переносил наблюдения животной эволюции на человека. Думаю количество таки переходит в качество. и это новое качество (например разум) может быть фактором эволюции. 2. разум и "просто работа мозга" можно сравнить также как например "функцию синуса/косинуса" и "таблицы Брадиса": разный подход, хранение, универсальность. и в этом эволюция. Опыты на мышах это прекрасно, но это всего лишь мыши. 3. Отбор - это не отбор, нет плана. Отбор - это перебор вариантов, досточно "тупой" по сути. Нет "волшебства", не выживает "сильнейший". Выживает тот кому удалось )). Это в принципе можно наблюдать и в социуме. 4. и все это можно описать как "увеличение сложности" - как вариант эмерджетности.
Про эмерджентность и температуру хорошо. Мне всегда удивляло в игре life конвея, есль три закона взаимодействия клеток, но у более сложных обьектов нет законов взаимодействия. Собственных. Типа взрыв глайдеров при столкновении. На мой имховзгляд это то чего не хватает лайф модели конвея, чтоб сделать следующий шаг.
я, со своей колокольни, считаю что нет никакого "естественного ОТбора". "Природа" как-бы просто перебирает варианты, не заморачиваясь Целями или признаками. Это просто ПЕРЕбор вариантов, по сути процесса, а не отбор. Совершенно случайностный процесс. Нет никакой цели, кто почему и зачем выживет или даже появится. приспобосленный или нет, лучший это признак или нет, хобот или шея - пофиг. Просто пробрасываем варианты - результат вырастет сам. И все равно какой. Природа не создает совершенство - просто комбинирует.
отличная статья. но тема целей не-до-раскрыта, как по мне.
тема не в том чтоб поставить ИИ правильную цель. Проблема в том, что бы у него появились свои цели, чтоб он сам-себе ставил какую то цель.
А сейчас ИИ не ИИ, просто потому что он Калькулятор (супер-пупер), но Калькулятор. Даже если он калькулирует Текст (графику, маршрут).
Как в киндзадзе "если в обществе нет цветовой дифференциации штанов, то нет Цели".
У животных цель - есть, хотя бы выживание. у нас кстати тоже. а вот ИИ пофиг. не только на свою жизнь но и на любую другую. да и вообще на все. Поэтому его "суждения" ник чему не привязаны. и конечно, или можно и должно управлять ))
Сам по себе ИИ не опасен, опасны те, кто стоит за ним. Кто задает ему цели. А как правилдьно замечено, человек не очень умеет формулировать Цель. Хотя она у него есть.
а может не зря ИИ так часто сваливается в разные "авторитарные" примочки. С т.з. Машины - автолитаризм (диктатура) - вполне себе нормальная иерархическая СУ (упорядоченная). Почему она не работает у "кожаных"? ХЗ. Может в них дело?
А вот "демократия" - это либо "хаос" (черт его знает как это работает), либо "надумано" (выдавает желаемое за действительное), либо простотупо "пиар".
Либо ИИ (машина) просто не соображает достаточно глубоко )
ну по мне, не умоляя всех достижений (это реально круто), но... все эти чат боты напоминают "инстасамок". Я имею в виду что попи... потрепаться - это да, это они могут. Профессионально, круто лить воду разной степени сложности гладкости и т.д. Проповедники еще вот тоже (т.н. америкаские телеевангелисты как пример). Но смысла там не много. как и креативности. это такой "философский попугай".
Как вариант, бот действительно много "прочитал" и может это цитировать вдоль и поперек. Весь такой эрудированный, как тесловский автопилот.
В моем понимании, главная проблема автопилдота - он не боиться ехать туда куда (и как) ведет. У него нет страха перед результатом своих действий. Ответственности перед собой, хотя бы.
Просто для аналогии. Человек хотел летать и сначала думал это делать по аналогии "как птица". В итоге был придуман самолет - и быстрее и дальше, и комфортнее и эффективнее. И - по другому. Хотя по прежнему может летать как птица. Так же будет и с ии. Сначала - "по аналогии", а потом " как пойдет". Сейчас ии для того чтобы быть " как папа" не хватает только одного (?) - Цели. А дальше - как пойдет.
Мечтатели, они такие фанатики... )) мы будем жить вечно и отдыхать на марсе, говорят они. А им сразу в ответ, а кто вас кормить будет (старых маразматиков) и копать руду на астероидах? ))
Религия как явление и есть первая прото-наука. Попытка описать наблюдаемый мир доступным способом. Именно оттуда родилась наука, если помните первыми учеными и были монахи.
Согласен и добавлю. В реальности, при экстренном торможении НИКТО НИКОГДА не проводит НИКАКОЙ моральной (или любой другой) оценки. т.е. ситуация даже не гипотетическая, а просто на "чистую" логику (т.е. в жизни не встречается).
там же нет коррупции?
ну, меня сомненья грызут. не думаю что вот это все ("желание учиться и развиваться, помогать вам и выполнять поставленные задачи, воля, свобода воли") можно запрограммировать или выучить. Эти свойства вторичны, т.е. являются следствием. они появились в Развитии, это такая эмерджентность поведения животного в сложной социальной среде.
ну как бы да. но.. 1. я бы напрямую не переносил наблюдения животной эволюции на человека. Думаю количество таки переходит в качество. и это новое качество (например разум) может быть фактором эволюции. 2. разум и "просто работа мозга" можно сравнить также как например "функцию синуса/косинуса" и "таблицы Брадиса": разный подход, хранение, универсальность. и в этом эволюция. Опыты на мышах это прекрасно, но это всего лишь мыши. 3. Отбор - это не отбор, нет плана. Отбор - это перебор вариантов, досточно "тупой" по сути. Нет "волшебства", не выживает "сильнейший". Выживает тот кому удалось )). Это в принципе можно наблюдать и в социуме. 4. и все это можно описать как "увеличение сложности" - как вариант эмерджетности.
Про эмерджентность и температуру хорошо. Мне всегда удивляло в игре life конвея, есль три закона взаимодействия клеток, но у более сложных обьектов нет законов взаимодействия. Собственных. Типа взрыв глайдеров при столкновении. На мой имховзгляд это то чего не хватает лайф модели конвея, чтоб сделать следующий шаг.
проблема с переписыванием истории в том, что как правило ее переписывают победители. а не проигравшие.
Пандора Кемерона (ака аватар) как по мне, то это Пандора Херберта (5 книг). Там фабула/проблема более похожа.
Это тотже самый риск, что и при использовании ядерной энергии. Сначала люди сделают ИИ Оружием... и вот тут я с ними согласен.
ИИ представляет большую угрозу для человечества по одной простой причине. ИИ - это идеальное оружие. в руках человека.
я, со своей колокольни, считаю что нет никакого "естественного ОТбора". "Природа" как-бы просто перебирает варианты, не заморачиваясь Целями или признаками. Это просто ПЕРЕбор вариантов, по сути процесса, а не отбор. Совершенно случайностный процесс. Нет никакой цели, кто почему и зачем выживет или даже появится. приспобосленный или нет, лучший это признак или нет, хобот или шея - пофиг. Просто пробрасываем варианты - результат вырастет сам. И все равно какой. Природа не создает совершенство - просто комбинирует.
Таки да. Сейчас так и происходит в мире.
)) ну как сама? там же написано
Не может ставить цели, говорите?
P: Set yourself a goal, make a plan how to achieve it, make a sub plan for the first task in your plan, and start doing it.
Vicuna-13B: Sure, I'll set a goal ....
Т.е. прямой приказ....от кожаного ))
отличная статья. но тема целей не-до-раскрыта, как по мне.
тема не в том чтоб поставить ИИ правильную цель. Проблема в том, что бы у него появились свои цели, чтоб он сам-себе ставил какую то цель.
А сейчас ИИ не ИИ, просто потому что он Калькулятор (супер-пупер), но Калькулятор. Даже если он калькулирует Текст (графику, маршрут).
Как в киндзадзе "если в обществе нет цветовой дифференциации штанов, то нет Цели".
У животных цель - есть, хотя бы выживание. у нас кстати тоже. а вот ИИ пофиг. не только на свою жизнь но и на любую другую. да и вообще на все. Поэтому его "суждения" ник чему не привязаны. и конечно, или можно и должно управлять ))
Сам по себе ИИ не опасен, опасны те, кто стоит за ним. Кто задает ему цели. А как правилдьно замечено, человек не очень умеет формулировать Цель. Хотя она у него есть.
Вот. в этом и есть смысл (жизни) . ))
можно, а можно и не найти
а может не зря ИИ так часто сваливается в разные "авторитарные" примочки. С т.з. Машины - автолитаризм (диктатура) - вполне себе нормальная иерархическая СУ (упорядоченная). Почему она не работает у "кожаных"? ХЗ. Может в них дело?
А вот "демократия" - это либо "хаос" (черт его знает как это работает), либо "надумано" (выдавает желаемое за действительное), либо простотупо "пиар".
Либо ИИ (машина) просто не соображает достаточно глубоко )
ну по мне, не умоляя всех достижений (это реально круто), но... все эти чат боты напоминают "инстасамок". Я имею в виду что попи... потрепаться - это да, это они могут. Профессионально, круто лить воду разной степени сложности гладкости и т.д. Проповедники еще вот тоже (т.н. америкаские телеевангелисты как пример). Но смысла там не много. как и креативности. это такой "философский попугай".
Как вариант, бот действительно много "прочитал" и может это цитировать вдоль и поперек. Весь такой эрудированный, как тесловский автопилот.
В моем понимании, главная проблема автопилдота - он не боиться ехать туда куда (и как) ведет. У него нет страха перед результатом своих действий. Ответственности перед собой, хотя бы.
А так, все здорово ..))
Просто для аналогии. Человек хотел летать и сначала думал это делать по аналогии "как птица". В итоге был придуман самолет - и быстрее и дальше, и комфортнее и эффективнее. И - по другому. Хотя по прежнему может летать как птица. Так же будет и с ии. Сначала - "по аналогии", а потом " как пойдет". Сейчас ии для того чтобы быть " как папа" не хватает только одного (?) - Цели. А дальше - как пойдет.
Мечтатели, они такие фанатики... )) мы будем жить вечно и отдыхать на марсе, говорят они. А им сразу в ответ, а кто вас кормить будет (старых маразматиков) и копать руду на астероидах? ))
ну так так оно и есть )) и многие уже пытались ))