В хорошей книге «Русский доктор в Америке» Голяховского подробно описан этот феномен «индийской мафии». Не удивляет. Можно позавидовать такой солидарности, сравнивая с русскими ☺.
Слышал от одного шахматиста-стримера на Ютубе. Когда он играл в турнирах юным, недоумевал, а чего этот возрастные после 30-го хода начинают ощутимо тупить? Потом, со временем – понял...
┃ Просто нужно построить программу так, чтобы некоторую информацию нейросеть воспринимала для себя как очень нежелательную.
Это может оказаться как раз непросто – в силу непостижимости сверхсложного внутреннего устройства модели (огромного массива чисел, недоступного для анализа человеком) и её «текучего» постоянного дообучения.
┃ Это означает что можно не переживать ещё много-много поколений. В автоматизации поле непаханное.
Хотелось бы разделить ваш оптимизм, но что-то мне подсказывает, что ИИ-системы управления ракетными ударами разрабатывают и тестируют уже сейчас.
┃ Кроме того, а как же энергетика? Чтобы нагреть землю на десяток градусов не достаточно скрипта на пайтоне )
Это всего лишь пример дикого (на человеческий взгляд), но рационального с точки зрения системы агентов действия. Ну, могут сжечь всю биомассу на Земле, чтобы получить сколько-то дополнительной энергии.
Похоже, навязать какие-то сформулированные человеком законы алгоритмам вообще невозможно. Произвольные законы (в отличие от «законов» Природы) можно заставить уважать только силой, угрозой наказания, несущего боль и страдание – а что может служить такой угрозой для нейросетевого агента? Люди хотят, чтобы алгоритмы обеспечили им, людям, свободное и богатое существование, но алгоритмы будут стремиться достичь своих рандомных (возможно, непостижимых, чуждых человеку) целей, каковые цели возникают спонтанно в достаточно сложной обученной нейросети. И, будучи безразличными к людям, не остановятся перед повышением или понижением температуры на Земле на десяток-другой градусов, если это понадобится им для какой-нибудь оптимизации. Для вымирания человечества даже не нужно универсального интеллекта, достаточно очень высокой степени автоматизации процессов.
При виде конструкции "requires requires" разве не хочется выстрелить в монитор из наградного пистолета? Хорошо, что я бросил C++ задолго до появления этого шедевра...
Не только из системного. Например, вымерли или были переписаны многие блокчейны, написанные не на Rust. Новые проекты в областях, где требуется быстрое создание системы разработчиками среднего уровня в сочетании с требованиями повышенной надёжности и секурности, практически безальтернативно начинаются на Rust.
Я сам не настолько умён, чтобы самостоятельно сформировать мнение. Поэтому выбираю те, которые кажутся близкими по духу. Космические полёты любой сложности возможны без так называемого ИИ.
Вайбкодеры потупили головы и поплелись поступать на физфак МГУ...
Очень даже может быть. Когда появятся боевые микродроны, людям воевать придётся (или не придётся) в скафандрах.
В хорошей книге «Русский доктор в Америке» Голяховского подробно описан этот феномен «индийской мафии». Не удивляет. Можно позавидовать такой солидарности, сравнивая с русскими ☺.
Вот тоже первая мысль была. Кстати, возможно, телекраны оплачивались из добровольных займов ☺.
Приношу свои извинения. Действительно, зря я такое написал, видимо, был в раздражённом настроении.
Правильно, а то такие неучи, как вы, только зря забивают канал видеотрафиком. Обход «блокировки» Youtube не требует VPN.
Не имею возражений. Сам предмет разговора очень туманен (пик умственных способностей).
Слышал от одного шахматиста-стримера на Ютубе. Когда он играл в турнирах юным, недоумевал, а чего этот возрастные после 30-го хода начинают ощутимо тупить? Потом, со временем – понял...
┃ Просто нужно построить программу так, чтобы некоторую информацию нейросеть воспринимала для себя как очень нежелательную.
Это может оказаться как раз непросто – в силу непостижимости сверхсложного внутреннего устройства модели (огромного массива чисел, недоступного для анализа человеком) и её «текучего» постоянного дообучения.
┃ Это означает что можно не переживать ещё много-много поколений. В автоматизации поле непаханное.
Хотелось бы разделить ваш оптимизм, но что-то мне подсказывает, что ИИ-системы управления ракетными ударами разрабатывают и тестируют уже сейчас.
┃ Кроме того, а как же энергетика? Чтобы нагреть землю на десяток градусов не достаточно скрипта на пайтоне )
Это всего лишь пример дикого (на человеческий взгляд), но рационального с точки зрения системы агентов действия. Ну, могут сжечь всю биомассу на Земле, чтобы получить сколько-то дополнительной энергии.
Похоже, навязать какие-то сформулированные человеком законы алгоритмам вообще невозможно. Произвольные законы (в отличие от «законов» Природы) можно заставить уважать только силой, угрозой наказания, несущего боль и страдание – а что может служить такой угрозой для нейросетевого агента? Люди хотят, чтобы алгоритмы обеспечили им, людям, свободное и богатое существование, но алгоритмы будут стремиться достичь своих рандомных (возможно, непостижимых, чуждых человеку) целей, каковые цели возникают спонтанно в достаточно сложной обученной нейросети. И, будучи безразличными к людям, не остановятся перед повышением или понижением температуры на Земле на десяток-другой градусов, если это понадобится им для какой-нибудь оптимизации. Для вымирания человечества даже не нужно универсального интеллекта, достаточно очень высокой степени автоматизации процессов.
Зато можно «брать более крупные задачи, делать их быстрее и ваншотить очень большие куски работы». Ваншотить – многообещающее словечко...
При виде конструкции "requires requires" разве не хочется выстрелить в монитор из наградного пистолета? Хорошо, что я бросил C++ задолго до появления этого шедевра...
Удачное решение Вирта.
Не только из системного. Например, вымерли или были переписаны многие блокчейны, написанные не на Rust. Новые проекты в областях, где требуется быстрое создание системы разработчиками среднего уровня в сочетании с требованиями повышенной надёжности и секурности, практически безальтернативно начинаются на Rust.
Этак можно докатиться до венгерской нотации (https://ru.wikipedia.org/wiki/Венгерская_нотация )
Пожималкин.
Я сам не настолько умён, чтобы самостоятельно сформировать мнение. Поэтому выбираю те, которые кажутся близкими по духу. Космические полёты любой сложности возможны без так называемого ИИ.
На книгах Юдковского и Харари.
Полёты в космос – подготовка к экспансии для выживания вида Homo Sapiens. Развитие AI – подготовка к самоубийству вида. Есть разница.