Pull to refresh
-2
4

User

Send message

Технологическая сингулярность неизбежна. Технический контроль невозможен

Level of difficultyMedium
Reading time5 min
Views1.4K

Автор термина «технологическая сингулярность» — Вернор Виндж, американский математик, программист и писатель-фантаст. Он определяет сингулярность моментом, когда ИИ сможет развиваться без участия человека со скоростью, исключающей осмысление происходящего. Это «точка, после которой дальнейшие события непредсказуемы для человеческого разума».

Наступление сингулярности по определению исключает контроль. Если ИИ под контролем, значит, сингулярность еще не наступила. Значит, ИИ не автономный агент, а продвинутый инструмент.

Читать далее

Почему логика запрещает дальше жить: вызовы ИИ и новая реальность

Reading time14 min
Views8.5K

Развитием движет непрерывная конкуренция. Соперничают идеологии, государства, бизнесы и люди. Побеждает тот, чьи решения лучше, т.е. кто лучше управляет своими активами.

Управление есть принятие правильных решений. Уровень правильности зависит от охвата ситуации, качестве и скорости обработки информации. Чем полнее охват и качественнее анализ, тем лучше решение. Идеальный вариант дает полный охват ситуации и анализ информации.

У человеческого мозга есть предел, выше которого он физически не может подняться по той же причине, по какой компьютер не может потянуть программу, превышающую его возможности. Это значит, есть объемы, которые человек физически не может охватить и проанализировать. 

К таким объемам относится мировая цивилизация, экономика, государство, наука. В 1945 году Вэнивар Буш, советник Рузвельта по науке, писал, что знания растут, а способы их усвоения те же, что были несколько веков назад, во времена парусных судов. Наука тонет в растущей специализации. Даже в ограниченной области человек не может идти в ногу с мировой мыслью.

«Идеи Менделя о законах генетики были недоступны целое поколение, потому что его публикации не дошли до тех людей, кто мог ухватить и развить их; и такого рода катастрофы, несомненно, будут случаться с нами вновь, когда что-то действительно значимое теряется в потоке несущественного»; «Исследователь застывает в нерешительности среди сотен чужих находок и выводов, которые у него не хватает времени осознать». (В. Буш, «Как мы можем мыслить»).

Читать далее

Information

Rating
1,235-th
Location
Россия
Date of birth
Registered
Activity