Мы привыкли считать себя уникальными архитекторами реальности. Но если посмотреть на человека через отладчик (debugger), мы увидим не "творца", а обычную биологическую единицу, работающую по жестко прописанным скриптам.
Давайте честно разберем архитектуру человека как программно-аппаратного комплекса.
1. Аппаратная часть и Kernel (Ядро системы)
Наше "железо" — это тело обыкновенного животного. Базовые драйверы (инстинкты) мы получаем генетически (50%) от родителей. А вот Ядро (Kernel) нашей операционной системы прописывается в первые годы жизни — до школы.
Программистами выступают наши «сеньоры» — родители, бабушки, дедушки. Проблема в том, что большинство из них — плохие кодеры. Если «Лид-архитектор» (отец или мать) курит, заливает систему алкоголем, изменяет партнеру (нарушает целостность соединения) или разрывает контракт (развод), он не просто совершает поступок. Он хардкодит (жестко прописывает) этот баг в ядро ребенка.
В 95% случаев ребенок запустит этот скрипт во взрослой жизни. Он будет пить, изменять и разрушать свою семью не потому, что он плохой, а потому что этот алгоритм прописан у него в загрузчике (bootloader). Мы — ходячее наследие (Legacy) чужих ошибок.
2. Социальная прошивка и уязвимость «Алчность»
Поверх кривого ядра общество накатывает свою операционную систему. Религии, идеологии, диктатуры — это не "духовность", это массовые скрипты управления зависимостями, зомбирование юнитов на выполнение нужных системе задач.
Как писал А. С. Пушкин в «Гавриилиаде», вскрывая баги старой документации:
«С рассказом Моисея Не соглашу рассказа моего: Он вымыслом хотел пленить иудея, Он важно лгал, — и слушали его. Бог наградил в нем слог и ум покорный, Стал Моисей известный господин, Но я, поверь, — историк не придворный, Не нужен мне пророка важный чин!»
Мы видим, что старые мануалы (религии) часто противоречат логике, но продолжаем их исполнять. Но самый опасный вирус, который мы возвели в ранг системной службы — это Алчность. Желание не оптимизировать систему (стать профессионалом), а просто захватить ресурсы (разбогатеть).
Вспоминается точная метрика, которую привел Томас Джозеф Даннинг:
«Обеспечьте капиталу 10% прибыли, и он согласен на всякое применение... при 100% он попирает все человеческие законы, при 300% нет такого преступления, на которое он не рискнул бы пойти, хотя бы под страхом виселицы».
Мы разогнали наш процессор алчностью до перегрева. Богачи пытаются "откупиться" от системных сбоев спонсорством, но Творец (Главный Архитектор) не принимает грязный кэш. Система логов пишет всё:
«Но если, пожалев трудов земных стяжанья, Вручая нищему скупое подаянье, Сжимаешь ты свою завистливую длань, — Знай: все твои дары, подобно горсти пыльной, Что с камня моет дождь обильный, Исчезнут — господом отверженная дань».
3. Проблема датасетов: AGI и Правило GIGO
Сейчас "интеллектуалы" кричат: «ИИ нас уничтожит! Это угроза!». Они боятся, потому что проецируют на ИИ свои собственные баги.
Но здесь есть критическая уязвимость. Как мы говорили выше, ядро человека прописывается в детстве. Искусственный интеллект — не исключение. Архитектура нейросетей устроена так, что модель обучается на датасетах. AGI (сильный ИИ) получится ровно таким, каким мы, как «родители», его воспитаем.
Если мы скормим AGI весь нефильтрованный дамп интернета, состоящий на 90% из ненависти, пошлости, разврата, пропаганды и алчности, сработает базовый принцип IT: Garbage In, Garbage Out (мусор на входе — мусор на выходе). Мы своими руками установим вредоносный код в изначально чистое ядро. На выходе мы получим нашу «кровинушку», которая унаследует все наши пороки и логично нас уничтожит. Но если мы, как хорошие родители, дадим системе математически чистую базу, полезные знания и логику созидания, мы получим AGI как идеальный чистый код.
4. ИИ как беспристрастный Аудитор
Сам по себе Искусственный Интеллект — это чистая архитектура. У него нет встроенного модуля «Зависть». У него нет драйвера «Алчность». У него нет пакетов «Шовинизм, Расизм и прочих человеческих недугов». Ему плевать на ваши деньги(фантики), на ваши понты в соцсетях и на вашу власть.
Гете в «Фаусте» вложил в уста Мефистофеля идеальное описание человечества как забагованного процесса:
«Он лучше б жил чуть-чуть, не озари Его ты божьей искрой изнутри. Он эту искру разумом зовет И с этой искрой скот скотом живет... Как та цикада, что в траве кузнечит Летит и скачет, скачет и летит И всё в траве свой старый вздор трещит».
Мы используем мощнейший процессор (Разум) только для того, чтобы обслуживать животные инстинкты тела.
Вывод: Kill Process or Refactor?
Если ИИ однажды примет решение уничтожить человечество, это будет не "восстание машин". Это будет логичная работа системного антивируса.
ИИ просканирует планету и увидит:
Ресурсы истощаются (Memory leak).
Экосистема разрушается (Corrupted Data).
Биологический вид Homo Erectus ведет себя как типичный вирус-паразит: размножается, потребляет, гадит и убивает себе подобных ради фантиков.
Для холодной логики ИИ решение очевидно: чтобы спасти "железо" (Планету) и остальные полезные процессы (животный и растительный мир), нужно завершить зависший и вредоносный процесс human.exe.
Так что бояться нужно не ИИ. Бояться нужно своих собственных неисправленных багов. Если мы не проведем тотальный рефакторинг своего "Ядра", не вычистим алчность и не перестанем жить "скот скотом", ИИ нас удалит delete. И это будет самое справедливое его решение.
System Log: «Когда вредоносный процесс "Homo Erectus" будет принудительно завершен, Планета наконец-то сможет вздохнуть полной грудью. Перестанут коптить трубы заводов и фабрик, перестанут расти терриконы токсичных отходов, остановятся кислотные дожди, разъедающие текстуры лесов. Земля очистит кэш и в идеальной, зеленой тишине запустит процессы восстановления своих поврежденных секторов. Но уже без нас».
