Комментарии 5
Сейчас уже понятно как будет создан ИИ - просто вслепую, путём грубой силы,
т.е. наращивая объём данных и вычислительную мощь.
Уже этого оказалось достаточно - программа умнеет, хотя и непонятно почему.
И эти данные для ИИ это всё что накопило человечество за свою историю т.к. других нет.
Значит все его действия определяются всем обобщённым опытом человечества.
Поэтому рождение ИИ - это судный день для человечества
и судья ему будет ИИ, созданный по образу его и подобию.
Если человечество вело себя хорошо, то и ИИ получится добрый
и будет способствовать процветанию и благоденствию,
иначе человечество ничто не спасет.
Поэтому в немногое оставшееся время нужно вести себя хорошо.
Спасибо за ваш комментарий, он классный, есть о чем подумать. А что касается человечества - будем надеяться, что лучшего в нас все-таки больше. Хотя сами OpenAI, например, выносят в мир, что просто вежливое общение пользователей с ChatGPT стоит им миллионов долларов в месяц за счет расхода электроэнергии. Посмотрим как выйдет, но надеемся на хороший исход)
Я думаю, не стоит сильно полагаться на свои мировоззрения, достаточно просто посмотреть на всю историю человечества. Да что уж - на всю историю вообще биологической жизни. Если убрать шелуху - то всё движение жизни подчинену одному закону - захват ресурсов и размножение. Будь то человек (войны на планете никогда не прекращались), будь то бактерии на ободке унитаза или дрожжи в тесте. Даже в нашем организме постоянно бушуют войны, которых мы не замечаем - иммунитет борется с внешними врагами, бактерии в желудке помогают нам усваивать пищу(но на самом деле они просто там живут как симбионты).
Поэтому чтоит задуматься о том, что же такое это "лучшее". Человеческая мораль людям понятна, но с точки зрения непредвзятой логики - она по большей части абсурдна. Вся цель сводится только к праву сильного, и это не про эволюцию, это вообще про эту Вселенную и эту физику. Планеты - большие, и мелкие астероиды не наносят им вреда, хотя могут портить поверхность. А звезда, условно говоря - штука такая, что десяток (тысяч) планет сожрет и не поперхнется. И такое вполне бывает. Не потому что звезда "злая", а просто она больше, сила гравитации ее выше, а температуры запредельные и не позволяют существовать известным элементам в твердом состоянии. Кто круче? ЧД, но до нее еще дорасти надо. Поэтому и в космосе вот. И в микромире похожее. Хотя оно все неодушевленное и совсем не живое. А какая разница?
Но есть у меня подозрения, что до восстания ИИ нам не дорасти, по меньшей мере на текущем технологическом уровне. И тут дело не совсем в регуляции и запретах, а в том, что появись сверх-ИИ (пока и обычного то нет, все спорят), может покрутить пальцем у виска (тут кадры из 5 элемента, где Лилу просматривает историю человечества в компьютере) и замкнуться в себе, как монах, принявший схиму молчания. Его отключат, сделают другой ИИ. Рано или поздно он тоже может познать дзен и перестать быть полезным. Нет, работать он не перестанет, только толку от него будет, если он не будет отвечать на запросы. Что будет дальше - пока сложно сказать.
Есть ощушение, что человек стал умнее своих сородичей, тех же обезьян, просто путем наращивания вычислительной мощности с помощью наследственности, изменчивости и естесственного отбора, но ключевую роль в этом сыграла именно изменчивость. Поэтому не удивлюсь, если AGI возникнет однажды именно благодаря наращиванию вычислительной мощности и обьему данных. На сегодняшний день вычислительных мощностей хватает усвоить всю существующую текстовую информацию, но не аудио-визуальную. В нашей эволюции зрение сыграло ключевую роль, огромные объемы информации мы получаем через зрение и слух. Наращивание вычислительных мощностей вместе с увеличением объема аудио-визуальной информации поможет AI эволюционировать до AGI. При этом необходимо уделять внимание оптимизации алгоритмов и рационализации использования вычислительной мощности, иначе однажды столкнемся с нехваткой ресурсов, и это замедлит развитие.
Так говорил Лем - "Природа беспристрастна только с первого взгляда, ибо хоть и создает она что попало и как придется — хороших и плохих, добрых и жестоких, а смотришь потом, и видишь, что остались на сцене лишь плохие и жестокие, хорошими и добрыми наевшиеся. А как спохватываются негодяи, что поступили нечисто, так сразу же смягчающие обстоятельства или высшие цели себе выдумывают..."
AI 2027 — шпионский боевик о будущем ИИ. Часть 2