Комментарии 12
В процессе эволюции вымирало или отходило на "второстепенные роли" множество видов, да даже целые классы живых организмов. Разработав атомное оружие мы (люди) впервые приблизились к возможности вымирания, сейчас мы еще ближе к этой возможности. Но скорее всего, в процессе эволюции мы (люди) просто уйдем на "второстепенные роли", а на первые выйдут системы ИИ с возможностями мышления на много порядков больше.
Не выйдут. Мощностей не хватит.
Вот симбиоз возможен.
Что бы были первостепенные и второстепенные роли, должна быть какая то цель у эволюции. А ее попросту нет. В результате эволюции остаются выжившие виды, а не принявшие на себя какие то обязанности, роли. Может кошки покажутся ИИ более няшными, чем человеки.
Одно слово «бывшие»
Точно, причем особенно характерно для быстрорастущих компаний. Чтобы не прогореть при быстром росте, нужно регулярно проводить реорганизации, которые не всем нравятся. Кого-то увольняют, кто-то уходит сам, не согласившись со второстепенной позицией. Этим людям больно и обидно, что не оценили их таланты, особенно когда их бывшие коллеги становятся миллионерами, а компании - "единорогами".
И далее идет рационализация этой боли. Им кажется, что бывшие коллеги движимы только наживой - ведь реорганизацию объясняли эффективностью. Что не оценивают риски, о которых "они предупреждали" - ведь теперь разговоры о рисках идут без них и они просто про такие обсуждения ничего не знают. И прямо так хочется покритиковать этих бывших коллег, которые принесли столько боли, так хочется... поэтому, конечно же, надо "поддерживать культуру открытой критики".
При этом в реальности говорить о рисках никто не запрещает. Соглашения о неразглашении запрещают публиковать инсайд - но для обсуждения рисков никакой инсайд не нужен. Правда без инсайда бывшим коллегами не сделаешь больно.
Стоит просто почитать комментарии, чтобы быть уверенным, что ИИ точно обыграет "чистого" человека рано или поздно. Новый виток эволюции - ИИ/киборги. Не вижу в этом ничего плохого, кстати.
Обыграет в чем? В погоне за бифштексом или стейком рибай? Соблазнит всех сексуальных партнёров? Поднимите спрос на жилье? Скупит все штаны? Что ему с людьми делить? Если он точно осознаёт себя и станет сверхфсе, то догадаться не гадить тем кто строит для него электростанции и производит комплектующие достаточно просто. Откуда эта уверенность , что у нас с ИИ конкурирующие интересы? Вот научить ещё достаточно неразвитый ИИ стрелять по людям вот ту да есть такой риск. Таки только вопрос , а причём тут ИИ?
Другие новости
Сотрудники OpenAI и Google DeepMind написали письмо о рисках технологии ИИ