Тим Бернерс-Ли предполагает, что ИИ начнёт управлять финансовыми корпорациями

[MTonly]

Если программа может самообучаться, то слабый ИИ с узкой специализацией может оказаться даже опаснее, чем полноценный сильный ИИ с нормальным самосознанием.

Можно отключить функцию самообучения по достижении некоторого достаточного уровня ИИ.

[click0]

Нет, ИИ перестанет учиться и будет, например, забывать события, произошедшие вчера.
Примерно как у людей со старческим склерозом.
Я не думаю, что вы захотите общаться с ИИ с такой забывчивостью.

[Sadler]

Зачем Вам общаться со слабым ИИ? В продакшене действительно часто отрубают возможность обучения, чтобы получать стабильные результаты, хотя для финансовых рынков это никак не подходит.

[ideological]

Системы слабого ИИ от IBM и других компаний уже сейчас внедряются в банках и инвестиционных фондах.

Вот, имеется ввиду обычные алгоритмы, вот это Термин «искусственный интеллект» потерял всякий смысл

Что будет дальше? Тим Бернерс-Ли считает, что переломным моментом станет, когда ИИ начнёт принимать важные решения.

Или не начнет.
Последнее время столько беспокойств по поводу безопасности сильного ИИ, хотя даже ничего подобного из разработок и близко нету.

Конечно возможно несколько опасных вариантов, например, когда маркетологи впарят слабый ИИ под видом сильного и военные или политики доверят этой штуке запуск ракет или управление национальным благосостоянием.

[Camrad_RIP]

>>зачем вкладывать миллиарды долларов в его разработку? Выгоды от наличия сильного ИИ туманны, а риски слишком велики.
Рано или поздно «цена» снизиться настолько, что кто-то запилит ИИ просто что бы было.

[ideological]

Ага, создается такое впечатление у многих, только одна проблема — что в реале это не так.

[RangerXP]

Ждем воплощения в привычную реальность канвы произведения «Нейромант»?

[Vjatcheslav3345]

Скорее всего даже слабый ИИ может убить весь малый бизнес — ведь тогда большая организация под его неустанным управлением в сочетании с применением им роботов — не будет отставать в эффективности от малой — эпоха больших корпораций вернётся, как будь то и не уходила...

[ilansk]

Если программа может самообучаться, то слабый ИИ с узкой специализацией может оказаться даже опаснее, чем полноценный сильный ИИ с нормальным самосознанием.

В кино видел схожий сюжет: хакер договорился с ИИ, управлявшим цивилизацией машин, что деактивирует вышедший из под контроля узкоспециализированный ИИ в обмен на свободу людей из виртуальной тюрьмы.

[mdaemon]

>ради главной цели, которая движет человечеством — ради денег
Вот кто то уже и нашел ответ на вопросы жизни и смерти и все такое, и для него это не 42…

Если это будет целевой функцией ИИ то человечеству конец.
Вряд ли в ИИ будет замкнутая модель всего мира, скорее чисто финансовая модель, а с ее точки существенная часть человечества — излишняя.

[Oxygen99]

Уверен, что не в этих десятилетиях. Слишком высоки риски.