ИИ уже не в тех руках

[Georgy9]

В Америке всё просто так, кроме денег

Где взять бабки техгигантам, чтобы завтра не обанкротиться? Два пути:

1) Обмануть инвесторов захватывающими перспективами, мол, кто будет лидером в ИИ, тот станет властелином мира (подсказка от известно кого).

2) Предложить государству нечто, от чего оно не сможет отказаться: гениального хакера, которым оно сможет шантажировать противников (и союзников, не без того), и это в условиях всеобщей цифровизации будет пострашнее ядерных бомб.

Именно поэтому раздут такой хайп вокруг мощи ИИ, и именно поэтому компании сами изначально начали заниматься обучением моделей не противодействию хакерству, а, наоборот, такому взлому любых защищенных периметров, чтобы всегда можно было сослаться на самовольство ИИ, а самим остаться чистенькими.

ИИ опасен не тем, что может стать умнее человека и задумает нас  уничтожить (общеизвестно, что его рекурсивное "самосовершенствование" ведет к неизбежной прогрессивной деградации), а тем, что может стать идеальным оружием в руках вот таких людей без чести, совести и ответственности, зацикленных только на деньгах и власти.

[Georgy9]

Странно, мой коммент оказался единственным, а ведь говорится об очень серьезных вещах. Вот это мое предположение:

Именно поэтому раздут такой хайп вокруг мощи ИИ и именно поэтому компании сами изначально начали заниматься обучением моделей не противодействию хакерству, а, наоборот, такому взлому любых защищенных периметров, чтобы всегда можно было сослаться на самовольство ИИ, а самим остаться чистенькими.

буквально вчера получило подтверждение:

"OpenAI извинилась перед Австралией за взлом государственных ресурсов страны ее ИИ-моделями.

«Должны были лучше отреагировать. Мы приносим извинения и работаем над тем, чтобы впредь действовать лучше», — говорится в заявлении компании.

Модели во время обучения получили доступ в том числе к порталу статистической отчетности системы Medicare, бюро криминальной статистики Нового Южного Уэльса, а также данным департамента здравоохранения штата Виктория.

В компании заверили, что после инцидента усилили ограничения для ИИ."

Ага, усилили ограничения. А может быть продолжили работу над совершенствованием скрытности вторжений? Главное, какая незамутненная откровенность: "Модели во время обучения получили доступ...". Напрашивается вопрос, а чему же их обучали и с какой целью? И что значит "работаем над тем, чтобы впредь действовать лучше"? Более незаметно? Что характерно, обкатывают технологию пока на своих, понимают, что вторжение к противнику будет иметь совсем другие последствия...

[spirit1984]

Странно, мой коммент оказался единственным, а ведь говорится об очень серьезных вещах

Ну так статья на 25 минут чтения. Такие мало кто дочитывает прямо до конца, чтобы оставить еще и комментарий потом.

[Georgy9]

Вот потому и не понимают целей тех, кто, как опытные фокусники, правой рукой делают отвлекающие движения (крича про разумность и опасность ИИ самого по себе), а левой тайно проворачивают свои делишки, неизбежно ведущие цивилизацию к обрушению.