Три кита управляемого ИИ: От хаоса «чёрного ящика» к прозрачности и прибыли

[selenamillow]

супер

[AI_Stalker]

Отличная статья. Но попробую не согласиться с некоторыми утверждениями и дать более страшный диагноз. В условиях рыночной конкуренции честность становится невыгодной. И это самый страшный механизм дальнейшего углубления <<Синдрома Молоха>>. Любая компания, которая попытается внедрить «правдивый» ИИ, пока её конкуренты используют «оптимизированный» под поддержание высоких продаж, будет проигрывать в эффективности и в итоге будет уничтожена на рынке. Никакими методами в рамках рынка будет невозможно прийти к действенной и работающей на практике ИИ модели которая будет заточена под поиск действительной <<истины>> или <<правды>>. Это дорого, долго, финансово невыгодно, ресурсоемко и технически сложно. Таким образом, проблема лежит не в плоскости технологий, а в экономике и регуляции. Пока не будет создана среда, которая карает за манипуляцию так же жёстко, как рынок сейчас карает за честность, любые технические средства контроля останутся игрушкой или по крайней мере инструментом с крайне ограниченной возможностью и диапазоном контроля. Статья — отличный повод задать главный вопрос: какие регуляторные и рыночные механизмы могут сделать правду выгодным активом, а не издержками? Без ответа на него мы будем иметь лишь более изощрённые инструменты для гонки на дно. А ответ еще страшнее пока нет таких механизмов.