«А с человеком можно поговорить?» Кто проверит и оценит результат работы ИИ, когда всех уже сократили?

[SeregaSA73]

Останется только золотой миллиард (а может и миллион) и обслуга что бы жопы им мыть.

[MountainGoat]

И тут с другой стороны экватора постучали.

[Granulex]

Автор точно описывает парадокс. Кстати, проблема глубже, чем «некому проверить»: эксперты, которых увольняют, не просто верифицировали выходные данные – они были живой документацией того, почему процессы устроены именно так. ИИ оптимизирует измеримый прокси, а знание о том, что считать хорошим результатом, до документирования обычно не доходит. Это закон Гудхарта в корпоративном масштабе: когда метрика становится целью, она перестаёт отражать реальность.

[dariaa20]

Проблема серьезная. Система может принимать неверные решения на промежуточном этапе, который никак не контролируется людьми. Время, затраченное на нахождение и устранение таких ошибок будет в разы больше. И кто будет искать данные ошибки это большой вопрос.