Comments 4
Останется только золотой миллиард (а может и миллион) и обслуга что бы жопы им мыть.
Автор точно описывает парадокс. Кстати, проблема глубже, чем «некому проверить»: эксперты, которых увольняют, не просто верифицировали выходные данные – они были живой документацией того, почему процессы устроены именно так. ИИ оптимизирует измеримый прокси, а знание о том, что считать хорошим результатом, до документирования обычно не доходит. Это закон Гудхарта в корпоративном масштабе: когда метрика становится целью, она перестаёт отражать реальность.
Проблема серьезная. Система может принимать неверные решения на промежуточном этапе, который никак не контролируется людьми. Время, затраченное на нахождение и устранение таких ошибок будет в разы больше. И кто будет искать данные ошибки это большой вопрос.
«А с человеком можно поговорить?» Кто проверит и оценит результат работы ИИ, когда всех уже сократили?