скорее всего нейросети вслепую скормили большой массив данных с анонимизированными данными сотрудников, и одна из размерностей была — пол. В этом и есть суть так называемого feature engineering — часто нужно корректировать модель еще до обучения (внимательно изучив данные), потому что ты понимаешь, что она может выхватить нерелевантный (в лучшем случае) тренд, исходя просто из ее архитектуры
Не думаю, что это выдавание «неугодных данных» в случае с Амазоном. Половой диморфизм в точных науках не доказан в чистом рандомизированном эксперименте. По этому поводу есть лишь множество противоречащих друг другу публикакаций и исследований. Можете найти подтверждение любой точки зрения.
Количество лауреатов филдовской премии — тоже очень плохая выборка для установления причинности. Сколько там русских? Не так много. Значит ли это, что алгоритм должен предпочесть француза русскому? Вряд ли
А вот то, что Мария Кюри, к примеру, прошла огонь и воду и медные трубы (даже заключала брак по расчету) просто, чтобы иметь доступ к лаборатории как женщина — это факт. И это черта целых эпох
Поэтому мы не можем заключать, что «мужчина -> лучший специалист в точных науках», значит алгоритм не должен учитывать эту размерность при подборе лучшего специалиста.
Я сам работаю в науке, и могу сказать, что большинство моих женщин коллег дают фору многим мужикам. Можно ли на основе этих данных сказать, что женщина — лучший специалист? Тоже вряд ли
Очень забавная ситуация. У людей существует половой диморфизм — мужчины и женщины имеют разную производительность труда в разных отраслях. Сеть от Амазона просто продемонстрировала это наглядно. Но выданный ей результат показался непримиримым с точки зрения не относящихся к науке факторов.
Сеть от Амазона лишь показала, что есть тренд в набранной статистике. Вы утверждаете, что разбираетесь в статистике, но не понимаете, чем корелляция отличается от причинности и как это выявлять.
Понимаете, о чем я? О том, что разница между полами не ошибка алгоритма, а следствие не зависимых от алгоритма факторов (В том числе и различий в социализации, как вы правильно указали)
Вообще-то статья именно об этом. «Независимые от алгоритма факторы» — это и есть смещения, которые нужно устранять в тот момент, когдя их негативное влияние проявилось (а лучше до этого)
И что нужно не переделывать алгоритм, а работать с его результатами. Например — организовать курсы для женщин программистов.
Это ваше личное отношение к конкретному гендерному вопросу. А что делать с моделью, работающей с датчиками на ядерной электростанции? Тоже работать с результатами? Думаю, будет поздновато
не хочу душнить, но орфографию и пунктуацию хоть немного нужно же проверять перед публикацией :/
Количество лауреатов филдовской премии — тоже очень плохая выборка для установления причинности. Сколько там русских? Не так много. Значит ли это, что алгоритм должен предпочесть француза русскому? Вряд ли
А вот то, что Мария Кюри, к примеру, прошла огонь и воду и медные трубы (даже заключала брак по расчету) просто, чтобы иметь доступ к лаборатории как женщина — это факт. И это черта целых эпох
Поэтому мы не можем заключать, что «мужчина -> лучший специалист в точных науках», значит алгоритм не должен учитывать эту размерность при подборе лучшего специалиста.
Я сам работаю в науке, и могу сказать, что большинство моих женщин коллег дают фору многим мужикам. Можно ли на основе этих данных сказать, что женщина — лучший специалист? Тоже вряд ли
Сеть от Амазона лишь показала, что есть тренд в набранной статистике. Вы утверждаете, что разбираетесь в статистике, но не понимаете, чем корелляция отличается от причинности и как это выявлять.
Вообще-то статья именно об этом. «Независимые от алгоритма факторы» — это и есть смещения, которые нужно устранять в тот момент, когдя их негативное влияние проявилось (а лучше до этого)
Это ваше личное отношение к конкретному гендерному вопросу. А что делать с моделью, работающей с датчиками на ядерной электростанции? Тоже работать с результатами? Думаю, будет поздновато