Еще раз. У слова дискриминация есть четкое, однозначное определение. Условная нейросеть будет оценивать по именам/геолокации/образовании/судимостям цветных людей ровно так же, как и белых. Следовательно, дискриминации по цвету кожи тут нет.
У вас в теории чугунная гиря может дискриминировать людей. Потому что одни её могут поднять, а другие нет.
Это вообще к чему? Ну да, все люди отличаются друг от друга, и если начать замерять эти отличия, то они (внезапно) будут обнаружены.
Если она вместо релевантных факторов смотрит на имя-фамилию, то это уже криво
Во-первых, мы уже определили ранее по источникам, что она не смотрит на имя и фамилию, зачем вы делаете вид что забыли про это? Во-вторых, даже если бы она смотрела на имя-фамилию, оценивать вероятность возвращения кредита на основе ограниченных данных и имеющейся статистики - это прямое предназначение нейросети. Единственный способ этого избежать это давать кредит вообще всем.
Дискриминация буквально означает ущемление на основании какого-либо признака. Если нейросеть в принципе не кодирует в себе понятия этого признака, то дискриминации по нему по определению быть не может.
А откуда у нейросети статистика, позволяющая сопоставлять фамилии и цвет кожи? Если этого параметра не было во входных данных (а согласно статье его не было), и он напрямую не используется как фактор в обучении (то же самое), в недрах нейросети вообще не появится такой абстракции как "темнокожесть".
Тем не менее, за последние 10 лет вышли шикарные и с юмором
Да с 2000х очень много годноты вышло: серия Syberia, серия Samorost, серия Deponia, Machinarium, Fran Bow, Primordia, The Dream Machine, Broken Age, Gemini Rue, Goetia, серия Rusty Lake, Twelve Minutes и т.д.
это когда кредит получают все кредитоспособные, которые хотят его получить
Нет таких наборов данных для которых это можно определить точно, максимум оптимально. Так-то, некоторые умирающие от рака 80-летние наркоманы с десятью отсидкамии без образования тоже вернут кредит, только вот отличить их от остальных заранее никак не получится. И вполне может оказаться, что безусловная блокировка некоторых районов гетто может быть оптимальной алгоритмически.
Самый простой способ отметить риски это вообще никому не давать кредиты.
максимизировать прибыль
Ведь если он по имени-фамилии принимает хорошего кандидата за плохого
Во-первых выше уже углубились в источники, и оказалось что в оригинале ничего про фамилии и имена нет. Во-вторых, даже если результат не справедлив к конкретному человеку, это еще не значит что ИИ выдает некорректный результат для имеющихся входных данных. Это не ИИ работает неправильно, это задача поставлена так, как было выгодно.
Кредиты/ипотеки наименее рискованно отдавать людям, которые их выплатят. Т.е. здоровым (не наркоманам/алкоголикам), образованным, с хорошей зарплатой, из благополучной семьи, без отсидок, не на смертном одре и т.д. и т.п. Эти данные необходимы чтобы сеть выполняла свое прямое предназначение. И на данном этапе истории темнокожие во многих регионах будут объективно выгребать по этим параметрам, потому что они исторически так сложились, а не потому что нейросети - расисты. Лет через 50-100 может и не будет разницы.
Даже если аккаунт админский. Для действия которое сносит целую базу хотелось бы иметь предохранитель. Например, гитхаб просит ввести имя репозитория, который пользователь хочет удалить. Необходимость не слишком частая, чтобы это сильно мешало, но зато теперь нечаянно это точно не сделаешь.
Может не дословно, но по смыслу ближе всего "рабочий сервер". Еще иногда говорят "боевой". Для БД аналогично. Дословно будет "производственный", но я не слышал чтобы кто-то так говорил.
Вообще странно было иметь настолько легкий доступ к действию с настолько деструктивными последствиями. Все равно что красную кнопку на столе хранить, как в том меме с карандашом.
Описанное в статье подходит для игры с дискретной тайловой картой, целиком влезающей в экран. Тут действительно никаких переборов не нужно, хотя решение все равно странное на нескольких уровнях. В оригинальной же статье координаты игроков заданы парой вещественных чисел, а поле можно увеличить во сколько угодно раз.
Даже если мы остановимся на тайловости. Банальный пример. Размер карты 5000х5000, мультиплеер, 1000 игроков, каждому из которых в монитор влазит 50х50 тайлов.
При использовании приведенного решения карта будет впустую занимать непомерный объем оперативной памяти. Что можно даже частично исправить, если отказаться от чистого parallel arrays, и хранить в тайлах только id, а данные игроков отдельном массиве структур. Но это будет все еще слишком много. О том как это отправлять и обновлять одновременно тысяче игроков даже подумать страшно.
А теперь представим, что у игроков появилась функция "телепортироваться к другу". У нас не останется выбора кроме как хранить их координаты в структуре игрока. В итоге все сведется к классическому подходу, но с использованием чрезмерно детализированной uniform grid как средства оптимизации некоторых операций.
Еще раз. У слова дискриминация есть четкое, однозначное определение. Условная нейросеть будет оценивать по именам/геолокации/образовании/судимостям цветных людей ровно так же, как и белых. Следовательно, дискриминации по цвету кожи тут нет.
Это вообще к чему? Ну да, все люди отличаются друг от друга, и если начать замерять эти отличия, то они (внезапно) будут обнаружены.
Во-первых, мы уже определили ранее по источникам, что она не смотрит на имя и фамилию, зачем вы делаете вид что забыли про это? Во-вторых, даже если бы она смотрела на имя-фамилию, оценивать вероятность возвращения кредита на основе ограниченных данных и имеющейся статистики - это прямое предназначение нейросети. Единственный способ этого избежать это давать кредит вообще всем.
Дискриминация буквально означает ущемление на основании какого-либо признака. Если нейросеть в принципе не кодирует в себе понятия этого признака, то дискриминации по нему по определению быть не может.
Так она и не работает криво.
Для того чтобы сказать что сеть расистская, потому что она определяет человека как негра, и поэтому ему отказывает - нужен.
А откуда у нейросети статистика, позволяющая сопоставлять фамилии и цвет кожи? Если этого параметра не было во входных данных (а согласно статье его не было), и он напрямую не используется как фактор в обучении (то же самое), в недрах нейросети вообще не появится такой абстракции как "темнокожесть".
Да с 2000х очень много годноты вышло: серия Syberia, серия Samorost, серия Deponia, Machinarium, Fran Bow, Primordia, The Dream Machine, Broken Age, Gemini Rue, Goetia, серия Rusty Lake, Twelve Minutes и т.д.
Так каждый год годные/крупные/громкие выходят, включая новинки и переиздания: Disco Elysium, Sam & Max Save the World, Sam & Max: Beyond Time and Space, Return to Monkey Island, Syberia: The World Before, Samorost 1. Если оценивать по тегам стима, то элементы point&click есть более чем в четырех тысячах игр. На мобильных платформах их вообще неисчислимое количество. Отдельно стоит отметить point&click для взрослых, которые создаются любителями по одной в неделю, и некоторые из них даже в стим попадают.
Очень много казуальных на мобилки, но бывают и классические на ПК. Смешение механик/жанров - это да, но это сейчас с играми всех жанров так.
Point & Click не умер, он живее всех живых.
Извозчикам тоже перестали платить после появления автомобилей. Это тоже обесценивание во вред человечеству?
Нет таких наборов данных для которых это можно определить точно, максимум оптимально. Так-то, некоторые умирающие от рака 80-летние наркоманы с десятью отсидкамии без образования тоже вернут кредит, только вот отличить их от остальных заранее никак не получится. И вполне может оказаться, что безусловная блокировка некоторых районов гетто может быть оптимальной алгоритмически.
максимизировать прибыль
Во-первых выше уже углубились в источники, и оказалось что в оригинале ничего про фамилии и имена нет. Во-вторых, даже если результат не справедлив к конкретному человеку, это еще не значит что ИИ выдает некорректный результат для имеющихся входных данных. Это не ИИ работает неправильно, это задача поставлена так, как было выгодно.
Для ИИ это не имеет значения. У ИИ цель - максимизировать прибыль отсеивая риски, и он с ней справляется.
Условный Барак Обама - не среднестатистический темнокожий. Он этот тест ИИ даже проходить не будет.
Это еще доказать нужно. А вой будет в любом случае, просто по факту результирующей статистики.
Кредиты/ипотеки наименее рискованно отдавать людям, которые их выплатят. Т.е. здоровым (не наркоманам/алкоголикам), образованным, с хорошей зарплатой, из благополучной семьи, без отсидок, не на смертном одре и т.д. и т.п. Эти данные необходимы чтобы сеть выполняла свое прямое предназначение. И на данном этапе истории темнокожие во многих регионах будут объективно выгребать по этим параметрам, потому что они исторически так сложились, а не потому что нейросети - расисты. Лет через 50-100 может и не будет разницы.
Я имел в виду вот это.
Даже если аккаунт админский. Для действия которое сносит целую базу хотелось бы иметь предохранитель. Например, гитхаб просит ввести имя репозитория, который пользователь хочет удалить. Необходимость не слишком частая, чтобы это сильно мешало, но зато теперь нечаянно это точно не сделаешь.
Может не дословно, но по смыслу ближе всего "рабочий сервер". Еще иногда говорят "боевой". Для БД аналогично. Дословно будет "производственный", но я не слышал чтобы кто-то так говорил.
Вообще странно было иметь настолько легкий доступ к действию с настолько деструктивными последствиями. Все равно что красную кнопку на столе хранить, как в том меме с карандашом.
Это можно исправить:
/s
Описанное в статье подходит для игры с дискретной тайловой картой, целиком влезающей в экран. Тут действительно никаких переборов не нужно, хотя решение все равно странное на нескольких уровнях. В оригинальной же статье координаты игроков заданы парой вещественных чисел, а поле можно увеличить во сколько угодно раз.
Даже если мы остановимся на тайловости. Банальный пример. Размер карты 5000х5000, мультиплеер, 1000 игроков, каждому из которых в монитор влазит 50х50 тайлов.
При использовании приведенного решения карта будет впустую занимать непомерный объем оперативной памяти. Что можно даже частично исправить, если отказаться от чистого parallel arrays, и хранить в тайлах только id, а данные игроков отдельном массиве структур. Но это будет все еще слишком много. О том как это отправлять и обновлять одновременно тысяче игроков даже подумать страшно.
А теперь представим, что у игроков появилась функция "телепортироваться к другу". У нас не останется выбора кроме как хранить их координаты в структуре игрока. В итоге все сведется к классическому подходу, но с использованием чрезмерно детализированной uniform grid как средства оптимизации некоторых операций.