Вы хотите сказать, не бывает странных кандидатов, а причины поступков и поведения человека всегда легко понять и объяснить, потому все это – неправдоподобно и байка?
Любая защита от дурака имеет и плюсы, и минусы. Вопрос в том, насколько сильно производитель считает своих потребителей дураками (а большинство ими является).
На Андроиде не надо каждый раз переподписывать установочный файл, а просто один раз включить установку из неизвестных источников в разрешениях приложения, которое эту установку запускает.
История, о которой идет речь в видео, абсолютно реальна и стала очень громким событием в мире искусственного интеллекта и игры го в конце 2022 — начале 2023 года.
Вот подробная информация об этой выигрышной стратегии и том, как развивалась ситуация.
Кто и кого обыграл
Американский игрок-любитель Келлин Пелрин (Kellin Pelrine) смог разгромно обыграть одну из сильнейших в мире нейросетей для игры в го — KataGo (программу с открытым исходным кодом, которая считается равной или даже превосходящей ту самую AlphaGo от Google). Пелрин выиграл 14 из 15 партий, играя самостоятельно, без использования подсказок компьютера в реальном времени.
В чем заключается стратегия
Стратегию помогла найти калифорнийская исследовательская компания FAR AI. Они создали специальную программу-тестировщика, которая сыграла более миллиона партий против KataGo, чтобы нащупать «слепые зоны» алгоритма (так называемые состязательные атаки — adversarial attacks).
Найденная стратегия получила название «циклическая атака» (cyclic attack) или стратегия «кольца/петли»:
Построение огромного кольца: Игрок-человек начинает медленно и аккуратно выстраивать из своих камней гигантское кольцо, цель которого — взять в масштабное окружение большую группу камней искусственного интеллекта.
Отвлекающие маневры: Параллельно с этим человек делает совершенно абсурдные и глупые с точки зрения классического го ходы в других углах доски.
«Слепота» ИИ: Нейросеть отвлекается на локальные стычки в углах доски и в упор не замечает глобальной угрозы. Компьютер не видит, что его центральная группа камней находится в смертельной опасности, даже когда кольцо почти замкнулось. Алгоритм до самого конца уверен, что его шансы на победу близки к 100%.
Человеку (даже любителю) эта ситуация кажется очевидной. Любой игрок уровня 1-го кю или 1-го дана моментально заметит, что его камни берут в гигантское кольцо. Но сверхмощный алгоритм оказался к этому слеп.
Почему всесильный ИИ попался на этот трюк?
Это фундаментальная уязвимость архитектуры современных нейросетей (в том числе ChatGPT). ИИ обучается, анализируя миллионы партий профессионалов и играя сам с собой. Проблема в том, что ни один профессиональный игрок в здравом уме не будет строить такое нелепое, огромное кольцо на полдоски, тратя на это десятки ходов, пока противник забирает очки в других местах.
Поскольку нейросеть никогда не видела подобной ситуации в своих тренировочных данных, она просто не может ее правильно оценить. Алгоритмы мыслят паттернами, а не концептуальными обобщениями. Как только человек вывел ИИ за пределы привычных шаблонов, «гениальный» мозг программы сломался.
Про «жалобы» ботов и баны администраторов
То, что упомянуто в видео («нейробот научился жаловаться администраторам»), — это очень точное, хотя и слегка ироничное описание реальной серверной практики.
На популярных серверах (например, OGS — Online Go Server) боты физически не пишут тексты жалоб, но происходит следующее:
Когда человек применяет такую циклическую атаку, алгоритм бота сходит с ума. Бот начинает делать странные ходы, пасовать в неадекватных ситуациях или система фиксирует аномальное время завершения партии.
Партия автоматически помечается как подозрительная (bot exploit / bug abuse).
Правила многих онлайн-серверов прямо запрещают намеренно использовать баги ботов. В го-сообществе это приравнивается к неспортивному поведению («троллингу» или искусственной накрутке рейтинга).
Приходит живой модератор, видит, что вы не играете в «нормальное го», а издеваетесь над программой, и выписывает вам бан.
Почему проще забанить человека, чем починить ИИ? Чтобы залатать эту дыру и научить нейросеть распознавать такие кольца, недостаточно написать пару строчек кода. Нужно перестраивать архитектуру алгоритма, тратить огромные вычислительные мощности (сотни тысяч долларов) и месяцами переобучать нейросеть с нуля на новых примерах. А забанить игрока-человека — это дело одного клика.
Поэтому автор видео абсолютно прав: выигрышная стратегия существует, она описана в научных статьях (исследование «Adversarial Policies Beat Superhuman Go AIs»), любой толковый любитель может её выучить, но применять её в онлайне бессмысленно — система вас просто забанит.
Нейросеть не может ничего противопоставить, потому что опять ее обучать на данных, включающих adversarial attacks, дорого и нецелессобразно. А вовсе не потому, что это невозможно.
А не аутисты пойдут писать код к вашим конкурентам.
Рынок рассудит, чей подход лучше.
Вы хотите сказать, не бывает странных кандидатов, а причины поступков и поведения человека всегда легко понять и объяснить, потому все это – неправдоподобно и байка?
А эрудитов со знаниями и аутистов без таковых не бывает, поэтому эти случаи рассматривать не будем. Аутистов берем, эрудиты – на выход!
Bullshit jobs, например.
В вашем случае всё предельно просто, нанимайте людей без собеседований. Такой вариант наиболее полно отвечает на указанный вами запрос.
А у других людей идут быть другие требования, например, найти хорошего специалиста.
Пройти собес – тоже задача, почему бы и ее не решить. Мама до старости сопли подтирать не будет, надо брать ответственность за свою жизнь на себя.
Вполне нормально отсеивать кандидатов, которые слова сказать не могут, и вполне нормально, что среди них будет 0,1% немых гениев. Жизнь несправедлива.
Полезна ли для работодателя такая как-то работа, большой вопрос. А при найме оценивается потенциальный профит от кандидата.
Что делать не так-то и просто? Спасать компьютеры миллионов пользователей?
Но где в моём комментарии вы смогли найти ASCII-кавычки?
Одна из трех попыток проиллюстрировать знаки пунктуации все-таки увенчалась успехом, ёлочки действительно так выглядят.
Авторы, пожалуйста, хотя бы вычитывайте сгенерированные тексты перед публикацией .
Баг может вылезать крайне редко. Ничего особо в вашем описании нет, просто вас не устраивает просто объяснение, кмк.
То же, что и я написали бы.
Гораздо более вероятно, что просто что-то забаговалось. Может, он метрики свои послал 100000000 раз.
Отличается, индекс флективности английского – 1,7, русского – 2,4. Это очень большое различие.
Любая защита от дурака имеет и плюсы, и минусы. Вопрос в том, насколько сильно производитель считает своих потребителей дураками (а большинство ими является).
На Андроиде не надо каждый раз переподписывать установочный файл, а просто один раз включить установку из неизвестных источников в разрешениях приложения, которое эту установку запускает.
Шутка – это когда смешно.
Тот неловкий момент, когда нейросетевой пост понять легче, чем человеческий комментарий под ним
Вот что говорит сам ИИ по этому поводу:
Нейросеть не может ничего противопоставить, потому что опять ее обучать на данных, включающих adversarial attacks, дорого и нецелессобразно. А вовсе не потому, что это невозможно.