Обновить

Claude Code Antifraud: Колмогоров‑Смирнов и недетские аномалии на детской олимпиаде

Уровень сложностиСредний
Время на прочтение39 мин
Охват и читатели14K
Всего голосов 49: ↑46 и ↓3+54
Комментарии31

Комментарии 31

Офигеть как круто! Все мои познания в аналитике заканчиваются где-то в районе почти 20 лет назад сданного и забытого теорвера в обычном техническом вузе на инженерной специальности, поэтому при чтении мозг в какой-то момент начал отключаться из-за слишком большой сложности, но в целом выводы то как будто просто подтверждают то, что было и так интуитивно понятно, особенно когда ты внутри этого процесса находишься и заинтересован в нём. Это же не только с олимпиадами - любые детские конкурсы - танцы, пение, рисование. Учителя победителей - однофамильцы и друг друга и детей-победителей, как вам такое?

Самое интересное здесь даже не пироги. Самое интересное — кто их печёт. Учредитель программы — школа АД. Организатор олимпиады — подразделение АД. Составитель задач — сотрудник АД. Проверяющий — сотрудник АД. Жюри — сотрудники АД. Лагерь для призёров — филиал АД. KPI «количество подготовленных победителей» — у АД. Учителя самих участников — сотрудники АД.

Эмм, ну так с этого и надо было начинать. Все знаем в какой стране живём, выводы можно сделать уже просто из этих фактов.

Анализ, конечно, очень впечатляющий, спасибо. Ничего не понял, но читал как роман.

Суть не в стране и не в конкретной школе, а в методологии. Этот же скрипт можно применить к любому датасету в мире

Не дай Бог, что про такую аналитику Тендерные комитеты узнают

Однако и по настоящему талантливые учителя существуют. Например, на Всесоюзной олимпиаде по физике 1973 года четыре человека были из одного класса 10-2 ФМШ N30 и один из 45-го интерната. 2 диплома первой степени и один 2-ой. Ну, да, давно и неправда.

Ну... Не удивлён.

Где-то лет двадцать назад сунулся в систему гособразования, немного попреподавать IT, в техникум. И два, два с половиной года всё было отлично. Потому что набирали, что называется, "с улицы". А потом пришли "непрерывщики" (детишки, которые пришли из компьютерной школы, которой, на минуточку, заведовал тогдашний директор техникума до того, как стал директором, по программе "компьютерная школа -> техникум"). У-у... Это были не ребята, а реальные волки. Те, кого я учил до них, были нормальными раздолбаями. А эти - уже в усмерть замотивированые. Затем легкий шажок в карьерной лестнице сделали и преподаватели школы.

Три учителя из моей не очень родной (деваться было некуда) школы преподавали агрессивно: физрук (что в целом понятно), трудовик (ещё понятнее) и... математичка, которая пришла в 9-м классе (начало девяностых). Вот математичка сделала лично для меня главное: наконец-то связала все математические знания в систему. До этого у нас были такие учителя, что рыдать хотелось. И смогла протащить в 10-й класс. Девочки от неё рыдали. Однако когда по аттестатам их приняли в 10 класс, рыдания резко прекратились. К несчастью, классной руководительницей на 10-11 классы нам назначили не математичку (хотя слухи об этом упорно ходили), а другого учителя, с характером казеиновой сосиски. В чём я, пожалуй, действительно признателен этой школе: что меня, далеко не золотого медалиста, всё-таки сумели сплавить в вуз по программе "выпускные экзамены как вступительные в вуз" в определённый институт на определённую кафедру. В остальном пришлось выплывать чисто самому.

Так что, с одной стороны, я "за" непрерывные методы образования. С другой - против. Если они дают шанс "середнячкам" хоть чего-то достичь - "за", если выделяют "элитку" - против.

По статье: половины, честно, вообще не понял.) Пролистал до места, где следуют выводы. И сильно взгрустнулось. Отчего коммент получился таким длинным и очень личным.

Я листал этот бред почти минуту до шестерёнки, позволяющей скрыть все публикации этого "автора". Пожалуйста, насильники LLM-ок, делайте свои тексты компактнее. Спасибо.

Хотел этот комментарий скопировать и оставить под какой-нибудь вашей же статьёй, а у вас их за 15 лет на Хабре-то и нет.

Когда аргумент - сама личность, контраргументом можно использовать апелляцию к ней.

"Я листал этот бред почти минуту!" - как это относится к теме статьи?

А еще вроде наличие учеников олимпиадников влияет на ЗП преподавателей...

Если не секрет, это какая модель родила “фолс‑флагит”? Разные перлы видел, но так над русским языком даже китайцы на 8b не издеваются.

Если олимпиада не даёт бонусов при поступлении в вузы, не тратит бюджетных денег, то пусть как хотят так и проводят.

В финтехах за это платят, в обычной жизни — импортное за 300

Да что импортное-то?!

Ставлю на пиво!

У нас вчера произошло довольно активное обсуждение статьи в некотором небольшом сообществе олимпиадных энтузиастов. Олимпиаду “Золотой шлем” удалось идентифицировать. Это какое-то мелкое московское мероприятие, таких мероприятий в Москве - десятки, и про них никто особо не знает. Я вот впервые услышал про неё, хотя школьными олимпиадами занимаюсь не один десяток лет. Учителя делают мероприятие, приглашают своих детей (для них же прежде всего и стараются), может прийти кто угодно со стороны, да никто не приходит, т.к. эта олимпиада никому и не нужна. Поэтому ничего удивительного нет, что призовые места занимают там представители школы “Академия доцента”, сама по себе школа эта неплохая, а сам “Доцент” и прочие - реально хорошие и известные учителя. Обратите внимание, представители сильных математических школ, названные в статье, в олимпиаде “Золотой шлем” не участвуют совсем, или там какие-то единичные участники. Просто потому, что для них это мероприятие неинтересно. Этим и объясняются все аномалии.

Аналогия такая. Пусть мы хотим провести турнир по футболу для детей. Кто сможет его провести? Наверное, местная спортивная школа. Кто будет участвовать? Ну прежде всего команды из местной спортивной школы - все, кто хочет заниматься футболом, там уже давно. Кто будет судить? Тренеры из местной спортивной школы - более компетентных людей не найти. Пусть какая-то двороая команда собралась, приняла участие, и выступила плохо. Вполне ожидаемо. А автор взял статистику этого районного турнира и обнаружил, что он радикально отличается от статистики чемпионата мира по футболу, и говорит - “что-то тут не так явно”. Конечно, не так, совершенно разные мероприятия по сути.

Правильная аналогия. Работает, если в динамике показатели постоянны. Здесь этого не наблюдается.+ Внутри группы "сильных-своих" должно сохраняться распределение близкое к бенчмарку (1-х меньше, 2-х чуть больше, 3-х - больше всего) - эта гипотеза ломается, если порог по Д1 низкий, и большинство "сильных-своих" прошли порог Д1 (это можно проверить, имея весь список участников, включая не призеров, - но таких данных нет в открытых источниках). - опять же, в динамике этого не наблюдается, 2023-2024 по показателям были "как у всех"

Я вчера вечером читая статью думаю - “О, интересно, что же за олимпиада”. “Академию доцента” угадал сразу, а вот олимпиаду не смог найти. Потом коллеги подскзали и … у меня сразу пропал всякий интерес. Может быть эти ваши рассуждения и математические формулы и верны, но применительно к этому мероприятию они не представляют никакого интереса. Ну по сути вы написали огромную статью про районный чемпионат по футболу, совершенно это всё неинтесно. Какие-то рассуждения о числе дипломов можно объяснить чем угодно, например, количеством классов и учеников у этих учителей, которое меняется из года в год. Детально вникать нет никакого смысла ввиду незначительности мероприятия.

Предложения вида “Сегрегация ролей”, “шифрованная проверка” к таким мероприятиям совершенно неприменимы. Ну нельзя на районном турнире найти независимых судей, которые не имели бы отношения к участникам. Здесь же группа учителей делает некую олимпиаду в том стиле, по тем задачам, которые им нравятся. Никому, кроме этих учителей, эта олимпиада не нужна, и они молодцы, что делают такое мероприятие, в котором ещё все желающие могут принять участие. Дальше находятся удивлённые родители (ваш “заказчик”), которые впервые увидели что-то подобное. Если “заказчик” дальше пойдёт и начнёт писать в Департамент образования, прокуратуру, мол де всё нечестно, и спустят этим учителям указание “сделайте сегрегацию ролей”, знаете что произойдёт с олимпиадой? Они плюнут и не будут её проводить. Потому что им этот геморрой не нужен, и никакого альтернативного жюри и альтернативных составителей задач быть не может. Эти люди либо проводят мероприятие, либо не проводят. Никто кроме них проводить его не будет. Победа на мероприятии никаких выгод не даёт, поэтому бессмысленно говорить о предвзятости проводящих и о том, что там как-то нечисто с их стороны.

Я воздержусь от комментариев каким родителям это интересно, каким нравится, каким не нравится - в этой истории всегда будет две стороны.

Мне интересно было пощупать как LLM справляется с аналитическими задачами. Подкинули неплохие открытые данные для этого. Поделился опытом. Кто-то возможно почерпнет для себя что-то полезное, кто-то - нет.

Мне кажется, вы выбрали неудачный объект для изучения.

Например, ни в каких KPI эта олимпиада не учитывается, поэтому никакой заинтересованности в её результатах у организаторов нет.

Гораздо интересней, например, был бы анализ ВсОШ. Если вы возьмёте ВсОШ не по математике, то, думаю, вас ждёт много интересных открытий. Например, можно изучить, насколько сильно результаты школьников из одного региона на заключительном этапе ВсОШ по труду отличаются, когда заключительный этап проводится в этом регионе (он любит проводить именно олимпиаду по труду), и когда олимпиада проводится в другом регионе…

Или изучите, например, сколько баллов нужно на тех или иных олимпиадах для получения статуса победителя или призёра, посмотрите, как сильно изменилась это величина за последние годы и в какую сторону.

Неважно какой масштаб у мероприятия. Если система выдает хоть какой-то профит, ее обязательно будут абузить

Ретро‑аудит 2025 и 2026. Независимая комиссия пересчитывает работы воспитанников четырех флагнутых учителей. Не для наказания — для восстановления справедливости по другим призерам.

А что это даст? Там же скорее всего суть в том, что учили чему-то специфическому (форма задачи, форма ответа, тип задачи), вот свои и умели это делать хорошо.

Какая шикарная статья! Написано интересно, прочёл с удовольствием :)

По сути, если бы в стране была политика, то вот так должны выглядеть разборы выборов. А в нынешних условиях интеллектуальный запал направляется на олимпиады — что тоже хорошо.

К организаторам такой схемы вопросов нет — это их цель и бизнес.
Вопрос тут к родителям учеников — выбирайте качественные олимпиады для участия ваших детей.
Вот тут можно создать какую-то инициативу с формулированием публичных критериев качества и независимым аудитом олимпиад.

Ещё раз спасибо за работу над материалом.

Сложно читать эту генерацию, хоть тема и интересная.

Да пойми же, гайками прикрепляется рельса к шпалам!

тут Антон П. Чехов немного ошибся)), в те времена рельсы к шпалам крепили исключительно костылями))..

Статья исключительная. Спасибо.

Там либо Антон Палыч был не в курсе, что это не шпалы, либо следователь:

В 1885 году стыки рельсов крепились с помощью стыковых накладок и болтов. Стыковые скрепления состояли из двух стальных накладок с болтовыми отверстиями и 4–6 путевых болтов, которые стягивали через эти отверстия. Дополнительно использовались пружинные шайбы. 

Дык и сейчас они так же крепятся, если это не цельносварные пути.

Мне кажется, всё объясняется намного проще: в течение обучения доцент и другие учителя дают решать определённые задачи, делая на них особый упор.

Потом на олимпиаду составляются очень похожие задачи.

Те, кто пришёл со стороны, не настолько натасканы на конкретно этих задачах, и чуть чаще ошибаются.

Так что, главным требованием должно стать "составитель заданий для олимпиады со стороны".

Скрипт надо было сразу заворачивать в докер и натравливать на все доступные олимпиады по крону

Исследование любопытное, но два "но":

  1. выводы излишне пафосные. Очевидно, что олимпиада среди учеников начальной школы — это мелкий междусобойчик, который ни на что не влияет

  2. утверждение про то, что анализ можно сделать без спецобразования более чем спорно. Я (как и многие тут) закончил ВТУЗ про компьютеры и из всех методов знаю только хи-квадрат. И то, только называние.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации