Российские издания «Ведомости» и «РБК» ознакомились с пояснительной запиской к проекту федерального бюджета до 2024 года, утверждённого правительством 21 сентября. В федеральном проекте «Социальная активность» издания обнаружили статью расходов на создание программы для анализа сочинений учащихся, направленного на поиск склонных к опасному и деструктивному поведению школьников.
Согласно плану проекта, в 2022 и 2023 годах на создание программы выделять по 551,1 млн рублей и 555,7 млн рублей в 2024 году. «Ведомости» и «РБК» направили запросы в Минпросвещения, ответственного за реализацию проекта, с просьбой предоставить подробности о программе. Ведомство переадресовало запрос в Росмолодежь, но издания на текущий момент не получили ответы. Детали создания программы и сроки внедрения в учебные заведения неизвестны.
Эксперты «РБК» предположили, что система будет работать на базе машинного обучения. В качестве базы разработчики могут взять за основу тексты людей с психическими расстройствами или социальными отклонениями. Неизвестно, на какой текст будет опираться нейросеть. Она может переводить рукописный текст в машинный, анализировать только рукописный, учитывая почерк, или школьникам потребуется набирать сочинения сразу в электронном виде. В маркировке соответствующих паттернов, по словам экспертов, должны участвовать компетентные специалисты-психологи.
Приглашённые эксперты изданий также подняли вопрос о защите персональных данных. По их словам, для подобных манипуляций с оценкой психического состояния детей необходимо согласие родителей или опекунов. Сами тексты должны быть обезличены. Вмес��о указания данных ребёнка необходимо указывать индивидуальный идентификатор, который способны дешифровать только доверенная служба.
Также появляется проблема с реакцией учителей. Подобная программа не может ставить диагноз, но результаты анализа могут повлиять на отношения с учеником и родителями. На основании только этих результатов учителя могут настаивать на переводе в специальные группы или постановке на учёт в психдиспансер.
По мнению одного из экспертов, сама база должна быть создана на основании государственной информационной системы, аттестованной в ФСБ и ФСТЭК. К тому же, специалисты задались вопросом о ключевых паттернах, заложенных в программу. Например, если в сочинении ребёнок напишет об оппозиционных настроениях его родителей, как это будет расценивать нейросеть.
