![](https://habrastorage.org/r/w780/getpro/habr/upload_files/f43/0e1/176/f430e1176860542c6d508256c42a51d2.jpg)
Для того, чтобы понимать язык и делать различные выводы, человек рассуждает, опираясь на знания о мире и здравый смысл. Несмотря на то, что большие языковые модели достигли значительных успехов в обработке естественного языка, рассуждение на основе здравого смысла остаëтся одним из самых сложных навыков.
Наиболее распространëнным способом оценки способностей моделей рассуждать, опираясь на здравый смысл, является тест на основе схемы Винограда (The Winograd Schema Challenge, или WSC), названный в честь Терри Винограда, профессора компьютерных наук в Стэнфордском университете. Тест основан на разрешении синтаксической неоднозначности.
Давайте рассмотрим пример из схемы Винограда:
"Кубок не помещается в коричневый чемодан, потому что он слишком большой."
Что в этом случае является слишком большим: чемодан или кубок? Для человека ответ является очевидным, а для модели?..
Мы расскажем про наше исследование, в котором сравнили внимание человека и модели, а также проанализировали, на какие слова при решении схемы Винограда обращают внимание человек и модель. Хотя внимание человека и внимание трансформера кажутся совершенно разными, отдельные результаты говорят о взаимосвязи между ними.