Компания «Яндекс» начала эксперимент, в рамках которого специалисты попытаются понять, могут ли у искусственного интеллекта сформироваться устойчивые предпочтения и точка зрения, которые бы не были скопированы у людей, пишет «Коммерсантъ».
Исследование проводят совместно с нейробиологом и академиком Российской академии наук (РАН) Константином Анохиным. Проект начали проводить летом 2025 года. Если эксперимент покажет, что формирование личных предпочтений и точки зрения у ИИ возможно, это может стать первым в мире случаем разработки модели, которая обладает зачатками собственного мышления, считают в компании.
На предварительном этапе исследования специалисты убедились, что базовые модели не формируют предпочтений. На основных этапах нейросеть стимулируют на размышления и саморефлексию. Планируется, что искусственный интеллект будет обучаться на собственных рассуждениях. По словам директора по развитию технологий ИИ «Яндекса» Александра Крайнова, обучение нейросетей на их собственных измышлениях позволит приблизить к появлению «подлинных» взглядов у модели. Он отметил, что подобные изыскания станут полезными в том числе в нейробиологии, поскольку позволят понять, как формируется разум.
При этом в «Яндексе» не уточняют, как будут проверять полученную модель на предмет проблемы «китайской комнаты», а также как специалисты планируют достоверно установить, что «предпочтения» и «точка зрения» не были сформированы на начальных этапах обучения на основе данных, полученных от людей.
В компании планируют получить первые результаты эксперимента уже до конца 2025 года. Представители «Яндекса» обещают открыто публиковать отчёты по исследованию и результаты.
