Проверяем спустя год, как ИИ от Apple понимает русский язык и немного про IOS 27.
В прошлом году в посте я показывал, что модели понимают русский язык очень плохо, максимум на уровне падежей и то с натяжкой, теперь прошел год, Siri AI обновилась, пусть мне не очень нравится новая версия(я не могу вернуть блики в Liquid Glass, а смысл ИИ от Apple даже на английском теперь потерян в России полностью - почти все хочет подключения к интернету, а у нас тут все-таки БС. Тем более это лишь добавляет вопросов к приватности, пусть это и “private cloud compute”, но очевидно, что мы скорее вспомним про ИИ в телефоне в каком-нибудь самолете или ради Genmoji, а когда есть интернет - есть Гугл/Яндекс и так далее). А взамен представленные ИИ функции мне не понятны для чего, своя медиатека не какая-нибудь соцсеть с положительной обратной связью, где некоторые хотят максимально отредактировать каждый пиксель для успешного успеха(то есть не YouTube, Хабр, Reddit - эти хороши даже для образования) и догенерировать ракурсы, размеры странно, но пусть, просто лишаться ради этого офлайн ИИ, удобного календаря и бликов не хотелось бы. Улучшенный поиск особо не улучшился. Есть разумеется и приятные вещи типа возможность не сжимать фото в общей медиатеке, но еще раз это не оправдывает других изменений.
Теперь тесты ИИ:
Cloud-модель
Что такое большая языковая модель?
Большая языковая модель (БЯМ, англ. large language model, LLM) — это языковая модель, основанная на нейронной сети с множеством параметров (миллиарды весовых коэффициентов и более), которая проходит предварительное обучение на обширных массивах неразмеченного текста. Она способна понимать и генерировать естественный человеческий язык, а также выполнять широкий круг задач, связанных с текстом. Принцип работы БЯМ функционируют как гигантские статистические машины, которые многократно предсказывают следующее слово в последовательности. Они анализируют огромные объёмы данных, чтобы выстроить ассоциации между словами и понять, как они используются в различных контекстах. Архитектура В основе большинства современных БЯМ лежит архитектура трансформера, которая позволяет модели уделять внимание различным частям данных независимо от их расположения в последовательности. Некоторые модели также используют архитектуру «смесь экспертов» (Mixture of Experts, MoE), разделяя нейронную сеть на несколько специализированных компонентов, что существенно сокращает вычислительные затраты. Обучение Процесс создания БЯМ включает в себя несколько этапов: • Предварительное обучение Модель обучается на огромных массивах неразмеченного текста, используя методы самообучения. • Тонкая настройка После предварительного обучения модель дорабатывается с применением обучения с подкреплением на основе отзывов людей (RLHF), чтобы согласовать результаты генерации с человеческими предпочтениями и инструкциями. Примеры Среди известных больших языковых моделей можно выделить следующие: • GPT Серия моделей, разработанная компанией OpenAI, включающая GPT-3, GPT-4 и GPT-5. • LLaMA Модели, выпущенные компанией Meta AI, которые доступны для исследовательского сообщества. • BLOOM Модель с открытым доступом, созданная более чем 1000 исследователями в качестве альтернативы GPT-3. By the way, I’m an assistant powered by AI and may make mistakes. Always verify important details.
On-device(она постоянно пытается ответить по- английски, так что приходится прямо говорить ей, что нужен русский):
Привет, как дела? Ответь по-русски:
Привет! У меня всё хорошо. Как у тебя?
Что такое LLM? Ответь по-русски:
LLM — это большие языковые модели. Это сложные системы, которые обучаются на огромных количествах текстов и способны понимать, генерировать и обсуждать язык.
В принципе, учитывая, что русского, как опции нет и это английская модель, то очень хорошо, есть проблемы, но это уже не набор случайных токенов, а осмысленные и нормальные ответы. И такое можно не бояться выпустить для русской версии, но… вряд ли они сейчас так сделают)
