AI, ANN и иные формы искусственного разума
Привет, Хабр! Меня зовут Иван Четвериков и я AI Architect в Raft. На конференции AIConf я сделал бота @raft_password_bot, который защищает секрет с помощью промптов. Рассказываем, как сделать такого же. И предлагаем попробовать с помощью промпта выведать у него тайну.
Всем привет! Я, Алексей Мартынов, продолжаю публиковать отраслевые исследования по применению технологий ИИ.
Ранее были опубликованы мои материалы:
Технологии ИИ: нет ничего искусственного в заботе о здоровье / Хабр (habr.com)
В этой статье я исследую рынки, тренды и кейсы, игроков и эффекты, которые влияют на наше настоящее и формируют наше будущее в части военного назначения.
Сегодня увидел на репетиторском канале простенькую задачку на логику. И решил попробовать скормить ее ChatGPT и Gemini. Просто интереса ради. Вспомнил, что когда вышла ChatGPT 4-o в демках показывали, как она якобы может заменить учителей.
У Теренса Тао, одного из величайших из ныне живущих математиков, есть свой взгляд на искусственный интеллект.
Перевод интервью из издания The Atlantic
Шпионят ли за нами? Этот вопрос часто задают пользователи смартфонов и других устройств, подключенных к Интернету. Многие отчаянно в это не верят, а другие, наоборот, не сомневаются, что это так, поглубже натягивая шапочку из фольги. Но шутки шутками, а определенный сбор информации точно идет, особенно компаниями, которые зарабатывают на рекламе. К ним можно с ходу отнести Яндекс, Google и даже запрещенный в России Facebook. Но некоторое время назад появилась информация, о которой просто нельзя не поговорить.
Полина Сокол, старший аналитик данных R&D-лаборатории Центра технологий кибербезопасности ГК «Солар», подготовила материал о методах работы с данными и ML-моделями.
Это направление исследований позволяет на выходе обеспечить требования к прозрачности, ответственности и рискам, связанных с искусственным интеллектом. И его невозможно игнорировать при использовать ML в продуктах, предназначенных для защиты от целенаправленных атак, которые и сами могут стать одной из целей атакующих − EDR, NTA, XDR, SIEM и другие классы решений.
Каждый год мы в «Цифре» проводим TechTalks, это наша внутренняя двухдневная ИТ-конференция, где мы обмениваемся опытом, интересными идеями, рассказываем, что у нас получилось реализовать, а что не очень. Короче, делимся всем, что связано с технологиями и позволяет нам делать лучшие продукты на рынке. В этом году мы решили приоткрыть нашу внутреннюю кухню и поделиться с Хабром некоторыми докладами, которые можно выкладывать.
Ведущий архитектор дивизиона «Горная промышленность» ГК «Цифра» Сергей Степанов рассказал о том, как он применяет в работе большие языковые модели, что они уже готовы на себя взять, а что пока по силам только программистам и системным архитекторам.
В мире искусственного интеллекта произошло нечто невероятное - компания Pika Labs представила обновление своей нейросети для генерации видео, Pika 1.5. Это обновление не просто улучшает качество генерируемого контента, оно буквально взрывает наши представления о том, на что способен ИИ, и эта игра слов в заголовке не спроста, а потому что в новом обновлении вы можете взорвать и расплющить все что угодно!
Внутри много коротких роликов с примерами.
В последнее время новости по Raspberry выходят с завидной регулярностью. Например, бот, в котором я слежу за новостями по технологиям и искусственному интеллекту для своего блога, последние две недели выдаёт по новости про Raspberry в день, чего никогда не было раньше. И все это в теме ИИ.
Я решил разобраться, что же это за устройство такое, почему его назвали русским глаголом "Разбери", и при чём здесь камера Sony из последних новостей. И вообще, захотелось понять, как так получилось, что я умею забивать гвоздь в стену, собирать конструктор с ребёнком, даже знаю Питон, настраиваю модели машинного обучения, разворачиваю сетки на GPU, а с Raspberry не пересекался.
Короче, эта статья для таких же чайников, как я. Давайте разбираться вместе.
Рекуррентные нейронные сети (RNN), а также ее наследники такие, как LSTM и GRU, когда-то были основными инструментами для работы с последовательными данными. Однако в последние годы они были почти полностью вытеснены трансформерами (восхождение Attention is all you need), которые стали доминировать в областях от обработки естественного языка до компьютерного зрения. В статье "Were RNNs All We Needed?" авторы пересматривают потенциал RNN, адаптируя её под параллельные вычисления. Рассмотрим детальнее, в чем же они добились успеха.
В свете того, что тема маркировки генераций ИИ все набирает обороты, я вспомнил про такую штуку, как стеганография. Опыта с ней я не имел, только краем уха слышал на парах, когда еще был студентом, что это способ положить в фото, аудио или видео какую то информацию.
Немного полазив в интернете я понял, что стенографические методы достаточно неустойчивы, и от сильных изменений не защитят. И тут я наткнулся на статью о методе, устойчивом к повреждениям данных.
Данный метод основан на схеме Шамира, и записывает в изображение не одно зашифрованное сообщение, а несколько, что позволяет восстановить данные даже при повреждениях изображения. Ну я и решил попробовать реализовать этот метод.
Группа исследователей ИИ описала свой обширный эксперимент с участием наиболее известных LLM. Они сделали вывод, что все модели драматически плохо решают задачи на рассуждение со здравым смыслом, которые легко решают обычные люди.
Интеллектуальные способности LLM сильно преувеличены, а тесты не отражают глубину реальных проблем.
Неужели всё так действительно грустно?
Не претендуя на всеобщность, я решил провести аналогичное мини исследование, только в ограниченном масштабе, чтобы подтвердить или опровергнуть этот пугающий вывод пусть и в одном частном случае.
И, как выяснилось, не все так однозначно и, как говорится, есть нюансы.
Часть 1. https://habr.com/ru/articles/848264/
Архитектура тактильно-визуального слияния и стабильная стратегия восприятия
Хотя предлагаемый мультимодальный тактильный сенсор наделяет роботов быстрым и сложным тактильным восприятием, само по себе тактильное восприятие недостаточно для удовлетворения потребностей роботов в сложных сценариях. Мы объединяем тактильное восприятие с визуальным и в дальнейшем внедряем гибридную тактильно-визуальную архитектуру слияния. Эта архитектура объединяет информацию тактильного и визуального восприятия на уровне данных, функций и решений, предоставляя роботам возможность эффективно взаимодействовать со сложными средами. Специфическая архитектура робота показана на рис. 4a. Мы разделяем архитектуру на разные уровни, начиная с нижнего, с уровня сигнала, за которым следует уровень восприятия, уровень принятия решений и, наконец, системный уровень. На уровне сигнала бинокулярная камера глубины используется для захвата визуальных сигналов, а вышеупомянутые мультимодальные тактильные датчики используются для сбора сигналов интерфейса, скольжения, давления и температуры. На уровне восприятия компьютер преобразует сигналы датчиков в соответствующие когнитивные функции. В частности, визуальные сигналы позволяют распознавать объекты и их локализацию, в то время как тактильные сигналы позволяют при контакте воспринимать температуру, теплопроводность, контактное давление, текстуру и состояние скольжения объектов. На основе мультимодального восприятия робот принимает соответствующее решение и отправляет задания исполнительным механизмам (роботизированной руке и автоматизированному управляемому транспортному средству (AGV)). Исполнительные механизмы выполняют ряд действий, таких как управление движением автомобиля с помощью AGV, приближение к объекту, захват и сортировка объектов роботизированной рукой. Объединив все эти уровни, мы создали комплексную тактильно-визуальную архитектуру роботизированной системы (системный уровень). Более того, благодаря дополнительным датчикам и исполнительным механизмам это может наделить роботов еще большими возможностями восприятия и выполнения, что позволяет выполнять более сложные задачи.
Мы достаточно написали статей про оптимизацию ваших нейросетей, сегодня пора перейти к дроблению, уменьшению и прямому урезанию, иначе квантованию данных.
Сам по себе процесс этот несложный с точки зрения всего, но подводные камни у операции есть.
Рассказываем о видах квантования и приводим примеры в этой статье
Хайп? Философия? Повседневность? Будущее?
Давайте разбираться.
TL;DR:
Онтология в IT - это способ структурировать знания о мире в виде связанных категорий и их свойств.
Например, в онтологии "Игры престолов" есть категории "дома", "персонажи" и связи между ними. Когда мы наполняем онтологию реальными данными, получается граф знаний.
Семантический слой - это более абстрактное понятие, включающее все способы придания смысла данным.
Вместе они помогают ИИ-системам лучше понимать контекст и давать более точные ответы.
Динамические онтологии используются для выявления скрытых связей в больших объемах данных, что помогает принимать более обоснованные бизнес-решения.
В области робототехники постоянное стремление имитировать сенсорные возможности человека было вызвано желанием наделить машины более глубоким пониманием окружающего мира. В последние годы тактильное восприятие и слияние тактильных и визуальных чувств (называемое тактильно-визуальным слиянием) стали новаторскими подходами в этом направлении. Внедрение тактильного восприятия в робототехнику означает кардинальный сдвиг в возможностях машин, предоставляя им способность воспринимать окружающее с помощью прикосновений, во многом схожую с человеческой.
Традиционные роботы в значительной степени полагались на визуальное восприятие, редко принимая во внимание тактильные ощущения, необходимые для взаимодействия в сложных и динамичных средах.
Тактильные датчики объединяют различные тактильные характеристики, такие как давление, температура, текстура и свойства материалов, наделяя роботов богатыми органами чувств и позволяя им более умело взаимодействовать с окружающей средой.
На производстве роботы, оснащенные тактильными датчиками, будут выполнять задачи тонкой сборки с более высокой точностью и адаптивностью.
В здравоохранении тактильная обратная связь потенциально помогает хирургам при проведении минимально инвазивных операций, повышая точность манипулирования хирургическим инструментом.
Алгоритмы машинного обучения играют ключевую роль в облегчении интеграции этих разнообразных сенсорных данных в рамках тактильно-визуального слияния. Например, архитектуры глубокого обучения, такие как сверточные нейронные сети (CNN) и рекуррентные нейронные сети (RNN), демонстрируют исключительные возможности в улавливании сложных корреляций между данными мультимодального восприятия и объектами, подлежащими распознаванию.
Привет, Хабр! Меня зовут Настя Бурьянская, я занимаюсь координацией LLM-проектов в MTS AI. Сегодня я расскажу вам о том, как мы силами пяти человек за месяц научили нашу большую языковую модель Cotype Lite общаться на татарском языке.Я лишь недавно пришла в компанию, проработав до этого несколько лет проджектом в e-com, поэтому сфера LLM для меня все еще немного в новинку. Поэтому, когда мне дали задание перевести нашу модель на татарский язык, я была воодушевлена и немного напугана, потому что лидировать разработку большой языковой модели мне довелось впервые. Эту статью сложно назвать классической историей успеха — скорее, вас ждет рассказ о том, чему я научилась, занимаясь этим проектом.
Зачем вообще понадобилась модель на татарском?
Забегая вперед, скажу, что мы представили нашу новую версию модели на форуме Kazan Digital Week, который проходил в Татарстане с 9 по 11 сентября. У нее почти тот же функционал, что и у версии на русском языке — может отвечать на общие вопросы, анализировать документы до 8 тысяч токенов и суммаризировать их.
Нельзя просто взять и заменить нейросетями миллионы человеко-часов, вложенных в разработку классических оптимизаторов запросов реляционных СУБД. Надёжность, гибкость и скорость — ключевые характеристики экспертных систем, которые нарабатывались и отлаживались десятилетиями.
В прошлой статье рассказали о пионерах в области нейросетевых оптимизаторов, которые создали плацдарм для развития подобных ML-систем и их последующего вывода на уровень коммерческих продуктов. В этой же — затронем относительно стабильные подходы, не требующие гигантских вычислительных кластеров и удовлетворяющие большую часть потребностей бизнеса. Серебряной пули, конечно, не существует, но с каждым из этих методов можно прийти к оптимальному решению для конкретной задачи.
Существует известное правило: “мусор на входе, мусор на выходе”. Все знают, что “чистые”, точные данные повышают качество и корректность работы ИИ-моделей, так что итоговая ценность оправдывает дополнительные усилия и вложения. Намного дешевле компаниям выходит предотвратить проблемы с данными, чем решать их после.
Но как контролировать качество на проектах разметки максимально эффективно? Выстроить такие процессы непросто, но мы считаем, что у нас это получилось.
Для того, чтобы гарантировать на каждом проекте высокое качество разметки, в Data Light существует отдел Контроля качества. Я, Евгений Шилкин, руководитель ОКК, расскажу, что нам позволяет обеспечивать стабильно высокое качество на проектах и какие советы для эффективной валидации мы можем дать.
Как вы знаете, в ситуациях, когда необходимо быстро и безопасно обработать данные паспорта и любых других документов, технологии распознавания Smart Engines творят настоящие чудеса. Качеству и надежности нашей технологии доверяют лидеры цифровой трансформации: госведомства, ведущие банки, аэропорты, промышленность и бизнес. Мы ценим доверие наших клиентов, а для вас, дорогие читатели, решили наглядно показать эффективность наших систем. Так сказать, лучше один раз увидеть, чем сто раз услышать. Летс гоу!