Научпоп

Привет хабр. Я человек, который часто слышит, что ИИ уничтожит мир или что-то в этом роде. Однако услышав слово ИИ я иногда думаю про интеллект свинки из Майнкрафт или о прогнозе погоды, а не о нейросетях. Почему? Сейчас вы узнаете.

Сегодня я научу вас классифицировать ИИ и сделаю более грамотным в этой сфере.

Есть множество различных видов искусственного интеллекта, но я поговорю лишь о том, что сейчас существует в нашем мире, а не о гипотетическом, не созданном сильном ИИ, а именно про слабый ИИ.

Вот виды существующего ИИ по работе с данными:

В октябре 2021 года я опубликовал на Хабре статью «Змей и дротик. От михраба до квазикристаллов», в которой кратко рассказал об апериодических мозаиках, в том числе, составленных Роджером Пенроузом и древнеперсидскими архитекторами. Не припомню, обращался ли я после этого в моём блоге к парадоксальным геометрическим проблемам. Но уже в конце октября текущего 2024 года нашлась ещё одна подобная тема, заслуживающая отдельной статьи на Хабре. Подсказал мне эту историю уважаемый Виктор Георгиевич Сиротин @visirok мой давний собеседник, который создал отличный блог на Хабре и размышляет о программировании и о программной архитектуре как о материализации идей — одноимённую группу он также ведёт в Телеграме. Статья же будет об удивительном сходстве между сегментами раковины наутилуса и очертанием мышечных волокон, которое недавно обнаружили венгерские учёные.

Придется начать немного издалека. Долгие века основой любого европейского (и, соответственно, российского тоже) мировоззрения была философия. Это был обязательный элемент в кругозоре любого публичного интеллектуала. Фактически, послевоенное поколение стало первым, которое отошло от этой традиции — и это дало свои плоды. Во многих вопросах современные публичные интеллектуалы, не зная истории мысли, выглядят абсолютно невежественными.

Многие концепции, кажущиеся нам банальными, имеют конкретных авторов. Например, естественная для современных технарей мысль о том, что «природа написана языком математики», была высказана Галилеем. До того, веками безраздельно господствовал Аристотель, который выдвинул тезис о том, что миры математики и физики ортогональны, и физика может быть постигнута лишь чувственно. Простейший формальный тезис опередил историю человечества на века.

На данный момент вся наука написана языком математики, а математика — это строгое и стройное здание, построенное на длинной цепочке логических выводов из нескольких самоочевидных аксиом. Мы знаем, что из нескольких формально простых правил дискретной математики и формальной логики выстроена вся инфраструктура IT.

Теперь немного ближе к теме. Несмотря на то что ИИ создан с помощью IT и математики, на самом деле нет понимания того, как он действительно устроен. Конечно, существуют модели трансформеров, различные алгоритмы градиентного спуска, тензоры и матрицы, но мы понятия не имеем, что именно они означают. Определенно, это не модель Галилея. Человеческий мозг и человеческая культура устроены совсем иначе. Все объяснения, которые мне удалось найти о том, почему расчет статистической вероятности следующего токена в цепочке ведет к имитации человеческого мышления, весьма эффективной во многих областях, сводятся к понятию «эмерджентности». Но эта самая эмерджентность почти не фигурирует ни в физике, ни в философии. По сути, объяснение «потому что так сложилось» было бы не менее убедительным.

Продолжаем тему про продукты российских разработчиков. Сегодня хочу обсудить сервисы видеоконференций, проблемы с зарубежными ВКС в России и наши аналоги на примере SaluteJazz.

Привет, Хабр! Меня зовут Дмитрий Фролов, я ведущий разработчик в Центре RnD МТС Диджитал. С ростом популярности LLM создание на них прототипа может прилететь даже тем, кто напрямую с ML не связан. Допустим, вы работаете аналитиком, а ваше начальство резко захотело генератор текста или отчетов в стиле клиентского менеджера с open-source LLM под капотом. Скорее всего, в таких задачах вы ни в зуб ногой, а разбираться с api и токенами нет времени и желания.

Самый простой способ выбрать подходящую модель для прототипа — взять несколько моделей, дать им одинаковый запрос и сравнить результаты. Так вы с минимальными усилиями получите наглядный пример их работы, оцените качество генерации и поймете, насколько перспективна модель для получения приемлемого результата.

Итак, велкам под кат, если вам интересно, как «на коленке» протестировать сразу шестнадцать LLM, какие результаты покажет тест и куда смотреть, если нужны более серьезные результаты.

Ни для кого не секрет, что доминирующей на данный момент архитектурой в области Deep Learning являются трансформеры. Они произвели настоящий фурор и стали основой для самых известных LLM. На данный момент они используются почти во всех фундаментальных моделях, от тех, что с открытым исходным кодом, таких как Mistral, до закрытых, таких как ChatGPT. Однако, трансформеры не лишены некоторых недостатков. Сегодня мы разберём архитектуру под названием Mamba, которая претендует на то, чтобы стать соперником трансформеров и решить их уязвимости.

Мы продолжаем разговаривать с клиентами об их бизнесе и на этот раз затронем тему телевидения. Как технологии меняют эту сферу? Региональный директор компании TVU Networks Тихон Макушев поделился историей развития телеэфиров, рассказал, как происходит съёмка и передача материала сегодня и как облачные технологии помогают творить магию телевидения.

Ближе к концу превосходной ленты Вима Вендерса «Идеальные дни» главный герой Хираяма пьёт пиво под мостом после того, как увидел, как Бизнесмен ухаживает за девушкой, в которую влюблён Хираяма. Внезапно к нему подходит Бизнесмен. Всё оказалось не так просто, но их беседа приводит их к фундаментальным вопросам:

Бизнесмен: Тени. Становятся ли они темнее, когда накладываются друг на друга?
Хираяма: Не знаю.
Бизнесмен: Я не знаю ещё очень многого... Именно так заканчивается жизнь... Наверно.
Хираяма: Давайте узнаем прямо сейчас.
Бизнесмен: Что?

И они выходят на свет уличного фонаря, чтобы изучить свои тени (сцена целиком).

Хотя Бизнесмен и не видит разницы, Хираяма уверен, что пересекающиеся тени действительно становятся темнее. «Они должны становиться темнее, это логично». Очень сильная сцена.

К сожалению, Хираяма ошибается. Тени не становились темнее. Источник света всего один, и он довольно далеко, поэтому тень — это просто отсутствие света. Не важно, сколько раз перекрыт источник света.

В 3D-видеоиграх же тени — это нечто совсем иное. Очень легко нарисовать тёмное пятно под ногами персонажа и предполагать, что всё остальное освещено. Возможно, Хираяма вспоминал тень-пятно из Metal Gear Solid, которая становится темнее, когда накладывается на другие?

Команде исследователей из МФТИ, ИТМО и Сколтеха удалось создать оптоэлектронный синапс — гибкий мемристор с гибридным электрическим и оптическим управлением. Он воспроизводит важные свойства синапсов головного мозга. Такое устройство может стать основой для создания искусственного глаза, а также приборов, функционирующих по принципу «вычислений‑в-сенсоре» («in‑sensor computing»). Вместе с создаваемыми сегодня в МФТИ искусственными нейронами, а также ранее показанными синапсами, они могут стать компонентами нейроморфных систем искусственного зрения. Препринт доступен по ссылке, статья находится на рассмотрении в высокорейтинговом научном журнале.

Химики Санкт-Петербургского государственного университета создали наномаркеры, с помощью которых можно наносить невидимые метки на товары и различные металлические предметы. Эта разработка поможет защитить ценные изделия от незаконного копирования и помешать появлению контрафакта на рынке металлов. Нанометки были разработаны под руководством постдока СПбГУ Дарьи Мамоновой в рамках гранта Российского научного фонда. О том, как работают наномаркеры, рассказала один из авторов разработки, доктор химических наук, профессор СПбГУ (кафедра лазерной химии и лазерного материаловедения) Алина Маньшина.

В дождливый день в Грюнау-им-Альмталь в Австрии, стая серых гусей мирно отдыхала на травянистом поле у ручья. Один гусь по кличке Эдес тихонько прихорашивался, другие отдыхали, спрятав клювы в перьях близ хвостов. Затем заиграл замаскированный динамик, который учёные установили неподалёку. Сначала прозвучало гудение одинокого самца гуся по имени Джошуа. Эдес продолжил заниматься своими делами. Затем раздался гудок, более низкий по тону, чем первый, с лёгким похрюкиванием. Эдес поднял голову. Пока остальные гуси оставались на своих тёплых местах, не обращая внимания на происходящее, Эдес рассматривал поле. Он только что услышал записанный «дальний зов» от своей спутницы жизни, самки гуся, которую учёные назвали Бон Джови.

Эдес и его сородичи живут неподалёку от Исследовательского центра поведения и познания имени Конрада Лоренца, названного в честь нобелевского лауреата, чьи эксперименты по импринтингу в 19-30-х годах убедили гусят, что он их мать. (С тех пор в этом районе постоянно изучают серых гусей). Директор центра, биолог и эколог птиц по имени Соня Кляйндорфер, показала мне кадры с Эдесом, чтобы продемонстрировать тонкости гусиного общения.

I. Общий обзор.
II. Коммерческие ракетные компании.
III. Спутниковые компании.
IV. Производители компонентов.
V. Проблемы и перспективы.

Разработанная сотрудниками кафедры защиты информации МФТИ флеш-карта оснащена блоком аутентификации, с помощью которого устройство распознает не только легальных пользователей, но и круг компьютеров, на которых его можно использовать. Также переносной носитель оснащен системой автоматического маскирования данных, что делает невозможным их считывание напрямую с микросхемы. 

Стек технологий безопасности для рабочих мест будет неполным без программ управления паролями для сотрудников. Почему? Потому что одной из самых частых причин взлома учетных записей являются слабые и скомпрометированные пароли. А с учетом того, что все больше сотрудников работают удаленно, адекватные методы парольного менеджмента становятся еще более важными.

Ниже собрал список доступных для российских компаний вариантов менеджеров паролей (если что, дополняйте в комментариях) и попробовал сравнить их.

Весной на Хабре я рассказывал о том, как для дипломного проекта создавал приложение для отслеживания объектов спортивного мероприятия. Из моего пет-проекта вырос полноценный реальный проект. Знания и навыки в области нейронных сетей, трекинговых библиотек и компьютерного зрения, которые я приобрел, были использованы для разработки системы отслеживания транспортных средств на производственных территориях. Эта система основана на применении сверточной нейронной сети — технологии, позволяющей компьютерам «видеть» и интерпретировать визуальную информацию.

В тексте я расскажу, в чем суть этой системы, остановлюсь на принципах работы, инструментах и архитектуре.

Начало

«Вы когда‑нибудь задумывались, каково это — органично сочетать технологию с творчеством?»

Привет, меня зовут Ден, и я всегда был на переднем крае технологического прогресса, движимый неутолимым любопытством к технической и творческой сторонам нашего цифрового мира, сегодня мы поговорим о LLM...

Цифровая реставрация аудио

Привет Хабр! С вами снова ServerFlow, и мы начинаем наш новый цикл статей о проектах связанных с GPU. В начале цикла мы хотим заняться непривычной для нас темой — нейросетями, а именно большими языковыми моделями LLM. В сентябре‑октябре, судя по новостям вышел особенно богатый урожай мультимодальных нейросетей в открытом доступе, в этом посте будем смотреть на Pixtral 12B и LLaMA 32 11B, а запускать их будем на двух народных и легко доступных на БУ‑рынке карточках для работы с нейросетями — Nvidia Tesla P100 и P40.