Знаменитый программист Фабрис Беллар представил свою новую разработку: программа для сжатия без потерь англоязычных сообщений по языковой модели GPT-2.

Например, сообщение

This lossless compressor achieves a much higher compression rate on English texts than general purpose compressors (116 символов)

сжимается всего в 10 символов:

猟慴䅭铕袢珏寻䡷䁞꽱

Средний уровень компрессии составляет 15 %.

Сжатие осуществляется с учётом вероятности появления следующего слова по языковой модели нейросети GPT-2, которую разработала компания OpenAI (на Хабре был обзор GPT-2 и новость про генератор текста). Это нейросеть с 345 млн параметров на архитектуре Transformer (Фабрис Беллар отмечает, что самая большая модель GPT-2 с 1,5 млрд параметров даёт весьма условное улучшение сжатия). Далее арифметический кодер генерирует битовый поток. В этой демонстрации каждый сжатый символ содержит 15 бит данных и для примера представлен в юникодовских диапазонах двух наборов символов: CJK (китайский-японский-корейский) и хангыль.

Как в компьютерной индустрии есть обычные ПК и суперкомпьютеры, также и среди разработчиков выделяются эдакие гиганты, обладающие сверхсилой. Как ещё можно назвать человека, чей список проектов выглядит так:

1989: LZEXE
1996: Harissa
1997: Публикация формулы Беллара для вычисления разрядов числа Пи
1999: Linmodem
2000: Вычисление самого большого известного простого числа (исходный код всего 438 байт)
2000: FFmpeg
2001: Компилятор TCC (Tiny C Compiler или TinyCC)
2002: TinyGL
2002: QEmacs
2003: QEMU
2004: Загрузчик TinyCC
2005: Передатчик сигнала в формате DVB-T с компьютера на телевизор
2009: Мировой рекорд по вычислению числа Пи
2011: Эмулятор компьютера с Linux на JavaScript

Каждая из этих программ могла бы стать венцом карьеры для любого разработчика, но Фабрис Беллар продолжает работать.

Плата sysmoQMOD для четырёх LTE-модемов

Девять лет назад легендарный программист Фабрис Беллар разработал LTEENB – LTE Base Station Software: это софтверный эмулятор базовой станции 4G LTE на обычном ПК, с использованием доступного радиооборудования. Благодаря ему базовую станцию LTE технически можно использовать как обычный хотспот WiFi.

К сожалению, то ли кто-то купил все права на разработки Беллара, то ли его прижали правоохранительные органы, но с сайта Фабриса исчезло описание инструментов LTE Tools и документация на генератор частот LTEMOD.

Что может быть лучше в жизни, чем найти своё призвание и следовать ему? Толя закончил факультет прикладной математики в далёком 1981 году, это был всего второй выпуск нового факультета. Инженер-программист считался необычной и перспективной профессией будущего (так оно и вышло). Но он пришёл не за модной специальностью, как девушки в его группе. Он пришёл туда, куда позвало сердце.

За свою карьеру Толя сменил десяток работ. Советские НИИ, НПО, потом кооперативы, несколько банков, торговые предприятия. Он написал бухгалтерию и склад для местного универсама в FoxPro под DOS задолго до того, как такая идея пришла в голову Борису Нуралиеву. Он написал программу, которая диагностировала хронические болезни просто по скану сетчатки, за что получил государственную премию. Но Толю никогда не интересовал бизнес. Деньги нужны были только для того, чтобы отдать их жене. Всегда его интересовало лишь решение интересных задач.

FFmpeg — швейцарский нож для мультимедиа. Совершенно незаменимая программа, которую использует в повседневной жизни почти каждый, даже не зная об этом. Например, вы сняли видео и заливаете на видеохостинг — оно перекодируется и публикуется уже в другом разрешении/формате/размере. Как вы думаете, какая программа выполнила транскодирование? Вполне возможно, что под капотом на сервере работает FFmpeg.

FFmpeg объединяет более 300 видео/аудио/графических кодеков, декордеров, муксеров, демуксеров и фильтров. Благодаря ему вы можете написать собственный видеоплеер в тысячу строчек кода, не разбираясь с кишочками видеообработки.

Это «движок» почти всех современных инструментов для обработки/сжатия/редактирования видео. Они просто предлагают графический интерфейс с кнопками, а ffmpeg делает реальную работу.

Французский программист Фабрис Беллар (известен также как основатель проектов FFmpeg и QEMU) на своём персональном компьютере под управлением Fedora 10 установил новый мировой рекод вычисления числа Пи с точностью до 2,7 трлн знаков после запятой (2242301460000 знаков в шестнадцатиричном разряде или 2699999990000 в десятичном). Это любопытное достижение, ведь рекорды за последние 14 лет ставились на суперкомпьютерах стоимостью в миллионы долларов.

Компьютер Беллара имеет следующие характеристики:

64-х битная версия Fedora 10
Процессор: Core i7, 2.93 ГГц
Память: 6 ГБ
Диск: пять дисков Seagate Barracuda 7200.11 по 1.5 ТБ
Файловая система: ext4

Один из самых феноменальных программистов Фабрис Беллар (Fabrice Bellard) продолжает в одиночку создавать удивительные проекты. Автор LZEXE, Linmodem, QEMU, FFmpeg и эмулятора Linux PC на Javascript выпустил новый шедевр.

LTEENB – LTE Base Station Software: это софтверный эмулятор базовой станции 4G LTE на обычном ПК, с использованием доступного радиооборудования. Фабрис говорит, что теперь базовую станцию LTE технически можно использовать как обычный хотспот WiFi.

Некоторые программисты настолько хорошо известны, что не нуждаются в особом представлении. Наверное, Фабрис Беллар — самая яркая звезда современности. Автор мультимедийного комбайна FFmpeg, эмулятора QEMU и десятков других полезных программ — абсолютный гений и пример программиста 100х, который в одиночку принёс больше пользы миру, чем многие корпорации с сотнями разработчиков. В общем, все знают Фабриса — про него ещё была статья на Хабре двенадцать лет назад…

… Но по просьбам молодых читателей мы решили вернуться к этой теме. Оно и к лучшему, ведь Фабрис многое сделал за это десятилетие, особенно в области нейросетей.