Создатель Redis написал ИИ-распознавание речи на чистом C — без Python и зависимостей

[LinkToOS]

Создатель Redis Сальваторе Санфилиппо (antirez) выложил на GitHub проект voxtral.c — реализацию инференса модели Voxtral Realtime 4B от Mistral на чистом C.

Здесь слово пропущено "This is a C implementation of the inference pipeline for the Mistral AI's Voxtral Realtime 4B model." А название статьи совсем неправильное.

[Dhwtj]

Питон больше не нужен?

[Artem_Omny]

А смысл питона, если нейросети на чём угодно могут писать? Логично, что пусть пишут на быстрых языках.

[broondulyak]

так питорч это всего шишь обертка над торчем который ни разу не питон 🤷‍♂️

[MaximKiselev]

Ещё мы модели столько не весили как по размеру так и по памяти была бы вообще сказка . Клод реально творит чудеса с C. Сам недавно столкнулся с проблемой адаптации одной программы под новые версии библиотек - клод смог пофиксить свежий форк, дописать новые патчи и даже пофиксить баг в изначальном проекте, который скопировали все другие разрабы. Реально, у меня это вызывает больше страх, чем удивление. Агенты генерят тонны кода на проверки которого ушли бы годы. Чего только стоит последний компилятор япа написанный с нуля....

[ZODIACwv]

компилятор был с большими проблемами и не масштабируемый, скорость тоже фиговая, скажем так, там больше проблем вызывала необходимость переписать все либы начиная с std с нуля

да и 2 ляма за генерацию ну такое

пока не парься