Почему дорогая LLM дороже: экономика инференса, которую видно в твоём 5-часовом лимите

[kapetannemo]

Умножение и сложение – это одна операция с тремя операндами, fma или MAC, в отечественной литературе умножение с накоплением.

Используется вместо двух операций, т.к. подразумевает одно округление в процессе вычисления, что приводит к меньшей ошибке.

[Raicon]

Возможно, я не особо именно в этом разбираюсь. Это мне что-то нужно поправить, так как мои формулировки некорректны, или просто как дополнение?