Raicon Jul 2 at 22:37Почему дорогая LLM дороже: экономика инференса, которую видно в твоём 5-часовом лимитеLevel of difficultyMediumReading time28 minReach and readers12KArtificial IntelligenceNatural Language Processing * Machine learning * Programming * Research and forecasts in IT * AnalyticsTotal votes 8: ↑5 and ↓3+5Add to bookmarks27ShareComments2
kapetannemo Jul 3 at 16:34Умножение и сложение – это одна операция с тремя операндами, fma или MAC, в отечественной литературе умножение с накоплением. Используется вместо двух операций, т.к. подразумевает одно округление в процессе вычисления, что приводит к меньшей ошибке.
Raicon Jul 3 at 16:35Show previous commentВозможно, я не особо именно в этом разбираюсь. Это мне что-то нужно поправить, так как мои формулировки некорректны, или просто как дополнение?
Почему дорогая LLM дороже: экономика инференса, которую видно в твоём 5-часовом лимите