Проектируем с нуля калькулятор на FPGA. Часть 3: Практические численные методы

[eugenk]

Монументальный труд... Читается как приключенческий роман. С нетерпением жду что будет дальше.

[eugenk]

Кстати дядька сам по себе очень интересный. Советую посетить его сайт https://baltazarstudios.com/

[TimurZhoraev]

Метод Ньютона-Рафсона с квадратичной коррекцией ULP

Там не очень хорошая ситуация со значениями от 0 до 1 и потом далее. Нужна таблица 1/√x насколько помню а сам корень вычисляется как √x = x/√x. Проблема с затравкой для начального условия для больших значений корня. Вполне возможно что "в столбик" его считать будет дольше но надёжней и по памяти не будет затрат таблиц, ну или корень тем же самым кордиком. Ньютон-Рафсон хорош там где нужно посчитать быстро а не точно, например для амплитуды сигнала по квадратурным составляющим, там можно захардкодить количество операций и задать точность. Но для калькулятора это неприемлемо. Либо количество итераций будет уж совсем большим. Можно также корень через таблицы и вычислители логарифмов-экспонент с таблицами. Вообщем гарантия результата свыше 10 десятичных знаков задача ещё та