Pull to refresh

Народный IT-ист: Как жили и работали программисты в СССР

... a Microsoft 6502 floating point BASIC one day ...

Поговорим об оптимизирующих компиляторах. Сказ первый: SSA-форма

Чаще всего floating point реализован по  IEEE ... более тонкой донастройки floating point Беда в том ...

NVIDIA представила 64-разрядный Tegra K1 процессор с двумя ядрами Denver

... EU 2 Fixed Point Units FXU 2 ... Units IFU 4 Floating Point Units FPU 2 ... Unit 1 Decimal Floating Unit DFU 1 ...

1 CPU 1 Гб – а я хочу мониторинг, как у больших дядей

... fixed point типы данных в противоположность floating point они ... явно только про float

О языке С и производительности

... вы видели типы float int8 и int32 ... или N бит floating point числа а потом ... значений как целых floating point зависит от операции ...

Почему и как написать убийцу 1С

... то ли fixed point float point но да типизация ...

Сверхдлинное преобразование Фурье на FPGA

... использовать нестандартные самописные floating point вычислители у которых ... проводить в fixed point с линейным ростом ... проще чем в floating point С другой стороны ...

С++: стреляем по ногам по-современному

... и получили Присвоили float получили float И да ... заменим на for float x 100000001 0f ... потребовали сделать его float добавив f и ... keyword always evaluates floating point value as double ...

Linux-2017: самые перспективные дистрибутивы

... texture compression and floating point textures Wat В ... GL_NV_texture_compression_s3tc_update GL_NV_timer_query А float point текстуры я и ...

Фатальные ошибки двоичной арифметики при работе с числами с плавающей точкой

... google на запрос floating point issues What Every ... Should Know About Floating Point Arithmetic

Писать веб-сайты на ассемблере полезно и приятно

... benchmark contains no floating point operations thus the ... Whetstone benchmark for floating point operations Весьма актуален ...

Величайшие программисты 21 века. Джон-Движок Кармак

... плавающей точкой FPU float point unit Потому что ... эмуляции этих самы float point вычислений Не могу ...

Assembler для Windows в Visual Studio

... XMM2 XMM3 for floating point arguments Additional arguments ... bits or less Floating point return values are ...

Начало пути — Часть 1. Программные решения.

... 32 bit floating point и 64 bit floating point Вся ...

О реализации точного представления чисел или «где хранить деньги?»

... сами названия FIXED FLOAT вместо ТОЧНОЕ ПРИБЛИЖЕННОЕ ... сокращения от fixed point и floating point Кроме того ...

Подсчитаем баги в калькуляторе Windows

... string constants and floating point constants across compilation ... with integral or floating point types Languages like ...

Ассемблер: x86/x86_64/Arm32/Arm64

... packed double precision floating point values from xmm2 ... packed double precision floating point values from xmm3 ...

Си должен умереть

float Q_rsqrt float number long i float x2 y ... const float ... long y evil floating point bit level hacking ... the fuck y float i y y ...

Возможности PostgreSQL, которых нет в MySQL, и наоборот

я записываю правильное FLOAT число Оно сохраняется ... html#DATATYPE FLOAT 8 1 3 Floating Point Types ... html#GUC EXTRA FLOAT DIGITS this is ... useful for dumping float data that needs ...

Эпоха Nvidia

... в основном с float который 32 битный ... 754 single precision floating point Раньше не было ... обычный процессор считает float 32 Покажите мне ...