ieee-754
Z3 возвращает удовлетворительную модель для этого бенчмарка: http://rise4fun.com/Z3/Bnv5m Однако запрос по существу утверждает, что a*b+0 эквивалентно a*b с использованием инструкции FMA, которая, как я полагаю, выполняется для чисел с плавающей запятой IEEE. Обратите внимание, что бенчмарк явно гарантируе...
Если иметь 8-байтовый раздел данных и записать в него значение с плавающей запятой двойной точности, при каких условиях сравнение путем численного сравнения и лексикографической сортировки байтов согласуется? Текущая версия: позитивные, тупоконечников Я считаю, что если число положительно, а представление я...
Возможный дубликат:неточный логарифм в Python Почему результаты math.log10(x) и math.log(x,10) различны? In [1]: from math import * In [2]: log10(1000) Out[2]: 3.0 In [3]: log(1000,10) Out[3]: 2.9999999999999996 ...
почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, =, где одно или оба значения NaN возвращает false, в отличие от поведения всех других значений. Я полагаю, что это упрощает численные вычисления в некотором роде, но я не мог найти явно заявленну...
каково самое большое" не плавающее " целое число, которое может храниться в двойном типе IEEE 754 без потери точности ?...
тип данных float представляет собой 32-разрядную плавающую точку IEEE 754 с одинарной точностью, а тип данных double-64-разрядную плавающую точку IEEE 754 с двойной точностью. Что это значит? И когда я должен использовать float вместо double или наоборот?...
Я знаю, что большинство десятичных знаков не имеют точного представления с плавающей запятой (математика с плавающей запятой сломана?). но я не понимаю, почему 4*0.1 печатается красиво, как 0.4, а 3*0.1 нет, когда оба значения на самом деле имеют уродливые десятичные представления: >>> 3*0.1 0.3000...
нет, это не еще один "почему (1/3.0)*3 != 1" вопрос. Я много читал о плавающих точках в последнее время; в частности, как один и тот же расчет может дать разные результаты на различных архитектурах или параметры оптимизации. это проблема для видеоигр, которые хранят повторы, или одноранговая сеть (в отличие...
можно ли получить деление на 0 (или бесконечности) в следующем примере? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } в обычных случаях это не будет, конечно. Но что, если a и b очень близко, может (...
этот вопрос уже есть ответ здесь: каково обоснование для всех сравнений, возвращающих false для значений IEEE754 NaN? 13 ответов соответствующий стандарт IEEE определяет числовую константу NaN (не число) и предписывае...