precision

Итак, я получил ответ на мой последний вопрос (Я не знаю, почему я не подумал об этом). Я печатал double используя cout Это было округлено, когда я этого не ожидал. Как я могу сделать cout print a double используя полную точность?...

Я хотел, чтобы отобразить число до 2 десятичных знаков. Я думал, что смогу использовать toPrecision(2) в JavaScript . однако, если число 0.05, Я 0.0500. Я бы предпочел, чтобы все осталось по-прежнему. см. На JSbin. каков наилучший способ сделать это? Я могу придумать кодирование нескольких решений, но я ...

недавно мне пришлось сериализовать двойник в текст, а затем вернуть его обратно. Значение, кажется, не эквивалентно: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False а по MSDN: строки стандартного числового формата, вариант...

нет, это не еще один "почему (1/3.0)*3 != 1" вопрос. Я много читал о плавающих точках в последнее время; в частности, как один и тот же расчет может дать разные результаты на различных архитектурах или параметры оптимизации. это проблема для видеоигр, которые хранят повторы, или одноранговая сеть (в отличие...

Я новичок в JavaScript и только что обнаружил toFixed() и toPrecision() для округления чисел. Однако я не могу понять, в чем разница между ними. В чем разница между number.toFixed() и number.toPrecision()?...

существует опция в R, чтобы получить контроль над цифровым дисплеем. Например: options(digits=10) предполагается дать результаты расчета в 10 цифр до конца R сессии. В файле справки R параметр definition for digits имеет следующий вид: цифры: управляет количеством цифр для печати при печати числовых ...

Я знаю, что вы не можете полагаться на равенство между значениями типа double или decimal обычно, но мне интересно, является ли 0 особым случаем. хотя я могу понять неточности между 0.00000000000001 и 0.00000000000002, 0 сам по себе кажется довольно трудно испортить, так как это просто ничего. Если вы неточ...

существуют ли типы данных с лучшей точностью, чем float?...

Я пишу программу, где мне нужно удалить дубликаты точек, хранимых в матрице. Проблема в том, что когда дело доходит до проверки, находятся ли эти точки в матрице, MATLAB не может распознать их в матрице, хотя они существуют. в следующем коде intersections функция получает точки пересечения: [points(:,1), po...

Я пишу приложение, которое читает большие массивы поплавков и выполняет некоторые простые операции с ними. Я использую поплавки, потому что я думал, что это будет быстрее, чем удваивается, но после некоторых исследований я обнаружил, что есть некоторая путаница в этой теме. Может кто-нибудь уточнить это?...