fixed-point
Каков самый быстрый и простой способ выполнения основных арифметических операций над строками, представляющими вещественные числа в PHP? У меня есть строка, представляющая десятичное значение MySQL, с которым я хочу работать и возвращать результат в базу данных после этого. Я хотел бы избежать ошибок, связанн...
Я работаю с CUDA (GPGPU programming) для некоторых исследований, и врожденная производительность двойной точности страдает по сравнению с производительностью одиночной точности (в 24 раза!), благодаря новой аппаратной архитектуре. Я решил попробовать использовать два uint для представления одного двойника. Та...
Я пытаюсь написать метод в Python 3.2, который шифрует фразу, а затем расшифровывает ее. Проблема в том, что числа настолько велики, что когда Python делает математику с ними, он немедленно преобразует ее в научную нотацию. Поскольку мой код требует, чтобы все числа функционировали в научной нотации, это бесп...
Я бы предположил, что GL_FIXED было быстрее, но документы iPhone на самом деле говорят использовать GL_FLOAT, потому что GL_FIXED должен быть преобразован в GL_FLOAT. Это то же самое на Android? Я предполагаю, что это зависит от телефона,но как насчет последних популярных (Nexus One, Droid / Milestone и т. д....
Я новичок в мире комбинаторов с фиксированной точкой, и я предполагаю, что они используются для рекурсии на анонимных лямбдах, но я действительно не должен использовать их или даже был в состоянии полностью обернуть свою голову вокруг них. Я видел пример в Javascript для Y-комбинатора, но не смог его успеш...
Я создал структуру для представления положительного числа с фиксированной точкой. Я хочу, чтобы числа в обеих сторонах десятичной точки состояли из 2 байт. typedef struct Fixed_t { unsigned short floor; //left side of the decimal point unsigned short fraction; //right side of the decimal point } Fixe...
Я новичок в Ada и опробовал типы "Дельта" с фиксированной точкой. В частности, я создал 32-разрядный Дельта-тип диапазона 0.0 .. 1.0. Однако, когда я пытаюсь выровнять некоторые значения, я получаю CONSTRAINT_ERROR. Насколько я знаю, этого не должно произойти с моим заданным диапазоном. Порог для этой оши...
У меня есть следующий метод умножения двух 32-битных чисел в фиксированной точке Формат 19.13. Но я думаю, что есть проблема с этим методом: 1.5f округляется до 2.0f, в то время как -1.5f округляется до -1.0f. Мне кажется, что -1.5 следует округлить до -2.0f. Во-первых, имеет ли смысл текущее округление...
Я хочу сохранить 3.50 в таблицу mysql. У меня есть поплавок, в котором я его храню, но он хранит как 3.5, а не 3.50. Как я могу заставить его иметь трейлинг-ноль?...