Применение модулярной арифметики с фиксированной точкой для ослабления влияния ошибок округления компьютерных вычислений/Оцоков, Ш. А.

Применение модулярной арифметики с фиксированной точкой для ослабления влияния ошибок округления компьютерных вычислений/Оцоков, Ш. А.

https://library.dvfu.ru/en/lib/document/EK/C9B6B4E0-9C27-4761-8540-573EEA7EE588/

Оцоков, Ш. А. (канд. техн. наук; Московский энергетический институт (технический университет)).
    Применение модулярной арифметики с фиксированной точкой для ослабления влияния ошибок округления компьютерных вычислений / Ш. А. Оцоков // Информационные технологии. - N 12 (2009), С. 50-54. - Библиогр.: с. 54 (4 назв. )

УДК

004.2

ББК 32.973-02

Рубрики: Вычислительная техника

   Архитектура вычислительных машин в целом

Кл.слова (ненормированные):
компьютерные вычисления -- преобразования Фурье -- Фурье преобразования -- модулярная арифметика -- математическое моделирование
Аннотация: Предложена модулярная арифметика с фиксированной точкой для исключения катастрофической потери точности при вычислениях с разномасштабными величинами.

QR code of document