Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой
Vernadsky National Library of Ukraine
Переглянути архів Інформація| Поле | Співвідношення | |
| Title |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой
|
|
| Creator |
Иваница, С.В.
|
|
| Subject |
Концептуальные проблемы создания систем искусственного интеллекта
|
|
| Description |
В статье рассмотрена точность представления чисел с плавающей запятой и показаны формулы для расчета абсолютной и относительной погрешностей для бинарных и постбинарных форматов. Получены формулы для расчета погрешностей всех форматов и выявлена закономерность между значениями погрешности постбинарного и бинарного форматов одного класса точности. Рассмотрены стандартные способы округления чисел с плавающей запятой и предложен новый способ округления чисел в постбинарных форматах.
Розглянуто точність подання чисел з рухомою комою і показані формули для розрахунку абсолютної і відносної похибок для бінарних і постбінарних форматів. Отримано формули для розрахунку похибок всіх форматів і виявлена закономірність між значеннями похибки постбінарного і бінарного форматів одного класу точності. Розглянуто стандартні способи округлення чисел з плаваючою комою і запропоновано новий спосіб округлення чисел в постбінарних форматах. In the article, precision of floating point numbers are considered, the formulas for calculating of the absolute and relative errors for binary and postbinary formats are shown. The formulas for calculating the errors of all sizes and pattern are obtained, rules for values of error of postbinary and binary formats one class of accuracy are found. Standard methods of rounding floating point numbers are considered. New method of number rounding in postbinary formats is proposed. |
|
| Date |
2014-03-13T21:14:11Z
2014-03-13T21:14:11Z 2012 |
|
| Type |
Article
|
|
| Identifier |
Оценка погрешности представления вещественных чисел в постбинарных форматах с плавающей запятой / С.В. Иваница // Штучний інтелект. — 2012. — № 4. — С. 34-42. — Бібліогр.: 8 назв. — рос.
1561-5359 http://dspace.nbuv.gov.ua/handle/123456789/57708 004.622:004.222.3:004.222.5 |
|
| Language |
ru
|
|
| Relation |
Штучний інтелект
|
|
| Publisher |
Інститут проблем штучного інтелекту МОН України та НАН України
|
|