Определение слова «Ошибка округления»

Большая советская энциклопедия:

Ошибка округления
(математика)
абсолютное значение разности данного числа а и числа а*, получающегося в результате округления (См. Округление) а.

Смотреть другие определения →


© «СловоТолк.Ру» — толковые и энциклопедические словари, 2007-2020

Top.Mail.Ru
Top.Mail.Ru