grayrat
Зарегистрирован: 30.06.2003 Сообщения: 189
|
Добавлено: Чт Сен 04 2003 17:38 Заголовок сообщения: Re: 2.0-2.0=0.0236876987 ? В С++ Builder 5.0 |
|
|
Напиши функцию которая "руками" рвсписывает long double побитно, и посмотри что действительно в a, а что в b, и сравни a и -b т.к. не факт что отображается всё, ведь это значение что ты привёл, на самом деле приближение двоичной дроби десятичной с некоторой точностью, которую нет смысла задирать больше чем цена последнего (двоичного) разряда в мантиссе, может, потерялся разрядик где ? А ещё попробуй вывести a+(-a). Кстати, 0.0078125 это 2^-7 |
|