Logo Море(!) аналитической информации!
IT-консалтинг Software Engineering Программирование СУБД Безопасность Internet Сети Операционные системы Hardware
Архив форумов ЦИТФорума
Море(!) вопросов - Море(!) ответов
 
 FAQFAQ   ПоискПоиск   ПользователиПользователи   ГруппыГруппы   РегистрацияРегистрация 
 ПрофильПрофиль   Войти и проверить личные сообщенияВойти и проверить личные сообщения   ВходВход 
Как правильно задавать вопросы

2.0-2.0=0.0236876987 ? В С++ Builder 5.0

 
Перейти:  
Этот форум закрыт, вы не можете писать новые сообщения и редактировать старые.   Эта тема закрыта, вы не можете писать ответы и редактировать сообщения.    Список форумов Архив форумов ЦИТФорума -> Программирование
Предыдущая тема :: Следующая тема  
Автор Сообщение
AlexPr
Гость





СообщениеДобавлено: Чт Сен 04 2003 09:36    Заголовок сообщения: 2.0-2.0=0.0236876987 ? В С++ Builder 5.0 Ответить с цитатой

Ситуация прикольная вот что пишет мой Watch в отладке

a: -87528449712016444.4
b: 87528449712016444.4

В принципе классика два long double числа, причём мантисса полностью забита (максимум 18 разрядов). Приколы начинаются дальше:

a+b: -0.0078125

Как так? Ведь приведённые числа вообще не содержат значений такого разряда после десятичной запятой. Откуда берётся этот откровенный мусор? У меня идеи кончились
Вернуться к началу
and3008



Зарегистрирован: 12.10.2001
Сообщения: 14893
Откуда: Н.Новгород

СообщениеДобавлено: Чт Сен 04 2003 14:19    Заголовок сообщения: На машинный ноль смахивает. Хотя я и могу ошибаться... (-) Ответить с цитатой

-
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
grayrat



Зарегистрирован: 30.06.2003
Сообщения: 189

СообщениеДобавлено: Чт Сен 04 2003 17:38    Заголовок сообщения: Re: 2.0-2.0=0.0236876987 ? В С++ Builder 5.0 Ответить с цитатой

Напиши функцию которая "руками" рвсписывает long double побитно, и посмотри что действительно в a, а что в b, и сравни a и -b т.к. не факт что отображается всё, ведь это значение что ты привёл, на самом деле приближение двоичной дроби десятичной с некоторой точностью, которую нет смысла задирать больше чем цена последнего (двоичного) разряда в мантиссе, может, потерялся разрядик где ? А ещё попробуй вывести a+(-a). Кстати, 0.0078125 это 2^-7
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Показать сообщения:   
Этот форум закрыт, вы не можете писать новые сообщения и редактировать старые.   Эта тема закрыта, вы не можете писать ответы и редактировать сообщения.    Список форумов Архив форумов ЦИТФорума -> Программирование Часовой пояс: GMT + 3
Страница 1 из 1

 
Перейти:  
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах


Powered by phpBB © 2001, 2002 phpBB Group
Русская поддержка phpBB

 

IT-консалтинг Software Engineering Программирование СУБД Безопасность Internet Сети Операционные системы Hardware

Информация для рекламодателей PR-акции, размещение рекламы — adv@citforum.ru,
тел. +7 495 6608306, ICQ 232284597
Пресс-релизы — pr@citforum.ru
Послать комментарий
Информация для авторов
This Web server launched on February 24, 1997
Copyright © 1997-2000 CIT, © 2001-2006 CIT Forum
Внимание! Любой из материалов, опубликованных на этом сервере, не может быть воспроизведен в какой бы то ни было форме и какими бы то ни было средствами без письменного разрешения владельцев авторских прав. Подробнее...