15.10.2004, 15:14
|
#21 |
|
Участник
|
Нашедший ошибку
А я как раз человек, который эту ошибку обнаружил!
 )Самое интерестное, что я нашел эту "фичу" как раз на реальных вычислениях в отчете - у меня был отчет выгружаемый в Excel где я "руками" расчытывал некие итоги из сумм умноженных на коэффициенты. И вот в этом отчете на реальных данных при расчете получалось два числа 9999.999999999999, которые при отображении показывались, действительно как 10000, но при сложении давали тоже 10000 ;((( Удалось обойти благодоря округлению сумм после умножения на коэфициент. Теперь аккуратнее отношусь к подобным вещам. Вот такая печальная история )
|
|
|
| Теги |
| баг, математика, округление |
|
|
Похожие темы
|
||||
| Тема | Ответов | |||
| Абстрактный классификатор | 52 | |||
| Здравствуйте дети! :) - еще одна ошибка | 11 | |||
| Просмотр SQL запросов к БД с помощью файла Log | 3 | |||
| Виртуальные поля | 6 | |||
|
Древовидный вид