13.10.2004, 14:04
|
#11 |
|
Участник
|
2 Hezl
------------------------------------ Дело не в точности - 9999.9999999999999 будет суммировать нормально ------------------------------------ Неудачный пример. Дело в том что Аксапта сначала округляет константы до приемлемого вида. В данном примере после компиляции 9999.9999999999999 будет рассматриваться виртуальной машиной как 10000. Можете проверить под отладчиком : real d = 9999.9999999999999; // реально заносится 10000. Поэтому с таким числом ошибок и не возникало. Реально работа шла с константой 10000. Я думаю то же самое при использовании числовых констант в выражениях. |
|
|
| Теги |
| баг, математика, округление |
|
|
Похожие темы
|
||||
| Тема | Ответов | |||
| Абстрактный классификатор | 52 | |||
| Здравствуйте дети! :) - еще одна ошибка | 11 | |||
| Просмотр SQL запросов к БД с помощью файла Log | 3 | |||
| Виртуальные поля | 6 | |||
| Опции темы | Поиск в этой теме |
| Опции просмотра | |
|
Древовидный вид