AXForum  
Go Back   AXForum > Microsoft Dynamics AX > DAX: База знаний и проекты
All
Forgotten Your Password?
Register Forum Rules FAQ Members List Today's Posts Search

 
 
Thread Tools Search this Thread Display Modes
Prev Previous Post   Next Post Next
Old 15.10.2004, 15:14   #21  
REb is offline
REb
Участник
 
6 / 10 (1) +
Join Date: 03.09.2004
Location: Питер
:( Нашедший ошибку
А я как раз человек, который эту ошибку обнаружил! )

Самое интерестное, что я нашел эту "фичу" как раз на реальных вычислениях в отчете - у меня был отчет выгружаемый в Excel где я "руками" расчытывал некие итоги из сумм умноженных на коэффициенты. И вот в этом отчете на реальных данных при расчете получалось два числа 9999.999999999999, которые при отображении показывались, действительно как 10000, но при сложении давали тоже 10000 ;(((

Удалось обойти благодоря округлению сумм после умножения на коэфициент.

Теперь аккуратнее отношусь к подобным вещам.


Вот такая печальная история )
Tags
баг, математика, округление

 

Similar Threads
Thread Thread Starter Forum Replies Last Post
Абстрактный классификатор Maxim Gorbunov DAX: Программирование 52 17.01.2005 13:52
Здравствуйте дети! :) - еще одна ошибка AKIS-Falcon DAX: Программирование 11 20.10.2004 18:28
Просмотр SQL запросов к БД с помощью файла Log Anton Sk. DAX: База знаний и проекты 3 25.01.2002 16:31
Виртуальные поля Oks DAX: Функционал 6 03.01.2002 16:08

Posting Rules
You may not post new threads
You may not post replies
You may not post attachments
You may not edit your posts

BB code is On
Smilies are On
[IMG] code is On
HTML code is Off
Forum Jump

Рейтинг@Mail.ru
All times are GMT +3. The time now is 23:56.
Powered by vBulletin® Version 3.8.5
Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
Contacts E-mail, Advertising.