Еще один странный глюк - DAX: Программирование

05.04.2011, 17:30

AndyD

Участник

2,560 / 2499 (89)

Регистрация: 20.08.2005

А вот так

X++:

f = (a / b) * d / c;

округленные значения будут одинаковы, но f != e.

Просто при вычислении выражения промежуточные итоги тоже получаеются с какой-то точностью и ошибка округления в конце концов приводит к такому результату

__________________
Axapta v.3.0 sp5 kr2

Теги

округление

« Предыдущая тема | Следующая тема »

Похожие темы
Тема	Автор	Раздел	Ответов	Посл. сообщение
Глюк RunBase (AX40sp2)	Alexx7	DAX: Программирование	7	22.01.2010 10:59
DeadLock. Один сеанс - несколько процессов.	Владимир Максимов	DAX: Программирование	20	12.07.2008 11:02
Глюк автоматическое рассопопоставление	Logger	DAX: Функционал	4	14.07.2006 10:09
Enum: глюк?	Gorlum	DAX: Программирование	11	10.02.2006 07:43
Help! Странный глюк..	AfA	DAX: Прочие вопросы	8	25.02.2004 23:58

Ваши права в разделе
Вы не можете создавать новые темы Вы не можете отвечать в темах Вы не можете прикреплять вложения Вы не можете редактировать свои сообщения BB коды Вкл. Смайлы Вкл. [IMG] код Вкл. HTML код Выкл.