Еще один странный глюк - DAX: Программирование

05.04.2011, 16:27

S.Kuskov

Участник

3,449 / 1792 (66)

Регистрация: 28.04.2007

Адрес: Калуга

А в чём вопрос? Это очевидно, что в общем случае погрешность операций с плавающей запятой не позволяет ожидать абсолютно точный результат. Например следующий код я думаю будет выдавать одинаковый результат на любой версии.

X++:

info(strfmt("%1", num2str(1/3*3, 0, 16, 0, 0)));

Теги

округление

« Предыдущая тема | Следующая тема »

Похожие темы
Тема	Автор	Раздел	Ответов	Посл. сообщение
Глюк RunBase (AX40sp2)	Alexx7	DAX: Программирование	7	22.01.2010 10:59
DeadLock. Один сеанс - несколько процессов.	Владимир Максимов	DAX: Программирование	20	12.07.2008 11:02
Глюк автоматическое рассопопоставление	Logger	DAX: Функционал	4	14.07.2006 10:09
Enum: глюк?	Gorlum	DAX: Программирование	11	10.02.2006 07:43
Help! Странный глюк..	AfA	DAX: Прочие вопросы	8	25.02.2004 23:58

Ваши права в разделе
Вы не можете создавать новые темы Вы не можете отвечать в темах Вы не можете прикреплять вложения Вы не можете редактировать свои сообщения BB коды Вкл. Смайлы Вкл. [IMG] код Вкл. HTML код Выкл.