Здравствуйте дети! :) - DAX: База знаний и проекты

13.10.2004, 15:41

#11

Maxim Gorbunov

Administrator

2,483 / 646 (26)

Регистрация: 27.11.2001

Адрес: Dubai, UAE

Цитата:

Изначально опубликовано Wamr
Проверил на 2.5 - аналогичный случай

2.5 SP1 RU - работает правильно (то есть 20000 выдает).

Цитата:

Изначально опубликовано Wamr
не совсем так..
real a = 9999.999999999997;
real b = 9999.999999999998;
a+b = 10000

Опытным путем установлено, что если сумма цифр в последней позиции больше или равна 15, появляется ошибка. Для остальных значений работает верно.

__________________
Not registered yet? Register here!
Have comments, questions, suggestions or anything else regarding our web site? Don't hesitate, send them to me

За это сообщение автора поблагодарили: Logger (5).

Теги

баг, математика, округление

« Предыдущая тема | Следующая тема »

Похожие темы
Тема	Автор	Раздел	Ответов	Посл. сообщение
Абстрактный классификатор	Maxim Gorbunov	DAX: Программирование	52	17.01.2005 13:52
Здравствуйте дети! :) - еще одна ошибка	AKIS-Falcon	DAX: Программирование	11	20.10.2004 18:28
Просмотр SQL запросов к БД с помощью файла Log	Anton Sk.	DAX: База знаний и проекты	3	25.01.2002 16:31
Виртуальные поля	Oks	DAX: Функционал	6	03.01.2002 16:08

Ваши права в разделе
Вы не можете создавать новые темы Вы не можете отвечать в темах Вы не можете прикреплять вложения Вы не можете редактировать свои сообщения BB коды Вкл. Смайлы Вкл. [IMG] код Вкл. HTML код Выкл.