Ошибка в функции str2num при обработке данных в экспоненциальном формате (плавающей запятой, научной нотацией).

[Poleax]

Цитата:

Сообщение от driller

Как вариант обхода ошибки можно использовать функцию any2real, или в обрабатываемом файле заменить разделитель с запятой на точку, это приводит к тому что данные из excel (пробовал на 2007-ом) подтягиваются не в экспоненциальном формате.

\Classes\Global\str2num_RU

\Classes\Global\num2expstr

Перед импортом '1e-3' можно же спокойно преобразовать в '1.e-3', тем более понимание есть.

P.S. DAX 2009 EE SP1 Hotfix Rollup 4 (5.0.1500.2116)

[Bober]

А вот еще интересно, что и '.1-3', и '.1e-3' преобразуются в ноль.

[driller]

Цитата:

Сообщение от Bober

А вот еще интересно, что и '.1-3', и '.1e-3' преобразуются в ноль.

Опять же в отладчике видно что вариант с '.1e-3', 3-ка обрабатывает нормально, а '.1-3' передавать наверное не корректно, думаю присутствие "E" (exponent) является обязательным.

[driller]

Цитата:

Сообщение от Poleax

\Classes\Global\str2num_RU

\Classes\Global\num2expstr

Перед импортом '1e-3' можно же спокойно преобразовать в '1.e-3', тем более понимание есть.

P.S. DAX 2009 EE SP1 Hotfix Rollup 4 (5.0.1500.2116)

str2num_RU в 4-ке нету, и видимо предложенный вами вариант работает только вместе с ним потому как num2expstr на входе ждет "real r".Не спорю вариантов обхода может быть масса, когда уже знаешь где споткнулся. Просто не приятно когда натыкаешься на такие системные баги, представь при импорте несколько тысяч строк с такое ошибок попалось меньше двух десятков и только после довольно длительного времени.