Текущее время: Ср, июл 23 2025, 06:05

Часовой пояс: UTC + 3 часа


Правила форума


ВНИМАНИЕ!

Вопросы по SAP Query и Quick View - сюда



Начать новую тему Ответить на тему  [ Сообщений: 3 ] 
Автор Сообщение
 Заголовок сообщения: Проблемы с типом DEC
СообщениеДобавлено: Вт, апр 12 2016, 14:10 
Старший специалист
Старший специалист

Зарегистрирован:
Пт, окт 15 2010, 14:06
Сообщения: 292
Приветствую, коллеги.
Столкнулся с такой барабашкой:
1. Разработка.
Переменная типа DEC, длина 9, десятичные 0.
Кладу в неё из текстовой переменной CHAR255 цифру 411400.00000000006
Итог: 411400.
2. Тестовая.
Переменная типа DEC, длина 9, десятичные 0.
Кладу в неё из текстовой переменной CHAR255 цифру 411400.00000000006
Итог: 411400000. Лишних 3 нуля.
Как так? (O_o)


Пометить тему как нерешенную
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Проблемы с типом DEC
СообщениеДобавлено: Вт, апр 12 2016, 14:34 
Старший специалист
Старший специалист

Зарегистрирован:
Пт, окт 15 2010, 14:06
Сообщения: 292
Упс. Проблема стоит иначе. Неверно моделировал ситуацию в разработке.
Суть такова, что есть метод класса. Метод отрабатываю и в разработке и в тесте.
К класса, в поле структуры, имеющее тип DEC9, из указанной текстовки падает 411400000.
Если делать отдельную тестовую прогу, в ней объявлять переменную такого же типа, как поле структуры, которое DEC9, то в него падает нормальное число 411400.
Что за фигня с классами?


Пометить тему как нерешенную
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Проблемы с типом DEC  Тема решена
СообщениеДобавлено: Вт, апр 12 2016, 15:03 
Старший специалист
Старший специалист

Зарегистрирован:
Пт, окт 15 2010, 14:06
Сообщения: 292
Сам дурак. Не углядел, что в настройках класса не стояла опция 'Арифметика с фиксированной запятой'.
Поставил её и всё стало работть как надо.


Пометить тему как нерешенную
Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 3 ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: Yandex [Bot]


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
Русская поддержка phpBB