Текущее время: Вт, июл 22 2025, 10:21

Часовой пояс: UTC + 3 часа


Правила форума


ВНИМАНИЕ!

Вопросы по SAP Query и Quick View - сюда



Начать новую тему Ответить на тему  [ Сообщений: 3 ] 
Автор Сообщение
 Заголовок сообщения: Проблемы с типом DEC
СообщениеДобавлено: Вт, апр 12 2016, 14:10 
Старший специалист
Старший специалист

Зарегистрирован:
Пт, окт 15 2010, 14:06
Сообщения: 292
Приветствую, коллеги.
Столкнулся с такой барабашкой:
1. Разработка.
Переменная типа DEC, длина 9, десятичные 0.
Кладу в неё из текстовой переменной CHAR255 цифру 411400.00000000006
Итог: 411400.
2. Тестовая.
Переменная типа DEC, длина 9, десятичные 0.
Кладу в неё из текстовой переменной CHAR255 цифру 411400.00000000006
Итог: 411400000. Лишних 3 нуля.
Как так? (O_o)


Пометить тему как нерешенную
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Проблемы с типом DEC
СообщениеДобавлено: Вт, апр 12 2016, 14:34 
Старший специалист
Старший специалист

Зарегистрирован:
Пт, окт 15 2010, 14:06
Сообщения: 292
Упс. Проблема стоит иначе. Неверно моделировал ситуацию в разработке.
Суть такова, что есть метод класса. Метод отрабатываю и в разработке и в тесте.
К класса, в поле структуры, имеющее тип DEC9, из указанной текстовки падает 411400000.
Если делать отдельную тестовую прогу, в ней объявлять переменную такого же типа, как поле структуры, которое DEC9, то в него падает нормальное число 411400.
Что за фигня с классами?


Пометить тему как нерешенную
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Проблемы с типом DEC  Тема решена
СообщениеДобавлено: Вт, апр 12 2016, 15:03 
Старший специалист
Старший специалист

Зарегистрирован:
Пт, окт 15 2010, 14:06
Сообщения: 292
Сам дурак. Не углядел, что в настройках класса не стояла опция 'Арифметика с фиксированной запятой'.
Поставил её и всё стало работть как надо.


Пометить тему как нерешенную
Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 3 ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
Русская поддержка phpBB