Текущее время: Пт, авг 08 2025, 01:37

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 15 ] 
Автор Сообщение
 Заголовок сообщения: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 14:18 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
День добрый!
При выводе на рабочий лист запроса из бекса появляется довольно странное значение: в ячейки стоит 0,00 а в формуле этой ячейки -0,000000001. Это графа рассчитывается в бексе как формула, и должна быть равна 0. Из-за этой неточности не может схлопнуться и убраться строчка. Из-за чего может быть проблема?
По суммам рассчитывается как: 4 077 325,68 + 1 765 842,88 - 5 843 168,56 = 0


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 15:45 
Ассистент
Ассистент

Зарегистрирован:
Ср, июн 03 2009, 17:01
Сообщения: 48
В локальных расчетах выбери: Суммирование округленных значений


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 16:00 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Не помогает


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 16:14 
Ассистент
Ассистент

Зарегистрирован:
Ср, июн 03 2009, 17:01
Сообщения: 48
Что рисует?
Можно добавить условие


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 16:19 
Ассистент
Ассистент

Зарегистрирован:
Ср, июн 03 2009, 17:01
Сообщения: 48
Параметры представления показателя какие?


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 16:32 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Столбец рассчитывается как формула.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 16:38 
Ассистент
Ассистент

Зарегистрирован:
Ср, июн 03 2009, 17:01
Сообщения: 48
Формула - Представление - Число десятичной разрядов - ?


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 16:45 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Стоит "станд.значение невозможно определить" , ставил 0,00 не помогало...


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 17:10 
Модератор
Модератор

Зарегистрирован:
Чт, окт 21 2010, 08:48
Сообщения: 128
А попробуйте в формулу добавить 0.0 + Ваша текущая часть формулы


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 17:11 
Почетный гуру
Почетный гуру

Зарегистрирован:
Чт, фев 03 2005, 10:18
Сообщения: 503
Faron написал(а):
По суммам рассчитывается как: 4 077 325,68 + 1 765 842,88 - 5 843 168,56 = 0


А в LISTCUBE такие же суммы выдает по выборкам?


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 17:29 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Dimarik написал(а):
А попробуйте в формулу добавить 0.0 + Ваша текущая часть формулы

Неа, не помогает.

Странно еще то, что в некоторых строках, которые используются в формуле он тоже выдает типа 37322684,0892265 , но не во всех.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 17:32 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Есть в Бексе какая формула по округлению?


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Чт, май 17 2012, 17:42 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Выяснил, проблема скорее всего из-за другого столбца с формулой. Но там проблема в том, что значение пролучается реально 37322684,0892265...и потом уже берется в другом столбце. Как округлять?


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Пт, май 18 2012, 12:10 
Младший специалист
Младший специалист

Зарегистрирован:
Пт, сен 30 2011, 11:47
Сообщения: 62
Пол: Мужской
Округление: тут


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Неточность в значении
СообщениеДобавлено: Пт, май 18 2012, 15:50 
Специалист
Специалист

Зарегистрирован:
Сб, апр 24 2010, 11:41
Сообщения: 158
Да, эту я видел формулу, но чтото бекс ругался на синтаксис все время...
Нашел в интернете и использовал другую:
( FRAC ( 'KF'*100 ) < 0.5 ) * FLOOR ( 'KF' * 100 ) / 100 + ( FRAC ( 'KF'
* 100 ) >= 0.5 ) * CEIL ('KF' * 100) / 100

Зы: хотя я она помогла но не во всех случаях, пришлось еще просто ставить условие на > 0,0001


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 15 ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
Русская поддержка phpBB