По текстовым таблицам с расчетом цены понять как настроена схема калькляции непросто

Но в общем случае можно сказать, что правильно настроить вычисление подобным образом невозможно.
Могу предположить, что вам нужно настроить ВУ Z02 таким образом, чтобы его значение(стоимость) рассчитывалось не как [СУММА*%], а как [[СУММА/КОЛ_ВО]*%]*КОЛ_ВО, где операции в [] подразумевают округление.
Подробнее:
1. [СУММА/КОЛ_ВО] = ЦЕНА (это система сама делает)
2. [ЦЕНА*%] = СКИДКА_ЕД
3. [СКИДКА_ЕД*КОЛ_ВО] = СКИДКА
Т.е. фактически ВУ Z02 должен работать как скидка за единицу товара. Насколько я знаю, в стандарте скидку за ед. можно настроить только в стоимостном выражении, поэтому придется пистать формулу расчета.