Открываю рабочую книгу, указываю переменные, жму ок, вижу 500 строк.
Выбираю изменить значение переменных, указываю другие значения, жму ок, вижу первые 100 строк что надо, но при этом оставшиеся с прошлого раза 400 строк не зачистились!
Что могло случиться с книгой? В других отчетах такого поведения не наблюдается.

Макросы проверьте в книге.

Макрос есть. Но он делает только раскраску. Если отключить макрос, то краски пропадают, а данные все равно не чистятся.

Я бы предположила, что это настройка рабочей книги на вкладке Общее - Обновлять рабочую книгу при открытии - там должна стоять галочка...
Если не поможет, попробуйте просто сравнить настройки с рабочей книгой, где все ок

Настройки совпадают. В общем пересоздали книгу занова, стала работать.

Была похожая проблема. В конечном итоге оказалось, что в рабочей книге была сохранена часть данных(ввиде текста). Если количество строк в запросе было достаточно большим, то текстовые данные перезаписывались запросом, при малом количестве строк, текстовые данные отображались. Решили проблему удалением текстовых данных в книге.