возможно у вас из за большой скорости вращения шпинделя датчик резьбонарезания выдаёт искажённые сигналы и шаг резьбы убегает. У меня подобная проблема. при G95 S300 резьба вроде бы попадает в шаг, а стоит изменить обороты на S400 то резьба сразу уменьшается в шаге. так 24 нитки резьбы с шагом 2мм имеют длину 47,5мм вместо 48мм. Вроде бы у меня заменили ВЕ178А на ЛИР152Б. Нужно будет проверить на днях, правильно ли выбран был этот датчик по параметрам. напряжение, форма и амплитуда выходного сигнала, класс точности и др. а так же состояние подшипников на оси датчика.
Шаг резьбы можно попробовать подкорректировать меняя параметр N6M, перевести его из восьмеричной системы в десятичную, умножить/разделить на вашу погрешность резьбы, снова перевести результат из десятичной в восьмеричную систему и ввести полученный параметр.