Solución:
Lo que necesita es una unidad de corriente sinusoidal.
En otras palabras, debe tratar el motor como un motor sin escobillas tradicional, en lugar de un paso a paso. Esto requiere controladores paso a paso bastante especializados y no es simple.
Una alternativa más simple podría ser intentar micropasos del motor paso a paso, pero eso no le dará una rotación perfectamente suave.
Realmente, para situaciones en las que necesita un movimiento giratorio extremadamente suave, un motor paso a paso es realmente el sistema de control equivocado. Debe utilizar un motor de CA sin escobillas o al menos un servomotor de CC con escobillas.
Aquí hay un documento técnico decente sobre las modalidades de accionamiento paso a paso, con algo de contraste con los motores síncronos de CA.
Utilizando la conducción de paso completo, el rotor actúa de manera muy similar a un sistema de masa de resorte, siendo el rotor la masa y la fuerza magnética el resorte. Cuando se pasa de un paso al siguiente, el movimiento siempre será brusco. El rotor salta prácticamente de un paso al siguiente y toma un tiempo hasta que el resorte amortigua la energía del rotor, causando una pequeña oscilación (lea: movimiento brusco).
Puede suavizar esto cuando usa el modo de medio paso y, además, puede compensar la no linealidad del par, cf. este enlace
Siguiendo esta lógica, eventualmente terminará utilizando pasos finos, micropasos y conducción sinusoidal. (Vea este enlace para micropasos)
Algunos detalles más:
La frecuencia de resonancia del rotor de un motor paso a paso suele rondar los 50 Hz … 400 Hz. Cuando maneja el motor en modo de paso completo a su propia frecuencia de resonancia mecánica, las cosas se pondrán bastante mal y es probable que pierda (salte) pasos. Para velocidades lentas, es una buena idea mantenerse por debajo de la frecuencia de resonancia del motor. Para velocidades altas, intente ir más allá de la resonancia lo más rápido que pueda mientras acelera, y no utilice la conducción a pasos completos.
Solo puedo sugerir reductores, si la velocidad no es un factor limitante.
De lo contrario, optaría por motores sin escobillas con algunos comentarios.