Solución:
El problema es el uso incorrecto de cosas como $ dx $ y $ dy $. La gente alguna vez trabajó con ellos como “infinitesimales”, pero el problema es que uno puede confundirse rápidamente. Los verdaderos rigurosos $ dx $ y $ dy $ son formas diferenciales. Son funciones que asignan a cada punto del espacio un objeto llamado tensor alterno. Para simplificar, se puede considerar que un tensor es una función multilineal de vectores, es decir, una función que toma varios vectores como parámetros, devuelve números y es lineal en cada parámetro con los demás fijos.
El carácter alterno tiene que ver también con el producto de tales objetos, llamado el producto de la cuña. Este producto es tal que $ dx wedge dy = -dy wedge dx $, por ejemplo. En su caso, esto es suficiente para establecer el hecho.
De hecho, la primera parte de los cálculos es correcta:
$$ dx = cos theta dr-r sin theta d theta, $$
$$ dy = sin theta dr + r cos theta d theta, $$
ahora tenemos
$$ dx wedge dy = ( cos theta dr-r sin theta d theta) wedge ( sin theta dr + r cos theta d theta), $$
pero este producto es distributivo, por lo que tenemos
$$ dx wedge dy = ( cos theta dr) wedge ( sin theta dr) + ( cos theta dr) wedge (r cos theta d theta) + (- r sin theta d theta) wedge ( sin theta dr) + (- r sin theta d theta) wedge (r cos theta d theta), $$
También los escalares se pueden poner afuera, de modo que
$$ dx wedge dy = ( cos theta sin theta) dr wedge dr + (r cos ^ 2 theta) (dr wedge d theta) – (r sin ^ 2 theta) d theta wedge dr- (r ^ 2 sin theta cos theta) d theta wedge d theta $$
Ahora, cualquier $ omega $ de 1 forma satisface $ omega wedge omega = 0 $, esto se debe a que la propiedad alterna otorga que $ omega wedge omega = – omega wedge omega $ y así sigue . Por eso, $ dr wedge dr = 0 $ y $ d theta wedge d theta = 0 $. Finalmente tenemos
$$ dx wedge dy = r cos ^ 2 theta dr wedge d theta – r sin ^ 2 theta d theta wedge dr, $$
Y finalmente usando de nuevo la propiedad alterna $ -d theta wedge dr = dr wedge d theta $ y así
$$ dx wedge dy = r cos ^ 2 theta dr wedge d theta + r sin ^ 2 theta dr wedge d theta = r dr wedge d theta. $$
Por supuesto, no es posible explicar todas las formas diferenciales en esta única respuesta, solo para mostrar un poco cómo encaja esto en su problema. Para ver más sobre esto, mire el Calculus on Manifolds de Spivak (este es un libro pesado), o eche un vistazo a “Elementary Differential Geometry” de O’neill, este tiene una buena introducción a las formas diferenciales.