Te recomendamos que revises esta resolución en un entorno controlado antes de pasarlo a producción, saludos.
Solución:
Si $A$ es invertible entonces $A^-1(AB)A= BA$, entonces $AB$ y $BA$ son similares, lo que implica (pero es más fuerte que) $AB$ y $BA$ tienen el mismo polinomio mínimo y el mismo polinomio característico. Lo mismo ocurre si $B$ es invertible.
En general, a partir de la observación anterior, no es demasiado difícil demostrar que $AB$ y $BA$ tienen el mismo polinomio característico, aunque el tipo de prueba podría depender del campo considerado para el coeficiente de sus matrices. Si las matrices están en $mathcalM_n(mathbb C)$, usa el hecho de que $operatornameGL_n(mathbb C)$ es denso en $mathcalM_n(mathbb C)$ y la continuidad de la función que mapea una matriz a su polinomio característico. Hay al menos otras 5 formas de proceder (especialmente para otro campo que no sea $mathbb C$).
En general, $AB$ y $BA$ no tienen el mismo polinomio mínimo. Te dejaré buscar un poco un contraejemplo.
Antes de probar que $AB$ y $BA$ tienen los mismos polinomios característicos, muestre que si $A_mtimes n$ y $B_ntimes m $ entonces los polinomios característicos de $AB$ y $BA$ satisfacen el siguiente enunciado : $$x^n|xI_m-AB|=x^m|xI_n-BA|$$ por lo tanto concluya fácilmente si $m=n$ entonces $AB$ y $BA$ tienen los mismos polinomios característicos.
Defina $$C = beginbmatrix xI_m & A \B & I_n endbmatrix, D = beginbmatrix I_m & 0 \-B & xI_n endbmatrix.$$ Nosotros tener $$ beginalign* det CD &= x^n|xI_m-AB|,\ det DC &= x^m|xI_n-BA|. endalign* $$ y sabemos $det CD=det DC$ si $m=n$ entonces $AB$ y $BA$ tienen los mismos polinomios característicos.
Insinuación: Considere $A = beginbmatrix 0 & 1 \ 0 & 0 endbmatrix$ y $B = beginbmatrix 0 & 0 \ 0 & 1 endbmatrix$. ¿Qué obtienes en ese caso?
Si piensas que te ha sido de ayuda este post, agradeceríamos que lo compartas con más entusiastas de la programación así nos ayudas a difundir este contenido.