Esta es la contestación más exacta que encomtrarás compartir, pero obsérvala pausadamente y analiza si se adapta a tu proyecto.
Solución:
Sea $A$ la matriz nilpotente $$beginpmatrix0 & 1 & 1 & cdots & 1 \ & 0 & 1 & cdots & 1 \ & & cdots & cdots & cdots \ & & & 0 & 1 \ & & & & 0endpmatrix,$$ entonces la matriz $P$ es igual a $1 + beta A + alpha A^2$.
Esto da el inverso: begineqnarray*P^-1 & = & (1 + beta A + alpha A^2)^-1 \ & = & (1 – lambda A) ^-1 (1 – mu A)^-1 \ & = & sum_k geq 0 fraclambda^k + 1 – mu^k + 1 lambda – mu A^k,endeqnarray* donde $lambda$ y $mu$ son las dos raíces de la ecuación $x^2 + beta x + alpha = 0$. Como tenemos $A^n = 0$, la suma esencialmente oscila entre $0 leq k < n$.
Calculando los detalles de la respuesta dada por el usuario WhatsUp, los elementos del inverso de $mathbfP$ están dados por
beginecuación p^(-1)_i,j =begincasos 0, &i>j,\ 1, &i=j,\ fraclambda^2(1 +lambda)^ji-1-mu^2(1+mu)^ji-1lambda-mu,&i
Si tienes alguna duda y disposición de progresar nuestro división te proponemos escribir una interpretación y con mucho placer lo leeremos.