Dizemos que duas matrizes e são semelhantes se existe uma matriz inversível tal que . Se e são matrizes semelhantes quaisquer, então:
$• \ \text{Alternativa (A):}$ $\color{orangered}{\text{Incorreta}}$
\begin{matrix} {det(\text{B}) = \ det(\pu{P^{-1}}) \cdot det(\pu{A}) \cdot det(\pu{P})} &\Rightarrow& det(\pu{B}) = det(\pu{A})
\end{matrix}
Veja que, não temos informações (restrições) o suficiente para dizer que $B$ é sempre inversível.
$• \ \text{Alternativa (B):}$ $\color{orangered}{\text{Incorreta}}$
$A$ ser simétrica implica: $A^t = A$, então, vejamos:\begin{matrix} \pu{(B)^t=[P^{−1}(AP)]^t=(AP)^t(P−1)^t=P^tA^t(P^{−1})^t} &\therefore& \pu{B \ne B^t} \end{matrix}
$• \ \text{Alternativa (C):}$ $\color{orangered}{\text{Incorreta}}$
\begin{matrix} \pu{B^2} &=& \pu{BB} &=& \pu{BP^{-1}AP} &=& \pu{P^{-1}APP^{-1}AP} &=& \pu{P^{-1}A^2P}
\end{matrix}
Note que, $B^2$ só seria semelhante a $A$, se $A$ fosse idempotente, isto é, $A^2 =A$.
$• \ \text{Alternativa (D):}$ $\color{orangered}{\text{Incorreta}}$
Segundo enunciado, $C$ deverá ser na forma $C = X^{-1}AX$, só com isso já poderíamos dizer que a alternativa é incorreta, mas faça o processo da alternativa anterior e veja que nada (suficiente) implica $BC$ ser semelhante a $A^2$. Por outro lado, $BC$ seria semelhante a $A^2$ se $C=B$.
$• \ \text{Alternativa (E):}$ $\color{royalblue}{\text{Correta}}$
\begin{matrix} \pu{ \lambda I - B} &=& \underbrace{\pu{\lambda (P^{-1}P) - P^{-1}AP}}_{(1)} &=& \pu{P^{-1}(\lambda P - AP)} &=& \underbrace{ \pu{P^{-1}(\lambda IP - AP)} }_{(2)} &=& \pu{P^{-1}(\lambda I - A)P}
\end{matrix}$(1):$ Lembre-se que a multiplicação em escalar é uma propriedade comutativa
$(2):$ $\pu{PI= IP = P}$
Continuando,\begin{matrix} det( \lambda I - B) &=& det[P^{-1}(\lambda I - A )P ] \\ \\ det( \lambda I - B) &=&
det(P^{-1}) \cdot det(\lambda I - A) \cdot det(P) \\ \\ det( \lambda I - B) &=& det(\lambda I - A)
\end{matrix}\begin{matrix}Letra \ (E)
\end{matrix}