Sejam e números reais com e as matrizes: Para que a matriz seja não inversível é necessário que:
Seja $C = mA + nB$, assim:\begin{matrix}
C &=&
\begin{bmatrix} 2m & m \\ 3m & 5m
\end{bmatrix}
&+&
\begin{bmatrix} -n & n \\ 0 & n
\end{bmatrix}
&=&
\begin{bmatrix} 2m - n& m+n \\ 3m & 5m+n
\end{bmatrix}
\end{matrix}
Para que a matriz seja não inversível, seu determinante deve ser igual a zero, dessa forma:\begin{matrix} det(C) &=&
\begin{vmatrix} 2m - n& m+n \\ 3m & 5m+n
\end{vmatrix}
&=&
(2m-n).(5m+n) - (m + n).3m &=& 0
\end{matrix}
\begin{matrix} n^2 + 6nm - 7m^2 = 0
\end{matrix}Aplicando a fórmula de Bhaskara em $n$, temos:
\begin{matrix} n = -3m \ \pm \ 4m &\Rightarrow& n = - 7m &ou& n = m & \text{(Não serve, vide enunciado)}
\end{matrix}Portanto, $n$ e $m$ devem de ter os sinais contrários.\begin{matrix} Letra \ (C)
\end{matrix}
Seja $M=m\cdot A+n\cdot B$, então:
$M= \begin {pmatrix}
2m & m \\
3m & 5m
\end{pmatrix} + \begin {pmatrix}
-n & n \\
0 & n
\end{pmatrix}=\begin {pmatrix}
2m-n & m+n \\
3m & 5m+n
\end{pmatrix}$
Condição para a matriz $M$ ser não invertível: $\det{(M)}=0$
$\det{(M)}=\begin {vmatrix}
2m-n & m+n \\
3m & 5m+n
\end{vmatrix}$ $=7m^{2}-6\cdot m\cdot n - n^{2}=0$
Se segue: $7m^{2}-6m\cdot n - n^{2}=0$. Completando quadrado, temos:
$(n^{2}-6\cdot m\cdot n + 9m^{2})-2m^{2}+2n^{2}=0$, temos:
$(n-3m)^{2}=2\cdot (m+n)\cdot (m-n)>0$
$m^{2}> n^{2}$ $\implies$ $|m|> |n|$ $\implies$ $|m|>n$ ou $|m|<-n$
Se $m$ é da forma $m=-k\cdot n$, para algum $k$ no intervalo real $]1,\infty+]$, então satisfazem as condições acima:
$|-k\cdot n|=k\cdot n>n$, se $n\in \mathbb {R_+}$
$|-k\cdot n|=k\cdot n<-n$, se $n\in \mathbb {R_-}$
E estas condições satisfazem a letra $\mathbb {C}$