Vamos dividir em partes, primeiro, precisamos descobrir de quantas formas podemos ter os livros empilhados de tal forma que aqueles que tratam do mesmo assunto estejam juntos. Veja que, os $5$ livros de história são idênticos, o que quer dizer que pouco importa como eles serão colocados, só precisam estar juntos, assim, façamos eles serem apenas um elemento. Analogamente, temos os $4$ livros de biologia, façamos eles serem apenas outro elemento, e ao fim, os livros de espanhol, façamos eles serem também apenas outro elemento (diferente dos outros dois). Dessa fora, temos $3$ elementos, de quantas formas podemos permutá-los? Esse será nosso evento favorável $(X)$. \begin{matrix} 3-2-1 &\Rightarrow& \#X = 3! \end{matrix}Agora, vejamos de quantas formas podemos permutar os $11$ livros, esse será nosso espaço amostral $(W)$, teremos: \begin{matrix} \#W = P_{11}^{5,4,2} = {{\dfrac{11!}{5!4!2!}}} = 11\cdot 10\cdot 9\cdot 7 \end{matrix}Portanto:\begin{matrix} P(X) = {{\dfrac{\#X}{\#W}}} = {{\dfrac{3!}{11\cdot 10 \cdot 9\cdot 7}}} = {{\dfrac{1}{1155}}} & \tiny{\blacksquare} \end{matrix}