Antes de começarmos, atente-se ao enunciado: $\frac{pi}{2}< \alpha < \pi$ usaremos isso para resolver uma nuance de sinal exigida pela questão. Repare que $2x=3\sec( \alpha )$ isso é o mesmo que dizer $$\sec(\alpha)=\frac{2x}{3} \Rightarrow \frac{1}{\cos(\alpha)}=\frac{2x}{3} \Rightarrow \cos(\alpha)=\frac{3}{2x}$$ Vamos usar a desigualdade. Veja, $\alpha$ define o segundo quadrante, exceto por seus extremos, por isso conclui-se que $\cos(\alpha)<0$ e diferente de zero, assim como x é diferente de zero. Logo, $$x<0 \, \, e \, -x>0$$ Vamos escrever $f(x)$ em função de $x$. Para isso precisamos de $sin(\alpha)$ em função de $x$. Usamos a relação fundamental $sin²(\alpha)+cos²(\alpha)=1$ substituímos o valor de $\cos(\alpha)$ encontrado acima e resolvemos para achar $\sin(\alpha)= \pm \frac{\sqrt{4x²-9}}{2x}$ Note que $\sin(\alpha)>0$ sendo assim devemos escolher $\sin(\alpha)=- \frac{\sqrt{4x²-9}}{2x}$ uma vez que $x<0$. É muito importante ter entendido essa passagem, caso contrário leia de novo, mais atentamente ou mande sua dúvida nos comentários. Você verá que se tivéssemos escolhido o sinal positivo, marcaríamos uma outra alternativa (errada, claro). Para finalizar a questão substituímos $\sin(\alpha) \, \, e \cos(\alpha)$ em $f(x)$ e calculamos o produto solicitado. Assuma as identidades: $\csc(\alpha)=\frac{1}{\sin(\alpha)}$ e $\sin(2\alpha)=2\sin(\alpha)\cos(\alpha)$ $$f(x)=\frac{5\csc(\alpha)}{3}+\frac{2\sin(2\alpha)}{3} \Rightarrow f(x)=-\frac{5\cdot 2x}{2\cdot \sqrt{4x²-9}}-\frac{2\cdot 3 \cdot \sqrt{4x²-9}}{3 \cdot 2x²} \Rightarrow f(x)=\frac{-5x³-4x²+9}{x²\sqrt{4x²-9}}$$ O produto $x²\sqrt{4x²-9}f(x)$ é exatamente o numerador $-5x³-4x²+9$. Alternativa $C)$