Progressão dos lados: \begin{matrix} a+ b+ c = 15 & \Rightarrow & (b-r) + b + (b+r) = 15 \end{matrix}\begin{matrix} \fbox{$b = 5$} \end{matrix}Pela lei dos cossenos, pode-se escrever: \begin{matrix} x^2 = y^2 + z^2 - 2yz\cos{\theta} &\Rightarrow& \cos{\theta} = { \dfrac{y^2 + z^2 - x^2 }{ 2.y.z} } \end{matrix}Assim, dada a expressão do enunciado, \begin{matrix} { \dfrac{b^2 + c^2 - a^2 }{ 2abc} } &+& {\dfrac{a^2 + c^2 - b^2 }{ 2abc}} &+& {\dfrac{a^2 + b^2 - c^2 }{ 2abc}} &=& { \dfrac{77}{240} } \end{matrix}\begin{matrix} { \dfrac{a^2 + b^2 + c^2}{2abc} } &=& { \dfrac{77}{240} } &\Rightarrow& { \dfrac{ (5-r)^2 + 5^2 + (5+r)^2}{2(5-r)\cdot 5\cdot (5+r)} } &=& { \dfrac{77}{240} } \end{matrix}\begin{matrix} { \dfrac{3\cdot 5^2 + 2 \cdot r^2}{5^2-r^2} } &=& { \dfrac{77}{24} } &\Rightarrow& 72\cdot 5^2 + 48r^2 = 77\cdot 5^2 - 77\cdot r^2 \end{matrix}\begin{matrix} { \fbox {$r = \pm 1$}} \end{matrix}Não é difícil perceber que independente do sinal do raio (positivo ou negativo), a área será a mesma, pois os triângulos são congruentes $(\text{L.L.L})$, veja: $ •$ $ r = -1$\begin{matrix} a = 6 &,& b = 5 &,& c = 4 \end{matrix}$ •$ $ r = 1$\begin{matrix} a = 4 &,& b = 5 &,& c = 6 \end{matrix}Se ainda lhe restam dúvidas acerca da independência do sinal sobre o valor da área, agora você irá saná-las, apliquemos a $\text{Fórmula de Heron}$: \begin{matrix} A = \sqrt{ \left(\dfrac{15}{2}\right) \cdot \left(\dfrac{15}{2} - 4\right) \cdot \left(\dfrac{15}{2} - 5\right) \cdot \left(\dfrac{15}{2} - 6\right) }&\therefore& {\fbox{$A = \dfrac{15\sqrt{7}}{4}$}} \end{matrix}\begin{matrix} Letra \ (A) \end{matrix}