$-$ Progressão dos lados: \begin{matrix} a+ b+ c = 15 & \Rightarrow & (b-r) + b + (b+r) = 15 \end{matrix} \begin{matrix} \fbox{$b = 5$} \end{matrix} $-$ Pela lei dos cossenos, pode-se escrever: \begin{matrix} x^2 = y^2 + z^2 - 2.y.z.\cos{\theta} &\Rightarrow& \cos{\theta} = \large{ \frac{y^2 + z^2 - x^2 }{ 2.y.z} } \end{matrix} Assim, dada a expressão do enunciado, \begin{matrix} \Large{ \frac{b^2 + c^2 - a^2 }{ 2.a.b.c} } &+& \Large{\frac{a^2 + c^2 - b^2 }{ 2.a.b.c}} &+& \Large{\frac{a^2 + b^2 - c^2 }{ 2.a.b.c}} &=& \Large{ \frac{77}{240} } \end{matrix} \begin{matrix} \Large{ \frac{a^2 + b^2 + c^2}{2.a.b.c} } &=& \Large{ \frac{77}{240} } &\Rightarrow& \Large{ \frac{ (5-r)^2 + 5^2 + (5+r)^2}{2.(5-r).5.(5+r)} } &=& \Large{ \frac{77}{240} } \end{matrix} \begin{matrix} \Large{ \frac{3.5^2 + 2.r^2}{5^2-r^2} } &=& \Large{ \frac{77}{24} } &\Rightarrow& 72.5^2 + 48.r^2 = 77.5^2 - 77.r^2 \end{matrix} \begin{matrix} \large { \fbox {$r = \pm 1$}} \end{matrix} $-$ Não é difícil perceber que independente do sinal do raio (positivo ou negativo), a área será a mesma, pois os triângulos são congruentes $(\text{L.L.L})$, veja: $ •$ $ r = -1$ \begin{matrix} a = 6 &,& b = 5 &,& c = 4 \end{matrix} $ •$ $ r = 1$ \begin{matrix} a = 4 &,& b = 5 &,& c = 6 \end{matrix} $-$ Se ainda lhe restam dúvidas acerca da independência do sinal sobre o valor da área, agora você irá saná-las, apliquemos a $\text{Fórmula de Heron}$: \begin{matrix} A = \sqrt{ (\frac{15}{2}) \ . \ (\frac{15}{2} - 4) \ . \ (\frac{15}{2} - 5) \ . \ (\frac{15}{2} - 6) } \\ \\ \color{gray}{\text{Consegue dizer qual o sinal de $r$ eu usei?}} \\ \\ \Large{\fbox{$A = \frac{15\sqrt{7}}{4}$}} \\ \\ Letra \ (A) \end{matrix}