$(a)$ O tipo de equação apresentada se chama equação recíproca, que normalmente é apresentada quando os termos equidistantes são iguais. O bizu é dividir os dois lados da equação por $x^{2}$, em que iremos encontrar: $$ax^{2} + bx + c + \dfrac{b}{x} + \dfrac{a}{x^{2}} = 0 \Rightarrow a\left(x^{2} + \dfrac{1}{x^{2}}\right) + b\left(x + \dfrac{1}{x}\right) + c = 0.$$ Agora, vamos utilizar a substituição fornecida pelo enunciado. $$\left(x + \dfrac{1}{x}\right)^{2} = x^{2} + \dfrac{1}{x^{2}} + 2 \Rightarrow z^{2} - 2 = x^{2} + \dfrac{1}{x^{2}}.$$ Com isso, pode-se escrever que $$a(z^{2} - 2) + bz + c = 0 \Rightarrow \boxed{(a) \ az^{2} + bz + c - 2a = 0}$$ $(b)$ Perceba que a equação apresenta é parecida com a que foi mostrada na letra $(a)$, então vamos substituir variáveis. $$z^{2} + 3z - 4 = 0 \Rightarrow z = 1 \ \text{ou} \ z = -4.$$ Logo, $$\left(x + \dfrac{1}{x}\right) = 1 \Rightarrow x^{2} - x + 1 = 0 \Rightarrow x = \dfrac{1 \pm \sqrt{3}i}{2}.$$ $$\left(x + \dfrac{1}{x}\right) = -4 \Rightarrow x^{2} + 4x + 1 = 0 \Rightarrow x = -2 + \sqrt{3} \ \text{ou} \ x = -2 - \sqrt{3}.$$ Portanto, $$S = \left\{\dfrac{1 + \sqrt{3}i}{2}, \dfrac{1 - \sqrt{3}i}{2}, -2 + \sqrt{3}, -2 - \sqrt{3}\right\}.$$