$• \ \text{a)}$ Com conhecimento das regras de Cramer, sabe-se que para um sistema determinado, $\det{A} \ne 0$, logo aplicando Chió:\begin{matrix} \det{A} = \begin{array}{|ccc:c|} a & 1& b & 1 \\ b &1 & a & 0 \\ 0 &2 & 0 & 0 \\ \hdashline -a& 2 & b & 1 \end{array}= (-1)^{4+4}\begin{vmatrix} 2a & -1 & 0 \\ b &1 & a \\ 0 &2 & 0 \end{vmatrix} = -4a^2 \end{matrix}Com isso, para que o sistema apresente solução única $-4a^2 \ne 0$, ou seja:\begin{matrix} (a,b) \in \mathbb{R}^2 - \{(0,k)\} \ , \ k \in \mathbb{R} \end{matrix}$• \ \text{b)}$ Escrevendo o sistema linear, têm-se:\begin{cases} \ \ ax &+& y &+& bz &+& z &=& 1 \\ \ \ bx &+& y &+& az &+& 0 &=& 1 \\ \ \ 0 &+& 2y &+& 0 &+& 0 &=& 2 \\ -ax &+& 2y &+& bz &+& z &=& 4 \end{cases}A partir da terceira linha, facilmente constatamos:\begin{matrix} y= 1 \end{matrix}Substituindo $y$ em todas as linhas, reduz-se o sistema a:\begin{cases} \ \ xa &+& bz &+& w &=& 0 \\ \ \ xb &+& az &+& 0 &=& 0 \\ -xa &+& bz &+& w &=& 2 \end{cases}Subtraindo a primeira linha na terceira, encontra-se:\begin{matrix} x = -\dfrac{1}{a} \end{matrix}Substituindo $x$ no sistema acima:\begin{cases} bz &+& w &=& 1 \\ az &+& 0 &=& b/a \end{cases}Trabalhando a segunda linha:\begin{matrix} a^2z = b &\Rightarrow& b^2z = b &\therefore& z = \dfrac{1}{b} \end{matrix}$\color{orangered}{\text{Obs:}}$ Conforme enunciado $a \ne 0$, consequentemente, $b\ne 0$, visto que $a^2 - b^2 = 0$ Substituindo $z$ na primeira linha do último sistema em análise:\begin{matrix} b\left(\dfrac{1}{b}\right) + w = 1 &\therefore& w = 0 \end{matrix}Portanto, $X$ deve ser na forma:\begin{matrix} X = \begin{bmatrix} -\dfrac{1}{a} \\ 1 \\ \dfrac{1}{b} \\ 0 \end{bmatrix} \end{matrix}