Olá, wuvlp.
(1) [tex]fof(x)=f(f(x))=af(x)+b=a(ax+b)+b=a^2x+ab \Rightarrow[/tex]
[tex]\Rightarrow \begin{cases} a^2=4 \Rightarrow a=\pm2 \\ ab= -9 \Rightarrow b=-\frac{9}{a} \end{cases}[/tex]
[tex]\Rightarrow \begin{cases}\text{se }a=2 \Rightarrow b=-\frac{9}{2} \\ \text{se }a=-2 \Rightarrow b=\frac{-9}{-2}=\frac92\end{cases}[/tex]
Portanto, os pares possíveis [tex](a,b)[/tex] são [tex](2,-\frac92)[/tex] e [tex](-2,\frac92)[/tex].
(2) [tex]fog(x)=f(g(x))=[g(x)]^2=4x^2-12x+9=(2x-3)^2 \Rightarrow[/tex]
[tex]\begin{cases} g(x)=2x-3\text{ ou}\\g(x)=-(2x-3)=-2x+3 \end{cases}[/tex]
