I tebi lep pozdrav iz
Serbije 
i slobodno pozovi i sve ostale koji bi da se druže uz matu.

Pa, da krenemo:
Dobro si napisao da je
[dispmath]g\circ f\left(x\right)=\left[\left(a-1\right)x+2\right]^2-\left[\left(a-1\right)x+2\right]+a[/dispmath]
E sad, dalje ne bih razvijao ovo [inlmath]\left(a-1\right)[/inlmath], već bih ga, radi jednostavnosti, očuvao kao poseban faktor:
[dispmath]g\circ f\left(x\right)=\left(a-1\right)^2 x^2+4\left(a-1\right)x+4-\left(a-1\right)x-2+a\\
g\circ f\left(x\right)=\left(a-1\right)^2 x^2+3\left(a-1\right)x+\left(a+2\right)[/dispmath]
Nule ove funkcije (koje, prema uslovu zadatka, ne bi trebalo da postoje) bile bi:
[dispmath]x_{1,2}=\frac{-3\left(a-1\right)\pm\sqrt{9\left(a-1\right)^2-4\left(a-1\right)^2\left(a+2\right)}}{2\left(a-1\right)^2}[/dispmath]
Posle skraćivanja sa [inlmath]\left(a-1\right)[/inlmath]:
[dispmath]x_{1,2}=\frac{-3\pm\sqrt{9-4\left(a+2\right)}}{2\left(a-1\right)}[/dispmath]
[dispmath]x_{1,2}=\frac{-3\pm\sqrt{1-4a}}{2\left(a-1\right)}[/dispmath]
Pošto, po uslovu zadatka, [inlmath]\forall x[/inlmath] funkcija mora imati pozitivne vrednosti, to znači da ne sme imati presečne tačke s [inlmath]x[/inlmath]-osom, tj. mora biti [inlmath]D<0[/inlmath]:
[dispmath]1-4a<0\\
a>\frac{1}{4}[/dispmath]
(Negde si u računu pogrešio oko dobijanja vrednosti diskriminante, ali se dosta loše vidi... Pokušaću da nađem grešku, pa javljam...)