[tex]a^{x}.b^{x^2-1}=1\Leftrightarrow log_{a}\left ( a^{x}.b^{x^2-1} \right )=log_{a}1\Leftrightarrow x+(x^2-1)log_{a}b=0\Leftrightarrow x^2.log_{a}b+x-log_{a}b=0[/tex]
[tex]\Rightarrow \left\{\begin{matrix} x_{1}.x_{2}=\frac{-log_{a}a}{log_{a}a}=-1 & \\ x_{1}+x_{2}=\frac{-1}{log_{a}b} & \end{matrix}\right.[/tex]
[tex]\Rightarrow S=log_{a}^{2}b+\frac{4}{log_{a}b}[/tex]
Đặt [tex]log_{a}b=t[/tex], do [tex]a>1;b>1\Rightarrow t>0[/tex] [tex]\Rightarrow S=f(t)=t^2+\frac{4}{t} \: \: (t>0)[/tex]
[tex]f'(t)=2t-\frac{4}{t^2}=0\Rightarrow t=\sqrt[3]{2}[/tex]
Dựa vào BBT ta thấy [tex]f(t)[/tex] đạt min tại [tex]t=\sqrt[3]{2}[/tex]
[tex]\Rightarrow S_{min}=f(\sqrt[3]{2})=\left ( \sqrt[3]{2} \right )^2+\frac{4}{\sqrt[3]{2}}=\frac{6}{\sqrt[3]{2}}=3\sqrt[3]{4}[/tex]