Áp dụng BĐT Bunyakvosky ta có:
[imath]\dfrac{\sqrt{a^2-1}}{a}+\dfrac{\sqrt{b^2-1}}{b}=\sqrt{1-\dfrac{1}{a^2}}+\sqrt{1-\dfrac{1}{b^2}} \leq \sqrt{2[(1-\dfrac{1}{a^2})+(1-\dfrac{1}{b^2})]}[/imath]
[imath]=\sqrt{4-2(\dfrac{1}{a^2}+\dfrac{1}{b^2})}[/imath]
Đặt [imath]x=\dfrac{1}{a},y=\dfrac{1}{b}[/imath] thì từ giả thiết ta có [imath]\dfrac{a+b}{ab}+\dfrac{4}{ab}=2 \Rightarrow x+y+4xy=2[/imath]
[imath]\Rightarrow 2=4xy+x+y \leq (x+y)^2+(x+y) \Rightarrow (x+y-1)(x+y+2) \geq 0 \Rightarrow x+y \geq 1[/imath]
Từ đó [imath]\sqrt{4-2(\dfrac{1}{a^2}+\dfrac{1}{b^2})}=\sqrt{4-2(x^2+y^2)} \leq \sqrt{4-(x+y)^2} \leq \sqrt{3}[/imath]
Mặt khác, [imath]2(a+b)+8=4ab \leq (a+b)^2 \Rightarrow (a+b-4)(a+b+2) \geq 0 \Rightarrow a+b \geq 4[/imath]
[imath]\Rightarrow a^2+b^2 \geq \dfrac{1}{2}(a+b)^2 \geq 8 \Rightarrow \dfrac{1}{a^2+b^2} \leq \dfrac{1}{8}[/imath]
Từ đó [imath]F \leq \sqrt{3}+\dfrac{1}{8}[/imath]. Dấu "=" xảy ra khi và chỉ khi [imath]a=b=2[/imath].
Nếu còn thắc mắc chỗ nào bạn hãy trả lời dưới topic này để được hỗ trợ nhé. Chúc bạn học tốt ^^
Ngoài ra, bạn tham khảo kiến thức tại topic này nha
[Lý thuyết] Chuyên đề HSG : Bất đẳng thức