$x+y=\sqrt{x-1}+\sqrt{2(y+1)} \leq \sqrt{(1+2)(x-1+y+1)}=\sqrt{3(x+y)} \rightarrow 0 \leq x+y \leq 3$
Đặt $x+y=t$
Ta có:
$P=x^2+y^2+2(x+1)(y+1)+8\sqrt{4-x-y}$
$= (x+y+2)^2-2(x+y+1)+8\sqrt{4-x-y}$
Thay $x+y=t$ đc
$P=(t+2)^2-2(t+1)+8\sqrt{4-t}=t^2+2t+2+8\sqrt{4-x}$
Đến đây c tìm GTNN, GTLN của hàm $f(t)$ trên đoạn $[0;3]$
c làm nốt nhé, đến đoạn này t lười quá :3