Tự vẽ hình rồi làm theo như sau:
Dễ thấy ABCD là hình vuông => BD vuông AC=> BD vuông (A'C'CA)
Gọi K là giao AC và BD, khi đó ta có BD vuông (AKM) . Có thể thấy AKM chia khối chóp ra làm 2 tứ diện có V= nhau là AKMD và AKMB
Vậy chọn AKM làm mặt đáy, chiều cao là BD thì ta được V cần tìm là:
[tex]\frac{1}{3}BD.S_{AKM}[/tex]
BD= m. căn 2
AKM có S = [tex]S_{AA'C'A}-S_{AA'K}-S_{A'C'M}-S_{CMK}=\sqrt{2}m.n-\frac{1}{2}m.n(\frac{1}{\sqrt{2}}+\frac{1}{2\sqrt{2}}+\frac{1}{\sqrt{2}})=\frac{3}{4\sqrt{2}}mn=>V=\frac{1}{3}.\frac{3}{4\sqrt{2}}mn.\sqrt{2}m=\frac{m^2n}{4}[/tex]
Tới đây thay n=4-m vào rồi đạo hàm là dễ dàng tính được max V= 64/27