- Điều kiện: a > 4 ; b > 1
- Có: ⇀AM = (4 - a ; 1) ; ⇀AB = (-a ; b)
- A, M, B thẳng hàng ⇔ ⇀AM ↑↑ ⇀AB
⇔ (4 - a)/(-a) = 1/b
⇔ (4 - a)b + a = 0 ₍₁₎
- Có: ⇀AB = (-a ; b) ⇒ AB = √(a² + b²) ≥ √(2ab). Đẳng thức xảy ra ⇔ a = b ₍₂₎
- Từ ₍₁₎ và ₍₂₎ ⇒ (4 - a)a + a = 0 ⇔ a = b = 5 (thỏa mãn)
Vậy AB có độ dài ngắn nhất khi a = b = 5.