với m=1 thì O nằm trên đường thẳng d (loại).
với [tex]m\neq 1[/tex] thì d cắt các trục tọa độ tại 2 điểm [tex](0;-m+1)[/tex] và [tex](1-\frac{1}{m};0)[/tex]
ta có: [tex]\frac{1}{OH^2}=\frac{1}{OA^2}+\frac{1}{OB^2}=\frac{1}{(1-m)^2}+\frac{1}{(1-\frac{1}{m})^2}[/tex]
a. [tex]\frac{1}{(1-m)^2}+\frac{1}{(1-\frac{1}{m})^2}=2[/tex]
quy đồng, giải đc 2 nghiệm [tex]m=2\pm \sqrt{3}[/tex]
b. ta có đường thẳng d luông đi qua điểm M(1;1). vậy nên khoảng cách lớn nhất là khi M là hình chiếu vuông góc của O lên d. ta có đường thẳng chứa đoạn OM có hsg là 1, vậy d vuông góc với OM thì phải có hsg là -1. vậy m=-1.