Tổng số tứ giác tạo thành: [TEX]C_{15}^4[/TEX]
Tứ giác có 1 cạnh là cạnh của đa giác: [TEX]15.(C_{11}^2-10)[/TEX]
Tứ giác có 2 cạnh và 3 cạnh là cạnh của đa giác: 15.10+[TEX]\frac{15.12}{2}=240[/TEX]
=> số tứ giác có 4 cạnh không có cạnh nào của H là:
[TEX] C_{15}^4-15.(C_{11}^2-10)-240=450 [/TEX]
giải thích trường hợp tứ giác có 2 và 3 cạnh của đa giác:
15.10: số tứ giác có 2 cạnh là 2 cạnh liền kề của đa giác và đỉnh còn lại sao cho không tạo thành tứ giác có 3 cạnh là 3 cạnh của đa giác
[TEX]\frac{15.12}{2}[/TEX]: số tứ giác có 2 cạnh là 2 cạnh không liền kề của đa giác . Nhưng trường hợp này nó cũng bao gồm cả trường hợp 3 cạnh của tứ giác là 3 cạnh của đa giác luôn.