Nếu có 12 cuốn sách khác nhau thì có [tex]12![/tex] cách sắp xếp.
Nhưng mà hoán vị của 5 cuốn sách toán, 4 cuốn sách lý và 3 cuốn sách văn cho ta cùng 1 cách sắp xếp.
Vậy số cách sắp xếp số sách này trên kệ là:
[tex]\frac{12!}{5!.4!.3!}=27720[/tex] cách