Каким образом они это делают? 
Маткад например. В нём есть функция (или оператор) simplify. Применяешь его  и иногда ему удается действительно упростить выражение. Правда редко. Так вот мне интересно, какие методы они используют для этого.

Я не знаю, какие методы именно в маткаде используются, но вообще в теории примерно так (вроде недавно была похожая тема, я как раз тогда какую-то книжку проглядел по диагонали): строится дерево разбора выражения, ну и сначала, понятно, к нему можно применить некоторые упрощения, основанные на стандартных арифметических правилах (удаление константных подвыражений, типа 2+2), а вот дальше уже начинается недетерминированное шаманство - пытаемся, например, раскрыть скобку, и применить к получившемуся выражению рекурсивно этот же алгоритм, или там как-нибудь обнаруживаем сумму квадратов a^2+2ab+b^2 и сворачиваем её, и т.д.

Вообще, насколько я понял, мало-мальски чёткого алгоритма здесь не существует. Может, конечно, я чересчур "диагонально" проглядел книгу 

Про приведение подобных более-менее как-то понятно. Меня интересуют более сложные случаи.
Например для тригонометрических наворотов. Типа sin(x)/cos(x) -> tg(x).

Не помнишь как книжка называлась?

По запросу "simplification of algebraic expressions algorithms" кое-что находится (на acm'е и springer'е немало), вот например какая-то обзорная статья:
http://www.cecm.sfu.ca/CAG/Projects/nsercOPG04.pdf

А книжка называлась - что-то про multiterm rewriting.

Просматривал сегодня книгу "Символьный C++" (Тан, Стиб, Харди), в ней несколько страниц уделено упрощению выражений (стр. 283-286), можешь посмотреть. Там тоже в принципе элементарный алгоритм, но утверждают, что на практике упрощает хорошо.

Спасибо за информацию. Если найду книгу, обязательно гляну. Даже название уже заинтриговало.

Я думаю, что перебором: применяются поочерёдно различные правила, по какой-то шкале оценивается сложность выражения и она минимизируется.

Есть такая (уже довольно старая) книжка: Ж.-Л.Лорьер, "Системы искусственного интеллекта"), ее легко найти. Почитайте, там очень неплохо изложены основные принципы работы подобных систем.