Пишу CMS, основанную на XML. Логику вшиваю такую, что если браузер поддерживает XSLT-преобразования "на лету", то передаю ему XML-документ, вставляя в него инструкцию , а если нет - трансформлю это дело на стороне сервера и передаю уже xhtml.

Вопрос в том, существует ли способ чётко и ясно понять по HTTP-заголовкам, поддерживает ли браузер такое преобразование или нет?

Составить таблицу поддержки браузерами. Хардкод проще говоря. 
А на первой странице подсунуть (в iframe?) тестовый XML с картинкой вида ....jpg?checlxml=true
И посмотреть обработает ли

Мне почему-то кажется, что вопрос не в этом, поскольку это решение очевидно. Помимо поддержки преобразования той или иной версией браузера, могут еще быть какие-то настройки, в которых эта возможность будет отключена(хотя, честно говоря, не знаю, можно ли отключить поддержку преобразований в каких-нибудь браузерах). Да и вообще, есть сильные сомнения в том, что браузерами, не умеющими выполнять преобразование до сих пор пользуется аудитория, достаточно большая для того, чтобы надо было задаваться этим вопросом.
Не знаю, я проблему понял так.

С учетом того, что XSLT процессоры разных вендоров и версий могут выдавать разный результат для одного и того же преобразования, такой подход видится куда более тернистым и ненадежным, нежели безусловное преобразование на стороне сервера.