предпосылки:
1. есть возможность задать для типа файла iconhandler: HKCR\<тип файла>\shellex\iconhandler\..., который будет вызываться для выбора отображаемой иконки. К примеру, такой вот обработчик выводит разные иконки для документа indesign CS и Indesign CS3, хотя расширение одно.
2. есть программа TrID, которая согласно базе данных о структуре файлов может определять(с указанием вероятности совпадения), к какому типу принадлежит файл. В комплекте есть TrIdScan, которому можно скормить подборку файлов одного типа и на выходе получить описание специфических конструкций, по которому TrID в дальнейшем сможет файл идентифицировать.
3. В TotalCommander Liter-плагин откроет файл, только если определит, что файл имеет адекватный тип. Т.е. опять же идет анализ структуры. Если плагин файл открыть не сможет, он передает файл следующему плагину в цепочке.

вопрос в чем: существуют ли подобные решения на уровне оболочки explorer.exe - чтоб был некий менеджер, которому передавался бы любой файл при попытке открыть, а уж менеджер в зависимости от структуры файла(или от имени - но погибче подхода, основанного на расширении) запускал ту или иную программу.
Связано подобное желание в первую очередь с документами, имеющими одно и то же расширение, но радикальные различия в версии(к примеру, тот же Indesign - старые документы все же проще обрабатывать в CS, новые - в CS3). Можно, конечно, открывать каждый раз через подменю "Открыть в помощью", но это же совсем не круто 

Штатных средств точно нет.