хочу прикрутить показ видео flv-файлы (не h.264) через nginx

в свободное время может попробую через html5...

будет ли показываться flv файл? никто не видел FAQ по html5+flv+nginx? (именно такого FAQ не нашел)

...вродебы нельзя, не написано нигде что можно...

flv показывается через флеш (flvplayer). если есть желание показать его через тег video - то стоит подождать лет, этак пяток, пока про старые версии IE станут немного забывать и образуется культура работы с тегом video. сейчас сильно отличается внешний вид и функциональность проигрывателей.
Хотя можно поискать скриптовые решения по выбору плейера - их довольно много.

nginx'у нет особой разницы - какие файлы как отдавать. что написано в конфигурации, то он и делает. Разве что про потоковое видео можно сказать пару лишних слов.