Непонимаю следующий момент:
вот храниться у меня в Document текст, который отображен в JTextComponent могу ли я как-то раскрасить этот текст, без вызова метода
replace(...) в том же Document.

Т.е. если разобраться то внутри этот replace выгляди так:

        @Override
        public void replace(int offs, int len, String string, AttributeSet attrs) throws BadLocationException {
...
super.replace(offs,len,string,attrs);
        }


и в принципе казалось бы, переоверайдь его и выставляй перед заменой нужный тебе атрибут..., но в том то и дело, что вставлять текст не надо, нужно просто обновить ему атрибуты. 
Как это сделать?

Смотрите для раскраски DefaultStyledDocument. Соответственно вам надо JTextPane JEditorPane.