Если компилятор один раз выплюнул исполняемый код (руководствуясь хотя бы таким анализом - уже хорошо!) и ушёл за сцену, то проблема исполнения в меняющейся среде, получается, действительно ложится на программиста. А мог бы, интересно, компилятор сопровождать задачу? = Динамически перекомпоновывать и компилировать куски, потерявшие эффективность в изменившихся условиях? = Динамический код 
По поводу многоядерного нашествия - по-моему, естественно, что больше всего продаётся то, для чего можно организовать технологический процесс, а потом быстро и много наштамповать. Хорошее параллельное ПО к числу таких вещей не относится, пока это - штучный труд.
Спасибо за интересные статьи!