Добрый день. 

Где можно почитать о принципах, алгоритмах и структурах данных применяющихся при реализации GUI и оконных менеджеров.

Просто есть задача написать графическую библиотеку. С базовыми примитивами (точки, лини и т.д.) проблем нет, а вот с оконным менеджером застрял, поскольку никогда этим не интересовался. Велосипед изобретать не хочется вот и интересуюсь принципами их реализации. Подскажите кто чем может.

Посмотри какие нибудь существующие библиотеки, QT, VCL или Irrlicht, можно архитектуру передрать. Может быть стоит почитать Erich Gamma - Design Patterns (Шаблоны Проектирования). Там в начале описывается построение UI.