Ищу литературу по физической реализация HTML

Под физической реализацией HTML,  я подразумеваю то, КАК машина ОДНОЗНАЧНО реализует СТРУКТУРУ HTML документа

Т.е к КАКИМ фунциям, библеотекам обращаються тэги HTML документа  

машина никак не трактует HTML код. либо ты слишком некорректно поставил вопрос, либо ты совсем неверно представляешь процесс работы с HTML и слишком некорректно поставил вопрос 
есть три этапа работы браузера с html: парсинг кода, построение модели и отображение на экран.

• html-код как язык разметки анализируется браузером на предемет некоторых ключевых слов(токенов), коими в html являются тегами. т.о. если твой вопрос про процесс парсинга, то смотри информацию о синтаксическом анализе и парсере. В различных браузерах реализованы различные парсеры(их ещё ядром называют; точнее, парсер - это составная часть ядра браузера), так что конкретная реализация может отличаться от другой конкретной реализации. Но в основе своей все парсеры базируются на основах того же синтаксического анализа: разбора лексем, определения блоков и т.д. На процессс парсинга влияет(по крайней мере, в каждом адекватном браузере должен влиять) определение "шаблона" структуры - схема DTD. DTD, по идее, каждый вменяемый верстальщик определяет явно в начале html-документа(в принципе, DTD относится к XML-структурам, частным случаем которых и есть HTML).
• в процессе парсинга формируется не список, а настоящее дерево, которое отображает вложенность("родственность") блоков(тегов); структура-дерево называется DOM, различные браузеры реализуют это дерево практически одинаково(наверняка утверждать не берусь, но, по крайней мере, это кажется логичным; кроме того существует стандарт DOM - стандартная реализация), различия заключаются в значениях свойств по умолчанию и некоторых "добавочных" свойствах узлов, которые отличаются от браузера к браузеру. На этом же этапе происходит корректировка полученного дерева:
  - на дерево накладываются стили в соотвествии с CSS и значениями по умолчанию для данного браузера
  - дерево корректируется в соотвествии с определенной логикой для упрощения дальнейшей обработки(к примеру, тег <tbody> не обязан обрамлять каждый набор <tr>, но некоторые браузеры создают этот блок, если он не был создан верстальщиком)
• в соотвествии со сгенерированным DOM и наложенными стилями, ядро браузера отрисовывает документ на экране. Тут логика(в первую очередь, порядок отрисовки) может быть любая(масштабирование рисунков или коррекция цветовых оттенков).

Соотвественно, любая подсиситема браузера(парсер,внутреннее представление и логика отображения) могут отличаться от реализации к реализации, но так как назначение их не меняется общие принципы будут одни и те же.

к функциям и библаотекам(зависящим от целевой ОС и браузера) обращается парсер, постритель DOM и подсистема отрисовки. Естественно, "функции и библиотеки" отличаются не только от браузера к браузеру и от ОС к ОС(как могут обращаться к одним и тем же библиотекам Opera for windows, Firefox for Ubuntu и встроенные в MenuetOS браузер?!), но даже - от версии к версии одного и того же браузера.
---------
итог.
1. хочешь узнать, какие функции вызывает вполне определенный браузер под определенную ОС - используй дизассемблер и дебаггер.
2. хочешь понять принцип и самому наваять браузер - изучай синтаксический/лексический анализ и ваяй себе.
3. хочешь что-то подпроавить в имеющихся исходниках браузера - попробуй сначала пункты 1 и 2.
4. ничего не хочешь - так тебе и надо 

Вобщем, вариантов действий хватает. Выбор за тобой   

Спасибо за дельный совет и за краткое описание что и как делается