делаю программку, которая заменяет лишние движения мышкой на клик правой кнопкой (надо кликать на кнопку в окне браузера internet explorer), то есть по правой кнопке она ставит курсор в нужное место, делает клик и возвращает курсор назад. 
все что я смог придумать это считать положение кнопки от левого верхнего угла экрана, это работает, но окно приходится разворачивать на весь экран.
я знаю есть функции для работы с обычным окном, но мне нужно работать с окном браузера, чтобы считать координаты не от угла экрана а от угла окна браузера.
как это можно сделать ? 

Угол окна браузера ты сможеш получить перебором всех дочерних окон.
например с помощью Handle1=GetWindow(Handle,GW_CHILD) и потом Handle1=GetNextWindow(Handle1,GW_HWNDNEXT);
потом проверяй или название или имя класса или просто считай по номеру если знаешь у какого оно родителя и какое по счёту.