Как в диалоговое окно добавить свою кнопку рядом с кнопками сворачивания и закрытия ?

Смотри тут

Да, но DrawFrameControl просто может нарисовать кнопку в Caption'е, она не будет получать никаких сообщений и более того если окно вывести за экран, то она сотрётся. И ещё при нажатии на неё не происходит анимации, т.е она просто как битмап. Как мне сделать нормальную кнопку ?

Не совсем так, но эффект тот же писал без среды, т.е. навскидку без компиляции, так что может и не работать :\
Button = CreateWindow( "BUTTON", NULL, WS_POPUP|WS_VISIBLE, 0, 0, 15, 15, hWnd, NULL, NULL, NULL);

RECT rect = {NULL};
GetWindowRect (hWnd, &rect);
SetWindowPos(Button, HWND_TOPMOST,rect.left+200, rect.top+5, 0, 0,
SWP_NOSIZE | SWP_NOACTIVATE);
   }

   break;
case WM_SIZE:
case WM_MOVING:
case WM_MOVE:
{
RECT rect = {NULL};
    GetWindowRect (hWnd, &rect);
SetWindowPos(Button, HWND_TOPMOST,rect.left+200, rect.top+5, 0, 0,
SWP_NOSIZE | SWP_NOACTIVATE);

break;
}

Код конечно не рабочий
Но я так понимаю ты пытался просто нарисовать кнопку в caption'е.
В принципе так наверное тоже можно, попробую, спасибо !

Код - неверен.

Нужно обрабатывать WM_NCPAINT.