Подскажите алгоритмы, как можно на видео обрисовать контур движущегося объекта?

Фон статичный?
Если да, то тупой перебор изображения. Можно просматривать по областям и проверять объект/фон.
Если нет- не знаю еще. Завтра придумаю.

Кое-что полезное можно найти здесь:
http://www.compression.ru/download/video_motioninfo.html

Начало темы http://forum.vingrad.ru/topic-142750.html

Не уверен на 100% Но можно такой вариант:

Записать гамму статичной картинки (т.е. массив где каждый элемент - значение цвета не важно в каком виде), т.к. освещение могёт меняться то придётся пораскладывать гамму для тональностей от до мажор до си минор включительно.

затем попиксельно перебирать картинку когда будет объект, и те пикселы которые не из исходной гаммы считать как чужими и зн там движущийся объект, далее его обвести вывести в отдельное окно или что там еще нужно.

Обвод- запомнить крайние пикселы сдвинуть влево, вправо, вверх, вниз на скажем 1-2 пиксела и обводка.

Чтобы перебор был быстрее можно при поиске движения сканить с шагом в 10 пикселей или 5 или 15 как угодно, образовав тем самым что-то наподобие сетки, далее если узловой пиксел вне гаммы то он чужой и тут уже можно пересканивать всю область в окрестности эпсилон.

Для след кадров можно попробовать отловить смещение скажем знаем ниж лев угол - чужая гамма. Сканим след фрейм опа родная гамма, но в правом верх углу чужая гамма, хотя в прош кадре была чужая зн туда двинулись.

Всё это очень по-деревенски и на уровне эмоций, но может натолкнёт на нужные мысли. Я пытался что-то подобное сделать впринципе получалось по гамме отыскать примерные координаты объекта, причём при 25 кадрах всё в реалтайме работало. Писал на билдере для баловства. Как в реальной жизни такое будет работать естественно не знаю.

ЗЫ Очень советую не ловить с камеры а подсовывать скрин эталон и скрин с чужаком. Всё отладить, затем проверить на других скринах, далее подключать видео, иначе адски сложно будет всё писать.
Желаю удачи да побольше.

Уже запостил в .Net, сюда тоже выложу, может кому пригодиться...
http://www.codeproject.com/cs/media/Motion_Detection.asp