охохох... боюсь, что тут начнётся эвристика на эвристике

пока пришло в голову два варианта:

1.
Разделить изображение на две области - со светлыми объектами и с тёмными объектами, светлые искать через min, тёмные - чере max. Наверняка, возникнут проблемы на стыке областей и там, где тёмные объекты слишком близко к светлым

2.
Заменить min. По сути он выполняет следующую задачу: если обе точки принадлежат объекту или обе фону - взять любую из них, если одна из них принадлежит фону - взять её. Это можно сделать по-другому: смотрим разницу A(x,y) и A(x,y+10), если она большая, заменяем на фон, если маленькая - берём одну из них (например, верхнюю). Фон можно вычислить на основании окрестности, например, собрать статистику, повыкидывать верхнюю и нижнюю трети и посчитать среднее.