Добрый день.
В программе есть функция производящая тяжёлые вычисления. Вся задача разбивается на подзадачи которые выстраиваются в очередь. Есть рабочие потоки число которых равно числу ядер в процессоре. Эти потоки читают задания из очереди и производят расчёт. В такой конфигурации нагрузка всегда 100%, надо как то позволить пользователю ограничивать нагрузку на систему. Первое что пришло в голову это замерять время выполненеия одной итерации расчёта в потоке и между ними вставлять паузы соответственно необходимому снижению нагрузки, например если время простоя == времени расчёта то наверно загрузка будет 50% (если интервалы достаточно короткие). Может кто то подскажет ещё какие-нибуть идеи?
Заранее спасибо.

1) Использовать для вычисления таких задач не пользовательскую машину.
2) Попробовать задействовать меньшее количество ядер.

Самый дубовый способ вставлять слипы, и на первый взгляд не вижу в этом способе ничего плохого 
Как вариант могу предложить определять загруженность процессора не на основе твоего приложения, а, например, на основе времени выполнения Idle процесса. Чем больше процессорного времени он потребялет за определённый интервал - тем меньше загруженность процессора.

Как вариант, можно управлять загрузкой внешне:
Linux: http://cpulimit.sourceforge.net/
Windows: http://technet.microsoft.com/en-us/library/ff384148.aspx
Уверен что то же самое можно и на другие системы нарыть