Подскажите, пожалуйста,  как программно рассчитать коэффициент интермодуляционных искажений (IMD).
Нужно чтобы работало как в RightMark Audio Analyzer.

Насколько я понял, этот анализатор обмеряет суммарную нелинейность звуковой карты компьютера путём закорачивания линейного выхода и входа. Тогда подаёте на выход звуковой карты 2-х тональный сигнал, записываете его со входа и меряете уровень интермодуляционных компонент. Скорее всего этот коэффициент это уровень этих самых компонент относительно основного сигнала (в разных стандартах может быть по разному). А вообще не понятно в чём у вас проблема, вы знаете алгоритм и не можете его закодировать на ЯП?

После подачи на вход звуковой карты 2-х тонального сигнала с частотами F1 & F2 на выходе будет сигнал с частотами K*F1+N*F2.
Сколько гармоник нужно учитывать при расчете IMD ?
Как выглядит формула для расчета IMD ?



Наоборот. 

Для аудио измерений наверно есть какие-то стандарты (возможно среди ITU стандартов, но не уверен), но в общем случае достаточно просто измерять уровень интермодуляционных компонент на выходе. Подаёте частоты F1 и F2 и измеряете уровень на частоте 2F1-F2 и 2F2-F1, вот и вся формула.

IMD = 100 * sqrt(Amp(2F1-F2)^2 + Amp(2F2-F1)^2) / sqrt(Amp(F1)^2 + Amp(F2)^2), где Amp(F) - амплитуда.

Ну а формула такая ? 

Можно и так (насколько я понял это отношение среднеквадратичных значений), а что за коэффициент 100 ?

для перевода в %

Наверно эту величину лучше измерять в дБ как отношение мощностей, в процентах может получится очень маленькое значение.