Меня интересует вопрос, как/каким образом лучше протестировать алгоритм?

Какие методы и способы лучше всего применять?

1). Разложение алгоритма на ДКА / НКА ( не/детерминированный конечный автомат )?

К примеру, можно посмотреть на сайте Университета Калифорнии, как алгоритм КМП ( Кнута-Морриса-Пратта ) раскладывают на ДКА ( детерминированный
конечный автомат ):

http://www.ics.uci.edu/~eppstein/161/960222.html

2). Юнит-тестирование?

3). Другие способы?

Заранее спасибо,

Вопрос очень неопределенный.
Что Вы хотите получить в результате?
Разложение реализованного алгоритма на какой-либо автомат это очень странная операция. Скорее напоминает подсчет производительности в некоторых "попугаях".
Способы сравнения сильно зависят от степени использованияя параллелизма и даже от среды программирования. Например алгоритмы на С, С++, Delphi, Fortran сравнивать много проще чем на Java, C# и прочих языках виртуальных машин.

Посему конкретизируйте вопрос, что и для чего Вы хотите протестировать.