Похоже эти функции со словом hook это был ложный манёвр.
Я посмотрел в IDA последовательность вызова.
Вслед за ACNSETWSKEYHOOK  идёт функция вызова help файла.
Короче говоря в программе есть фишка такая. Если программа запущена и вне зависимости от того, активно ли её окно или нет, то при нажатии F1 на любом окне, выводится справка становясь на первый план. 
Стало быть это видимо не та функция.

Нужен дебаггер старых программ, чтобы посмотреть, что вызывается в конкретный момент, когда блокируется клавиатура.