В общем ситуация такова.
Есть сервлет, который обрабатыват запрос. Для того контроля таймаут используется JBossTimer#addNotification и соответствующий подклас NotificationListener. Для тестирования таймаут ставится на 500 мс, а начало обработки запросов задерживается на 2000 мс.
При одиночных запросах (порядка 1 в секунду) таймаут отрабатывает нормально.

Но есть бага. При обработке сразу нескольких запросов (10 потоков) таймаут выставляется, но в большинстве случаев до листенера сообщения о таймауте не доходят (не вызывается handleNotification).

В чем может быть причина?

Не в тему, но может поможет
Про JBossTimer не скажу, т.к. JBoss даёт возможность использовать обычный TimerService, который настраивается через ejb-deployer.xml таймеры создаются в отдельных потоках и выполняются (вроде) параллельно.
В файле настройки есть параметр проверки таймаута default=100мс

Думаю, что для JBossTimer тоже что-то вроде такого конфига должно быть...