Есть подозрение на утечку памяти.

С такими задачами ни разу не сталкивался, поэтому прошу вашего совета: с чего начать, где и как искать.

Какими пользоваться инструментами (желательно бесплатными)?

Честно говоря слабо представляю, как вообще утечку можно обнаружить  

Понятие Сброщик Мусора тебе на знакомо? Вот начни со знакомства с ним. Он быстро упразднит твои подозрения  

Конечно знакомо. И что с ним делать. Просто система рабочая, не имею возможности перебирать все имеющиеся варианты параметров.
С чего начать хотя бы думать, чтобы не бездумно ковырять

kkorsakoff
Начать можно с того, что добавить в командную строку запуска твоего приложения опцию -verbose:gc и посмотреть как расходуется и чиститься память по мере работы с приложением (запуск разных операций, подключение пользователей, соединение с внешними ресурсами.. в зависимости от специфики).

Добавлено через 3 минуты и 1 секунду
Еще есть очень неплохая и недлинная статья, с теорией и конкретными рекомендациями.

с классификации проблемы.
Вы решили что происходит утечка памяти, почему? Засоряется оперативка? Память не освобождается после выхода из системы? 
ява убирает за собой весь мусор сама, так что это либо проблемы виртуальной машины (пишите в Sun) либо на самом деле дело в другом...

kkorsakoff, и все присутствующие. Надеюсь никто не питает иллюзий того что в Java утечка памяти невозможна. 
Что касается того как ее надо искать. Самый простой способ воспользоваться профилятором и посмотреть как расходуется память в зависимости от совершаемых действий. К сожалению, мне доводилось работать только с платным продуктом JProfiler. Скачать его можно вот отсюда http://www.ej-technologies.com/products/jp...r/overview.html. Думаю там есть какой-то период бесплатного пользования программой, поэтому стоит попробовать.

Этой крамольной мысли в топике, кажется не звучало. Быстро бы запинали      


Вот и я о том же, только можно и без профайлера для начала попробовать, просто понаблюдать внимательно за событиями коллектора.

Понаблюдал над коллектором.

Выяснилось, что из-за особенностей приложения (надеюсь все таки особенностей, а не утечек) создавалось ОЧЕНЬ много короткоживущих объектов.
DefNew отрабатывал раз в секунду.
Увеличил NewSize до 32 - стало лучше, потом до 48.

Но все равно, нормально ли это, что каждые секунд 15-20 появляется около 40Мб мусора или все-таки искать грабли?

В приложении активно используется Hibernate, jniwrapper.

Нормально ли NewSize делать в 48/64 от всей памяти приложения?

Добавлено через 4 минуты и 21 секунду
Да, и можно ли с помощью профайлера узнать, под что используются эти мегабайты памяти. Хотя бы какие классы...
Давно бы сам попробовал, да найти бы бесплатный.

Зависит от того, что делает приложение. Ему есть что делать каждые 20 секунд? 

Делать то есть что, обрабатывает телефонные вызовы. То есть ситуация вполне нормальная?

kkorsakoff
На мой взгляд -- да. Главное, чтобы она освобождалась. Перед глазами пример web-приложения, в котором, при каждом клике пользователя в браузере (ну и соотвественно обработки несложного запроса на сервере), отъедается два-три метра. А пользователей и кликов много, тем ни менее коллектор практически мгновенно за ними подчищает.

Добавлено через 1 минуту и 40 секунд
В моей ситуации клиентам этого достаточно, предела памяти в реальных условиях мы никогда не достигаем. Просто посчитали и указали в документации при какой нагрузке мы гарантируем устойчивую работу системы. С запасом.