Ответ из саппорта:
добавить в аргументы запуска опцию -XX:+UseParNewGC (если добавлена правильно, то память должна освобождаться быстрее)