Уже разобрался, спасибо там в доп. настройках надо в особых параметрах запуска джава надо прописать значение: -Xms_m -Xmx_m вместо "_" любое колл - во мегабайт например 1024м = 1 гиг.

--- Добавлено в 2014-09-30 23:26:57

И вообще я хорошо разбираюсь в железе и мне не надо писать, что дело не в памяти.