Попробуй увеличить кол-во потребляемой памяти явой (java):
http://forum.minecraft-galaxy.ru/topic/71916