Поставьте 3D настройки видеокарты стандартными в панели управления NVIDIA.
Попробуйте отключить особые параметры запуска Java.