Драйвер Nvidia? Установи отдельные настройки для Java.exe, отключив полностью параметр "Сглаживание" на "Выкл."