2. Выдели больше памяти в настройках лаунчера(каждого профиля)
-Xmx16G - где 16 это желаемое кол-во памяти. Тем самым ты только увеличишь потолок, доступной для мкгла, памяти.
3. Настройки графики по типу: "Графика: Детальная", "Мягкое освещение", "Динамическое освещение" жрут неистово много ресурсов ЛЮБОГО пк. Держи их выключенными.
4. Почему-то у тебя не отображается кол-во потребляемой gpu памяти. Обнови драйвера видеокарты до последней версии.
5. Поковыряйся в настройках "Панели управления Nvidia", а именно в "Управлении параметрами 3D". P.s. скайвокер скинул вверху скриншот.
6. Покайся и, может быть, что-то да и поможет.