Здравствуйте
Чтобы получить максимально вероятные условия для работы GeForce experience, не используйте Reshade и подобные модификации, выключите оверлеи, особенно дискорд, выберите в настройках сюжетного режима, режим в окне без рамки, формат автоматический, Directx 11. В настройках оверлея GeForce experience, включите в настройках конфиденциальности запись рабочего стола. Если результата нет, попробуйте переустановить драйвер видеокарты начисто, удалив сначала из через приложение DDU (с сайта guru3d) в безопасном режиме.
Если результата нет, остаётся вариант с использованием другого приложения для записи, например OBS.