Здравствуйте
Удалите стороннее антивирусное ПО (Kaspersky, Avast, Iobit, Eset, Malvarebytes и т.п.), сторонние файрволы, Adguard, Wallpaper engine, Lightshot, MSI Afterburner, MSI Mystic light и аналогичные, для управления подсветкой и блокировки рекламы. Добавьте папки с GTAV и RAGEMP в исключения защитника Windows. Отключите защиту в реальном времени. Отключите, либо удалите ПО от Razer если установлено. Также Process Lasso и Park Control, Memreduct, Advanced system care и подобные. Также отключите Xbox game bar и его оверлей, повтор xbox, оверлей дискорд, удалите betterdiscord, отключите оверлей стим и прочие оверлеи, кроме geforce experience/AMD Relive
GTA V, разумеется, должна быть чистой, без модификаций, включая Redux, Reshade, SweetFX, "замененки", "оптимизации" не иметь файла commandline в папке с игрой.
В сюжетном режиме, выберите родное разрешение монитора, режим в окне без рамки, формат автоматический.
В настройках конфиденциальности оверлея Geforce experience, включите запись рабочего стола.
Убедитесь, что не настроили кеш и папку, куда ведется запись, в папку с названием, которое содержит кириллицу, или на переполненный диск. Адекватный путь - C:\REC\TEMP, C:\REC
Дополнительных вариантов предложить не сможем