Você está usando um codec que sua placa de vídeo consegue realmente acelerar, ou está tentando forçar algo aí?
A RTX 4060 é basicamente forte o suficiente para 4K, mas o problema geralmente não está no hardware em si, e sim nas configurações de exportação! No OBS você precisa garantir que está usando o encoder correto - o ideal seria NVENC (essa é a aceleração de hardware da sua placa Nvidia). Se você usar x264 ou x265 no modo CPU, seu processador vai ter que dar conta disso sozinho, e mesmo com 32GB de RAM isso fica extremamente lento e travado em 4K. Dá uma olhada nas configurações de Output para ver qual encoder está ativo!
Mais duas coisas para checar: Primeiro, o bitrate - em 4K talvez você esteja tentando gravar com muito poucos dados por segundo, o que resulta em qualidade horrível. Tenta um bitrate mais alto (algo como 50-80 Mbps pra cima, dependendo do conteúdo). Segundo, a framerate - ela bate com a da gravação na exportação, ou tem discrepância? Se você grava em 60fps mas exporta em 30fps, aparecem travadas! Acha um bom meio termo entre bitrate alto, encoder correto e framerate estável, aí deve funcionar!