LinuxのRadeon Software (AMDGPU Pro)のVulkan AMFが、RX7000シリーズでは利用できないようです。
MesaがデフォルトでH.264/HEVCサポートを外したため、Radeon環境でのハードウェアエンコーディングにAMF (LinuxのVulkan AMFでは h264_amf のみ) を使う以外にない状況でしたが、RX7000シリーズで少なくとも現状ではVulkan AMFがサポートされておらず、VA-API経由でAV1エンコーダを叩くこともできないため、通常ではRX7000シリーズではハードウェアエンコードする方法がない状態になっています。
実現可能な方法としては、H.264/HEVCサポートが有効になったMesaを用意してVA-API経由で使うことだけ。
なお、エンコード速度そのものはRX6000シリーズと比べ劇的に速くなったため、 h264_vaapi でも4k 60fpsは余裕になり、MesaをなんとかできればAMFがなくてもデスクトップキャプチャにはそれほど困りません。