open-gop غير مفعلة by default (هذا مذكور في الموضوع، لا يبدو أنك قرأته جيداً) احذفها من إعداداتك. لا تضعها إلا إذا كنت تريد تفعيلها!
بالنسبة لـ VDub فلا يوجد سبب لاستعماله حسب رأيي عندما تنتج بكوديك h264 إن كنت تريد معاينة تأثير فلاتر avs أو أياً كان فلديك Avsp

بالنسبة ل 5 يبدو انه جميع الدكورات لم تنجح إلا lavf !! هل هو ديكودر جيد ودقيق ولا يغيير الالوان؟
ما دام هو الوحيد اللي نجح فلن يغير كونه جيداً من عدمه أي شيء، لوول. أفهم أن الخام lagarith أو FFV أو شيء كهذا.. ونعم هو ديكودر قوي

عندما استعمل الديكودر raw ينتج فيديو اخضر مشوش واشكال غريبة
لا تستعمله إلا إذا كان لديك كوديك (فيديو يعني~) غير موضوع داخل حاوين يعني بصيغة h264 أو 264
أغلب الظن أن اللون الأخضر سببه هو أن الخام ليس H264

بالنسبة للأخطاء التي تعترضك فمن المفترض أن تختفي إذا حذفت open-gop من الإعدادات + احذف المسافة الزائدة قبل crf وتأكد أن جميع الإعدادات تفصل بينهم مسافة واحدة فقط.