> Да и про "больше вычислений" прохладное, если vp9 подкрутить на качество он
> будет получше libaom картинку на битрейт выдавать

Не, не будет. У VP9 сильно меньше tools для кодирования и уменьшения потока данных не в ущерб визуальному качеству. Поэтому при равном визуальном качестве VP9 обречен весить заметно больше.

> (и уж точно меньше глитчей), но это будет не меньше сложность.

Он кодирует побыстрее - но битрейт-качество у него заметно хуже AV1, что libaom что сабжа. Я сравнивал side by side, оно не конкурент этой парочке от слова вообще. В AV1 на уровне формата потока ряд весьма крутых фич завезли - а у VP9 их нету. Он сразу на старте в проигрыше.