Force mode search on 64x64 if no mode is selected
authorJerome Jiang <jianj@google.com>
Tue, 10 Oct 2023 21:43:16 +0000 (17:43 -0400)
committerJerome Jiang <jianj@google.com>
Sat, 14 Oct 2023 00:28:21 +0000 (20:28 -0400)
commit2ab7ba82511eceb24d45361a0ba81a1460f5dbfc
tree2a15efa52156f7b4ac3eae293707827cc325cfd4
parent9c377eafbedd3911e83ee80793b4fba80710d4e0
Force mode search on 64x64 if no mode is selected

A speed feature disable_split_mask (set to 63) could cause no mode and
partition to be selected in rd_pick_partition because:

-> thresh_mult_sub8x8 all INT_MAX
-> All modes skipped for sub8x8 blocks
-> found_best_rd is 0 -> break from the loop of 4 sub blocks
-> sum_rdc is INT_MAX -> No rd update -> should_encode_sb is 0
-> Propagating to top of the tree
-> No partition / mode is selected

Bug: b/290499385
Change-Id: Ia655e262f3b32445347ae0aaf1a2d868cea997f3
vp9/encoder/vp9_encodeframe.c