]> git.kernelconcepts.de Git - karo-tx-linux.git/commit
ENGR00289553 IPU dev:correct downsize overflow check in rot case
authorLiu Ying <Ying.Liu@freescale.com>
Mon, 25 Nov 2013 10:34:40 +0000 (18:34 +0800)
committerLothar Waßmann <LW@KARO-electronics.de>
Mon, 16 Jun 2014 16:08:42 +0000 (18:08 +0200)
commitcd79d6807a12a7e3b5384a9fef6647cb8f5ca3d5
treed9765fe1d3d1652eff7c906ccc60709ba163d996
parentecf0412c531072a48f9c776ff5367d4614cb7891
ENGR00289553 IPU dev:correct downsize overflow check in rot case

In rotation cases, the width and height of IPUv3 IC scaling block's
output should align with the width and height of IPUv3 IC rotation
block. And, users only tell the IPUv3 device driver about the parameters
of scaling block's input and rotation block's output. So, we need to
swap the width and height of rotation block in cache before we do
downsize(a functionality of the scaling block) overflow check.

This patch fixes the issue which can be reproduced by this unit test case:
/unit_tests/mxc_v4l2_output.out -iw 128 -ih 128 -ow 176 -oh 10 -r 90

Signed-off-by: Liu Ying <Ying.Liu@freescale.com>
drivers/mxc/ipu3/ipu_device.c