]> git.kernelconcepts.de Git - karo-tx-linux.git/commit
ENGR00289553 IPU dev:correct downsize overflow check in rot case
authorLiu Ying <Ying.Liu@freescale.com>
Mon, 25 Nov 2013 10:34:40 +0000 (18:34 +0800)
committerLothar Waßmann <LW@KARO-electronics.de>
Wed, 20 Aug 2014 08:06:45 +0000 (10:06 +0200)
commit69bec9e797f2b04143fc84cba0542c563cedfe8d
tree7cf1685160908d30eda877c3a9734189da086606
parenta9f79f1534c42a0d06f223d56dd9377c4975b044
ENGR00289553 IPU dev:correct downsize overflow check in rot case

In rotation cases, the width and height of IPUv3 IC scaling block's
output should align with the width and height of IPUv3 IC rotation
block. And, users only tell the IPUv3 device driver about the parameters
of scaling block's input and rotation block's output. So, we need to
swap the width and height of rotation block in cache before we do
downsize(a functionality of the scaling block) overflow check.

This patch fixes the issue which can be reproduced by this unit test case:
/unit_tests/mxc_v4l2_output.out -iw 128 -ih 128 -ow 176 -oh 10 -r 90

Signed-off-by: Liu Ying <Ying.Liu@freescale.com>
drivers/mxc/ipu3/ipu_device.c