drivers/media/platform/sti/bdisp/bdisp-v4l2.c

   1 /*
   2  * Copyright (C) STMicroelectronics SA 2014
   3  * Authors: Fabien Dessenne <fabien.dessenne@st.com> for STMicroelectronics.
   4  * License terms:  GNU General Public License (GPL), version 2
   5  */
   6
   7 #include <linux/errno.h>
   8 #include <linux/interrupt.h>
   9 #include <linux/kernel.h>
  10 #include <linux/module.h>
  11 #include <linux/of.h>
  12 #include <linux/pm_runtime.h>
  13 #include <linux/slab.h>
  14
  15 #include <media/v4l2-event.h>
  16 #include <media/v4l2-ioctl.h>
  17
  18 #include "bdisp.h"
  19
  20 #define BDISP_MAX_CTRL_NUM      10
  21
  22 #define BDISP_WORK_TIMEOUT      ((100 * HZ) / 1000)
  23
  24 /* User configuration change */
  25 #define BDISP_PARAMS            BIT(0) /* Config updated */
  26 #define BDISP_SRC_FMT           BIT(1) /* Source set */
  27 #define BDISP_DST_FMT           BIT(2) /* Destination set */
  28 #define BDISP_CTX_STOP_REQ      BIT(3) /* Stop request */
  29 #define BDISP_CTX_ABORT         BIT(4) /* Abort while device run */
  30
  31 #define BDISP_MIN_W             1
  32 #define BDISP_MAX_W             8191
  33 #define BDISP_MIN_H             1
  34 #define BDISP_MAX_H             8191
  35
  36 #define fh_to_ctx(__fh) container_of(__fh, struct bdisp_ctx, fh)
  37
  38 enum bdisp_dev_flags {
  39         ST_M2M_OPEN,            /* Driver opened */
  40         ST_M2M_RUNNING,         /* HW device running */
  41         ST_M2M_SUSPENDED,       /* Driver suspended */
  42         ST_M2M_SUSPENDING,      /* Driver being suspended */
  43 };
  44
  45 static const struct bdisp_fmt bdisp_formats[] = {
  46         /* ARGB888. [31:0] A:R:G:B 8:8:8:8 little endian */
  47         {
  48                 .pixelformat    = V4L2_PIX_FMT_ABGR32, /* is actually ARGB */
  49                 .nb_planes      = 1,
  50                 .bpp            = 32,
  51                 .bpp_plane0     = 32,
  52                 .w_align        = 1,
  53                 .h_align        = 1
  54         },
  55         /* XRGB888. [31:0] x:R:G:B 8:8:8:8 little endian */
  56         {
  57                 .pixelformat    = V4L2_PIX_FMT_XBGR32, /* is actually xRGB */
  58                 .nb_planes      = 1,
  59                 .bpp            = 32,
  60                 .bpp_plane0     = 32,
  61                 .w_align        = 1,
  62                 .h_align        = 1
  63         },
  64         /* RGB565. [15:0] R:G:B 5:6:5 little endian */
  65         {
  66                 .pixelformat    = V4L2_PIX_FMT_RGB565,
  67                 .nb_planes      = 1,
  68                 .bpp            = 16,
  69                 .bpp_plane0     = 16,
  70                 .w_align        = 1,
  71                 .h_align        = 1
  72         },
  73         /* NV12. YUV420SP - 1 plane for Y + 1 plane for (CbCr) */
  74         {
  75                 .pixelformat    = V4L2_PIX_FMT_NV12,
  76                 .nb_planes      = 2,
  77                 .bpp            = 12,
  78                 .bpp_plane0     = 8,
  79                 .w_align        = 2,
  80                 .h_align        = 2
  81         },
  82         /* RGB888. [23:0] B:G:R 8:8:8 little endian */
  83         {
  84                 .pixelformat    = V4L2_PIX_FMT_RGB24,
  85                 .nb_planes      = 1,
  86                 .bpp            = 24,
  87                 .bpp_plane0     = 24,
  88                 .w_align        = 1,
  89                 .h_align        = 1
  90         },
  91         /* YU12. YUV420P - 1 plane for Y + 1 plane for Cb + 1 plane for Cr
  92          * To keep as the LAST element of this table (no support on capture)
  93          */
  94         {
  95                 .pixelformat    = V4L2_PIX_FMT_YUV420,
  96                 .nb_planes      = 3,
  97                 .bpp            = 12,
  98                 .bpp_plane0     = 8,
  99                 .w_align        = 2,
 100                 .h_align        = 2
 101         }
 102 };
 103
 104 /* Default format : HD ARGB32*/
 105 #define BDISP_DEF_WIDTH         1920
 106 #define BDISP_DEF_HEIGHT        1080
 107
 108 static const struct bdisp_frame bdisp_dflt_fmt = {
 109                 .width          = BDISP_DEF_WIDTH,
 110                 .height         = BDISP_DEF_HEIGHT,
 111                 .fmt            = &bdisp_formats[0],
 112                 .field          = V4L2_FIELD_NONE,
 113                 .bytesperline   = BDISP_DEF_WIDTH * 4,
 114                 .sizeimage      = BDISP_DEF_WIDTH * BDISP_DEF_HEIGHT * 4,
 115                 .colorspace     = V4L2_COLORSPACE_REC709,
 116                 .crop           = {0, 0, BDISP_DEF_WIDTH, BDISP_DEF_HEIGHT},
 117                 .paddr          = {0, 0, 0, 0}
 118 };
 119
 120 static inline void bdisp_ctx_state_lock_set(u32 state, struct bdisp_ctx *ctx)
 121 {
 122         unsigned long flags;
 123
 124         spin_lock_irqsave(&ctx->bdisp_dev->slock, flags);
 125         ctx->state |= state;
 126         spin_unlock_irqrestore(&ctx->bdisp_dev->slock, flags);
 127 }
 128
 129 static inline void bdisp_ctx_state_lock_clear(u32 state, struct bdisp_ctx *ctx)
 130 {
 131         unsigned long flags;
 132
 133         spin_lock_irqsave(&ctx->bdisp_dev->slock, flags);
 134         ctx->state &= ~state;
 135         spin_unlock_irqrestore(&ctx->bdisp_dev->slock, flags);
 136 }
 137
 138 static inline bool bdisp_ctx_state_is_set(u32 mask, struct bdisp_ctx *ctx)
 139 {
 140         unsigned long flags;
 141         bool ret;
 142
 143         spin_lock_irqsave(&ctx->bdisp_dev->slock, flags);
 144         ret = (ctx->state & mask) == mask;
 145         spin_unlock_irqrestore(&ctx->bdisp_dev->slock, flags);
 146
 147         return ret;
 148 }
 149
 150 static const struct bdisp_fmt *bdisp_find_fmt(u32 pixelformat)
 151 {
 152         const struct bdisp_fmt *fmt;
 153         unsigned int i;
 154
 155         for (i = 0; i < ARRAY_SIZE(bdisp_formats); i++) {
 156                 fmt = &bdisp_formats[i];
 157                 if (fmt->pixelformat == pixelformat)
 158                         return fmt;
 159         }
 160
 161         return NULL;
 162 }
 163
 164 static struct bdisp_frame *ctx_get_frame(struct bdisp_ctx *ctx,
 165                                          enum v4l2_buf_type type)
 166 {
 167         switch (type) {
 168         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
 169                 return &ctx->src;
 170         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
 171                 return &ctx->dst;
 172         default:
 173                 dev_err(ctx->bdisp_dev->dev,
 174                         "Wrong buffer/video queue type (%d)\n", type);
 175                 break;
 176         }
 177
 178         return ERR_PTR(-EINVAL);
 179 }
 180
 181 static void bdisp_job_finish(struct bdisp_ctx *ctx, int vb_state)
 182 {
 183         struct vb2_v4l2_buffer *src_vb, *dst_vb;
 184
 185         if (WARN(!ctx || !ctx->fh.m2m_ctx, "Null hardware context\n"))
 186                 return;
 187
 188         dev_dbg(ctx->bdisp_dev->dev, "%s\n", __func__);
 189
 190         src_vb = v4l2_m2m_src_buf_remove(ctx->fh.m2m_ctx);
 191         dst_vb = v4l2_m2m_dst_buf_remove(ctx->fh.m2m_ctx);
 192
 193         if (src_vb && dst_vb) {
 194                 dst_vb->timestamp = src_vb->timestamp;
 195                 dst_vb->timecode = src_vb->timecode;
 196                 dst_vb->flags &= ~V4L2_BUF_FLAG_TSTAMP_SRC_MASK;
 197                 dst_vb->flags |= src_vb->flags &
 198                                           V4L2_BUF_FLAG_TSTAMP_SRC_MASK;
 199
 200                 v4l2_m2m_buf_done(src_vb, vb_state);
 201                 v4l2_m2m_buf_done(dst_vb, vb_state);
 202
 203                 v4l2_m2m_job_finish(ctx->bdisp_dev->m2m.m2m_dev,
 204                                     ctx->fh.m2m_ctx);
 205         }
 206 }
 207
 208 static int bdisp_ctx_stop_req(struct bdisp_ctx *ctx)
 209 {
 210         struct bdisp_ctx *curr_ctx;
 211         struct bdisp_dev *bdisp = ctx->bdisp_dev;
 212         int ret;
 213
 214         dev_dbg(ctx->bdisp_dev->dev, "%s\n", __func__);
 215
 216         cancel_delayed_work(&bdisp->timeout_work);
 217
 218         curr_ctx = v4l2_m2m_get_curr_priv(bdisp->m2m.m2m_dev);
 219         if (!test_bit(ST_M2M_RUNNING, &bdisp->state) || (curr_ctx != ctx))
 220                 return 0;
 221
 222         bdisp_ctx_state_lock_set(BDISP_CTX_STOP_REQ, ctx);
 223
 224         ret = wait_event_timeout(bdisp->irq_queue,
 225                         !bdisp_ctx_state_is_set(BDISP_CTX_STOP_REQ, ctx),
 226                         BDISP_WORK_TIMEOUT);
 227
 228         if (!ret) {
 229                 dev_err(ctx->bdisp_dev->dev, "%s IRQ timeout\n", __func__);
 230                 return -ETIMEDOUT;
 231         }
 232
 233         return 0;
 234 }
 235
 236 static void __bdisp_job_abort(struct bdisp_ctx *ctx)
 237 {
 238         int ret;
 239
 240         ret = bdisp_ctx_stop_req(ctx);
 241         if ((ret == -ETIMEDOUT) || (ctx->state & BDISP_CTX_ABORT)) {
 242                 bdisp_ctx_state_lock_clear(BDISP_CTX_STOP_REQ | BDISP_CTX_ABORT,
 243                                            ctx);
 244                 bdisp_job_finish(ctx, VB2_BUF_STATE_ERROR);
 245         }
 246 }
 247
 248 static void bdisp_job_abort(void *priv)
 249 {
 250         __bdisp_job_abort((struct bdisp_ctx *)priv);
 251 }
 252
 253 static int bdisp_get_addr(struct bdisp_ctx *ctx, struct vb2_buffer *vb,
 254                           struct bdisp_frame *frame, dma_addr_t *paddr)
 255 {
 256         if (!vb || !frame)
 257                 return -EINVAL;
 258
 259         paddr[0] = vb2_dma_contig_plane_dma_addr(vb, 0);
 260
 261         if (frame->fmt->nb_planes > 1)
 262                 /* UV (NV12) or U (420P) */
 263                 paddr[1] = (dma_addr_t)(paddr[0] +
 264                                 frame->bytesperline * frame->height);
 265
 266         if (frame->fmt->nb_planes > 2)
 267                 /* V (420P) */
 268                 paddr[2] = (dma_addr_t)(paddr[1] +
 269                                 (frame->bytesperline * frame->height) / 4);
 270
 271         if (frame->fmt->nb_planes > 3)
 272                 dev_dbg(ctx->bdisp_dev->dev, "ignoring some planes\n");
 273
 274         dev_dbg(ctx->bdisp_dev->dev,
 275                 "%s plane[0]=%pad plane[1]=%pad plane[2]=%pad\n",
 276                 __func__, &paddr[0], &paddr[1], &paddr[2]);
 277
 278         return 0;
 279 }
 280
 281 static int bdisp_get_bufs(struct bdisp_ctx *ctx)
 282 {
 283         struct bdisp_frame *src, *dst;
 284         struct vb2_v4l2_buffer *src_vb, *dst_vb;
 285         int ret;
 286
 287         src = &ctx->src;
 288         dst = &ctx->dst;
 289
 290         src_vb = v4l2_m2m_next_src_buf(ctx->fh.m2m_ctx);
 291         ret = bdisp_get_addr(ctx, &src_vb->vb2_buf, src, src->paddr);
 292         if (ret)
 293                 return ret;
 294
 295         dst_vb = v4l2_m2m_next_dst_buf(ctx->fh.m2m_ctx);
 296         ret = bdisp_get_addr(ctx, &dst_vb->vb2_buf, dst, dst->paddr);
 297         if (ret)
 298                 return ret;
 299
 300         dst_vb->timestamp = src_vb->timestamp;
 301
 302         return 0;
 303 }
 304
 305 static void bdisp_device_run(void *priv)
 306 {
 307         struct bdisp_ctx *ctx = priv;
 308         struct bdisp_dev *bdisp;
 309         unsigned long flags;
 310         int err = 0;
 311
 312         if (WARN(!ctx, "Null hardware context\n"))
 313                 return;
 314
 315         bdisp = ctx->bdisp_dev;
 316         dev_dbg(bdisp->dev, "%s\n", __func__);
 317         spin_lock_irqsave(&bdisp->slock, flags);
 318
 319         if (bdisp->m2m.ctx != ctx) {
 320                 dev_dbg(bdisp->dev, "ctx updated: %p -> %p\n",
 321                         bdisp->m2m.ctx, ctx);
 322                 ctx->state |= BDISP_PARAMS;
 323                 bdisp->m2m.ctx = ctx;
 324         }
 325
 326         if (ctx->state & BDISP_CTX_STOP_REQ) {
 327                 ctx->state &= ~BDISP_CTX_STOP_REQ;
 328                 ctx->state |= BDISP_CTX_ABORT;
 329                 wake_up(&bdisp->irq_queue);
 330                 goto out;
 331         }
 332
 333         err = bdisp_get_bufs(ctx);
 334         if (err) {
 335                 dev_err(bdisp->dev, "cannot get address\n");
 336                 goto out;
 337         }
 338
 339         bdisp_dbg_perf_begin(bdisp);
 340
 341         err = bdisp_hw_reset(bdisp);
 342         if (err) {
 343                 dev_err(bdisp->dev, "could not get HW ready\n");
 344                 goto out;
 345         }
 346
 347         err = bdisp_hw_update(ctx);
 348         if (err) {
 349                 dev_err(bdisp->dev, "could not send HW request\n");
 350                 goto out;
 351         }
 352
 353         queue_delayed_work(bdisp->work_queue, &bdisp->timeout_work,
 354                            BDISP_WORK_TIMEOUT);
 355         set_bit(ST_M2M_RUNNING, &bdisp->state);
 356 out:
 357         ctx->state &= ~BDISP_PARAMS;
 358         spin_unlock_irqrestore(&bdisp->slock, flags);
 359         if (err)
 360                 bdisp_job_finish(ctx, VB2_BUF_STATE_ERROR);
 361 }
 362
 363 static struct v4l2_m2m_ops bdisp_m2m_ops = {
 364         .device_run     = bdisp_device_run,
 365         .job_abort      = bdisp_job_abort,
 366 };
 367
 368 static int __bdisp_s_ctrl(struct bdisp_ctx *ctx, struct v4l2_ctrl *ctrl)
 369 {
 370         if (ctrl->flags & V4L2_CTRL_FLAG_INACTIVE)
 371                 return 0;
 372
 373         switch (ctrl->id) {
 374         case V4L2_CID_HFLIP:
 375                 ctx->hflip = ctrl->val;
 376                 break;
 377         case V4L2_CID_VFLIP:
 378                 ctx->vflip = ctrl->val;
 379                 break;
 380         default:
 381                 dev_err(ctx->bdisp_dev->dev, "unknown control %d\n", ctrl->id);
 382                 return -EINVAL;
 383         }
 384
 385         ctx->state |= BDISP_PARAMS;
 386
 387         return 0;
 388 }
 389
 390 static int bdisp_s_ctrl(struct v4l2_ctrl *ctrl)
 391 {
 392         struct bdisp_ctx *ctx = container_of(ctrl->handler, struct bdisp_ctx,
 393                                                 ctrl_handler);
 394         unsigned long flags;
 395         int ret;
 396
 397         spin_lock_irqsave(&ctx->bdisp_dev->slock, flags);
 398         ret = __bdisp_s_ctrl(ctx, ctrl);
 399         spin_unlock_irqrestore(&ctx->bdisp_dev->slock, flags);
 400
 401         return ret;
 402 }
 403
 404 static const struct v4l2_ctrl_ops bdisp_c_ops = {
 405         .s_ctrl = bdisp_s_ctrl,
 406 };
 407
 408 static int bdisp_ctrls_create(struct bdisp_ctx *ctx)
 409 {
 410         if (ctx->ctrls_rdy)
 411                 return 0;
 412
 413         v4l2_ctrl_handler_init(&ctx->ctrl_handler, BDISP_MAX_CTRL_NUM);
 414
 415         ctx->bdisp_ctrls.hflip = v4l2_ctrl_new_std(&ctx->ctrl_handler,
 416                                 &bdisp_c_ops, V4L2_CID_HFLIP, 0, 1, 1, 0);
 417         ctx->bdisp_ctrls.vflip = v4l2_ctrl_new_std(&ctx->ctrl_handler,
 418                                 &bdisp_c_ops, V4L2_CID_VFLIP, 0, 1, 1, 0);
 419
 420         if (ctx->ctrl_handler.error) {
 421                 int err = ctx->ctrl_handler.error;
 422
 423                 v4l2_ctrl_handler_free(&ctx->ctrl_handler);
 424                 return err;
 425         }
 426
 427         ctx->ctrls_rdy = true;
 428
 429         return 0;
 430 }
 431
 432 static void bdisp_ctrls_delete(struct bdisp_ctx *ctx)
 433 {
 434         if (ctx->ctrls_rdy) {
 435                 v4l2_ctrl_handler_free(&ctx->ctrl_handler);
 436                 ctx->ctrls_rdy = false;
 437         }
 438 }
 439
 440 static int bdisp_queue_setup(struct vb2_queue *vq,
 441                              const void *parg,
 442                              unsigned int *nb_buf, unsigned int *nb_planes,
 443                              unsigned int sizes[], void *allocators[])
 444 {
 445         const struct v4l2_format *fmt = parg;
 446         struct bdisp_ctx *ctx = vb2_get_drv_priv(vq);
 447         struct bdisp_frame *frame = ctx_get_frame(ctx, vq->type);
 448
 449         if (IS_ERR(frame)) {
 450                 dev_err(ctx->bdisp_dev->dev, "Invalid frame (%p)\n", frame);
 451                 return PTR_ERR(frame);
 452         }
 453
 454         if (!frame->fmt) {
 455                 dev_err(ctx->bdisp_dev->dev, "Invalid format\n");
 456                 return -EINVAL;
 457         }
 458
 459         if (fmt && fmt->fmt.pix.sizeimage < frame->sizeimage)
 460                 return -EINVAL;
 461
 462         *nb_planes = 1;
 463         sizes[0] = fmt ? fmt->fmt.pix.sizeimage : frame->sizeimage;
 464         allocators[0] = ctx->bdisp_dev->alloc_ctx;
 465
 466         return 0;
 467 }
 468
 469 static int bdisp_buf_prepare(struct vb2_buffer *vb)
 470 {
 471         struct bdisp_ctx *ctx = vb2_get_drv_priv(vb->vb2_queue);
 472         struct bdisp_frame *frame = ctx_get_frame(ctx, vb->vb2_queue->type);
 473
 474         if (IS_ERR(frame)) {
 475                 dev_err(ctx->bdisp_dev->dev, "Invalid frame (%p)\n", frame);
 476                 return PTR_ERR(frame);
 477         }
 478
 479         if (vb->vb2_queue->type == V4L2_BUF_TYPE_VIDEO_CAPTURE)
 480                 vb2_set_plane_payload(vb, 0, frame->sizeimage);
 481
 482         return 0;
 483 }
 484
 485 static void bdisp_buf_queue(struct vb2_buffer *vb)
 486 {
 487         struct vb2_v4l2_buffer *vbuf = to_vb2_v4l2_buffer(vb);
 488         struct bdisp_ctx *ctx = vb2_get_drv_priv(vb->vb2_queue);
 489
 490         /* return to V4L2 any 0-size buffer so it can be dequeued by user */
 491         if (!vb2_get_plane_payload(vb, 0)) {
 492                 dev_dbg(ctx->bdisp_dev->dev, "0 data buffer, skip it\n");
 493                 vb2_buffer_done(vb, VB2_BUF_STATE_DONE);
 494                 return;
 495         }
 496
 497         if (ctx->fh.m2m_ctx)
 498                 v4l2_m2m_buf_queue(ctx->fh.m2m_ctx, vbuf);
 499 }
 500
 501 static int bdisp_start_streaming(struct vb2_queue *q, unsigned int count)
 502 {
 503         struct bdisp_ctx *ctx = q->drv_priv;
 504         struct vb2_v4l2_buffer *buf;
 505         int ret = pm_runtime_get_sync(ctx->bdisp_dev->dev);
 506
 507         if (ret < 0) {
 508                 dev_err(ctx->bdisp_dev->dev, "failed to set runtime PM\n");
 509
 510                 if (q->type == V4L2_BUF_TYPE_VIDEO_OUTPUT) {
 511                         while ((buf = v4l2_m2m_src_buf_remove(ctx->fh.m2m_ctx)))
 512                                 v4l2_m2m_buf_done(buf, VB2_BUF_STATE_QUEUED);
 513                 } else {
 514                         while ((buf = v4l2_m2m_dst_buf_remove(ctx->fh.m2m_ctx)))
 515                                 v4l2_m2m_buf_done(buf, VB2_BUF_STATE_QUEUED);
 516                 }
 517
 518                 return ret;
 519         }
 520
 521         return 0;
 522 }
 523
 524 static void bdisp_stop_streaming(struct vb2_queue *q)
 525 {
 526         struct bdisp_ctx *ctx = q->drv_priv;
 527
 528         __bdisp_job_abort(ctx);
 529
 530         pm_runtime_put(ctx->bdisp_dev->dev);
 531 }
 532
 533 static struct vb2_ops bdisp_qops = {
 534         .queue_setup     = bdisp_queue_setup,
 535         .buf_prepare     = bdisp_buf_prepare,
 536         .buf_queue       = bdisp_buf_queue,
 537         .wait_prepare    = vb2_ops_wait_prepare,
 538         .wait_finish     = vb2_ops_wait_finish,
 539         .stop_streaming  = bdisp_stop_streaming,
 540         .start_streaming = bdisp_start_streaming,
 541 };
 542
 543 static int queue_init(void *priv,
 544                       struct vb2_queue *src_vq, struct vb2_queue *dst_vq)
 545 {
 546         struct bdisp_ctx *ctx = priv;
 547         int ret;
 548
 549         memset(src_vq, 0, sizeof(*src_vq));
 550         src_vq->type = V4L2_BUF_TYPE_VIDEO_OUTPUT;
 551         src_vq->io_modes = VB2_MMAP | VB2_DMABUF;
 552         src_vq->drv_priv = ctx;
 553         src_vq->ops = &bdisp_qops;
 554         src_vq->mem_ops = &vb2_dma_contig_memops;
 555         src_vq->buf_struct_size = sizeof(struct v4l2_m2m_buffer);
 556         src_vq->timestamp_flags = V4L2_BUF_FLAG_TIMESTAMP_COPY;
 557         src_vq->lock = &ctx->bdisp_dev->lock;
 558
 559         ret = vb2_queue_init(src_vq);
 560         if (ret)
 561                 return ret;
 562
 563         memset(dst_vq, 0, sizeof(*dst_vq));
 564         dst_vq->type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
 565         dst_vq->io_modes = VB2_MMAP | VB2_DMABUF;
 566         dst_vq->drv_priv = ctx;
 567         dst_vq->ops = &bdisp_qops;
 568         dst_vq->mem_ops = &vb2_dma_contig_memops;
 569         dst_vq->buf_struct_size = sizeof(struct v4l2_m2m_buffer);
 570         dst_vq->timestamp_flags = V4L2_BUF_FLAG_TIMESTAMP_COPY;
 571         dst_vq->lock = &ctx->bdisp_dev->lock;
 572
 573         return vb2_queue_init(dst_vq);
 574 }
 575
 576 static int bdisp_open(struct file *file)
 577 {
 578         struct bdisp_dev *bdisp = video_drvdata(file);
 579         struct bdisp_ctx *ctx = NULL;
 580         int ret;
 581
 582         if (mutex_lock_interruptible(&bdisp->lock))
 583                 return -ERESTARTSYS;
 584
 585         /* Allocate memory for both context and node */
 586         ctx = kzalloc(sizeof(*ctx), GFP_KERNEL);
 587         if (!ctx) {
 588                 ret = -ENOMEM;
 589                 goto unlock;
 590         }
 591         ctx->bdisp_dev = bdisp;
 592
 593         if (bdisp_hw_alloc_nodes(ctx)) {
 594                 dev_err(bdisp->dev, "no memory for nodes\n");
 595                 ret = -ENOMEM;
 596                 goto mem_ctx;
 597         }
 598
 599         v4l2_fh_init(&ctx->fh, bdisp->m2m.vdev);
 600
 601         ret = bdisp_ctrls_create(ctx);
 602         if (ret) {
 603                 dev_err(bdisp->dev, "Failed to create control\n");
 604                 goto error_fh;
 605         }
 606
 607         /* Use separate control handler per file handle */
 608         ctx->fh.ctrl_handler = &ctx->ctrl_handler;
 609         file->private_data = &ctx->fh;
 610         v4l2_fh_add(&ctx->fh);
 611
 612         /* Default format */
 613         ctx->src = bdisp_dflt_fmt;
 614         ctx->dst = bdisp_dflt_fmt;
 615
 616         /* Setup the device context for mem2mem mode. */
 617         ctx->fh.m2m_ctx = v4l2_m2m_ctx_init(bdisp->m2m.m2m_dev, ctx,
 618                                             queue_init);
 619         if (IS_ERR(ctx->fh.m2m_ctx)) {
 620                 dev_err(bdisp->dev, "Failed to initialize m2m context\n");
 621                 ret = PTR_ERR(ctx->fh.m2m_ctx);
 622                 goto error_ctrls;
 623         }
 624
 625         bdisp->m2m.refcnt++;
 626         set_bit(ST_M2M_OPEN, &bdisp->state);
 627
 628         dev_dbg(bdisp->dev, "driver opened, ctx = 0x%p\n", ctx);
 629
 630         mutex_unlock(&bdisp->lock);
 631
 632         return 0;
 633
 634 error_ctrls:
 635         bdisp_ctrls_delete(ctx);
 636 error_fh:
 637         v4l2_fh_del(&ctx->fh);
 638         v4l2_fh_exit(&ctx->fh);
 639         bdisp_hw_free_nodes(ctx);
 640 mem_ctx:
 641         kfree(ctx);
 642 unlock:
 643         mutex_unlock(&bdisp->lock);
 644
 645         return ret;
 646 }
 647
 648 static int bdisp_release(struct file *file)
 649 {
 650         struct bdisp_ctx *ctx = fh_to_ctx(file->private_data);
 651         struct bdisp_dev *bdisp = ctx->bdisp_dev;
 652
 653         dev_dbg(bdisp->dev, "%s\n", __func__);
 654
 655         if (mutex_lock_interruptible(&bdisp->lock))
 656                 return -ERESTARTSYS;
 657
 658         v4l2_m2m_ctx_release(ctx->fh.m2m_ctx);
 659
 660         bdisp_ctrls_delete(ctx);
 661
 662         v4l2_fh_del(&ctx->fh);
 663         v4l2_fh_exit(&ctx->fh);
 664
 665         if (--bdisp->m2m.refcnt <= 0)
 666                 clear_bit(ST_M2M_OPEN, &bdisp->state);
 667
 668         bdisp_hw_free_nodes(ctx);
 669
 670         kfree(ctx);
 671
 672         mutex_unlock(&bdisp->lock);
 673
 674         return 0;
 675 }
 676
 677 static const struct v4l2_file_operations bdisp_fops = {
 678         .owner          = THIS_MODULE,
 679         .open           = bdisp_open,
 680         .release        = bdisp_release,
 681         .poll           = v4l2_m2m_fop_poll,
 682         .unlocked_ioctl = video_ioctl2,
 683         .mmap           = v4l2_m2m_fop_mmap,
 684 };
 685
 686 static int bdisp_querycap(struct file *file, void *fh,
 687                           struct v4l2_capability *cap)
 688 {
 689         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 690         struct bdisp_dev *bdisp = ctx->bdisp_dev;
 691
 692         strlcpy(cap->driver, bdisp->pdev->name, sizeof(cap->driver));
 693         strlcpy(cap->card, bdisp->pdev->name, sizeof(cap->card));
 694         snprintf(cap->bus_info, sizeof(cap->bus_info), "platform:%s%d",
 695                  BDISP_NAME, bdisp->id);
 696
 697         cap->device_caps = V4L2_CAP_STREAMING | V4L2_CAP_VIDEO_M2M;
 698
 699         cap->capabilities = cap->device_caps | V4L2_CAP_DEVICE_CAPS;
 700
 701         return 0;
 702 }
 703
 704 static int bdisp_enum_fmt(struct file *file, void *fh, struct v4l2_fmtdesc *f)
 705 {
 706         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 707         const struct bdisp_fmt *fmt;
 708
 709         if (f->index >= ARRAY_SIZE(bdisp_formats))
 710                 return -EINVAL;
 711
 712         fmt = &bdisp_formats[f->index];
 713
 714         if ((fmt->pixelformat == V4L2_PIX_FMT_YUV420) &&
 715             (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE)) {
 716                 dev_dbg(ctx->bdisp_dev->dev, "No YU12 on capture\n");
 717                 return -EINVAL;
 718         }
 719         f->pixelformat = fmt->pixelformat;
 720
 721         return 0;
 722 }
 723
 724 static int bdisp_g_fmt(struct file *file, void *fh, struct v4l2_format *f)
 725 {
 726         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 727         struct v4l2_pix_format *pix = &f->fmt.pix;
 728         struct bdisp_frame *frame  = ctx_get_frame(ctx, f->type);
 729
 730         if (IS_ERR(frame)) {
 731                 dev_err(ctx->bdisp_dev->dev, "Invalid frame (%p)\n", frame);
 732                 return PTR_ERR(frame);
 733         }
 734
 735         pix = &f->fmt.pix;
 736         pix->width = frame->width;
 737         pix->height = frame->height;
 738         pix->pixelformat = frame->fmt->pixelformat;
 739         pix->field = frame->field;
 740         pix->bytesperline = frame->bytesperline;
 741         pix->sizeimage = frame->sizeimage;
 742         pix->colorspace = (f->type == V4L2_BUF_TYPE_VIDEO_OUTPUT) ?
 743                                 frame->colorspace : bdisp_dflt_fmt.colorspace;
 744
 745         return 0;
 746 }
 747
 748 static int bdisp_try_fmt(struct file *file, void *fh, struct v4l2_format *f)
 749 {
 750         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 751         struct v4l2_pix_format *pix = &f->fmt.pix;
 752         const struct bdisp_fmt *format;
 753         u32 in_w, in_h;
 754
 755         format = bdisp_find_fmt(pix->pixelformat);
 756         if (!format) {
 757                 dev_dbg(ctx->bdisp_dev->dev, "Unknown format 0x%x\n",
 758                         pix->pixelformat);
 759                 return -EINVAL;
 760         }
 761
 762         /* YUV420P only supported for VIDEO_OUTPUT */
 763         if ((format->pixelformat == V4L2_PIX_FMT_YUV420) &&
 764             (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE)) {
 765                 dev_dbg(ctx->bdisp_dev->dev, "No YU12 on capture\n");
 766                 return -EINVAL;
 767         }
 768
 769         /* Field (interlaced only supported on OUTPUT) */
 770         if ((f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE) ||
 771             (pix->field != V4L2_FIELD_INTERLACED))
 772                 pix->field = V4L2_FIELD_NONE;
 773
 774         /* Adjust width & height */
 775         in_w = pix->width;
 776         in_h = pix->height;
 777         v4l_bound_align_image(&pix->width,
 778                               BDISP_MIN_W, BDISP_MAX_W,
 779                               ffs(format->w_align) - 1,
 780                               &pix->height,
 781                               BDISP_MIN_H, BDISP_MAX_H,
 782                               ffs(format->h_align) - 1,
 783                               0);
 784         if ((pix->width != in_w) || (pix->height != in_h))
 785                 dev_dbg(ctx->bdisp_dev->dev,
 786                         "%s size updated: %dx%d -> %dx%d\n", __func__,
 787                         in_w, in_h, pix->width, pix->height);
 788
 789         pix->bytesperline = (pix->width * format->bpp_plane0) / 8;
 790         pix->sizeimage = (pix->width * pix->height * format->bpp) / 8;
 791
 792         if (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE)
 793                 pix->colorspace = bdisp_dflt_fmt.colorspace;
 794
 795         return 0;
 796 }
 797
 798 static int bdisp_s_fmt(struct file *file, void *fh, struct v4l2_format *f)
 799 {
 800         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 801         struct vb2_queue *vq;
 802         struct bdisp_frame *frame;
 803         struct v4l2_pix_format *pix;
 804         int ret;
 805         u32 state;
 806
 807         ret = bdisp_try_fmt(file, fh, f);
 808         if (ret) {
 809                 dev_err(ctx->bdisp_dev->dev, "Cannot set format\n");
 810                 return ret;
 811         }
 812
 813         vq = v4l2_m2m_get_vq(ctx->fh.m2m_ctx, f->type);
 814         if (vb2_is_streaming(vq)) {
 815                 dev_err(ctx->bdisp_dev->dev, "queue (%d) busy\n", f->type);
 816                 return -EBUSY;
 817         }
 818
 819         frame = (f->type == V4L2_BUF_TYPE_VIDEO_OUTPUT) ?
 820                         &ctx->src : &ctx->dst;
 821         pix = &f->fmt.pix;
 822         frame->fmt = bdisp_find_fmt(pix->pixelformat);
 823         if (!frame->fmt) {
 824                 dev_err(ctx->bdisp_dev->dev, "Unknown format 0x%x\n",
 825                         pix->pixelformat);
 826                 return -EINVAL;
 827         }
 828
 829         frame->width = pix->width;
 830         frame->height = pix->height;
 831         frame->bytesperline = pix->bytesperline;
 832         frame->sizeimage = pix->sizeimage;
 833         frame->field = pix->field;
 834         if (f->type == V4L2_BUF_TYPE_VIDEO_OUTPUT)
 835                 frame->colorspace = pix->colorspace;
 836
 837         frame->crop.width = frame->width;
 838         frame->crop.height = frame->height;
 839         frame->crop.left = 0;
 840         frame->crop.top = 0;
 841
 842         state = BDISP_PARAMS;
 843         state |= (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE) ?
 844                         BDISP_DST_FMT : BDISP_SRC_FMT;
 845         bdisp_ctx_state_lock_set(state, ctx);
 846
 847         return 0;
 848 }
 849
 850 static int bdisp_g_selection(struct file *file, void *fh,
 851                              struct v4l2_selection *s)
 852 {
 853         struct bdisp_frame *frame;
 854         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 855
 856         frame = ctx_get_frame(ctx, s->type);
 857         if (IS_ERR(frame)) {
 858                 dev_err(ctx->bdisp_dev->dev, "Invalid frame (%p)\n", frame);
 859                 return PTR_ERR(frame);
 860         }
 861
 862         switch (s->type) {
 863         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
 864                 switch (s->target) {
 865                 case V4L2_SEL_TGT_CROP:
 866                         /* cropped frame */
 867                         s->r = frame->crop;
 868                         break;
 869                 case V4L2_SEL_TGT_CROP_DEFAULT:
 870                 case V4L2_SEL_TGT_CROP_BOUNDS:
 871                         /* complete frame */
 872                         s->r.left = 0;
 873                         s->r.top = 0;
 874                         s->r.width = frame->width;
 875                         s->r.height = frame->height;
 876                         break;
 877                 default:
 878                         dev_err(ctx->bdisp_dev->dev, "Invalid target\n");
 879                         return -EINVAL;
 880                 }
 881                 break;
 882
 883         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
 884                 switch (s->target) {
 885                 case V4L2_SEL_TGT_COMPOSE:
 886                 case V4L2_SEL_TGT_COMPOSE_PADDED:
 887                         /* composed (cropped) frame */
 888                         s->r = frame->crop;
 889                         break;
 890                 case V4L2_SEL_TGT_COMPOSE_DEFAULT:
 891                 case V4L2_SEL_TGT_COMPOSE_BOUNDS:
 892                         /* complete frame */
 893                         s->r.left = 0;
 894                         s->r.top = 0;
 895                         s->r.width = frame->width;
 896                         s->r.height = frame->height;
 897                         break;
 898                 default:
 899                         dev_err(ctx->bdisp_dev->dev, "Invalid target\n");
 900                         return -EINVAL;
 901                 }
 902                 break;
 903
 904         default:
 905                 dev_err(ctx->bdisp_dev->dev, "Invalid type\n");
 906                 return -EINVAL;
 907         }
 908
 909         return 0;
 910 }
 911
 912 static int is_rect_enclosed(struct v4l2_rect *a, struct v4l2_rect *b)
 913 {
 914         /* Return 1 if a is enclosed in b, or 0 otherwise. */
 915
 916         if (a->left < b->left || a->top < b->top)
 917                 return 0;
 918
 919         if (a->left + a->width > b->left + b->width)
 920                 return 0;
 921
 922         if (a->top + a->height > b->top + b->height)
 923                 return 0;
 924
 925         return 1;
 926 }
 927
 928 static int bdisp_s_selection(struct file *file, void *fh,
 929                              struct v4l2_selection *s)
 930 {
 931         struct bdisp_frame *frame;
 932         struct bdisp_ctx *ctx = fh_to_ctx(fh);
 933         struct v4l2_rect *in, out;
 934         bool valid = false;
 935
 936         if ((s->type == V4L2_BUF_TYPE_VIDEO_OUTPUT) &&
 937             (s->target == V4L2_SEL_TGT_CROP))
 938                 valid = true;
 939
 940         if ((s->type == V4L2_BUF_TYPE_VIDEO_CAPTURE) &&
 941             (s->target == V4L2_SEL_TGT_COMPOSE))
 942                 valid = true;
 943
 944         if (!valid) {
 945                 dev_err(ctx->bdisp_dev->dev, "Invalid type / target\n");
 946                 return -EINVAL;
 947         }
 948
 949         frame = ctx_get_frame(ctx, s->type);
 950         if (IS_ERR(frame)) {
 951                 dev_err(ctx->bdisp_dev->dev, "Invalid frame (%p)\n", frame);
 952                 return PTR_ERR(frame);
 953         }
 954
 955         in = &s->r;
 956         out = *in;
 957
 958         /* Align and check origin */
 959         out.left = ALIGN(in->left, frame->fmt->w_align);
 960         out.top = ALIGN(in->top, frame->fmt->h_align);
 961
 962         if ((out.left < 0) || (out.left >= frame->width) ||
 963             (out.top < 0) || (out.top >= frame->height)) {
 964                 dev_err(ctx->bdisp_dev->dev,
 965                         "Invalid crop: %dx%d@(%d,%d) vs frame: %dx%d\n",
 966                         out.width, out.height, out.left, out.top,
 967                         frame->width, frame->height);
 968                 return -EINVAL;
 969         }
 970
 971         /* Align and check size */
 972         out.width = ALIGN(in->width, frame->fmt->w_align);
 973         out.height = ALIGN(in->height, frame->fmt->w_align);
 974
 975         if (((out.left + out.width) > frame->width) ||
 976             ((out.top + out.height) > frame->height)) {
 977                 dev_err(ctx->bdisp_dev->dev,
 978                         "Invalid crop: %dx%d@(%d,%d) vs frame: %dx%d\n",
 979                         out.width, out.height, out.left, out.top,
 980                         frame->width, frame->height);
 981                 return -EINVAL;
 982         }
 983
 984         /* Checks adjust constraints flags */
 985         if (s->flags & V4L2_SEL_FLAG_LE && !is_rect_enclosed(&out, in))
 986                 return -ERANGE;
 987
 988         if (s->flags & V4L2_SEL_FLAG_GE && !is_rect_enclosed(in, &out))
 989                 return -ERANGE;
 990
 991         if ((out.left != in->left) || (out.top != in->top) ||
 992             (out.width != in->width) || (out.height != in->height)) {
 993                 dev_dbg(ctx->bdisp_dev->dev,
 994                         "%s crop updated: %dx%d@(%d,%d) -> %dx%d@(%d,%d)\n",
 995                         __func__, in->width, in->height, in->left, in->top,
 996                         out.width, out.height, out.left, out.top);
 997                 *in = out;
 998         }
 999
1000         frame->crop = out;
1001
1002         bdisp_ctx_state_lock_set(BDISP_PARAMS, ctx);
1003
1004         return 0;
1005 }
1006
1007 static int bdisp_streamon(struct file *file, void *fh, enum v4l2_buf_type type)
1008 {
1009         struct bdisp_ctx *ctx = fh_to_ctx(fh);
1010
1011         if ((type == V4L2_BUF_TYPE_VIDEO_OUTPUT) &&
1012             !bdisp_ctx_state_is_set(BDISP_SRC_FMT, ctx)) {
1013                 dev_err(ctx->bdisp_dev->dev, "src not defined\n");
1014                 return -EINVAL;
1015         }
1016
1017         if ((type == V4L2_BUF_TYPE_VIDEO_CAPTURE) &&
1018             !bdisp_ctx_state_is_set(BDISP_DST_FMT, ctx)) {
1019                 dev_err(ctx->bdisp_dev->dev, "dst not defined\n");
1020                 return -EINVAL;
1021         }
1022
1023         return v4l2_m2m_streamon(file, ctx->fh.m2m_ctx, type);
1024 }
1025
1026 static const struct v4l2_ioctl_ops bdisp_ioctl_ops = {
1027         .vidioc_querycap                = bdisp_querycap,
1028         .vidioc_enum_fmt_vid_cap        = bdisp_enum_fmt,
1029         .vidioc_enum_fmt_vid_out        = bdisp_enum_fmt,
1030         .vidioc_g_fmt_vid_cap           = bdisp_g_fmt,
1031         .vidioc_g_fmt_vid_out           = bdisp_g_fmt,
1032         .vidioc_try_fmt_vid_cap         = bdisp_try_fmt,
1033         .vidioc_try_fmt_vid_out         = bdisp_try_fmt,
1034         .vidioc_s_fmt_vid_cap           = bdisp_s_fmt,
1035         .vidioc_s_fmt_vid_out           = bdisp_s_fmt,
1036         .vidioc_g_selection             = bdisp_g_selection,
1037         .vidioc_s_selection             = bdisp_s_selection,
1038         .vidioc_reqbufs                 = v4l2_m2m_ioctl_reqbufs,
1039         .vidioc_create_bufs             = v4l2_m2m_ioctl_create_bufs,
1040         .vidioc_expbuf                  = v4l2_m2m_ioctl_expbuf,
1041         .vidioc_querybuf                = v4l2_m2m_ioctl_querybuf,
1042         .vidioc_qbuf                    = v4l2_m2m_ioctl_qbuf,
1043         .vidioc_dqbuf                   = v4l2_m2m_ioctl_dqbuf,
1044         .vidioc_streamon                = bdisp_streamon,
1045         .vidioc_streamoff               = v4l2_m2m_ioctl_streamoff,
1046         .vidioc_subscribe_event         = v4l2_ctrl_subscribe_event,
1047         .vidioc_unsubscribe_event       = v4l2_event_unsubscribe,
1048 };
1049
1050 static int bdisp_register_device(struct bdisp_dev *bdisp)
1051 {
1052         int ret;
1053
1054         if (!bdisp)
1055                 return -ENODEV;
1056
1057         bdisp->vdev.fops        = &bdisp_fops;
1058         bdisp->vdev.ioctl_ops   = &bdisp_ioctl_ops;
1059         bdisp->vdev.release     = video_device_release_empty;
1060         bdisp->vdev.lock        = &bdisp->lock;
1061         bdisp->vdev.vfl_dir     = VFL_DIR_M2M;
1062         bdisp->vdev.v4l2_dev    = &bdisp->v4l2_dev;
1063         snprintf(bdisp->vdev.name, sizeof(bdisp->vdev.name), "%s.%d",
1064                  BDISP_NAME, bdisp->id);
1065
1066         video_set_drvdata(&bdisp->vdev, bdisp);
1067
1068         bdisp->m2m.vdev = &bdisp->vdev;
1069         bdisp->m2m.m2m_dev = v4l2_m2m_init(&bdisp_m2m_ops);
1070         if (IS_ERR(bdisp->m2m.m2m_dev)) {
1071                 dev_err(bdisp->dev, "failed to initialize v4l2-m2m device\n");
1072                 return PTR_ERR(bdisp->m2m.m2m_dev);
1073         }
1074
1075         ret = video_register_device(&bdisp->vdev, VFL_TYPE_GRABBER, -1);
1076         if (ret) {
1077                 dev_err(bdisp->dev,
1078                         "%s(): failed to register video device\n", __func__);
1079                 v4l2_m2m_release(bdisp->m2m.m2m_dev);
1080                 return ret;
1081         }
1082
1083         return 0;
1084 }
1085
1086 static void bdisp_unregister_device(struct bdisp_dev *bdisp)
1087 {
1088         if (!bdisp)
1089                 return;
1090
1091         if (bdisp->m2m.m2m_dev)
1092                 v4l2_m2m_release(bdisp->m2m.m2m_dev);
1093
1094         video_unregister_device(bdisp->m2m.vdev);
1095 }
1096
1097 static irqreturn_t bdisp_irq_thread(int irq, void *priv)
1098 {
1099         struct bdisp_dev *bdisp = priv;
1100         struct bdisp_ctx *ctx;
1101
1102         spin_lock(&bdisp->slock);
1103
1104         bdisp_dbg_perf_end(bdisp);
1105
1106         cancel_delayed_work(&bdisp->timeout_work);
1107
1108         if (!test_and_clear_bit(ST_M2M_RUNNING, &bdisp->state))
1109                 goto isr_unlock;
1110
1111         if (test_and_clear_bit(ST_M2M_SUSPENDING, &bdisp->state)) {
1112                 set_bit(ST_M2M_SUSPENDED, &bdisp->state);
1113                 wake_up(&bdisp->irq_queue);
1114                 goto isr_unlock;
1115         }
1116
1117         ctx = v4l2_m2m_get_curr_priv(bdisp->m2m.m2m_dev);
1118         if (!ctx || !ctx->fh.m2m_ctx)
1119                 goto isr_unlock;
1120
1121         spin_unlock(&bdisp->slock);
1122
1123         bdisp_job_finish(ctx, VB2_BUF_STATE_DONE);
1124
1125         if (bdisp_ctx_state_is_set(BDISP_CTX_STOP_REQ, ctx)) {
1126                 bdisp_ctx_state_lock_clear(BDISP_CTX_STOP_REQ, ctx);
1127                 wake_up(&bdisp->irq_queue);
1128         }
1129
1130         return IRQ_HANDLED;
1131
1132 isr_unlock:
1133         spin_unlock(&bdisp->slock);
1134
1135         return IRQ_HANDLED;
1136 }
1137
1138 static irqreturn_t bdisp_irq_handler(int irq, void *priv)
1139 {
1140         if (bdisp_hw_get_and_clear_irq((struct bdisp_dev *)priv))
1141                 return IRQ_NONE;
1142         else
1143                 return IRQ_WAKE_THREAD;
1144 }
1145
1146 static void bdisp_irq_timeout(struct work_struct *ptr)
1147 {
1148         struct delayed_work *twork = to_delayed_work(ptr);
1149         struct bdisp_dev *bdisp = container_of(twork, struct bdisp_dev,
1150                         timeout_work);
1151         struct bdisp_ctx *ctx;
1152
1153         ctx = v4l2_m2m_get_curr_priv(bdisp->m2m.m2m_dev);
1154
1155         dev_err(ctx->bdisp_dev->dev, "Device work timeout\n");
1156
1157         spin_lock(&bdisp->slock);
1158         clear_bit(ST_M2M_RUNNING, &bdisp->state);
1159         spin_unlock(&bdisp->slock);
1160
1161         bdisp_hw_reset(bdisp);
1162
1163         bdisp_job_finish(ctx, VB2_BUF_STATE_ERROR);
1164 }
1165
1166 static int bdisp_m2m_suspend(struct bdisp_dev *bdisp)
1167 {
1168         unsigned long flags;
1169         int timeout;
1170
1171         spin_lock_irqsave(&bdisp->slock, flags);
1172         if (!test_bit(ST_M2M_RUNNING, &bdisp->state)) {
1173                 spin_unlock_irqrestore(&bdisp->slock, flags);
1174                 return 0;
1175         }
1176         clear_bit(ST_M2M_SUSPENDED, &bdisp->state);
1177         set_bit(ST_M2M_SUSPENDING, &bdisp->state);
1178         spin_unlock_irqrestore(&bdisp->slock, flags);
1179
1180         timeout = wait_event_timeout(bdisp->irq_queue,
1181                                      test_bit(ST_M2M_SUSPENDED, &bdisp->state),
1182                                      BDISP_WORK_TIMEOUT);
1183
1184         clear_bit(ST_M2M_SUSPENDING, &bdisp->state);
1185
1186         if (!timeout) {
1187                 dev_err(bdisp->dev, "%s IRQ timeout\n", __func__);
1188                 return -EAGAIN;
1189         }
1190
1191         return 0;
1192 }
1193
1194 static int bdisp_m2m_resume(struct bdisp_dev *bdisp)
1195 {
1196         struct bdisp_ctx *ctx;
1197         unsigned long flags;
1198
1199         spin_lock_irqsave(&bdisp->slock, flags);
1200         ctx = bdisp->m2m.ctx;
1201         bdisp->m2m.ctx = NULL;
1202         spin_unlock_irqrestore(&bdisp->slock, flags);
1203
1204         if (test_and_clear_bit(ST_M2M_SUSPENDED, &bdisp->state))
1205                 bdisp_job_finish(ctx, VB2_BUF_STATE_ERROR);
1206
1207         return 0;
1208 }
1209
1210 static int bdisp_runtime_resume(struct device *dev)
1211 {
1212         struct bdisp_dev *bdisp = dev_get_drvdata(dev);
1213         int ret = clk_enable(bdisp->clock);
1214
1215         if (ret)
1216                 return ret;
1217
1218         return bdisp_m2m_resume(bdisp);
1219 }
1220
1221 static int bdisp_runtime_suspend(struct device *dev)
1222 {
1223         struct bdisp_dev *bdisp = dev_get_drvdata(dev);
1224         int ret = bdisp_m2m_suspend(bdisp);
1225
1226         if (!ret)
1227                 clk_disable(bdisp->clock);
1228
1229         return ret;
1230 }
1231
1232 static int bdisp_resume(struct device *dev)
1233 {
1234         struct bdisp_dev *bdisp = dev_get_drvdata(dev);
1235         unsigned long flags;
1236         int opened;
1237
1238         spin_lock_irqsave(&bdisp->slock, flags);
1239         opened = test_bit(ST_M2M_OPEN, &bdisp->state);
1240         spin_unlock_irqrestore(&bdisp->slock, flags);
1241
1242         if (!opened)
1243                 return 0;
1244
1245         if (!pm_runtime_suspended(dev))
1246                 return bdisp_runtime_resume(dev);
1247
1248         return 0;
1249 }
1250
1251 static int bdisp_suspend(struct device *dev)
1252 {
1253         if (!pm_runtime_suspended(dev))
1254                 return bdisp_runtime_suspend(dev);
1255
1256         return 0;
1257 }
1258
1259 static const struct dev_pm_ops bdisp_pm_ops = {
1260         .suspend                = bdisp_suspend,
1261         .resume                 = bdisp_resume,
1262         .runtime_suspend        = bdisp_runtime_suspend,
1263         .runtime_resume         = bdisp_runtime_resume,
1264 };
1265
1266 static int bdisp_remove(struct platform_device *pdev)
1267 {
1268         struct bdisp_dev *bdisp = platform_get_drvdata(pdev);
1269
1270         bdisp_unregister_device(bdisp);
1271
1272         bdisp_hw_free_filters(bdisp->dev);
1273
1274         vb2_dma_contig_cleanup_ctx(bdisp->alloc_ctx);
1275
1276         pm_runtime_disable(&pdev->dev);
1277
1278         bdisp_debugfs_remove(bdisp);
1279
1280         v4l2_device_unregister(&bdisp->v4l2_dev);
1281
1282         if (!IS_ERR(bdisp->clock))
1283                 clk_unprepare(bdisp->clock);
1284
1285         dev_dbg(&pdev->dev, "%s driver unloaded\n", pdev->name);
1286
1287         return 0;
1288 }
1289
1290 static int bdisp_probe(struct platform_device *pdev)
1291 {
1292         struct bdisp_dev *bdisp;
1293         struct resource *res;
1294         struct device *dev = &pdev->dev;
1295         int ret;
1296
1297         dev_dbg(dev, "%s\n", __func__);
1298
1299         bdisp = devm_kzalloc(dev, sizeof(struct bdisp_dev), GFP_KERNEL);
1300         if (!bdisp)
1301                 return -ENOMEM;
1302
1303         bdisp->pdev = pdev;
1304         bdisp->dev = dev;
1305         platform_set_drvdata(pdev, bdisp);
1306
1307         if (dev->of_node)
1308                 bdisp->id = of_alias_get_id(pdev->dev.of_node, BDISP_NAME);
1309         else
1310                 bdisp->id = pdev->id;
1311
1312         init_waitqueue_head(&bdisp->irq_queue);
1313         INIT_DELAYED_WORK(&bdisp->timeout_work, bdisp_irq_timeout);
1314         bdisp->work_queue = create_workqueue(BDISP_NAME);
1315
1316         spin_lock_init(&bdisp->slock);
1317         mutex_init(&bdisp->lock);
1318
1319         /* get resources */
1320         res = platform_get_resource(pdev, IORESOURCE_MEM, 0);
1321         bdisp->regs = devm_ioremap_resource(dev, res);
1322         if (IS_ERR(bdisp->regs)) {
1323                 dev_err(dev, "failed to get regs\n");
1324                 return PTR_ERR(bdisp->regs);
1325         }
1326
1327         bdisp->clock = devm_clk_get(dev, BDISP_NAME);
1328         if (IS_ERR(bdisp->clock)) {
1329                 dev_err(dev, "failed to get clock\n");
1330                 return PTR_ERR(bdisp->clock);
1331         }
1332
1333         ret = clk_prepare(bdisp->clock);
1334         if (ret < 0) {
1335                 dev_err(dev, "clock prepare failed\n");
1336                 bdisp->clock = ERR_PTR(-EINVAL);
1337                 return ret;
1338         }
1339
1340         res = platform_get_resource(pdev, IORESOURCE_IRQ, 0);
1341         if (!res) {
1342                 dev_err(dev, "failed to get IRQ resource\n");
1343                 goto err_clk;
1344         }
1345
1346         ret = devm_request_threaded_irq(dev, res->start, bdisp_irq_handler,
1347                                         bdisp_irq_thread, IRQF_ONESHOT,
1348                                         pdev->name, bdisp);
1349         if (ret) {
1350                 dev_err(dev, "failed to install irq\n");
1351                 goto err_clk;
1352         }
1353
1354         /* v4l2 register */
1355         ret = v4l2_device_register(dev, &bdisp->v4l2_dev);
1356         if (ret) {
1357                 dev_err(dev, "failed to register\n");
1358                 goto err_clk;
1359         }
1360
1361         /* Debug */
1362         ret = bdisp_debugfs_create(bdisp);
1363         if (ret) {
1364                 dev_err(dev, "failed to create debugfs\n");
1365                 goto err_v4l2;
1366         }
1367
1368         /* Power management */
1369         pm_runtime_enable(dev);
1370         ret = pm_runtime_get_sync(dev);
1371         if (ret < 0) {
1372                 dev_err(dev, "failed to set PM\n");
1373                 goto err_dbg;
1374         }
1375
1376         /* Continuous memory allocator */
1377         bdisp->alloc_ctx = vb2_dma_contig_init_ctx(dev);
1378         if (IS_ERR(bdisp->alloc_ctx)) {
1379                 ret = PTR_ERR(bdisp->alloc_ctx);
1380                 goto err_pm;
1381         }
1382
1383         /* Filters */
1384         if (bdisp_hw_alloc_filters(bdisp->dev)) {
1385                 dev_err(bdisp->dev, "no memory for filters\n");
1386                 ret = -ENOMEM;
1387                 goto err_vb2_dma;
1388         }
1389
1390         /* Register */
1391         ret = bdisp_register_device(bdisp);
1392         if (ret) {
1393                 dev_err(dev, "failed to register\n");
1394                 goto err_filter;
1395         }
1396
1397         dev_info(dev, "%s%d registered as /dev/video%d\n", BDISP_NAME,
1398                  bdisp->id, bdisp->vdev.num);
1399
1400         pm_runtime_put(dev);
1401
1402         return 0;
1403
1404 err_filter:
1405         bdisp_hw_free_filters(bdisp->dev);
1406 err_vb2_dma:
1407         vb2_dma_contig_cleanup_ctx(bdisp->alloc_ctx);
1408 err_pm:
1409         pm_runtime_put(dev);
1410 err_dbg:
1411         bdisp_debugfs_remove(bdisp);
1412 err_v4l2:
1413         v4l2_device_unregister(&bdisp->v4l2_dev);
1414 err_clk:
1415         if (!IS_ERR(bdisp->clock))
1416                 clk_unprepare(bdisp->clock);
1417
1418         return ret;
1419 }
1420
1421 static const struct of_device_id bdisp_match_types[] = {
1422         {
1423                 .compatible = "st,stih407-bdisp",
1424         },
1425         { /* end node */ }
1426 };
1427
1428 MODULE_DEVICE_TABLE(of, bdisp_match_types);
1429
1430 static struct platform_driver bdisp_driver = {
1431         .probe          = bdisp_probe,
1432         .remove         = bdisp_remove,
1433         .driver         = {
1434                 .name           = BDISP_NAME,
1435                 .of_match_table = bdisp_match_types,
1436                 .pm             = &bdisp_pm_ops,
1437         },
1438 };
1439
1440 module_platform_driver(bdisp_driver);
1441
1442 MODULE_DESCRIPTION("2D blitter for STMicroelectronics SoC");
1443 MODULE_AUTHOR("Fabien Dessenne <fabien.dessenne@st.com>");
1444 MODULE_LICENSE("GPL");