freedreno/kgsl/kgsl_bo.c

   1 /* -*- mode: C; c-file-style: "k&r"; tab-width 4; indent-tabs-mode: t; -*- */
   2
   3 /*
   4  * Copyright (C) 2013 Rob Clark <robclark@freedesktop.org>
   5  *
   6  * Permission is hereby granted, free of charge, to any person obtaining a
   7  * copy of this software and associated documentation files (the "Software"),
   8  * to deal in the Software without restriction, including without limitation
   9  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
  10  * and/or sell copies of the Software, and to permit persons to whom the
  11  * Software is furnished to do so, subject to the following conditions:
  12  *
  13  * The above copyright notice and this permission notice (including the next
  14  * paragraph) shall be included in all copies or substantial portions of the
  15  * Software.
  16  *
  17  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  18  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  19  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  20  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  21  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
  22  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  23  * SOFTWARE.
  24  *
  25  * Authors:
  26  *    Rob Clark <robclark@freedesktop.org>
  27  */
  28
  29 #include "kgsl_priv.h"
  30
  31 #include <linux/fb.h>
  32
  33 static int set_memtype(struct fd_device *dev, uint32_t handle, uint32_t flags)
  34 {
  35         struct drm_kgsl_gem_memtype req = {
  36                         .handle = handle,
  37                         .type = flags & DRM_FREEDRENO_GEM_TYPE_MEM_MASK,
  38         };
  39
  40         return drmCommandWrite(dev->fd, DRM_KGSL_GEM_SETMEMTYPE,
  41                         &req, sizeof(req));
  42 }
  43
  44 static int bo_alloc(struct kgsl_bo *kgsl_bo)
  45 {
  46         struct fd_bo *bo = &kgsl_bo->base;
  47         if (!kgsl_bo->offset) {
  48                 struct drm_kgsl_gem_alloc req = {
  49                                 .handle = bo->handle,
  50                 };
  51                 int ret;
  52
  53                 /* if the buffer is already backed by pages then this
  54                  * doesn't actually do anything (other than giving us
  55                  * the offset)
  56                  */
  57                 ret = drmCommandWriteRead(bo->dev->fd, DRM_KGSL_GEM_ALLOC,
  58                                 &req, sizeof(req));
  59                 if (ret) {
  60                         ERROR_MSG("alloc failed: %s", strerror(errno));
  61                         return ret;
  62                 }
  63
  64                 kgsl_bo->offset = req.offset;
  65         }
  66
  67         return 0;
  68 }
  69
  70 static int kgsl_bo_offset(struct fd_bo *bo, uint64_t *offset)
  71 {
  72         struct kgsl_bo *kgsl_bo = to_kgsl_bo(bo);
  73         int ret = bo_alloc(kgsl_bo);
  74         if (ret)
  75                 return ret;
  76         *offset = kgsl_bo->offset;
  77         return 0;
  78 }
  79
  80 static int kgsl_bo_cpu_prep(struct fd_bo *bo, struct fd_pipe *pipe, uint32_t op)
  81 {
  82         uint32_t timestamp = kgsl_bo_get_timestamp(to_kgsl_bo(bo));
  83
  84         if (op & DRM_FREEDRENO_PREP_NOSYNC) {
  85                 uint32_t current;
  86                 int ret;
  87
  88                 /* special case for is_idle().. we can't really handle that
  89                  * properly in kgsl (perhaps we need a way to just disable
  90                  * the bo-cache for kgsl?)
  91                  */
  92                 if (!pipe)
  93                         return -EBUSY;
  94
  95                 ret = kgsl_pipe_timestamp(to_kgsl_pipe(pipe), &current);
  96                 if (ret)
  97                         return ret;
  98
  99                 if (timestamp > current)
 100                         return -EBUSY;
 101
 102                 return 0;
 103         }
 104
 105         if (timestamp)
 106                 fd_pipe_wait(pipe, timestamp);
 107
 108         return 0;
 109 }
 110
 111 static void kgsl_bo_cpu_fini(struct fd_bo *bo)
 112 {
 113 }
 114
 115 static void kgsl_bo_destroy(struct fd_bo *bo)
 116 {
 117         struct kgsl_bo *kgsl_bo = to_kgsl_bo(bo);
 118         free(kgsl_bo);
 119
 120 }
 121
 122 static struct fd_bo_funcs funcs = {
 123                 .offset = kgsl_bo_offset,
 124                 .cpu_prep = kgsl_bo_cpu_prep,
 125                 .cpu_fini = kgsl_bo_cpu_fini,
 126                 .destroy = kgsl_bo_destroy,
 127 };
 128
 129 /* allocate a buffer handle: */
 130 int kgsl_bo_new_handle(struct fd_device *dev,
 131                 uint32_t size, uint32_t flags, uint32_t *handle)
 132 {
 133         struct drm_kgsl_gem_create req = {
 134                         .size = size,
 135         };
 136         int ret;
 137
 138         ret = drmCommandWriteRead(dev->fd, DRM_KGSL_GEM_CREATE,
 139                         &req, sizeof(req));
 140         if (ret)
 141                 return ret;
 142
 143         // TODO make flags match msm driver, since kgsl is legacy..
 144         // translate flags in kgsl..
 145
 146         set_memtype(dev, req.handle, flags);
 147
 148         *handle = req.handle;
 149
 150         return 0;
 151 }
 152
 153 /* allocate a new buffer object */
 154 struct fd_bo * kgsl_bo_from_handle(struct fd_device *dev,
 155                 uint32_t size, uint32_t handle)
 156 {
 157         struct kgsl_bo *kgsl_bo;
 158         struct fd_bo *bo;
 159         unsigned i;
 160
 161         kgsl_bo = calloc(1, sizeof(*kgsl_bo));
 162         if (!kgsl_bo)
 163                 return NULL;
 164
 165         bo = &kgsl_bo->base;
 166         bo->funcs = &funcs;
 167
 168         for (i = 0; i < ARRAY_SIZE(kgsl_bo->list); i++)
 169                 list_inithead(&kgsl_bo->list[i]);
 170
 171         return bo;
 172 }
 173
 174 struct fd_bo * fd_bo_from_fbdev(struct fd_pipe *pipe,
 175                 int fbfd, uint32_t size)
 176 {
 177         struct drm_kgsl_gem_create_fd req = {
 178                         .fd = fbfd,
 179         };
 180         struct fd_bo *bo;
 181         struct kgsl_bo *kgsl_bo;
 182
 183         if (!is_kgsl_pipe(pipe))
 184                 return NULL;
 185
 186         if (drmCommandWriteRead(pipe->dev->fd, DRM_KGSL_GEM_CREATE_FD,
 187                         &req, sizeof(req))) {
 188                 return NULL;
 189         }
 190
 191         bo = fd_bo_from_handle(pipe->dev, req.handle, size);
 192         kgsl_bo = to_kgsl_bo(bo);
 193
 194         /* this is fugly, but works around a bug in the kernel..
 195          * priv->memdesc.size never gets set, so getbufinfo ioctl
 196          * thinks the buffer hasn't be allocate and fails
 197          */
 198         if (bo && !kgsl_bo_gpuaddr(kgsl_bo, 0)) {
 199                 void *fbmem = mmap(NULL, size, PROT_READ | PROT_WRITE,
 200                                 MAP_SHARED, fbfd, 0);
 201                 struct kgsl_map_user_mem req = {
 202                                 .memtype = KGSL_USER_MEM_TYPE_ADDR,
 203                                 .len     = size,
 204                                 .offset  = 0,
 205                                 .hostptr = (unsigned long)fbmem,
 206                 };
 207                 int ret;
 208                 ret = ioctl(to_kgsl_pipe(pipe)->fd, IOCTL_KGSL_MAP_USER_MEM, &req);
 209                 if (ret) {
 210                         ERROR_MSG("mapping user mem failed: %s",
 211                                         strerror(errno));
 212                         goto fail;
 213                 }
 214                 kgsl_bo->gpuaddr = req.gpuaddr;
 215                 bo->map = fbmem;
 216         }
 217
 218         return bo;
 219 fail:
 220         if (bo)
 221                 fd_bo_del(bo);
 222         return NULL;
 223 }
 224
 225
 226 uint32_t kgsl_bo_gpuaddr(struct kgsl_bo *kgsl_bo, uint32_t offset)
 227 {
 228         struct fd_bo *bo = &kgsl_bo->base;
 229         if (!kgsl_bo->gpuaddr) {
 230                 struct drm_kgsl_gem_bufinfo req = {
 231                                 .handle = bo->handle,
 232                 };
 233                 int ret;
 234
 235                 ret = bo_alloc(kgsl_bo);
 236                 if (ret) {
 237                         return ret;
 238                 }
 239
 240                 ret = drmCommandWriteRead(bo->dev->fd, DRM_KGSL_GEM_GET_BUFINFO,
 241                                 &req, sizeof(req));
 242                 if (ret) {
 243                         ERROR_MSG("get bufinfo failed: %s", strerror(errno));
 244                         return 0;
 245                 }
 246
 247                 kgsl_bo->gpuaddr = req.gpuaddr[0];
 248         }
 249         return kgsl_bo->gpuaddr + offset;
 250 }
 251
 252 /*
 253  * Super-cheezy way to synchronization between mesa and ddx..  the
 254  * SET_ACTIVE ioctl gives us a way to stash a 32b # w/ a GEM bo, and
 255  * GET_BUFINFO gives us a way to retrieve it.  We use this to stash
 256  * the timestamp of the last ISSUEIBCMDS on the buffer.
 257  *
 258  * To avoid an obscene amount of syscalls, we:
 259  *  1) Only set the timestamp for buffers w/ an flink name, ie.
 260  *     only buffers shared across processes.  This is enough to
 261  *     catch the DRI2 buffers.
 262  *  2) Only set the timestamp for buffers submitted to the 3d ring
 263  *     and only check the timestamps on buffers submitted to the
 264  *     2d ring.  This should be enough to handle synchronizing of
 265  *     presentation blit.  We could do synchronization in the other
 266  *     direction too, but that would be problematic if we are using
 267  *     the 3d ring from DDX, since client side wouldn't know this.
 268  *
 269  * The waiting on timestamp happens before flush, and setting of
 270  * timestamp happens after flush.  It is transparent to the user
 271  * of libdrm_freedreno as all the tracking of buffers happens via
 272  * _emit_reloc()..
 273  */
 274
 275 void kgsl_bo_set_timestamp(struct kgsl_bo *kgsl_bo, uint32_t timestamp)
 276 {
 277         struct fd_bo *bo = &kgsl_bo->base;
 278         if (bo->name) {
 279                 struct drm_kgsl_gem_active req = {
 280                                 .handle = bo->handle,
 281                                 .active = timestamp,
 282                 };
 283                 int ret;
 284
 285                 ret = drmCommandWrite(bo->dev->fd, DRM_KGSL_GEM_SET_ACTIVE,
 286                                 &req, sizeof(req));
 287                 if (ret) {
 288                         ERROR_MSG("set active failed: %s", strerror(errno));
 289                 }
 290         }
 291 }
 292
 293 uint32_t kgsl_bo_get_timestamp(struct kgsl_bo *kgsl_bo)
 294 {
 295         struct fd_bo *bo = &kgsl_bo->base;
 296         uint32_t timestamp = 0;
 297         if (bo->name) {
 298                 struct drm_kgsl_gem_bufinfo req = {
 299                                 .handle = bo->handle,
 300                 };
 301                 int ret;
 302
 303                 ret = drmCommandWriteRead(bo->dev->fd, DRM_KGSL_GEM_GET_BUFINFO,
 304                                 &req, sizeof(req));
 305                 if (ret) {
 306                         ERROR_MSG("get bufinfo failed: %s", strerror(errno));
 307                         return 0;
 308                 }
 309
 310                 timestamp = req.active;
 311         }
 312         return timestamp;
 313 }