tests/gem_reset_stats.c

   1 /*
   2  * Copyright (c) 2013 Intel Corporation
   3  *
   4  * Permission is hereby granted, free of charge, to any person obtaining a
   5  * copy of this software and associated documentation files (the "Software"),
   6  * to deal in the Software without restriction, including without limitation
   7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
   8  * and/or sell copies of the Software, and to permit persons to whom the
   9  * Software is furnished to do so, subject to the following conditions:
  10  *
  11  * The above copyright notice and this permission notice (including the next
  12  * paragraph) shall be included in all copies or substantial portions of the
  13  * Software.
  14  *
  15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  18  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING
  20  * FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS
  21  * IN THE SOFTWARE.
  22  *
  23  * Authors:
  24  *  Mika Kuoppala <mika.kuoppala@intel.com>
  25  *
  26  */
  27
  28 #define _GNU_SOURCE
  29 #include <stdbool.h>
  30 #include <unistd.h>
  31 #include <stdlib.h>
  32 #include <stdio.h>
  33 #include <string.h>
  34 #include <fcntl.h>
  35 #include <inttypes.h>
  36 #include <errno.h>
  37 #include <sys/stat.h>
  38 #include <sys/ioctl.h>
  39 #include <sys/mman.h>
  40 #include <time.h>
  41 #include <signal.h>
  42
  43 #include "ioctl_wrappers.h"
  44 #include "drmtest.h"
  45 #include "igt_debugfs.h"
  46 #include "intel_chipset.h"
  47 #include "intel_io.h"
  48 #include "igt_aux.h"
  49
  50 #define RS_NO_ERROR      0
  51 #define RS_BATCH_ACTIVE  (1 << 0)
  52 #define RS_BATCH_PENDING (1 << 1)
  53 #define RS_UNKNOWN       (1 << 2)
  54
  55 static uint32_t devid;
  56 static bool hw_contexts;
  57
  58 struct local_drm_i915_reset_stats {
  59         __u32 ctx_id;
  60         __u32 flags;
  61         __u32 reset_count;
  62         __u32 batch_active;
  63         __u32 batch_pending;
  64         __u32 pad;
  65 };
  66
  67 struct local_drm_i915_gem_context_create {
  68         __u32 ctx_id;
  69         __u32 pad;
  70 };
  71
  72 struct local_drm_i915_gem_context_destroy {
  73         __u32 ctx_id;
  74         __u32 pad;
  75 };
  76
  77 #define MAX_FD 32
  78
  79 #define CONTEXT_CREATE_IOCTL DRM_IOWR(DRM_COMMAND_BASE + 0x2d, struct local_drm_i915_gem_context_create)
  80 #define CONTEXT_DESTROY_IOCTL DRM_IOWR(DRM_COMMAND_BASE + 0x2e, struct local_drm_i915_gem_context_destroy)
  81 #define GET_RESET_STATS_IOCTL DRM_IOWR(DRM_COMMAND_BASE + 0x32, struct local_drm_i915_reset_stats)
  82
  83 #define LOCAL_I915_EXEC_VEBOX   (4 << 0)
  84
  85 struct target_ring;
  86
  87 static bool gem_has_render(int fd)
  88 {
  89         return true;
  90 }
  91
  92 static bool has_context(const struct target_ring *ring);
  93
  94 static const struct target_ring {
  95         uint32_t exec;
  96         bool (*present)(int fd);
  97         bool (*contexts)(const struct target_ring *ring);
  98         const char *name;
  99 } rings[] = {
 100         { I915_EXEC_RENDER, gem_has_render, has_context, "render" },
 101         { I915_EXEC_BLT, gem_has_blt, has_context, "blt" },
 102         { I915_EXEC_BSD, gem_has_bsd, has_context, "bsd" },
 103         { LOCAL_I915_EXEC_VEBOX, gem_has_vebox, has_context, "vebox" },
 104 };
 105
 106 static bool has_context(const struct target_ring *ring)
 107 {
 108         if (!hw_contexts)
 109                 return false;
 110
 111         if(ring->exec == I915_EXEC_RENDER)
 112                 return true;
 113
 114         return false;
 115 }
 116
 117 #define NUM_RINGS (sizeof(rings)/sizeof(struct target_ring))
 118
 119 static const struct target_ring *current_ring;
 120
 121 static uint32_t context_create(int fd)
 122 {
 123         struct local_drm_i915_gem_context_create create;
 124         int ret;
 125
 126         create.ctx_id = rand();
 127         create.pad = rand();
 128
 129         ret = drmIoctl(fd, CONTEXT_CREATE_IOCTL, &create);
 130         igt_assert(ret == 0);
 131
 132         return create.ctx_id;
 133 }
 134
 135 static int context_destroy(int fd, uint32_t ctx_id)
 136 {
 137         int ret;
 138         struct local_drm_i915_gem_context_destroy destroy;
 139
 140         destroy.ctx_id = ctx_id;
 141         destroy.pad = rand();
 142
 143         ret = drmIoctl(fd, CONTEXT_DESTROY_IOCTL, &destroy);
 144         if (ret != 0)
 145                 return -errno;
 146
 147         return 0;
 148 }
 149
 150 static int gem_reset_stats(int fd, int ctx_id,
 151                            struct local_drm_i915_reset_stats *rs)
 152 {
 153         int ret;
 154
 155         rs->ctx_id = ctx_id;
 156         rs->flags = 0;
 157         rs->reset_count = rand();
 158         rs->batch_active = rand();
 159         rs->batch_pending = rand();
 160         rs->pad = 0;
 161
 162         do {
 163                 ret = ioctl(fd, GET_RESET_STATS_IOCTL, rs);
 164         } while (ret == -1 && (errno == EINTR || errno == EAGAIN));
 165
 166         if (ret < 0)
 167                 return -errno;
 168
 169         return 0;
 170 }
 171
 172 static int gem_reset_status(int fd, int ctx_id)
 173 {
 174         int ret;
 175         struct local_drm_i915_reset_stats rs;
 176
 177         ret = gem_reset_stats(fd, ctx_id, &rs);
 178         if (ret)
 179                 return ret;
 180
 181         if (rs.batch_active)
 182                 return RS_BATCH_ACTIVE;
 183         if (rs.batch_pending)
 184                 return RS_BATCH_PENDING;
 185
 186         return RS_NO_ERROR;
 187 }
 188
 189 static int gem_exec(int fd, struct drm_i915_gem_execbuffer2 *execbuf)
 190 {
 191         int ret;
 192
 193         ret = ioctl(fd,
 194                     DRM_IOCTL_I915_GEM_EXECBUFFER2,
 195                     execbuf);
 196
 197         if (ret < 0)
 198                 return -errno;
 199
 200         return 0;
 201 }
 202
 203 static int exec_valid_ring(int fd, int ctx, int ring)
 204 {
 205         struct drm_i915_gem_execbuffer2 execbuf;
 206         struct drm_i915_gem_exec_object2 exec;
 207         int ret;
 208
 209         uint32_t buf[2] = { MI_BATCH_BUFFER_END, 0 };
 210
 211         exec.handle = gem_create(fd, 4096);
 212         gem_write(fd, exec.handle, 0, buf, sizeof(buf));
 213         exec.relocation_count = 0;
 214         exec.relocs_ptr = 0;
 215         exec.alignment = 0;
 216         exec.offset = 0;
 217         exec.flags = 0;
 218         exec.rsvd1 = 0;
 219         exec.rsvd2 = 0;
 220
 221         execbuf.buffers_ptr = (uintptr_t)&exec;
 222         execbuf.buffer_count = 1;
 223         execbuf.batch_start_offset = 0;
 224         execbuf.batch_len = sizeof(buf);
 225         execbuf.cliprects_ptr = 0;
 226         execbuf.num_cliprects = 0;
 227         execbuf.DR1 = 0;
 228         execbuf.DR4 = 0;
 229         execbuf.flags = ring;
 230         i915_execbuffer2_set_context_id(execbuf, ctx);
 231         execbuf.rsvd2 = 0;
 232
 233         ret = gem_exec(fd, &execbuf);
 234         if (ret < 0)
 235                 return ret;
 236
 237         return exec.handle;
 238 }
 239
 240 static int exec_valid(int fd, int ctx)
 241 {
 242         return exec_valid_ring(fd, ctx, current_ring->exec);
 243 }
 244
 245 static void stop_rings(const int mask)
 246 {
 247         int fd;
 248         char buf[80];
 249
 250         igt_assert((mask & ~((1 << NUM_RINGS) - 1)) == 0);
 251         igt_assert(snprintf(buf, sizeof(buf), "0x%02x", mask) == 4);
 252         fd = igt_debugfs_open("i915_ring_stop", O_WRONLY);
 253         igt_assert(fd >= 0);
 254
 255         igt_assert(write(fd, buf, 4) == 4);
 256         close(fd);
 257 }
 258
 259 #define BUFSIZE (4 * 1024)
 260 #define ITEMS   (BUFSIZE >> 2)
 261
 262 static int ring_to_mask(int ring)
 263 {
 264         for (unsigned i = 0; i < NUM_RINGS; i++) {
 265                 const struct target_ring *r = &rings[i];
 266
 267                 if (r->exec == ring)
 268                         return (1 << i);
 269         }
 270
 271         igt_assert(0);
 272
 273         return -1;
 274 }
 275
 276 static int inject_hang_ring(int fd, int ctx, int ring)
 277 {
 278         struct drm_i915_gem_execbuffer2 execbuf;
 279         struct drm_i915_gem_exec_object2 exec;
 280         uint64_t gtt_off;
 281         uint32_t *buf;
 282         int roff, i;
 283         unsigned cmd_len = 2;
 284
 285         srandom(time(NULL));
 286
 287         if (intel_gen(devid) >= 8)
 288                 cmd_len = 3;
 289
 290         buf = malloc(BUFSIZE);
 291         igt_assert(buf != NULL);
 292
 293         buf[0] = MI_BATCH_BUFFER_END;
 294         buf[1] = MI_NOOP;
 295
 296         exec.handle = gem_create(fd, BUFSIZE);
 297         gem_write(fd, exec.handle, 0, buf, BUFSIZE);
 298         exec.relocation_count = 0;
 299         exec.relocs_ptr = 0;
 300         exec.alignment = 0;
 301         exec.offset = 0;
 302         exec.flags = 0;
 303         exec.rsvd1 = 0;
 304         exec.rsvd2 = 0;
 305
 306         execbuf.buffers_ptr = (uintptr_t)&exec;
 307         execbuf.buffer_count = 1;
 308         execbuf.batch_start_offset = 0;
 309         execbuf.batch_len = BUFSIZE;
 310         execbuf.cliprects_ptr = 0;
 311         execbuf.num_cliprects = 0;
 312         execbuf.DR1 = 0;
 313         execbuf.DR4 = 0;
 314         execbuf.flags = ring;
 315         i915_execbuffer2_set_context_id(execbuf, ctx);
 316         execbuf.rsvd2 = 0;
 317
 318         igt_assert(gem_exec(fd, &execbuf) == 0);
 319
 320         gtt_off = exec.offset;
 321
 322         for (i = 0; i < ITEMS; i++)
 323                 buf[i] = MI_NOOP;
 324
 325         roff = random() % (ITEMS - cmd_len);
 326         buf[roff] = MI_BATCH_BUFFER_START | (cmd_len - 2);
 327         buf[roff + 1] = (gtt_off & 0xfffffffc) + (roff << 2);
 328         if (cmd_len == 3)
 329                 buf[roff + 2] = gtt_off & 0xffffffff00000000ull;
 330
 331 #ifdef VERBOSE
 332         printf("loop injected at 0x%lx (off 0x%x, bo_start 0x%lx, bo_end 0x%lx)\n",
 333                (long unsigned int)((roff << 2) + gtt_off),
 334                roff << 2, (long unsigned int)gtt_off,
 335                (long unsigned int)(gtt_off + BUFSIZE - 1));
 336 #endif
 337         gem_write(fd, exec.handle, 0, buf, BUFSIZE);
 338
 339         exec.relocation_count = 0;
 340         exec.relocs_ptr = 0;
 341         exec.alignment = 0;
 342         exec.offset = 0;
 343         exec.flags = 0;
 344         exec.rsvd1 = 0;
 345         exec.rsvd2 = 0;
 346
 347         execbuf.buffers_ptr = (uintptr_t)&exec;
 348         execbuf.buffer_count = 1;
 349         execbuf.batch_start_offset = 0;
 350         execbuf.batch_len = BUFSIZE;
 351         execbuf.cliprects_ptr = 0;
 352         execbuf.num_cliprects = 0;
 353         execbuf.DR1 = 0;
 354         execbuf.DR4 = 0;
 355         execbuf.flags = ring;
 356         i915_execbuffer2_set_context_id(execbuf, ctx);
 357         execbuf.rsvd2 = 0;
 358
 359         igt_assert(gem_exec(fd, &execbuf) == 0);
 360
 361         igt_assert(gtt_off == exec.offset);
 362
 363         free(buf);
 364
 365         stop_rings(ring_to_mask(ring));
 366
 367         return exec.handle;
 368 }
 369
 370 static int inject_hang(int fd, int ctx)
 371 {
 372         return inject_hang_ring(fd, ctx, current_ring->exec);
 373 }
 374
 375 static int _assert_reset_status(int fd, int ctx, int status)
 376 {
 377         int rs;
 378
 379         rs = gem_reset_status(fd, ctx);
 380         if (rs < 0) {
 381                 printf("reset status for %d ctx %d returned %d\n",
 382                        fd, ctx, rs);
 383                 return rs;
 384         }
 385
 386         if (rs != status) {
 387                 printf("%d:%d reset status %d differs from assumed %d\n",
 388                        fd, ctx, rs, status);
 389
 390                 return 1;
 391         }
 392
 393         return 0;
 394 }
 395
 396 #define assert_reset_status(fd, ctx, status) \
 397         igt_assert(_assert_reset_status(fd, ctx, status) == 0)
 398
 399 static void test_rs(int num_fds, int hang_index, int rs_assumed_no_hang)
 400 {
 401         int i;
 402         int fd[MAX_FD];
 403         int h[MAX_FD];
 404
 405         igt_assert (num_fds <= MAX_FD);
 406         igt_assert (hang_index < MAX_FD);
 407
 408         for (i = 0; i < num_fds; i++) {
 409                 fd[i] = drm_open_any();
 410                 igt_assert(fd[i]);
 411         }
 412
 413         for (i = 0; i < num_fds; i++)
 414                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 415
 416         for (i = 0; i < num_fds; i++) {
 417                 if (i == hang_index)
 418                         h[i] = inject_hang(fd[i], 0);
 419                 else
 420                         h[i] = exec_valid(fd[i], 0);
 421         }
 422
 423         gem_sync(fd[num_fds - 1], h[num_fds - 1]);
 424
 425         for (i = 0; i < num_fds; i++) {
 426                 if (hang_index < 0) {
 427                         assert_reset_status(fd[i], 0, rs_assumed_no_hang);
 428                         continue;
 429                 }
 430
 431                 if (i < hang_index)
 432                         assert_reset_status(fd[i], 0, RS_NO_ERROR);
 433                 if (i == hang_index)
 434                         assert_reset_status(fd[i], 0, RS_BATCH_ACTIVE);
 435                 if (i > hang_index)
 436                         assert_reset_status(fd[i], 0, RS_BATCH_PENDING);
 437         }
 438
 439         for (i = 0; i < num_fds; i++) {
 440                 gem_close(fd[i], h[i]);
 441                 close(fd[i]);
 442         }
 443 }
 444
 445 #define MAX_CTX 100
 446 static void test_rs_ctx(int num_fds, int num_ctx, int hang_index,
 447                         int hang_context)
 448 {
 449         int i, j;
 450         int fd[MAX_FD];
 451         int h[MAX_FD][MAX_CTX];
 452         int ctx[MAX_FD][MAX_CTX];
 453
 454         igt_assert (num_fds <= MAX_FD);
 455         igt_assert (hang_index < MAX_FD);
 456
 457         igt_assert (num_ctx <= MAX_CTX);
 458         igt_assert (hang_context < MAX_CTX);
 459
 460         test_rs(num_fds, -1, RS_NO_ERROR);
 461
 462         for (i = 0; i < num_fds; i++) {
 463                 fd[i] = drm_open_any();
 464                 igt_assert(fd[i]);
 465                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 466
 467                 for (j = 0; j < num_ctx; j++) {
 468                         ctx[i][j] = context_create(fd[i]);
 469
 470                 }
 471
 472                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 473         }
 474
 475         for (i = 0; i < num_fds; i++) {
 476
 477                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 478
 479                 for (j = 0; j < num_ctx; j++)
 480                         assert_reset_status(fd[i], ctx[i][j], RS_NO_ERROR);
 481
 482                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 483         }
 484
 485         for (i = 0; i < num_fds; i++) {
 486                 for (j = 0; j < num_ctx; j++) {
 487                         if (i == hang_index && j == hang_context)
 488                                 h[i][j] = inject_hang(fd[i], ctx[i][j]);
 489                         else
 490                                 h[i][j] = exec_valid(fd[i], ctx[i][j]);
 491                 }
 492         }
 493
 494         gem_sync(fd[num_fds - 1], ctx[num_fds - 1][num_ctx - 1]);
 495
 496         for (i = 0; i < num_fds; i++)
 497                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 498
 499         for (i = 0; i < num_fds; i++) {
 500                 for (j = 0; j < num_ctx; j++) {
 501                         if (i < hang_index)
 502                                 assert_reset_status(fd[i], ctx[i][j], RS_NO_ERROR);
 503                         if (i == hang_index && j < hang_context)
 504                                 assert_reset_status(fd[i], ctx[i][j], RS_NO_ERROR);
 505                         if (i == hang_index && j == hang_context)
 506                                 assert_reset_status(fd[i], ctx[i][j],
 507                                                     RS_BATCH_ACTIVE);
 508                         if (i == hang_index && j > hang_context)
 509                                 assert_reset_status(fd[i], ctx[i][j],
 510                                                     RS_BATCH_PENDING);
 511                         if (i > hang_index)
 512                                 assert_reset_status(fd[i], ctx[i][j],
 513                                                     RS_BATCH_PENDING);
 514                 }
 515         }
 516
 517         for (i = 0; i < num_fds; i++) {
 518                 for (j = 0; j < num_ctx; j++) {
 519                         gem_close(fd[i], h[i][j]);
 520                         igt_assert(context_destroy(fd[i], ctx[i][j]) == 0);
 521                 }
 522
 523                 assert_reset_status(fd[i], 0, RS_NO_ERROR);
 524
 525                 close(fd[i]);
 526         }
 527 }
 528
 529 static void test_ban(void)
 530 {
 531         int h1,h2,h3,h4,h5,h6,h7;
 532         int fd_bad, fd_good;
 533         int retry = 10;
 534         int active_count = 0, pending_count = 0;
 535         struct local_drm_i915_reset_stats rs_bad, rs_good;
 536
 537         fd_bad = drm_open_any();
 538         igt_assert(fd_bad >= 0);
 539
 540         fd_good = drm_open_any();
 541         igt_assert(fd_good >= 0);
 542
 543         assert_reset_status(fd_bad, 0, RS_NO_ERROR);
 544         assert_reset_status(fd_good, 0, RS_NO_ERROR);
 545
 546         h1 = exec_valid(fd_bad, 0);
 547         igt_assert(h1 >= 0);
 548         h5 = exec_valid(fd_good, 0);
 549         igt_assert(h5 >= 0);
 550
 551         assert_reset_status(fd_bad, 0, RS_NO_ERROR);
 552         assert_reset_status(fd_good, 0, RS_NO_ERROR);
 553
 554         h2 = inject_hang(fd_bad, 0);
 555         igt_assert(h2 >= 0);
 556         active_count++;
 557         /* Second hang will be pending for this */
 558         pending_count++;
 559
 560         h6 = exec_valid(fd_good, 0);
 561         h7 = exec_valid(fd_good, 0);
 562
 563         while (retry--) {
 564                 h3 = inject_hang(fd_bad, 0);
 565                 igt_assert(h3 >= 0);
 566                 gem_sync(fd_bad, h3);
 567                 active_count++;
 568                 /* This second hand will count as pending */
 569                 assert_reset_status(fd_bad, 0, RS_BATCH_ACTIVE);
 570
 571                 h4 = exec_valid(fd_bad, 0);
 572                 if (h4 == -EIO) {
 573                         gem_close(fd_bad, h3);
 574                         break;
 575                 }
 576
 577                 /* Should not happen often but sometimes hang is declared too slow
 578                  * due to our way of faking hang using loop */
 579
 580                 igt_assert(h4 >= 0);
 581                 gem_close(fd_bad, h3);
 582                 gem_close(fd_bad, h4);
 583
 584                 printf("retrying for ban (%d)\n", retry);
 585         }
 586
 587         igt_assert(h4 == -EIO);
 588         assert_reset_status(fd_bad, 0, RS_BATCH_ACTIVE);
 589
 590         gem_sync(fd_good, h7);
 591         assert_reset_status(fd_good, 0, RS_BATCH_PENDING);
 592
 593         igt_assert(gem_reset_stats(fd_good, 0, &rs_good) == 0);
 594         igt_assert(gem_reset_stats(fd_bad, 0, &rs_bad) == 0);
 595
 596         igt_assert(rs_bad.batch_active == active_count);
 597         igt_assert(rs_bad.batch_pending == pending_count);
 598         igt_assert(rs_good.batch_active == 0);
 599         igt_assert(rs_good.batch_pending == 2);
 600
 601         gem_close(fd_bad, h1);
 602         gem_close(fd_bad, h2);
 603         gem_close(fd_good, h6);
 604         gem_close(fd_good, h7);
 605
 606         h1 = exec_valid(fd_good, 0);
 607         igt_assert(h1 >= 0);
 608         gem_close(fd_good, h1);
 609
 610         close(fd_bad);
 611         close(fd_good);
 612
 613         igt_assert(gem_reset_status(fd_bad, 0) < 0);
 614         igt_assert(gem_reset_status(fd_good, 0) < 0);
 615 }
 616
 617 static void test_ban_ctx(void)
 618 {
 619         int h1,h2,h3,h4,h5,h6,h7;
 620         int ctx_good, ctx_bad;
 621         int fd;
 622         int retry = 10;
 623         int active_count = 0, pending_count = 0;
 624         struct local_drm_i915_reset_stats rs_bad, rs_good;
 625
 626         fd = drm_open_any();
 627         igt_assert(fd >= 0);
 628
 629         assert_reset_status(fd, 0, RS_NO_ERROR);
 630
 631         ctx_good = context_create(fd);
 632         ctx_bad = context_create(fd);
 633
 634         assert_reset_status(fd, 0, RS_NO_ERROR);
 635         assert_reset_status(fd, ctx_good, RS_NO_ERROR);
 636         assert_reset_status(fd, ctx_bad, RS_NO_ERROR);
 637
 638         h1 = exec_valid(fd, ctx_bad);
 639         igt_assert(h1 >= 0);
 640         h5 = exec_valid(fd, ctx_good);
 641         igt_assert(h5 >= 0);
 642
 643         assert_reset_status(fd, ctx_good, RS_NO_ERROR);
 644         assert_reset_status(fd, ctx_bad, RS_NO_ERROR);
 645
 646         h2 = inject_hang(fd, ctx_bad);
 647         igt_assert(h2 >= 0);
 648         active_count++;
 649         /* Second hang will be pending for this */
 650         pending_count++;
 651
 652         h6 = exec_valid(fd, ctx_good);
 653         h7 = exec_valid(fd, ctx_good);
 654
 655         while (retry--) {
 656                 h3 = inject_hang(fd, ctx_bad);
 657                 igt_assert(h3 >= 0);
 658                 gem_sync(fd, h3);
 659                 active_count++;
 660                 /* This second hand will count as pending */
 661                 assert_reset_status(fd, ctx_bad, RS_BATCH_ACTIVE);
 662
 663                 h4 = exec_valid(fd, ctx_bad);
 664                 if (h4 == -EIO) {
 665                         gem_close(fd, h3);
 666                         break;
 667                 }
 668
 669                 /* Should not happen often but sometimes hang is declared too slow
 670                  * due to our way of faking hang using loop */
 671
 672                 igt_assert(h4 >= 0);
 673                 gem_close(fd, h3);
 674                 gem_close(fd, h4);
 675
 676                 printf("retrying for ban (%d)\n", retry);
 677         }
 678
 679         igt_assert(h4 == -EIO);
 680         assert_reset_status(fd, ctx_bad, RS_BATCH_ACTIVE);
 681
 682         gem_sync(fd, h7);
 683         assert_reset_status(fd, ctx_good, RS_BATCH_PENDING);
 684
 685         igt_assert(gem_reset_stats(fd, ctx_good, &rs_good) == 0);
 686         igt_assert(gem_reset_stats(fd, ctx_bad, &rs_bad) == 0);
 687
 688         igt_assert(rs_bad.batch_active == active_count);
 689         igt_assert(rs_bad.batch_pending == pending_count);
 690         igt_assert(rs_good.batch_active == 0);
 691         igt_assert(rs_good.batch_pending == 2);
 692
 693         gem_close(fd, h1);
 694         gem_close(fd, h2);
 695         gem_close(fd, h6);
 696         gem_close(fd, h7);
 697
 698         h1 = exec_valid(fd, ctx_good);
 699         igt_assert(h1 >= 0);
 700         gem_close(fd, h1);
 701
 702         igt_assert(context_destroy(fd, ctx_good) == 0);
 703         igt_assert(context_destroy(fd, ctx_bad) == 0);
 704         igt_assert(gem_reset_status(fd, ctx_good) < 0);
 705         igt_assert(gem_reset_status(fd, ctx_bad) < 0);
 706         igt_assert(exec_valid(fd, ctx_good) < 0);
 707         igt_assert(exec_valid(fd, ctx_bad) < 0);
 708
 709         close(fd);
 710 }
 711
 712 static void test_unrelated_ctx(void)
 713 {
 714         int h1,h2;
 715         int fd1,fd2;
 716         int ctx_guilty, ctx_unrelated;
 717
 718         fd1 = drm_open_any();
 719         fd2 = drm_open_any();
 720         assert_reset_status(fd1, 0, RS_NO_ERROR);
 721         assert_reset_status(fd2, 0, RS_NO_ERROR);
 722         ctx_guilty = context_create(fd1);
 723         ctx_unrelated = context_create(fd2);
 724
 725         assert_reset_status(fd1, ctx_guilty, RS_NO_ERROR);
 726         assert_reset_status(fd2, ctx_unrelated, RS_NO_ERROR);
 727
 728         h1 = inject_hang(fd1, ctx_guilty);
 729         igt_assert(h1 >= 0);
 730         gem_sync(fd1, h1);
 731         assert_reset_status(fd1, ctx_guilty, RS_BATCH_ACTIVE);
 732         assert_reset_status(fd2, ctx_unrelated, RS_NO_ERROR);
 733
 734         h2 = exec_valid(fd2, ctx_unrelated);
 735         igt_assert(h2 >= 0);
 736         gem_sync(fd2, h2);
 737         assert_reset_status(fd1, ctx_guilty, RS_BATCH_ACTIVE);
 738         assert_reset_status(fd2, ctx_unrelated, RS_NO_ERROR);
 739         gem_close(fd1, h1);
 740         gem_close(fd2, h2);
 741
 742         igt_assert(context_destroy(fd1, ctx_guilty) == 0);
 743         igt_assert(context_destroy(fd2, ctx_unrelated) == 0);
 744
 745         close(fd1);
 746         close(fd2);
 747 }
 748
 749 static int get_reset_count(int fd, int ctx)
 750 {
 751         int ret;
 752         struct local_drm_i915_reset_stats rs;
 753
 754         ret = gem_reset_stats(fd, ctx, &rs);
 755         if (ret)
 756                 return ret;
 757
 758         return rs.reset_count;
 759 }
 760
 761 static void test_close_pending_ctx(void)
 762 {
 763         int fd, h;
 764         uint32_t ctx;
 765
 766         fd = drm_open_any();
 767         igt_assert(fd >= 0);
 768         ctx = context_create(fd);
 769
 770         assert_reset_status(fd, ctx, RS_NO_ERROR);
 771
 772         h = inject_hang(fd, ctx);
 773         igt_assert(h >= 0);
 774         igt_assert(context_destroy(fd, ctx) == 0);
 775         igt_assert(context_destroy(fd, ctx) == -ENOENT);
 776
 777         gem_close(fd, h);
 778         close(fd);
 779 }
 780
 781 static void test_close_pending(void)
 782 {
 783         int fd, h;
 784
 785         fd = drm_open_any();
 786         igt_assert(fd >= 0);
 787
 788         assert_reset_status(fd, 0, RS_NO_ERROR);
 789
 790         h = inject_hang(fd, 0);
 791         igt_assert(h >= 0);
 792
 793         gem_close(fd, h);
 794         close(fd);
 795 }
 796
 797 static void exec_noop_on_each_ring(int fd, const bool reverse)
 798 {
 799         uint32_t batch[2] = {MI_BATCH_BUFFER_END, 0};
 800         uint32_t handle;
 801         struct drm_i915_gem_execbuffer2 execbuf;
 802         struct drm_i915_gem_exec_object2 exec[1];
 803
 804         handle = gem_create(fd, 4096);
 805         gem_write(fd, handle, 0, batch, sizeof(batch));
 806
 807         exec[0].handle = handle;
 808         exec[0].relocation_count = 0;
 809         exec[0].relocs_ptr = 0;
 810         exec[0].alignment = 0;
 811         exec[0].offset = 0;
 812         exec[0].flags = 0;
 813         exec[0].rsvd1 = 0;
 814         exec[0].rsvd2 = 0;
 815
 816         execbuf.buffers_ptr = (uintptr_t)exec;
 817         execbuf.buffer_count = 1;
 818         execbuf.batch_start_offset = 0;
 819         execbuf.batch_len = 8;
 820         execbuf.cliprects_ptr = 0;
 821         execbuf.num_cliprects = 0;
 822         execbuf.DR1 = 0;
 823         execbuf.DR4 = 0;
 824         execbuf.flags = 0;
 825         i915_execbuffer2_set_context_id(execbuf, 0);
 826         execbuf.rsvd2 = 0;
 827
 828         for (unsigned i = 0; i < NUM_RINGS; i++) {
 829                 const struct target_ring *ring;
 830
 831                 ring = reverse ? &rings[NUM_RINGS - 1 - i] : &rings[i];
 832
 833                 if (ring->present(fd)) {
 834                         execbuf.flags = ring->exec;
 835                         do_ioctl(fd, DRM_IOCTL_I915_GEM_EXECBUFFER2, &execbuf);
 836                 }
 837         }
 838
 839         gem_sync(fd, handle);
 840         gem_close(fd, handle);
 841 }
 842
 843 static void test_close_pending_fork(const bool reverse)
 844 {
 845         int pid;
 846         int fd, h;
 847
 848         fd = drm_open_any();
 849         igt_assert(fd >= 0);
 850
 851         assert_reset_status(fd, 0, RS_NO_ERROR);
 852
 853         h = inject_hang(fd, 0);
 854         igt_assert(h >= 0);
 855
 856         sleep(1);
 857
 858         /* Avoid helpers as we need to kill the child
 859          * without any extra signal handling on behalf of
 860          * lib/drmtest.c
 861          */
 862         pid = fork();
 863         if (pid == 0) {
 864                 const int fd2 = drm_open_any();
 865                 igt_assert(fd2 >= 0);
 866
 867                 /* The crucial component is that we schedule the same noop batch
 868                  * on each ring. This exercises batch_obj reference counting,
 869                  * when gpu is reset and ring lists are cleared.
 870                  */
 871                 exec_noop_on_each_ring(fd2, reverse);
 872
 873                 close(fd2);
 874                 return;
 875         } else {
 876                 igt_assert(pid > 0);
 877                 sleep(1);
 878
 879                 /* Kill the child to reduce refcounts on
 880                    batch_objs */
 881                 kill(pid, SIGKILL);
 882         }
 883
 884         gem_close(fd, h);
 885         close(fd);
 886
 887         /* Then we just wait on hang to happen */
 888         fd = drm_open_any();
 889         igt_assert(fd >= 0);
 890
 891         h = exec_valid(fd, 0);
 892         igt_assert(h >= 0);
 893
 894         gem_sync(fd, h);
 895         gem_close(fd, h);
 896         close(fd);
 897 }
 898
 899 static void test_reset_count(const bool create_ctx)
 900 {
 901         int fd, h, ctx;
 902         long c1, c2;
 903
 904         fd = drm_open_any();
 905         igt_assert(fd >= 0);
 906         if (create_ctx)
 907                 ctx = context_create(fd);
 908         else
 909                 ctx = 0;
 910
 911         assert_reset_status(fd, ctx, RS_NO_ERROR);
 912
 913         c1 = get_reset_count(fd, ctx);
 914         igt_assert(c1 >= 0);
 915
 916         h = inject_hang(fd, ctx);
 917         igt_assert (h >= 0);
 918         gem_sync(fd, h);
 919
 920         assert_reset_status(fd, ctx, RS_BATCH_ACTIVE);
 921         c2 = get_reset_count(fd, ctx);
 922         igt_assert(c2 >= 0);
 923         igt_assert(c2 == (c1 + 1));
 924
 925         igt_fork(child, 1) {
 926                 igt_drop_root();
 927
 928                 c2 = get_reset_count(fd, ctx);
 929
 930                 if (ctx == 0)
 931                         igt_assert(c2 == -EPERM);
 932                 else
 933                         igt_assert(c2 == 0);
 934         }
 935
 936         igt_waitchildren();
 937
 938         gem_close(fd, h);
 939
 940         if (create_ctx)
 941                 context_destroy(fd, ctx);
 942
 943         close(fd);
 944 }
 945
 946 static int _test_params(int fd, int ctx, uint32_t flags, uint32_t pad)
 947 {
 948         struct local_drm_i915_reset_stats rs;
 949         int ret;
 950
 951         rs.ctx_id = ctx;
 952         rs.flags = flags;
 953         rs.reset_count = rand();
 954         rs.batch_active = rand();
 955         rs.batch_pending = rand();
 956         rs.pad = pad;
 957
 958         do {
 959                 ret = ioctl(fd, GET_RESET_STATS_IOCTL, &rs);
 960         } while (ret == -1 && (errno == EINTR || errno == EAGAIN));
 961
 962         if (ret < 0)
 963                 return -errno;
 964
 965         return 0;
 966 }
 967
 968 typedef enum { root = 0, user } cap_t;
 969
 970 static void _check_param_ctx(const int fd, const int ctx, const cap_t cap)
 971 {
 972         const uint32_t bad = rand() + 1;
 973
 974         if (ctx == 0) {
 975                 if (cap == root)
 976                         igt_assert(_test_params(fd, ctx, 0, 0) == 0);
 977                 else
 978                         igt_assert(_test_params(fd, ctx, 0, 0) == -EPERM);
 979         }
 980
 981         igt_assert(_test_params(fd, ctx, 0, bad) == -EINVAL);
 982         igt_assert(_test_params(fd, ctx, bad, 0) == -EINVAL);
 983         igt_assert(_test_params(fd, ctx, bad, bad) == -EINVAL);
 984 }
 985
 986 static void check_params(const int fd, const int ctx, cap_t cap)
 987 {
 988         igt_assert(ioctl(fd, GET_RESET_STATS_IOCTL, 0) == -1);
 989         igt_assert(_test_params(fd, 0xbadbad, 0, 0) == -ENOENT);
 990
 991         _check_param_ctx(fd, ctx, cap);
 992 }
 993
 994 static void _test_param(const int fd, const int ctx)
 995 {
 996         check_params(fd, ctx, root);
 997
 998         igt_fork(child, 1) {
 999                 check_params(fd, ctx, root);
1000
1001                 igt_drop_root();
1002
1003                 check_params(fd, ctx, user);
1004         }
1005
1006         check_params(fd, ctx, root);
1007
1008         igt_waitchildren();
1009 }
1010
1011 static void test_params_ctx(void)
1012 {
1013         int fd, ctx;
1014
1015         fd = drm_open_any();
1016         igt_assert(fd >= 0);
1017         ctx = context_create(fd);
1018
1019         _test_param(fd, ctx);
1020
1021         close(fd);
1022 }
1023
1024 static void test_params(void)
1025 {
1026         int fd;
1027
1028         fd = drm_open_any();
1029         igt_assert(fd >= 0);
1030
1031         _test_param(fd, 0);
1032
1033         close(fd);
1034
1035 }
1036
1037 static bool gem_has_hw_contexts(int fd)
1038 {
1039         struct local_drm_i915_gem_context_create create;
1040         int ret;
1041
1042         memset(&create, 0, sizeof(create));
1043         ret = drmIoctl(fd, CONTEXT_CREATE_IOCTL, &create);
1044
1045         if (ret == 0) {
1046                 drmIoctl(fd, CONTEXT_DESTROY_IOCTL, &create);
1047                 return true;
1048         }
1049
1050         return false;
1051 }
1052
1053 static bool gem_has_reset_stats(int fd)
1054 {
1055         struct local_drm_i915_reset_stats rs;
1056         int ret;
1057
1058         /* Carefully set flags and pad to zero, otherwise
1059            we get -EINVAL
1060         */
1061         memset(&rs, 0, sizeof(rs));
1062
1063         ret = drmIoctl(fd, GET_RESET_STATS_IOCTL, &rs);
1064         if (ret == 0)
1065                 return true;
1066
1067         /* If we get EPERM, we have support but did not
1068            have CAP_SYSADM */
1069         if (ret == -1 && errno == EPERM)
1070                 return true;
1071
1072         return false;
1073 }
1074
1075 #define RING_HAS_CONTEXTS (current_ring->contexts(current_ring))
1076 #define RUN_CTX_TEST(...) do { igt_skip_on(RING_HAS_CONTEXTS == false); __VA_ARGS__; } while (0)
1077
1078 static int fd;
1079
1080 igt_main
1081 {
1082         igt_skip_on_simulation();
1083
1084         igt_fixture {
1085                 bool has_reset_stats;
1086                 fd = drm_open_any();
1087                 devid = intel_get_drm_devid(fd);
1088
1089                 hw_contexts = gem_has_hw_contexts(fd);
1090                 has_reset_stats = gem_has_reset_stats(fd);
1091
1092                 igt_require_f(has_reset_stats,
1093                               "No reset stats ioctl support. Too old kernel?\n");
1094         }
1095
1096         igt_subtest("params")
1097                 test_params();
1098
1099         for (int i = 0; i < NUM_RINGS; i++) {
1100                 const char *name;
1101
1102                 current_ring = &rings[i];
1103                 name = current_ring->name;
1104
1105                 igt_fixture
1106                         gem_require_ring(fd, current_ring->exec);
1107
1108                 igt_fixture
1109                         igt_require_f(intel_gen(devid) >= 4,
1110                                       "gen %d doesn't support reset\n", intel_gen(devid));
1111
1112                 igt_subtest_f("params-ctx-%s", name)
1113                         RUN_CTX_TEST(test_params_ctx());
1114
1115                 igt_subtest_f("reset-stats-%s", name)
1116                         test_rs(4, 1, 0);
1117
1118                 igt_subtest_f("reset-stats-ctx-%s", name)
1119                         RUN_CTX_TEST(test_rs_ctx(4, 4, 1, 2));
1120
1121                 igt_subtest_f("ban-%s", name)
1122                         test_ban();
1123
1124                 igt_subtest_f("ban-ctx-%s", name)
1125                         RUN_CTX_TEST(test_ban_ctx());
1126
1127                 igt_subtest_f("reset-count-%s", name)
1128                         test_reset_count(false);
1129
1130                 igt_subtest_f("reset-count-ctx-%s", name)
1131                         RUN_CTX_TEST(test_reset_count(true));
1132
1133                 igt_subtest_f("unrelated-ctx-%s", name)
1134                         RUN_CTX_TEST(test_unrelated_ctx());
1135
1136                 igt_subtest_f("close-pending-%s", name) {
1137                         test_close_pending();
1138                         gem_quiescent_gpu(fd);
1139                 }
1140
1141                 igt_subtest_f("close-pending-ctx-%s", name) {
1142                         RUN_CTX_TEST(test_close_pending_ctx());
1143                         gem_quiescent_gpu(fd);
1144                 }
1145
1146                 igt_subtest_f("close-pending-fork-%s", name) {
1147                         test_close_pending_fork(true);
1148                         test_close_pending_fork(false);
1149                 }
1150         }
1151
1152         igt_fixture
1153                 close(fd);
1154 }