gdb/rs6000-aix-tdep.c

   1 /* Native support code for PPC AIX, for GDB the GNU debugger.
   2
   3    Copyright (C) 2006-2012 Free Software Foundation, Inc.
   4
   5    Free Software Foundation, Inc.
   6
   7    This file is part of GDB.
   8
   9    This program is free software; you can redistribute it and/or modify
  10    it under the terms of the GNU General Public License as published by
  11    the Free Software Foundation; either version 3 of the License, or
  12    (at your option) any later version.
  13
  14    This program is distributed in the hope that it will be useful,
  15    but WITHOUT ANY WARRANTY; without even the implied warranty of
  16    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17    GNU General Public License for more details.
  18
  19    You should have received a copy of the GNU General Public License
  20    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
  21
  22 #include "defs.h"
  23 #include "gdb_string.h"
  24 #include "gdb_assert.h"
  25 #include "osabi.h"
  26 #include "regcache.h"
  27 #include "regset.h"
  28 #include "gdbtypes.h"
  29 #include "gdbcore.h"
  30 #include "target.h"
  31 #include "value.h"
  32 #include "infcall.h"
  33 #include "objfiles.h"
  34 #include "breakpoint.h"
  35 #include "rs6000-tdep.h"
  36 #include "ppc-tdep.h"
  37 #include "exceptions.h"
  38
  39 /* Hook for determining the TOC address when calling functions in the
  40    inferior under AIX.  The initialization code in rs6000-nat.c sets
  41    this hook to point to find_toc_address.  */
  42
  43 CORE_ADDR (*rs6000_find_toc_address_hook) (CORE_ADDR) = NULL;
  44
  45 /* If the kernel has to deliver a signal, it pushes a sigcontext
  46    structure on the stack and then calls the signal handler, passing
  47    the address of the sigcontext in an argument register.  Usually
  48    the signal handler doesn't save this register, so we have to
  49    access the sigcontext structure via an offset from the signal handler
  50    frame.
  51    The following constants were determined by experimentation on AIX 3.2.  */
  52 #define SIG_FRAME_PC_OFFSET 96
  53 #define SIG_FRAME_LR_OFFSET 108
  54 #define SIG_FRAME_FP_OFFSET 284
  55
  56
  57 /* Core file support.  */
  58
  59 static struct ppc_reg_offsets rs6000_aix32_reg_offsets =
  60 {
  61   /* General-purpose registers.  */
  62   208, /* r0_offset */
  63   4,  /* gpr_size */
  64   4,  /* xr_size */
  65   24, /* pc_offset */
  66   28, /* ps_offset */
  67   32, /* cr_offset */
  68   36, /* lr_offset */
  69   40, /* ctr_offset */
  70   44, /* xer_offset */
  71   48, /* mq_offset */
  72
  73   /* Floating-point registers.  */
  74   336, /* f0_offset */
  75   56, /* fpscr_offset */
  76   4,  /* fpscr_size */
  77
  78   /* AltiVec registers.  */
  79   -1, /* vr0_offset */
  80   -1, /* vscr_offset */
  81   -1 /* vrsave_offset */
  82 };
  83
  84 static struct ppc_reg_offsets rs6000_aix64_reg_offsets =
  85 {
  86   /* General-purpose registers.  */
  87   0, /* r0_offset */
  88   8,  /* gpr_size */
  89   4,  /* xr_size */
  90   264, /* pc_offset */
  91   256, /* ps_offset */
  92   288, /* cr_offset */
  93   272, /* lr_offset */
  94   280, /* ctr_offset */
  95   292, /* xer_offset */
  96   -1, /* mq_offset */
  97
  98   /* Floating-point registers.  */
  99   312, /* f0_offset */
 100   296, /* fpscr_offset */
 101   4,  /* fpscr_size */
 102
 103   /* AltiVec registers.  */
 104   -1, /* vr0_offset */
 105   -1, /* vscr_offset */
 106   -1 /* vrsave_offset */
 107 };
 108
 109
 110 /* Supply register REGNUM in the general-purpose register set REGSET
 111    from the buffer specified by GREGS and LEN to register cache
 112    REGCACHE.  If REGNUM is -1, do this for all registers in REGSET.  */
 113
 114 static void
 115 rs6000_aix_supply_regset (const struct regset *regset,
 116                           struct regcache *regcache, int regnum,
 117                           const void *gregs, size_t len)
 118 {
 119   ppc_supply_gregset (regset, regcache, regnum, gregs, len);
 120   ppc_supply_fpregset (regset, regcache, regnum, gregs, len);
 121 }
 122
 123 /* Collect register REGNUM in the general-purpose register set
 124    REGSET, from register cache REGCACHE into the buffer specified by
 125    GREGS and LEN.  If REGNUM is -1, do this for all registers in
 126    REGSET.  */
 127
 128 static void
 129 rs6000_aix_collect_regset (const struct regset *regset,
 130                            const struct regcache *regcache, int regnum,
 131                            void *gregs, size_t len)
 132 {
 133   ppc_collect_gregset (regset, regcache, regnum, gregs, len);
 134   ppc_collect_fpregset (regset, regcache, regnum, gregs, len);
 135 }
 136
 137 /* AIX register set.  */
 138
 139 static struct regset rs6000_aix32_regset =
 140 {
 141   &rs6000_aix32_reg_offsets,
 142   rs6000_aix_supply_regset,
 143   rs6000_aix_collect_regset,
 144 };
 145
 146 static struct regset rs6000_aix64_regset =
 147 {
 148   &rs6000_aix64_reg_offsets,
 149   rs6000_aix_supply_regset,
 150   rs6000_aix_collect_regset,
 151 };
 152
 153 /* Return the appropriate register set for the core section identified
 154    by SECT_NAME and SECT_SIZE.  */
 155
 156 static const struct regset *
 157 rs6000_aix_regset_from_core_section (struct gdbarch *gdbarch,
 158                                      const char *sect_name, size_t sect_size)
 159 {
 160   if (gdbarch_tdep (gdbarch)->wordsize == 4)
 161     {
 162       if (strcmp (sect_name, ".reg") == 0 && sect_size >= 592)
 163         return &rs6000_aix32_regset;
 164     }
 165   else
 166     {
 167       if (strcmp (sect_name, ".reg") == 0 && sect_size >= 576)
 168         return &rs6000_aix64_regset;
 169     }
 170
 171   return NULL;
 172 }
 173
 174
 175 /* Pass the arguments in either registers, or in the stack.  In RS/6000,
 176    the first eight words of the argument list (that might be less than
 177    eight parameters if some parameters occupy more than one word) are
 178    passed in r3..r10 registers.  Float and double parameters are
 179    passed in fpr's, in addition to that.  Rest of the parameters if any
 180    are passed in user stack.  There might be cases in which half of the
 181    parameter is copied into registers, the other half is pushed into
 182    stack.
 183
 184    Stack must be aligned on 64-bit boundaries when synthesizing
 185    function calls.
 186
 187    If the function is returning a structure, then the return address is passed
 188    in r3, then the first 7 words of the parameters can be passed in registers,
 189    starting from r4.  */
 190
 191 static CORE_ADDR
 192 rs6000_push_dummy_call (struct gdbarch *gdbarch, struct value *function,
 193                         struct regcache *regcache, CORE_ADDR bp_addr,
 194                         int nargs, struct value **args, CORE_ADDR sp,
 195                         int struct_return, CORE_ADDR struct_addr)
 196 {
 197   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
 198   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
 199   int ii;
 200   int len = 0;
 201   int argno;                    /* current argument number */
 202   int argbytes;                 /* current argument byte */
 203   gdb_byte tmp_buffer[50];
 204   int f_argno = 0;              /* current floating point argno */
 205   int wordsize = gdbarch_tdep (gdbarch)->wordsize;
 206   CORE_ADDR func_addr = find_function_addr (function, NULL);
 207
 208   struct value *arg = 0;
 209   struct type *type;
 210
 211   ULONGEST saved_sp;
 212
 213   /* The calling convention this function implements assumes the
 214      processor has floating-point registers.  We shouldn't be using it
 215      on PPC variants that lack them.  */
 216   gdb_assert (ppc_floating_point_unit_p (gdbarch));
 217
 218   /* The first eight words of ther arguments are passed in registers.
 219      Copy them appropriately.  */
 220   ii = 0;
 221
 222   /* If the function is returning a `struct', then the first word
 223      (which will be passed in r3) is used for struct return address.
 224      In that case we should advance one word and start from r4
 225      register to copy parameters.  */
 226   if (struct_return)
 227     {
 228       regcache_raw_write_unsigned (regcache, tdep->ppc_gp0_regnum + 3,
 229                                    struct_addr);
 230       ii++;
 231     }
 232
 233 /* effectively indirect call... gcc does...
 234
 235    return_val example( float, int);
 236
 237    eabi:
 238    float in fp0, int in r3
 239    offset of stack on overflow 8/16
 240    for varargs, must go by type.
 241    power open:
 242    float in r3&r4, int in r5
 243    offset of stack on overflow different
 244    both:
 245    return in r3 or f0.  If no float, must study how gcc emulates floats;
 246    pay attention to arg promotion.
 247    User may have to cast\args to handle promotion correctly
 248    since gdb won't know if prototype supplied or not.  */
 249
 250   for (argno = 0, argbytes = 0; argno < nargs && ii < 8; ++ii)
 251     {
 252       int reg_size = register_size (gdbarch, ii + 3);
 253
 254       arg = args[argno];
 255       type = check_typedef (value_type (arg));
 256       len = TYPE_LENGTH (type);
 257
 258       if (TYPE_CODE (type) == TYPE_CODE_FLT)
 259         {
 260
 261           /* Floating point arguments are passed in fpr's, as well as gpr's.
 262              There are 13 fpr's reserved for passing parameters.  At this point
 263              there is no way we would run out of them.  */
 264
 265           gdb_assert (len <= 8);
 266
 267           regcache_cooked_write (regcache,
 268                                  tdep->ppc_fp0_regnum + 1 + f_argno,
 269                                  value_contents (arg));
 270           ++f_argno;
 271         }
 272
 273       if (len > reg_size)
 274         {
 275
 276           /* Argument takes more than one register.  */
 277           while (argbytes < len)
 278             {
 279               gdb_byte word[MAX_REGISTER_SIZE];
 280               memset (word, 0, reg_size);
 281               memcpy (word,
 282                       ((char *) value_contents (arg)) + argbytes,
 283                       (len - argbytes) > reg_size
 284                         ? reg_size : len - argbytes);
 285               regcache_cooked_write (regcache,
 286                                     tdep->ppc_gp0_regnum + 3 + ii,
 287                                     word);
 288               ++ii, argbytes += reg_size;
 289
 290               if (ii >= 8)
 291                 goto ran_out_of_registers_for_arguments;
 292             }
 293           argbytes = 0;
 294           --ii;
 295         }
 296       else
 297         {
 298           /* Argument can fit in one register.  No problem.  */
 299           int adj = gdbarch_byte_order (gdbarch)
 300                     == BFD_ENDIAN_BIG ? reg_size - len : 0;
 301           gdb_byte word[MAX_REGISTER_SIZE];
 302
 303           memset (word, 0, reg_size);
 304           memcpy (word, value_contents (arg), len);
 305           regcache_cooked_write (regcache, tdep->ppc_gp0_regnum + 3 +ii, word);
 306         }
 307       ++argno;
 308     }
 309
 310 ran_out_of_registers_for_arguments:
 311
 312   regcache_cooked_read_unsigned (regcache,
 313                                  gdbarch_sp_regnum (gdbarch),
 314                                  &saved_sp);
 315
 316   /* Location for 8 parameters are always reserved.  */
 317   sp -= wordsize * 8;
 318
 319   /* Another six words for back chain, TOC register, link register, etc.  */
 320   sp -= wordsize * 6;
 321
 322   /* Stack pointer must be quadword aligned.  */
 323   sp &= -16;
 324
 325   /* If there are more arguments, allocate space for them in
 326      the stack, then push them starting from the ninth one.  */
 327
 328   if ((argno < nargs) || argbytes)
 329     {
 330       int space = 0, jj;
 331
 332       if (argbytes)
 333         {
 334           space += ((len - argbytes + 3) & -4);
 335           jj = argno + 1;
 336         }
 337       else
 338         jj = argno;
 339
 340       for (; jj < nargs; ++jj)
 341         {
 342           struct value *val = args[jj];
 343           space += ((TYPE_LENGTH (value_type (val))) + 3) & -4;
 344         }
 345
 346       /* Add location required for the rest of the parameters.  */
 347       space = (space + 15) & -16;
 348       sp -= space;
 349
 350       /* This is another instance we need to be concerned about
 351          securing our stack space.  If we write anything underneath %sp
 352          (r1), we might conflict with the kernel who thinks he is free
 353          to use this area.  So, update %sp first before doing anything
 354          else.  */
 355
 356       regcache_raw_write_signed (regcache,
 357                                  gdbarch_sp_regnum (gdbarch), sp);
 358
 359       /* If the last argument copied into the registers didn't fit there
 360          completely, push the rest of it into stack.  */
 361
 362       if (argbytes)
 363         {
 364           write_memory (sp + 24 + (ii * 4),
 365                         value_contents (arg) + argbytes,
 366                         len - argbytes);
 367           ++argno;
 368           ii += ((len - argbytes + 3) & -4) / 4;
 369         }
 370
 371       /* Push the rest of the arguments into stack.  */
 372       for (; argno < nargs; ++argno)
 373         {
 374
 375           arg = args[argno];
 376           type = check_typedef (value_type (arg));
 377           len = TYPE_LENGTH (type);
 378
 379
 380           /* Float types should be passed in fpr's, as well as in the
 381              stack.  */
 382           if (TYPE_CODE (type) == TYPE_CODE_FLT && f_argno < 13)
 383             {
 384
 385               gdb_assert (len <= 8);
 386
 387               regcache_cooked_write (regcache,
 388                                      tdep->ppc_fp0_regnum + 1 + f_argno,
 389                                      value_contents (arg));
 390               ++f_argno;
 391             }
 392
 393           write_memory (sp + 24 + (ii * 4), value_contents (arg), len);
 394           ii += ((len + 3) & -4) / 4;
 395         }
 396     }
 397
 398   /* Set the stack pointer.  According to the ABI, the SP is meant to
 399      be set _before_ the corresponding stack space is used.  On AIX,
 400      this even applies when the target has been completely stopped!
 401      Not doing this can lead to conflicts with the kernel which thinks
 402      that it still has control over this not-yet-allocated stack
 403      region.  */
 404   regcache_raw_write_signed (regcache, gdbarch_sp_regnum (gdbarch), sp);
 405
 406   /* Set back chain properly.  */
 407   store_unsigned_integer (tmp_buffer, wordsize, byte_order, saved_sp);
 408   write_memory (sp, tmp_buffer, wordsize);
 409
 410   /* Point the inferior function call's return address at the dummy's
 411      breakpoint.  */
 412   regcache_raw_write_signed (regcache, tdep->ppc_lr_regnum, bp_addr);
 413
 414   /* Set the TOC register, get the value from the objfile reader
 415      which, in turn, gets it from the VMAP table.  */
 416   if (rs6000_find_toc_address_hook != NULL)
 417     {
 418       CORE_ADDR tocvalue = (*rs6000_find_toc_address_hook) (func_addr);
 419       regcache_raw_write_signed (regcache, tdep->ppc_toc_regnum, tocvalue);
 420     }
 421
 422   target_store_registers (regcache, -1);
 423   return sp;
 424 }
 425
 426 static enum return_value_convention
 427 rs6000_return_value (struct gdbarch *gdbarch, struct value *function,
 428                      struct type *valtype, struct regcache *regcache,
 429                      gdb_byte *readbuf, const gdb_byte *writebuf)
 430 {
 431   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
 432   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
 433
 434   /* The calling convention this function implements assumes the
 435      processor has floating-point registers.  We shouldn't be using it
 436      on PowerPC variants that lack them.  */
 437   gdb_assert (ppc_floating_point_unit_p (gdbarch));
 438
 439   /* AltiVec extension: Functions that declare a vector data type as a
 440      return value place that return value in VR2.  */
 441   if (TYPE_CODE (valtype) == TYPE_CODE_ARRAY && TYPE_VECTOR (valtype)
 442       && TYPE_LENGTH (valtype) == 16)
 443     {
 444       if (readbuf)
 445         regcache_cooked_read (regcache, tdep->ppc_vr0_regnum + 2, readbuf);
 446       if (writebuf)
 447         regcache_cooked_write (regcache, tdep->ppc_vr0_regnum + 2, writebuf);
 448
 449       return RETURN_VALUE_REGISTER_CONVENTION;
 450     }
 451
 452   /* If the called subprogram returns an aggregate, there exists an
 453      implicit first argument, whose value is the address of a caller-
 454      allocated buffer into which the callee is assumed to store its
 455      return value.  All explicit parameters are appropriately
 456      relabeled.  */
 457   if (TYPE_CODE (valtype) == TYPE_CODE_STRUCT
 458       || TYPE_CODE (valtype) == TYPE_CODE_UNION
 459       || TYPE_CODE (valtype) == TYPE_CODE_ARRAY)
 460     return RETURN_VALUE_STRUCT_CONVENTION;
 461
 462   /* Scalar floating-point values are returned in FPR1 for float or
 463      double, and in FPR1:FPR2 for quadword precision.  Fortran
 464      complex*8 and complex*16 are returned in FPR1:FPR2, and
 465      complex*32 is returned in FPR1:FPR4.  */
 466   if (TYPE_CODE (valtype) == TYPE_CODE_FLT
 467       && (TYPE_LENGTH (valtype) == 4 || TYPE_LENGTH (valtype) == 8))
 468     {
 469       struct type *regtype = register_type (gdbarch, tdep->ppc_fp0_regnum);
 470       gdb_byte regval[8];
 471
 472       /* FIXME: kettenis/2007-01-01: Add support for quadword
 473          precision and complex.  */
 474
 475       if (readbuf)
 476         {
 477           regcache_cooked_read (regcache, tdep->ppc_fp0_regnum + 1, regval);
 478           convert_typed_floating (regval, regtype, readbuf, valtype);
 479         }
 480       if (writebuf)
 481         {
 482           convert_typed_floating (writebuf, valtype, regval, regtype);
 483           regcache_cooked_write (regcache, tdep->ppc_fp0_regnum + 1, regval);
 484         }
 485
 486       return RETURN_VALUE_REGISTER_CONVENTION;
 487   }
 488
 489   /* Values of the types int, long, short, pointer, and char (length
 490      is less than or equal to four bytes), as well as bit values of
 491      lengths less than or equal to 32 bits, must be returned right
 492      justified in GPR3 with signed values sign extended and unsigned
 493      values zero extended, as necessary.  */
 494   if (TYPE_LENGTH (valtype) <= tdep->wordsize)
 495     {
 496       if (readbuf)
 497         {
 498           ULONGEST regval;
 499
 500           /* For reading we don't have to worry about sign extension.  */
 501           regcache_cooked_read_unsigned (regcache, tdep->ppc_gp0_regnum + 3,
 502                                          &regval);
 503           store_unsigned_integer (readbuf, TYPE_LENGTH (valtype), byte_order,
 504                                   regval);
 505         }
 506       if (writebuf)
 507         {
 508           /* For writing, use unpack_long since that should handle any
 509              required sign extension.  */
 510           regcache_cooked_write_unsigned (regcache, tdep->ppc_gp0_regnum + 3,
 511                                           unpack_long (valtype, writebuf));
 512         }
 513
 514       return RETURN_VALUE_REGISTER_CONVENTION;
 515     }
 516
 517   /* Eight-byte non-floating-point scalar values must be returned in
 518      GPR3:GPR4.  */
 519
 520   if (TYPE_LENGTH (valtype) == 8)
 521     {
 522       gdb_assert (TYPE_CODE (valtype) != TYPE_CODE_FLT);
 523       gdb_assert (tdep->wordsize == 4);
 524
 525       if (readbuf)
 526         {
 527           gdb_byte regval[8];
 528
 529           regcache_cooked_read (regcache, tdep->ppc_gp0_regnum + 3, regval);
 530           regcache_cooked_read (regcache, tdep->ppc_gp0_regnum + 4,
 531                                 regval + 4);
 532           memcpy (readbuf, regval, 8);
 533         }
 534       if (writebuf)
 535         {
 536           regcache_cooked_write (regcache, tdep->ppc_gp0_regnum + 3, writebuf);
 537           regcache_cooked_write (regcache, tdep->ppc_gp0_regnum + 4,
 538                                  writebuf + 4);
 539         }
 540
 541       return RETURN_VALUE_REGISTER_CONVENTION;
 542     }
 543
 544   return RETURN_VALUE_STRUCT_CONVENTION;
 545 }
 546
 547 /* Support for CONVERT_FROM_FUNC_PTR_ADDR (ARCH, ADDR, TARG).
 548
 549    Usually a function pointer's representation is simply the address
 550    of the function.  On the RS/6000 however, a function pointer is
 551    represented by a pointer to an OPD entry.  This OPD entry contains
 552    three words, the first word is the address of the function, the
 553    second word is the TOC pointer (r2), and the third word is the
 554    static chain value.  Throughout GDB it is currently assumed that a
 555    function pointer contains the address of the function, which is not
 556    easy to fix.  In addition, the conversion of a function address to
 557    a function pointer would require allocation of an OPD entry in the
 558    inferior's memory space, with all its drawbacks.  To be able to
 559    call C++ virtual methods in the inferior (which are called via
 560    function pointers), find_function_addr uses this function to get the
 561    function address from a function pointer.  */
 562
 563 /* Return real function address if ADDR (a function pointer) is in the data
 564    space and is therefore a special function pointer.  */
 565
 566 static CORE_ADDR
 567 rs6000_convert_from_func_ptr_addr (struct gdbarch *gdbarch,
 568                                    CORE_ADDR addr,
 569                                    struct target_ops *targ)
 570 {
 571   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
 572   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
 573   struct obj_section *s;
 574
 575   s = find_pc_section (addr);
 576
 577   /* Normally, functions live inside a section that is executable.
 578      So, if ADDR points to a non-executable section, then treat it
 579      as a function descriptor and return the target address iff
 580      the target address itself points to a section that is executable.  */
 581   if (s && (s->the_bfd_section->flags & SEC_CODE) == 0)
 582     {
 583       CORE_ADDR pc = 0;
 584       struct obj_section *pc_section;
 585       volatile struct gdb_exception e;
 586
 587       TRY_CATCH (e, RETURN_MASK_ERROR)
 588         {
 589           pc = read_memory_unsigned_integer (addr, tdep->wordsize, byte_order);
 590         }
 591       if (e.reason < 0)
 592         {
 593           /* An error occured during reading.  Probably a memory error
 594              due to the section not being loaded yet.  This address
 595              cannot be a function descriptor.  */
 596           return addr;
 597         }
 598       pc_section = find_pc_section (pc);
 599
 600       if (pc_section && (pc_section->the_bfd_section->flags & SEC_CODE))
 601         return pc;
 602     }
 603
 604   return addr;
 605 }
 606
 607
 608 /* Calculate the destination of a branch/jump.  Return -1 if not a branch.  */
 609
 610 static CORE_ADDR
 611 branch_dest (struct frame_info *frame, int opcode, int instr,
 612              CORE_ADDR pc, CORE_ADDR safety)
 613 {
 614   struct gdbarch *gdbarch = get_frame_arch (frame);
 615   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
 616   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
 617   CORE_ADDR dest;
 618   int immediate;
 619   int absolute;
 620   int ext_op;
 621
 622   absolute = (int) ((instr >> 1) & 1);
 623
 624   switch (opcode)
 625     {
 626     case 18:
 627       immediate = ((instr & ~3) << 6) >> 6;     /* br unconditional */
 628       if (absolute)
 629         dest = immediate;
 630       else
 631         dest = pc + immediate;
 632       break;
 633
 634     case 16:
 635       immediate = ((instr & ~3) << 16) >> 16;   /* br conditional */
 636       if (absolute)
 637         dest = immediate;
 638       else
 639         dest = pc + immediate;
 640       break;
 641
 642     case 19:
 643       ext_op = (instr >> 1) & 0x3ff;
 644
 645       if (ext_op == 16)         /* br conditional register */
 646         {
 647           dest = get_frame_register_unsigned (frame, tdep->ppc_lr_regnum) & ~3;
 648
 649           /* If we are about to return from a signal handler, dest is
 650              something like 0x3c90.  The current frame is a signal handler
 651              caller frame, upon completion of the sigreturn system call
 652              execution will return to the saved PC in the frame.  */
 653           if (dest < AIX_TEXT_SEGMENT_BASE)
 654             dest = read_memory_unsigned_integer
 655                      (get_frame_base (frame) + SIG_FRAME_PC_OFFSET,
 656                       tdep->wordsize, byte_order);
 657         }
 658
 659       else if (ext_op == 528)   /* br cond to count reg */
 660         {
 661           dest = get_frame_register_unsigned (frame,
 662                                               tdep->ppc_ctr_regnum) & ~3;
 663
 664           /* If we are about to execute a system call, dest is something
 665              like 0x22fc or 0x3b00.  Upon completion the system call
 666              will return to the address in the link register.  */
 667           if (dest < AIX_TEXT_SEGMENT_BASE)
 668             dest = get_frame_register_unsigned (frame,
 669                                                 tdep->ppc_lr_regnum) & ~3;
 670         }
 671       else
 672         return -1;
 673       break;
 674
 675     default:
 676       return -1;
 677     }
 678   return (dest < AIX_TEXT_SEGMENT_BASE) ? safety : dest;
 679 }
 680
 681 /* AIX does not support PT_STEP.  Simulate it.  */
 682
 683 static int
 684 rs6000_software_single_step (struct frame_info *frame)
 685 {
 686   struct gdbarch *gdbarch = get_frame_arch (frame);
 687   struct address_space *aspace = get_frame_address_space (frame);
 688   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
 689   int ii, insn;
 690   CORE_ADDR loc;
 691   CORE_ADDR breaks[2];
 692   int opcode;
 693
 694   loc = get_frame_pc (frame);
 695
 696   insn = read_memory_integer (loc, 4, byte_order);
 697
 698   if (ppc_deal_with_atomic_sequence (frame))
 699     return 1;
 700
 701   breaks[0] = loc + PPC_INSN_SIZE;
 702   opcode = insn >> 26;
 703   breaks[1] = branch_dest (frame, opcode, insn, loc, breaks[0]);
 704
 705   /* Don't put two breakpoints on the same address.  */
 706   if (breaks[1] == breaks[0])
 707     breaks[1] = -1;
 708
 709   for (ii = 0; ii < 2; ++ii)
 710     {
 711       /* ignore invalid breakpoint.  */
 712       if (breaks[ii] == -1)
 713         continue;
 714       insert_single_step_breakpoint (gdbarch, aspace, breaks[ii]);
 715     }
 716
 717   errno = 0;                    /* FIXME, don't ignore errors!  */
 718   /* What errors?  {read,write}_memory call error().  */
 719   return 1;
 720 }
 721
 722 /* Implement an osabi sniffer for RS6000/AIX.
 723
 724    This function assumes that ABFD's flavour is XCOFF.  In other words,
 725    it should be registered as a sniffer for bfd_target_xcoff_flavour
 726    objfiles only.  A failed assertion will be raised if this condition
 727    is not met.  */
 728
 729 static enum gdb_osabi
 730 rs6000_aix_osabi_sniffer (bfd *abfd)
 731 {
 732   gdb_assert (bfd_get_flavour (abfd) == bfd_target_xcoff_flavour);
 733
 734   return GDB_OSABI_AIX;
 735 }
 736
 737 static void
 738 rs6000_aix_init_osabi (struct gdbarch_info info, struct gdbarch *gdbarch)
 739 {
 740   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
 741
 742   /* RS6000/AIX does not support PT_STEP.  Has to be simulated.  */
 743   set_gdbarch_software_single_step (gdbarch, rs6000_software_single_step);
 744
 745   /* Displaced stepping is currently not supported in combination with
 746      software single-stepping.  */
 747   set_gdbarch_displaced_step_copy_insn (gdbarch, NULL);
 748   set_gdbarch_displaced_step_fixup (gdbarch, NULL);
 749   set_gdbarch_displaced_step_free_closure (gdbarch, NULL);
 750   set_gdbarch_displaced_step_location (gdbarch, NULL);
 751
 752   set_gdbarch_push_dummy_call (gdbarch, rs6000_push_dummy_call);
 753   set_gdbarch_return_value (gdbarch, rs6000_return_value);
 754   set_gdbarch_long_double_bit (gdbarch, 8 * TARGET_CHAR_BIT);
 755
 756   /* Handle RS/6000 function pointers (which are really function
 757      descriptors).  */
 758   set_gdbarch_convert_from_func_ptr_addr
 759     (gdbarch, rs6000_convert_from_func_ptr_addr);
 760
 761   /* Core file support.  */
 762   set_gdbarch_regset_from_core_section
 763     (gdbarch, rs6000_aix_regset_from_core_section);
 764
 765   if (tdep->wordsize == 8)
 766     tdep->lr_frame_offset = 16;
 767   else
 768     tdep->lr_frame_offset = 8;
 769
 770   if (tdep->wordsize == 4)
 771     /* PowerOpen / AIX 32 bit.  The saved area or red zone consists of
 772        19 4 byte GPRS + 18 8 byte FPRs giving a total of 220 bytes.
 773        Problem is, 220 isn't frame (16 byte) aligned.  Round it up to
 774        224.  */
 775     set_gdbarch_frame_red_zone_size (gdbarch, 224);
 776   else
 777     set_gdbarch_frame_red_zone_size (gdbarch, 0);
 778 }
 779
 780 /* Provide a prototype to silence -Wmissing-prototypes.  */
 781 extern initialize_file_ftype _initialize_rs6000_aix_tdep;
 782
 783 void
 784 _initialize_rs6000_aix_tdep (void)
 785 {
 786   gdbarch_register_osabi_sniffer (bfd_arch_rs6000,
 787                                   bfd_target_xcoff_flavour,
 788                                   rs6000_aix_osabi_sniffer);
 789   gdbarch_register_osabi_sniffer (bfd_arch_powerpc,
 790                                   bfd_target_xcoff_flavour,
 791                                   rs6000_aix_osabi_sniffer);
 792
 793   gdbarch_register_osabi (bfd_arch_rs6000, 0, GDB_OSABI_AIX,
 794                           rs6000_aix_init_osabi);
 795   gdbarch_register_osabi (bfd_arch_powerpc, 0, GDB_OSABI_AIX,
 796                           rs6000_aix_init_osabi);
 797 }
 798