src/mips64/assembler-mips64.h

   1 // Copyright (c) 1994-2006 Sun Microsystems Inc.
   2 // All Rights Reserved.
   3 //
   4 // Redistribution and use in source and binary forms, with or without
   5 // modification, are permitted provided that the following conditions are
   6 // met:
   7 //
   8 // - Redistributions of source code must retain the above copyright notice,
   9 // this list of conditions and the following disclaimer.
  10 //
  11 // - Redistribution in binary form must reproduce the above copyright
  12 // notice, this list of conditions and the following disclaimer in the
  13 // documentation and/or other materials provided with the distribution.
  14 //
  15 // - Neither the name of Sun Microsystems or the names of contributors may
  16 // be used to endorse or promote products derived from this software without
  17 // specific prior written permission.
  18 //
  19 // THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS
  20 // IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO,
  21 // THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  22 // PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR
  23 // CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
  24 // EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  25 // PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
  26 // PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
  27 // LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
  28 // NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
  29 // SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  30
  31 // The original source code covered by the above license above has been
  32 // modified significantly by Google Inc.
  33 // Copyright 2012 the V8 project authors. All rights reserved.
  34
  35
  36 #ifndef V8_MIPS_ASSEMBLER_MIPS_H_
  37 #define V8_MIPS_ASSEMBLER_MIPS_H_
  38
  39 #include <stdio.h>
  40
  41 #include <set>
  42
  43 #include "src/assembler.h"
  44 #include "src/compiler.h"
  45 #include "src/mips64/constants-mips64.h"
  46
  47 namespace v8 {
  48 namespace internal {
  49
  50 // CPU Registers.
  51 //
  52 // 1) We would prefer to use an enum, but enum values are assignment-
  53 // compatible with int, which has caused code-generation bugs.
  54 //
  55 // 2) We would prefer to use a class instead of a struct but we don't like
  56 // the register initialization to depend on the particular initialization
  57 // order (which appears to be different on OS X, Linux, and Windows for the
  58 // installed versions of C++ we tried). Using a struct permits C-style
  59 // "initialization". Also, the Register objects cannot be const as this
  60 // forces initialization stubs in MSVC, making us dependent on initialization
  61 // order.
  62 //
  63 // 3) By not using an enum, we are possibly preventing the compiler from
  64 // doing certain constant folds, which may significantly reduce the
  65 // code generated for some assembly instructions (because they boil down
  66 // to a few constants). If this is a problem, we could change the code
  67 // such that we use an enum in optimized mode, and the struct in debug
  68 // mode. This way we get the compile-time error checking in debug mode
  69 // and best performance in optimized code.
  70
  71
  72 // -----------------------------------------------------------------------------
  73 // Implementation of Register and FPURegister.
  74
  75 // Core register.
  76 struct Register {
  77   static const int kNumRegisters = v8::internal::kNumRegisters;
  78   static const int kMaxNumAllocatableRegisters = 14;  // v0 through t2 and cp.
  79   static const int kSizeInBytes = 8;
  80   static const int kCpRegister = 23;  // cp (s7) is the 23rd register.
  81
  82   inline static int NumAllocatableRegisters();
  83
  84   static int ToAllocationIndex(Register reg) {
  85     DCHECK((reg.code() - 2) < (kMaxNumAllocatableRegisters - 1) ||
  86            reg.is(from_code(kCpRegister)));
  87     return reg.is(from_code(kCpRegister)) ?
  88            kMaxNumAllocatableRegisters - 1 :  // Return last index for 'cp'.
  89            reg.code() - 2;  // zero_reg and 'at' are skipped.
  90   }
  91
  92   static Register FromAllocationIndex(int index) {
  93     DCHECK(index >= 0 && index < kMaxNumAllocatableRegisters);
  94     return index == kMaxNumAllocatableRegisters - 1 ?
  95            from_code(kCpRegister) :  // Last index is always the 'cp' register.
  96            from_code(index + 2);  // zero_reg and 'at' are skipped.
  97   }
  98
  99   static const char* AllocationIndexToString(int index) {
 100     DCHECK(index >= 0 && index < kMaxNumAllocatableRegisters);
 101     const char* const names[] = {
 102       "v0",
 103       "v1",
 104       "a0",
 105       "a1",
 106       "a2",
 107       "a3",
 108       "a4",
 109       "a5",
 110       "a6",
 111       "a7",
 112       "t0",
 113       "t1",
 114       "t2",
 115       "s7",
 116     };
 117     return names[index];
 118   }
 119
 120   static Register from_code(int code) {
 121     Register r = { code };
 122     return r;
 123   }
 124
 125   bool is_valid() const { return 0 <= code_ && code_ < kNumRegisters; }
 126   bool is(Register reg) const { return code_ == reg.code_; }
 127   int code() const {
 128     DCHECK(is_valid());
 129     return code_;
 130   }
 131   int bit() const {
 132     DCHECK(is_valid());
 133     return 1 << code_;
 134   }
 135
 136   // Unfortunately we can't make this private in a struct.
 137   int code_;
 138 };
 139
 140 #define REGISTER(N, C) \
 141   const int kRegister_ ## N ## _Code = C; \
 142   const Register N = { C }
 143
 144 REGISTER(no_reg, -1);
 145 // Always zero.
 146 REGISTER(zero_reg, 0);
 147 // at: Reserved for synthetic instructions.
 148 REGISTER(at, 1);
 149 // v0, v1: Used when returning multiple values from subroutines.
 150 REGISTER(v0, 2);
 151 REGISTER(v1, 3);
 152 // a0 - a4: Used to pass non-FP parameters.
 153 REGISTER(a0, 4);
 154 REGISTER(a1, 5);
 155 REGISTER(a2, 6);
 156 REGISTER(a3, 7);
 157 // a4 - a7 t0 - t3: Can be used without reservation, act as temporary registers
 158 // and are allowed to be destroyed by subroutines.
 159 REGISTER(a4, 8);
 160 REGISTER(a5, 9);
 161 REGISTER(a6, 10);
 162 REGISTER(a7, 11);
 163 REGISTER(t0, 12);
 164 REGISTER(t1, 13);
 165 REGISTER(t2, 14);
 166 REGISTER(t3, 15);
 167 // s0 - s7: Subroutine register variables. Subroutines that write to these
 168 // registers must restore their values before exiting so that the caller can
 169 // expect the values to be preserved.
 170 REGISTER(s0, 16);
 171 REGISTER(s1, 17);
 172 REGISTER(s2, 18);
 173 REGISTER(s3, 19);
 174 REGISTER(s4, 20);
 175 REGISTER(s5, 21);
 176 REGISTER(s6, 22);
 177 REGISTER(s7, 23);
 178 REGISTER(t8, 24);
 179 REGISTER(t9, 25);
 180 // k0, k1: Reserved for system calls and interrupt handlers.
 181 REGISTER(k0, 26);
 182 REGISTER(k1, 27);
 183 // gp: Reserved.
 184 REGISTER(gp, 28);
 185 // sp: Stack pointer.
 186 REGISTER(sp, 29);
 187 // fp: Frame pointer.
 188 REGISTER(fp, 30);
 189 // ra: Return address pointer.
 190 REGISTER(ra, 31);
 191
 192 #undef REGISTER
 193
 194
 195 int ToNumber(Register reg);
 196
 197 Register ToRegister(int num);
 198
 199 // Coprocessor register.
 200 struct FPURegister {
 201   static const int kMaxNumRegisters = v8::internal::kNumFPURegisters;
 202
 203   // TODO(plind): Warning, inconsistent numbering here. kNumFPURegisters refers
 204   // to number of 32-bit FPU regs, but kNumAllocatableRegisters refers to
 205   // number of Double regs (64-bit regs, or FPU-reg-pairs).
 206
 207   // A few double registers are reserved: one as a scratch register and one to
 208   // hold 0.0.
 209   //  f28: 0.0
 210   //  f30: scratch register.
 211   static const int kNumReservedRegisters = 2;
 212   static const int kMaxNumAllocatableRegisters = kMaxNumRegisters / 2 -
 213       kNumReservedRegisters;
 214
 215   inline static int NumRegisters();
 216   inline static int NumAllocatableRegisters();
 217
 218   // TODO(turbofan): Proper support for float32.
 219   inline static int NumAllocatableAliasedRegisters();
 220
 221   inline static int ToAllocationIndex(FPURegister reg);
 222   static const char* AllocationIndexToString(int index);
 223
 224   static FPURegister FromAllocationIndex(int index) {
 225     DCHECK(index >= 0 && index < kMaxNumAllocatableRegisters);
 226     return from_code(index * 2);
 227   }
 228
 229   static FPURegister from_code(int code) {
 230     FPURegister r = { code };
 231     return r;
 232   }
 233
 234   bool is_valid() const { return 0 <= code_ && code_ < kMaxNumRegisters ; }
 235   bool is(FPURegister creg) const { return code_ == creg.code_; }
 236   FPURegister low() const {
 237     // TODO(plind): Create DCHECK for FR=0 mode. This usage suspect for FR=1.
 238     // Find low reg of a Double-reg pair, which is the reg itself.
 239     DCHECK(code_ % 2 == 0);  // Specified Double reg must be even.
 240     FPURegister reg;
 241     reg.code_ = code_;
 242     DCHECK(reg.is_valid());
 243     return reg;
 244   }
 245   FPURegister high() const {
 246     // TODO(plind): Create DCHECK for FR=0 mode. This usage illegal in FR=1.
 247     // Find high reg of a Doubel-reg pair, which is reg + 1.
 248     DCHECK(code_ % 2 == 0);  // Specified Double reg must be even.
 249     FPURegister reg;
 250     reg.code_ = code_ + 1;
 251     DCHECK(reg.is_valid());
 252     return reg;
 253   }
 254
 255   int code() const {
 256     DCHECK(is_valid());
 257     return code_;
 258   }
 259   int bit() const {
 260     DCHECK(is_valid());
 261     return 1 << code_;
 262   }
 263   void setcode(int f) {
 264     code_ = f;
 265     DCHECK(is_valid());
 266   }
 267   // Unfortunately we can't make this private in a struct.
 268   int code_;
 269 };
 270
 271 // V8 now supports the O32 ABI, and the FPU Registers are organized as 32
 272 // 32-bit registers, f0 through f31. When used as 'double' they are used
 273 // in pairs, starting with the even numbered register. So a double operation
 274 // on f0 really uses f0 and f1.
 275 // (Modern mips hardware also supports 32 64-bit registers, via setting
 276 // (privileged) Status Register FR bit to 1. This is used by the N32 ABI,
 277 // but it is not in common use. Someday we will want to support this in v8.)
 278
 279 // For O32 ABI, Floats and Doubles refer to same set of 32 32-bit registers.
 280 typedef FPURegister DoubleRegister;
 281 typedef FPURegister FloatRegister;
 282
 283 const FPURegister no_freg = { -1 };
 284
 285 const FPURegister f0 = { 0 };  // Return value in hard float mode.
 286 const FPURegister f1 = { 1 };
 287 const FPURegister f2 = { 2 };
 288 const FPURegister f3 = { 3 };
 289 const FPURegister f4 = { 4 };
 290 const FPURegister f5 = { 5 };
 291 const FPURegister f6 = { 6 };
 292 const FPURegister f7 = { 7 };
 293 const FPURegister f8 = { 8 };
 294 const FPURegister f9 = { 9 };
 295 const FPURegister f10 = { 10 };
 296 const FPURegister f11 = { 11 };
 297 const FPURegister f12 = { 12 };  // Arg 0 in hard float mode.
 298 const FPURegister f13 = { 13 };
 299 const FPURegister f14 = { 14 };  // Arg 1 in hard float mode.
 300 const FPURegister f15 = { 15 };
 301 const FPURegister f16 = { 16 };
 302 const FPURegister f17 = { 17 };
 303 const FPURegister f18 = { 18 };
 304 const FPURegister f19 = { 19 };
 305 const FPURegister f20 = { 20 };
 306 const FPURegister f21 = { 21 };
 307 const FPURegister f22 = { 22 };
 308 const FPURegister f23 = { 23 };
 309 const FPURegister f24 = { 24 };
 310 const FPURegister f25 = { 25 };
 311 const FPURegister f26 = { 26 };
 312 const FPURegister f27 = { 27 };
 313 const FPURegister f28 = { 28 };
 314 const FPURegister f29 = { 29 };
 315 const FPURegister f30 = { 30 };
 316 const FPURegister f31 = { 31 };
 317
 318 // Register aliases.
 319 // cp is assumed to be a callee saved register.
 320 // Defined using #define instead of "static const Register&" because Clang
 321 // complains otherwise when a compilation unit that includes this header
 322 // doesn't use the variables.
 323 #define kRootRegister s6
 324 #define cp s7
 325 #define kLithiumScratchReg s3
 326 #define kLithiumScratchReg2 s4
 327 #define kLithiumScratchDouble f30
 328 #define kDoubleRegZero f28
 329 // Used on mips64r6 for compare operations.
 330 #define kDoubleCompareReg f31
 331
 332 // FPU (coprocessor 1) control registers.
 333 // Currently only FCSR (#31) is implemented.
 334 struct FPUControlRegister {
 335   bool is_valid() const { return code_ == kFCSRRegister; }
 336   bool is(FPUControlRegister creg) const { return code_ == creg.code_; }
 337   int code() const {
 338     DCHECK(is_valid());
 339     return code_;
 340   }
 341   int bit() const {
 342     DCHECK(is_valid());
 343     return 1 << code_;
 344   }
 345   void setcode(int f) {
 346     code_ = f;
 347     DCHECK(is_valid());
 348   }
 349   // Unfortunately we can't make this private in a struct.
 350   int code_;
 351 };
 352
 353 const FPUControlRegister no_fpucreg = { kInvalidFPUControlRegister };
 354 const FPUControlRegister FCSR = { kFCSRRegister };
 355
 356
 357 // -----------------------------------------------------------------------------
 358 // Machine instruction Operands.
 359 const int kSmiShift = kSmiTagSize + kSmiShiftSize;
 360 const uint64_t kSmiShiftMask = (1UL << kSmiShift) - 1;
 361 // Class Operand represents a shifter operand in data processing instructions.
 362 class Operand BASE_EMBEDDED {
 363  public:
 364   // Immediate.
 365   INLINE(explicit Operand(int64_t immediate,
 366          RelocInfo::Mode rmode = RelocInfo::NONE64));
 367   INLINE(explicit Operand(const ExternalReference& f));
 368   INLINE(explicit Operand(const char* s));
 369   INLINE(explicit Operand(Object** opp));
 370   INLINE(explicit Operand(Context** cpp));
 371   explicit Operand(Handle<Object> handle);
 372   INLINE(explicit Operand(Smi* value));
 373
 374   // Register.
 375   INLINE(explicit Operand(Register rm));
 376
 377   // Return true if this is a register operand.
 378   INLINE(bool is_reg() const);
 379
 380   inline int64_t immediate() const {
 381     DCHECK(!is_reg());
 382     return imm64_;
 383   }
 384
 385   Register rm() const { return rm_; }
 386
 387  private:
 388   Register rm_;
 389   int64_t imm64_;  // Valid if rm_ == no_reg.
 390   RelocInfo::Mode rmode_;
 391
 392   friend class Assembler;
 393   friend class MacroAssembler;
 394 };
 395
 396
 397 // On MIPS we have only one adressing mode with base_reg + offset.
 398 // Class MemOperand represents a memory operand in load and store instructions.
 399 class MemOperand : public Operand {
 400  public:
 401   // Immediate value attached to offset.
 402   enum OffsetAddend {
 403     offset_minus_one = -1,
 404     offset_zero = 0
 405   };
 406
 407   explicit MemOperand(Register rn, int32_t offset = 0);
 408   explicit MemOperand(Register rn, int32_t unit, int32_t multiplier,
 409                       OffsetAddend offset_addend = offset_zero);
 410   int32_t offset() const { return offset_; }
 411
 412   bool OffsetIsInt16Encodable() const {
 413     return is_int16(offset_);
 414   }
 415
 416  private:
 417   int32_t offset_;
 418
 419   friend class Assembler;
 420 };
 421
 422
 423 class Assembler : public AssemblerBase {
 424  public:
 425   // Create an assembler. Instructions and relocation information are emitted
 426   // into a buffer, with the instructions starting from the beginning and the
 427   // relocation information starting from the end of the buffer. See CodeDesc
 428   // for a detailed comment on the layout (globals.h).
 429   //
 430   // If the provided buffer is NULL, the assembler allocates and grows its own
 431   // buffer, and buffer_size determines the initial buffer size. The buffer is
 432   // owned by the assembler and deallocated upon destruction of the assembler.
 433   //
 434   // If the provided buffer is not NULL, the assembler uses the provided buffer
 435   // for code generation and assumes its size to be buffer_size. If the buffer
 436   // is too small, a fatal error occurs. No deallocation of the buffer is done
 437   // upon destruction of the assembler.
 438   Assembler(Isolate* isolate, void* buffer, int buffer_size);
 439   virtual ~Assembler() { }
 440
 441   // GetCode emits any pending (non-emitted) code and fills the descriptor
 442   // desc. GetCode() is idempotent; it returns the same result if no other
 443   // Assembler functions are invoked in between GetCode() calls.
 444   void GetCode(CodeDesc* desc);
 445
 446   // Label operations & relative jumps (PPUM Appendix D).
 447   //
 448   // Takes a branch opcode (cc) and a label (L) and generates
 449   // either a backward branch or a forward branch and links it
 450   // to the label fixup chain. Usage:
 451   //
 452   // Label L;    // unbound label
 453   // j(cc, &L);  // forward branch to unbound label
 454   // bind(&L);   // bind label to the current pc
 455   // j(cc, &L);  // backward branch to bound label
 456   // bind(&L);   // illegal: a label may be bound only once
 457   //
 458   // Note: The same Label can be used for forward and backward branches
 459   // but it may be bound only once.
 460   void bind(Label* L);  // Binds an unbound label L to current code position.
 461   // Determines if Label is bound and near enough so that branch instruction
 462   // can be used to reach it, instead of jump instruction.
 463   bool is_near(Label* L);
 464
 465   // Returns the branch offset to the given label from the current code
 466   // position. Links the label to the current position if it is still unbound.
 467   // Manages the jump elimination optimization if the second parameter is true.
 468   int32_t branch_offset(Label* L, bool jump_elimination_allowed);
 469   int32_t branch_offset_compact(Label* L, bool jump_elimination_allowed);
 470   int32_t branch_offset21(Label* L, bool jump_elimination_allowed);
 471   int32_t branch_offset21_compact(Label* L, bool jump_elimination_allowed);
 472   int32_t shifted_branch_offset(Label* L, bool jump_elimination_allowed) {
 473     int32_t o = branch_offset(L, jump_elimination_allowed);
 474     DCHECK((o & 3) == 0);   // Assert the offset is aligned.
 475     return o >> 2;
 476   }
 477   int32_t shifted_branch_offset_compact(Label* L,
 478       bool jump_elimination_allowed) {
 479     int32_t o = branch_offset_compact(L, jump_elimination_allowed);
 480     DCHECK((o & 3) == 0);   // Assert the offset is aligned.
 481     return o >> 2;
 482   }
 483   uint64_t jump_address(Label* L);
 484   uint64_t jump_offset(Label* L);
 485
 486   // Puts a labels target address at the given position.
 487   // The high 8 bits are set to zero.
 488   void label_at_put(Label* L, int at_offset);
 489
 490   // Read/Modify the code target address in the branch/call instruction at pc.
 491   static Address target_address_at(Address pc);
 492   static void set_target_address_at(Address pc,
 493                                     Address target,
 494                                     ICacheFlushMode icache_flush_mode =
 495                                         FLUSH_ICACHE_IF_NEEDED);
 496   // On MIPS there is no Constant Pool so we skip that parameter.
 497   INLINE(static Address target_address_at(Address pc, Address constant_pool)) {
 498     return target_address_at(pc);
 499   }
 500   INLINE(static void set_target_address_at(
 501       Address pc, Address constant_pool, Address target,
 502       ICacheFlushMode icache_flush_mode = FLUSH_ICACHE_IF_NEEDED)) {
 503     set_target_address_at(pc, target, icache_flush_mode);
 504   }
 505   INLINE(static Address target_address_at(Address pc, Code* code)) {
 506     Address constant_pool = code ? code->constant_pool() : NULL;
 507     return target_address_at(pc, constant_pool);
 508   }
 509   INLINE(static void set_target_address_at(Address pc,
 510                                            Code* code,
 511                                            Address target,
 512                                            ICacheFlushMode icache_flush_mode =
 513                                                FLUSH_ICACHE_IF_NEEDED)) {
 514     Address constant_pool = code ? code->constant_pool() : NULL;
 515     set_target_address_at(pc, constant_pool, target, icache_flush_mode);
 516   }
 517
 518   // Return the code target address at a call site from the return address
 519   // of that call in the instruction stream.
 520   inline static Address target_address_from_return_address(Address pc);
 521
 522   static void JumpLabelToJumpRegister(Address pc);
 523
 524   static void QuietNaN(HeapObject* nan);
 525
 526   // This sets the branch destination (which gets loaded at the call address).
 527   // This is for calls and branches within generated code.  The serializer
 528   // has already deserialized the lui/ori instructions etc.
 529   inline static void deserialization_set_special_target_at(
 530       Address instruction_payload, Code* code, Address target) {
 531     set_target_address_at(
 532         instruction_payload - kInstructionsFor64BitConstant * kInstrSize,
 533         code,
 534         target);
 535   }
 536
 537   // This sets the internal reference at the pc.
 538   inline static void deserialization_set_target_internal_reference_at(
 539       Address pc, Address target,
 540       RelocInfo::Mode mode = RelocInfo::INTERNAL_REFERENCE);
 541
 542   // Size of an instruction.
 543   static const int kInstrSize = sizeof(Instr);
 544
 545   // Difference between address of current opcode and target address offset.
 546   static const int kBranchPCOffset = 4;
 547
 548   // Here we are patching the address in the LUI/ORI instruction pair.
 549   // These values are used in the serialization process and must be zero for
 550   // MIPS platform, as Code, Embedded Object or External-reference pointers
 551   // are split across two consecutive instructions and don't exist separately
 552   // in the code, so the serializer should not step forwards in memory after
 553   // a target is resolved and written.
 554   static const int kSpecialTargetSize = 0;
 555
 556   // Number of consecutive instructions used to store 32bit/64bit constant.
 557   // This constant was used in RelocInfo::target_address_address() function
 558   // to tell serializer address of the instruction that follows
 559   // LUI/ORI instruction pair.
 560   static const int kInstructionsFor32BitConstant = 2;
 561   static const int kInstructionsFor64BitConstant = 4;
 562
 563   // Distance between the instruction referring to the address of the call
 564   // target and the return address.
 565   static const int kCallTargetAddressOffset = 6 * kInstrSize;
 566
 567   // Distance between start of patched debug break slot and the emitted address
 568   // to jump to.
 569   static const int kPatchDebugBreakSlotAddressOffset = 6 * kInstrSize;
 570
 571   // Difference between address of current opcode and value read from pc
 572   // register.
 573   static const int kPcLoadDelta = 4;
 574
 575   static const int kDebugBreakSlotInstructions = 6;
 576   static const int kDebugBreakSlotLength =
 577       kDebugBreakSlotInstructions * kInstrSize;
 578
 579
 580   // ---------------------------------------------------------------------------
 581   // Code generation.
 582
 583   // Insert the smallest number of nop instructions
 584   // possible to align the pc offset to a multiple
 585   // of m. m must be a power of 2 (>= 4).
 586   void Align(int m);
 587   // Insert the smallest number of zero bytes possible to align the pc offset
 588   // to a mulitple of m. m must be a power of 2 (>= 2).
 589   void DataAlign(int m);
 590   // Aligns code to something that's optimal for a jump target for the platform.
 591   void CodeTargetAlign();
 592
 593   // Different nop operations are used by the code generator to detect certain
 594   // states of the generated code.
 595   enum NopMarkerTypes {
 596     NON_MARKING_NOP = 0,
 597     DEBUG_BREAK_NOP,
 598     // IC markers.
 599     PROPERTY_ACCESS_INLINED,
 600     PROPERTY_ACCESS_INLINED_CONTEXT,
 601     PROPERTY_ACCESS_INLINED_CONTEXT_DONT_DELETE,
 602     // Helper values.
 603     LAST_CODE_MARKER,
 604     FIRST_IC_MARKER = PROPERTY_ACCESS_INLINED,
 605     // Code aging
 606     CODE_AGE_MARKER_NOP = 6,
 607     CODE_AGE_SEQUENCE_NOP
 608   };
 609
 610   // Type == 0 is the default non-marking nop. For mips this is a
 611   // sll(zero_reg, zero_reg, 0). We use rt_reg == at for non-zero
 612   // marking, to avoid conflict with ssnop and ehb instructions.
 613   void nop(unsigned int type = 0) {
 614     DCHECK(type < 32);
 615     Register nop_rt_reg = (type == 0) ? zero_reg : at;
 616     sll(zero_reg, nop_rt_reg, type, true);
 617   }
 618
 619
 620   // --------Branch-and-jump-instructions----------
 621   // We don't use likely variant of instructions.
 622   void b(int16_t offset);
 623   void b(Label* L) { b(branch_offset(L, false)>>2); }
 624   void bal(int16_t offset);
 625   void bal(Label* L) { bal(branch_offset(L, false)>>2); }
 626   void bc(int32_t offset);
 627   void bc(Label* L) { bc(branch_offset(L, false) >> 2); }
 628   void balc(int32_t offset);
 629   void balc(Label* L) { balc(branch_offset(L, false) >> 2); }
 630
 631   void beq(Register rs, Register rt, int16_t offset);
 632   void beq(Register rs, Register rt, Label* L) {
 633     beq(rs, rt, branch_offset(L, false) >> 2);
 634   }
 635   void bgez(Register rs, int16_t offset);
 636   void bgezc(Register rt, int16_t offset);
 637   void bgezc(Register rt, Label* L) {
 638     bgezc(rt, branch_offset_compact(L, false)>>2);
 639   }
 640   void bgeuc(Register rs, Register rt, int16_t offset);
 641   void bgeuc(Register rs, Register rt, Label* L) {
 642     bgeuc(rs, rt, branch_offset_compact(L, false)>>2);
 643   }
 644   void bgec(Register rs, Register rt, int16_t offset);
 645   void bgec(Register rs, Register rt, Label* L) {
 646     bgec(rs, rt, branch_offset_compact(L, false)>>2);
 647   }
 648   void bgezal(Register rs, int16_t offset);
 649   void bgezalc(Register rt, int16_t offset);
 650   void bgezalc(Register rt, Label* L) {
 651     bgezalc(rt, branch_offset_compact(L, false)>>2);
 652   }
 653   void bgezall(Register rs, int16_t offset);
 654   void bgezall(Register rs, Label* L) {
 655     bgezall(rs, branch_offset(L, false)>>2);
 656   }
 657   void bgtz(Register rs, int16_t offset);
 658   void bgtzc(Register rt, int16_t offset);
 659   void bgtzc(Register rt, Label* L) {
 660     bgtzc(rt, branch_offset_compact(L, false)>>2);
 661   }
 662   void blez(Register rs, int16_t offset);
 663   void blezc(Register rt, int16_t offset);
 664   void blezc(Register rt, Label* L) {
 665     blezc(rt, branch_offset_compact(L, false)>>2);
 666   }
 667   void bltz(Register rs, int16_t offset);
 668   void bltzc(Register rt, int16_t offset);
 669   void bltzc(Register rt, Label* L) {
 670     bltzc(rt, branch_offset_compact(L, false)>>2);
 671   }
 672   void bltuc(Register rs, Register rt, int16_t offset);
 673   void bltuc(Register rs, Register rt, Label* L) {
 674     bltuc(rs, rt, branch_offset_compact(L, false)>>2);
 675   }
 676   void bltc(Register rs, Register rt, int16_t offset);
 677   void bltc(Register rs, Register rt, Label* L) {
 678     bltc(rs, rt, branch_offset_compact(L, false)>>2);
 679   }
 680
 681   void bltzal(Register rs, int16_t offset);
 682   void blezalc(Register rt, int16_t offset);
 683   void blezalc(Register rt, Label* L) {
 684     blezalc(rt, branch_offset_compact(L, false)>>2);
 685   }
 686   void bltzalc(Register rt, int16_t offset);
 687   void bltzalc(Register rt, Label* L) {
 688     bltzalc(rt, branch_offset_compact(L, false)>>2);
 689   }
 690   void bgtzalc(Register rt, int16_t offset);
 691   void bgtzalc(Register rt, Label* L) {
 692     bgtzalc(rt, branch_offset_compact(L, false)>>2);
 693   }
 694   void beqzalc(Register rt, int16_t offset);
 695   void beqzalc(Register rt, Label* L) {
 696     beqzalc(rt, branch_offset_compact(L, false)>>2);
 697   }
 698   void beqc(Register rs, Register rt, int16_t offset);
 699   void beqc(Register rs, Register rt, Label* L) {
 700     beqc(rs, rt, branch_offset_compact(L, false)>>2);
 701   }
 702   void beqzc(Register rs, int32_t offset);
 703   void beqzc(Register rs, Label* L) {
 704     beqzc(rs, branch_offset21_compact(L, false)>>2);
 705   }
 706   void bnezalc(Register rt, int16_t offset);
 707   void bnezalc(Register rt, Label* L) {
 708     bnezalc(rt, branch_offset_compact(L, false)>>2);
 709   }
 710   void bnec(Register rs, Register rt, int16_t offset);
 711   void bnec(Register rs, Register rt, Label* L) {
 712     bnec(rs, rt, branch_offset_compact(L, false)>>2);
 713   }
 714   void bnezc(Register rt, int32_t offset);
 715   void bnezc(Register rt, Label* L) {
 716     bnezc(rt, branch_offset21_compact(L, false)>>2);
 717   }
 718   void bne(Register rs, Register rt, int16_t offset);
 719   void bne(Register rs, Register rt, Label* L) {
 720     bne(rs, rt, branch_offset(L, false)>>2);
 721   }
 722   void bovc(Register rs, Register rt, int16_t offset);
 723   void bovc(Register rs, Register rt, Label* L) {
 724     bovc(rs, rt, branch_offset_compact(L, false)>>2);
 725   }
 726   void bnvc(Register rs, Register rt, int16_t offset);
 727   void bnvc(Register rs, Register rt, Label* L) {
 728     bnvc(rs, rt, branch_offset_compact(L, false)>>2);
 729   }
 730
 731   // Never use the int16_t b(l)cond version with a branch offset
 732   // instead of using the Label* version.
 733
 734   // Jump targets must be in the current 256 MB-aligned region. i.e. 28 bits.
 735   void j(int64_t target);
 736   void jal(int64_t target);
 737   void j(Label* target);
 738   void jal(Label* target);
 739   void jalr(Register rs, Register rd = ra);
 740   void jr(Register target);
 741   void jic(Register rt, int16_t offset);
 742   void jialc(Register rt, int16_t offset);
 743
 744
 745   // -------Data-processing-instructions---------
 746
 747   // Arithmetic.
 748   void addu(Register rd, Register rs, Register rt);
 749   void subu(Register rd, Register rs, Register rt);
 750
 751   void div(Register rs, Register rt);
 752   void divu(Register rs, Register rt);
 753   void ddiv(Register rs, Register rt);
 754   void ddivu(Register rs, Register rt);
 755   void div(Register rd, Register rs, Register rt);
 756   void divu(Register rd, Register rs, Register rt);
 757   void ddiv(Register rd, Register rs, Register rt);
 758   void ddivu(Register rd, Register rs, Register rt);
 759   void mod(Register rd, Register rs, Register rt);
 760   void modu(Register rd, Register rs, Register rt);
 761   void dmod(Register rd, Register rs, Register rt);
 762   void dmodu(Register rd, Register rs, Register rt);
 763
 764   void mul(Register rd, Register rs, Register rt);
 765   void muh(Register rd, Register rs, Register rt);
 766   void mulu(Register rd, Register rs, Register rt);
 767   void muhu(Register rd, Register rs, Register rt);
 768   void mult(Register rs, Register rt);
 769   void multu(Register rs, Register rt);
 770   void dmul(Register rd, Register rs, Register rt);
 771   void dmuh(Register rd, Register rs, Register rt);
 772   void dmulu(Register rd, Register rs, Register rt);
 773   void dmuhu(Register rd, Register rs, Register rt);
 774   void daddu(Register rd, Register rs, Register rt);
 775   void dsubu(Register rd, Register rs, Register rt);
 776   void dmult(Register rs, Register rt);
 777   void dmultu(Register rs, Register rt);
 778
 779   void addiu(Register rd, Register rs, int32_t j);
 780   void daddiu(Register rd, Register rs, int32_t j);
 781
 782   // Logical.
 783   void and_(Register rd, Register rs, Register rt);
 784   void or_(Register rd, Register rs, Register rt);
 785   void xor_(Register rd, Register rs, Register rt);
 786   void nor(Register rd, Register rs, Register rt);
 787
 788   void andi(Register rd, Register rs, int32_t j);
 789   void ori(Register rd, Register rs, int32_t j);
 790   void xori(Register rd, Register rs, int32_t j);
 791   void lui(Register rd, int32_t j);
 792   void aui(Register rs, Register rt, int32_t j);
 793   void daui(Register rs, Register rt, int32_t j);
 794   void dahi(Register rs, int32_t j);
 795   void dati(Register rs, int32_t j);
 796
 797   // Shifts.
 798   // Please note: sll(zero_reg, zero_reg, x) instructions are reserved as nop
 799   // and may cause problems in normal code. coming_from_nop makes sure this
 800   // doesn't happen.
 801   void sll(Register rd, Register rt, uint16_t sa, bool coming_from_nop = false);
 802   void sllv(Register rd, Register rt, Register rs);
 803   void srl(Register rd, Register rt, uint16_t sa);
 804   void srlv(Register rd, Register rt, Register rs);
 805   void sra(Register rt, Register rd, uint16_t sa);
 806   void srav(Register rt, Register rd, Register rs);
 807   void rotr(Register rd, Register rt, uint16_t sa);
 808   void rotrv(Register rd, Register rt, Register rs);
 809   void dsll(Register rd, Register rt, uint16_t sa);
 810   void dsllv(Register rd, Register rt, Register rs);
 811   void dsrl(Register rd, Register rt, uint16_t sa);
 812   void dsrlv(Register rd, Register rt, Register rs);
 813   void drotr(Register rd, Register rt, uint16_t sa);
 814   void drotrv(Register rd, Register rt, Register rs);
 815   void dsra(Register rt, Register rd, uint16_t sa);
 816   void dsrav(Register rd, Register rt, Register rs);
 817   void dsll32(Register rt, Register rd, uint16_t sa);
 818   void dsrl32(Register rt, Register rd, uint16_t sa);
 819   void dsra32(Register rt, Register rd, uint16_t sa);
 820
 821
 822   // ------------Memory-instructions-------------
 823
 824   void lb(Register rd, const MemOperand& rs);
 825   void lbu(Register rd, const MemOperand& rs);
 826   void lh(Register rd, const MemOperand& rs);
 827   void lhu(Register rd, const MemOperand& rs);
 828   void lw(Register rd, const MemOperand& rs);
 829   void lwu(Register rd, const MemOperand& rs);
 830   void lwl(Register rd, const MemOperand& rs);
 831   void lwr(Register rd, const MemOperand& rs);
 832   void sb(Register rd, const MemOperand& rs);
 833   void sh(Register rd, const MemOperand& rs);
 834   void sw(Register rd, const MemOperand& rs);
 835   void swl(Register rd, const MemOperand& rs);
 836   void swr(Register rd, const MemOperand& rs);
 837   void ldl(Register rd, const MemOperand& rs);
 838   void ldr(Register rd, const MemOperand& rs);
 839   void sdl(Register rd, const MemOperand& rs);
 840   void sdr(Register rd, const MemOperand& rs);
 841   void ld(Register rd, const MemOperand& rs);
 842   void sd(Register rd, const MemOperand& rs);
 843
 844
 845   // ---------PC-Relative-instructions-----------
 846
 847   void addiupc(Register rs, int32_t imm19);
 848   void lwpc(Register rs, int32_t offset19);
 849   void lwupc(Register rs, int32_t offset19);
 850   void ldpc(Register rs, int32_t offset18);
 851   void auipc(Register rs, int16_t imm16);
 852   void aluipc(Register rs, int16_t imm16);
 853
 854
 855   // ----------------Prefetch--------------------
 856
 857   void pref(int32_t hint, const MemOperand& rs);
 858
 859
 860   // -------------Misc-instructions--------------
 861
 862   // Break / Trap instructions.
 863   void break_(uint32_t code, bool break_as_stop = false);
 864   void stop(const char* msg, uint32_t code = kMaxStopCode);
 865   void tge(Register rs, Register rt, uint16_t code);
 866   void tgeu(Register rs, Register rt, uint16_t code);
 867   void tlt(Register rs, Register rt, uint16_t code);
 868   void tltu(Register rs, Register rt, uint16_t code);
 869   void teq(Register rs, Register rt, uint16_t code);
 870   void tne(Register rs, Register rt, uint16_t code);
 871
 872   // Move from HI/LO register.
 873   void mfhi(Register rd);
 874   void mflo(Register rd);
 875
 876   // Set on less than.
 877   void slt(Register rd, Register rs, Register rt);
 878   void sltu(Register rd, Register rs, Register rt);
 879   void slti(Register rd, Register rs, int32_t j);
 880   void sltiu(Register rd, Register rs, int32_t j);
 881
 882   // Conditional move.
 883   void movz(Register rd, Register rs, Register rt);
 884   void movn(Register rd, Register rs, Register rt);
 885   void movt(Register rd, Register rs, uint16_t cc = 0);
 886   void movf(Register rd, Register rs, uint16_t cc = 0);
 887
 888   void sel(SecondaryField fmt, FPURegister fd, FPURegister fs, FPURegister ft);
 889   void sel_s(FPURegister fd, FPURegister fs, FPURegister ft);
 890   void sel_d(FPURegister fd, FPURegister fs, FPURegister ft);
 891   void seleqz(Register rd, Register rs, Register rt);
 892   void seleqz(SecondaryField fmt, FPURegister fd, FPURegister fs,
 893               FPURegister ft);
 894   void selnez(Register rs, Register rt, Register rd);
 895   void selnez(SecondaryField fmt, FPURegister fd, FPURegister fs,
 896               FPURegister ft);
 897   void seleqz_d(FPURegister fd, FPURegister fs, FPURegister ft);
 898   void seleqz_s(FPURegister fd, FPURegister fs, FPURegister ft);
 899   void selnez_d(FPURegister fd, FPURegister fs, FPURegister ft);
 900   void selnez_s(FPURegister fd, FPURegister fs, FPURegister ft);
 901
 902   void movz_s(FPURegister fd, FPURegister fs, Register rt);
 903   void movz_d(FPURegister fd, FPURegister fs, Register rt);
 904   void movt_s(FPURegister fd, FPURegister fs, uint16_t cc);
 905   void movt_d(FPURegister fd, FPURegister fs, uint16_t cc);
 906   void movf_s(FPURegister fd, FPURegister fs, uint16_t cc);
 907   void movf_d(FPURegister fd, FPURegister fs, uint16_t cc);
 908   void movn_s(FPURegister fd, FPURegister fs, Register rt);
 909   void movn_d(FPURegister fd, FPURegister fs, Register rt);
 910   // Bit twiddling.
 911   void clz(Register rd, Register rs);
 912   void ins_(Register rt, Register rs, uint16_t pos, uint16_t size);
 913   void ext_(Register rt, Register rs, uint16_t pos, uint16_t size);
 914   void dext_(Register rt, Register rs, uint16_t pos, uint16_t size);
 915   void bitswap(Register rd, Register rt);
 916   void dbitswap(Register rd, Register rt);
 917   void align(Register rd, Register rs, Register rt, uint8_t bp);
 918   void dalign(Register rd, Register rs, Register rt, uint8_t bp);
 919
 920   // --------Coprocessor-instructions----------------
 921
 922   // Load, store, and move.
 923   void lwc1(FPURegister fd, const MemOperand& src);
 924   void ldc1(FPURegister fd, const MemOperand& src);
 925
 926   void swc1(FPURegister fs, const MemOperand& dst);
 927   void sdc1(FPURegister fs, const MemOperand& dst);
 928
 929   void mtc1(Register rt, FPURegister fs);
 930   void mthc1(Register rt, FPURegister fs);
 931   void dmtc1(Register rt, FPURegister fs);
 932
 933   void mfc1(Register rt, FPURegister fs);
 934   void mfhc1(Register rt, FPURegister fs);
 935   void dmfc1(Register rt, FPURegister fs);
 936
 937   void ctc1(Register rt, FPUControlRegister fs);
 938   void cfc1(Register rt, FPUControlRegister fs);
 939
 940   // Arithmetic.
 941   void add_s(FPURegister fd, FPURegister fs, FPURegister ft);
 942   void add_d(FPURegister fd, FPURegister fs, FPURegister ft);
 943   void sub_s(FPURegister fd, FPURegister fs, FPURegister ft);
 944   void sub_d(FPURegister fd, FPURegister fs, FPURegister ft);
 945   void mul_s(FPURegister fd, FPURegister fs, FPURegister ft);
 946   void mul_d(FPURegister fd, FPURegister fs, FPURegister ft);
 947   void madd_d(FPURegister fd, FPURegister fr, FPURegister fs, FPURegister ft);
 948   void div_s(FPURegister fd, FPURegister fs, FPURegister ft);
 949   void div_d(FPURegister fd, FPURegister fs, FPURegister ft);
 950   void abs_s(FPURegister fd, FPURegister fs);
 951   void abs_d(FPURegister fd, FPURegister fs);
 952   void mov_d(FPURegister fd, FPURegister fs);
 953   void mov_s(FPURegister fd, FPURegister fs);
 954   void neg_s(FPURegister fd, FPURegister fs);
 955   void neg_d(FPURegister fd, FPURegister fs);
 956   void sqrt_s(FPURegister fd, FPURegister fs);
 957   void sqrt_d(FPURegister fd, FPURegister fs);
 958   void rsqrt_s(FPURegister fd, FPURegister fs);
 959   void rsqrt_d(FPURegister fd, FPURegister fs);
 960   void recip_d(FPURegister fd, FPURegister fs);
 961   void recip_s(FPURegister fd, FPURegister fs);
 962
 963   // Conversion.
 964   void cvt_w_s(FPURegister fd, FPURegister fs);
 965   void cvt_w_d(FPURegister fd, FPURegister fs);
 966   void trunc_w_s(FPURegister fd, FPURegister fs);
 967   void trunc_w_d(FPURegister fd, FPURegister fs);
 968   void round_w_s(FPURegister fd, FPURegister fs);
 969   void round_w_d(FPURegister fd, FPURegister fs);
 970   void floor_w_s(FPURegister fd, FPURegister fs);
 971   void floor_w_d(FPURegister fd, FPURegister fs);
 972   void ceil_w_s(FPURegister fd, FPURegister fs);
 973   void ceil_w_d(FPURegister fd, FPURegister fs);
 974   void rint_s(FPURegister fd, FPURegister fs);
 975   void rint_d(FPURegister fd, FPURegister fs);
 976   void rint(SecondaryField fmt, FPURegister fd, FPURegister fs);
 977
 978
 979   void cvt_l_s(FPURegister fd, FPURegister fs);
 980   void cvt_l_d(FPURegister fd, FPURegister fs);
 981   void trunc_l_s(FPURegister fd, FPURegister fs);
 982   void trunc_l_d(FPURegister fd, FPURegister fs);
 983   void round_l_s(FPURegister fd, FPURegister fs);
 984   void round_l_d(FPURegister fd, FPURegister fs);
 985   void floor_l_s(FPURegister fd, FPURegister fs);
 986   void floor_l_d(FPURegister fd, FPURegister fs);
 987   void ceil_l_s(FPURegister fd, FPURegister fs);
 988   void ceil_l_d(FPURegister fd, FPURegister fs);
 989
 990   void class_s(FPURegister fd, FPURegister fs);
 991   void class_d(FPURegister fd, FPURegister fs);
 992
 993   void min(SecondaryField fmt, FPURegister fd, FPURegister fs, FPURegister ft);
 994   void mina(SecondaryField fmt, FPURegister fd, FPURegister fs, FPURegister ft);
 995   void max(SecondaryField fmt, FPURegister fd, FPURegister fs, FPURegister ft);
 996   void maxa(SecondaryField fmt, FPURegister fd, FPURegister fs, FPURegister ft);
 997   void min_s(FPURegister fd, FPURegister fs, FPURegister ft);
 998   void min_d(FPURegister fd, FPURegister fs, FPURegister ft);
 999   void max_s(FPURegister fd, FPURegister fs, FPURegister ft);
1000   void max_d(FPURegister fd, FPURegister fs, FPURegister ft);
1001   void mina_s(FPURegister fd, FPURegister fs, FPURegister ft);
1002   void mina_d(FPURegister fd, FPURegister fs, FPURegister ft);
1003   void maxa_s(FPURegister fd, FPURegister fs, FPURegister ft);
1004   void maxa_d(FPURegister fd, FPURegister fs, FPURegister ft);
1005
1006   void cvt_s_w(FPURegister fd, FPURegister fs);
1007   void cvt_s_l(FPURegister fd, FPURegister fs);
1008   void cvt_s_d(FPURegister fd, FPURegister fs);
1009
1010   void cvt_d_w(FPURegister fd, FPURegister fs);
1011   void cvt_d_l(FPURegister fd, FPURegister fs);
1012   void cvt_d_s(FPURegister fd, FPURegister fs);
1013
1014   // Conditions and branches for MIPSr6.
1015   void cmp(FPUCondition cond, SecondaryField fmt,
1016          FPURegister fd, FPURegister ft, FPURegister fs);
1017   void cmp_s(FPUCondition cond, FPURegister fd, FPURegister fs, FPURegister ft);
1018   void cmp_d(FPUCondition cond, FPURegister fd, FPURegister fs, FPURegister ft);
1019
1020   void bc1eqz(int16_t offset, FPURegister ft);
1021   void bc1eqz(Label* L, FPURegister ft) {
1022     bc1eqz(branch_offset(L, false)>>2, ft);
1023   }
1024   void bc1nez(int16_t offset, FPURegister ft);
1025   void bc1nez(Label* L, FPURegister ft) {
1026     bc1nez(branch_offset(L, false)>>2, ft);
1027   }
1028
1029   // Conditions and branches for non MIPSr6.
1030   void c(FPUCondition cond, SecondaryField fmt,
1031          FPURegister ft, FPURegister fs, uint16_t cc = 0);
1032   void c_s(FPUCondition cond, FPURegister ft, FPURegister fs, uint16_t cc = 0);
1033   void c_d(FPUCondition cond, FPURegister ft, FPURegister fs, uint16_t cc = 0);
1034
1035   void bc1f(int16_t offset, uint16_t cc = 0);
1036   void bc1f(Label* L, uint16_t cc = 0) {
1037     bc1f(branch_offset(L, false)>>2, cc);
1038   }
1039   void bc1t(int16_t offset, uint16_t cc = 0);
1040   void bc1t(Label* L, uint16_t cc = 0) {
1041     bc1t(branch_offset(L, false)>>2, cc);
1042   }
1043   void fcmp(FPURegister src1, const double src2, FPUCondition cond);
1044
1045   // Check the code size generated from label to here.
1046   int SizeOfCodeGeneratedSince(Label* label) {
1047     return pc_offset() - label->pos();
1048   }
1049
1050   // Check the number of instructions generated from label to here.
1051   int InstructionsGeneratedSince(Label* label) {
1052     return SizeOfCodeGeneratedSince(label) / kInstrSize;
1053   }
1054
1055   // Class for scoping postponing the trampoline pool generation.
1056   class BlockTrampolinePoolScope {
1057    public:
1058     explicit BlockTrampolinePoolScope(Assembler* assem) : assem_(assem) {
1059       assem_->StartBlockTrampolinePool();
1060     }
1061     ~BlockTrampolinePoolScope() {
1062       assem_->EndBlockTrampolinePool();
1063     }
1064
1065    private:
1066     Assembler* assem_;
1067
1068     DISALLOW_IMPLICIT_CONSTRUCTORS(BlockTrampolinePoolScope);
1069   };
1070
1071   // Class for postponing the assembly buffer growth. Typically used for
1072   // sequences of instructions that must be emitted as a unit, before
1073   // buffer growth (and relocation) can occur.
1074   // This blocking scope is not nestable.
1075   class BlockGrowBufferScope {
1076    public:
1077     explicit BlockGrowBufferScope(Assembler* assem) : assem_(assem) {
1078       assem_->StartBlockGrowBuffer();
1079     }
1080     ~BlockGrowBufferScope() {
1081       assem_->EndBlockGrowBuffer();
1082     }
1083
1084    private:
1085     Assembler* assem_;
1086
1087     DISALLOW_IMPLICIT_CONSTRUCTORS(BlockGrowBufferScope);
1088   };
1089
1090   // Debugging.
1091
1092   // Mark generator continuation.
1093   void RecordGeneratorContinuation();
1094
1095   // Mark address of a debug break slot.
1096   void RecordDebugBreakSlot(RelocInfo::Mode mode, int argc = 0);
1097
1098   // Record the AST id of the CallIC being compiled, so that it can be placed
1099   // in the relocation information.
1100   void SetRecordedAstId(TypeFeedbackId ast_id) {
1101     DCHECK(recorded_ast_id_.IsNone());
1102     recorded_ast_id_ = ast_id;
1103   }
1104
1105   TypeFeedbackId RecordedAstId() {
1106     DCHECK(!recorded_ast_id_.IsNone());
1107     return recorded_ast_id_;
1108   }
1109
1110   void ClearRecordedAstId() { recorded_ast_id_ = TypeFeedbackId::None(); }
1111
1112   // Record a comment relocation entry that can be used by a disassembler.
1113   // Use --code-comments to enable.
1114   void RecordComment(const char* msg);
1115
1116   // Record a deoptimization reason that can be used by a log or cpu profiler.
1117   // Use --trace-deopt to enable.
1118   void RecordDeoptReason(const int reason, const SourcePosition position);
1119
1120   static int RelocateInternalReference(RelocInfo::Mode rmode, byte* pc,
1121                                        intptr_t pc_delta);
1122
1123   // Writes a single byte or word of data in the code stream.  Used for
1124   // inline tables, e.g., jump-tables.
1125   void db(uint8_t data);
1126   void dd(uint32_t data);
1127   void dq(uint64_t data);
1128   void dp(uintptr_t data) { dq(data); }
1129   void dd(Label* label);
1130
1131   // Emits the address of the code stub's first instruction.
1132   void emit_code_stub_address(Code* stub);
1133
1134   PositionsRecorder* positions_recorder() { return &positions_recorder_; }
1135
1136   // Postpone the generation of the trampoline pool for the specified number of
1137   // instructions.
1138   void BlockTrampolinePoolFor(int instructions);
1139
1140   // Check if there is less than kGap bytes available in the buffer.
1141   // If this is the case, we need to grow the buffer before emitting
1142   // an instruction or relocation information.
1143   inline bool overflow() const { return pc_ >= reloc_info_writer.pos() - kGap; }
1144
1145   // Get the number of bytes available in the buffer.
1146   inline intptr_t available_space() const {
1147     return reloc_info_writer.pos() - pc_;
1148   }
1149
1150   // Read/patch instructions.
1151   static Instr instr_at(byte* pc) { return *reinterpret_cast<Instr*>(pc); }
1152   static void instr_at_put(byte* pc, Instr instr) {
1153     *reinterpret_cast<Instr*>(pc) = instr;
1154   }
1155   Instr instr_at(int pos) { return *reinterpret_cast<Instr*>(buffer_ + pos); }
1156   void instr_at_put(int pos, Instr instr) {
1157     *reinterpret_cast<Instr*>(buffer_ + pos) = instr;
1158   }
1159
1160   // Check if an instruction is a branch of some kind.
1161   static bool IsBranch(Instr instr);
1162   static bool IsBeq(Instr instr);
1163   static bool IsBne(Instr instr);
1164
1165   static bool IsJump(Instr instr);
1166   static bool IsJ(Instr instr);
1167   static bool IsLui(Instr instr);
1168   static bool IsOri(Instr instr);
1169
1170   static bool IsJal(Instr instr);
1171   static bool IsJr(Instr instr);
1172   static bool IsJalr(Instr instr);
1173
1174   static bool IsNop(Instr instr, unsigned int type);
1175   static bool IsPop(Instr instr);
1176   static bool IsPush(Instr instr);
1177   static bool IsLwRegFpOffset(Instr instr);
1178   static bool IsSwRegFpOffset(Instr instr);
1179   static bool IsLwRegFpNegOffset(Instr instr);
1180   static bool IsSwRegFpNegOffset(Instr instr);
1181
1182   static Register GetRtReg(Instr instr);
1183   static Register GetRsReg(Instr instr);
1184   static Register GetRdReg(Instr instr);
1185
1186   static uint32_t GetRt(Instr instr);
1187   static uint32_t GetRtField(Instr instr);
1188   static uint32_t GetRs(Instr instr);
1189   static uint32_t GetRsField(Instr instr);
1190   static uint32_t GetRd(Instr instr);
1191   static uint32_t GetRdField(Instr instr);
1192   static uint32_t GetSa(Instr instr);
1193   static uint32_t GetSaField(Instr instr);
1194   static uint32_t GetOpcodeField(Instr instr);
1195   static uint32_t GetFunction(Instr instr);
1196   static uint32_t GetFunctionField(Instr instr);
1197   static uint32_t GetImmediate16(Instr instr);
1198   static uint32_t GetLabelConst(Instr instr);
1199
1200   static int32_t GetBranchOffset(Instr instr);
1201   static bool IsLw(Instr instr);
1202   static int16_t GetLwOffset(Instr instr);
1203   static Instr SetLwOffset(Instr instr, int16_t offset);
1204
1205   static bool IsSw(Instr instr);
1206   static Instr SetSwOffset(Instr instr, int16_t offset);
1207   static bool IsAddImmediate(Instr instr);
1208   static Instr SetAddImmediateOffset(Instr instr, int16_t offset);
1209
1210   static bool IsAndImmediate(Instr instr);
1211   static bool IsEmittedConstant(Instr instr);
1212
1213   void CheckTrampolinePool();
1214
1215   void PatchConstantPoolAccessInstruction(int pc_offset, int offset,
1216                                           ConstantPoolEntry::Access access,
1217                                           ConstantPoolEntry::Type type) {
1218     // No embedded constant pool support.
1219     UNREACHABLE();
1220   }
1221
1222  protected:
1223   // Relocation for a type-recording IC has the AST id added to it.  This
1224   // member variable is a way to pass the information from the call site to
1225   // the relocation info.
1226   TypeFeedbackId recorded_ast_id_;
1227
1228   inline static void set_target_internal_reference_encoded_at(Address pc,
1229                                                               Address target);
1230
1231   int64_t buffer_space() const { return reloc_info_writer.pos() - pc_; }
1232
1233   // Decode branch instruction at pos and return branch target pos.
1234   int target_at(int pos, bool is_internal);
1235
1236   // Patch branch instruction at pos to branch to given branch target pos.
1237   void target_at_put(int pos, int target_pos, bool is_internal);
1238
1239   // Say if we need to relocate with this mode.
1240   bool MustUseReg(RelocInfo::Mode rmode);
1241
1242   // Record reloc info for current pc_.
1243   void RecordRelocInfo(RelocInfo::Mode rmode, intptr_t data = 0);
1244
1245   // Block the emission of the trampoline pool before pc_offset.
1246   void BlockTrampolinePoolBefore(int pc_offset) {
1247     if (no_trampoline_pool_before_ < pc_offset)
1248       no_trampoline_pool_before_ = pc_offset;
1249   }
1250
1251   void StartBlockTrampolinePool() {
1252     trampoline_pool_blocked_nesting_++;
1253   }
1254
1255   void EndBlockTrampolinePool() {
1256     trampoline_pool_blocked_nesting_--;
1257   }
1258
1259   bool is_trampoline_pool_blocked() const {
1260     return trampoline_pool_blocked_nesting_ > 0;
1261   }
1262
1263   bool has_exception() const {
1264     return internal_trampoline_exception_;
1265   }
1266
1267   void DoubleAsTwoUInt32(double d, uint32_t* lo, uint32_t* hi);
1268
1269   bool is_trampoline_emitted() const {
1270     return trampoline_emitted_;
1271   }
1272
1273   // Temporarily block automatic assembly buffer growth.
1274   void StartBlockGrowBuffer() {
1275     DCHECK(!block_buffer_growth_);
1276     block_buffer_growth_ = true;
1277   }
1278
1279   void EndBlockGrowBuffer() {
1280     DCHECK(block_buffer_growth_);
1281     block_buffer_growth_ = false;
1282   }
1283
1284   bool is_buffer_growth_blocked() const {
1285     return block_buffer_growth_;
1286   }
1287
1288  private:
1289   // Buffer size and constant pool distance are checked together at regular
1290   // intervals of kBufferCheckInterval emitted bytes.
1291   static const int kBufferCheckInterval = 1*KB/2;
1292
1293   // Code generation.
1294   // The relocation writer's position is at least kGap bytes below the end of
1295   // the generated instructions. This is so that multi-instruction sequences do
1296   // not have to check for overflow. The same is true for writes of large
1297   // relocation info entries.
1298   static const int kGap = 32;
1299
1300
1301   // Repeated checking whether the trampoline pool should be emitted is rather
1302   // expensive. By default we only check again once a number of instructions
1303   // has been generated.
1304   static const int kCheckConstIntervalInst = 32;
1305   static const int kCheckConstInterval = kCheckConstIntervalInst * kInstrSize;
1306
1307   int next_buffer_check_;  // pc offset of next buffer check.
1308
1309   // Emission of the trampoline pool may be blocked in some code sequences.
1310   int trampoline_pool_blocked_nesting_;  // Block emission if this is not zero.
1311   int no_trampoline_pool_before_;  // Block emission before this pc offset.
1312
1313   // Keep track of the last emitted pool to guarantee a maximal distance.
1314   int last_trampoline_pool_end_;  // pc offset of the end of the last pool.
1315
1316   // Automatic growth of the assembly buffer may be blocked for some sequences.
1317   bool block_buffer_growth_;  // Block growth when true.
1318
1319   // Relocation information generation.
1320   // Each relocation is encoded as a variable size value.
1321   static const int kMaxRelocSize = RelocInfoWriter::kMaxSize;
1322   RelocInfoWriter reloc_info_writer;
1323
1324   // The bound position, before this we cannot do instruction elimination.
1325   int last_bound_pos_;
1326
1327   // Code emission.
1328   inline void CheckBuffer();
1329   void GrowBuffer();
1330   inline void emit(Instr x);
1331   inline void emit(uint64_t x);
1332   inline void CheckTrampolinePoolQuick(int extra_instructions = 0);
1333
1334   // Instruction generation.
1335   // We have 3 different kind of encoding layout on MIPS.
1336   // However due to many different types of objects encoded in the same fields
1337   // we have quite a few aliases for each mode.
1338   // Using the same structure to refer to Register and FPURegister would spare a
1339   // few aliases, but mixing both does not look clean to me.
1340   // Anyway we could surely implement this differently.
1341
1342   void GenInstrRegister(Opcode opcode,
1343                         Register rs,
1344                         Register rt,
1345                         Register rd,
1346                         uint16_t sa = 0,
1347                         SecondaryField func = NULLSF);
1348
1349   void GenInstrRegister(Opcode opcode,
1350                         Register rs,
1351                         Register rt,
1352                         uint16_t msb,
1353                         uint16_t lsb,
1354                         SecondaryField func);
1355
1356   void GenInstrRegister(Opcode opcode,
1357                         SecondaryField fmt,
1358                         FPURegister ft,
1359                         FPURegister fs,
1360                         FPURegister fd,
1361                         SecondaryField func = NULLSF);
1362
1363   void GenInstrRegister(Opcode opcode,
1364                         FPURegister fr,
1365                         FPURegister ft,
1366                         FPURegister fs,
1367                         FPURegister fd,
1368                         SecondaryField func = NULLSF);
1369
1370   void GenInstrRegister(Opcode opcode,
1371                         SecondaryField fmt,
1372                         Register rt,
1373                         FPURegister fs,
1374                         FPURegister fd,
1375                         SecondaryField func = NULLSF);
1376
1377   void GenInstrRegister(Opcode opcode,
1378                         SecondaryField fmt,
1379                         Register rt,
1380                         FPUControlRegister fs,
1381                         SecondaryField func = NULLSF);
1382
1383
1384   void GenInstrImmediate(Opcode opcode,
1385                          Register rs,
1386                          Register rt,
1387                          int32_t  j);
1388   void GenInstrImmediate(Opcode opcode,
1389                          Register rs,
1390                          SecondaryField SF,
1391                          int32_t  j);
1392   void GenInstrImmediate(Opcode opcode,
1393                          Register r1,
1394                          FPURegister r2,
1395                          int32_t  j);
1396   void GenInstrImmediate(Opcode opcode, Register rs, int32_t j);
1397   void GenInstrImmediate(Opcode opcode, int32_t offset26);
1398
1399
1400   void GenInstrJump(Opcode opcode,
1401                      uint32_t address);
1402
1403   // Helpers.
1404   void LoadRegPlusOffsetToAt(const MemOperand& src);
1405
1406   // Labels.
1407   void print(Label* L);
1408   void bind_to(Label* L, int pos);
1409   void next(Label* L, bool is_internal);
1410
1411   // One trampoline consists of:
1412   // - space for trampoline slots,
1413   // - space for labels.
1414   //
1415   // Space for trampoline slots is equal to slot_count * 2 * kInstrSize.
1416   // Space for trampoline slots preceeds space for labels. Each label is of one
1417   // instruction size, so total amount for labels is equal to
1418   // label_count *  kInstrSize.
1419   class Trampoline {
1420    public:
1421     Trampoline() {
1422       start_ = 0;
1423       next_slot_ = 0;
1424       free_slot_count_ = 0;
1425       end_ = 0;
1426     }
1427     Trampoline(int start, int slot_count) {
1428       start_ = start;
1429       next_slot_ = start;
1430       free_slot_count_ = slot_count;
1431       end_ = start + slot_count * kTrampolineSlotsSize;
1432     }
1433     int start() {
1434       return start_;
1435     }
1436     int end() {
1437       return end_;
1438     }
1439     int take_slot() {
1440       int trampoline_slot = kInvalidSlotPos;
1441       if (free_slot_count_ <= 0) {
1442         // We have run out of space on trampolines.
1443         // Make sure we fail in debug mode, so we become aware of each case
1444         // when this happens.
1445         DCHECK(0);
1446         // Internal exception will be caught.
1447       } else {
1448         trampoline_slot = next_slot_;
1449         free_slot_count_--;
1450         next_slot_ += kTrampolineSlotsSize;
1451       }
1452       return trampoline_slot;
1453     }
1454
1455    private:
1456     int start_;
1457     int end_;
1458     int next_slot_;
1459     int free_slot_count_;
1460   };
1461
1462   int32_t get_trampoline_entry(int32_t pos);
1463   int unbound_labels_count_;
1464   // After trampoline is emitted, long branches are used in generated code for
1465   // the forward branches whose target offsets could be beyond reach of branch
1466   // instruction. We use this information to trigger different mode of
1467   // branch instruction generation, where we use jump instructions rather
1468   // than regular branch instructions.
1469   bool trampoline_emitted_;
1470   static const int kTrampolineSlotsSize = 2 * kInstrSize;
1471   static const int kMaxBranchOffset = (1 << (18 - 1)) - 1;
1472   static const int kInvalidSlotPos = -1;
1473
1474   // Internal reference positions, required for unbounded internal reference
1475   // labels.
1476   std::set<int64_t> internal_reference_positions_;
1477
1478   Trampoline trampoline_;
1479   bool internal_trampoline_exception_;
1480
1481   friend class RegExpMacroAssemblerMIPS;
1482   friend class RelocInfo;
1483   friend class CodePatcher;
1484   friend class BlockTrampolinePoolScope;
1485
1486   PositionsRecorder positions_recorder_;
1487   friend class PositionsRecorder;
1488   friend class EnsureSpace;
1489 };
1490
1491
1492 class EnsureSpace BASE_EMBEDDED {
1493  public:
1494   explicit EnsureSpace(Assembler* assembler) {
1495     assembler->CheckBuffer();
1496   }
1497 };
1498
1499 } }  // namespace v8::internal
1500
1501 #endif  // V8_ARM_ASSEMBLER_MIPS_H_