src/x87/macro-assembler-x87.h

   1 // Copyright 2012 the V8 project authors. All rights reserved.
   2 // Use of this source code is governed by a BSD-style license that can be
   3 // found in the LICENSE file.
   4
   5 #ifndef V8_X87_MACRO_ASSEMBLER_X87_H_
   6 #define V8_X87_MACRO_ASSEMBLER_X87_H_
   7
   8 #include "src/assembler.h"
   9 #include "src/bailout-reason.h"
  10 #include "src/frames.h"
  11 #include "src/globals.h"
  12
  13 namespace v8 {
  14 namespace internal {
  15
  16 // Convenience for platform-independent signatures.  We do not normally
  17 // distinguish memory operands from other operands on ia32.
  18 typedef Operand MemOperand;
  19
  20 enum RememberedSetAction { EMIT_REMEMBERED_SET, OMIT_REMEMBERED_SET };
  21 enum SmiCheck { INLINE_SMI_CHECK, OMIT_SMI_CHECK };
  22 enum PointersToHereCheck {
  23   kPointersToHereMaybeInteresting,
  24   kPointersToHereAreAlwaysInteresting
  25 };
  26
  27
  28 enum RegisterValueType {
  29   REGISTER_VALUE_IS_SMI,
  30   REGISTER_VALUE_IS_INT32
  31 };
  32
  33
  34 #ifdef DEBUG
  35 bool AreAliased(Register reg1,
  36                 Register reg2,
  37                 Register reg3 = no_reg,
  38                 Register reg4 = no_reg,
  39                 Register reg5 = no_reg,
  40                 Register reg6 = no_reg,
  41                 Register reg7 = no_reg,
  42                 Register reg8 = no_reg);
  43 #endif
  44
  45
  46 // MacroAssembler implements a collection of frequently used macros.
  47 class MacroAssembler: public Assembler {
  48  public:
  49   // The isolate parameter can be NULL if the macro assembler should
  50   // not use isolate-dependent functionality. In this case, it's the
  51   // responsibility of the caller to never invoke such function on the
  52   // macro assembler.
  53   MacroAssembler(Isolate* isolate, void* buffer, int size);
  54
  55   void Load(Register dst, const Operand& src, Representation r);
  56   void Store(Register src, const Operand& dst, Representation r);
  57
  58   // Operations on roots in the root-array.
  59   void LoadRoot(Register destination, Heap::RootListIndex index);
  60   void StoreRoot(Register source, Register scratch, Heap::RootListIndex index);
  61   void CompareRoot(Register with, Register scratch, Heap::RootListIndex index);
  62   // These methods can only be used with constant roots (i.e. non-writable
  63   // and not in new space).
  64   void CompareRoot(Register with, Heap::RootListIndex index);
  65   void CompareRoot(const Operand& with, Heap::RootListIndex index);
  66
  67   // ---------------------------------------------------------------------------
  68   // GC Support
  69   enum RememberedSetFinalAction {
  70     kReturnAtEnd,
  71     kFallThroughAtEnd
  72   };
  73
  74   // Record in the remembered set the fact that we have a pointer to new space
  75   // at the address pointed to by the addr register.  Only works if addr is not
  76   // in new space.
  77   void RememberedSetHelper(Register object,  // Used for debug code.
  78                            Register addr, Register scratch,
  79                            SaveFPRegsMode save_fp,
  80                            RememberedSetFinalAction and_then);
  81
  82   void CheckPageFlag(Register object,
  83                      Register scratch,
  84                      int mask,
  85                      Condition cc,
  86                      Label* condition_met,
  87                      Label::Distance condition_met_distance = Label::kFar);
  88
  89   void CheckPageFlagForMap(
  90       Handle<Map> map,
  91       int mask,
  92       Condition cc,
  93       Label* condition_met,
  94       Label::Distance condition_met_distance = Label::kFar);
  95
  96   // Check if object is in new space.  Jumps if the object is not in new space.
  97   // The register scratch can be object itself, but scratch will be clobbered.
  98   void JumpIfNotInNewSpace(Register object,
  99                            Register scratch,
 100                            Label* branch,
 101                            Label::Distance distance = Label::kFar) {
 102     InNewSpace(object, scratch, zero, branch, distance);
 103   }
 104
 105   // Check if object is in new space.  Jumps if the object is in new space.
 106   // The register scratch can be object itself, but it will be clobbered.
 107   void JumpIfInNewSpace(Register object,
 108                         Register scratch,
 109                         Label* branch,
 110                         Label::Distance distance = Label::kFar) {
 111     InNewSpace(object, scratch, not_zero, branch, distance);
 112   }
 113
 114   // Check if an object has a given incremental marking color.  Also uses ecx!
 115   void HasColor(Register object,
 116                 Register scratch0,
 117                 Register scratch1,
 118                 Label* has_color,
 119                 Label::Distance has_color_distance,
 120                 int first_bit,
 121                 int second_bit);
 122
 123   void JumpIfBlack(Register object,
 124                    Register scratch0,
 125                    Register scratch1,
 126                    Label* on_black,
 127                    Label::Distance on_black_distance = Label::kFar);
 128
 129   // Checks the color of an object.  If the object is already grey or black
 130   // then we just fall through, since it is already live.  If it is white and
 131   // we can determine that it doesn't need to be scanned, then we just mark it
 132   // black and fall through.  For the rest we jump to the label so the
 133   // incremental marker can fix its assumptions.
 134   void EnsureNotWhite(Register object,
 135                       Register scratch1,
 136                       Register scratch2,
 137                       Label* object_is_white_and_not_data,
 138                       Label::Distance distance);
 139
 140   // Notify the garbage collector that we wrote a pointer into an object.
 141   // |object| is the object being stored into, |value| is the object being
 142   // stored.  value and scratch registers are clobbered by the operation.
 143   // The offset is the offset from the start of the object, not the offset from
 144   // the tagged HeapObject pointer.  For use with FieldOperand(reg, off).
 145   void RecordWriteField(
 146       Register object, int offset, Register value, Register scratch,
 147       SaveFPRegsMode save_fp,
 148       RememberedSetAction remembered_set_action = EMIT_REMEMBERED_SET,
 149       SmiCheck smi_check = INLINE_SMI_CHECK,
 150       PointersToHereCheck pointers_to_here_check_for_value =
 151           kPointersToHereMaybeInteresting);
 152
 153   // As above, but the offset has the tag presubtracted.  For use with
 154   // Operand(reg, off).
 155   void RecordWriteContextSlot(
 156       Register context, int offset, Register value, Register scratch,
 157       SaveFPRegsMode save_fp,
 158       RememberedSetAction remembered_set_action = EMIT_REMEMBERED_SET,
 159       SmiCheck smi_check = INLINE_SMI_CHECK,
 160       PointersToHereCheck pointers_to_here_check_for_value =
 161           kPointersToHereMaybeInteresting) {
 162     RecordWriteField(context, offset + kHeapObjectTag, value, scratch, save_fp,
 163                      remembered_set_action, smi_check,
 164                      pointers_to_here_check_for_value);
 165   }
 166
 167   // Notify the garbage collector that we wrote a pointer into a fixed array.
 168   // |array| is the array being stored into, |value| is the
 169   // object being stored.  |index| is the array index represented as a
 170   // Smi. All registers are clobbered by the operation RecordWriteArray
 171   // filters out smis so it does not update the write barrier if the
 172   // value is a smi.
 173   void RecordWriteArray(
 174       Register array, Register value, Register index, SaveFPRegsMode save_fp,
 175       RememberedSetAction remembered_set_action = EMIT_REMEMBERED_SET,
 176       SmiCheck smi_check = INLINE_SMI_CHECK,
 177       PointersToHereCheck pointers_to_here_check_for_value =
 178           kPointersToHereMaybeInteresting);
 179
 180   // For page containing |object| mark region covering |address|
 181   // dirty. |object| is the object being stored into, |value| is the
 182   // object being stored. The address and value registers are clobbered by the
 183   // operation. RecordWrite filters out smis so it does not update the
 184   // write barrier if the value is a smi.
 185   void RecordWrite(
 186       Register object, Register address, Register value, SaveFPRegsMode save_fp,
 187       RememberedSetAction remembered_set_action = EMIT_REMEMBERED_SET,
 188       SmiCheck smi_check = INLINE_SMI_CHECK,
 189       PointersToHereCheck pointers_to_here_check_for_value =
 190           kPointersToHereMaybeInteresting);
 191
 192   // For page containing |object| mark the region covering the object's map
 193   // dirty. |object| is the object being stored into, |map| is the Map object
 194   // that was stored.
 195   void RecordWriteForMap(Register object, Handle<Map> map, Register scratch1,
 196                          Register scratch2, SaveFPRegsMode save_fp);
 197
 198   // ---------------------------------------------------------------------------
 199   // Debugger Support
 200
 201   void DebugBreak();
 202
 203   // Generates function and stub prologue code.
 204   void StubPrologue();
 205   void Prologue(bool code_pre_aging);
 206
 207   // Enter specific kind of exit frame. Expects the number of
 208   // arguments in register eax and sets up the number of arguments in
 209   // register edi and the pointer to the first argument in register
 210   // esi.
 211   void EnterExitFrame(bool save_doubles);
 212
 213   void EnterApiExitFrame(int argc);
 214
 215   // Leave the current exit frame. Expects the return value in
 216   // register eax:edx (untouched) and the pointer to the first
 217   // argument in register esi.
 218   void LeaveExitFrame(bool save_doubles);
 219
 220   // Leave the current exit frame. Expects the return value in
 221   // register eax (untouched).
 222   void LeaveApiExitFrame(bool restore_context);
 223
 224   // Find the function context up the context chain.
 225   void LoadContext(Register dst, int context_chain_length);
 226
 227   // Conditionally load the cached Array transitioned map of type
 228   // transitioned_kind from the native context if the map in register
 229   // map_in_out is the cached Array map in the native context of
 230   // expected_kind.
 231   void LoadTransitionedArrayMapConditional(
 232       ElementsKind expected_kind,
 233       ElementsKind transitioned_kind,
 234       Register map_in_out,
 235       Register scratch,
 236       Label* no_map_match);
 237
 238   // Load the global function with the given index.
 239   void LoadGlobalFunction(int index, Register function);
 240
 241   // Load the initial map from the global function. The registers
 242   // function and map can be the same.
 243   void LoadGlobalFunctionInitialMap(Register function, Register map);
 244
 245   // Push and pop the registers that can hold pointers.
 246   void PushSafepointRegisters() { pushad(); }
 247   void PopSafepointRegisters() { popad(); }
 248   // Store the value in register/immediate src in the safepoint
 249   // register stack slot for register dst.
 250   void StoreToSafepointRegisterSlot(Register dst, Register src);
 251   void StoreToSafepointRegisterSlot(Register dst, Immediate src);
 252   void LoadFromSafepointRegisterSlot(Register dst, Register src);
 253
 254   void LoadHeapObject(Register result, Handle<HeapObject> object);
 255   void CmpHeapObject(Register reg, Handle<HeapObject> object);
 256   void PushHeapObject(Handle<HeapObject> object);
 257
 258   void LoadObject(Register result, Handle<Object> object) {
 259     AllowDeferredHandleDereference heap_object_check;
 260     if (object->IsHeapObject()) {
 261       LoadHeapObject(result, Handle<HeapObject>::cast(object));
 262     } else {
 263       Move(result, Immediate(object));
 264     }
 265   }
 266
 267   void CmpObject(Register reg, Handle<Object> object) {
 268     AllowDeferredHandleDereference heap_object_check;
 269     if (object->IsHeapObject()) {
 270       CmpHeapObject(reg, Handle<HeapObject>::cast(object));
 271     } else {
 272       cmp(reg, Immediate(object));
 273     }
 274   }
 275
 276   void CmpWeakValue(Register value, Handle<WeakCell> cell, Register scratch);
 277   void LoadWeakValue(Register value, Handle<WeakCell> cell, Label* miss);
 278
 279   // ---------------------------------------------------------------------------
 280   // JavaScript invokes
 281
 282   // Invoke the JavaScript function code by either calling or jumping.
 283   void InvokeCode(Register code,
 284                   const ParameterCount& expected,
 285                   const ParameterCount& actual,
 286                   InvokeFlag flag,
 287                   const CallWrapper& call_wrapper) {
 288     InvokeCode(Operand(code), expected, actual, flag, call_wrapper);
 289   }
 290
 291   void InvokeCode(const Operand& code,
 292                   const ParameterCount& expected,
 293                   const ParameterCount& actual,
 294                   InvokeFlag flag,
 295                   const CallWrapper& call_wrapper);
 296
 297   // Invoke the JavaScript function in the given register. Changes the
 298   // current context to the context in the function before invoking.
 299   void InvokeFunction(Register function,
 300                       const ParameterCount& actual,
 301                       InvokeFlag flag,
 302                       const CallWrapper& call_wrapper);
 303
 304   void InvokeFunction(Register function,
 305                       const ParameterCount& expected,
 306                       const ParameterCount& actual,
 307                       InvokeFlag flag,
 308                       const CallWrapper& call_wrapper);
 309
 310   void InvokeFunction(Handle<JSFunction> function,
 311                       const ParameterCount& expected,
 312                       const ParameterCount& actual,
 313                       InvokeFlag flag,
 314                       const CallWrapper& call_wrapper);
 315
 316   // Invoke specified builtin JavaScript function. Adds an entry to
 317   // the unresolved list if the name does not resolve.
 318   void InvokeBuiltin(Builtins::JavaScript id,
 319                      InvokeFlag flag,
 320                      const CallWrapper& call_wrapper = NullCallWrapper());
 321
 322   // Store the function for the given builtin in the target register.
 323   void GetBuiltinFunction(Register target, Builtins::JavaScript id);
 324
 325   // Store the code object for the given builtin in the target register.
 326   void GetBuiltinEntry(Register target, Builtins::JavaScript id);
 327
 328   // Expression support
 329   // Support for constant splitting.
 330   bool IsUnsafeImmediate(const Immediate& x);
 331   void SafeMove(Register dst, const Immediate& x);
 332   void SafePush(const Immediate& x);
 333
 334   // Compare object type for heap object.
 335   // Incoming register is heap_object and outgoing register is map.
 336   void CmpObjectType(Register heap_object, InstanceType type, Register map);
 337
 338   // Compare instance type for map.
 339   void CmpInstanceType(Register map, InstanceType type);
 340
 341   // Check if a map for a JSObject indicates that the object has fast elements.
 342   // Jump to the specified label if it does not.
 343   void CheckFastElements(Register map,
 344                          Label* fail,
 345                          Label::Distance distance = Label::kFar);
 346
 347   // Check if a map for a JSObject indicates that the object can have both smi
 348   // and HeapObject elements.  Jump to the specified label if it does not.
 349   void CheckFastObjectElements(Register map,
 350                                Label* fail,
 351                                Label::Distance distance = Label::kFar);
 352
 353   // Check if a map for a JSObject indicates that the object has fast smi only
 354   // elements.  Jump to the specified label if it does not.
 355   void CheckFastSmiElements(Register map,
 356                             Label* fail,
 357                             Label::Distance distance = Label::kFar);
 358
 359   // Check to see if maybe_number can be stored as a double in
 360   // FastDoubleElements. If it can, store it at the index specified by key in
 361   // the FastDoubleElements array elements, otherwise jump to fail.
 362   void StoreNumberToDoubleElements(Register maybe_number,
 363                                    Register elements,
 364                                    Register key,
 365                                    Register scratch,
 366                                    Label* fail,
 367                                    int offset = 0);
 368
 369   // Compare an object's map with the specified map.
 370   void CompareMap(Register obj, Handle<Map> map);
 371
 372   // Check if the map of an object is equal to a specified map and branch to
 373   // label if not. Skip the smi check if not required (object is known to be a
 374   // heap object). If mode is ALLOW_ELEMENT_TRANSITION_MAPS, then also match
 375   // against maps that are ElementsKind transition maps of the specified map.
 376   void CheckMap(Register obj,
 377                 Handle<Map> map,
 378                 Label* fail,
 379                 SmiCheckType smi_check_type);
 380
 381   // Check if the map of an object is equal to a specified map and branch to a
 382   // specified target if equal. Skip the smi check if not required (object is
 383   // known to be a heap object)
 384   void DispatchMap(Register obj,
 385                    Register unused,
 386                    Handle<Map> map,
 387                    Handle<Code> success,
 388                    SmiCheckType smi_check_type);
 389
 390   // Check if the object in register heap_object is a string. Afterwards the
 391   // register map contains the object map and the register instance_type
 392   // contains the instance_type. The registers map and instance_type can be the
 393   // same in which case it contains the instance type afterwards. Either of the
 394   // registers map and instance_type can be the same as heap_object.
 395   Condition IsObjectStringType(Register heap_object,
 396                                Register map,
 397                                Register instance_type);
 398
 399   // Check if the object in register heap_object is a name. Afterwards the
 400   // register map contains the object map and the register instance_type
 401   // contains the instance_type. The registers map and instance_type can be the
 402   // same in which case it contains the instance type afterwards. Either of the
 403   // registers map and instance_type can be the same as heap_object.
 404   Condition IsObjectNameType(Register heap_object,
 405                              Register map,
 406                              Register instance_type);
 407
 408   // Check if a heap object's type is in the JSObject range, not including
 409   // JSFunction.  The object's map will be loaded in the map register.
 410   // Any or all of the three registers may be the same.
 411   // The contents of the scratch register will always be overwritten.
 412   void IsObjectJSObjectType(Register heap_object,
 413                             Register map,
 414                             Register scratch,
 415                             Label* fail);
 416
 417   // The contents of the scratch register will be overwritten.
 418   void IsInstanceJSObjectType(Register map, Register scratch, Label* fail);
 419
 420   // FCmp is similar to integer cmp, but requires unsigned
 421   // jcc instructions (je, ja, jae, jb, jbe, je, and jz).
 422   void FCmp();
 423   void FXamMinusZero();
 424   void FXamSign();
 425   void X87CheckIA();
 426   void X87SetRC(int rc);
 427   void X87SetFPUCW(int cw);
 428
 429   void ClampUint8(Register reg);
 430   void ClampTOSToUint8(Register result_reg);
 431
 432   void SlowTruncateToI(Register result_reg, Register input_reg,
 433       int offset = HeapNumber::kValueOffset - kHeapObjectTag);
 434
 435   void TruncateHeapNumberToI(Register result_reg, Register input_reg);
 436   void TruncateX87TOSToI(Register result_reg);
 437
 438   void X87TOSToI(Register result_reg, MinusZeroMode minus_zero_mode,
 439       Label* lost_precision, Label* is_nan, Label* minus_zero,
 440       Label::Distance dst = Label::kFar);
 441
 442   // Smi tagging support.
 443   void SmiTag(Register reg) {
 444     STATIC_ASSERT(kSmiTag == 0);
 445     STATIC_ASSERT(kSmiTagSize == 1);
 446     add(reg, reg);
 447   }
 448   void SmiUntag(Register reg) {
 449     sar(reg, kSmiTagSize);
 450   }
 451
 452   // Modifies the register even if it does not contain a Smi!
 453   void SmiUntag(Register reg, Label* is_smi) {
 454     STATIC_ASSERT(kSmiTagSize == 1);
 455     sar(reg, kSmiTagSize);
 456     STATIC_ASSERT(kSmiTag == 0);
 457     j(not_carry, is_smi);
 458   }
 459
 460   void LoadUint32NoSSE2(Register src) {
 461     LoadUint32NoSSE2(Operand(src));
 462   }
 463   void LoadUint32NoSSE2(const Operand& src);
 464
 465   // Jump the register contains a smi.
 466   inline void JumpIfSmi(Register value,
 467                         Label* smi_label,
 468                         Label::Distance distance = Label::kFar) {
 469     test(value, Immediate(kSmiTagMask));
 470     j(zero, smi_label, distance);
 471   }
 472   // Jump if the operand is a smi.
 473   inline void JumpIfSmi(Operand value,
 474                         Label* smi_label,
 475                         Label::Distance distance = Label::kFar) {
 476     test(value, Immediate(kSmiTagMask));
 477     j(zero, smi_label, distance);
 478   }
 479   // Jump if register contain a non-smi.
 480   inline void JumpIfNotSmi(Register value,
 481                            Label* not_smi_label,
 482                            Label::Distance distance = Label::kFar) {
 483     test(value, Immediate(kSmiTagMask));
 484     j(not_zero, not_smi_label, distance);
 485   }
 486
 487   void LoadInstanceDescriptors(Register map, Register descriptors);
 488   void EnumLength(Register dst, Register map);
 489   void NumberOfOwnDescriptors(Register dst, Register map);
 490
 491   template<typename Field>
 492   void DecodeField(Register reg) {
 493     static const int shift = Field::kShift;
 494     static const int mask = Field::kMask >> Field::kShift;
 495     if (shift != 0) {
 496       sar(reg, shift);
 497     }
 498     and_(reg, Immediate(mask));
 499   }
 500
 501   template<typename Field>
 502   void DecodeFieldToSmi(Register reg) {
 503     static const int shift = Field::kShift;
 504     static const int mask = (Field::kMask >> Field::kShift) << kSmiTagSize;
 505     STATIC_ASSERT((mask & (0x80000000u >> (kSmiTagSize - 1))) == 0);
 506     STATIC_ASSERT(kSmiTag == 0);
 507     if (shift < kSmiTagSize) {
 508       shl(reg, kSmiTagSize - shift);
 509     } else if (shift > kSmiTagSize) {
 510       sar(reg, shift - kSmiTagSize);
 511     }
 512     and_(reg, Immediate(mask));
 513   }
 514
 515   // Abort execution if argument is not a number, enabled via --debug-code.
 516   void AssertNumber(Register object);
 517
 518   // Abort execution if argument is not a smi, enabled via --debug-code.
 519   void AssertSmi(Register object);
 520
 521   // Abort execution if argument is a smi, enabled via --debug-code.
 522   void AssertNotSmi(Register object);
 523
 524   // Abort execution if argument is not a string, enabled via --debug-code.
 525   void AssertString(Register object);
 526
 527   // Abort execution if argument is not a name, enabled via --debug-code.
 528   void AssertName(Register object);
 529
 530   // Abort execution if argument is not undefined or an AllocationSite, enabled
 531   // via --debug-code.
 532   void AssertUndefinedOrAllocationSite(Register object);
 533
 534   // ---------------------------------------------------------------------------
 535   // Exception handling
 536
 537   // Push a new try handler and link it into try handler chain.
 538   void PushTryHandler(StackHandler::Kind kind, int handler_index);
 539
 540   // Unlink the stack handler on top of the stack from the try handler chain.
 541   void PopTryHandler();
 542
 543   // Throw to the top handler in the try hander chain.
 544   void Throw(Register value);
 545
 546   // Throw past all JS frames to the top JS entry frame.
 547   void ThrowUncatchable(Register value);
 548
 549   // ---------------------------------------------------------------------------
 550   // Inline caching support
 551
 552   // Generate code for checking access rights - used for security checks
 553   // on access to global objects across environments. The holder register
 554   // is left untouched, but the scratch register is clobbered.
 555   void CheckAccessGlobalProxy(Register holder_reg,
 556                               Register scratch1,
 557                               Register scratch2,
 558                               Label* miss);
 559
 560   void GetNumberHash(Register r0, Register scratch);
 561
 562   void LoadFromNumberDictionary(Label* miss,
 563                                 Register elements,
 564                                 Register key,
 565                                 Register r0,
 566                                 Register r1,
 567                                 Register r2,
 568                                 Register result);
 569
 570
 571   // ---------------------------------------------------------------------------
 572   // Allocation support
 573
 574   // Allocate an object in new space or old pointer space. If the given space
 575   // is exhausted control continues at the gc_required label. The allocated
 576   // object is returned in result and end of the new object is returned in
 577   // result_end. The register scratch can be passed as no_reg in which case
 578   // an additional object reference will be added to the reloc info. The
 579   // returned pointers in result and result_end have not yet been tagged as
 580   // heap objects. If result_contains_top_on_entry is true the content of
 581   // result is known to be the allocation top on entry (could be result_end
 582   // from a previous call). If result_contains_top_on_entry is true scratch
 583   // should be no_reg as it is never used.
 584   void Allocate(int object_size,
 585                 Register result,
 586                 Register result_end,
 587                 Register scratch,
 588                 Label* gc_required,
 589                 AllocationFlags flags);
 590
 591   void Allocate(int header_size,
 592                 ScaleFactor element_size,
 593                 Register element_count,
 594                 RegisterValueType element_count_type,
 595                 Register result,
 596                 Register result_end,
 597                 Register scratch,
 598                 Label* gc_required,
 599                 AllocationFlags flags);
 600
 601   void Allocate(Register object_size,
 602                 Register result,
 603                 Register result_end,
 604                 Register scratch,
 605                 Label* gc_required,
 606                 AllocationFlags flags);
 607
 608   // Undo allocation in new space. The object passed and objects allocated after
 609   // it will no longer be allocated. Make sure that no pointers are left to the
 610   // object(s) no longer allocated as they would be invalid when allocation is
 611   // un-done.
 612   void UndoAllocationInNewSpace(Register object);
 613
 614   // Allocate a heap number in new space with undefined value. The
 615   // register scratch2 can be passed as no_reg; the others must be
 616   // valid registers. Returns tagged pointer in result register, or
 617   // jumps to gc_required if new space is full.
 618   void AllocateHeapNumber(Register result,
 619                           Register scratch1,
 620                           Register scratch2,
 621                           Label* gc_required,
 622                           MutableMode mode = IMMUTABLE);
 623
 624   // Allocate a sequential string. All the header fields of the string object
 625   // are initialized.
 626   void AllocateTwoByteString(Register result,
 627                              Register length,
 628                              Register scratch1,
 629                              Register scratch2,
 630                              Register scratch3,
 631                              Label* gc_required);
 632   void AllocateOneByteString(Register result, Register length,
 633                              Register scratch1, Register scratch2,
 634                              Register scratch3, Label* gc_required);
 635   void AllocateOneByteString(Register result, int length, Register scratch1,
 636                              Register scratch2, Label* gc_required);
 637
 638   // Allocate a raw cons string object. Only the map field of the result is
 639   // initialized.
 640   void AllocateTwoByteConsString(Register result,
 641                           Register scratch1,
 642                           Register scratch2,
 643                           Label* gc_required);
 644   void AllocateOneByteConsString(Register result, Register scratch1,
 645                                  Register scratch2, Label* gc_required);
 646
 647   // Allocate a raw sliced string object. Only the map field of the result is
 648   // initialized.
 649   void AllocateTwoByteSlicedString(Register result,
 650                             Register scratch1,
 651                             Register scratch2,
 652                             Label* gc_required);
 653   void AllocateOneByteSlicedString(Register result, Register scratch1,
 654                                    Register scratch2, Label* gc_required);
 655
 656   // Copy memory, byte-by-byte, from source to destination.  Not optimized for
 657   // long or aligned copies.
 658   // The contents of index and scratch are destroyed.
 659   void CopyBytes(Register source,
 660                  Register destination,
 661                  Register length,
 662                  Register scratch);
 663
 664   // Initialize fields with filler values.  Fields starting at |start_offset|
 665   // not including end_offset are overwritten with the value in |filler|.  At
 666   // the end the loop, |start_offset| takes the value of |end_offset|.
 667   void InitializeFieldsWithFiller(Register start_offset,
 668                                   Register end_offset,
 669                                   Register filler);
 670
 671   // ---------------------------------------------------------------------------
 672   // Support functions.
 673
 674   // Check a boolean-bit of a Smi field.
 675   void BooleanBitTest(Register object, int field_offset, int bit_index);
 676
 677   // Check if result is zero and op is negative.
 678   void NegativeZeroTest(Register result, Register op, Label* then_label);
 679
 680   // Check if result is zero and any of op1 and op2 are negative.
 681   // Register scratch is destroyed, and it must be different from op2.
 682   void NegativeZeroTest(Register result, Register op1, Register op2,
 683                         Register scratch, Label* then_label);
 684
 685   // Try to get function prototype of a function and puts the value in
 686   // the result register. Checks that the function really is a
 687   // function and jumps to the miss label if the fast checks fail. The
 688   // function register will be untouched; the other registers may be
 689   // clobbered.
 690   void TryGetFunctionPrototype(Register function,
 691                                Register result,
 692                                Register scratch,
 693                                Label* miss,
 694                                bool miss_on_bound_function = false);
 695
 696   // Picks out an array index from the hash field.
 697   // Register use:
 698   //   hash - holds the index's hash. Clobbered.
 699   //   index - holds the overwritten index on exit.
 700   void IndexFromHash(Register hash, Register index);
 701
 702   // ---------------------------------------------------------------------------
 703   // Runtime calls
 704
 705   // Call a code stub.  Generate the code if necessary.
 706   void CallStub(CodeStub* stub, TypeFeedbackId ast_id = TypeFeedbackId::None());
 707
 708   // Tail call a code stub (jump).  Generate the code if necessary.
 709   void TailCallStub(CodeStub* stub);
 710
 711   // Return from a code stub after popping its arguments.
 712   void StubReturn(int argc);
 713
 714   // Call a runtime routine.
 715   void CallRuntime(const Runtime::Function* f, int num_arguments,
 716                    SaveFPRegsMode save_doubles = kDontSaveFPRegs);
 717   void CallRuntimeSaveDoubles(Runtime::FunctionId id) {
 718     const Runtime::Function* function = Runtime::FunctionForId(id);
 719     CallRuntime(function, function->nargs, kSaveFPRegs);
 720   }
 721
 722   // Convenience function: Same as above, but takes the fid instead.
 723   void CallRuntime(Runtime::FunctionId id, int num_arguments,
 724                    SaveFPRegsMode save_doubles = kDontSaveFPRegs) {
 725     CallRuntime(Runtime::FunctionForId(id), num_arguments, save_doubles);
 726   }
 727
 728   // Convenience function: call an external reference.
 729   void CallExternalReference(ExternalReference ref, int num_arguments);
 730
 731   // Tail call of a runtime routine (jump).
 732   // Like JumpToExternalReference, but also takes care of passing the number
 733   // of parameters.
 734   void TailCallExternalReference(const ExternalReference& ext,
 735                                  int num_arguments,
 736                                  int result_size);
 737
 738   // Convenience function: tail call a runtime routine (jump).
 739   void TailCallRuntime(Runtime::FunctionId fid,
 740                        int num_arguments,
 741                        int result_size);
 742
 743   // Before calling a C-function from generated code, align arguments on stack.
 744   // After aligning the frame, arguments must be stored in esp[0], esp[4],
 745   // etc., not pushed. The argument count assumes all arguments are word sized.
 746   // Some compilers/platforms require the stack to be aligned when calling
 747   // C++ code.
 748   // Needs a scratch register to do some arithmetic. This register will be
 749   // trashed.
 750   void PrepareCallCFunction(int num_arguments, Register scratch);
 751
 752   // Calls a C function and cleans up the space for arguments allocated
 753   // by PrepareCallCFunction. The called function is not allowed to trigger a
 754   // garbage collection, since that might move the code and invalidate the
 755   // return address (unless this is somehow accounted for by the called
 756   // function).
 757   void CallCFunction(ExternalReference function, int num_arguments);
 758   void CallCFunction(Register function, int num_arguments);
 759
 760   // Prepares stack to put arguments (aligns and so on). Reserves
 761   // space for return value if needed (assumes the return value is a handle).
 762   // Arguments must be stored in ApiParameterOperand(0), ApiParameterOperand(1)
 763   // etc. Saves context (esi). If space was reserved for return value then
 764   // stores the pointer to the reserved slot into esi.
 765   void PrepareCallApiFunction(int argc);
 766
 767   // Calls an API function.  Allocates HandleScope, extracts returned value
 768   // from handle and propagates exceptions.  Clobbers ebx, edi and
 769   // caller-save registers.  Restores context.  On return removes
 770   // stack_space * kPointerSize (GCed).
 771   void CallApiFunctionAndReturn(Register function_address,
 772                                 ExternalReference thunk_ref,
 773                                 Operand thunk_last_arg,
 774                                 int stack_space,
 775                                 Operand return_value_operand,
 776                                 Operand* context_restore_operand);
 777
 778   // Jump to a runtime routine.
 779   void JumpToExternalReference(const ExternalReference& ext);
 780
 781   // ---------------------------------------------------------------------------
 782   // Utilities
 783
 784   void Ret();
 785
 786   // Return and drop arguments from stack, where the number of arguments
 787   // may be bigger than 2^16 - 1.  Requires a scratch register.
 788   void Ret(int bytes_dropped, Register scratch);
 789
 790   // Emit code to discard a non-negative number of pointer-sized elements
 791   // from the stack, clobbering only the esp register.
 792   void Drop(int element_count);
 793
 794   void Call(Label* target) { call(target); }
 795   void Push(Register src) { push(src); }
 796   void Pop(Register dst) { pop(dst); }
 797
 798   // Emit call to the code we are currently generating.
 799   void CallSelf() {
 800     Handle<Code> self(reinterpret_cast<Code**>(CodeObject().location()));
 801     call(self, RelocInfo::CODE_TARGET);
 802   }
 803
 804   // Move if the registers are not identical.
 805   void Move(Register target, Register source);
 806
 807   // Move a constant into a destination using the most efficient encoding.
 808   void Move(Register dst, const Immediate& x);
 809   void Move(const Operand& dst, const Immediate& x);
 810
 811   // Push a handle value.
 812   void Push(Handle<Object> handle) { push(Immediate(handle)); }
 813   void Push(Smi* smi) { Push(Handle<Smi>(smi, isolate())); }
 814
 815   Handle<Object> CodeObject() {
 816     DCHECK(!code_object_.is_null());
 817     return code_object_;
 818   }
 819
 820   // Insert code to verify that the x87 stack has the specified depth (0-7)
 821   void VerifyX87StackDepth(uint32_t depth);
 822
 823   // Emit code for a truncating division by a constant. The dividend register is
 824   // unchanged, the result is in edx, and eax gets clobbered.
 825   void TruncatingDiv(Register dividend, int32_t divisor);
 826
 827   // ---------------------------------------------------------------------------
 828   // StatsCounter support
 829
 830   void SetCounter(StatsCounter* counter, int value);
 831   void IncrementCounter(StatsCounter* counter, int value);
 832   void DecrementCounter(StatsCounter* counter, int value);
 833   void IncrementCounter(Condition cc, StatsCounter* counter, int value);
 834   void DecrementCounter(Condition cc, StatsCounter* counter, int value);
 835
 836
 837   // ---------------------------------------------------------------------------
 838   // Debugging
 839
 840   // Calls Abort(msg) if the condition cc is not satisfied.
 841   // Use --debug_code to enable.
 842   void Assert(Condition cc, BailoutReason reason);
 843
 844   void AssertFastElements(Register elements);
 845
 846   // Like Assert(), but always enabled.
 847   void Check(Condition cc, BailoutReason reason);
 848
 849   // Print a message to stdout and abort execution.
 850   void Abort(BailoutReason reason);
 851
 852   // Check that the stack is aligned.
 853   void CheckStackAlignment();
 854
 855   // Verify restrictions about code generated in stubs.
 856   void set_generating_stub(bool value) { generating_stub_ = value; }
 857   bool generating_stub() { return generating_stub_; }
 858   void set_has_frame(bool value) { has_frame_ = value; }
 859   bool has_frame() { return has_frame_; }
 860   inline bool AllowThisStubCall(CodeStub* stub);
 861
 862   // ---------------------------------------------------------------------------
 863   // String utilities.
 864
 865   // Generate code to do a lookup in the number string cache. If the number in
 866   // the register object is found in the cache the generated code falls through
 867   // with the result in the result register. The object and the result register
 868   // can be the same. If the number is not found in the cache the code jumps to
 869   // the label not_found with only the content of register object unchanged.
 870   void LookupNumberStringCache(Register object,
 871                                Register result,
 872                                Register scratch1,
 873                                Register scratch2,
 874                                Label* not_found);
 875
 876   // Check whether the instance type represents a flat one-byte string. Jump to
 877   // the label if not. If the instance type can be scratched specify same
 878   // register for both instance type and scratch.
 879   void JumpIfInstanceTypeIsNotSequentialOneByte(
 880       Register instance_type, Register scratch,
 881       Label* on_not_flat_one_byte_string);
 882
 883   // Checks if both objects are sequential one-byte strings, and jumps to label
 884   // if either is not.
 885   void JumpIfNotBothSequentialOneByteStrings(
 886       Register object1, Register object2, Register scratch1, Register scratch2,
 887       Label* on_not_flat_one_byte_strings);
 888
 889   // Checks if the given register or operand is a unique name
 890   void JumpIfNotUniqueNameInstanceType(Register reg, Label* not_unique_name,
 891                                        Label::Distance distance = Label::kFar) {
 892     JumpIfNotUniqueNameInstanceType(Operand(reg), not_unique_name, distance);
 893   }
 894
 895   void JumpIfNotUniqueNameInstanceType(Operand operand, Label* not_unique_name,
 896                                        Label::Distance distance = Label::kFar);
 897
 898   void EmitSeqStringSetCharCheck(Register string,
 899                                  Register index,
 900                                  Register value,
 901                                  uint32_t encoding_mask);
 902
 903   static int SafepointRegisterStackIndex(Register reg) {
 904     return SafepointRegisterStackIndex(reg.code());
 905   }
 906
 907   // Activation support.
 908   void EnterFrame(StackFrame::Type type);
 909   void EnterFrame(StackFrame::Type type, bool load_constant_pool_pointer_reg);
 910   void LeaveFrame(StackFrame::Type type);
 911
 912   // Expects object in eax and returns map with validated enum cache
 913   // in eax.  Assumes that any other register can be used as a scratch.
 914   void CheckEnumCache(Label* call_runtime);
 915
 916   // AllocationMemento support. Arrays may have an associated
 917   // AllocationMemento object that can be checked for in order to pretransition
 918   // to another type.
 919   // On entry, receiver_reg should point to the array object.
 920   // scratch_reg gets clobbered.
 921   // If allocation info is present, conditional code is set to equal.
 922   void TestJSArrayForAllocationMemento(Register receiver_reg,
 923                                        Register scratch_reg,
 924                                        Label* no_memento_found);
 925
 926   void JumpIfJSArrayHasAllocationMemento(Register receiver_reg,
 927                                          Register scratch_reg,
 928                                          Label* memento_found) {
 929     Label no_memento_found;
 930     TestJSArrayForAllocationMemento(receiver_reg, scratch_reg,
 931                                     &no_memento_found);
 932     j(equal, memento_found);
 933     bind(&no_memento_found);
 934   }
 935
 936   // Jumps to found label if a prototype map has dictionary elements.
 937   void JumpIfDictionaryInPrototypeChain(Register object, Register scratch0,
 938                                         Register scratch1, Label* found);
 939
 940  private:
 941   bool generating_stub_;
 942   bool has_frame_;
 943   // This handle will be patched with the code object on installation.
 944   Handle<Object> code_object_;
 945
 946   // Helper functions for generating invokes.
 947   void InvokePrologue(const ParameterCount& expected,
 948                       const ParameterCount& actual,
 949                       Handle<Code> code_constant,
 950                       const Operand& code_operand,
 951                       Label* done,
 952                       bool* definitely_mismatches,
 953                       InvokeFlag flag,
 954                       Label::Distance done_distance,
 955                       const CallWrapper& call_wrapper = NullCallWrapper());
 956
 957   void EnterExitFramePrologue();
 958   void EnterExitFrameEpilogue(int argc, bool save_doubles);
 959
 960   void LeaveExitFrameEpilogue(bool restore_context);
 961
 962   // Allocation support helpers.
 963   void LoadAllocationTopHelper(Register result,
 964                                Register scratch,
 965                                AllocationFlags flags);
 966
 967   void UpdateAllocationTopHelper(Register result_end,
 968                                  Register scratch,
 969                                  AllocationFlags flags);
 970
 971   // Helper for implementing JumpIfNotInNewSpace and JumpIfInNewSpace.
 972   void InNewSpace(Register object,
 973                   Register scratch,
 974                   Condition cc,
 975                   Label* condition_met,
 976                   Label::Distance condition_met_distance = Label::kFar);
 977
 978   // Helper for finding the mark bits for an address.  Afterwards, the
 979   // bitmap register points at the word with the mark bits and the mask
 980   // the position of the first bit.  Uses ecx as scratch and leaves addr_reg
 981   // unchanged.
 982   inline void GetMarkBits(Register addr_reg,
 983                           Register bitmap_reg,
 984                           Register mask_reg);
 985
 986   // Helper for throwing exceptions.  Compute a handler address and jump to
 987   // it.  See the implementation for register usage.
 988   void JumpToHandlerEntry();
 989
 990   // Compute memory operands for safepoint stack slots.
 991   Operand SafepointRegisterSlot(Register reg);
 992   static int SafepointRegisterStackIndex(int reg_code);
 993
 994   // Needs access to SafepointRegisterStackIndex for compiled frame
 995   // traversal.
 996   friend class StandardFrame;
 997 };
 998
 999
1000 // The code patcher is used to patch (typically) small parts of code e.g. for
1001 // debugging and other types of instrumentation. When using the code patcher
1002 // the exact number of bytes specified must be emitted. Is not legal to emit
1003 // relocation information. If any of these constraints are violated it causes
1004 // an assertion.
1005 class CodePatcher {
1006  public:
1007   CodePatcher(byte* address, int size);
1008   virtual ~CodePatcher();
1009
1010   // Macro assembler to emit code.
1011   MacroAssembler* masm() { return &masm_; }
1012
1013  private:
1014   byte* address_;  // The address of the code being patched.
1015   int size_;  // Number of bytes of the expected patch size.
1016   MacroAssembler masm_;  // Macro assembler used to generate the code.
1017 };
1018
1019
1020 // -----------------------------------------------------------------------------
1021 // Static helper functions.
1022
1023 // Generate an Operand for loading a field from an object.
1024 inline Operand FieldOperand(Register object, int offset) {
1025   return Operand(object, offset - kHeapObjectTag);
1026 }
1027
1028
1029 // Generate an Operand for loading an indexed field from an object.
1030 inline Operand FieldOperand(Register object,
1031                             Register index,
1032                             ScaleFactor scale,
1033                             int offset) {
1034   return Operand(object, index, scale, offset - kHeapObjectTag);
1035 }
1036
1037
1038 inline Operand FixedArrayElementOperand(Register array,
1039                                         Register index_as_smi,
1040                                         int additional_offset = 0) {
1041   int offset = FixedArray::kHeaderSize + additional_offset * kPointerSize;
1042   return FieldOperand(array, index_as_smi, times_half_pointer_size, offset);
1043 }
1044
1045
1046 inline Operand ContextOperand(Register context, int index) {
1047   return Operand(context, Context::SlotOffset(index));
1048 }
1049
1050
1051 inline Operand GlobalObjectOperand() {
1052   return ContextOperand(esi, Context::GLOBAL_OBJECT_INDEX);
1053 }
1054
1055
1056 // Generates an Operand for saving parameters after PrepareCallApiFunction.
1057 Operand ApiParameterOperand(int index);
1058
1059
1060 #ifdef GENERATED_CODE_COVERAGE
1061 extern void LogGeneratedCodeCoverage(const char* file_line);
1062 #define CODE_COVERAGE_STRINGIFY(x) #x
1063 #define CODE_COVERAGE_TOSTRING(x) CODE_COVERAGE_STRINGIFY(x)
1064 #define __FILE_LINE__ __FILE__ ":" CODE_COVERAGE_TOSTRING(__LINE__)
1065 #define ACCESS_MASM(masm) {                                               \
1066     byte* ia32_coverage_function =                                        \
1067         reinterpret_cast<byte*>(FUNCTION_ADDR(LogGeneratedCodeCoverage)); \
1068     masm->pushfd();                                                       \
1069     masm->pushad();                                                       \
1070     masm->push(Immediate(reinterpret_cast<int>(&__FILE_LINE__)));         \
1071     masm->call(ia32_coverage_function, RelocInfo::RUNTIME_ENTRY);         \
1072     masm->pop(eax);                                                       \
1073     masm->popad();                                                        \
1074     masm->popfd();                                                        \
1075   }                                                                       \
1076   masm->
1077 #else
1078 #define ACCESS_MASM(masm) masm->
1079 #endif
1080
1081
1082 } }  // namespace v8::internal
1083
1084 #endif  // V8_X87_MACRO_ASSEMBLER_X87_H_