iflags: Add IF_EVEX for checking {evex} availability
[platform/upstream/nasm.git] / nasm.h
1 /* ----------------------------------------------------------------------- *
2  *   
3  *   Copyright 1996-2013 The NASM Authors - All Rights Reserved
4  *   See the file AUTHORS included with the NASM distribution for
5  *   the specific copyright holders.
6  *
7  *   Redistribution and use in source and binary forms, with or without
8  *   modification, are permitted provided that the following
9  *   conditions are met:
10  *
11  *   * Redistributions of source code must retain the above copyright
12  *     notice, this list of conditions and the following disclaimer.
13  *   * Redistributions in binary form must reproduce the above
14  *     copyright notice, this list of conditions and the following
15  *     disclaimer in the documentation and/or other materials provided
16  *     with the distribution.
17  *     
18  *     THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND
19  *     CONTRIBUTORS "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES,
20  *     INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF
21  *     MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
22  *     DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR
23  *     CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
24  *     SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
25  *     NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
26  *     LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  *     HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
28  *     CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
29  *     OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE,
30  *     EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
31  *
32  * ----------------------------------------------------------------------- */
33
34 /* 
35  * nasm.h   main header file for the Netwide Assembler: inter-module interface
36  */
37
38 #ifndef NASM_NASM_H
39 #define NASM_NASM_H
40
41 #include "compiler.h"
42
43 #include <stdio.h>
44 #include <inttypes.h>
45 #include "nasmlib.h"
46 #include "preproc.h"
47 #include "insnsi.h"     /* For enum opcode */
48 #include "directiv.h"   /* For enum directive */
49 #include "opflags.h"
50 #include "regs.h"
51
52 #define NO_SEG -1L              /* null segment value */
53 #define SEG_ABS 0x40000000L     /* mask for far-absolute segments */
54
55 #ifndef FILENAME_MAX
56 #define FILENAME_MAX 256
57 #endif
58
59 #ifndef PREFIX_MAX
60 #define PREFIX_MAX 10
61 #endif
62
63 #ifndef POSTFIX_MAX
64 #define POSTFIX_MAX 10
65 #endif
66
67 #define IDLEN_MAX 4096
68
69 /*
70  * Name pollution problems: <time.h> on Digital UNIX pulls in some
71  * strange hardware header file which sees fit to define R_SP. We
72  * undefine it here so as not to break the enum below.
73  */
74 #ifdef R_SP
75 #undef R_SP
76 #endif
77
78 /*
79  * We must declare the existence of this structure type up here,
80  * since we have to reference it before we define it...
81  */
82 struct ofmt;
83
84 /*
85  * Values for the `type' parameter to an output function.
86  *
87  * Exceptions are OUT_RELxADR, which denote an x-byte relocation
88  * which will be a relative jump. For this we need to know the
89  * distance in bytes from the start of the relocated record until
90  * the end of the containing instruction. _This_ is what is stored
91  * in the size part of the parameter, in this case.
92  *
93  * Also OUT_RESERVE denotes reservation of N bytes of BSS space,
94  * and the contents of the "data" parameter is irrelevant.
95  *
96  * The "data" parameter for the output function points to a "int32_t",
97  * containing the address in question, unless the type is
98  * OUT_RAWDATA, in which case it points to an "uint8_t"
99  * array.
100  */
101 enum out_type {
102     OUT_RAWDATA,    /* Plain bytes */
103     OUT_ADDRESS,    /* An address (symbol value) */
104     OUT_RESERVE,    /* Reserved bytes (RESB et al) */
105     OUT_REL1ADR,    /* 1-byte relative address */
106     OUT_REL2ADR,    /* 2-byte relative address */
107     OUT_REL4ADR,    /* 4-byte relative address */
108     OUT_REL8ADR,    /* 8-byte relative address */
109 };
110
111 /*
112  * A label-lookup function.
113  */
114 typedef bool (*lfunc)(char *label, int32_t *segment, int64_t *offset);
115
116 /*
117  * And a label-definition function. The boolean parameter
118  * `is_norm' states whether the label is a `normal' label (which
119  * should affect the local-label system), or something odder like
120  * an EQU or a segment-base symbol, which shouldn't.
121  */
122 typedef void (*ldfunc)(char *label, int32_t segment, int64_t offset,
123                        char *special, bool is_norm, bool isextrn);
124
125 void define_label(char *label, int32_t segment, int64_t offset,
126                   char *special, bool is_norm, bool isextrn);
127
128 /*
129  * List-file generators should look like this:
130  */
131 typedef struct {
132     /*
133      * Called to initialize the listing file generator. Before this
134      * is called, the other routines will silently do nothing when
135      * called. The `char *' parameter is the file name to write the
136      * listing to.
137      */
138     void (*init)(char *fname, efunc error);
139
140     /*
141      * Called to clear stuff up and close the listing file.
142      */
143     void (*cleanup)(void);
144
145     /*
146      * Called to output binary data. Parameters are: the offset;
147      * the data; the data type. Data types are similar to the
148      * output-format interface, only OUT_ADDRESS will _always_ be
149      * displayed as if it's relocatable, so ensure that any non-
150      * relocatable address has been converted to OUT_RAWDATA by
151      * then. Note that OUT_RAWDATA,0 is a valid data type, and is a
152      * dummy call used to give the listing generator an offset to
153      * work with when doing things like uplevel(LIST_TIMES) or
154      * uplevel(LIST_INCBIN).
155      */
156     void (*output)(int32_t offset, const void *data, enum out_type type, uint64_t size);
157
158     /*
159      * Called to send a text line to the listing generator. The
160      * `int' parameter is LIST_READ or LIST_MACRO depending on
161      * whether the line came directly from an input file or is the
162      * result of a multi-line macro expansion.
163      */
164     void (*line)(int type, char *line);
165
166     /*
167      * Called to change one of the various levelled mechanisms in
168      * the listing generator. LIST_INCLUDE and LIST_MACRO can be
169      * used to increase the nesting level of include files and
170      * macro expansions; LIST_TIMES and LIST_INCBIN switch on the
171      * two binary-output-suppression mechanisms for large-scale
172      * pseudo-instructions.
173      *
174      * LIST_MACRO_NOLIST is synonymous with LIST_MACRO except that
175      * it indicates the beginning of the expansion of a `nolist'
176      * macro, so anything under that level won't be expanded unless
177      * it includes another file.
178      */
179     void (*uplevel)(int type);
180
181     /*
182      * Reverse the effects of uplevel.
183      */
184     void (*downlevel)(int type);
185
186     /*
187      * Called on a warning or error, with the error message.
188      */
189     void (*error)(int severity, const char *pfx, const char *msg);
190 } ListGen;
191
192 /*
193  * Token types returned by the scanner, in addition to ordinary
194  * ASCII character values, and zero for end-of-string.
195  */
196 enum token_type { /* token types, other than chars */
197     TOKEN_INVALID = -1, /* a placeholder value */
198     TOKEN_EOS = 0,      /* end of string */
199     TOKEN_EQ = '=',
200     TOKEN_GT = '>',
201     TOKEN_LT = '<',     /* aliases */
202     TOKEN_ID = 256,     /* identifier */
203     TOKEN_NUM,          /* numeric constant */
204     TOKEN_ERRNUM,       /* malformed numeric constant */
205     TOKEN_STR,          /* string constant */
206     TOKEN_ERRSTR,       /* unterminated string constant */
207     TOKEN_FLOAT,        /* floating-point constant */
208     TOKEN_REG,          /* register name */
209     TOKEN_INSN,         /* instruction name */
210     TOKEN_HERE,         /* $ */
211     TOKEN_BASE,         /* $$ */
212     TOKEN_SPECIAL,      /* BYTE, WORD, DWORD, QWORD, FAR, NEAR, etc */
213     TOKEN_PREFIX,       /* A32, O16, LOCK, REPNZ, TIMES, etc */
214     TOKEN_SHL,          /* << */
215     TOKEN_SHR,          /* >> */
216     TOKEN_SDIV,         /* // */
217     TOKEN_SMOD,         /* %% */
218     TOKEN_GE,           /* >= */
219     TOKEN_LE,           /* <= */
220     TOKEN_NE,           /* <> (!= is same as <>) */
221     TOKEN_DBL_AND,      /* && */
222     TOKEN_DBL_OR,       /* || */
223     TOKEN_DBL_XOR,      /* ^^ */
224     TOKEN_SEG,          /* SEG */
225     TOKEN_WRT,          /* WRT */
226     TOKEN_FLOATIZE,     /* __floatX__ */
227     TOKEN_STRFUNC,      /* __utf16*__, __utf32*__ */
228     TOKEN_IFUNC,        /* __ilog2*__ */
229     TOKEN_DECORATOR,    /* decorators such as {...} */
230     TOKEN_OPMASK,       /* translated token for opmask registers */
231 };
232
233 enum floatize {
234     FLOAT_8,
235     FLOAT_16,
236     FLOAT_32,
237     FLOAT_64,
238     FLOAT_80M,
239     FLOAT_80E,
240     FLOAT_128L,
241     FLOAT_128H,
242 };
243
244 /* Must match the list in string_transform(), in strfunc.c */
245 enum strfunc {
246     STRFUNC_UTF16,
247     STRFUNC_UTF16LE,
248     STRFUNC_UTF16BE,
249     STRFUNC_UTF32,
250     STRFUNC_UTF32LE,
251     STRFUNC_UTF32BE,
252 };
253
254 enum ifunc {
255     IFUNC_ILOG2E,
256     IFUNC_ILOG2W,
257     IFUNC_ILOG2F,
258     IFUNC_ILOG2C,
259 };
260
261 size_t string_transform(char *, size_t, char **, enum strfunc);
262
263 /*
264  * The expression evaluator must be passed a scanner function; a
265  * standard scanner is provided as part of nasmlib.c. The
266  * preprocessor will use a different one. Scanners, and the
267  * token-value structures they return, look like this.
268  *
269  * The return value from the scanner is always a copy of the
270  * `t_type' field in the structure.
271  */
272 struct tokenval {
273     char                *t_charptr;
274     int64_t             t_integer;
275     int64_t             t_inttwo;
276     enum token_type     t_type;
277     int8_t              t_flag;
278 };
279 typedef int (*scanner)(void *private_data, struct tokenval *tv);
280
281 struct location {
282     int64_t offset;
283     int32_t segment;
284     int     known;
285 };
286
287 /*
288  * Expression-evaluator datatype. Expressions, within the
289  * evaluator, are stored as an array of these beasts, terminated by
290  * a record with type==0. Mostly, it's a vector type: each type
291  * denotes some kind of a component, and the value denotes the
292  * multiple of that component present in the expression. The
293  * exception is the WRT type, whose `value' field denotes the
294  * segment to which the expression is relative. These segments will
295  * be segment-base types, i.e. either odd segment values or SEG_ABS
296  * types. So it is still valid to assume that anything with a
297  * `value' field of zero is insignificant.
298  */
299 typedef struct {
300     int32_t type;                  /* a register, or EXPR_xxx */
301     int64_t value;                 /* must be >= 32 bits */
302 } expr;
303
304 /*
305  * Library routines to manipulate expression data types.
306  */
307 int is_reloc(expr *vect);
308 int is_simple(expr *vect);
309 int is_really_simple(expr *vect);
310 int is_unknown(expr *vect);
311 int is_just_unknown(expr *vect);
312 int64_t reloc_value(expr *vect);
313 int32_t reloc_seg(expr *vect);
314 int32_t reloc_wrt(expr *vect);
315
316 /*
317  * The evaluator can also return hints about which of two registers
318  * used in an expression should be the base register. See also the
319  * `operand' structure.
320  */
321 struct eval_hints {
322     int64_t base;
323     int     type;
324 };
325
326 /*
327  * The actual expression evaluator function looks like this. When
328  * called, it expects the first token of its expression to already
329  * be in `*tv'; if it is not, set tv->t_type to TOKEN_INVALID and
330  * it will start by calling the scanner.
331  *
332  * If a forward reference happens during evaluation, the evaluator
333  * must set `*fwref' to true if `fwref' is non-NULL.
334  *
335  * `critical' is non-zero if the expression may not contain forward
336  * references. The evaluator will report its own error if this
337  * occurs; if `critical' is 1, the error will be "symbol not
338  * defined before use", whereas if `critical' is 2, the error will
339  * be "symbol undefined".
340  *
341  * If `critical' has bit 8 set (in addition to its main value: 0x101
342  * and 0x102 correspond to 1 and 2) then an extended expression
343  * syntax is recognised, in which relational operators such as =, <
344  * and >= are accepted, as well as low-precedence logical operators
345  * &&, ^^ and ||.
346  *
347  * If `hints' is non-NULL, it gets filled in with some hints as to
348  * the base register in complex effective addresses.
349  */
350 #define CRITICAL 0x100
351 typedef expr *(*evalfunc)(scanner sc, void *scprivate,
352                           struct tokenval *tv, int *fwref, int critical,
353                           efunc error, struct eval_hints *hints);
354
355 /*
356  * Special values for expr->type.
357  * These come after EXPR_REG_END as defined in regs.h.
358  * Expr types : 0 ~ EXPR_REG_END, EXPR_UNKNOWN, EXPR_...., EXPR_RDSAE,
359  *              EXPR_SEGBASE ~ EXPR_SEGBASE + SEG_ABS, ...
360  */
361 #define EXPR_UNKNOWN    (EXPR_REG_END+1) /* forward references */
362 #define EXPR_SIMPLE     (EXPR_REG_END+2)
363 #define EXPR_WRT        (EXPR_REG_END+3)
364 #define EXPR_RDSAE      (EXPR_REG_END+4)
365 #define EXPR_SEGBASE    (EXPR_REG_END+5)
366
367 /*
368  * Linked list of strings
369  */
370 typedef struct string_list {
371     struct string_list  *next;
372     char                str[1];
373 } StrList;
374
375 /*
376  * preprocessors ought to look like this:
377  */
378 struct preproc_ops {
379     /*
380      * Called at the start of a pass; given a file name, the number
381      * of the pass, an error reporting function, an evaluator
382      * function, and a listing generator to talk to.
383      */
384     void (*reset)(char *file, int pass, ListGen *listgen, StrList **deplist);
385
386     /*
387      * Called to fetch a line of preprocessed source. The line
388      * returned has been malloc'ed, and so should be freed after
389      * use.
390      */
391     char *(*getline)(void);
392
393     /* Called at the end of a pass */
394     void (*cleanup)(int pass);
395
396     /* Additional macros specific to output format */
397     void (*extra_stdmac)(macros_t *macros);
398
399     /* Early definitions and undefinitions for macros */
400     void (*pre_define)(char *definition);
401     void (*pre_undefine)(char *definition);
402
403     /* Include file from command line */
404     void (*pre_include)(char *fname);
405
406     /* Include path from command line */
407     void (*include_path)(char *path);
408 };
409
410 extern struct preproc_ops nasmpp;
411 extern struct preproc_ops preproc_nop;
412
413 /*
414  * Some lexical properties of the NASM source language, included
415  * here because they are shared between the parser and preprocessor.
416  */
417
418 /*
419  * isidstart matches any character that may start an identifier, and isidchar
420  * matches any character that may appear at places other than the start of an
421  * identifier. E.g. a period may only appear at the start of an identifier
422  * (for local labels), whereas a number may appear anywhere *but* at the
423  * start.
424  */
425
426 #define isidstart(c) (nasm_isalpha(c)   ||  \
427                       (c) == '_'        ||  \
428                       (c) == '.'        ||  \
429                       (c) == '?'        ||  \
430                       (c) == '@')
431
432 #define isidchar(c) (isidstart(c)       ||  \
433                      nasm_isdigit(c)    ||  \
434                      (c) == '$'         ||  \
435                      (c) == '#'         ||  \
436                      (c) == '~')
437
438 /* Ditto for numeric constants. */
439
440 #define isnumstart(c)  (nasm_isdigit(c) || (c) == '$')
441 #define isnumchar(c)   (nasm_isalnum(c) || (c) == '_')
442
443 /*
444  * Data-type flags that get passed to listing-file routines.
445  */
446 enum {
447     LIST_READ,
448     LIST_MACRO,
449     LIST_MACRO_NOLIST,
450     LIST_INCLUDE,
451     LIST_INCBIN,
452     LIST_TIMES
453 };
454
455 /*
456  * -----------------------------------------------------------
457  * Format of the `insn' structure returned from `parser.c' and
458  * passed into `assemble.c'
459  * -----------------------------------------------------------
460  */
461
462 /* Verify value to be a valid register */
463 static inline bool is_register(int reg)
464 {
465     return reg >= EXPR_REG_START && reg < REG_ENUM_LIMIT;
466 }
467
468 enum ccode { /* condition code names */
469     C_A, C_AE, C_B, C_BE, C_C, C_E, C_G, C_GE, C_L, C_LE, C_NA, C_NAE,
470     C_NB, C_NBE, C_NC, C_NE, C_NG, C_NGE, C_NL, C_NLE, C_NO, C_NP,
471     C_NS, C_NZ, C_O, C_P, C_PE, C_PO, C_S, C_Z,
472     C_none = -1
473 };
474
475 /*
476  * token flags
477  */
478 #define TFLAG_BRC       (1 << 0)    /* valid only with braces. {1to8}, {rd-sae}, ...*/
479 #define TFLAG_BRC_OPT   (1 << 1)    /* may or may not have braces. opmasks {k1} */
480 #define TFLAG_BRC_ANY   (TFLAG_BRC | TFLAG_BRC_OPT)
481 #define TFLAG_BRDCAST   (1 << 2)    /* broadcasting decorator */
482
483 static inline uint8_t get_cond_opcode(enum ccode c)
484 {
485     static const uint8_t ccode_opcodes[] = {
486         0x7, 0x3, 0x2, 0x6, 0x2, 0x4, 0xf, 0xd, 0xc, 0xe, 0x6, 0x2,
487         0x3, 0x7, 0x3, 0x5, 0xe, 0xc, 0xd, 0xf, 0x1, 0xb, 0x9, 0x5,
488         0x0, 0xa, 0xa, 0xb, 0x8, 0x4
489     };
490
491         return ccode_opcodes[(int)c];
492 }
493
494 /*
495  * REX flags
496  */
497 #define REX_REAL    0x4f    /* Actual REX prefix bits */
498 #define REX_B       0x01    /* ModRM r/m extension */
499 #define REX_X       0x02    /* SIB index extension */
500 #define REX_R       0x04    /* ModRM reg extension */
501 #define REX_W       0x08    /* 64-bit operand size */
502 #define REX_L       0x20    /* Use LOCK prefix instead of REX.R */
503 #define REX_P       0x40    /* REX prefix present/required */
504 #define REX_H       0x80    /* High register present, REX forbidden */
505 #define REX_V       0x0100  /* Instruction uses VEX/XOP instead of REX */
506 #define REX_NH      0x0200  /* Instruction which doesn't use high regs */
507 #define REX_EV      0x0400  /* Instruction uses EVEX instead of REX */
508
509 /*
510  * EVEX bit field
511  */
512 #define EVEX_P0MM       0x03        /* EVEX P[1:0] : Legacy escape        */
513 #define EVEX_P0RP       0x10        /* EVEX P[4] : High-16 reg            */
514 #define EVEX_P0X        0x40        /* EVEX P[6] : High-16 rm             */
515 #define EVEX_P1PP       0x03        /* EVEX P[9:8] : Legacy prefix        */
516 #define EVEX_P1VVVV     0x78        /* EVEX P[14:11] : NDS register       */
517 #define EVEX_P1W        0x80        /* EVEX P[15] : Osize extension       */
518 #define EVEX_P2AAA      0x07        /* EVEX P[18:16] : Embedded opmask    */
519 #define EVEX_P2VP       0x08        /* EVEX P[19] : High-16 NDS reg       */
520 #define EVEX_P2B        0x10        /* EVEX P[20] : Broadcast / RC / SAE  */
521 #define EVEX_P2LL       0x60        /* EVEX P[22:21] : Vector length      */
522 #define EVEX_P2RC       EVEX_P2LL   /* EVEX P[22:21] : Rounding control   */
523 #define EVEX_P2Z        0x80        /* EVEX P[23] : Zeroing/Merging       */
524
525 /*
526  * REX_V "classes" (prefixes which behave like VEX)
527  */
528 enum vex_class {
529     RV_VEX      = 0,    /* C4/C5 */
530     RV_XOP      = 1,    /* 8F */
531     RV_EVEX     = 2,    /* 62 */
532 };
533
534 /*
535  * Note that because segment registers may be used as instruction
536  * prefixes, we must ensure the enumerations for prefixes and
537  * register names do not overlap.
538  */
539 enum prefixes { /* instruction prefixes */
540     P_none = 0,
541     PREFIX_ENUM_START = REG_ENUM_LIMIT,
542     P_A16 = PREFIX_ENUM_START,
543     P_A32,
544     P_A64,
545     P_ASP,
546     P_LOCK,
547     P_O16,
548     P_O32,
549     P_O64,
550     P_OSP,
551     P_REP,
552     P_REPE,
553     P_REPNE,
554     P_REPNZ,
555     P_REPZ,
556     P_TIMES,
557     P_WAIT,
558     P_XACQUIRE,
559     P_XRELEASE,
560     P_BND,
561     P_EVEX,
562     PREFIX_ENUM_LIMIT
563 };
564
565 enum extop_type { /* extended operand types */
566     EOT_NOTHING,
567     EOT_DB_STRING,      /* Byte string */
568     EOT_DB_STRING_FREE, /* Byte string which should be nasm_free'd*/
569     EOT_DB_NUMBER,      /* Integer */
570 };
571
572 enum ea_flags { /* special EA flags */
573     EAF_BYTEOFFS    =  1,   /* force offset part to byte size */
574     EAF_WORDOFFS    =  2,   /* force offset part to [d]word size */
575     EAF_TIMESTWO    =  4,   /* really do EAX*2 not EAX+EAX */
576     EAF_REL         =  8,   /* IP-relative addressing */
577     EAF_ABS         = 16,   /* non-IP-relative addressing */
578     EAF_FSGS        = 32    /* fs/gs segment override present */
579 };
580
581 enum eval_hint { /* values for `hinttype' */
582     EAH_NOHINT   = 0,       /* no hint at all - our discretion */
583     EAH_MAKEBASE = 1,       /* try to make given reg the base */
584     EAH_NOTBASE  = 2        /* try _not_ to make reg the base */
585 };
586
587 typedef struct operand { /* operand to an instruction */
588     opflags_t       type;       /* type of operand */
589     int             disp_size;  /* 0 means default; 16; 32; 64 */
590     enum reg_enum   basereg;
591     enum reg_enum   indexreg;   /* address registers */
592     int             scale;      /* index scale */
593     int             hintbase;
594     enum eval_hint  hinttype;   /* hint as to real base register */
595     int32_t         segment;    /* immediate segment, if needed */
596     int64_t         offset;     /* any immediate number */
597     int32_t         wrt;        /* segment base it's relative to */
598     int             eaflags;    /* special EA flags */
599     int             opflags;    /* see OPFLAG_* defines below */
600     decoflags_t     decoflags;  /* decorator flags such as {...} */
601 } operand;
602
603 #define OPFLAG_FORWARD      1   /* operand is a forward reference */
604 #define OPFLAG_EXTERN       2   /* operand is an external reference */
605 #define OPFLAG_UNKNOWN      4   /* operand is an unknown reference 
606                                  * (always a forward reference also)
607                                  */
608
609 typedef struct extop { /* extended operand */
610     struct extop    *next;      /* linked list */
611     char            *stringval; /* if it's a string, then here it is */
612     size_t          stringlen;  /* ... and here's how long it is */
613     int64_t         offset;     /* ... it's given here ... */
614     int32_t         segment;    /* if it's a number/address, then... */
615     int32_t         wrt;        /* ... and here */
616     enum extop_type type;       /* defined above */
617 } extop;
618
619 enum ea_type {
620     EA_INVALID,     /* Not a valid EA at all */
621     EA_SCALAR,      /* Scalar EA */
622     EA_XMMVSIB,     /* XMM vector EA */
623     EA_YMMVSIB,     /* YMM vector EA */
624     EA_ZMMVSIB,     /* ZMM vector EA */
625 };
626
627 /*
628  * Prefix positions: each type of prefix goes in a specific slot.
629  * This affects the final ordering of the assembled output, which
630  * shouldn't matter to the processor, but if you have stylistic
631  * preferences, you can change this.  REX prefixes are handled
632  * differently for the time being.
633  *
634  * LOCK and REP used to be one slot; this is no longer the case since
635  * the introduction of HLE.
636  */
637 enum prefix_pos {
638     PPS_WAIT,   /* WAIT (technically not a prefix!) */
639     PPS_REP,    /* REP/HLE prefix */
640     PPS_LOCK,   /* LOCK prefix */
641     PPS_SEG,    /* Segment override prefix */
642     PPS_OSIZE,  /* Operand size prefix */
643     PPS_ASIZE,  /* Address size prefix */
644     PPS_EVEX,   /* EVEX prefix */
645     MAXPREFIX   /* Total number of prefix slots */
646 };
647
648 /*
649  * Tuple types that are used when determining Disp8*N eligibility
650  * The order must match with a hash %tuple_codes in insns.pl
651  */
652 enum ttypes {
653     FV    = 001,
654     HV    = 002,
655     FVM   = 003,
656     T1S8  = 004,
657     T1S16 = 005,
658     T1S   = 006,
659     T1F32 = 007,
660     T1F64 = 010,
661     T2    = 011,
662     T4    = 012,
663     T8    = 013,
664     HVM   = 014,
665     QVM   = 015,
666     OVM   = 016,
667     M128  = 017,
668     DUP   = 020,
669 };
670
671 /* EVEX.L'L : Vector length on vector insns */
672 enum vectlens {
673     VL128 = 0,
674     VL256 = 1,
675     VL512 = 2,
676     VLMAX = 3,
677 };
678
679 /* If you need to change this, also change it in insns.pl */
680 #define MAX_OPERANDS 5
681
682 typedef struct insn { /* an instruction itself */
683     char            *label;                 /* the label defined, or NULL */
684     int             prefixes[MAXPREFIX];    /* instruction prefixes, if any */
685     enum opcode     opcode;                 /* the opcode - not just the string */
686     enum ccode      condition;              /* the condition code, if Jcc/SETcc */
687     int             operands;               /* how many operands? 0-3 (more if db et al) */
688     int             addr_size;              /* address size */
689     operand         oprs[MAX_OPERANDS];     /* the operands, defined as above */
690     extop           *eops;                  /* extended operands */
691     int             eops_float;             /* true if DD and floating */
692     int32_t         times;                  /* repeat count (TIMES prefix) */
693     bool            forw_ref;               /* is there a forward reference? */
694     int             rex;                    /* Special REX Prefix */
695     int             vexreg;                 /* Register encoded in VEX prefix */
696     int             vex_cm;                 /* Class and M field for VEX prefix */
697     int             vex_wlp;                /* W, P and L information for VEX prefix */
698     uint8_t         evex_p[3];              /* EVEX.P0: [RXB,R',00,mm], P1: [W,vvvv,1,pp] */
699                                             /* EVEX.P2: [z,L'L,b,V',aaa] */
700     enum ttypes     evex_tuple;             /* Tuple type for compressed Disp8*N */
701     int             evex_rm;                /* static rounding mode for AVX512 (EVEX) */
702     int8_t          evex_brerop;            /* BR/ER/SAE operand position */
703 } insn;
704
705 enum geninfo { GI_SWITCH };
706
707 /* Instruction flags type: IF_* flags are defined in insns.h */
708 typedef uint64_t iflags_t;
709
710 /*
711  * The data structure defining an output format driver, and the
712  * interfaces to the functions therein.
713  */
714 struct ofmt {
715     /*
716      * This is a short (one-liner) description of the type of
717      * output generated by the driver.
718      */
719     const char *fullname;
720
721     /*
722      * This is a single keyword used to select the driver.
723      */
724     const char *shortname;
725
726     /*
727      * Output format flags.
728      */
729 #define OFMT_TEXT   1   /* Text file format */
730     unsigned int flags;
731
732     /*
733      * this is a pointer to the first element of the debug information
734      */
735     struct dfmt **debug_formats;
736
737     /*
738      * and a pointer to the element that is being used
739      * note: this is set to the default at compile time and changed if the
740      * -F option is selected.  If developing a set of new debug formats for
741      * an output format, be sure to set this to whatever default you want
742      *
743      */
744     const struct dfmt *current_dfmt;
745
746     /*
747      * This, if non-NULL, is a NULL-terminated list of `char *'s
748      * pointing to extra standard macros supplied by the object
749      * format (e.g. a sensible initial default value of __SECT__,
750      * and user-level equivalents for any format-specific
751      * directives).
752      */
753     macros_t *stdmac;
754
755     /*
756      * This procedure is called at the start of an output session to set
757      * up internal parameters.
758      */
759     void (*init)(void);
760
761     /*
762      * This procedure is called to pass generic information to the
763      * object file.  The first parameter gives the information type
764      * (currently only command line switches)
765      * and the second parameter gives the value.  This function returns
766      * 1 if recognized, 0 if unrecognized
767      */
768     int (*setinfo)(enum geninfo type, char **string);
769
770     /*
771      * This procedure is called by assemble() to write actual
772      * generated code or data to the object file. Typically it
773      * doesn't have to actually _write_ it, just store it for
774      * later.
775      *
776      * The `type' argument specifies the type of output data, and
777      * usually the size as well: its contents are described below.
778      */
779     void (*output)(int32_t segto, const void *data,
780                    enum out_type type, uint64_t size,
781                    int32_t segment, int32_t wrt);
782
783     /*
784      * This procedure is called once for every symbol defined in
785      * the module being assembled. It gives the name and value of
786      * the symbol, in NASM's terms, and indicates whether it has
787      * been declared to be global. Note that the parameter "name",
788      * when passed, will point to a piece of static storage
789      * allocated inside the label manager - it's safe to keep using
790      * that pointer, because the label manager doesn't clean up
791      * until after the output driver has.
792      *
793      * Values of `is_global' are: 0 means the symbol is local; 1
794      * means the symbol is global; 2 means the symbol is common (in
795      * which case `offset' holds the _size_ of the variable).
796      * Anything else is available for the output driver to use
797      * internally.
798      *
799      * This routine explicitly _is_ allowed to call the label
800      * manager to define further symbols, if it wants to, even
801      * though it's been called _from_ the label manager. That much
802      * re-entrancy is guaranteed in the label manager. However, the
803      * label manager will in turn call this routine, so it should
804      * be prepared to be re-entrant itself.
805      *
806      * The `special' parameter contains special information passed
807      * through from the command that defined the label: it may have
808      * been an EXTERN, a COMMON or a GLOBAL. The distinction should
809      * be obvious to the output format from the other parameters.
810      */
811     void (*symdef)(char *name, int32_t segment, int64_t offset,
812                    int is_global, char *special);
813
814     /*
815      * This procedure is called when the source code requests a
816      * segment change. It should return the corresponding segment
817      * _number_ for the name, or NO_SEG if the name is not a valid
818      * segment name.
819      *
820      * It may also be called with NULL, in which case it is to
821      * return the _default_ section number for starting assembly in.
822      *
823      * It is allowed to modify the string it is given a pointer to.
824      *
825      * It is also allowed to specify a default instruction size for
826      * the segment, by setting `*bits' to 16 or 32. Or, if it
827      * doesn't wish to define a default, it can leave `bits' alone.
828      */
829     int32_t (*section)(char *name, int pass, int *bits);
830
831     /*
832      * This procedure is called to modify section alignment,
833      * note there is a trick, the alignment can only increase
834      */
835     void (*sectalign)(int32_t seg, unsigned int value);
836
837     /*
838      * This procedure is called to modify the segment base values
839      * returned from the SEG operator. It is given a segment base
840      * value (i.e. a segment value with the low bit set), and is
841      * required to produce in return a segment value which may be
842      * different. It can map segment bases to absolute numbers by
843      * means of returning SEG_ABS types.
844      *
845      * It should return NO_SEG if the segment base cannot be
846      * determined; the evaluator (which calls this routine) is
847      * responsible for throwing an error condition if that occurs
848      * in pass two or in a critical expression.
849      */
850     int32_t (*segbase)(int32_t segment);
851
852     /*
853      * This procedure is called to allow the output driver to
854      * process its own specific directives. When called, it has the
855      * directive word in `directive' and the parameter string in
856      * `value'. It is called in both assembly passes, and `pass'
857      * will be either 1 or 2.
858      *
859      * This procedure should return zero if it does not _recognise_
860      * the directive, so that the main program can report an error.
861      * If it recognises the directive but then has its own errors,
862      * it should report them itself and then return non-zero. It
863      * should also return non-zero if it correctly processes the
864      * directive.
865      */
866     int (*directive)(enum directives directive, char *value, int pass);
867
868     /*
869      * This procedure is called before anything else - even before
870      * the "init" routine - and is passed the name of the input
871      * file from which this output file is being generated. It
872      * should return its preferred name for the output file in
873      * `outname', if outname[0] is not '\0', and do nothing to
874      * `outname' otherwise. Since it is called before the driver is
875      * properly initialized, it has to be passed its error handler
876      * separately.
877      *
878      * This procedure may also take its own copy of the input file
879      * name for use in writing the output file: it is _guaranteed_
880      * that it will be called before the "init" routine.
881      *
882      * The parameter `outname' points to an area of storage
883      * guaranteed to be at least FILENAME_MAX in size.
884      */
885     void (*filename)(char *inname, char *outname);
886
887     /*
888      * This procedure is called after assembly finishes, to allow
889      * the output driver to clean itself up and free its memory.
890      * Typically, it will also be the point at which the object
891      * file actually gets _written_.
892      *
893      * One thing the cleanup routine should always do is to close
894      * the output file pointer.
895      */
896     void (*cleanup)(int debuginfo);
897 };
898
899 /*
900  * Output format driver alias
901  */
902 struct ofmt_alias {
903     const char  *shortname;
904     const char  *fullname;
905     struct ofmt *ofmt;
906 };
907
908 extern struct ofmt *ofmt;
909 extern FILE *ofile;
910
911 /*
912  * ------------------------------------------------------------
913  * The data structure defining a debug format driver, and the
914  * interfaces to the functions therein.
915  * ------------------------------------------------------------
916  */
917
918 struct dfmt {
919     /*
920      * This is a short (one-liner) description of the type of
921      * output generated by the driver.
922      */
923     const char *fullname;
924
925     /*
926      * This is a single keyword used to select the driver.
927      */
928     const char *shortname;
929
930     /*
931      * init - called initially to set up local pointer to object format.
932      */
933     void (*init)(void);
934
935     /*
936      * linenum - called any time there is output with a change of
937      * line number or file.
938      */
939     void (*linenum)(const char *filename, int32_t linenumber, int32_t segto);
940
941     /*
942      * debug_deflabel - called whenever a label is defined. Parameters
943      * are the same as to 'symdef()' in the output format. This function
944      * would be called before the output format version.
945      */
946
947     void (*debug_deflabel)(char *name, int32_t segment, int64_t offset,
948                            int is_global, char *special);
949     /*
950      * debug_directive - called whenever a DEBUG directive other than 'LINE'
951      * is encountered. 'directive' contains the first parameter to the
952      * DEBUG directive, and params contains the rest. For example,
953      * 'DEBUG VAR _somevar:int' would translate to a call to this
954      * function with 'directive' equal to "VAR" and 'params' equal to
955      * "_somevar:int".
956      */
957     void (*debug_directive)(const char *directive, const char *params);
958
959     /*
960      * typevalue - called whenever the assembler wishes to register a type
961      * for the last defined label.  This routine MUST detect if a type was
962      * already registered and not re-register it.
963      */
964     void (*debug_typevalue)(int32_t type);
965
966     /*
967      * debug_output - called whenever output is required
968      * 'type' is the type of info required, and this is format-specific
969      */
970     void (*debug_output)(int type, void *param);
971
972     /*
973      * cleanup - called after processing of file is complete
974      */
975     void (*cleanup)(void);
976 };
977
978 extern const struct dfmt *dfmt;
979
980 /*
981  * The type definition macros
982  * for debugging
983  *
984  * low 3 bits: reserved
985  * next 5 bits: type
986  * next 24 bits: number of elements for arrays (0 for labels)
987  */
988
989 #define TY_UNKNOWN 0x00
990 #define TY_LABEL   0x08
991 #define TY_BYTE    0x10
992 #define TY_WORD    0x18
993 #define TY_DWORD   0x20
994 #define TY_FLOAT   0x28
995 #define TY_QWORD   0x30
996 #define TY_TBYTE   0x38
997 #define TY_OWORD   0x40
998 #define TY_YWORD   0x48
999 #define TY_COMMON  0xE0
1000 #define TY_SEG     0xE8
1001 #define TY_EXTERN  0xF0
1002 #define TY_EQU     0xF8
1003
1004 #define TYM_TYPE(x)     ((x) & 0xF8)
1005 #define TYM_ELEMENTS(x) (((x) & 0xFFFFFF00) >> 8)
1006
1007 #define TYS_ELEMENTS(x) ((x) << 8)
1008
1009 enum special_tokens {
1010     SPECIAL_ENUM_START  = PREFIX_ENUM_LIMIT,
1011     S_ABS               = SPECIAL_ENUM_START,
1012     S_BYTE,
1013     S_DWORD,
1014     S_FAR,
1015     S_LONG,
1016     S_NEAR,
1017     S_NOSPLIT,
1018     S_OWORD,
1019     S_QWORD,
1020     S_REL,
1021     S_SHORT,
1022     S_STRICT,
1023     S_TO,
1024     S_TWORD,
1025     S_WORD,
1026     S_YWORD,
1027     S_ZWORD,
1028     SPECIAL_ENUM_LIMIT
1029 };
1030
1031 enum decorator_tokens {
1032     DECORATOR_ENUM_START    = SPECIAL_ENUM_LIMIT,
1033     BRC_1TO8                = DECORATOR_ENUM_START,
1034     BRC_1TO16,
1035     BRC_RN,
1036     BRC_RD,
1037     BRC_RU,
1038     BRC_RZ,
1039     BRC_SAE,
1040     BRC_Z,
1041     DECORATOR_ENUM_LIMIT
1042 };
1043
1044 /*
1045  * AVX512 Decorator (decoflags_t) bits distribution (counted from 0)
1046  *  3         2         1
1047  * 10987654321098765432109876543210
1048  *                |
1049  *                | word boundary
1050  * ............................1111 opmask
1051  * ...........................1.... zeroing / merging
1052  * ..........................1..... broadcast
1053  * .........................1...... static rounding
1054  * ........................1....... SAE
1055  * ......................11........ broadcast element size
1056  * ....................11.......... number of broadcast elements
1057  */
1058 #define OP_GENVAL(val, bits, shift)     (((val) & ((UINT64_C(1) << (bits)) - 1)) << (shift))
1059
1060 /*
1061  * Opmask register number
1062  * identical to EVEX.aaa
1063  *
1064  * Bits: 0 - 3
1065  */
1066 #define OPMASK_SHIFT            (0)
1067 #define OPMASK_BITS             (4)
1068 #define OPMASK_MASK             OP_GENMASK(OPMASK_BITS, OPMASK_SHIFT)
1069 #define GEN_OPMASK(bit)         OP_GENBIT(bit, OPMASK_SHIFT)
1070 #define VAL_OPMASK(val)         OP_GENVAL(val, OPMASK_BITS, OPMASK_SHIFT)
1071
1072 /*
1073  * zeroing / merging control available
1074  * matching to EVEX.z
1075  *
1076  * Bits: 4
1077  */
1078 #define Z_SHIFT                 (4)
1079 #define Z_BITS                  (1)
1080 #define Z_MASK                  OP_GENMASK(Z_BITS, Z_SHIFT)
1081 #define GEN_Z(bit)              OP_GENBIT(bit, Z_SHIFT)
1082
1083 /*
1084  * broadcast - Whether this operand can be broadcasted
1085  *
1086  * Bits: 5
1087  */
1088 #define BRDCAST_SHIFT           (5)
1089 #define BRDCAST_BITS            (1)
1090 #define BRDCAST_MASK            OP_GENMASK(BRDCAST_BITS, BRDCAST_SHIFT)
1091 #define GEN_BRDCAST(bit)        OP_GENBIT(bit, BRDCAST_SHIFT)
1092
1093 /*
1094  * Whether this instruction can have a static rounding mode.
1095  * It goes with the last simd operand because the static rounding mode
1096  * decorator is located between the last simd operand and imm8 (if any).
1097  *
1098  * Bits: 6
1099  */
1100 #define STATICRND_SHIFT         (6)
1101 #define STATICRND_BITS          (1)
1102 #define STATICRND_MASK          OP_GENMASK(STATICRND_BITS, STATICRND_SHIFT)
1103 #define GEN_STATICRND(bit)      OP_GENBIT(bit, STATICRND_SHIFT)
1104
1105 /*
1106  * SAE(Suppress all exception) available
1107  *
1108  * Bits: 7
1109  */
1110 #define SAE_SHIFT               (7)
1111 #define SAE_BITS                (1)
1112 #define SAE_MASK                OP_GENMASK(SAE_BITS, SAE_SHIFT)
1113 #define GEN_SAE(bit)            OP_GENBIT(bit, SAE_SHIFT)
1114
1115 /*
1116  * Broadcasting element size.
1117  *
1118  * Bits: 8 - 9
1119  */
1120 #define BRSIZE_SHIFT            (8)
1121 #define BRSIZE_BITS             (2)
1122 #define BRSIZE_MASK             OP_GENMASK(BRSIZE_BITS, BRSIZE_SHIFT)
1123 #define GEN_BRSIZE(bit)         OP_GENBIT(bit, BRSIZE_SHIFT)
1124
1125 #define BR_BITS32               GEN_BRSIZE(0)
1126 #define BR_BITS64               GEN_BRSIZE(1)
1127
1128 /*
1129  * Number of broadcasting elements
1130  *
1131  * Bits: 10 - 11
1132  */
1133 #define BRNUM_SHIFT             (10)
1134 #define BRNUM_BITS              (2)
1135 #define BRNUM_MASK              OP_GENMASK(BRNUM_BITS, BRNUM_SHIFT)
1136 #define VAL_BRNUM(val)          OP_GENVAL(val, BRNUM_BITS, BRNUM_SHIFT)
1137
1138 #define BR_1TO8                 VAL_BRNUM(0)
1139 #define BR_1TO16                VAL_BRNUM(1)
1140
1141 #define MASK                    OPMASK_MASK             /* Opmask (k1 ~ 7) can be used */
1142 #define Z                       Z_MASK
1143 #define B32                     (BRDCAST_MASK|BR_BITS32) /* {1to16} : broadcast 32b * 16 to zmm(512b) */
1144 #define B64                     (BRDCAST_MASK|BR_BITS64) /* {1to8}  : broadcast 64b *  8 to zmm(512b) */
1145 #define ER                      STATICRND_MASK          /* ER(Embedded Rounding) == Static rounding mode */
1146 #define SAE                     SAE_MASK                /* SAE(Suppress All Exception) */
1147
1148 /*
1149  * Global modes
1150  */
1151
1152 /*
1153  * This declaration passes the "pass" number to all other modules
1154  * "pass0" assumes the values: 0, 0, ..., 0, 1, 2
1155  * where 0 = optimizing pass
1156  *       1 = pass 1
1157  *       2 = pass 2
1158  */
1159
1160 extern int pass0;
1161 extern int passn;               /* Actual pass number */
1162
1163 extern bool tasm_compatible_mode;
1164 extern int optimizing;
1165 extern int globalbits;          /* 16, 32 or 64-bit mode */
1166 extern int globalrel;           /* default to relative addressing? */
1167 extern int maxbits;             /* max bits supported by output */
1168
1169 /*
1170  * NASM version strings, defined in ver.c
1171  */
1172 extern const char nasm_version[];
1173 extern const char nasm_date[];
1174 extern const char nasm_compile_options[];
1175 extern const char nasm_comment[];
1176 extern const char nasm_signature[];
1177
1178 #endif