Add {vex3} and {vex2} prefixes by analogy with {evex}
[platform/upstream/nasm.git] / nasm.h
1 /* ----------------------------------------------------------------------- *
2  *   
3  *   Copyright 1996-2013 The NASM Authors - All Rights Reserved
4  *   See the file AUTHORS included with the NASM distribution for
5  *   the specific copyright holders.
6  *
7  *   Redistribution and use in source and binary forms, with or without
8  *   modification, are permitted provided that the following
9  *   conditions are met:
10  *
11  *   * Redistributions of source code must retain the above copyright
12  *     notice, this list of conditions and the following disclaimer.
13  *   * Redistributions in binary form must reproduce the above
14  *     copyright notice, this list of conditions and the following
15  *     disclaimer in the documentation and/or other materials provided
16  *     with the distribution.
17  *     
18  *     THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND
19  *     CONTRIBUTORS "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES,
20  *     INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF
21  *     MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
22  *     DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR
23  *     CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
24  *     SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
25  *     NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
26  *     LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  *     HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
28  *     CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
29  *     OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE,
30  *     EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
31  *
32  * ----------------------------------------------------------------------- */
33
34 /* 
35  * nasm.h   main header file for the Netwide Assembler: inter-module interface
36  */
37
38 #ifndef NASM_NASM_H
39 #define NASM_NASM_H
40
41 #include "compiler.h"
42
43 #include <stdio.h>
44 #include <inttypes.h>
45 #include "nasmlib.h"
46 #include "preproc.h"
47 #include "insnsi.h"     /* For enum opcode */
48 #include "directiv.h"   /* For enum directive */
49 #include "opflags.h"
50 #include "regs.h"
51
52 #define NO_SEG -1L              /* null segment value */
53 #define SEG_ABS 0x40000000L     /* mask for far-absolute segments */
54
55 #ifndef FILENAME_MAX
56 #define FILENAME_MAX 256
57 #endif
58
59 #ifndef PREFIX_MAX
60 #define PREFIX_MAX 10
61 #endif
62
63 #ifndef POSTFIX_MAX
64 #define POSTFIX_MAX 10
65 #endif
66
67 #define IDLEN_MAX 4096
68 #define DECOLEN_MAX 32
69
70 /*
71  * Name pollution problems: <time.h> on Digital UNIX pulls in some
72  * strange hardware header file which sees fit to define R_SP. We
73  * undefine it here so as not to break the enum below.
74  */
75 #ifdef R_SP
76 #undef R_SP
77 #endif
78
79 /*
80  * We must declare the existence of this structure type up here,
81  * since we have to reference it before we define it...
82  */
83 struct ofmt;
84
85 /*
86  * Values for the `type' parameter to an output function.
87  *
88  * Exceptions are OUT_RELxADR, which denote an x-byte relocation
89  * which will be a relative jump. For this we need to know the
90  * distance in bytes from the start of the relocated record until
91  * the end of the containing instruction. _This_ is what is stored
92  * in the size part of the parameter, in this case.
93  *
94  * Also OUT_RESERVE denotes reservation of N bytes of BSS space,
95  * and the contents of the "data" parameter is irrelevant.
96  *
97  * The "data" parameter for the output function points to a "int32_t",
98  * containing the address in question, unless the type is
99  * OUT_RAWDATA, in which case it points to an "uint8_t"
100  * array.
101  */
102 enum out_type {
103     OUT_RAWDATA,    /* Plain bytes */
104     OUT_ADDRESS,    /* An address (symbol value) */
105     OUT_RESERVE,    /* Reserved bytes (RESB et al) */
106     OUT_REL1ADR,    /* 1-byte relative address */
107     OUT_REL2ADR,    /* 2-byte relative address */
108     OUT_REL4ADR,    /* 4-byte relative address */
109     OUT_REL8ADR,    /* 8-byte relative address */
110 };
111
112 /*
113  * A label-lookup function.
114  */
115 typedef bool (*lfunc)(char *label, int32_t *segment, int64_t *offset);
116
117 /*
118  * And a label-definition function. The boolean parameter
119  * `is_norm' states whether the label is a `normal' label (which
120  * should affect the local-label system), or something odder like
121  * an EQU or a segment-base symbol, which shouldn't.
122  */
123 typedef void (*ldfunc)(char *label, int32_t segment, int64_t offset,
124                        char *special, bool is_norm, bool isextrn);
125
126 void define_label(char *label, int32_t segment, int64_t offset,
127                   char *special, bool is_norm, bool isextrn);
128
129 /*
130  * List-file generators should look like this:
131  */
132 typedef struct {
133     /*
134      * Called to initialize the listing file generator. Before this
135      * is called, the other routines will silently do nothing when
136      * called. The `char *' parameter is the file name to write the
137      * listing to.
138      */
139     void (*init)(char *fname, efunc error);
140
141     /*
142      * Called to clear stuff up and close the listing file.
143      */
144     void (*cleanup)(void);
145
146     /*
147      * Called to output binary data. Parameters are: the offset;
148      * the data; the data type. Data types are similar to the
149      * output-format interface, only OUT_ADDRESS will _always_ be
150      * displayed as if it's relocatable, so ensure that any non-
151      * relocatable address has been converted to OUT_RAWDATA by
152      * then. Note that OUT_RAWDATA,0 is a valid data type, and is a
153      * dummy call used to give the listing generator an offset to
154      * work with when doing things like uplevel(LIST_TIMES) or
155      * uplevel(LIST_INCBIN).
156      */
157     void (*output)(int32_t offset, const void *data, enum out_type type, uint64_t size);
158
159     /*
160      * Called to send a text line to the listing generator. The
161      * `int' parameter is LIST_READ or LIST_MACRO depending on
162      * whether the line came directly from an input file or is the
163      * result of a multi-line macro expansion.
164      */
165     void (*line)(int type, char *line);
166
167     /*
168      * Called to change one of the various levelled mechanisms in
169      * the listing generator. LIST_INCLUDE and LIST_MACRO can be
170      * used to increase the nesting level of include files and
171      * macro expansions; LIST_TIMES and LIST_INCBIN switch on the
172      * two binary-output-suppression mechanisms for large-scale
173      * pseudo-instructions.
174      *
175      * LIST_MACRO_NOLIST is synonymous with LIST_MACRO except that
176      * it indicates the beginning of the expansion of a `nolist'
177      * macro, so anything under that level won't be expanded unless
178      * it includes another file.
179      */
180     void (*uplevel)(int type);
181
182     /*
183      * Reverse the effects of uplevel.
184      */
185     void (*downlevel)(int type);
186
187     /*
188      * Called on a warning or error, with the error message.
189      */
190     void (*error)(int severity, const char *pfx, const char *msg);
191 } ListGen;
192
193 /*
194  * Token types returned by the scanner, in addition to ordinary
195  * ASCII character values, and zero for end-of-string.
196  */
197 enum token_type { /* token types, other than chars */
198     TOKEN_INVALID = -1, /* a placeholder value */
199     TOKEN_EOS = 0,      /* end of string */
200     TOKEN_EQ = '=',
201     TOKEN_GT = '>',
202     TOKEN_LT = '<',     /* aliases */
203     TOKEN_ID = 256,     /* identifier */
204     TOKEN_NUM,          /* numeric constant */
205     TOKEN_ERRNUM,       /* malformed numeric constant */
206     TOKEN_STR,          /* string constant */
207     TOKEN_ERRSTR,       /* unterminated string constant */
208     TOKEN_FLOAT,        /* floating-point constant */
209     TOKEN_REG,          /* register name */
210     TOKEN_INSN,         /* instruction name */
211     TOKEN_HERE,         /* $ */
212     TOKEN_BASE,         /* $$ */
213     TOKEN_SPECIAL,      /* BYTE, WORD, DWORD, QWORD, FAR, NEAR, etc */
214     TOKEN_PREFIX,       /* A32, O16, LOCK, REPNZ, TIMES, etc */
215     TOKEN_SHL,          /* << */
216     TOKEN_SHR,          /* >> */
217     TOKEN_SDIV,         /* // */
218     TOKEN_SMOD,         /* %% */
219     TOKEN_GE,           /* >= */
220     TOKEN_LE,           /* <= */
221     TOKEN_NE,           /* <> (!= is same as <>) */
222     TOKEN_DBL_AND,      /* && */
223     TOKEN_DBL_OR,       /* || */
224     TOKEN_DBL_XOR,      /* ^^ */
225     TOKEN_SEG,          /* SEG */
226     TOKEN_WRT,          /* WRT */
227     TOKEN_FLOATIZE,     /* __floatX__ */
228     TOKEN_STRFUNC,      /* __utf16*__, __utf32*__ */
229     TOKEN_IFUNC,        /* __ilog2*__ */
230     TOKEN_DECORATOR,    /* decorators such as {...} */
231     TOKEN_OPMASK,       /* translated token for opmask registers */
232 };
233
234 enum floatize {
235     FLOAT_8,
236     FLOAT_16,
237     FLOAT_32,
238     FLOAT_64,
239     FLOAT_80M,
240     FLOAT_80E,
241     FLOAT_128L,
242     FLOAT_128H,
243 };
244
245 /* Must match the list in string_transform(), in strfunc.c */
246 enum strfunc {
247     STRFUNC_UTF16,
248     STRFUNC_UTF16LE,
249     STRFUNC_UTF16BE,
250     STRFUNC_UTF32,
251     STRFUNC_UTF32LE,
252     STRFUNC_UTF32BE,
253 };
254
255 enum ifunc {
256     IFUNC_ILOG2E,
257     IFUNC_ILOG2W,
258     IFUNC_ILOG2F,
259     IFUNC_ILOG2C,
260 };
261
262 size_t string_transform(char *, size_t, char **, enum strfunc);
263
264 /*
265  * The expression evaluator must be passed a scanner function; a
266  * standard scanner is provided as part of nasmlib.c. The
267  * preprocessor will use a different one. Scanners, and the
268  * token-value structures they return, look like this.
269  *
270  * The return value from the scanner is always a copy of the
271  * `t_type' field in the structure.
272  */
273 struct tokenval {
274     char                *t_charptr;
275     int64_t             t_integer;
276     int64_t             t_inttwo;
277     enum token_type     t_type;
278     int8_t              t_flag;
279 };
280 typedef int (*scanner)(void *private_data, struct tokenval *tv);
281
282 struct location {
283     int64_t offset;
284     int32_t segment;
285     int     known;
286 };
287
288 /*
289  * Expression-evaluator datatype. Expressions, within the
290  * evaluator, are stored as an array of these beasts, terminated by
291  * a record with type==0. Mostly, it's a vector type: each type
292  * denotes some kind of a component, and the value denotes the
293  * multiple of that component present in the expression. The
294  * exception is the WRT type, whose `value' field denotes the
295  * segment to which the expression is relative. These segments will
296  * be segment-base types, i.e. either odd segment values or SEG_ABS
297  * types. So it is still valid to assume that anything with a
298  * `value' field of zero is insignificant.
299  */
300 typedef struct {
301     int32_t type;                  /* a register, or EXPR_xxx */
302     int64_t value;                 /* must be >= 32 bits */
303 } expr;
304
305 /*
306  * Library routines to manipulate expression data types.
307  */
308 int is_reloc(expr *vect);
309 int is_simple(expr *vect);
310 int is_really_simple(expr *vect);
311 int is_unknown(expr *vect);
312 int is_just_unknown(expr *vect);
313 int64_t reloc_value(expr *vect);
314 int32_t reloc_seg(expr *vect);
315 int32_t reloc_wrt(expr *vect);
316
317 /*
318  * The evaluator can also return hints about which of two registers
319  * used in an expression should be the base register. See also the
320  * `operand' structure.
321  */
322 struct eval_hints {
323     int64_t base;
324     int     type;
325 };
326
327 /*
328  * The actual expression evaluator function looks like this. When
329  * called, it expects the first token of its expression to already
330  * be in `*tv'; if it is not, set tv->t_type to TOKEN_INVALID and
331  * it will start by calling the scanner.
332  *
333  * If a forward reference happens during evaluation, the evaluator
334  * must set `*fwref' to true if `fwref' is non-NULL.
335  *
336  * `critical' is non-zero if the expression may not contain forward
337  * references. The evaluator will report its own error if this
338  * occurs; if `critical' is 1, the error will be "symbol not
339  * defined before use", whereas if `critical' is 2, the error will
340  * be "symbol undefined".
341  *
342  * If `critical' has bit 8 set (in addition to its main value: 0x101
343  * and 0x102 correspond to 1 and 2) then an extended expression
344  * syntax is recognised, in which relational operators such as =, <
345  * and >= are accepted, as well as low-precedence logical operators
346  * &&, ^^ and ||.
347  *
348  * If `hints' is non-NULL, it gets filled in with some hints as to
349  * the base register in complex effective addresses.
350  */
351 #define CRITICAL 0x100
352 typedef expr *(*evalfunc)(scanner sc, void *scprivate,
353                           struct tokenval *tv, int *fwref, int critical,
354                           efunc error, struct eval_hints *hints);
355
356 /*
357  * Special values for expr->type.
358  * These come after EXPR_REG_END as defined in regs.h.
359  * Expr types : 0 ~ EXPR_REG_END, EXPR_UNKNOWN, EXPR_...., EXPR_RDSAE,
360  *              EXPR_SEGBASE ~ EXPR_SEGBASE + SEG_ABS, ...
361  */
362 #define EXPR_UNKNOWN    (EXPR_REG_END+1) /* forward references */
363 #define EXPR_SIMPLE     (EXPR_REG_END+2)
364 #define EXPR_WRT        (EXPR_REG_END+3)
365 #define EXPR_RDSAE      (EXPR_REG_END+4)
366 #define EXPR_SEGBASE    (EXPR_REG_END+5)
367
368 /*
369  * Linked list of strings
370  */
371 typedef struct string_list {
372     struct string_list  *next;
373     char                str[1];
374 } StrList;
375
376 /*
377  * preprocessors ought to look like this:
378  */
379 struct preproc_ops {
380     /*
381      * Called at the start of a pass; given a file name, the number
382      * of the pass, an error reporting function, an evaluator
383      * function, and a listing generator to talk to.
384      */
385     void (*reset)(char *file, int pass, ListGen *listgen, StrList **deplist);
386
387     /*
388      * Called to fetch a line of preprocessed source. The line
389      * returned has been malloc'ed, and so should be freed after
390      * use.
391      */
392     char *(*getline)(void);
393
394     /* Called at the end of a pass */
395     void (*cleanup)(int pass);
396
397     /* Additional macros specific to output format */
398     void (*extra_stdmac)(macros_t *macros);
399
400     /* Early definitions and undefinitions for macros */
401     void (*pre_define)(char *definition);
402     void (*pre_undefine)(char *definition);
403
404     /* Include file from command line */
405     void (*pre_include)(char *fname);
406
407     /* Include path from command line */
408     void (*include_path)(char *path);
409 };
410
411 extern struct preproc_ops nasmpp;
412 extern struct preproc_ops preproc_nop;
413
414 /*
415  * Some lexical properties of the NASM source language, included
416  * here because they are shared between the parser and preprocessor.
417  */
418
419 /*
420  * isidstart matches any character that may start an identifier, and isidchar
421  * matches any character that may appear at places other than the start of an
422  * identifier. E.g. a period may only appear at the start of an identifier
423  * (for local labels), whereas a number may appear anywhere *but* at the
424  * start.
425  * isbrcchar matches any character that may placed inside curly braces as a
426  * decorator. E.g. {rn-sae}, {1to8}, {k1}{z}
427  */
428
429 #define isidstart(c) (nasm_isalpha(c)   ||  \
430                       (c) == '_'        ||  \
431                       (c) == '.'        ||  \
432                       (c) == '?'        ||  \
433                       (c) == '@')
434
435 #define isidchar(c) (isidstart(c)       ||  \
436                      nasm_isdigit(c)    ||  \
437                      (c) == '$'         ||  \
438                      (c) == '#'         ||  \
439                      (c) == '~')
440
441 #define isbrcchar(c) (isidchar(c)       ||  \
442                       (c) == '-')
443
444 /* Ditto for numeric constants. */
445
446 #define isnumstart(c)  (nasm_isdigit(c) || (c) == '$')
447 #define isnumchar(c)   (nasm_isalnum(c) || (c) == '_')
448
449 /*
450  * Data-type flags that get passed to listing-file routines.
451  */
452 enum {
453     LIST_READ,
454     LIST_MACRO,
455     LIST_MACRO_NOLIST,
456     LIST_INCLUDE,
457     LIST_INCBIN,
458     LIST_TIMES
459 };
460
461 /*
462  * -----------------------------------------------------------
463  * Format of the `insn' structure returned from `parser.c' and
464  * passed into `assemble.c'
465  * -----------------------------------------------------------
466  */
467
468 /* Verify value to be a valid register */
469 static inline bool is_register(int reg)
470 {
471     return reg >= EXPR_REG_START && reg < REG_ENUM_LIMIT;
472 }
473
474 enum ccode { /* condition code names */
475     C_A, C_AE, C_B, C_BE, C_C, C_E, C_G, C_GE, C_L, C_LE, C_NA, C_NAE,
476     C_NB, C_NBE, C_NC, C_NE, C_NG, C_NGE, C_NL, C_NLE, C_NO, C_NP,
477     C_NS, C_NZ, C_O, C_P, C_PE, C_PO, C_S, C_Z,
478     C_none = -1
479 };
480
481 /*
482  * token flags
483  */
484 #define TFLAG_BRC       (1 << 0)    /* valid only with braces. {1to8}, {rd-sae}, ...*/
485 #define TFLAG_BRC_OPT   (1 << 1)    /* may or may not have braces. opmasks {k1} */
486 #define TFLAG_BRC_ANY   (TFLAG_BRC | TFLAG_BRC_OPT)
487 #define TFLAG_BRDCAST   (1 << 2)    /* broadcasting decorator */
488
489 static inline uint8_t get_cond_opcode(enum ccode c)
490 {
491     static const uint8_t ccode_opcodes[] = {
492         0x7, 0x3, 0x2, 0x6, 0x2, 0x4, 0xf, 0xd, 0xc, 0xe, 0x6, 0x2,
493         0x3, 0x7, 0x3, 0x5, 0xe, 0xc, 0xd, 0xf, 0x1, 0xb, 0x9, 0x5,
494         0x0, 0xa, 0xa, 0xb, 0x8, 0x4
495     };
496
497         return ccode_opcodes[(int)c];
498 }
499
500 /*
501  * REX flags
502  */
503 #define REX_REAL    0x4f    /* Actual REX prefix bits */
504 #define REX_B       0x01    /* ModRM r/m extension */
505 #define REX_X       0x02    /* SIB index extension */
506 #define REX_R       0x04    /* ModRM reg extension */
507 #define REX_W       0x08    /* 64-bit operand size */
508 #define REX_L       0x20    /* Use LOCK prefix instead of REX.R */
509 #define REX_P       0x40    /* REX prefix present/required */
510 #define REX_H       0x80    /* High register present, REX forbidden */
511 #define REX_V       0x0100  /* Instruction uses VEX/XOP instead of REX */
512 #define REX_NH      0x0200  /* Instruction which doesn't use high regs */
513 #define REX_EV      0x0400  /* Instruction uses EVEX instead of REX */
514
515 /*
516  * EVEX bit field
517  */
518 #define EVEX_P0MM       0x03        /* EVEX P[1:0] : Legacy escape        */
519 #define EVEX_P0RP       0x10        /* EVEX P[4] : High-16 reg            */
520 #define EVEX_P0X        0x40        /* EVEX P[6] : High-16 rm             */
521 #define EVEX_P1PP       0x03        /* EVEX P[9:8] : Legacy prefix        */
522 #define EVEX_P1VVVV     0x78        /* EVEX P[14:11] : NDS register       */
523 #define EVEX_P1W        0x80        /* EVEX P[15] : Osize extension       */
524 #define EVEX_P2AAA      0x07        /* EVEX P[18:16] : Embedded opmask    */
525 #define EVEX_P2VP       0x08        /* EVEX P[19] : High-16 NDS reg       */
526 #define EVEX_P2B        0x10        /* EVEX P[20] : Broadcast / RC / SAE  */
527 #define EVEX_P2LL       0x60        /* EVEX P[22:21] : Vector length      */
528 #define EVEX_P2RC       EVEX_P2LL   /* EVEX P[22:21] : Rounding control   */
529 #define EVEX_P2Z        0x80        /* EVEX P[23] : Zeroing/Merging       */
530
531 /*
532  * REX_V "classes" (prefixes which behave like VEX)
533  */
534 enum vex_class {
535     RV_VEX      = 0,    /* C4/C5 */
536     RV_XOP      = 1,    /* 8F */
537     RV_EVEX     = 2,    /* 62 */
538 };
539
540 /*
541  * Note that because segment registers may be used as instruction
542  * prefixes, we must ensure the enumerations for prefixes and
543  * register names do not overlap.
544  */
545 enum prefixes { /* instruction prefixes */
546     P_none = 0,
547     PREFIX_ENUM_START = REG_ENUM_LIMIT,
548     P_A16 = PREFIX_ENUM_START,
549     P_A32,
550     P_A64,
551     P_ASP,
552     P_LOCK,
553     P_O16,
554     P_O32,
555     P_O64,
556     P_OSP,
557     P_REP,
558     P_REPE,
559     P_REPNE,
560     P_REPNZ,
561     P_REPZ,
562     P_TIMES,
563     P_WAIT,
564     P_XACQUIRE,
565     P_XRELEASE,
566     P_BND,
567     P_EVEX,
568     P_VEX3,
569     P_VEX2,
570     PREFIX_ENUM_LIMIT
571 };
572
573 enum extop_type { /* extended operand types */
574     EOT_NOTHING,
575     EOT_DB_STRING,      /* Byte string */
576     EOT_DB_STRING_FREE, /* Byte string which should be nasm_free'd*/
577     EOT_DB_NUMBER,      /* Integer */
578 };
579
580 enum ea_flags { /* special EA flags */
581     EAF_BYTEOFFS    =  1,   /* force offset part to byte size */
582     EAF_WORDOFFS    =  2,   /* force offset part to [d]word size */
583     EAF_TIMESTWO    =  4,   /* really do EAX*2 not EAX+EAX */
584     EAF_REL         =  8,   /* IP-relative addressing */
585     EAF_ABS         = 16,   /* non-IP-relative addressing */
586     EAF_FSGS        = 32    /* fs/gs segment override present */
587 };
588
589 enum eval_hint { /* values for `hinttype' */
590     EAH_NOHINT   = 0,       /* no hint at all - our discretion */
591     EAH_MAKEBASE = 1,       /* try to make given reg the base */
592     EAH_NOTBASE  = 2        /* try _not_ to make reg the base */
593 };
594
595 typedef struct operand { /* operand to an instruction */
596     opflags_t       type;       /* type of operand */
597     int             disp_size;  /* 0 means default; 16; 32; 64 */
598     enum reg_enum   basereg;
599     enum reg_enum   indexreg;   /* address registers */
600     int             scale;      /* index scale */
601     int             hintbase;
602     enum eval_hint  hinttype;   /* hint as to real base register */
603     int32_t         segment;    /* immediate segment, if needed */
604     int64_t         offset;     /* any immediate number */
605     int32_t         wrt;        /* segment base it's relative to */
606     int             eaflags;    /* special EA flags */
607     int             opflags;    /* see OPFLAG_* defines below */
608     decoflags_t     decoflags;  /* decorator flags such as {...} */
609 } operand;
610
611 #define OPFLAG_FORWARD      1   /* operand is a forward reference */
612 #define OPFLAG_EXTERN       2   /* operand is an external reference */
613 #define OPFLAG_UNKNOWN      4   /* operand is an unknown reference 
614                                  * (always a forward reference also)
615                                  */
616
617 typedef struct extop { /* extended operand */
618     struct extop    *next;      /* linked list */
619     char            *stringval; /* if it's a string, then here it is */
620     size_t          stringlen;  /* ... and here's how long it is */
621     int64_t         offset;     /* ... it's given here ... */
622     int32_t         segment;    /* if it's a number/address, then... */
623     int32_t         wrt;        /* ... and here */
624     enum extop_type type;       /* defined above */
625 } extop;
626
627 enum ea_type {
628     EA_INVALID,     /* Not a valid EA at all */
629     EA_SCALAR,      /* Scalar EA */
630     EA_XMMVSIB,     /* XMM vector EA */
631     EA_YMMVSIB,     /* YMM vector EA */
632     EA_ZMMVSIB,     /* ZMM vector EA */
633 };
634
635 /*
636  * Prefix positions: each type of prefix goes in a specific slot.
637  * This affects the final ordering of the assembled output, which
638  * shouldn't matter to the processor, but if you have stylistic
639  * preferences, you can change this.  REX prefixes are handled
640  * differently for the time being.
641  *
642  * LOCK and REP used to be one slot; this is no longer the case since
643  * the introduction of HLE.
644  */
645 enum prefix_pos {
646     PPS_WAIT,   /* WAIT (technically not a prefix!) */
647     PPS_REP,    /* REP/HLE prefix */
648     PPS_LOCK,   /* LOCK prefix */
649     PPS_SEG,    /* Segment override prefix */
650     PPS_OSIZE,  /* Operand size prefix */
651     PPS_ASIZE,  /* Address size prefix */
652     PPS_VEX,    /* VEX type */
653     MAXPREFIX   /* Total number of prefix slots */
654 };
655
656 /*
657  * Tuple types that are used when determining Disp8*N eligibility
658  * The order must match with a hash %tuple_codes in insns.pl
659  */
660 enum ttypes {
661     FV    = 001,
662     HV    = 002,
663     FVM   = 003,
664     T1S8  = 004,
665     T1S16 = 005,
666     T1S   = 006,
667     T1F32 = 007,
668     T1F64 = 010,
669     T2    = 011,
670     T4    = 012,
671     T8    = 013,
672     HVM   = 014,
673     QVM   = 015,
674     OVM   = 016,
675     M128  = 017,
676     DUP   = 020,
677 };
678
679 /* EVEX.L'L : Vector length on vector insns */
680 enum vectlens {
681     VL128 = 0,
682     VL256 = 1,
683     VL512 = 2,
684     VLMAX = 3,
685 };
686
687 /* If you need to change this, also change it in insns.pl */
688 #define MAX_OPERANDS 5
689
690 typedef struct insn { /* an instruction itself */
691     char            *label;                 /* the label defined, or NULL */
692     int             prefixes[MAXPREFIX];    /* instruction prefixes, if any */
693     enum opcode     opcode;                 /* the opcode - not just the string */
694     enum ccode      condition;              /* the condition code, if Jcc/SETcc */
695     int             operands;               /* how many operands? 0-3 (more if db et al) */
696     int             addr_size;              /* address size */
697     operand         oprs[MAX_OPERANDS];     /* the operands, defined as above */
698     extop           *eops;                  /* extended operands */
699     int             eops_float;             /* true if DD and floating */
700     int32_t         times;                  /* repeat count (TIMES prefix) */
701     bool            forw_ref;               /* is there a forward reference? */
702     int             rex;                    /* Special REX Prefix */
703     int             vexreg;                 /* Register encoded in VEX prefix */
704     int             vex_cm;                 /* Class and M field for VEX prefix */
705     int             vex_wlp;                /* W, P and L information for VEX prefix */
706     uint8_t         evex_p[3];              /* EVEX.P0: [RXB,R',00,mm], P1: [W,vvvv,1,pp] */
707                                             /* EVEX.P2: [z,L'L,b,V',aaa] */
708     enum ttypes     evex_tuple;             /* Tuple type for compressed Disp8*N */
709     int             evex_rm;                /* static rounding mode for AVX512 (EVEX) */
710     int8_t          evex_brerop;            /* BR/ER/SAE operand position */
711 } insn;
712
713 enum geninfo { GI_SWITCH };
714
715 /* Instruction flags type: IF_* flags are defined in insns.h */
716 typedef uint64_t iflags_t;
717
718 /*
719  * The data structure defining an output format driver, and the
720  * interfaces to the functions therein.
721  */
722 struct ofmt {
723     /*
724      * This is a short (one-liner) description of the type of
725      * output generated by the driver.
726      */
727     const char *fullname;
728
729     /*
730      * This is a single keyword used to select the driver.
731      */
732     const char *shortname;
733
734     /*
735      * Output format flags.
736      */
737 #define OFMT_TEXT   1   /* Text file format */
738     unsigned int flags;
739
740     /*
741      * this is a pointer to the first element of the debug information
742      */
743     struct dfmt **debug_formats;
744
745     /*
746      * and a pointer to the element that is being used
747      * note: this is set to the default at compile time and changed if the
748      * -F option is selected.  If developing a set of new debug formats for
749      * an output format, be sure to set this to whatever default you want
750      *
751      */
752     const struct dfmt *current_dfmt;
753
754     /*
755      * This, if non-NULL, is a NULL-terminated list of `char *'s
756      * pointing to extra standard macros supplied by the object
757      * format (e.g. a sensible initial default value of __SECT__,
758      * and user-level equivalents for any format-specific
759      * directives).
760      */
761     macros_t *stdmac;
762
763     /*
764      * This procedure is called at the start of an output session to set
765      * up internal parameters.
766      */
767     void (*init)(void);
768
769     /*
770      * This procedure is called to pass generic information to the
771      * object file.  The first parameter gives the information type
772      * (currently only command line switches)
773      * and the second parameter gives the value.  This function returns
774      * 1 if recognized, 0 if unrecognized
775      */
776     int (*setinfo)(enum geninfo type, char **string);
777
778     /*
779      * This procedure is called by assemble() to write actual
780      * generated code or data to the object file. Typically it
781      * doesn't have to actually _write_ it, just store it for
782      * later.
783      *
784      * The `type' argument specifies the type of output data, and
785      * usually the size as well: its contents are described below.
786      */
787     void (*output)(int32_t segto, const void *data,
788                    enum out_type type, uint64_t size,
789                    int32_t segment, int32_t wrt);
790
791     /*
792      * This procedure is called once for every symbol defined in
793      * the module being assembled. It gives the name and value of
794      * the symbol, in NASM's terms, and indicates whether it has
795      * been declared to be global. Note that the parameter "name",
796      * when passed, will point to a piece of static storage
797      * allocated inside the label manager - it's safe to keep using
798      * that pointer, because the label manager doesn't clean up
799      * until after the output driver has.
800      *
801      * Values of `is_global' are: 0 means the symbol is local; 1
802      * means the symbol is global; 2 means the symbol is common (in
803      * which case `offset' holds the _size_ of the variable).
804      * Anything else is available for the output driver to use
805      * internally.
806      *
807      * This routine explicitly _is_ allowed to call the label
808      * manager to define further symbols, if it wants to, even
809      * though it's been called _from_ the label manager. That much
810      * re-entrancy is guaranteed in the label manager. However, the
811      * label manager will in turn call this routine, so it should
812      * be prepared to be re-entrant itself.
813      *
814      * The `special' parameter contains special information passed
815      * through from the command that defined the label: it may have
816      * been an EXTERN, a COMMON or a GLOBAL. The distinction should
817      * be obvious to the output format from the other parameters.
818      */
819     void (*symdef)(char *name, int32_t segment, int64_t offset,
820                    int is_global, char *special);
821
822     /*
823      * This procedure is called when the source code requests a
824      * segment change. It should return the corresponding segment
825      * _number_ for the name, or NO_SEG if the name is not a valid
826      * segment name.
827      *
828      * It may also be called with NULL, in which case it is to
829      * return the _default_ section number for starting assembly in.
830      *
831      * It is allowed to modify the string it is given a pointer to.
832      *
833      * It is also allowed to specify a default instruction size for
834      * the segment, by setting `*bits' to 16 or 32. Or, if it
835      * doesn't wish to define a default, it can leave `bits' alone.
836      */
837     int32_t (*section)(char *name, int pass, int *bits);
838
839     /*
840      * This procedure is called to modify section alignment,
841      * note there is a trick, the alignment can only increase
842      */
843     void (*sectalign)(int32_t seg, unsigned int value);
844
845     /*
846      * This procedure is called to modify the segment base values
847      * returned from the SEG operator. It is given a segment base
848      * value (i.e. a segment value with the low bit set), and is
849      * required to produce in return a segment value which may be
850      * different. It can map segment bases to absolute numbers by
851      * means of returning SEG_ABS types.
852      *
853      * It should return NO_SEG if the segment base cannot be
854      * determined; the evaluator (which calls this routine) is
855      * responsible for throwing an error condition if that occurs
856      * in pass two or in a critical expression.
857      */
858     int32_t (*segbase)(int32_t segment);
859
860     /*
861      * This procedure is called to allow the output driver to
862      * process its own specific directives. When called, it has the
863      * directive word in `directive' and the parameter string in
864      * `value'. It is called in both assembly passes, and `pass'
865      * will be either 1 or 2.
866      *
867      * This procedure should return zero if it does not _recognise_
868      * the directive, so that the main program can report an error.
869      * If it recognises the directive but then has its own errors,
870      * it should report them itself and then return non-zero. It
871      * should also return non-zero if it correctly processes the
872      * directive.
873      */
874     int (*directive)(enum directives directive, char *value, int pass);
875
876     /*
877      * This procedure is called before anything else - even before
878      * the "init" routine - and is passed the name of the input
879      * file from which this output file is being generated. It
880      * should return its preferred name for the output file in
881      * `outname', if outname[0] is not '\0', and do nothing to
882      * `outname' otherwise. Since it is called before the driver is
883      * properly initialized, it has to be passed its error handler
884      * separately.
885      *
886      * This procedure may also take its own copy of the input file
887      * name for use in writing the output file: it is _guaranteed_
888      * that it will be called before the "init" routine.
889      *
890      * The parameter `outname' points to an area of storage
891      * guaranteed to be at least FILENAME_MAX in size.
892      */
893     void (*filename)(char *inname, char *outname);
894
895     /*
896      * This procedure is called after assembly finishes, to allow
897      * the output driver to clean itself up and free its memory.
898      * Typically, it will also be the point at which the object
899      * file actually gets _written_.
900      *
901      * One thing the cleanup routine should always do is to close
902      * the output file pointer.
903      */
904     void (*cleanup)(int debuginfo);
905 };
906
907 /*
908  * Output format driver alias
909  */
910 struct ofmt_alias {
911     const char  *shortname;
912     const char  *fullname;
913     struct ofmt *ofmt;
914 };
915
916 extern struct ofmt *ofmt;
917 extern FILE *ofile;
918
919 /*
920  * ------------------------------------------------------------
921  * The data structure defining a debug format driver, and the
922  * interfaces to the functions therein.
923  * ------------------------------------------------------------
924  */
925
926 struct dfmt {
927     /*
928      * This is a short (one-liner) description of the type of
929      * output generated by the driver.
930      */
931     const char *fullname;
932
933     /*
934      * This is a single keyword used to select the driver.
935      */
936     const char *shortname;
937
938     /*
939      * init - called initially to set up local pointer to object format.
940      */
941     void (*init)(void);
942
943     /*
944      * linenum - called any time there is output with a change of
945      * line number or file.
946      */
947     void (*linenum)(const char *filename, int32_t linenumber, int32_t segto);
948
949     /*
950      * debug_deflabel - called whenever a label is defined. Parameters
951      * are the same as to 'symdef()' in the output format. This function
952      * would be called before the output format version.
953      */
954
955     void (*debug_deflabel)(char *name, int32_t segment, int64_t offset,
956                            int is_global, char *special);
957     /*
958      * debug_directive - called whenever a DEBUG directive other than 'LINE'
959      * is encountered. 'directive' contains the first parameter to the
960      * DEBUG directive, and params contains the rest. For example,
961      * 'DEBUG VAR _somevar:int' would translate to a call to this
962      * function with 'directive' equal to "VAR" and 'params' equal to
963      * "_somevar:int".
964      */
965     void (*debug_directive)(const char *directive, const char *params);
966
967     /*
968      * typevalue - called whenever the assembler wishes to register a type
969      * for the last defined label.  This routine MUST detect if a type was
970      * already registered and not re-register it.
971      */
972     void (*debug_typevalue)(int32_t type);
973
974     /*
975      * debug_output - called whenever output is required
976      * 'type' is the type of info required, and this is format-specific
977      */
978     void (*debug_output)(int type, void *param);
979
980     /*
981      * cleanup - called after processing of file is complete
982      */
983     void (*cleanup)(void);
984 };
985
986 extern const struct dfmt *dfmt;
987
988 /*
989  * The type definition macros
990  * for debugging
991  *
992  * low 3 bits: reserved
993  * next 5 bits: type
994  * next 24 bits: number of elements for arrays (0 for labels)
995  */
996
997 #define TY_UNKNOWN 0x00
998 #define TY_LABEL   0x08
999 #define TY_BYTE    0x10
1000 #define TY_WORD    0x18
1001 #define TY_DWORD   0x20
1002 #define TY_FLOAT   0x28
1003 #define TY_QWORD   0x30
1004 #define TY_TBYTE   0x38
1005 #define TY_OWORD   0x40
1006 #define TY_YWORD   0x48
1007 #define TY_COMMON  0xE0
1008 #define TY_SEG     0xE8
1009 #define TY_EXTERN  0xF0
1010 #define TY_EQU     0xF8
1011
1012 #define TYM_TYPE(x)     ((x) & 0xF8)
1013 #define TYM_ELEMENTS(x) (((x) & 0xFFFFFF00) >> 8)
1014
1015 #define TYS_ELEMENTS(x) ((x) << 8)
1016
1017 enum special_tokens {
1018     SPECIAL_ENUM_START  = PREFIX_ENUM_LIMIT,
1019     S_ABS               = SPECIAL_ENUM_START,
1020     S_BYTE,
1021     S_DWORD,
1022     S_FAR,
1023     S_LONG,
1024     S_NEAR,
1025     S_NOSPLIT,
1026     S_OWORD,
1027     S_QWORD,
1028     S_REL,
1029     S_SHORT,
1030     S_STRICT,
1031     S_TO,
1032     S_TWORD,
1033     S_WORD,
1034     S_YWORD,
1035     S_ZWORD,
1036     SPECIAL_ENUM_LIMIT
1037 };
1038
1039 enum decorator_tokens {
1040     DECORATOR_ENUM_START    = SPECIAL_ENUM_LIMIT,
1041     BRC_1TO8                = DECORATOR_ENUM_START,
1042     BRC_1TO16,
1043     BRC_RN,
1044     BRC_RD,
1045     BRC_RU,
1046     BRC_RZ,
1047     BRC_SAE,
1048     BRC_Z,
1049     DECORATOR_ENUM_LIMIT
1050 };
1051
1052 /*
1053  * AVX512 Decorator (decoflags_t) bits distribution (counted from 0)
1054  *  3         2         1
1055  * 10987654321098765432109876543210
1056  *                |
1057  *                | word boundary
1058  * ............................1111 opmask
1059  * ...........................1.... zeroing / merging
1060  * ..........................1..... broadcast
1061  * .........................1...... static rounding
1062  * ........................1....... SAE
1063  * ......................11........ broadcast element size
1064  * ....................11.......... number of broadcast elements
1065  */
1066 #define OP_GENVAL(val, bits, shift)     (((val) & ((UINT64_C(1) << (bits)) - 1)) << (shift))
1067
1068 /*
1069  * Opmask register number
1070  * identical to EVEX.aaa
1071  *
1072  * Bits: 0 - 3
1073  */
1074 #define OPMASK_SHIFT            (0)
1075 #define OPMASK_BITS             (4)
1076 #define OPMASK_MASK             OP_GENMASK(OPMASK_BITS, OPMASK_SHIFT)
1077 #define GEN_OPMASK(bit)         OP_GENBIT(bit, OPMASK_SHIFT)
1078 #define VAL_OPMASK(val)         OP_GENVAL(val, OPMASK_BITS, OPMASK_SHIFT)
1079
1080 /*
1081  * zeroing / merging control available
1082  * matching to EVEX.z
1083  *
1084  * Bits: 4
1085  */
1086 #define Z_SHIFT                 (4)
1087 #define Z_BITS                  (1)
1088 #define Z_MASK                  OP_GENMASK(Z_BITS, Z_SHIFT)
1089 #define GEN_Z(bit)              OP_GENBIT(bit, Z_SHIFT)
1090
1091 /*
1092  * broadcast - Whether this operand can be broadcasted
1093  *
1094  * Bits: 5
1095  */
1096 #define BRDCAST_SHIFT           (5)
1097 #define BRDCAST_BITS            (1)
1098 #define BRDCAST_MASK            OP_GENMASK(BRDCAST_BITS, BRDCAST_SHIFT)
1099 #define GEN_BRDCAST(bit)        OP_GENBIT(bit, BRDCAST_SHIFT)
1100
1101 /*
1102  * Whether this instruction can have a static rounding mode.
1103  * It goes with the last simd operand because the static rounding mode
1104  * decorator is located between the last simd operand and imm8 (if any).
1105  *
1106  * Bits: 6
1107  */
1108 #define STATICRND_SHIFT         (6)
1109 #define STATICRND_BITS          (1)
1110 #define STATICRND_MASK          OP_GENMASK(STATICRND_BITS, STATICRND_SHIFT)
1111 #define GEN_STATICRND(bit)      OP_GENBIT(bit, STATICRND_SHIFT)
1112
1113 /*
1114  * SAE(Suppress all exception) available
1115  *
1116  * Bits: 7
1117  */
1118 #define SAE_SHIFT               (7)
1119 #define SAE_BITS                (1)
1120 #define SAE_MASK                OP_GENMASK(SAE_BITS, SAE_SHIFT)
1121 #define GEN_SAE(bit)            OP_GENBIT(bit, SAE_SHIFT)
1122
1123 /*
1124  * Broadcasting element size.
1125  *
1126  * Bits: 8 - 9
1127  */
1128 #define BRSIZE_SHIFT            (8)
1129 #define BRSIZE_BITS             (2)
1130 #define BRSIZE_MASK             OP_GENMASK(BRSIZE_BITS, BRSIZE_SHIFT)
1131 #define GEN_BRSIZE(bit)         OP_GENBIT(bit, BRSIZE_SHIFT)
1132
1133 #define BR_BITS32               GEN_BRSIZE(0)
1134 #define BR_BITS64               GEN_BRSIZE(1)
1135
1136 /*
1137  * Number of broadcasting elements
1138  *
1139  * Bits: 10 - 11
1140  */
1141 #define BRNUM_SHIFT             (10)
1142 #define BRNUM_BITS              (2)
1143 #define BRNUM_MASK              OP_GENMASK(BRNUM_BITS, BRNUM_SHIFT)
1144 #define VAL_BRNUM(val)          OP_GENVAL(val, BRNUM_BITS, BRNUM_SHIFT)
1145
1146 #define BR_1TO8                 VAL_BRNUM(0)
1147 #define BR_1TO16                VAL_BRNUM(1)
1148
1149 #define MASK                    OPMASK_MASK             /* Opmask (k1 ~ 7) can be used */
1150 #define Z                       Z_MASK
1151 #define B32                     (BRDCAST_MASK|BR_BITS32) /* {1to16} : broadcast 32b * 16 to zmm(512b) */
1152 #define B64                     (BRDCAST_MASK|BR_BITS64) /* {1to8}  : broadcast 64b *  8 to zmm(512b) */
1153 #define ER                      STATICRND_MASK          /* ER(Embedded Rounding) == Static rounding mode */
1154 #define SAE                     SAE_MASK                /* SAE(Suppress All Exception) */
1155
1156 /*
1157  * Global modes
1158  */
1159
1160 /*
1161  * This declaration passes the "pass" number to all other modules
1162  * "pass0" assumes the values: 0, 0, ..., 0, 1, 2
1163  * where 0 = optimizing pass
1164  *       1 = pass 1
1165  *       2 = pass 2
1166  */
1167
1168 extern int pass0;
1169 extern int passn;               /* Actual pass number */
1170
1171 extern bool tasm_compatible_mode;
1172 extern int optimizing;
1173 extern int globalbits;          /* 16, 32 or 64-bit mode */
1174 extern int globalrel;           /* default to relative addressing? */
1175 extern int maxbits;             /* max bits supported by output */
1176
1177 /*
1178  * NASM version strings, defined in ver.c
1179  */
1180 extern const char nasm_version[];
1181 extern const char nasm_date[];
1182 extern const char nasm_compile_options[];
1183 extern const char nasm_comment[];
1184 extern const char nasm_signature[];
1185
1186 #endif