Add support for warning on invalid LOCK prefixes

Add an LOCK flag to the instruction template, and make the presence of
a LOCK prefix trigger a warning if it is not set.  Simplify the LOCK
and HLE logic by hard-coding the knowledge that operand 0 has to be
memory.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

Move HLE byte codes to \264..\267

Move the HLE byte codes to \264..\267 so as not to break up an unused
group of 8 (\240..\247).

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

Add a "nohle" byte code to skip an instruction pattern

The a2/a3 mem_offs MOV opcodes are invalid with XRELEASE; those
instructions instead have to use a modrm form.  Therefore give a way
to annotate those instruction patters so the pattern matcher will move
on to the next pattern, rather than selecting them and then issue a
warning.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

insns.pl: Bundle all "plain bytecodes" into a hash

Instead of a long string of ifs, put all the plain opcodes which just
turn into single bytecodes with no other effect into a hash.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

HLE: Implement the basic mechanism for XACQUIRE/XRELEASE

This implements the mechanism for XACQUIRE/XRELEASE.  It does not
include the necessary annotations in insns.dat.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

nasm.c: Fix is_suppressed_warning()

The logic in is_suppressed_warning() was severely wrong, which would
cause a lot of legitimate warnings to be suppressed while some
warnings would be duplicated.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

HLE: Split the LOCK and REP prefix slots

With HLE, the sequence REP LOCK actually makes sense, so support it.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

insns: create a symbolic "wait" token for the \341 byte code

Create a symbolic name "wait" for the \341 byte code, so we don't have
to open-code it.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

insns: fix IMUL patterns to get rid of open-coded \100 bytecodes

There already is a standard encoding for "use this operand in multiple
slots"; no need to open-code it.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

insns: correct the TSX opcodes

All except XTEST are RTM, not HLE; XBEGIN is like a JMP or CALL.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

insns: Add AVX2 transactional synchronization extensions

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: replace open-coded \322 opcode with odf (operand default)

Create a mnemonic for the open-coded opcode \322.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

backend: add support for x32 ELF

Add an x32 ELF (32-bit code with the CPU in 64-bit mode) backend.

BR 3463230: Add VMFUNC instruction

Add VMFUNC instruction from the Intel SDM version 041.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

insns: Fix up sizes for MOVSD and VMOVSS instructions

Reported-by: Jasper Neumann <jasper.neumann@scpsoftware.com>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Don't forget to setup warning levels on preprocessor phase

http://bugzilla.nasm.us/show_bug.cgi?id=3143109

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Drop tab/space mess from parse_cmdline

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Use proper bracing on setting warnings in comman line parsing

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Add WARN_IDX helper and ERR_WARN_TERM named constant

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Simplify is_suppressed_warning helper

The former is really hard to read.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3392199: Revert "insns: Add MOVD as aliases to MOVQ for compatibility with AMD"

This reverts commit 70712c0df6c437c50452c4997aa2e3de5a0e0299.

Conflicts:

insns.dat

Our instructions matcher fuzzy logic fails to handle it at moment.

Reported-by: KO Myung-Hun <komh@chollian.net>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Proper bracing with list_for_each

It is a potential place for a bug if list_for_each
helper is used with multiple lines of code without
a proper bracing.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns.dat: Fix VPCMPEQQ template

http://bugzilla.nasm.us/show_bug.cgi?id=3392197

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3392198: Fix compilation warning on prefixes

insn->prefixes might contain not only values from
'enum prefixes' but from 'enum reg_enum' as well so
make it generic 'int' instead.

This calms down the compiler about enum's mess and
eliminates a wrong assumption that we always have
values by particular type in this field.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3392195: insns: Drop MMX flag from MOVD

Typo in specification.

Reported-by: Jasper Neumann <sirrida@web.de>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: Fix typos for vcmpeq aliases

The patch came from herumi@nifty.com

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Drop NULL assignments for static variables

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: A few style fixups

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3376406: Update default optimization level in man

Update default optimization level in man to reflect
the reality.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: Add MOVD as aliases to MOVQ for compatibility with AMD

AMD has MOVD for both 32bit and 64bit GPRs so in a sake of
compatibility bring them into insns.dat.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: %ifenv should require environment variable name to exist

Otherwise naked %ifenv/%endif passes without a notice.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3414012: Make %if[n]def to handle tail spaces

In case if there a trailing spaces after expansion
%if[n]def might produce a false alarms on macro id
being expected.

Note it also makes the constructions like bare

%ifdef
%endif

invalid, while before they were passed well without
a notice.

Reported-by: KO Myung-Hun
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

assemble: Drop redundant variable

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3411280: Fix incorrect compiler option for OS/2 target in Open Watcom makefile

For OS2 target the -bt option should be set accordingly.

Signed-off-by: Jiri Malak <malak.jiri@gmail.com>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns.dat: Fixup VGATHERx instructions

As being spotted by nasm64developer the memory
operands size is incorrect. Fix it.

Reported-by: nasm64developer
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Add AVX2 test file

nasm64developer kindly provided a testfile converted
to nasm format.

http://sourceware.org/ml/binutils/2011-06/msg00150.html

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

A couple of simplifications to assemble.c

 - GEN_SIB and GEN_MODRM helpers added
 - a number of tabs vs space fixs
 - more use of is_class() helper

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

parser: No need to split line if it a bit longer than 80 chars

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Add IS_SREG and IS_FSGS helpers

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

A few style fixups in parser.c

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

elf64: Make linelist to look the same as elf32

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

elf32: Drop holes in linelist structure

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

outobj: Reorder Segment members to eliminate holes

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

outieee: Reorder ieeeSection members to eliminate holes

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Drop empty line and bracket

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Style tuneup of nasm.h

 - a number of tabs to space conversion
 - redundant spaces removed
 - structure elements alignment

No functional changes.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

disasm.c: ESP/RSP cannot be indicies, but XMM4/YMM4 can be

If we have XMM4/YMM4 as a VSIB, it does not mean no index; that is
only for scalar encoding.

Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>

assemble.c: remove stray debugging code

My bad for checking this in at all.

Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>

insns, avx2: A couple of upper-case to lower-case conversion

Just to be solid in style

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns, avx2: A typo in VPERMPD

The second VPERMD should be VPERMPD actually.

Thanks to nasm64developer for gas test file provided
which allowed to reveal this issue.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

assemble.c: Comment out debug printing

Probably we need some kind of pr_debug or
something like that instead.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3385573: Some AVX2 instructions fixups

A few instruction templates for AVX2 set were wrong.

Reported-by: Agner Fog
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: Change VPERMPQ to VPERMQ

Was a typo

Reported-by: Agner Fog
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Drop emitting() rudimanet

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc: update documentation for pending 2.10 release

NASM 2.10rc8

Implement insns.dat in human readable form

 I converted almost all instructions in insns.dat (version
 7a6f97869840fc0b1b8677bd77c74754c5f024aa) to the more
 readable format that insns.pl has supported for years.

 I also made some changes to insns.pl. You can verify that the
 new insns.dat and insns.pl produce byte-identical output to
 the old insns.dat and insns.pl, so I think that this change
 is safe to check in, even though it is a large change to
 insns.dat.

The changes to insns.pl are:

 * fixed a bug: ib,u was not recognized
 * added support for a second immediate argument called "j" for
   instructions like ENTER imm,imm
 * added a "+r" syntax for \10..\13

[gorcunov: insns files remains the same, great job anonymous!]

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.10.rc7

Intel's AVX2 instructions should be covered now.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: A final pile of AVX2 instructions

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: A few additional AVX2 templates

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: One more small snippet of AVX2

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: One more slab of AVX2 instructions

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns: Add a slab of AVX2 instructions

Not all are covered yet, but still a step
forward I think.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns.dat: Move exsiting AVX2 insns to a separate section

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Align members in structures

For easier reading

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Reorder ExpInv to drop padding

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Reorder SMacro members to eliminate padding

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nasm.h: Reorder tokenval members to drop padding

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Some cleanup on insns.h

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Drop unused 'opt' from nasm_opt_val

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

elf64: Drop unused 'zero' variable

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Drop unused 'type' from gencode

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Fix saa_writeaddr for big-endian case

saa_writeaddr on big-endian archs didn't write converted
argument, fix it.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Drop unused 'arg' variable

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Merge branch 'nasm-2.09.xx'

Conflicts:
version

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM-2.09.10

- Fix nasty problem with uninstaller in case of registry
  keys corruption, which might lead to arbitrary files
  removal.

  Just to be sure the proper files and directories are to
  be removed a few additional questions are brought into
  deinstallation procedure.

  The former issue reported here

http://forum.nasm.us/index.php?topic=1013.0

  Note: no functional changes are done inside nasm code,
  critical fixes will be ported to 2.09.xx branch, but
  mostly the (more or less) active development and various
  bug fixes are concentrated around 2.10 series.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc: Describe changes for nasm-2.09.10

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nsis: Remove desktop bat link as well

In case of installation procedure being used in
a per-user fasion the display link to a bat file
remain untouched at uninstallation time. Fix it.

I hope this time all things go smooth.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nsis: Inform a user about files being deleted

Since a user might have some weird access rules on NTFS
such as allow to write files but not to delete them it
might happen that uninstallation procedure fails at
deleting files but deleting registry keys still success,
and in result a user might try to uninstall nasm for second
time with registry keys corrupted.

So prompt a user with files being deleted so he can double
check what is going on.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nsis: Make sure the registry keys exist

It was reported on nasm forum (http://forum.nasm.us/index.php?topic=1013.0)
that if uninstallation procedure get stopped (for any reason) in a middle
leading to read empty registry values an attempt to remove arbitrary
files might happen. So make sure there are some sane values in registry.

N.B: People, if you find some bug in nasm, don't write to forum, file
bug directly in bugzilla, if it's not a bug we simply close it, otherwise
we might miss serious problems like this one!

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nsis: Remove desktop bat link as well

In case of installation procedure being used in
a per-user fasion the display link to a bat file
remain untouched at uninstallation time. Fix it.

I hope this time all things go smooth.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nsis: Inform a user about files being deleted

Since a user might have some weird access rules on NTFS
such as allow to write files but not to delete them it
might happen that uninstallation procedure fails at
deleting files but deleting registry keys still success,
and in result a user might try to uninstall nasm for second
time with registry keys corrupted.

So prompt a user with files being deleted so he can double
check what is going on.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

A few more AVX2 spec instructions

Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>

Use a normal quad-case for valueless /is4

When we don't have an immediate for the i-field in /is4, then use a
normal quad-bytecode encoding for it to save some small amount of
space and re-use existing machinery.

Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>

Remove support for DREX encoding

The DREX encoding never hit production silicon, and has been replaced
by VEX/XOP encoding, so remove support for it.

Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>

insns.dat: Clean up and fix the BMI instruction patterns

Clean up the formatting of the BMI instruction patterns, and fix:

a) X64,FUTURE is wrong - it needs to be LONG,FUTURE
b) Fix the BLSI, BLSMSK, BLSR instruction patterns
c) Use a bracket pattern for TZCNT

Signed-off-by: H. Peter Anvin <hpa@linux.intel.com>

insns: Fix up RORX template

Missed 64 bit case.

Signed-off-by: Jasper Neuman <jasper.neumann@web.de>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns.dat: Add some BMI1 and BMI2 instructions

Signed-off-by: Jasper Neuman <jasper.neumann@web.de>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nsis: Make sure the registry keys exist

It was reported on nasm forum (http://forum.nasm.us/index.php?topic=1013.0)
that if uninstallation procedure get stopped (for any reason) in a middle
leading to read empty registry values an attempt to remove arbitrary
files might happen. So make sure there are some sane values in registry.

N.B: People, if you find some bug in nasm, don't write to forum, file
bug directly in bugzilla, if it's not a bug we simply close it, otherwise
we might miss serious problems like this one!

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns.h: Add BMI1 and BMI2 flags for further usage

Signed-off-by: Jasper Neuman <jasper.neumann@web.de>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Drop useless assignments

new_ExpDef does zalloc'ate memory so no need
to assign zeros again.

Same time it should fix MSC complains on NULL assignment
on boolean variable.

Reported-by: Jasper Neuman <jasper.neumann@web.de>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Merge branch 'nasm-2.09.xx'

Conflicts:
version

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.09.09

Just a few fixes only but serious enough to yield
new stable series

 - Unitialized memory parsing in bin format section attibutes.
 - MachO NULL dereference

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc: Describe changes for stable version

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR3282788: Fix 64-bit Mach-O bug that crashes NASM due to NULL symbols

output/outbin.c: initialize section attribs upon creation

Basically it's backport of commits

11db774a151e9d895fa05f980563a5cafb0f306a
3bc3ff2fb685a645698f9db9cfc903df30e4e555
c13deef255b621ace2130adf55530f3364a40458
e3f47806658de042af0eaccb1cc7896be388b397

They were missed to back-merge in a first place.

Reported-by: Keith Kanios <keith@kanios.net>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Move Preproc type to preproc_ops structure

There is no need to hide this structure into a type.
The former preproc_ops is a way more descriptive.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Refactor smacro paramters expansion

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Add smacro paramter helpers

I belive this should simply code a bit.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc: Alignment in loop

Just for easier reading

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>