NASM 2.08rc10

We decided to defer recursive macro support
for now.

Hope this is the last RC before 2.08 final release.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc.c: Turn off rmacro,exitmacro support

We've a problem in supporting [i]rmacro, exitmacro
facilities at moment.

In a sake of not holding new NASM release any longer these
directives are just marked as being "forbidden".

This allow us to not squash much changes in current source
code base but remain on a safe side same time.

Reviewed-by: Keith Kanios <keith@kanios.net>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

phash.ph: we haven't required the Graph module for a long time

We removed the need for the Graph module back at checkin
c593173e110244f99a3498cb3e23d6c3c07bae35 in 2008.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

labels.c: Fix NULL dereference on too long identifiers

In case if label is local and exceed maximum allowed length
we get NULL dereference. Fix it and warn a user about an accident.

Note that we don't print identifier itself since we know it's too
big. Line number of error is enough.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Revert "doc/nasmdoc.src: Get rid of id length restriction"

This reverts commit 3012d5d430b64273b83f4b5890719d34e441a18c.

nasm64developer pointed out that we still have this
limit in label.c (IDLEN_MAX).

Reported-by: nasm64developer
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc.c: Eliminate parasite comment on PP_STACKSIZE

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc.c: Fix tab\space mess

It's really hard to read the code which is
terribly messed in tabs\spaces. Fix it all
at once. It's dirty work but has to be done
once.

No change on binary level.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/nasmdoc.src: Get rid of id length restriction

We always allocate enough memory to hold identifiers
with any length. So lets remove restriction from
documentation.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/nasmdoc.src: Point to the correct license file

There is no "COPYING" but "LICENSE" file.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/nasmdoc.src: It's 2010 already

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.08rc9

doc/changes.src: update in preparation of 2.08 release

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

preproc.c: Fix SIGSEV on missed %endm

In case if EOF is reached (or due to any
other case pp_cleanup is being called) we
do free "defining" macro but forgot to set
pointer to NULL itself which leads to attempt
to free memory again for this macro on further
pp_cleanup calls.

preproc.c: Fix NULL dereference on package absence

If package can't be retrieved we should not attempt
to dereference NULL'ed pointer which leads to segmentation
fault.

Reported-by: Serge
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.08rc8

output/outbin.c: Fix misprinted alignment bound

Due to a misprint in commit
9b66d8e4c3030474a75e598f699eccc118a3d651

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

expand_smacro: Don't search for ID in global context

The corner case is the code like

%define foo 1
%push bar
%$foo:
%pop

for which v2.07 ends up with "foo = 1" while 0.98.39
issue an error.

hpa said that ideally we may need to create a context
structure for the global context but this seems to be
too agressive for 2.08.

Based on patch from nasm64developer

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Elf: Drop useless SEG_ALIGN_1

No need for SEG_ALIGN_1 since we have switched
to ALIGN helper.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Use ALIGN helper

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nasmlib.h: Introduce ALIGN helpers

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

preproc.c: Use 16 byte offset in "flat64" stack model

The first argument passed on stack with "flat64" stack model
(stack frame with base pointer) should be pointed by
[rbp + 16].

Signed-off-by: Per Jessen <per@computer.org>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/nasmdoc.src: Delete misplaced "point" sign

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

contrib/MSVC6.txt: Add guide how to use nasm in MSVC6

It's possible to use nasm as asm compiled right within
MSVC6 IDE. Lets point it out via a small guide.

Signed-off-by: Alexander Ilyin <dragity@mail.ru>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nasmlib.c: Use UINT64_C for 64bit constants

In a sake of portability we should better use
UINT64_C instead of open-coded ULL postfix.

[ BR2938449 ]

Reported-by: Alexander Ilyin <dragity@mail.ru>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.08rc7

nasm.c: Restore strings broken by `indent`

A number of strings are broken by nindent passed over the nasm.c.
Though the compiler doesn't care about this fact it's really
unpleasant to have a string split at "dot" symbol.

Lets restore it in a sake of readability.

(No change on binary level)

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

README: add note to see the AUTHORS file

insns.dat: in 64-bit mode, accept "monitor rax,ecx,edx".

The first argument to MONITOR is an address, so it should be 64 bits
(RAX) in 64-bit mode.

The preferred form is still just plain "monitor".

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

Mkfiles: Add depends on stabs.h for Elf output

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/changes.src: Update changes

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

ELF: Explicitly point out SYM_GLOBAL, SYM_LOCAL binding

Instead of implicit declaration of global symbols obtained
by STB_GLOBAL << 4, and local symbols by STB_LOCAL << 4
use ELF32_ST_MKBIND helpers.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

elf.h: Add ELFXX_ST_MKBIND and move ELFXX_ST_ helpers

The profit of ELFXX_ST_MKBIND helper is that we
will use it for SYM_GLOBAL explicitly pointing
out from where this magic 0x10 came from.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

output/outelfX.c: Use definitions from stabs.h

Also made Makefile.in to handle dependency.
There are some makefiles in Mkfiles\ should
be fixed as well.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Add common STABs definition into output/stabs.h

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

outelfX.c: Trivial cleanup

Some tab\space convertions together with
trivial style nitfix.

No change on binary level.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR2924380: Add AMD LWP instructions

nasm64developer reported that we have no LWP support yet.
Add this feature.

Reported-by: nasm64developer <nasm64developer@users.sf.net>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR2924383: fix XOP instructions

nasm64developer reported a few nits in XOP
instruction templates. Plain typo in specification
(http://support.amd.com/us/Processor_TechDocs/43479.pdf)
and opcode errors.

Reported-by: nasm64developer <nasm64developer@users.sf.net>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR2924583: fix FMA4 instructions

nasm64developer reported that VFNMADDSD and VFNMADDSS
have "m" and "s" operands swapped in instruction templates
file.

Reported-by: nasm64developer <nasm64developer@users.sf.net>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Elf: Allow symbols binding to undefined section

Commit 2ddcd03900d134772e98acf8cab17a12cc0c3f2a
did bind symbols (in case of omitted SECTION directive)
to .text section but break COMMON binding.
Fix it.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/nasmdoc.src: Update the number of sync points in docs

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

sync.c: Get sync points limit back

We should explicitly check if we can hold the sync
point, otherwise we may wrap the array index and
reach incorrect value (if we're lucky).

So instead we make the index "almost" unlmited.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

sync.c: Style nitfix

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.08rc6

insns.dat: Restore default size of memory operands

During conversion of size of memory operands into
explicit form the compatibility with 2.07 has been
broken (for a small set of instructions). Lets restore
it. Details below.

This is due to specifics of our "fuzzy logic" algorithm.

For example consider the user wrote an instruction like

VCVTTPD2DQ xmm0,[eax]

the last operand is memory reference. But template contains
the following two items (written in simplified form)

VCVTTPD2DQ xmmreg,mem128
VCVTTPD2DQ xmmreg,mem256

So this is impossible to find out what _exactly_ user meant:
either reference to 128 bit value in memory or 256 bit.

As a solution we've been using IF_Sx modifier written in
template which allows to choose "by-default" template
and break the tie.

Reported-by: Victor van den Elzen <victor.vde@gmail.com>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

doc/changes.src: describe changes

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Elf: bind labels to text section by default

In case if SECTION directive is omitted but the real
code exist we form .text section by default and put compiled
code here. In turn labels are not handled in a same manner.

So lets bind them to text section by default as well.

[ BR: 2835192 ]

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR2907058: insn_size - close file handle before returning

As example of such behaviour is when fseek fails for
some reason.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nasm.c: Use copy_filename to set error message file

To prevent errname buffer overwrite we should
use copy_filename instead of strcpy.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

insns.dat: AVX -- no need for IF_ARx in template

We describe the instruction arguments in explicit form
so IF_ARx is just not needed here.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Run "make alldeps"

outrdf.c: remove obsolete file

The old RDF format has been unsupported for long time now.  Remove it
from the tree.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

outform.h: fix OF_NO_RDF2

OF_NO_RDF2 should turn off OF_RDF2, not OF_RDF

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

AUTHORS: convert to UTF-8

Convert Latin-1 character to UTF-8.  This is 2009.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

outmacho32: replace error() -> nasm_error()

Somehow outmacho32.c escaped the global change of error variables to
hard-coded nasm_error().

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

NASM 2.08rc5

test/Makefile: make it easier to inject options

Make it easier to inject options into test compiles.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

preproc.c: expand_smacro -- break endless loop for interminable macro recursion

Frank reported:
|
| From the "expert questions" forum comes this:
|
| ---------------------
| By: jasper_neumann
|
| How can I delegate %undef?
|
| In the example below the assembler (called with "nasm.exe -t -f rdf q.asm")
| bemoans my code, displays
|
| "q.asm:19: error: interminable macro recursion"
|
| and hangs.
|
| q.asm
| -----
| bits 32
| CPU P4
|
| %macro my_def 2
|  %xdefine %1 esp+%2
| %endmacro
|
| %macro my_undef 1
|  %undef %1
| %endmacro
|
| global check_it
| check_it:
|  my_def x,4
|  mov eax,[x]
|  my_undef x
|
|  my_def x,8
|  add eax,[x]
|  my_undef x
|  ret
|

So in case of interminable macro recursion we should break
the expansion procedure that way to not return back and start
expand macro again.

This address a part of the original problem.
Nasm64developer pointed out:
|
| Btw, after you manage to fix this recursion problem, the code
| in question still faces the same fundamental issue -- the arg
| to the my_undef invocations (i.e. x) gets expanded first; thus
| the %undef inside the macro sees esp+4 and esp+8 instead
| of x, and fails. What you'd need is a means to prevent the ex-
| pansion -- look for e.g. %# in 4.1.4 of the manual.txt which is
| attached to SF #1842438; it implements exactly that -- I once
| filed SF #829879 for this feature.
|

In turn Keith Kanios said:
|
| Anon is also correct in that we would need a special directive to instruct
| the delay of macro expansion, although I don't see this as critical or even
| high priority at the moment. The intermediate solution for this is, don't
| use indirection if it is not needed... an inline %undef should be
| sufficient.
|

Reported-by: Frank Kotler <fbkotler@zytor.com>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>
Reviewed-by: Keith Kanios <keith@kanios.net>

outcoff: BuildExportTable -- tab/space fix

Due to previous commit an indent by tab (occasionally) brought in.
Fix it as well. No change on binary level.

We're not that far from NASM release so it's a bit unpleasant
manner to push in such trivial change. But since it's the previous
commit dependent -- I dare to push it.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

outcoff: Do not fail on long export identifiers

If an export identifier is greater then 241 symbols
we do fail due to buffer overflow. Fix it.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

NASM 2.08rc4

Update test files

Remove references to DREX instructions

Add test/bisect.sh for use with "git bisect"

Don't boundcheck 64-bit numbers, it gives problems due to overflows

NASM 2.08rc3

insns.dat: remove non-DREX SSE5 instructions

Even the non-DREX SSE5 instructions appear to have been either
obsoleted or replaced with XOP varieties.  The only exception are the
ROUNDxx instructions, which are really SSE4.1 instructions and which
were simply duplicates.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

changes.src: document removal of DREX instructions

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

SSE5: remove all DREX-based instructions

AMD has obsoleted the DREX-based SSE5 proposal, so remove all such
instructions.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

outelf32/64 - various cleanups in a sake of unification

Make a small step forward elf32/64 unification procedure.
Mostly style fixes. Nothing serious.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

dwarfX_output: dont check for "ln" twice

And make dwarf64 version to be more familiar to
32bit version (preparation work for merge).

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

output/outelf64.c: simplify stabs64_cleanup, dwarf64_cleanup

nasm_free is failsafe against NULL passed

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Document BR 2887108 in changes.src

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Merge elf header files

Merge elfcommon.h, elf32.h, elf64.h into
single elf.h -- we do support both elf32
and elf64 anyway. Let put them into common
place.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

hash_init: check for size being power of two

It's really a bug if size is not power of
two. We must to be sure all callers are
sane.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

hashtbl.c: Unify common hash ops by macros

Instead of opencoded repeatable computation
use macro helpers.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Introduce is_power2 helper

We will need it for hash tables

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

MOVD xmmreg: not valid with REX.W

The xmmreg forms of MOVD are invalid with REX.W, since those are MOVQ
instructions.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

Comment out matches() operand flags logic

Also space fix

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nasmlib.h: Introduce nasm_build_assert

It's useful to protect our self from some
errors at build time.

For this sake we should use nasm_build_assert
if needed.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

test: imul.asm: move warning-generated tests under WARN

Only make the tests under WARN actually issue warnings.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

test: imul.asm: more IMUL pattern tests

Test more IMUL patterns.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

NASM 2.08rc2

matches: simplify check operand size actions

We may throw out j variable (since we break anyway)
and don't assign asize for free (since we don't
use it after).

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

IMUL: sbyteX fix -- last one

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

IMUL: fix an additional incorrect sbyte use

One more incorrect use of sbyte in IMUL.

Overall, the IMUL patterns seem really messy.  *Furthermore*, despite
IMUL normally being thought of as signed, the 2- and 3-operand
versions don't produce a high half and are therefore
signedness-agnostic -- we could even add MUL patterns for those forms.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

BR 2887108: fix incorrect sbyte usage in IMUL

Fix a very curious transposition in the instruction patterns for IMUL,
which caused 32-bit IMUL instructions with constants like 0x10001 to
be generated incorrectly.

Signed-off-by: H. Peter Anvin <hpa@zytor.com>

Revert "BR 2887108: Use overflow_ helper to catch inappropriate imm optimization"

This reverts commit 41208028ff52d190044ee7532bf14c5aca0f899a.
|
| From: "H. Peter Anvin" <hpa@zytor.com>
|
| The tests for overflow_signed() are wrong too.  Those are relevant for if a
| warning should be issued, but not for how the value should be encoded in
| the byte stream.
|

Signed-off-by: Cyrill Gorcunov <gorcunov@openvz.org>

stdscan.c: use TOKEN_EOS and string helpers

Also tab/space cleanup

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Various tab/space/comment cleanup

No change on binary level

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

output/outelf32-64: use string helpers

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

Remove outdated comments

From Frank Kotler:
| ...
| > -                stdscan_bufptr = saveme;        /* bugfix? fbk 8/10/00 */
| > +                stdscan_set(saveme);            /* bugfix? fbk 8/10/00 */
|
| While you're at it, you could remove my comment(s - it seems to have
| reproduced). It *is* a bugfix (apparently). "saveme" might have a better
| name, too...

So get rid of the comments.

Reported-by: Frank Kotler <fbkotler@zytor.com>
Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

stdscan: switch to stdscan_get/set routines

Instead of manipulating stdscan buffer pointer directly
we switch to a routine interface.

This allow us to unify stdscan access: ie caller should
"talk" to stdscan via stdscan_get/set routines.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

nasmlib: Introduce idata_bytes helper

This allow us to eliminate code duplication

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR 2887108: Use overflow_ helper to catch inappropriate imm optimization

We should use overflow_ helpers before check if an immediate
operand fit a type range, otherwise we may loose high bits.

For example when we assemble the following instruction

imul eax,eax,0x10000

with -Ox passed we optimze it up to imm8 though it must be imm32.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

changes.src: document preprocessor directives added since 2.07
nasmdoc.src: document %exitmacro

preproc.c: fix exitmacro to account for if/endif blocks

continue using is_class helper

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

changes.src: describe changes since version 2.07 up to 2.08rc1

There are already new commits which fix other bugs
but at moment only changes up to 2.08rc1.

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

BR 2840300: fix macho symbol alignment bug

parser.c: pasrse_line -- fix alignment

Signed-off-by: Cyrill Gorcunov <gorcunov@gmail.com>

assemble: xsizeflags[] is an opflags_t variable

One more case of int32_t instead of opflags_t...

Signed-off-by: H. Peter Anvin <hpa@zytor.com>