Merge pull request #962 from sgraham/pool-use-fix

Fix pool use count going unbalanced

Merge pull request #743 from nicolasdespres/sigterm

Handle SIGTERM properly.

simplify & inline

avoid calling ResumeDelayedJobs instead

add comment

Forward interruption signal to child processes.

Allow SIGTERM for interruption.

Default signal sent by many other programs (mainly kill(1)) to gently
terminates another one is SIGTERM.

Fix pool use count going unbalanced

Merge pull request #958 from rui314/master

Run more than 34 processes on Win32 if we have 32+ cores.

Run more than 34 processes on Win32 if we have 32+ cores.

For compatiblity reason, dwNumberOfProcessors in Win32 is capped at 32.
So even if your machine has more than 32 cores, Ninja spawns at most 34
subprocesses. This patch fixes the issue by using GetNativeSystemInfo,
which returns the system info from Wow64 point of view, instead of
GetSystemInfo.

Merge pull request #954 from nico/fix

Fix an assert (and tests in --debug mode) after #921.

Fix an assert (and tests in --debug mode) after #921.

Merge pull request #953 from Sushisource/graphivz_fix

Fix backslashes in graphviz causing incorrect rendering on windows.

Fix backslashes in graphviz causing incorrect rendering on windows.

Merge pull request #951 from nico/cyclefix2

Don't get stuck on cyclic graphs where one edge has multiple outputs.

Don't get stuck on cyclic graphs where one edge has multiple outputs.

Fixes #934. Plan::AddSubTarget() tracks in want_ if each edge has been
visited and visits every edge only once.  But Plan::CheckDependencyCycle()
worked on nodes however, so if a cycle was entered through an edge with
multiple outputs, ninja would fail to detect that cycle.

Move cycle detection to look for duplicate edges instead of nodes to fix
this.  The extra jump makes CheckDependencyCycle() a bit slower: for a
synthetic build file with 10000 serial build steps, `ninja -n` now takes
0.32s instead of 0.26s before on my laptop.  In practice, projects have
a dependency change length on the order of 50, so there shouldn't be a
noticeable slowdown in practice.  (If this does end up being a problem:
CheckDependencyCycle() currently does O(n) work and is called O(m) times
from AddSubTarget(), so I think cycle checking is O(n^2) in the build
depth.  So instead of worrying about constant overhead, we could use
a set<> instead of a stack<>.  But it doesn't seem to be a problem in
practice.)

Merge pull request #950 from nico/cleanup

Simplify Plan's cycle detection code. No behavior change.

Cleanup: Don't search stack for cycle elements twice.

The common case is that there is no cycle.  In that case,
CheckDependencyCycle() searched the stack for a dupe from the back,
wouldn't find one, and return false.

If there was a cycle, it would then search again from the front
(probably because the push_back() that used to be here would invalidate
the ri iterator).

Since the push_back() is gone, just search from the front once. No
intended behavior change.

Cleanup: Make stack a const ref now that it's no longer modified.

Cleanup: Don't modify  during cycle checking.

Merge pull request #949 from nico/staterr

Let Stat() have an err outparam instead of writing to stderr.

Let Stat() have an err outparam instead of writing to stderr.

Also check for Stat() failure in a few more places.

This way, ninja doesn't print two "ninja: error: " lines if stat() fails
during a build.  It also makes it easier to keep the stat tests quiet.
Every caller of Stat() needs to explicitly log the error string if
that's desired.

Merge pull request #945 from nico/reldocs

make notes on how to update docs more detailed

make notes on how to update docs more detailed

Merge pull request #944 from nico/flags

Add an opt-in flag to make duplicate edges an error (`-w dupbuild=err`).

Add an opt-in flag to make duplicate edges an error (`-w dupbuild=err`).

This is step 1 on #931.  Duplicated edges will become an error by default in
the future.

Swap order of -k and -l in help output, to keep the list alphabetized.

Merge pull request #943 from nico/ssshh

Make tests quiet again, and prepare for making duplicate build edges an error.

Make tests quiet again.

Move warning emission on dupe edges from State to ManifestParser.

This will make it easier to optionally make this an error (because
ManifestParser has a way of printing errors), and it'll also make
it easier to make the tests quiet again.

No behavior change.

Merge pull request #942 from nico/cyclefix2

Don't crash on cyclic references between rule bindings.

Preallocate edge node vectors. ~1% faster.

Recover slowdown for cyclic rule bindings fix.

Don't crash on cyclic references between rule bindings.

Fixes #902.

This dynamically detects cycles.  I like this approach less than
detecting them statically when parsing rules [1], but it has the
advantage that it doesn't break existing ninja manifest files.

It has the disadvantage that it slows down manifest_parser_perftest by
3.9%.

1: https://github.com/martine/ninja/commit/cc6f54d6d436047

Merge pull request #940 from nico/moredupes

Another crash fix for duplicate edges. Fixes #939.

Another crash fix for duplicate edges. Fixes #939.

Patch #933 fixed a crash with duplicate edges by not adding edges to the
graph if all the edge's outputs are already built by other edges.
However, it added the edge to the out_edges of the edge's input nodes
before deleting it, letting inputs refer to dead edges.

To fix, move the check for deleting an edge above the code that adds
inputs.  Expand VerifyGraph() to check that nodes don't refer to edges
that aren't present in the state.

Merge pull request #938 from nico/aflclang

Add notes on using afl-fuzz to HACKING.

Add notes on using afl-fuzz to HACKING.

Merge pull request #937 from nico/statfix

Make failing stat() calls abort the build.

Make failing stat() calls abort the build.

Fixes #830, fixes #904.

In practice, this either happens with 64-bit inodes and a 32-bit
userspace when building without -D_FILE_OFFSET_BITS=64 in CFLAGS, or
when a filename is longer than the system file length limit.

Since DiskInterface::Stat() returns -1 on error, and Node used -1 on
"stat state unknown", not aborting the build lead to ninja stat()ing the
same file over and over again, until it finally ran out of stack. That's
now fixed.

* Change RecomputeOutputsDirty() to return success instead of dirty
  state (like RecomputeDirty()) and return the dirty state in a bool
  outparam
* Node::Stat()s old return value wasn't used anywhere, change the
  function to return success instead and add an |err| outparam
* Node::StatIfNecessary()'s old return value was used only in one place.
  Change that place to explicitly check status_known() and make
  StatIfNecessary() return success and add an |err| outparam
* Plan::CleanNode() can now fail, make it return bool and add an |err|
  outparam

Merge pull request #936 from nico/cleanup

Minor cleanups. No behavior change.

Add a missing &.  (No behavior change, only used in tests.)

Env should only be about variables.  No behavior change.

Merge pull request #930 from nico/depcolon

On unexpected output in a .d file, rebuild instead erroring.

Merge pull request #933 from nico/dupeedgefix

Build self-consistent graphs for dupe edges with multiple outputs.

Build self-consistent graphs for dupe edges with multiple outputs.

Fixes #867, both the crashes and "[stuck]" issues.

The problem was that a duplicate edge would modify the in_edge of the
outputs of the new build rule, but the edge corresponding to the old
build rule would still think that the in_edge points to itself.
`old_edge->outputs_[0]->in_edge()` would not return `old_edge`, which
confused the scan logic.

As fix, let `State::AddOut()` reject changing in_edge if it's already
set.  This changes behavior in a minor way: Previously, if there were
multiple edges for a single output, the last edge would be kept.  Now,
the first edge is kept.  This only had mostly-well-defined semantics if
all duplicate edges are the same (which is the only case I've seen in
practice), and for that case the behavior doesn't change.

For testing, add a VerifyGraph() function and call that every time any
test graph is parsed.  That's a bit more code than just copying the test
cases from the bug into build_test.cc, but it also yields better test
coverage overall.

On unexpected output in a .d file, rebuild instead erroring.

Fixes #417.

Reject depfiles that don't contain a : after the target name.

This is a prerequisite for fixing #417.

Merge pull request #928 from nico/novar

Remove option no longer needed now that we don't use gtest.

Remove option no longer needed now that we don't use gtest.

Simplify.  No behavior change.

Merge pull request #917 from pinotree/rlimit

subprocess_test: gracefully handle rlim.rlim_cur < kNumProcs

Merge pull request #910 from jlnt/master

POSIX: detach background subprocesses from terminal.

Merge pull request #927 from nico/colorgcc

Make diagnostics colored with new gccs (4.9+) too.

Make diagnostics colored with new gccs (4.9+) too.

Both clang and gcc understand -fdiagnostics-color, so use that flag name.
(This will disable colored diagnostics for clangs older than LLVM 3.3,
but that is several years old by now.)

Merge pull request #926 from nico/fixlibcpp

Fix build with libc++ after #921.

Fix build with libc++ after #921.

It failed with

    error: field has incomplete type 'EvalString'
    note: in instantiation of exception specification for 'map' requested here
      explicit Rule(const string& name) : name_(name) {}
               ^

Merge pull request #921 from mohamed/master

Allow scoping rules through subninja

Merge pull request #925 from kirbyfan64/master

Test for Clang by checking --version

Test for Clang by checking --version

Merge pull request #923 from HeisSpiter/master

Directly pass the string instead of char * to Truncate util function. It...

Added a new test to illustrate scoped rules

The new test shows the added value of scoped rules by demonstrating
a multi-level build where a single rules file gets included at all
the levels. By scoping rules, this is possible.

Directly pass the string instead of char * to Truncate util function. It will prevent useless conversions.

Allow scoping rules through subninja

Ninja didn't support scoping rules through subninja and assumed
a unique rule name in the whole namespace. With this change, this
behavior is changed to allow scoping rules. Two rules can have the
same name if they belong to two different scopes. However, two
rules can NOT have the same name in the same scope.

subprocess_test: gracefully handle rlim.rlim_cur < kNumProcs

Instead of expecting that the number of open files is well above
kNumProcs, simply "skip" the test in that case, still printing the
message about the test limit (adding the current system limit too).

Merge pull request #914 from tzik/typo_fix

Typo fix in graph.cc

Typo fix in graph.cc

Merge pull request #908 from colincross/multipass

Allow manifest rebuild to loop up to 100 times

Allow manifest rebuild to loop up to 100 times

Ninja generators that bootstrap themselves with Ninja may need
to rebuild build.ninja multiple times.  Replace the 2 cycle loop
with a 100 cycle loop, and print the pass number each time it
restarts.

Original-author: Jamie Gennis <jgennis@gmail.com>

POSIX: detach background subprocesses from terminal.

Put background subprocesses (i.e. subprocesses with no access
to the console) in their own session and detach them from the
terminal.

This fixes martine/ninja#909.

Merge pull request #897 from tzik/pending

Check pending SIGINT after ppoll/pselect

Merge pull request #903 from nico/gcov

Document how to run gcov on ninja.

Document how to run gcov on ninja.

Merge pull request #901 from nico/assertless

Remove an incorrect assert.

Remove an incorrect assert.

The assert fires on cyclic manifests (found by afl-fuzz).  Since there
was explicit error handing for this case already, just remove the
assert.

Check pending SIGINT after ppoll/pselect

ppoll/pselect prioritizes file descriptor events over
a signal delivery. So a flood of events prevents ninja
from reacting keyboard interruption by the user.

This CL adds a check for pending keyboard interruptions after
file descriptor events.

Merge pull request #894 from tfarina/has-indent

Cleanup: Fix 'hasIdent' variable name/style.

Cleanup: Fix 'hasIdent' variable name/style.

Seems more correct to name it has_indent_token and to use the
unix_hacker style.

Signed-off-by: Thiago Farina <tfarina@chromium.org>

Merge pull request #889 from nico/del2

Try to simplify d1e6a29 a bit.

Try to simplify d1e6a29 a bit.

Merge pull request #888 from nico/del

Remove unused hash<std::string>.

Remove unused hash<std::string>.

ExternalStringHashMap used to store std::strings long ago.  Since it
doesn't anymore, this specialization isn't needed.  No behavior change.

Merge pull request #887 from berenm/master

Fix compilation errors on Visual Studio 2015 (_MSC_VER 1900)

Fix compilation errors on Visual Studio 2015 (_MSC_VER 1900).

Merge pull request #884 from nico/sshh

Remove 'Recompacting...' messages.

Merge pull request #885 from frasercrmck/zsh_comp_modes

zsh-completion: remove use of 'head' with negative offset

zsh-completion: remove use of 'head' with negative offset

Some systems - like OSX - don't come with a version of head that
supports a negative value for the -n flag. Such systems get a message
such as this when tab-completing ninja's -d flag:

    ninja -dhead: illegal line count -- -1

Using sed instead should be more universally supported.

Remove 'Recompacting...' messages.

Recompacting the build log used to be slow, so it made sense to print this
message.  We then made recompaction much faster, but didn't remove this
message back then.

The deps log only has it because the build log had it.

Since both steps are effectively instant in practice, remove these log messages.

Merge pull request #882 from mathstuf/verbose-configure

configure: add a verbose mode

configure: add a verbose mode

Required for Fedora infrastructure so that the commands used to build
ninja are logged.

Merge pull request #881 from nico/depscancycles

Let DependencyScan::RecomputeDirty() work correclty with cyclic graphs.

Let DependencyScan::RecomputeDirty() work correclty with cyclic graphs.

RecomputDirty(edge) currently works roughly like this:

      RecomputeDirty(edge):
        LoadDeps(edge)
        for in in edge.inputs:
          if in.StatIfNecessary():
            RecomputeDirty(in.in_edge)  # recurse into inputs
        for out in edge.outputs:
          out.StatIfNecessary()  # mark outputs as visited

It uses the stat state of each node to mark nodes as visited and doesn't
traverse across nodes that have been visited already.  For cyclic graphs
with an edge with multiple outputs on the cycle, nothing prevents an
edge to be visited more than once if the cycle is entered through an
output that isn't on the cycle.  In other words, RecomputeDirty() for
the same edge can be on the call stack more than once.  This is bad for
at least two reasons:

  1. Deps are added multiple times, making the graph confusing to reason
     about.

  2.  LoadDeps() will insert into the inputs_ of an edge that's iterated
      over in a callframe higher up. This can invalidate the iterator,
      which causes a crash when the callframe with the loop over the
      now-invalidated iterator resumes.

To fix this, let RecomputeDirty() mark all outputs of an edge as visited
as the first thing it does.  This way, even if the edge is on a cycle
with several outputs, each output is already marked and no edge will
have its deps loaded more than once.

Fixes the crashes in #875.  (In practice, it turns the crashes into
"stuck [this is a bug]" messages for now, due to the example without
duplicate rules in #867)

Rename a few iterators. No behavior change.

It confused me that the iterator iterating over `outputs_` was called
`i` -- this always made me think of "input", not "iterator".

Call iterators over edge outputs "o", iterators over edge inputs "i",
iterators over node input edges "oe", and general iterators over edges
"e".

remove two unneeded `explicit`s

Merge pull request #703 from ovinn/master

Added *.obj ignore rule

Merge pull request #835 from rainlabs-eu/fix-cygwin-compatibility

Fixed cygwin compatibility (issue #806)

Rename num_collisions to collision_count.

All other counting variables are called foo_count, not num_foos.
No behavior change.

Merge pull request #868 from Fanael/ninja-mode.el-refactor

Remove unneeded save-excursion.

Merge pull request #809 from andrey-malets/doc-for-first-output

Document target^ syntax.

Merge pull request #879 from nico/rev

Revert #223, fixes #874.