C++ gradients for MaxPool3D, AvgPool and AvgPool3D

Resolves tensorflow/tensorflow#17195

Merge pull request #17202 from yifeif/branch_186662441

Branch 186662441

Merge commit for internal changes

Add min_check_interval_secs with 5s as default to ValidationMonitor to avoid checking for existance of a new checkpoint overly frequent that can lead to severe performance issues on remote filesystems.

PiperOrigin-RevId: 186662441

Relax one of the error conditions to allow modeling graphs without explicit set of feed nodes.

PiperOrigin-RevId: 186661729

Remove a bit of misleading documentation (we no longer do Graph containers)

PiperOrigin-RevId: 186660057

Internal change.

PiperOrigin-RevId: 186658974

[XLA] HLO BF16 propagation pass.

Using BFloat16Support provided by the backend to determine what precision is needed for
each HloInstruction. If the implementation of some HLOs already reduces input precision to BF16, this pass can enable BF16 on more ops without affecting the result.

PiperOrigin-RevId: 186656378

Generate example for basic lstm cell in tflite

PiperOrigin-RevId: 186656247

Fix BaseGPUDevice, let it report the actual memory limit of the allocator. Also added a helper method to reset ProcessState.

PiperOrigin-RevId: 186655996

Fix typo (#17193)

Measure the performance of the original placement to ensure that we preserve it
in case the placer isn't given enough time to find a better solution.

PiperOrigin-RevId: 186655094

Add eager support for unit tests for most Keras layers.
A few minor layers were left out:
- noise layers (apparent issue with tf.random_normal)
- bidirectional wrapper
- conv recurrent layers (impending refactor)

PiperOrigin-RevId: 186654795

Checkpointable: Re-use the Saver's SaveableObject infrastructure to create
restore ops, cache them.

The basic infrastructure is usable after this CL in graph and eager, but I still need to make a bunch of objects Checkpointable and make some other usability fixes.

Also sets some of the groundwork for feeding and fetching Python values during save/restore (as in, save has a feed dict now; gathering feeds and placeholders from Checkpointable objects is still to do but should be relatively straightforward).

PiperOrigin-RevId: 186652696

Update bazel toolchains dependency.

PiperOrigin-RevId: 186650360

Add basic support for quantized unfused LSTMs.

PiperOrigin-RevId: 186650338

[TF:XLA] Improve readability of HLO graphs when rendered via Tensorboard.
Add operator metadata around the computation arguments and retvals, so they are grouped together.
Teach the batchnorm expander pass to propagate the operator metadata from the original batch norm operators.

PiperOrigin-RevId: 186648547

Add a test only method to reset ProcessState.

PiperOrigin-RevId: 186647005

Change the MomentumOptimzer lambda so it has the same named argument (learning_rate)
as the MomentumOptimzer constructor.

PiperOrigin-RevId: 186642325

Added a regression test to make sure we deal with large constants properly

PiperOrigin-RevId: 186639709

Change warning message for case where Python detects a colocation that conflicts with a device assignment.

PiperOrigin-RevId: 186637887

Merge pull request #17058 from rajendraarora16/master

Documentation api reference badge added in Readme.md and added new header for contribution guidelines

Update LLVM for API changes in r325725

PiperOrigin-RevId: 186624266

Add node name to placer device-placement/kernel-assignment error messages .

PiperOrigin-RevId: 186622923

Add S64 add/subtract test and convert tests.

* Fixed bugs in convert from U32 to S64.
END_PUBLIC

*** Original change description ***

BEGIN_PUBLIC
Automated g4 rollback of changelist 186494344

PiperOrigin-RevId: 186616875

[tf.data] Add experimental ability to override the function threadpool.

The purpose of this feature is to enable experimentation with differentiating
the CPU resources available to different stages of a `tf.data` pipeline. As a
concrete example, we might use the new feature to move all input-related work
from the inter-op threadpool onto a separate threadpool, leaving the inter-op
threadpool free to execute higher priority work (such as dispatching ops that
send tensors to an accelerator). The current implementation only allows users
to create fixed-size `tensorflow::ThreadPool` resources, but we could imagine
opening up this API to allow custom threadpools as well.

PiperOrigin-RevId: 186614315

Optionally have persistent make_vjp

PiperOrigin-RevId: 186610572

Adapt TensorFlow to LLVM API change from r325725

PiperOrigin-RevId: 186604023

Fix compile errors by patching eigen locally.

PiperOrigin-RevId: 186592198

Disable flaky keras:metrics_test.

PiperOrigin-RevId: 186573303

Avoid creating large constants since protocol buffers are limited to 2GB in size.

PiperOrigin-RevId: 186567461

Disable flaky moving_average test.

PiperOrigin-RevId: 186563841

Started to open source the RL placer.

PiperOrigin-RevId: 186563773

Make configure script runnable from external workspace. (#17172)

To run from external workspace, you should now be able to invoke
script like the following. This will generate some TensorFlow specfic
bazel options and import them into your project's .bazelrc.

$(bazel info output_base)/external/org_tensorflow/configure.py --workspace=$(PWD)

Fix markdown nit (#17163)

Without a leading blank line, it doesn't render properly in https://www.tensorflow.org/programmers_guide/variables#variable_collections.

Deleting test that checks that 2D convolution with NCHW format is not implemented on CPU. The tests fail with MKL because the operation is implemented.

PiperOrigin-RevId: 186558730

Do not set cudnn batch norm persistent mode when doing inference.

PiperOrigin-RevId: 186547439

Delete dot_operation_runtime_test -- it is identical to dot_operation_test.

PiperOrigin-RevId: 186546771

Fix control flow bug.

Without this change, the newly added test would fail with a "Reval[0]"
error. This was due to extra Enter nodes being added in the gradients
graph in order to enter the outer while contexts for a value that was
already in those contexts. The extra Enter nodes would cause the
frames of the execution to be messed up, which prevented the final
value from being propagated to the outermost Exit node.

A similar change is probably needed in WhileContext, although I don't
have a test case for this yet.

PiperOrigin-RevId: 186544961

Fix subtle race condition in ResourceVariable.is_initialized

PiperOrigin-RevId: 186544846

Add more strided R1 tests.

PiperOrigin-RevId: 186542219

Go: Update generated wrapper functions for TensorFlow ops.
PiperOrigin-RevId: 186542037

[XLA] Convert large constants of the same value into broadcasts.

PiperOrigin-RevId: 186539902

Update ops-related pbtxt files.

PiperOrigin-RevId: 186537602

Fix lint errors and improve docs in fully_connected_reader.py.

PiperOrigin-RevId: 186537109

Internal change.

PiperOrigin-RevId: 186534524

Move sorting of variables from the implicit_grad family of functions
up to GradientTape.watched_variables() so we also get deterministic
behavior when using the GradientTape as is done in
Optimizer.compute_gradients().

PiperOrigin-RevId: 186533323

Automated g4 rollback of changelist 186494344

PiperOrigin-RevId: 186530782

[tf.data] Move the `tf.contrib.data.unique()` C++ implementation to contrib.

PiperOrigin-RevId: 186530750

Internal-only change.

PiperOrigin-RevId: 186528023

Disable flaky test tensorflow/contrib/opt:moving_average_optimizer_test

PiperOrigin-RevId: 186527039

Add the ability to specify an explicit `training` argument when calling a Model (including Sequential).

PiperOrigin-RevId: 186526925

Don't assign device for the keras part of _saved_first_checkpoint. Fix #14504.

PiperOrigin-RevId: 186526175

Don't require shape functions when creating ops from Python using the C API.

There are many ops out there without shape functions, and it's very
onerous to add UnknownShape to all of them.

PiperOrigin-RevId: 186524294

Mark the `SerializeSparseOp<Variant>` kernel as inexpensive.

Since this op only performs a constant amount of work, and typically
executes in a few microseconds, it should be profitable to execute
this op inline, rather than scheduling it on a remote thread.

PiperOrigin-RevId: 186522885

Record gradient in C

PiperOrigin-RevId: 186522240

Improve error message.

PiperOrigin-RevId: 186521902

Ensured that the model pruner outputs the nodes of the optimized graph in a
deterministic order

PiperOrigin-RevId: 186520272

Make CPUAllocator VisitableAllocator, for better RDMA networking.

PiperOrigin-RevId: 186518037

Make with_c_api a no-op if the C API is already enabled.

This will help transition to turning the C API on by default by
preventing new tests from breaking.

PiperOrigin-RevId: 186516976

[XLA:CPU] Don't hard-code lane width in horizontal sum routine

The bulk of change is actually in dot_operation_test to get it to the point
where it would have caught this bug.  I made the following changes:

 - Moved some tests under a "no layout assignment pass runs" mode.  This lets
   us test the layout specific aspects of the dot operation more thoroughly.
   Unfortunately not many tests can be run in this mode -- for instance dot
   tests that calls into Eigen won't work here because they need a specific
   layout assignment for correctness.  Tests that runs with layout assignment
   enabled but with non-default layouts are essentially integration tests that
   check that the layout assignment pass + the dot lowering work correctly.

 - Changed the matrix-vector dot tests to check all 4 layouts and the
   matrix-vector Ax+b fusion tests to check all 8 layouts.

 - Duplicated some of the F32 tests to run for F64.

 - Added some new test shapes.

PiperOrigin-RevId: 186511289

Internal change.

PiperOrigin-RevId: 186510594

Activity analysis annotation on FunctionDef

PiperOrigin-RevId: 186510035

In VirtualScheduler, if there is a Recv without a Send, handle the Recv as an
initially ready node.

PiperOrigin-RevId: 186509851

K-FAC: LM algorithm for adapting damping, Example to train MNIST autoencoder model using variable size training data and update damping parameter, add KFACOptimizer.{update_damping}.

PiperOrigin-RevId: 186509305

Made tf.HParams compatible with https://github.com/google/pytype.

PiperOrigin-RevId: 186508693

Add test that checks all core ops have shape functions.

This is meant to be a replacement for the current Python code that
checks that core ops have shape functions registered. Some ops were
missing a shape function, so I added UnknownShape.

This also adds an OpRegistry::GetOpRegistrationData() method for
fetching all the shape functions.

PiperOrigin-RevId: 186508356

Change node to Identity operation for shuffle/reverse operations on scalar values, but not
directly removing those nodes from the graph.

PiperOrigin-RevId: 186505857

Ensure that final layer of networks (which doesn't have an activation) get correctly quantized.

PiperOrigin-RevId: 186505814

Fix a bug in tf.metrics.mean_tensor for case that the weights are very small.

We have renamed metrics_test.MeanTensorTest.testWeighted1d as metrics_test.MeanTensorTest.testBinaryWeighted1d, since the weights on the instances are zeros and ones.

We have added a new metrics_test.MeanTensorTest.testWeighted1d that has small weights. It was failing for the previous implementation, but passes now.

Now the code for mean_tensor() and mean() now use the same _safe_div method. Previously, mean_tensor() used a different means to ensure that we don't divide by zero. This set the denominator to max(1., sum(weights)), which was inaccurate when sum(weights) is non-zero, but less than one.

PiperOrigin-RevId: 186503714

Allow non-integer values for Poisson CDF/PMF.

PiperOrigin-RevId: 186502845

Merge tf.layers.GraphNetwork into tf.keras.Network and remove it.

PiperOrigin-RevId: 186502476

eager/mnist: Point to the example in tensorflow/models instead.

PiperOrigin-RevId: 186502375

framework/ops.py: Stricter check for use of the C API for graph construction.

Fixes #16913

Didn't add an explicit test for this since arguably use of the C API for graph
construction will soon become the default, so I figured testing that
tfe.defun's use of _use_c_api_hack() would only add code that should be deleted
soon.

PiperOrigin-RevId: 186502140

Automatically add a tf.name_scope of the function or class name as the first line of each function.  For functions inside a class, the class name is also prepended to the name scope.  Also adds a decorator param to turn this off (it defaults to True.)

PiperOrigin-RevId: 186499660

Merge pull request #17173 from tensorflow/MarkDaoust-patch-1

Fix table format in SECURITY.md

Adds inverse_link_fn argument in regression_head. This is used in generalized regression.

PiperOrigin-RevId: 186497656

Add bidirectional sequence LSTM to TFLite Ops.

PiperOrigin-RevId: 186497571

Adding support for dilated convolution.

PiperOrigin-RevId: 186496353

Temporarily disabled part of a test that fails on MacOS

PiperOrigin-RevId: 186494795

Fast-path for losses code.

PiperOrigin-RevId: 186494736

Add S64 add/subtract test.

PiperOrigin-RevId: 186494344

Add link to SECURITY.md from doc describing model loading.

PiperOrigin-RevId: 186489041

Internal change.

PiperOrigin-RevId: 186487354

[XLA] Add FindInstruction and FindComputation helpers to HloTestBase.

These are useful for tests that create HLOs and then search for a
particular computation/instruction.

While we're at it, add a c_find_if utility and fix up the (lack of)
perfect forwarding in some of our other c_foo utilities.

PiperOrigin-RevId: 186482111

Fix table format in SECURITY.md

Create fast path for common case of finite values in CheckNumericsOp

PiperOrigin-RevId: 186474851

Internal Change

PiperOrigin-RevId: 186472818

Internal updates.

PiperOrigin-RevId: 186472487

In the arithmetic optimizer enqueue the fanout of optimized nodes in a
deterministic order

PiperOrigin-RevId: 186468633

memory_size should be expressed in Bytes, but port::AvailableRam() returns kB.

PiperOrigin-RevId: 186468461

fix not_covered anchor

PiperOrigin-RevId: 186467828

Modify optimized quantized LSTM implementation so that it only needs one instantiation of fixed-point Tanh, for 3 integer bits, regardless of the value of StateIntegerBits

PiperOrigin-RevId: 186464604

Adding some beginner advice to the README.

PiperOrigin-RevId: 186461145

Minor corrections in feature_columns doc

PiperOrigin-RevId: 186449350

Remove extraneous check for Eager mode (#17125)

The check is already made once at the start of the method

[XLA:CPU] Add FP32<->FP16 conversion routines

LLVM generates calls to these functions when lowering some fp16 operations on
certain architectures.  These symbols are defined in compiler-rt but we don't
always link to compiler-rt so these symbols are sometimes absent.

This change adds __gnu_f2h_ieee and __gnu_h2f_ieee as weak symbols.  Making them
weak ensures that we are able to build successfully even when linking to a
compiler-rt that defines these symbols.

PiperOrigin-RevId: 186416684

Add missing `override' (#17118)

This fixes a warning produced by clang:
./tensorflow/contrib/tensor_forest/kernels/v4/grow_stats.h:470:8: warning: 'InitLeafClassStats' overrides a member function but is not marked 'override' [-Winconsistent-missing-override]
  void InitLeafClassStats(int best_split_index, LeafStat* left_stats,
       ^
./tensorflow/contrib/tensor_forest/kernels/v4/grow_stats.h:190:16: note: overridden virtual function is here
  virtual void InitLeafClassStats(int best_split_index, LeafStat* left_stats,
               ^

Cleaner documentation for tf.confusion_matrix (#17126)

Add a small test to ensure that rewrites are idempotent.

PiperOrigin-RevId: 186410356