Fixed the bug that the export code triggers the TPU validation.

PiperOrigin-RevId: 189745966

tfdbg: Curses CLI: Fill line-end whitespace with default color pair

to prevent spurious color pairs from appearing in certain text
terminal environments.

RELNOTES: Bug fix: tfdbg curses CLI: fix spurious background colors in some text terminals.
PiperOrigin-RevId: 189742433

Drop name_scope from operation names during quantization to avoid doubling it up.

PiperOrigin-RevId: 189737746

Make TensorSpec and BoundedTensorSpec serializable.

PiperOrigin-RevId: 189731737

Adds float64 support for avg pool and its gradient.

Eigen NumTraits is modified to directly use std::numeric_limits, which resolves a broken test caused by inconsistency between the host and devices values of Eigen::NumTraits<double>::highest(). This returns +inf on device, due to third_party/eigen3/Eigen/src/Core/util/Meta.h, and __DBL_MAX__ (1.7976931348623157e+308) on host, making the behavior for doubles (on device) inconsistent with both the behavior of floats Eigen::NumTraits<float>::highest() and the behavior of std::numeric_limits<double>::max()

PiperOrigin-RevId: 189731521

Don't spin in a loop when we're not waiting on any GPU events.

PiperOrigin-RevId: 189719711

- Added support for data to be specified in RNN classes as large tensors with time folded into the batch dimension instead of lists of tensors
- Significant refactoring of RNN classes
- Fixed a bunch of issues in the LayerCollection docstrings, especially around the 'reuse' argument.

PiperOrigin-RevId: 189716331

Fix bug

PiperOrigin-RevId: 189712233

Fix some edge cases around scalar indices in the gather expander

I discovered these when changing the tf2xla bridge to directly emit gather
operations.

 - DeScalarizeGatherIndices was assuming that gather_indices must be of at least
   rank 1.  Fix this to be more general.

 - We were passing in the wrong version of gather indices to
   ExpandFirstDimIntoNDims.  We don't strictly need to pass in
   transposed_gather_indices (since if transposed_gather_indices is rank 1 then
   the transpose has to be an identity transpose), passing in
   descalarized_gather_indices would also have been fine, but
   transposed_gather_indices seems more uniform.

 - ExpandGatherDimsInAccumulator was assuming that gather_indices must be of at
   least rank 1 (by calling CollapseFirstNDims).  Fix this to be more general.

 - We were trying to go through with emitting zero sized gather operations.  I
   don't think it is worth dealing with all of the edge cases this would expose
   so now we just punt to ZeroSizedHloElimination.

PiperOrigin-RevId: 189696444

Predictions have to be updated for exported output signatures

PiperOrigin-RevId: 189694707

Added infeed support for experimental C APIs associated with TPU graph rewrite.

This initial design of the C API is different from (and mostly higher level
than) the python API counterparts for infeed, in that the python API has
explicit graph construction APIs for generating infeed enqueue/dequeue
ops (e.g. split_inputs_and_generate_enqueue_ops() and generate_dequeue_op()),
while the C API takes an input graph and redirects all input nodes to feed the
infeed enqueue.

One requirement/restriction is that the input nodes in the TF
graph (e.g. Placeholder) must specify their tensor shapes, for infeed enqueue
and dequeue nodes to properly compile with XLA. The API for more general shape
support will be designed and implemented later.

PiperOrigin-RevId: 189693028

Go: Update generated wrapper functions for TensorFlow ops.
PiperOrigin-RevId: 189690096

Update ops-related pbtxt files.

PiperOrigin-RevId: 189688675

Add `ostream<<` to `tensorflow::TensorShapeBase`.

Reason: Allow `LOG(ERROR) << shape` (currently disallowed).
PiperOrigin-RevId: 189687162

Quantize bypasses after activations.

PiperOrigin-RevId: 189686219

Always imports the contrib summary ops when importing tensorflow.

Fixes #17802

PiperOrigin-RevId: 189684619

Adds final partial batch support for TPUEstimator.predict.

PiperOrigin-RevId: 189683528

Apply output_min/output_max to the result in the NEON implementation of Add operator.

Both non-NEON and reference implementation have this, but it's missing from NEON version.

PiperOrigin-RevId: 189682984

Handle non-broadcastables shapes in eager assert_equal

Before this change assert_equal would fail when producing an error
message for non-equal shapes because array_ops.boolean_mask only
works for equal shapes.

This part of the error message is fairly confusing in presence
of non-equal shapes. This change removes it.

PiperOrigin-RevId: 189682518

Avoid attaching fqn annotations to live values that don't have a `__name__`.

PiperOrigin-RevId: 189680937

Disable freeze_bn_delay by default.

PiperOrigin-RevId: 189680481

Update GraphProperties comments

PiperOrigin-RevId: 189680477

Make L2 norm computation more stable.

Avoids the potentially numerically instable square root in the linalg_ops.norm() function because we 'undo' that operation with a math_ops.square() operation anyway.

PiperOrigin-RevId: 189677716

Export tf.GradientTape

tf.GradientTape can be used both for eager execution and graph construction
to compute gradients (unlike tf.gradients, which works only for graph
construction).

PiperOrigin-RevId: 189676004

Support general permutation.

PiperOrigin-RevId: 189675019

Add docstring pointing to tf.contrib.quantize.

PiperOrigin-RevId: 189672549

Register gradient for argmin (cf. #15278).

PiperOrigin-RevId: 189671974

  add option to save trace table to model directory's profile plugin subdirectory.

PiperOrigin-RevId: 189671290

Standardize bib references and Examples subsection in docstrings.

Recipe:

+ Write a #### Examples subsection below Args/Returns/Raises to illustrate examples. If the docstring's last line is a ``` closing a code snippet, add an empty line before closing the docstring with """. This properly displays the code snippet.

+ Write a #### References subsection at the bottom of any docstring with citations. Enumerate all references in alphabetical order. Individual bibentries use ICLR?s bibliography style, which borrows from icml2010.bst and which itself borrows from plainnl.bst. Add a link to the paper if the publication is open source (ideally, arXiv).

PiperOrigin-RevId: 189670932

Make _USE_C_API = True and_USE_C_SHAPES = False work with import_graph_def.

Without this change, shapes wouldn't be correctly computed for
operations created via import_graph_def.

PiperOrigin-RevId: 189670312

Add a clif build rule for saved_model.

PiperOrigin-RevId: 189669509

Improve flatbuffer verification.

PiperOrigin-RevId: 189668634

[tf.data] Combine implementations of FlatMapDataset, InterleaveDataset and ParallelInterleaveDataset.

PiperOrigin-RevId: 189667086

Fix test failure

PiperOrigin-RevId: 189666053

Automated g4 rollback of changelist 188440916

PiperOrigin-RevId: 189664854

Disable lstm test in generated_example due to state non-definitive init.

PiperOrigin-RevId: 189654943

A few changes to improve the real data performance:
* Turn off the force_gpu_compatible by default.
* Move the cast operator within the processing operator.
* Have the map_and_batch operator produce gpu_compatible output.
* Add an option to produce fp16 tensors for network transfer by default.

On DGX-1 V100, with resnet50, I got 5050 images/sec on real data, 5395 images/sec on synthetic data.
With trivial model, I got 13000+ images/sec on real data.

PiperOrigin-RevId: 189653575

Run flatbuffer verifier before reading a TFLITE file into toco.

PiperOrigin-RevId: 189649236

Use fully-qualified function names and avoid the need to replace attributes.

PiperOrigin-RevId: 189648496

Allowing the FunctionBufferingResource to be passed in thread_pool_size=0 in which case we wouldn't pass in a runner to the FLR::Run call and rely on the underlying device threadpool instead.

PiperOrigin-RevId: 189648051

Maintain an updateable map of devices in the eager context.

PiperOrigin-RevId: 189646358

Fix build breakage with downloadable clang and -fopenmp.

By disabling openmp when building with clang.
If we want to enable openmp with clang, we'll probably have to have libomp as
an explicit dependency.

This fixes a breakage found by OS CI:
https://ci.tensorflow.org/view/Nightly/job/nightly-matrix-linux-gpu-clang/215/

PiperOrigin-RevId: 189644968

TFLite Delegate: Add an `allow_dynamic_tensors` parameter.

PiperOrigin-RevId: 189641833

Enable stack push removal optimization by default.

PiperOrigin-RevId: 189641729

Turned on gradient optimization by default

PiperOrigin-RevId: 189641300

Add a helper that allows constructing simple expression ASTs from string. Useful to simplify the representation of composite symbols, e.g. 'py2tf.foo'.

PiperOrigin-RevId: 189638901

Automated g4 rollback of changelist 189416074

PiperOrigin-RevId: 189634491

Moves TFE_Executor to tensorflow::EagerExecutor in tensorflow/core/common_runtime/eager

PiperOrigin-RevId: 189634404

TFE: Fix bug encountered when using `optimizer.apply_gradients` in a defun.

Prior to this change, `Optimizer` assumed that `not
context.executing_eagerly()` implied that every variable that it was to update
was constructed in a graph. That assumption is incorrect --- TensorFlow
functions can mutate variables captured from or lifted into the eager context. As such, this change removes that assumption.

Fixes #17792

PiperOrigin-RevId: 189633630

Add bfloat16 support for CPU ops.

PiperOrigin-RevId: 189631659

Extract GraphOptimizer{Stage,Context}, and use it as a base class
in ArithmeticOptimizer.

PiperOrigin-RevId: 189628227

Checkpointable: Small cleanup making better use of NewCheckpointReader.

PiperOrigin-RevId: 189627956

  Add a map from TPU core id to name to TfOpStats.

PiperOrigin-RevId: 189620850

Do not use SparseMatmul to for bfloat16 as Matmul is already supported.

PiperOrigin-RevId: 189614197

Internal change

PiperOrigin-RevId: 189613870

Optimizations to DepthwiseConv

PiperOrigin-RevId: 189610985

Documentation tweaks and tests for GradientTape with graph execution.

PiperOrigin-RevId: 189604536

Fix misc typos in tensorflow/compiler/xla.

PiperOrigin-RevId: 189596520

Simple rewrite to remove negation nodes.

PiperOrigin-RevId: 189595735

Refactor code to improve TensorDataSet construction speed.

PiperOrigin-RevId: 189595482

Remove a few unused #includes

PiperOrigin-RevId: 189593522

Adds missing protobuf dep to tf.contrib.data ops.

PiperOrigin-RevId: 189580464

Adding non-linear image warping ops to tf.contrib.image

New ops are:
tf.contrib.image.sparse_image_warp, tf.contrib.image.dense_image_warp, and tf.contrib.image.interpolate_spline.

PiperOrigin-RevId: 189574951

Add new helpers to HLO sharding.

PiperOrigin-RevId: 189569053

Add precision and recall metrics to _BinaryLogisticHeadWithSigmoidCrossEntropyLoss.

This change makes most of the binary classifiers in the canned estimators provide precision and recall metrics during evaluation. This matches the behavior of the canned estimators defined in the deprecated tf.contrib.learn.estimator.

PiperOrigin-RevId: 189522420

Fix build

PiperOrigin-RevId: 189506945

Normally tf2xla (autoclustering, jit_scope and rewrite) rely on graph optimization
passes to outline subgraphs. The XLA device itself only sees Compute() calls for
_XlaLaunch ops. All other ops are registered with a dummy op factory that just
prints an error.

This patch adds an alternative, selected at registration time, that disables
default graph optimization and instead registers a non-dummy op implementation.

This op implementation compiles the op "on demand"; it generates a fake graph containing
_Arg and _Retval nodes and calls into the XlaCompiler code as usual.

This allows the device to be used as a "normal" TensorFlow device, as well as from
Eager mode, at the expense of performance.

Later additions will add the ability to create traces to amortize kernel launch overhead,
and the ability to combine op-by-op/tracing and autoclustering with jit_scope annotations.

PiperOrigin-RevId: 189463593

[XLA] Fix points-to set calculation in HLO ListScheduler.

Previously the list scheduler considered that an instruction used only the buffers defined by its operands. This is inaccurate in the presence of aliasing?an instruction may potentially use anything in the points-to set of the operand, including buffers defined by an ancestor of an operand. Change to use the full points-to set instead.

PiperOrigin-RevId: 189460681

Update docs for fake quant to reflect support for bitwidths from 2 to 16 inclusive.

PiperOrigin-RevId: 189426173

Automated g4 rollback of changelist 189228094

PiperOrigin-RevId: 189416074

Add user_ops.my_fact to the new TensorFlow API.

PiperOrigin-RevId: 189415577

TFTS: Allow cold-starting from SavedModels

This means the model starts from its default start state and is fed a series
(filtering) to warm up its state. This warmed up state can then be used to
make predictions.

Some shape fiddling with the receiver_fn to make feeding state optional, and a
new signature for cold-starting which uses the model's default start state.

Some other shape fiddling to make feeding strings to SavedModels work more
smoothly in the cold-start part of the LSTM example. I was squeezing out the
last dimension of "scalar" exogenous features, now I'm leaving them, which
matches the placeholder generation logic.

PiperOrigin-RevId: 189414869

Relax "_output_shapes" error checking in C++ graph importer.

This is to make the behavior inline with what Python's
import_graph_def does. It'd probably be better to raise an error, but
some people are already depending on the import_graph_def behavior in
order to import modified ops.

PiperOrigin-RevId: 189411025

Always sets self._built in tfe.metrics when build() is called.

PiperOrigin-RevId: 189408745

Deleted dead code

PiperOrigin-RevId: 189408200

Increase kMaxEagerTensorParentSize to 64.

PiperOrigin-RevId: 189407226

Remove identity transpose nodes.

PiperOrigin-RevId: 189406518

Consolidate all moving_average updates in batchnorm into one implementation.

PiperOrigin-RevId: 189404070

Don't fail when optimizing the gradients of noinline functions

PiperOrigin-RevId: 189403170

[XLA] Fix forward for HLO profiling test, explicitly set profiling preference.

PiperOrigin-RevId: 189400869

Don't inline functions in the grappler item builder since this part of the code doesn't
support custom ops. Instead we will rely on the function optimizer.

PiperOrigin-RevId: 189400462

Downgrade run-after-mutation error to a log warning.

This is to ease the transition to the C API. Some tests currently mutate the
graph after running it but currently pass. This error was meant to guard
against existing behavior, so it's not a regression to make it a warning
instead for now.

PiperOrigin-RevId: 189395472

Fixed a typo.

PiperOrigin-RevId: 189386932

Estimate prediction size and error out if it is larger than protobuf limit.

PiperOrigin-RevId: 189382429

Move if_op kernel to //third_party/tensorflow/compiler/tf2xla/kernels

PiperOrigin-RevId: 189381067

[XLA] BF16 conversion folding for CRS; remove no-op conversions in propagation.

If CRS has tuple output, it needs special handling in conversion folding.
BF16 propagation could result in BF16->BF16 conversions, which can be removed.

PiperOrigin-RevId: 189380578

BREAKING_CHANGE: Remove SigmoidCentered bijector.
 - SoftmaxCentered solely works on vector events, and supports broadcasting.
 - Sigmoid exists for event_ndims=0 cases.

PiperOrigin-RevId: 189380445

[XLA:python] Plumb hlo_profile flag.

PiperOrigin-RevId: 189377860

Remove empty buckets in latency_stats as it makes the report unreadable. This is also consistent with how SummaryHistoOp in summary_op.cc works.

PiperOrigin-RevId: 189375113

[tf.data] Fix typo in `Dataset.prefetch()` docstring.

PiperOrigin-RevId: 189374898

[TF:XLA] Bump open source llvm revision to r327616

PiperOrigin-RevId: 189372065

Allow variable lists to change when saving repeatedly using tfe.Checkpoint

For example allows saving a checkpoint before slot variables have been created

When graph building, restore() is still bound to a frozen set of variables.

PiperOrigin-RevId: 189371256

Set number of threads at Java interpreter constructor so that Conv Kernels can be selected properly.
Remove setNumThreads in the Java API as its behavior is ambiguous.

PiperOrigin-RevId: 189370770

Fixing constant output arrays by inserting synthetic reshapes.

PiperOrigin-RevId: 189368237

Automated g4 rollback of changelist 189346024

PiperOrigin-RevId: 189361083

Fix naming BatchNorm_Fold//batch_norm_correction -> BatchNorm_Fold/batch_norm_correction.

PiperOrigin-RevId: 189358090

Fix sed invocation in copy_binary.py script for Mac.

Script was explicitly calling /bin/sed which was not being found on MacOS Kokoro builds.
Removing calling "sed" in script.

PiperOrigin-RevId: 189357296

Added StrContains, StartsWith, and EndsWith functions to str_util.h.
Marked contains, starts_with, ends_with, and consume StringPiece methods as deprecated.

This will allow tensorflow::StringPiece to be more easily replaced with absl::string_view (once the deprecated methods are removed) as absl::string_view does not contain those methods.

PiperOrigin-RevId: 189355316

Move CreateSubProcess from test.h to subprocess.h

PiperOrigin-RevId: 189353033

Eliminate use of grpc::CoreCodegenInterface, which is marked as an internal interface

PiperOrigin-RevId: 189352860