[XLA] Add FusionKind matcher to pattern_matcher.h.

PiperOrigin-RevId: 195700319

[tf.data] Patch to unref iterator_resource in DeserializeIteratorOp.

PiperOrigin-RevId: 195698980

Disable autograph cfg_test in windows.

PiperOrigin-RevId: 195697446

Register bool scatter_update for resource variables
Fixes #17784

PiperOrigin-RevId: 195696915

Generalize the input to TPU distribution strategy.  Add cross-shard-replica sum.

TPUStrategy passes tests in minimize_loss_test.  That caused me to add a capability to have `iterations x cores` inputs of any structure.  I also resolved a big number of small issues and uncovered more things to resolve that are documented as todos.

PiperOrigin-RevId: 195696833

Release notes for TensorFlow Lite.

PiperOrigin-RevId: 195693362

Extracts PartialConcatConstFolding into a method.

PiperOrigin-RevId: 195690333

Add tests for broadcasting KL divergence calculations.

PiperOrigin-RevId: 195690035

Replaced calls to tensorflow::StringPiece::ToString with std::string conversions.
That is, instances of sp.ToString() are replaced with std::string(sp).

This will allow tensorflow::StringPiece::ToString to be removed, which is necessary before it can be replaced with absl::string_view.

PiperOrigin-RevId: 195689392

Extend block sparsity support for TPUs

PiperOrigin-RevId: 195685740

Add EvaluateNodes to HoistFactorDiv test.

PiperOrigin-RevId: 195685340

Removing quotations to fix the broken link found on https://tensorflow.org/programmers_guide/embedding

The link at "Follow this link to see a fun example of thumbnail images in the Embedding Projector." It should go to https://www.tensorflow.org/images/embedding-mnist.mp4 but instead goes to the TF index page.

PiperOrigin-RevId: 195684456

Internal Change

PiperOrigin-RevId: 195681946

Control flow graph with forward and backward analysis

PiperOrigin-RevId: 195654450

Automated g4 rollback of changelist 195638795

PiperOrigin-RevId: 195645734

Improve fusion logic of (a dot b) * alpha

The previous approach didn't work because a multiplication by a scalar value
will be changed into an explicit broadcast.
Another issue that is fixed in this CL is retrieving the constant value from
the literal. This depends on the PrimitiveType, before we always assumed it to be double.
Also when checking ImplementedAsGemm() we should not call it recursively, but instead just the check related to kDot.
Finally add an execution test and adjust the fusion logic test.

PiperOrigin-RevId: 195638795

Remove unused threadpool from stream executor.

PiperOrigin-RevId: 195632175

Gracefully handle workers without heartbeat support enabled.

PiperOrigin-RevId: 195560525

[XLA:GPU] Zero out input buffers before running cudnn conv autotune.

We don't need a corresponding change in gemm_thunk.cc because for gemms,
we do our autotune at runtime, at which point we have some real data in
our input/output buffers.

PiperOrigin-RevId: 195548896

[TPU] Add option to only compile a replicated graph.

Useful when wanting to compile a computation but not run it. Returns a serialized CompilationResult string with the error message.

PiperOrigin-RevId: 195547847

Allow benchmark model graph to be specified in text proto format.

PiperOrigin-RevId: 195547670

[XLA] Always be willing to duplicate widening kConvert instructions during fusion.

This has the effect of pushing widening kConvert HLOs into consumers.
This is what we want, because it means that the producer writes the
narrower type (e.g. f16) and the consumer reads it and internally
upcasts to the wider type (e.g. f32).  This lets the producer and
consumer both run faster, because they have to touch less memory.

PiperOrigin-RevId: 195546910

Part 2 of Swift<->TF sends/recvs: support receiving tensors in TF from
Swift via direct session.

The changes are:

1. Added a TF experimental C API for Swift host to enqueue a tensor for sending
  to TF. Again, the C APIs can be removed once the Fifo-queue based design
  proves stable later.

2. TFLowerGraph is extended to generate Fifo related nodes for TF to receive
  tensors. This is similar to the extension for TF to send tensors.

3. TFPartition is extended to support host send (createHostSend()), which does
  the tensor send via a new protocol method TensorSendableReceivable.sendToDevice().

The main complexity is in sending a scalar, where a new protocol method
TensorSendableReceivable.createScalarTensor() is called to first create a tensor
out of it, and then send it over to TF.

Also removed code for protocol conformance on AccelerableByTensorFlow. Instead
have compiler look up that conformance from the SILFunction on sending/receiving
tensors.

AccelerableByTensorFlow could be removed from the compiler-known protocol list
now, but we'll defer that till things can stabilized more (in the past this
protocol has been added to and removed from the list at different times).

PiperOrigin-RevId: 195539436

Remove uses of the kTransposeDot fusion

I didn't remove the enum itself, but after this change removing the enum should
be a simple NFC change (famous last words!).

This will make it easier to implement BatchDot on CPU.

The change removes usages of kTransposeDot by:

 - Teaching TransposeFolding to "fuse" transposes into dots by flipping the
   lhs_contracting_dims/rhs_contracting_dims fields.

 - Replacing the notion of transpose_lhs/transpose_rhs in the IR emitters with
   "has a non-canonical LHS contraction dimension"/"has a non-canonical RHS
   contraction dimension" where the canonical LHS and RHS contraction dims [0]
   are 1 and 0.

Some tests were getting away with creating Dot instructions with their
dimensions numbers unset.  I've fixed these to create canonical dot operations
instead.

It is possible (but hard to tell without trying) that some of the IR emission
logic and Eigen runtime calls can now be simplified further.  For instance,
instead of passing in a `transpose_lhs` and `transpose_rhs` to the Eigen GEMM
routines, we could instead pass in the LHS and RHS contraction dimensions
directly.

[0] See HloInstruction::CreateCanonicalDot.

PiperOrigin-RevId: 195514907

Fix landscape layout.

PiperOrigin-RevId: 195506194

OVIC Benchmarker App (current without the functionality to bind to a CPU).

PiperOrigin-RevId: 195503895

add support for PadV2

PiperOrigin-RevId: 195503894

Checkpointable: A small utility for exempting objects from __setattr__ tracking

Exposes it as tf.contrib.checkpoint.NoDependency. Objects wrapped in a
NoDependency object get unwrapped in __setattr__ and not tracked.

Removes the _save_counter dependency from tf.train.Checkpoint (the save counter
is still tracked as "save_counter" and always has been, so this is a
backwards-compatible dependency removal).

PiperOrigin-RevId: 195502562

GuaranteeConst is a NoOp for the op_level_cost_estiamtor.

PiperOrigin-RevId: 195501990

Internal Change

PiperOrigin-RevId: 195501342

Go: Update generated wrapper functions for TensorFlow ops.
PiperOrigin-RevId: 195499636

Update ops-related pbtxt files.

PiperOrigin-RevId: 195497084

[tf.data] Adding `num_parallel_calls` to `map_and_batch`.

PiperOrigin-RevId: 195495206

Add infrastructure for a backend-specific configuration for each op. This is intentionally not exposed in ComputationBuilder and is not intended for use or to be set at all prior to the last backend-specific part of compilation.

PiperOrigin-RevId: 195493500

Expose read-only versions of tensors in tflite.

PiperOrigin-RevId: 195491701

Add the ability to export separate SavedModels for train and eval mode to Estimator with two new methods, available in tf.contrib: export_all_saved_models and export_saved_model_for_mode.

PiperOrigin-RevId: 195485922

[XLA] Print allowed attributes when the user specifies an invalid attr.

PiperOrigin-RevId: 195482974

Identify and prune nodes that can never be executed

PiperOrigin-RevId: 195478951

Fix build failure for macos py3

PiperOrigin-RevId: 195475780

[XLA:GPU] Mark floating-point division as an inexpensive op.

"Expensive" really means "so expensive you'd choose not to fuse in order
to avoid doing it twice".  FP division definitely isn't that expensive.

PiperOrigin-RevId: 195473524

Some fixes to support another TF graph:
1. Fix ResolveBatchNormalization to avoid deleting arrays that may still be
used.
2. Correctly count the number of ops using a given array, even when some ops
use the same array as more than one of their inputs.
3. In PropagateFixedSizes for Concatenation ops, when resolving a -1 wildcard
to a fixed value, we were doing so in a local 'axis' variable without actually
updating op->axis! The resulting -1 value still in op->axis tripped runtime code,
causing the concatenation to misbehave during inference.

PiperOrigin-RevId: 195454037

[XLA] Redesign: migrate the SWIG wrapped xla client.
Added LocalOp that wraps XlaOp, so that it's fully visible to swig.

PiperOrigin-RevId: 195446939

[XLA] Cleanup client_library_test_base: move definition of CreateParameterAndTransferLiteral to .cc file

PiperOrigin-RevId: 195446864

Add operations before Identity operations should be quantized.

Fixes #19014

PiperOrigin-RevId: 195443326

Internal clean up: change scanf to use int64_t instead of int64

PiperOrigin-RevId: 195438212

Improve broadcast add implementation.

PiperOrigin-RevId: 195437679

TFTS: Make it easier to swap in different autoregressive models.

Adds a very simple LSTM encoder/decoder option as an example.

ARModel's new constructor argument is a bit awkward, since Estimator's new graphs mean we need a Model factory rather than a Model (or to un-build the model?). It's still a much more pleasant way to write autoregressive models than fiddling with ARModel directly, since ARModel handles collecting all the features (and the prediction loop, etc.). Happy to hear other ideas for an API.

PiperOrigin-RevId: 195436186

Implement neg op

PiperOrigin-RevId: 195435079

Change RecvTensor RPC implementation to use DeviceContext::CopyDeviceTensorToCPU rather than calling GPUUtil::CopyGPUTensorToCPU. The direct call into the GPU code is problematic for non-GPU devices.

PiperOrigin-RevId: 195433287

[XLA] Remove template keyword on non-template methods.

This is an error with clang trunk.

PiperOrigin-RevId: 195394277

Fix HloSharding::GetSubSharding to return correct array shardings

Previously it always returned a tuple sharding even if the specified
index was referenceing a non-tuple element.

PiperOrigin-RevId: 195393313

Do not crash on ROOT outfeed operations.

PiperOrigin-RevId: 195388075

Fixing some linter errors in TF documentation (Github > GitHub, the the > the).

PiperOrigin-RevId: 195386172

Prefer non-nested GradientTape.gradient call when only one source is passed.

PiperOrigin-RevId: 195385406

  * Don't copy on-host and on-device shapes locally.
  * Use ForEachMutableElement rather than the iterators, as it is much quicker.

There is still room for improvement; ForEachMutableElement is linear in the number of nodes in the shape tree but we want to be linear in the number of nodes in the sub shape tree. But I feel this is a good enough improvement.

PiperOrigin-RevId: 195384423

Automated g4 rollback of changelist 194829761

PiperOrigin-RevId: 195379693

Internal change.

PiperOrigin-RevId: 195374319

Add the MultiWorkerMirroredStrategy

PiperOrigin-RevId: 195368876

[XLA] Redesign: cleanup client_library_test_base.

PiperOrigin-RevId: 195357555

[XLA] Make LocalShapedBuffer::FromLiteral fallible by passing StatusOr wrapper.

PiperOrigin-RevId: 195345724

Clear the stat cache of the target when renaming the file.

PiperOrigin-RevId: 195337886

[XLA] Redesign: deprecate ComputationBuilder.

PiperOrigin-RevId: 195335330

Fix flaky test time-outs for dnn_test and rnn_test.

PiperOrigin-RevId: 195331183

Adjust worker shutdown hooks for TPUs

PiperOrigin-RevId: 195328247

Fix bugs in LogicalBuffer::ToString and BufferValue::ToProto: these functions
may be called before set_color(), but color() check fails when no color is set.

PiperOrigin-RevId: 195327063

Fix oom_test so that it doesn't try to allocate a giant host buffer when
run without --config=cuda.  Sadly the best way I could come up with is
pretty hacky.

PiperOrigin-RevId: 195325149

Do not hoist nodes that modify frame info.

PiperOrigin-RevId: 195322927

Use tuple instead of list to reduce the chance of it being picked by the list conversions.

PiperOrigin-RevId: 195322522

Fix bug that disabled loop invariant node motion optimizer. Disable it options, since it is broken in the presence of gradient stacks.

Get rid of an unnecessary copy of the graph.

PiperOrigin-RevId: 195319766

Add tflite listed models with accuracy and performance numbers.

PiperOrigin-RevId: 195312636

Add separate get_read and get_updated helpers that work on code exceprts. Handle corner case for AugAssign. Fix bug in _node_sets_self_attribute.

PiperOrigin-RevId: 195309809

[TF:XLA] clean up interface to xla::VerifyHloModule

It seems that the first argument, platform, is unused.

PiperOrigin-RevId: 195309504

Optimize idempotent ops, e.g., Snapshot(Snapshot(x)) => Snapshot(x)

PiperOrigin-RevId: 195308675

[XLA:CPU] Remove dead function + DCHECK, NFC

There isn't a lot of benefit to fixing the function to do that it says it does
since I'm adding support for lowering batch matmul which will break this
precondition anyway.

PiperOrigin-RevId: 195306803

Fix a typo.

PiperOrigin-RevId: 195305770

Documentation for tf.contrib.eager.py_func

PiperOrigin-RevId: 195303454

tfdbg + tflearn: replace deprecated classes and methods in example & docs

* `tf.contrib.learn.Experiment` is deprecated. Remove it from debug_tflearn_iris.py.
* Use `tf.estimator.DNNClassifier`, instead of the older one from `tf.contrib.learn`.
* Use `train()`, instead of `fit()` of Estimators.
* `Estimator.predict()` supports hooks. Add example lines for that.

PiperOrigin-RevId: 195301913

Checkpointable: Utilities to read object metadata

Useful for inspecting checkpoints programatically (e.g. in unit tests).

PiperOrigin-RevId: 195300780

Fix bugs in model pruner.

PiperOrigin-RevId: 195298816

Simplified the implementation of shape_n since the optimized code path isn't needed anymore and can be incorrect in some rare cases.

PiperOrigin-RevId: 195298813

Change all std::bind usages in GCS to lambdas. Fix the wrong #define Guard name in retrying_file_system.h.

PiperOrigin-RevId: 195297877

Enable unary chain hoisting optimization for concat/split/splitv by default.

PiperOrigin-RevId: 195297330

[TF:XLA] Bump open source llvm revision to r331442

PiperOrigin-RevId: 195297133

Small fix for an eager colab notebook.

PiperOrigin-RevId: 195296384

Simplify file reading and support SavedModel.

PiperOrigin-RevId: 195291836

Do not delegate temporary tensors to NNAPI.
  - also added delegation for MUL, and set the default scale to be 0.0f.

PiperOrigin-RevId: 195288948

[XLA] Redesign: add ExecuteGraph to grpc service.

PiperOrigin-RevId: 195281004

Post-transform pass to dedupe large constant arrays.

PiperOrigin-RevId: 195260578

Use tensorflow size to determine number of elements instead of the static shape, which can sometimes be missing.

PiperOrigin-RevId: 195209826

Simplify getter and setter method for GraphOptimizationPass::name_

PiperOrigin-RevId: 195199912

Expose Interpreter to tensorflow.contrib.lite

PiperOrigin-RevId: 195198645

Fix tf.variable_scope unique name after entering root scope
Closes #18702.

PiperOrigin-RevId: 195192460

Update ops-related pbtxt files.

PiperOrigin-RevId: 195190335

Replaced calls to tensorflow::StringPiece::ToString with std::string conversions.
That is, instances of sp.ToString() are replaced with std::string(sp).

This will allow tensorflow::StringPiece::ToString to be removed, which is necessary before it can be replaced with absl::string_view.

PiperOrigin-RevId: 195188185

Compute shape of segment_ids dynamically in _unsorted_segment_N

PiperOrigin-RevId: 195186950

Remove duplicated emplace_back floor operator.

PiperOrigin-RevId: 195185567

Automated g4 rollback of changelist 195091587

PiperOrigin-RevId: 195184798

Add complex128 support to FFT, FFT2D, FFT3D, IFFT, IFFT2D, and IFFT3D.

NumPy automatically upcasts to complex128 when computing FFTs, leading to issues like:
#10749

This change allows users to choose between 32-bit and 64-bit precision FFTs on CPU and GPU.

PiperOrigin-RevId: 195183206

Add a collect_trace option to run_op_benchmark for cases when callers just want
to pass RunOptions.FULL_TRACE but don't want to store trace in extras.

PiperOrigin-RevId: 195181533

BufferValue is a new base class for LogicalBuffer and HloValue. This makes it
easier to migrate from TuplePointsToAnalysis/LogicalBuffer to
HloDataflowAnalysis/HloValue. No functional changes.

PiperOrigin-RevId: 195179676