Expose read-only versions of tensors in tflite.

PiperOrigin-RevId: 195491701

Add the ability to export separate SavedModels for train and eval mode to Estimator with two new methods, available in tf.contrib: export_all_saved_models and export_saved_model_for_mode.

PiperOrigin-RevId: 195485922

[XLA] Print allowed attributes when the user specifies an invalid attr.

PiperOrigin-RevId: 195482974

Identify and prune nodes that can never be executed

PiperOrigin-RevId: 195478951

Fix build failure for macos py3

PiperOrigin-RevId: 195475780

[XLA:GPU] Mark floating-point division as an inexpensive op.

"Expensive" really means "so expensive you'd choose not to fuse in order
to avoid doing it twice".  FP division definitely isn't that expensive.

PiperOrigin-RevId: 195473524

Some fixes to support another TF graph:
1. Fix ResolveBatchNormalization to avoid deleting arrays that may still be
used.
2. Correctly count the number of ops using a given array, even when some ops
use the same array as more than one of their inputs.
3. In PropagateFixedSizes for Concatenation ops, when resolving a -1 wildcard
to a fixed value, we were doing so in a local 'axis' variable without actually
updating op->axis! The resulting -1 value still in op->axis tripped runtime code,
causing the concatenation to misbehave during inference.

PiperOrigin-RevId: 195454037

[XLA] Redesign: migrate the SWIG wrapped xla client.
Added LocalOp that wraps XlaOp, so that it's fully visible to swig.

PiperOrigin-RevId: 195446939

[XLA] Cleanup client_library_test_base: move definition of CreateParameterAndTransferLiteral to .cc file

PiperOrigin-RevId: 195446864

Add operations before Identity operations should be quantized.

Fixes #19014

PiperOrigin-RevId: 195443326

Internal clean up: change scanf to use int64_t instead of int64

PiperOrigin-RevId: 195438212

Improve broadcast add implementation.

PiperOrigin-RevId: 195437679

TFTS: Make it easier to swap in different autoregressive models.

Adds a very simple LSTM encoder/decoder option as an example.

ARModel's new constructor argument is a bit awkward, since Estimator's new graphs mean we need a Model factory rather than a Model (or to un-build the model?). It's still a much more pleasant way to write autoregressive models than fiddling with ARModel directly, since ARModel handles collecting all the features (and the prediction loop, etc.). Happy to hear other ideas for an API.

PiperOrigin-RevId: 195436186

Implement neg op

PiperOrigin-RevId: 195435079

Change RecvTensor RPC implementation to use DeviceContext::CopyDeviceTensorToCPU rather than calling GPUUtil::CopyGPUTensorToCPU. The direct call into the GPU code is problematic for non-GPU devices.

PiperOrigin-RevId: 195433287

[XLA] Remove template keyword on non-template methods.

This is an error with clang trunk.

PiperOrigin-RevId: 195394277

Fix HloSharding::GetSubSharding to return correct array shardings

Previously it always returned a tuple sharding even if the specified
index was referenceing a non-tuple element.

PiperOrigin-RevId: 195393313

Do not crash on ROOT outfeed operations.

PiperOrigin-RevId: 195388075

Fixing some linter errors in TF documentation (Github > GitHub, the the > the).

PiperOrigin-RevId: 195386172

Prefer non-nested GradientTape.gradient call when only one source is passed.

PiperOrigin-RevId: 195385406

  * Don't copy on-host and on-device shapes locally.
  * Use ForEachMutableElement rather than the iterators, as it is much quicker.

There is still room for improvement; ForEachMutableElement is linear in the number of nodes in the shape tree but we want to be linear in the number of nodes in the sub shape tree. But I feel this is a good enough improvement.

PiperOrigin-RevId: 195384423

Automated g4 rollback of changelist 194829761

PiperOrigin-RevId: 195379693

Internal change.

PiperOrigin-RevId: 195374319

Add the MultiWorkerMirroredStrategy

PiperOrigin-RevId: 195368876

[XLA] Redesign: cleanup client_library_test_base.

PiperOrigin-RevId: 195357555

[XLA] Make LocalShapedBuffer::FromLiteral fallible by passing StatusOr wrapper.

PiperOrigin-RevId: 195345724

Clear the stat cache of the target when renaming the file.

PiperOrigin-RevId: 195337886

[XLA] Redesign: deprecate ComputationBuilder.

PiperOrigin-RevId: 195335330

Fix flaky test time-outs for dnn_test and rnn_test.

PiperOrigin-RevId: 195331183

Adjust worker shutdown hooks for TPUs

PiperOrigin-RevId: 195328247

Fix bugs in LogicalBuffer::ToString and BufferValue::ToProto: these functions
may be called before set_color(), but color() check fails when no color is set.

PiperOrigin-RevId: 195327063

Fix oom_test so that it doesn't try to allocate a giant host buffer when
run without --config=cuda.  Sadly the best way I could come up with is
pretty hacky.

PiperOrigin-RevId: 195325149

Do not hoist nodes that modify frame info.

PiperOrigin-RevId: 195322927

Use tuple instead of list to reduce the chance of it being picked by the list conversions.

PiperOrigin-RevId: 195322522

Fix bug that disabled loop invariant node motion optimizer. Disable it options, since it is broken in the presence of gradient stacks.

Get rid of an unnecessary copy of the graph.

PiperOrigin-RevId: 195319766

Add tflite listed models with accuracy and performance numbers.

PiperOrigin-RevId: 195312636

Add separate get_read and get_updated helpers that work on code exceprts. Handle corner case for AugAssign. Fix bug in _node_sets_self_attribute.

PiperOrigin-RevId: 195309809

[TF:XLA] clean up interface to xla::VerifyHloModule

It seems that the first argument, platform, is unused.

PiperOrigin-RevId: 195309504

Optimize idempotent ops, e.g., Snapshot(Snapshot(x)) => Snapshot(x)

PiperOrigin-RevId: 195308675

[XLA:CPU] Remove dead function + DCHECK, NFC

There isn't a lot of benefit to fixing the function to do that it says it does
since I'm adding support for lowering batch matmul which will break this
precondition anyway.

PiperOrigin-RevId: 195306803

Fix a typo.

PiperOrigin-RevId: 195305770

Documentation for tf.contrib.eager.py_func

PiperOrigin-RevId: 195303454

tfdbg + tflearn: replace deprecated classes and methods in example & docs

* `tf.contrib.learn.Experiment` is deprecated. Remove it from debug_tflearn_iris.py.
* Use `tf.estimator.DNNClassifier`, instead of the older one from `tf.contrib.learn`.
* Use `train()`, instead of `fit()` of Estimators.
* `Estimator.predict()` supports hooks. Add example lines for that.

PiperOrigin-RevId: 195301913

Checkpointable: Utilities to read object metadata

Useful for inspecting checkpoints programatically (e.g. in unit tests).

PiperOrigin-RevId: 195300780

Fix bugs in model pruner.

PiperOrigin-RevId: 195298816

Simplified the implementation of shape_n since the optimized code path isn't needed anymore and can be incorrect in some rare cases.

PiperOrigin-RevId: 195298813

Change all std::bind usages in GCS to lambdas. Fix the wrong #define Guard name in retrying_file_system.h.

PiperOrigin-RevId: 195297877

Enable unary chain hoisting optimization for concat/split/splitv by default.

PiperOrigin-RevId: 195297330

[TF:XLA] Bump open source llvm revision to r331442

PiperOrigin-RevId: 195297133

Small fix for an eager colab notebook.

PiperOrigin-RevId: 195296384

Simplify file reading and support SavedModel.

PiperOrigin-RevId: 195291836

Do not delegate temporary tensors to NNAPI.
  - also added delegation for MUL, and set the default scale to be 0.0f.

PiperOrigin-RevId: 195288948

[XLA] Redesign: add ExecuteGraph to grpc service.

PiperOrigin-RevId: 195281004

Post-transform pass to dedupe large constant arrays.

PiperOrigin-RevId: 195260578

Use tensorflow size to determine number of elements instead of the static shape, which can sometimes be missing.

PiperOrigin-RevId: 195209826

Simplify getter and setter method for GraphOptimizationPass::name_

PiperOrigin-RevId: 195199912

Expose Interpreter to tensorflow.contrib.lite

PiperOrigin-RevId: 195198645

Fix tf.variable_scope unique name after entering root scope
Closes #18702.

PiperOrigin-RevId: 195192460

Update ops-related pbtxt files.

PiperOrigin-RevId: 195190335

Replaced calls to tensorflow::StringPiece::ToString with std::string conversions.
That is, instances of sp.ToString() are replaced with std::string(sp).

This will allow tensorflow::StringPiece::ToString to be removed, which is necessary before it can be replaced with absl::string_view.

PiperOrigin-RevId: 195188185

Compute shape of segment_ids dynamically in _unsorted_segment_N

PiperOrigin-RevId: 195186950

Remove duplicated emplace_back floor operator.

PiperOrigin-RevId: 195185567

Automated g4 rollback of changelist 195091587

PiperOrigin-RevId: 195184798

Add complex128 support to FFT, FFT2D, FFT3D, IFFT, IFFT2D, and IFFT3D.

NumPy automatically upcasts to complex128 when computing FFTs, leading to issues like:
#10749

This change allows users to choose between 32-bit and 64-bit precision FFTs on CPU and GPU.

PiperOrigin-RevId: 195183206

Add a collect_trace option to run_op_benchmark for cases when callers just want
to pass RunOptions.FULL_TRACE but don't want to store trace in extras.

PiperOrigin-RevId: 195181533

BufferValue is a new base class for LogicalBuffer and HloValue. This makes it
easier to migrate from TuplePointsToAnalysis/LogicalBuffer to
HloDataflowAnalysis/HloValue. No functional changes.

PiperOrigin-RevId: 195179676

Handle negative values when slicing symbolic shapes

PiperOrigin-RevId: 195176133

Allow `Layer.add_loss` to receive non-tensor; fixes error triggered when using a weight regularizer of factor 0.

PiperOrigin-RevId: 195175909

Enable reshape of _ScopedAllocatorConcat output.

The _ScopedAllocatorConcat kernel outputs the backing tensor after performing
runtime bounds checks.  However, the shape of the backing tensor may not match
the desired output shape of the concat operation.

This change adds a "reshape" boolean attribute to _ScopedAllocatorConcat kernel.
When this attribute is set to true, the kernel outputs a reshaped backing tensor
according to the "shape" attribute.

PiperOrigin-RevId: 195169105

Add RNNEstimator which takes in arbitrary heads.

PiperOrigin-RevId: 195167853

Mark all nodes processed by AddOpsRewrite/MinBCast stages with a tag.

PiperOrigin-RevId: 195167597

Allow evaluation and prediction through warm-starting (no current checkpoint / model_dir).

PiperOrigin-RevId: 195165732

Adds the EvalListener support for run_local.

PiperOrigin-RevId: 195163507

Adding a version of rolled triangular solver code for the right-multiply case, which is used in Cholesky decomposition.  Replacing the unrolled version with a While loop drastically reduces XLA compilation times which allows much larger models to be run on TPU.

PiperOrigin-RevId: 195163298

Add prefetching to one device distribution strategy.

PiperOrigin-RevId: 195162570

Replaced calls to tensorflow::StringPiece::ToString with std::string conversions.
That is, instances of sp.ToString() are replaced with std::string(sp).

This will allow tensorflow::StringPiece::ToString to be removed, which is necessary before it can be replaced with absl::string_view.

PiperOrigin-RevId: 195162126

Optimize LogicalOr and LogicalAnd with all true or false inputs:

LogicalOr(x, true) = true
LogicalOr(x, false) = x
LogicalAnd(x, true) = x
LogicalAnd(x, false) = false

and similar if the first argument is constant.

PiperOrigin-RevId: 195161140

[XLA] BF16 propagation: do not change if propagation is confined inside a fusion.

We now use a set to track all the potential changes, and do the actual changes
on the HLOs at the end. This also makes the boolean return value (whether
anything is changed) correct.

PiperOrigin-RevId: 195160025

[TF:XLA] Bump open source llvm revision to r331338

PiperOrigin-RevId: 195158710

Add steps_per_run to LoggingTensorHook and StepCounterHook and other logging bug fixes.

PiperOrigin-RevId: 195158238

Fix support for batch_normalization with mixed precision

When the type of the input tensor `x` is not the same as the type of
the parameters `mean`, `variance`, `offset`, and `scale`, a cast is
required.

This mixed precision case occurs when using the BatchNormalization
layer with a data type of float16 or bfloat16.

PiperOrigin-RevId: 195157279

Updated ABSL to latest version in workspace.bzl.

PiperOrigin-RevId: 195144612

Fix a bug in create_python_api.py

I got an error complaining about "RuntimeError: dictionary changed size during iteration", this change fixes it.

PiperOrigin-RevId: 195144333

[XLA] Add new optimization that sinks constants into while loop bodies

Example transformation:

   state = (..., const, ...)
   while (pred(state)) {
     (..., v, ...) = state
     use(v)
     state = (..., v, ...)
   }

 =>

   state = (..., const, ...)
   while (pred(state)) {
     (..., v, ...) = state
     use(const)
     state = (..., v, ...)
   }

PiperOrigin-RevId: 195143323

Re-enabling a test.

PiperOrigin-RevId: 195142105

Fix tsan failure in batch_dataset_op_test.
The error was being caused because we were trying to save invocation_results_` while the function call was in progress. Now we wait for all invocations to finish before saving both `invocation_results_` and `batch_results_`.

Did local A/B testing for tsan.
Before: 12/100 failed
After: All passed
PiperOrigin-RevId: 195141349

Increasing test size to reflect recent additions and prevent test timeouts.

PiperOrigin-RevId: 195138565

[XLA] Redesign: Dump HloSnapshot in local service as well. And support replaying HloSnapshot.

PiperOrigin-RevId: 195138472

Added support for packing of symbolic shapes

PiperOrigin-RevId: 195137239

docs: Link to the appropriately branched version of the live colab notebooks.

And update that link on release changes.

PiperOrigin-RevId: 195133689

Turn on two half precision tests for GPU.

PiperOrigin-RevId: 195128326

Replaced calls to tensorflow::StringPiece::ToString with std::string conversions.
That is, instances of sp.ToString() are replaced with std::string(sp).

This will allow tensorflow::StringPiece::ToString to be removed, which is necessary before it can be replaced with absl::string_view.

PiperOrigin-RevId: 195126422

Internal-only change.

PiperOrigin-RevId: 195125476

[XLA:GPU] Unroll unfused elementwise op kernels.

So far we only unrolled loop fusions, elementwise ops is a logical extension.
We don't spend a lot of time in unfused elementwise ops in benchmarks, so this
is only worth a small speedup on V100.

PiperOrigin-RevId: 195121530

Automated g4 rollback of changelist 194981511

PiperOrigin-RevId: 195120627

Renames _regression_head_with_mean_squared_error_loss to _regression_head.

PiperOrigin-RevId: 195117425

Initialize all members of CollectiveParams at construction time to avoid
warnings of uninit memory access by dynamic analysis tools.

PiperOrigin-RevId: 195117321

Fix some nits in cpu_literal_caching_test that I noticed after submission

PiperOrigin-RevId: 195114829

Internal-only change.

PiperOrigin-RevId: 195113702

Optimized the analysis of rank and size operations.

PiperOrigin-RevId: 195108832