Correctly incref items put into the tuple to keep msan happy.

PiperOrigin-RevId: 182970703

[XLA] Remove LiteralTestUtil::EqualTuple / NearTuple.

Instead, simply DTRT when you pass a tuple to Equal/Near.

PiperOrigin-RevId: 182968283

Add `tf.contrib.distributions.Autoregressive`.

PiperOrigin-RevId: 182966827

Make feature_column_test.py run with the C API enabled.

I only enabled running the C API with test classes that other testing
found failures in to avoid increasing the test time unnecessarily.

PiperOrigin-RevId: 182964349

Moves batch ops to core and exposes tf.contrib.batching

PiperOrigin-RevId: 182963906

Run TF opensource presubmits with sanybridge CPU optimizations.

PiperOrigin-RevId: 182961789

TFE usability: Implement `ndim` for `EagerTensor`+NumPy compatibility

Third party libraries like matplotlib often access `ndim`.

PiperOrigin-RevId: 182961097

Removed unecessary dependency

PiperOrigin-RevId: 182959711

Increase shard count of tensorflow/contrib/learn:linear_test to avoid test timeouts.

The test tensorflow/contrib/learn:linear_test has been getting flaky timeouts t
a low rate for some time, but they increased greatly under the address
sanitizer due to a recent change there.

This CL increases the test's shard count to bring the time for each shard
well under the 5 minute timeout.

PiperOrigin-RevId: 182953078

The link translator expects "@{" for API links.

This is currently not rendering:

https://www.tensorflow.org/api_docs/python/tf/contrib/tpu/TPUEstimatorSpec

PiperOrigin-RevId: 182947562

Correct handling of dtype for Categorical sampling.

PiperOrigin-RevId: 182943806

Turn off address sanitizer checking for tensorflow/python/kernel_tests:sparse_ops_test

It getting too many timeouts.

PiperOrigin-RevId: 182892876

[XLA] Inline definitions of NativeToPrimitiveType<T>.

These functions are hot in the evaluator, and that's silly, because
they're pure constants.  Just inline them.

PiperOrigin-RevId: 182889992

[XLA] Speed up HloEvaluator's convolution routine.

Skip two integer divisions when the window has no dilation.  This is
good for a ~30% speedup on my machine.

PiperOrigin-RevId: 182887749

Puts the iterations_per_loop, which controls how many steps the TPU system to
run for each training/evaluatoin loop, into local variable collection.

PiperOrigin-RevId: 182884955

[XLA] Make kokoro happy in prng_test

Open source builds don't support bit_cast yet, use reinterpret cast instead.
RELNOTES: n/a
PiperOrigin-RevId: 182879589

Adding tf_export decorators/calls to TensorFlow functions and constants.

PiperOrigin-RevId: 182877401

Go: Update generated wrapper functions for TensorFlow ops.

PiperOrigin-RevId: 182871435

Update ops-related pbtxt files.

PiperOrigin-RevId: 182868865

_DefinedFunction.name should be a string.

With the C API enabled and python2, it was being set to a unicode
object.

PiperOrigin-RevId: 182865087

Reject retried RecvTensor requests.

Retried RecvTensorRequests are problematic because a RecvTensor with no
corresponding sender will wait forever, and the tensor may have been delivered
to a previous retry.

This change adds a unique request_id to each RecvTensor request, and we check
these request_ids against a set of recent request_ids. If a request_id is in the
recent set, we reject the RecvTensor request.

PiperOrigin-RevId: 182863245

Adding tf_export decorators/calls to TensorFlow functions and constants.

PiperOrigin-RevId: 182862075

Ops to get and set individual elements of TensorLists, and their gradients.

PiperOrigin-RevId: 182861559

Add SeparableConv1D layer and refactor SeparableConv2D to maximize code reuse and maintenability.

PiperOrigin-RevId: 182861372

Replaced LOGs with NSLogs.
Also inserted exit(-1) after LOG(FATAL)s.
Removed unused definition of CHECK macro.

PiperOrigin-RevId: 182857784

Adds unit tests for squeeze, to test the case when all dims are 1.

PiperOrigin-RevId: 182857374

Add functionality to include an optional additional header to be sent on every request when using the GCS file system.

PiperOrigin-RevId: 182855525

Add file name and line number to statuses generated by OP_REQUIRES macros.

PiperOrigin-RevId: 182850486

[XLA][BF16] Add tests to demonstrate the brokeness of BF16 RNG functions in LLVM backends.
- Added prng tests to demonstrate the brokeness of BF16 RNG functions in LLVM backends.

PiperOrigin-RevId: 182843680

Adding tf_export decorators/calls to TensorFlow functions and constants.

PiperOrigin-RevId: 182841644

Thread-safety for the TFE tape code.

In multithreaded python any call to a python API function can release the GIL,
so we should not assume our data structures haven't changed across calls to
the python API.

PiperOrigin-RevId: 182835555

Track swapping candidates directly in memory instead of annotating them in the graph

PiperOrigin-RevId: 182831471

Buildifier cleanup.

PiperOrigin-RevId: 182829120

[TF:XLA] Bump open source llvm revision to r323081

PiperOrigin-RevId: 182825537

Allowing custom creators for variable_scope.variable()

PiperOrigin-RevId: 182822430

Extend the API with a pair of decorators that can convert functions inline.
Add logic to detect these decorators and treat them appropriately (e.g. when converting recursively, do all decorated functions as they are).

PiperOrigin-RevId: 182808673

Add new src targets for C API and native TF

PiperOrigin-RevId: 182807258

Add support for tf.Example to saved_model_cli.
You can now pass tf.Example as inputs to with option --input_examples, for example:
--input_examples 'input_key=[{"age":[25],"education":["11th"]}]'

PiperOrigin-RevId: 182805401

tf.keras recurrent Layers: Fix doc strings on default activations

* The default activation for input is `tanh`, not `linear`, as
  the previous doc string might mislead readers to think.
* Also clarify that the default activation for recurrent is
  `hard_sigmoid`.

PiperOrigin-RevId: 182804493

Fix TFLite Conv reference implementation

PiperOrigin-RevId: 182802058

Allow whitespace after commas in hparam strings.

E.g., allow 'a=b, c=d' or 'a=b,\nc=d' in addition to just 'a=b,c=d'.

PiperOrigin-RevId: 182800230

Internal change

PiperOrigin-RevId: 182797605

mnist and resnet eager examples avoiding optimizer.minimize

PiperOrigin-RevId: 182792844

Reducing op overhead for eager.

Benchmarks:
(new) tfe_py_fastpath_execute_matmul: 7.86213080088 walltime
(old) gen_math_ops_matmul: 11.2566947937 walltime

(The slowdown is due to adding the record_gradient callback)

This will be a 3-step process:

1. (This CL) Add a function that allows execution of an op on the fastpath.
2. Update python generation code to create 2 new python functions
(_op/_op_gradient_callback and _op_slowpath_fallback):
   -- first function (_op) checks if it is in graph mode, if so, do the normal
      thing, else call out to the function added in step 1.
   -- second function does the else part similar to today (calling out to
   args_to_matching_eager etc.)
3. Rename the first function generated above to be the canonical _op function.

PiperOrigin-RevId: 182791741

Make array_ops_test.py work with the C API enabled.

I only enabled the test class that other testing identified needed changes.

PiperOrigin-RevId: 182783262

Implement native support of CycleGAN in tf.contrib.gan

PiperOrigin-RevId: 182782072

Internal cleanup

PiperOrigin-RevId: 182777782

Replace "Google Container Engine" by "Google Kubernetes Engine" in README.md.

PiperOrigin-RevId: 182771284

Fix a bug in the associative & commutative rewrite in constant folding:
I finally tracked it down to the case where we do the transformation:

    //
    //                      +                +       = parent
    //                     / \              / \
    //                    C   +    -- >    X   +     = children
    //                       / \              / \
    //                      X   Y            C   Y   = leaves

when there exists a control dependency from the child '+' to C. This control dependency creates a cycle in the graph when X and C are simply swapped. We can fix it by moving the control dependency and anchoring it on Y instead (We still need it in case we are inside a frame).

PiperOrigin-RevId: 182705910

[TF:XLA] Bump open source llvm revision to r323005

PiperOrigin-RevId: 182703514

Improve error message in create_python_api.py. The new message would print
exact filenames that need to be added to the
tensorflow/tools/api/generator/BUILD file.

PiperOrigin-RevId: 182679235

[XLA:GPU] Warn on more broken CUDA versions.

We've received additional data on which CUDA versions contain a ptx
assembler bug that affects XLA.  Warn if you're using any of these.

PiperOrigin-RevId: 182675055

Update XLA for LLVM r323001

This will require an LLVM version bump

PiperOrigin-RevId: 182661291

Added BeamRoot to manage instances of BeamEntry for CTCBeamSearchDecoder
to avoid recursive destructor call.

PiperOrigin-RevId: 182625992

Turn the op_performance_data proto lib into a header only library by default

PiperOrigin-RevId: 182621348

Add check for valid outfeed shape on outfeed creation and in HloVerifier.

PiperOrigin-RevId: 182616345

[XLA] Update R4 reduce window test cases.

PiperOrigin-RevId: 182612106

Add clif rules for function.proto.

PiperOrigin-RevId: 182609604

Make sure the same rewrite is not performed multiple times in ArithmeticOptimizer, and that added nodes are unique.
A couple of minor cleanups.

PiperOrigin-RevId: 182609552

Report incompatible shapes in case of check failure.

PiperOrigin-RevId: 182600051

Automated g4 rollback of changelist 182559231

PiperOrigin-RevId: 182598631

[XLA] Add xla_dump_prepass_hlo_proto_to debug flag

Add xla_dump_prepass_hlo_proto_to debug flag for dumping HLO protos *BEFORE*
running HLO passes, which will perform backend specific optimizations.

PiperOrigin-RevId: 182594324

TFLite export optional tensor as -1 id.

PiperOrigin-RevId: 182592943

[tf.data] Minor fix for saveable MapDataset and ParallelMapDataset.

PiperOrigin-RevId: 182591174

Publish TPU  Estimators Docs on github

PiperOrigin-RevId: 182585909

Filling in some holes in C64 support with Literals.

PiperOrigin-RevId: 182585597

[XLA] Simplify trivial pad/reduce-window combos into broadcasts.

PiperOrigin-RevId: 182585236

Update pin for bazel-toolchains to latest version

https://github.com/bazelbuild/bazel-toolchains/releases/tag/f3b0970

PiperOrigin-RevId: 182576952

[TF:XLA] Improve the error message when ComputeConstant fails.

Make comment in computation_builder.h more precise.

PiperOrigin-RevId: 182569583

Add support for time_major shape format to the sequential RNN Op in TF Lite.

This option, if set, changes the shape format of the inputs and outputs to
[max_time, batch_size, depth]. If false, it uses [batch_size, max_time, depth].
By default, it is set to false.

PiperOrigin-RevId: 182569507

Handling resource captures when defining functions.

PiperOrigin-RevId: 182568701

Move layers_dense_variational_impl.py to layers_dense_variational.py.

PiperOrigin-RevId: 182568201

Change deprecated keep_dims parameter to keepdims.

PiperOrigin-RevId: 182568093

   [tpu:profiler] Do not generate output files from other cloud tools if no trace is collected.

PiperOrigin-RevId: 182566765

[TF:XLA] Bump open source llvm revision to r322942

PiperOrigin-RevId: 182566386

Add convolutional Flipout layers.

PiperOrigin-RevId: 182559534

Correct handling of dtype for multinomial sampling.

PiperOrigin-RevId: 182559231

Add option for loop unrolling in MaskedAutoregressiveFlow bijector.

PiperOrigin-RevId: 182559030

Fixes issue with using lookup ops in datasets from eager.

Addresses issue #16160

PiperOrigin-RevId: 182554969

Fixes #12466. Fix getfile in cases when .py files aren't available (only .pyc files are
used).

PiperOrigin-RevId: 182554325

Fix documentation typo.

PiperOrigin-RevId: 182548006

Change deprecated dim parameter to axis.

PiperOrigin-RevId: 182547126

Improved detection of swappable nodes

PiperOrigin-RevId: 182542749

[TF:XLA] Include a summary of the TF operator when TF -> XLA compilation fails.

PiperOrigin-RevId: 182542114

Updated the version of downloadable chromium's clang toolchain

PiperOrigin-RevId: 182511847

Fix typo in MklSubAllocator::ClearStats()

PiperOrigin-RevId: 182492508

Support writing np.ndarray as tensors in Summary proto.

PiperOrigin-RevId: 182474037

Script to create ApiDef files automatically based on OpDef.

PiperOrigin-RevId: 182463327

Reshaping vars correctly in _compute_fraction_of_zero.

PiperOrigin-RevId: 182461459

Avoid use-after-free in eager tape code.

PiperOrigin-RevId: 182460292

[TF:XLA] Make ResizeBilinear and ResizeBilinearGrad faster for images of size 2^x+1.

PiperOrigin-RevId: 182456096

Fix some (re)shaping issues.

PiperOrigin-RevId: 182453707

Remove extra repeat in tf.data.Dataset documentation.
END_PUBLIC

Unless I am missing something:

BEGIN_PUBLIC
If num_epochs is 0, this isn't needed anyway; and if num_epochs > 0 then this will be buggy, because it will cause the output dataset to repeat for more than num_epochs.

PiperOrigin-RevId: 182451811

Update tensorboard dependency to minimum of 0.4.0

This should address https://github.com/tensorflow/tensorboard/issues/877.

PiperOrigin-RevId: 182451796

Handle case when buffer_size is larger than total dataset size in shuffle dataset op.
Currently ShuffleDatasetOpBase::GetNext throws a "Attempted to repeat an empty dataset infinitely." if the number of outputs produced from the dataset are < buffer_size.
Usually the buffer size is set to <= total dataset size so we never run into this.

PiperOrigin-RevId: 182448427

Entice TensorFlow to swap data out of GPU memory sooner

PiperOrigin-RevId: 182445531

Add a convenient function that makes an HloProto from an HloModule.

PiperOrigin-RevId: 182438633

Fixed Eigen-version Conv2DBackpropInput kernel, marked with "eigen_tensor".

LaunchConv2DBackpropInputOp, a template functor class used in
Conv2DFastBackpropInputOp class was specialized in a wrong place, in
conv_grad_filter_ops.cc (ODR violation). This caused wrong functor to be called
inside the op kernel class, because the correct functor definition was overriden
by a wrong specialization. The functor class that should have been specialized
in conv_grad_filter_ops.cc was LaunchConv2DBackpropFilterOp.

PiperOrigin-RevId: 182438025

Use snake-case name when generating @tf_export decorator in python_op_gen.cc.

PiperOrigin-RevId: 182437341

Make bfloat16 work correctly with matmul

PiperOrigin-RevId: 182437226