Automated g4 rollback of changelist 198444757

PiperOrigin-RevId: 198637528

Makes empty() support uint8 on cpu.

PiperOrigin-RevId: 198634986

Remove environment variable to disable C API.

This is staging for removing the _USE_C_API toggle altogether.

PiperOrigin-RevId: 198634886

Makes most variable writes depend on the cached value.

This disallows some undefined behavior with unordered reads and writes.

PiperOrigin-RevId: 198633444

Add HloProto support to replay_computation

PiperOrigin-RevId: 198631733

Avoid recursion in ExpandDomain() as stack is not happy.

PiperOrigin-RevId: 198629366

Add kwargs support for tpu.outside_compilation

PiperOrigin-RevId: 198625799

Move RemoveInvolution optimization to optimizer stage.

PiperOrigin-RevId: 198624394

Add GCS configure ops.

PiperOrigin-RevId: 198624285

Add `fill_triangular_inverse`, which flattens a triangular matrix in a way such that:
# Lower triangular matrix
x = tf.matrix_band_part(x, -1, 0)
x == fill_triangular(fill_triangular_inverse(x))
Code by srvasude@ which I'm submitting on his behalf.

PiperOrigin-RevId: 198623887

Add control dependencies to the correct graph when simplifying packing ops.

PiperOrigin-RevId: 198622727

Add `tf.contrib.distributions.bijectors.MatrixInverseTriL`: Bijector that inverts a lower-triangular matrix.

PiperOrigin-RevId: 198622553

Add include file which provides the proper std::string mapping.

PiperOrigin-RevId: 198620715

Skip errors in function optimizer if optimized graph was not modified before error happened.

Currently error can happen if function can't be instantiated as GrapplerFunctionItem.

PiperOrigin-RevId: 198595096

[tf.data] change batch dataset op test size to large to prevent timeout

PiperOrigin-RevId: 198592202

Let the swig wrapped builder to return the HloModuleProto.

PiperOrigin-RevId: 198588920

Add an option to propagate Status in GraphOptimizerStagePipelines.

PiperOrigin-RevId: 198585886

Internal change

PiperOrigin-RevId: 198582954

Disable flaky fused_rnn_cell_test

PiperOrigin-RevId: 198582181

KL divergence for two Dirichlet distributions.

PiperOrigin-RevId: 198573236

Adding tf.name_scope blocks to make the TensorBoard graph visualization usable.

PiperOrigin-RevId: 198569786

[tf.data] Adding a concurrency stress test for `map_and_batch`.

PiperOrigin-RevId: 198566777

internal

PiperOrigin-RevId: 198560342

beautify test output file name.

PiperOrigin-RevId: 198555383

Remove unused Make variables from tf_py_wrap_cc.

PiperOrigin-RevId: 198518885

Adds GPU kernel registration for igamma, igammac.

Switches use_gpu=True to force_gpu=True for cwise_ops_test.

PiperOrigin-RevId: 198515293

Improve error message when a missing feature name is passed as a unicode string.

PiperOrigin-RevId: 198514621

Fix GPU build on windows

PiperOrigin-RevId: 198513480

internal cleanup

PiperOrigin-RevId: 198504528

Introduced kDomain HLO instruction set isolation to bound connected sets of instructions with similar attributes (ie, sharding).
This CL simply adds the infrastructure, but leaves the wire-on to a separate CL.

PiperOrigin-RevId: 198503625

Add features to HloRunner for running while leaving buffers on the device and add option to test_utils for generating more-boring data much faster.

PiperOrigin-RevId: 198502753

Do not allow cross computation instruction lookups in HLO parser.

PiperOrigin-RevId: 198496653

[XLA] Minor HloSharding cleanups.

Delete dead code in HloSharding::ToString(), and add and use proper
hasher struct.

PiperOrigin-RevId: 198493972

Remove unnecessary shape registration fn from cudnn rnn ops.

The registered ones are the same as default.

PiperOrigin-RevId: 198489529

Making RPC op handle the case where cancellation manager is not initialized in OpKernelContext.

Fixes #19496

PiperOrigin-RevId: 198488860

Convenience functions to create TensorProto directly from data (std::vector).

PiperOrigin-RevId: 198486802

Use absolute indexing in `fill_triangular`.

PiperOrigin-RevId: 198485926

Fixing a bug in `map_and_batch_fusion` and improving test coverage.

PiperOrigin-RevId: 198481898

Add tf.keras programmer's guide.

PiperOrigin-RevId: 198480159

Fix documented numpy equivalent of matrix_triangular_solve.

PiperOrigin-RevId: 198478933

Automated g4 rollback of changelist 198137414

PiperOrigin-RevId: 198477942

Adjust TPUEstimator timeout for worker shutdown to 60 seconds.

PiperOrigin-RevId: 198477309

Wraps the FinalOp exection with a user-friendly error mssage.

PiperOrigin-RevId: 198476911

Update setup.py with project description and development status.

PiperOrigin-RevId: 198475440

Add microbenchmarks for the executor.

PiperOrigin-RevId: 198475385

  streaming trace viewer need to filter host.

PiperOrigin-RevId: 198471853

Adding a check in eager metrics to make sure that the shapes of labels and predictions are exactly the same. The issue is that math_ops.equal would do broadcasting and so even if the shapes weren't entirely equal it'll produce an output which would be incorrect rather that reporting an error.

PiperOrigin-RevId: 198468251

In TPUEstimator.export_savedmodel(), if saving TPU metegraph fails, issue a warning instead so that user can still use the CPU metagraph.

PiperOrigin-RevId: 198458571

[tf.data] better benchmarking code in tests for measuring improvements to csv parsing

PiperOrigin-RevId: 198457501

[TF:XLA] Implement Bucketize.

PiperOrigin-RevId: 198452289

Make the quantize_and_dequantize op use the full quantized range when possible.

PiperOrigin-RevId: 198450816

Automated g4 rollback of changelist 198421828

PiperOrigin-RevId: 198444757

Increase tolerances in depthwise_conv_op_test.

PiperOrigin-RevId: 198434814

Use target machine features to determine max vectorization width for GEMM

PiperOrigin-RevId: 198434296

L2HMC trained with strongly correlated Gaussian. Simple testing
and benchmark with eager and graph mode execution.

PiperOrigin-RevId: 198433911

Extracts the 'remove split or splitv nodes' optimization into its own method.

PiperOrigin-RevId: 198432976

[TF:XLA] Bump open source llvm revision to r333395

PiperOrigin-RevId: 198432337

Go: Update generated wrapper functions for TensorFlow ops.
PiperOrigin-RevId: 198431534

Add note to bijector_impl.py explaining that `log_det_jacobian` is `log(*abs*(det(Jacobian)))`.

PiperOrigin-RevId: 198428995

[XLA] Clarify that options passed to LocalService override legacy_flags values.

PiperOrigin-RevId: 198426696

Update ops-related pbtxt files.

PiperOrigin-RevId: 198426617

Tile on the M dimension in GEBP.

After this change the inner reduction loop in GEBP multiplies a tile from the
LHS and a tile from the RHS to get a result tile.

PiperOrigin-RevId: 198425769

  [tpu:profiler] Add a new field to the statistics collected at each step.

PiperOrigin-RevId: 198425588

Extracts the 'remove shuffle or transpose node' optimization into its own method.

PiperOrigin-RevId: 198425354

Add security notices for recently discovered and patched vulnerabilities.

PiperOrigin-RevId: 198422244

[TF/XLA] Add validation to find ops incompatible with the given device type at the beginning of graph compilation.

PiperOrigin-RevId: 198421828

  Support NHWC_VECT_W in MakeShapeFromFormat.

PiperOrigin-RevId: 198421617

Add AnonymousIteratorHandleOp for non-shared Iterator resources

Fixes Iterator cleanup when executing eagerly. DestroyResourceOp will now remove the last reference from the Iterator resource when it runs (after the last Python reference to an EagerIterator is removed).

Previously EagerIterator used IteratorHandleOp to create resource handles, which used one kernel per (unique) shared name since the shared name was an attribute. These kernels each held a reference to their resource, which kept it alive indefinitely.

Fixes #19499.

PiperOrigin-RevId: 198417997

Clarify argument types and relationships in docstrings of statistical_testing.py.

PiperOrigin-RevId: 198414898

Eliminate self.test_session in favor of self.evaluate in statistical_testing_test.py.

PiperOrigin-RevId: 198410306

Clean up: handle the hidden additional clause on for loops in a way that's clearer about what it does.

PiperOrigin-RevId: 198409797

Clean up: remove useless super delegation.

PiperOrigin-RevId: 198405670

Allow assignment to subscripts in static analysis.

Move the handling of syntactic unpackings to a generic helper function since the pattern is used in multiple places. Update the type info analyzer to correctly process function arguments.

PiperOrigin-RevId: 198401368

Generalize assert_true_mean_equal and assert_true_mean_equal_two_sample to assert_true_mean_in_interval.

PiperOrigin-RevId: 198400265

Re-apply #18192.

PiperOrigin-RevId: 198358055

Fix an incorrect precondition check in IndexedArrayAnalysis

PiperOrigin-RevId: 198354001

Pass HloOpcode instead of HloInstruction; NFC

Minor code cleanup change.

PiperOrigin-RevId: 198351045

Make IndexedArrayAnalysis behave well around StatusOr

PiperOrigin-RevId: 198348355

Adding tf.data optimization for rewriting `map(...).batch(...)` to `map_and_batch(...)`.

PiperOrigin-RevId: 198310806

Sort variables in C++ instead of Python.

PiperOrigin-RevId: 198298103

Relax compatibility checks for Protocol Buffer classes, to not rely on the exact layout of the generated classes. The definition of the message is checked instead.

PiperOrigin-RevId: 198292780

[XLA] Don't display metadata inline in HLO graph dump.

We only want to display it in the tooltip.

PiperOrigin-RevId: 198235268

TPUEstimator.export_savedmodel() saves a SavedModel with both TPU and CPU graphs.

PiperOrigin-RevId: 198229550

Extracts the 'remove random shuffle node' optimization into its own method.

PiperOrigin-RevId: 198169790

Fix the issue where returned Status is not used.

PiperOrigin-RevId: 198146500

DepthwiseConv Optimizations

PiperOrigin-RevId: 198144118

Use dict(locals()) instead of distribution_util.parent_frame_arguments. This will be much
faster at object construction time (going forward we'll figure out a way to make this a function to call).

PiperOrigin-RevId: 198141184

[XLA] Don't compute relative error when the expected value is 0.

In literal_comparison, don't try to compute a relative error when the
expected value is 0, because doing so would mean that the only
acceptable value *is* zero, which probably isn't what you mean.

PiperOrigin-RevId: 198137414

Add support for unary and binary ops to indexed tensor analysis

I've added a TODO to clean up the use of ValueOrDie which I will address in an
immediately following CL.

PiperOrigin-RevId: 198134579

[Hlo Graphviz] Always show metadata as tooltips

Always show metadata as tooltips.

PiperOrigin-RevId: 198134430

Add a type-erased broadcast implementation to xla::Literal

And use this in HLO evaluator.  Since broadcast only moves bytes around we don't
need a type specialized implementation.

I'll use this in a later change.

PiperOrigin-RevId: 198128524

Minor eager performance improvements

- remove linear regression dependence on global step.
  This speeds things up a lot for the benchmark (since it removes a bunch of
  unnecessary code), but is obviously not a fair comparison.
  I think its worth doing, since I don't see any reason to have a global step
  in eager.

- nn_ops dropout had an unnecessary convert_to_tensor, convert back to numpy
  (with a GPU this would copy out, copy back).
- cudnn_recurrent reshape would always fallback to the slow path - so I just
  converted it to be in the fastpath - this will be low impact.

- tensor_shape should not generate a new object every time
- remove unnecessary list creation and searching in some dtypes functions

PiperOrigin-RevId: 198127757

[TF:XLA] Add direct implementation of AssignVariableOp for XLA devices.

This allows us to avoid an XLA compilation and tensor copies when assigning to a variable placed on an XLA device.

PiperOrigin-RevId: 198127062

Turn on heuristic (mostly-NHWC) convolution layout assignment for (V100, fp16) by default.

Also increase the column reduction tile size to reduce atomic operations.

PiperOrigin-RevId: 198126505

Enable while loop constant sinking for GPU

To avoid keeping constants in while loop bodies after optimization (where they
may cause extra copies) we run a late pass of LICM that has been asked to hoist
constants when it can.

PiperOrigin-RevId: 198126497

Provide a step container to OpKernelContexts when running eagerly.

This lets us run some ops that require step containers (e.g.
TensorArray-related ops).

 Before change:
 Benchmark                    Time(ns)        CPU(ns)     Iterations
-------------------------------------------------------------------
 BM_CreateGraph                  61292          80915           8581
 BM_RunGraph                      7899          13398          51251
 BM_CreateAndDestroySession       2588           2594         269838
 BM_KernelAndDeviceInit           2971           2976         235908
 BM_KernelAndDeviceRun             505            506        1000000

 After change:
 Benchmark                    Time(ns)        CPU(ns)     Iterations
 -------------------------------------------------------------------
 BM_CreateGraph                  78295         105539           8698
 BM_RunGraph                      9907          16988          47908
 BM_CreateAndDestroySession       2773           2778         247635
 BM_KernelAndDeviceInit           2678           2682         270054
 BM_KernelAndDeviceRun             553            554        1000000

PiperOrigin-RevId: 198125630

[tf.data] Fixing concurrency issue in `map_and_batch`.

PiperOrigin-RevId: 198124860

Ignore while loops instead of mangling them in the automatic control dependencies.

PiperOrigin-RevId: 198122188

Extracts the 'remove reverse node' optimization into its own method.

PiperOrigin-RevId: 198122165

Automated g4 rollback of changelist 198087342

PiperOrigin-RevId: 198117552