Standardize bib references and Examples subsection in docstrings.

Recipe:

+ Write a #### Examples subsection below Args/Returns/Raises to illustrate examples. If the docstring's last line is a ``` closing a code snippet, add an empty line before closing the docstring with """. This properly displays the code snippet.

+ Write a #### References subsection at the bottom of any docstring with citations. Enumerate all references in alphabetical order. Individual bibentries use ICLR?s bibliography style, which borrows from icml2010.bst and which itself borrows from plainnl.bst. Add a link to the paper if the publication is open source (ideally, arXiv).

PiperOrigin-RevId: 189670932

Make _USE_C_API = True and_USE_C_SHAPES = False work with import_graph_def.

Without this change, shapes wouldn't be correctly computed for
operations created via import_graph_def.

PiperOrigin-RevId: 189670312

Add a clif build rule for saved_model.

PiperOrigin-RevId: 189669509

Improve flatbuffer verification.

PiperOrigin-RevId: 189668634

[tf.data] Combine implementations of FlatMapDataset, InterleaveDataset and ParallelInterleaveDataset.

PiperOrigin-RevId: 189667086

Fix test failure

PiperOrigin-RevId: 189666053

Automated g4 rollback of changelist 188440916

PiperOrigin-RevId: 189664854

Disable lstm test in generated_example due to state non-definitive init.

PiperOrigin-RevId: 189654943

A few changes to improve the real data performance:
* Turn off the force_gpu_compatible by default.
* Move the cast operator within the processing operator.
* Have the map_and_batch operator produce gpu_compatible output.
* Add an option to produce fp16 tensors for network transfer by default.

On DGX-1 V100, with resnet50, I got 5050 images/sec on real data, 5395 images/sec on synthetic data.
With trivial model, I got 13000+ images/sec on real data.

PiperOrigin-RevId: 189653575

Run flatbuffer verifier before reading a TFLITE file into toco.

PiperOrigin-RevId: 189649236

Use fully-qualified function names and avoid the need to replace attributes.

PiperOrigin-RevId: 189648496

Allowing the FunctionBufferingResource to be passed in thread_pool_size=0 in which case we wouldn't pass in a runner to the FLR::Run call and rely on the underlying device threadpool instead.

PiperOrigin-RevId: 189648051

Maintain an updateable map of devices in the eager context.

PiperOrigin-RevId: 189646358

Fix build breakage with downloadable clang and -fopenmp.

By disabling openmp when building with clang.
If we want to enable openmp with clang, we'll probably have to have libomp as
an explicit dependency.

This fixes a breakage found by OS CI:
https://ci.tensorflow.org/view/Nightly/job/nightly-matrix-linux-gpu-clang/215/

PiperOrigin-RevId: 189644968

TFLite Delegate: Add an `allow_dynamic_tensors` parameter.

PiperOrigin-RevId: 189641833

Enable stack push removal optimization by default.

PiperOrigin-RevId: 189641729

Turned on gradient optimization by default

PiperOrigin-RevId: 189641300

Add a helper that allows constructing simple expression ASTs from string. Useful to simplify the representation of composite symbols, e.g. 'py2tf.foo'.

PiperOrigin-RevId: 189638901

Automated g4 rollback of changelist 189416074

PiperOrigin-RevId: 189634491

Moves TFE_Executor to tensorflow::EagerExecutor in tensorflow/core/common_runtime/eager

PiperOrigin-RevId: 189634404

TFE: Fix bug encountered when using `optimizer.apply_gradients` in a defun.

Prior to this change, `Optimizer` assumed that `not
context.executing_eagerly()` implied that every variable that it was to update
was constructed in a graph. That assumption is incorrect --- TensorFlow
functions can mutate variables captured from or lifted into the eager context. As such, this change removes that assumption.

Fixes #17792

PiperOrigin-RevId: 189633630

Add bfloat16 support for CPU ops.

PiperOrigin-RevId: 189631659

Extract GraphOptimizer{Stage,Context}, and use it as a base class
in ArithmeticOptimizer.

PiperOrigin-RevId: 189628227

Checkpointable: Small cleanup making better use of NewCheckpointReader.

PiperOrigin-RevId: 189627956

  Add a map from TPU core id to name to TfOpStats.

PiperOrigin-RevId: 189620850

Do not use SparseMatmul to for bfloat16 as Matmul is already supported.

PiperOrigin-RevId: 189614197

Internal change

PiperOrigin-RevId: 189613870

Optimizations to DepthwiseConv

PiperOrigin-RevId: 189610985

Documentation tweaks and tests for GradientTape with graph execution.

PiperOrigin-RevId: 189604536

Fix misc typos in tensorflow/compiler/xla.

PiperOrigin-RevId: 189596520

Simple rewrite to remove negation nodes.

PiperOrigin-RevId: 189595735

Refactor code to improve TensorDataSet construction speed.

PiperOrigin-RevId: 189595482

Remove a few unused #includes

PiperOrigin-RevId: 189593522

Adds missing protobuf dep to tf.contrib.data ops.

PiperOrigin-RevId: 189580464

Adding non-linear image warping ops to tf.contrib.image

New ops are:
tf.contrib.image.sparse_image_warp, tf.contrib.image.dense_image_warp, and tf.contrib.image.interpolate_spline.

PiperOrigin-RevId: 189574951

Add new helpers to HLO sharding.

PiperOrigin-RevId: 189569053

Add precision and recall metrics to _BinaryLogisticHeadWithSigmoidCrossEntropyLoss.

This change makes most of the binary classifiers in the canned estimators provide precision and recall metrics during evaluation. This matches the behavior of the canned estimators defined in the deprecated tf.contrib.learn.estimator.

PiperOrigin-RevId: 189522420

Fix build

PiperOrigin-RevId: 189506945

Normally tf2xla (autoclustering, jit_scope and rewrite) rely on graph optimization
passes to outline subgraphs. The XLA device itself only sees Compute() calls for
_XlaLaunch ops. All other ops are registered with a dummy op factory that just
prints an error.

This patch adds an alternative, selected at registration time, that disables
default graph optimization and instead registers a non-dummy op implementation.

This op implementation compiles the op "on demand"; it generates a fake graph containing
_Arg and _Retval nodes and calls into the XlaCompiler code as usual.

This allows the device to be used as a "normal" TensorFlow device, as well as from
Eager mode, at the expense of performance.

Later additions will add the ability to create traces to amortize kernel launch overhead,
and the ability to combine op-by-op/tracing and autoclustering with jit_scope annotations.

PiperOrigin-RevId: 189463593

[XLA] Fix points-to set calculation in HLO ListScheduler.

Previously the list scheduler considered that an instruction used only the buffers defined by its operands. This is inaccurate in the presence of aliasing?an instruction may potentially use anything in the points-to set of the operand, including buffers defined by an ancestor of an operand. Change to use the full points-to set instead.

PiperOrigin-RevId: 189460681

Update docs for fake quant to reflect support for bitwidths from 2 to 16 inclusive.

PiperOrigin-RevId: 189426173

Automated g4 rollback of changelist 189228094

PiperOrigin-RevId: 189416074

Add user_ops.my_fact to the new TensorFlow API.

PiperOrigin-RevId: 189415577

TFTS: Allow cold-starting from SavedModels

This means the model starts from its default start state and is fed a series
(filtering) to warm up its state. This warmed up state can then be used to
make predictions.

Some shape fiddling with the receiver_fn to make feeding state optional, and a
new signature for cold-starting which uses the model's default start state.

Some other shape fiddling to make feeding strings to SavedModels work more
smoothly in the cold-start part of the LSTM example. I was squeezing out the
last dimension of "scalar" exogenous features, now I'm leaving them, which
matches the placeholder generation logic.

PiperOrigin-RevId: 189414869

Relax "_output_shapes" error checking in C++ graph importer.

This is to make the behavior inline with what Python's
import_graph_def does. It'd probably be better to raise an error, but
some people are already depending on the import_graph_def behavior in
order to import modified ops.

PiperOrigin-RevId: 189411025

Always sets self._built in tfe.metrics when build() is called.

PiperOrigin-RevId: 189408745

Deleted dead code

PiperOrigin-RevId: 189408200

Increase kMaxEagerTensorParentSize to 64.

PiperOrigin-RevId: 189407226

Remove identity transpose nodes.

PiperOrigin-RevId: 189406518

Consolidate all moving_average updates in batchnorm into one implementation.

PiperOrigin-RevId: 189404070

Don't fail when optimizing the gradients of noinline functions

PiperOrigin-RevId: 189403170

[XLA] Fix forward for HLO profiling test, explicitly set profiling preference.

PiperOrigin-RevId: 189400869

Don't inline functions in the grappler item builder since this part of the code doesn't
support custom ops. Instead we will rely on the function optimizer.

PiperOrigin-RevId: 189400462

Downgrade run-after-mutation error to a log warning.

This is to ease the transition to the C API. Some tests currently mutate the
graph after running it but currently pass. This error was meant to guard
against existing behavior, so it's not a regression to make it a warning
instead for now.

PiperOrigin-RevId: 189395472

Fixed a typo.

PiperOrigin-RevId: 189386932

Estimate prediction size and error out if it is larger than protobuf limit.

PiperOrigin-RevId: 189382429

Move if_op kernel to //third_party/tensorflow/compiler/tf2xla/kernels

PiperOrigin-RevId: 189381067

[XLA] BF16 conversion folding for CRS; remove no-op conversions in propagation.

If CRS has tuple output, it needs special handling in conversion folding.
BF16 propagation could result in BF16->BF16 conversions, which can be removed.

PiperOrigin-RevId: 189380578

BREAKING_CHANGE: Remove SigmoidCentered bijector.
 - SoftmaxCentered solely works on vector events, and supports broadcasting.
 - Sigmoid exists for event_ndims=0 cases.

PiperOrigin-RevId: 189380445

[XLA:python] Plumb hlo_profile flag.

PiperOrigin-RevId: 189377860

Remove empty buckets in latency_stats as it makes the report unreadable. This is also consistent with how SummaryHistoOp in summary_op.cc works.

PiperOrigin-RevId: 189375113

[tf.data] Fix typo in `Dataset.prefetch()` docstring.

PiperOrigin-RevId: 189374898

[TF:XLA] Bump open source llvm revision to r327616

PiperOrigin-RevId: 189372065

Allow variable lists to change when saving repeatedly using tfe.Checkpoint

For example allows saving a checkpoint before slot variables have been created

When graph building, restore() is still bound to a frozen set of variables.

PiperOrigin-RevId: 189371256

Set number of threads at Java interpreter constructor so that Conv Kernels can be selected properly.
Remove setNumThreads in the Java API as its behavior is ambiguous.

PiperOrigin-RevId: 189370770

Fixing constant output arrays by inserting synthetic reshapes.

PiperOrigin-RevId: 189368237

Automated g4 rollback of changelist 189346024

PiperOrigin-RevId: 189361083

Fix naming BatchNorm_Fold//batch_norm_correction -> BatchNorm_Fold/batch_norm_correction.

PiperOrigin-RevId: 189358090

Fix sed invocation in copy_binary.py script for Mac.

Script was explicitly calling /bin/sed which was not being found on MacOS Kokoro builds.
Removing calling "sed" in script.

PiperOrigin-RevId: 189357296

Added StrContains, StartsWith, and EndsWith functions to str_util.h.
Marked contains, starts_with, ends_with, and consume StringPiece methods as deprecated.

This will allow tensorflow::StringPiece to be more easily replaced with absl::string_view (once the deprecated methods are removed) as absl::string_view does not contain those methods.

PiperOrigin-RevId: 189355316

Move CreateSubProcess from test.h to subprocess.h

PiperOrigin-RevId: 189353033

Eliminate use of grpc::CoreCodegenInterface, which is marked as an internal interface

PiperOrigin-RevId: 189352860

Doc grammar and style fixes for macOS installation.

PiperOrigin-RevId: 189351224

Upgrade gRPC version used in OSS Tensorflow

PiperOrigin-RevId: 189349737

Make the graph_editor C-API friendly: always construct ops with their inputs.

PiperOrigin-RevId: 189346024

Fix a typo in docstring for index_table_from_tensor.

PiperOrigin-RevId: 189345585

- Adds support for shared embedding layers (e.g. in RNNs), and shared Conv2D layers.
- Some minor refactoring of internal structure in fisher_blocks and layer_collection

PiperOrigin-RevId: 189338874

[XLA:python] Fix a bug where returning an status would not incref Py_None.

PiperOrigin-RevId: 189337748

Clean up and clarify the 'install from source' page.

Remove reference to CUDA and cuDNN versions for 'install from source' from the 'install Linux' documentation. The 'install from source' should be the authoritative page for this.

PiperOrigin-RevId: 189328669

[tf2xla] Introduce XlaTensorInfo

XlaTensorInfo is side-band data for Tensors. It can be used to store
information about Tensors that is not possible to store in the Tensor
itself.  The XlaTensorInfos are managed by XlaTensorInfoManager, which
is an Allocator, which allows it to release the TensorInfos when the
underlying Tensor is released.  Looking up an XlaTensorInfo for a
Tensor requires a hash table lookup. This implementation keeps this
off the fast path and only looks the tensorinfos up when they are
required.

PiperOrigin-RevId: 189319553

Don't put quantization variables in EMA collection by default.

PiperOrigin-RevId: 189302082

Propagate min-max when resolving constant Reshape op.

PiperOrigin-RevId: 189296593

Automated g4 rollback of changelist 189234789

PiperOrigin-RevId: 189293458

Implement out of bounds behavior for gather in the HLO evaluator

This makes the OOB behavior of gather in the HLO evaluator consistent with
DynamicSlice while we figure out the semantics we want long term.

The HLO->HLO gather expander inherits the wrapping behavior of dynamic-slice
because it lowers the gather ops to loops of dynamic slices.

PiperOrigin-RevId: 189293175

Internal cleanup.

PiperOrigin-RevId: 189278596

Go: Update generated wrapper functions for TensorFlow ops.
PiperOrigin-RevId: 189274859

Symbolic gradient optimization

PiperOrigin-RevId: 189268327

Add initial host transfer ops for XLA support for computation on the host during a compiled computation.

PiperOrigin-RevId: 189265297

Clarifying when is it possible to use a tape while it is still active.

PiperOrigin-RevId: 189260773

Rename CreateXyzHlo utilities to MakeXyzHlo as discussed on cr/188968478; NFC

The rationale here is that MakeXyzHlo is less likely to be confused with
HloInstruction::CreateXyz and we already have a convention of using a "Make"
prefix for ergonomic factory functions.
PiperOrigin-RevId: 189259036

Automated g4 rollback of changelist 189231636

PiperOrigin-RevId: 189258641

Pass error reporter to file copy allocation,
and avoid loading model from file twice

PiperOrigin-RevId: 189256489

PIE binaries that depends on static libraries usually have text relocations in the final executable, which causes link warnings/errors (different linker behaves differently). The optimal way to fix this is to link the binary with shared library, however, the libraries are NVIDIA-proprietary, not all of them have shared version (for example: cuda_9_0/lib64/libculibos.a)

PiperOrigin-RevId: 189254317

Change ParseAndVerifyModule to take a StringPiece; NFC

PiperOrigin-RevId: 189250126

Check for very large chunk sizes in WAV decoding
Change how chunk sizes larger than 2GB are handled, since they're stored as
unsigned int32s, so there are lots of ways for conversions to confuse the
decoding logic. The new behavior is to fail with an error, since such
large WAV files are not common, and are unsupported by many readers.

PiperOrigin-RevId: 189248857

Adds a GPU kernel registration for PlaceholderWithDefault, so we can avoid the issue
of using it with a registered GPU device without soft placement.

PiperOrigin-RevId: 189248024

[Checkpointable] Make EagerIterator checkpointable.

Use object-based save/restore to make dataset/iterator checkpointable in eager mode, this could potentially be extended to graph mode as well.

PiperOrigin-RevId: 189247720

Internal cleanup.

PiperOrigin-RevId: 189247461

Fix the HLO alias analysis and copy insertion to cope with the new kConditional instruction.

PiperOrigin-RevId: 189245979

Fix a bug which caused slot variables to be shared when executing eagerly

Threads the uid() name of a ResourceVariable through to the Optimizer. Tests
that slot variables are unique in several ways.

Previously ResourceVariable._shared_name was the Optimizer's slot key for a
variable, which for tfe.Variable() is just the non-uniquified name.

PiperOrigin-RevId: 189240115