Revert the changes of ScopedActivateExecutorContext, which requires depending on core:lib which is forbidden

Fix std::string and unused Status problems

Fix the include for cuda_runtime_api.h

Fix enum ints

removing unused variables

More variable renaming

Change variable naming

remove cudaSetDevice with tensorflow ScopedActivateExecutorContext

Remove debug messages and fix logger

Fixes for PR comments

Int8, FP16 and new ops support

Change consts

Remove debug from config

Merge branch 'tftrt_int8' of github.com:NVIDIA/tftrt into tftrt_int8

Fixes for PR

[removing converter type check]
  removing type check, since fp16 conversion will break the type consistency
  between TF & TRT

  More type check should be removed for now
    (and add back once TRT fp16 is fixed)

Uncomment google preprocessor conditionals

Merging upstream

Merge with upstream

Update testing script and README.md

Merge pull request #17365 from imsheridan/fix_error_link

Fix the error activation function link in custom_estimators.md

Merge pull request #17335 from giuscri/fix-doc-error

 Fix markdown error in documentation.

Scaffolding for int8 calibration in TF-TRT (#17309)

* Scaffolding for int8 calibration

* Add ops/trt_calib_op.cc

* Rename files and replace std::string with string

* Line lengths, variable names, conditionals in BUILD

* mode variable renaming

* More fixes for review

* Run clang-format

* Fix the build failue and replace the macro with a function

* Add TODO(aaroey) for future PRs

* Fix namespace for internal build

* Fix mismatched argument name and unused includes to make internal build happy

* Fix order of dependencies in BUILD file

* Remove dangling #undef

Make segmentation option configurable

Clean up output formatting of saved_model_cli.py (#17235)

Merge pull request #17004 from Intel-tensorflow/relu_bn_fix2

MKL: cifar 10 divergance fix and batchnorm unit test fix

Fix improper comments such as tf --> TensorFlow

Fix the error activation function link in custom_estimators

Fix some minor typos in get started docs to keep consistent (#17357)

Fix return value in sampled_softmax_loss

Fix markdown error in documentation.

Newline in the middle of links
was preventing their rendering.

[Windows] Copy NominalCPUFrequency from Abseil (#16905)

* [Windows] Copy NominalCPUFrequency from Abseil

* Add #include <shlwapi.h>

Fix typos in profiler.h (#16938)

Pull request for fixing warm-starting device placement (#17312)

* Update checkpoint_utils.py

Fix device allocation bug for warm-starting op

* Update checkpoint_utils_test.py

Fix test

Set oplib visibility to public

Bump the version of CUB in cmake build.

Enable dynamic function calls. These are compiled just in time by inserting a call to compile.

PiperOrigin-RevId: 187165096

Add documentation to Grappler RewriterConfig to give a short description for each
of the optimizer on what they do.

PiperOrigin-RevId: 187143156

Improve error handling in strided_slice_op to fail more gracefully and return an error status instead of crashing.

PiperOrigin-RevId: 187126888

Automated g4 rollback of changelist 187092622

PiperOrigin-RevId: 187125995

Add helpers to stream data from the GCE VM to a Cloud TPU.

PiperOrigin-RevId: 187122870

Fix bug in deserializing CondContexts.

PiperOrigin-RevId: 187121244

Fixes and simplification in the Keras training engine.
- Explicitly disallow sample/class weighting in eager (it was never supported)
- Remove tests for it (which were actually ignoring sample/class weights)
- Make sample weight placeholders placeholder_with_default, and do not create all-ones numpy arrays to feed them when no sample weights are provided (this might lead to better performance)

PiperOrigin-RevId: 187121215

Make sure rounding and handling of denormals in Grappler is the same as in TensorFlow.
Enable constant folding for more types, particularly on GPUs.

PiperOrigin-RevId: 187120456

Remove old implementation of the adaptive shared batcher, the in flight batches implemntation delivers similar performance but is simpler and requires less tuning.

PiperOrigin-RevId: 187111685

Modify retrain script to output TFLite compatible quantized models.

-Also fix flaky input name selection introduced by last PR.
-Also rely on tf.contrib.quantize to do graph transformations.
-Also, update retrain script to use new float mobilenet_v1 and quantized mobilenet_v1 models.

PiperOrigin-RevId: 187111533

Support configurable stats publishers in the grpc server.

PiperOrigin-RevId: 187110497

[XLA::Interpreter] Add support for kConditional to HloEvaluator. Also enable
xla/tests/conditional_tests to run on interpreter.

PiperOrigin-RevId: 187110438

Fix buffer assignment for conditional instruction.

PiperOrigin-RevId: 187107432

Consolidate the builtin function overrides into a single module, and use a generic `dynamic_builtin` function to dispatch between implementations. Use the generic dispatcher in the generated code.

PiperOrigin-RevId: 187104685

Only link the swapping code when compiling TensorFlow with CUDA support.

PiperOrigin-RevId: 187104273

[XLA] In HloEvaluator, fix an issue for HandleAbs to handle complex numbers
more correctly:

- abs([complex numbers]) would yield floats. However since the specilization for
HandleAbs is based on the return type (float), we'd CHECK fail due to float !=
complex when accessing the elements of the operand (complex).
- enable unary_op_test for interpreter.

PiperOrigin-RevId: 187099576

Deprecate tf.contrib.learn.

RELNOTES: Deprecated tf.contrib.learn. Please check contrib/learn/README.md for instructions on how to convert existing code.
PiperOrigin-RevId: 187099439

[XLA] Add more supported dtypes to the local Python client.

PiperOrigin-RevId: 187096144

[XLA] Fix #17090 a problem in IrArray::Index::SourceIndexOfTranspose.

Agebraic simplification transforms bitcast-equivalent transpose/reshape
instructions to bitcast instructions before IR emission. As such, we should
skip the checking on whether a transpose/reshape instruction is
bitcast-equivalent or not during IR emission. Remove the call from
IrArray::Index::SourceIndexOfTranspose to ShapeUtil::TransposeIsBitcast. Also
remove the call from IrArray::Index::SourceIndexOfReshape to
ShapeUtil::ReshapeIsBitcast.

Remove the calls to ShapeUtil::TransposeIsBitcast and
ShapeUtil::ReshapeIsBitcast from NotWorthHoistingIndividually
because layout assignment hasn't been done there yet. Instead, returns true
when the input is a transpose or reshape instruction, to prevent it from
being hoisted out of loops.

Add a check to ShapeUtil::TransposeIsBitcast and ShapeUtil::ReshapeIsBitcast
to make sure that both input shape and output shape have layouts.

Add two test cases.

PiperOrigin-RevId: 187093399

Uses a thread pool for graph functions in eager mode with inter_op_parallelism_threads.

PiperOrigin-RevId: 187092622

[XLA::Interpreter] Add support for kCall to HloEvaluator. Also enable
xla/tests/call_test to run on interpreter.

PiperOrigin-RevId: 187092587

Enable de/serialization of nested control flow.

This is a follow-up to the previous commit
(https://github.com/tensorflow/tensorflow/commit/23851760b7b099214bdd4f1b88156d7ac2bdd2a2).
It adds the new proto schemas, enables the behavior for reading and
writing the new protos, and adds a test for de/serializing nested
while loops.

There's still a bug preventing deserializing conds, which will be addressed
in another change.

PiperOrigin-RevId: 187082713

Track DebugOptions in AotCompilationOptions

In particular, I need this for supporting HLO profiling in the AOT backend.

PiperOrigin-RevId: 187081674

[TF:XLA] Bump open source llvm revision to r326083

PiperOrigin-RevId: 187081592

Add a function that allows to dynamically verify whether a function is white listed for graph mode.

PiperOrigin-RevId: 187080654

1st version of sequential feature columns.

PiperOrigin-RevId: 187080635

[XLA] GTE of a certain element of the tuple does not need not keep other elements alive.

This achieves two things:
1. Heap simulation runtime is no longer quadratic in the number of tuple elements (as we don't add each GetTupleElement to the liveset of each buffer defined by the tuple).
2. A reduction in the heap memory footprint.

PiperOrigin-RevId: 187079787

Adding documentation for dataset/iterator checkpointing.

PiperOrigin-RevId: 187078347

TFTS: Switch to using core feature columns

This fixes some shape issues that came up when using the tf.contrib.layers
parsing functions.

Adds a string -> embedding column API example to the LSTM example.

PiperOrigin-RevId: 187076400

Update eager uniform replay buffer microbenchmarks to compare against graph functions when possible.

PiperOrigin-RevId: 187075418

Include c_api_experimental in libtensorflow.so's dependencies.

PiperOrigin-RevId: 187068103

Maintain a cache of output dtypes of ops in TFE_Context.

PiperOrigin-RevId: 187062992

Internal change.

PiperOrigin-RevId: 187061863

Fix bug calling gradients_function inside custom_gradient

PiperOrigin-RevId: 187059871

Use optimized ops to handle GPU memory swapping: this avoids the need for 2
pairs of extra _send/_recv nodes which speeds things up a bit. This also
ensures that performance doesn't depend on the recv scheduling built in TF,
which isn't always optimal.

PiperOrigin-RevId: 187057831

Internal change.

PiperOrigin-RevId: 187056963

Add the internal module name prefix to the white list.

PiperOrigin-RevId: 187056701

Actually expose smart_cond and smart_constant_value in tf.contrib.framework

Also moves these methods into their own file in python/framework. This avoids further bloating control_flow_ops.py and makes the BUILD deps easier for a future change I'm working on.

PiperOrigin-RevId: 187055501

TFLite: Ensures pointers to tensors won't be invalidated unless 16+ tensors are added.
PiperOrigin-RevId: 187052100

Added const to Node* in various parts of the code base.

PiperOrigin-RevId: 187050526

Add support for parsing the "gather" HLO

PiperOrigin-RevId: 187050345

eager/examples/resnet50: Fix breakage.

PiperOrigin-RevId: 187050075

Bring in `isbuiltin`.

PiperOrigin-RevId: 187049824

Automated g4 rollback of changelist 185324160

PiperOrigin-RevId: 187048135

Integrate ClusterResolvers with TPUEstimator.

PiperOrigin-RevId: 187047094

[XLA] Do not recompute flattened sets inside layout assignment.

Cache the flattened sets instead of recomputing them. This matters for large graphs, since we may request the flattened set thousands of times on the same instruction, and it may be fairly expensive to construct for large tuples.

PiperOrigin-RevId: 187046642

[XLA] Add kConvert to EffectiveOperandPrecisionIsOutputPrecision list.

PiperOrigin-RevId: 187044921

Deleting references to outdated `translate/seq2seq` tutorial.

PiperOrigin-RevId: 187044697

Move accumulate_n_v2 to core.

PiperOrigin-RevId: 187042001

Arithemtic optimization: Rewite Sub(0, y) => Neg(y)

PiperOrigin-RevId: 187041872

Generalize the gather_indices dimension that stores indices

This is now exposed as a index_vector_dim dimension number.

Also fixed an off-by-one error in ValidateGatherDimensionNumbers in the
expression computing output_shape_rank.

PiperOrigin-RevId: 187040748

Fix some breakages in TensorFlow Windows build (#17271)

* Fix configure.py

* Add quantization_utils for building quantize_weights, quantize_nodes, round_weights

Caused by https://github.com/tensorflow/tensorflow/pull/16121

Upgrade Jenkins/Docker build scripts to Bazel 0.11.0. (#17280)

The 0.10.0 bazel has problems with static-linking on linux:
https://github.com/bazelbuild/bazel/issues/4474. This PR bumps to the
latest bazel that produces proper binaries w/o the linking issue.

Fix bad wrong jpeg/nasm mirror (#17277)

Local FP16 conversion to workaround TRT issue

Add missing `override' (#17098)

This fixes a warning produced by clang:
./tensorflow/core/common_runtime/gpu/gpu_device.h:70:10: warning: 'FillContextMap' overrides a member function but is not marked 'override' [-Winconsistent-missing-override]
  Status FillContextMap(const Graph* graph,
         ^
./tensorflow/core/common_runtime/device.h:124:18: note: overridden virtual function is here
  virtual Status FillContextMap(const Graph* graph,

Merge pull request #17222 from kbsriram/pool-gradients

C++ gradients for MaxPool3D, AvgPool and AvgPool3D

Merge pull request #17279 from gunan/branch_187038889

Branch 187038889

Merge commit for internal changes

Fix pip install examples to match text: Use pip and point to Py2 packages

PiperOrigin-RevId: 187038889

Fix print format error.

PiperOrigin-RevId: 187033623

[XLA:GPU] Fix HLO profiling when multiple streams are involved.

We were enqueueing the timer on the main stream, but not blocking the
substreams, so the results were nonsensical.

PiperOrigin-RevId: 187032412

Add __str__ method to _RefVariableProcessor.

PiperOrigin-RevId: 187029027

Drop the getcallargs extension as its logic had to be moved to a higher level into api.py.

PiperOrigin-RevId: 187022717