Merge pull request #16704 from tensorflow/yifeif-patch-1

Remove all_files rule from com_google_absl.BUILD

Revert "Updating the version to 1.6.0-rc0." (#16700)

Remove all_files rule from com_google_absl.BUILD

Merge pull request #16699 from case540/branch_184236409

Branch 184236409

Merge commit for internal changes

Merge pull request #16672 from av8ramit/update_version_16

Updating the version to 1.6.0-rc0.

Fix sanity build (#16674)

* Fix sanity.

* Add back other sanity tests.

* Add sanity test back.

* Fix build error.

* Add blacklist.

* Add whitelist.

Automated g4 rollback of changelist 183874527

PiperOrigin-RevId: 184236409

Supporting new saving op structure.

PiperOrigin-RevId: 184233513

Add darwin_x86_64 config in TF Lite BUILD file.

PiperOrigin-RevId: 184227786

Fixed the description of the fake GPU device to avoid a division by 0

PiperOrigin-RevId: 184225409

Merge pull request #16680 from yifeif/branch_184220615

Branch 184220615

Force sorting of CUDA and Python headers to avoid spurious rebuilds (#16586)

If one does try to re-use Bazel cache of a TensorFlow CUDA-enabled or
Python-enabled build, then it might happen that readdir() syscall behind
the use of find in _read_dir() will generate a different ordering of the
very same list of headers. This will make new genrules for symlinking
the CUDA headers and in the end it will result in different actionKey
computed by Bazel, hence invalidating the action cache.

Fixes #16585

Merge commit for internal changes

Add whitelist.

Add blacklist.

Fix build error.

Add sanity test back.

Add back other sanity tests.

Fix sanity.

Fix tests

PiperOrigin-RevId: 184220615

Skip unknown devices since we can't optimize for them

PiperOrigin-RevId: 184220515

Allow reordering of execution order of nodes with indirect execution_plan.

Now whenever we want to operate in dependency order we use execution_plan.
It begins as identity map (0, ..., nodes_size()) but can be changed
in the future. This is the basis for more pluggable delegation.

PiperOrigin-RevId: 184216885

Automated g4 rollback of changelist 184188816

PiperOrigin-RevId: 184213576

GCS Throttle: 1 token == 1 Kb

Previously, 1 token was approximately 256 bytes. This is slightly less
intuitive than 1 kb.

PiperOrigin-RevId: 184212503

Add functionality to fold batch norm (supporting both fused and unfused batch norm) to support quantized training. The weights are always now scaled by gamma/sigma, where sigma is the moving standard deviation for stability prior to quantization.  For improved performance, the moving means and variances are frozen and the training graph modified accordingly.

An additional parameter freeze_batch_norm_delay is added to foldbatchnorm function to set the delay at which training switches from regular batch norm to frozen mean and variances.

Remove placement options within FoldBatchNorm as this causes folded training to place all ops on a single GPU. The modification now significantly speeds up distributed training.

The tests for folding batch norms are also updated to reflect the additional topological changes to the graph.

PiperOrigin-RevId: 184211434

Add iterate_batches arg to Estimator.predict

PiperOrigin-RevId: 184205196

Make jit_test.py work with C API enabled.

PiperOrigin-RevId: 184202470

[XLA] add DotGeneral to the local Python XLA client.

PiperOrigin-RevId: 184202425

Revert TensorBoard entry point back to run_main

PiperOrigin-RevId: 184201506

 Internal change.

PiperOrigin-RevId: 184194895

Throw an exception when the user's batch size isn't divisible by GPUs.

The alternative to this is to have an adaptive approach that would unevenly split input into per-tower batches.  The concern with that was that all towers will be as slow as the one with more input reducing the performance.  Batch size seems to be commonly tailored to the available hardware.

PiperOrigin-RevId: 184192793

Return an error instead of assertion when processing an ill-formed graph or an
invalid set of fetch nodes

PiperOrigin-RevId: 184192790

[TFXLA] Use data flow to determine switch grouping.

* Change how switch grouping works:
  - This is an intermediate step, next is combining
    DetermineBranchMapAndFrontier into one traversal.
* Homogeneous the naming (switch_nodes -> switches);
* Change graph dumping to be due to class member - currently still performed when vlog-level is sufficiently high;
* Pass in correct library when dumping graphs;

PiperOrigin-RevId: 184188816

Adding documentation on how to load & serve a model with the
TensorFlow Serving Model Server.

PiperOrigin-RevId: 184188752

Fixes a type conversion bug in losses.compute_weighted_loss for reduction=SUM_OVER_BATCH_SIZE.

PiperOrigin-RevId: 184186573

Fix segfault when Softmax is first in graph

PiperOrigin-RevId: 184183730

Verify tensor contents of tflite model

PiperOrigin-RevId: 184183725

Made the addn optimization aware of the graph topology

PiperOrigin-RevId: 184179246

Add a utility module that contains helper functions usable from within generated code.
Add a helper for the control dependencies context manager.

PiperOrigin-RevId: 184176409

Internal change.

PiperOrigin-RevId: 184174800

Update deprecated API use

PiperOrigin-RevId: 184173047

[tf.data] Fix bug where captured resources in shared iterators were invisible.

This change ensures that a shared iterator (which requires a private
FunctionLibraryRuntime that outlasts the calling op's runtime, because
it can outlive a single session) uses the same Device as a non-shared
iterator, and hence capturing resources from the creating graph will
work as intended.

Fixes #16481.

PiperOrigin-RevId: 184172498

Added a utility to traverse the graph in reverse DFS order, identifying loops
in the process.

PiperOrigin-RevId: 184172483

Automated g4 rollback of changelist 184153187

PiperOrigin-RevId: 184169668

Internal change.

PiperOrigin-RevId: 184165180

Add function paths to their signatures.

fixes #16167

PiperOrigin-RevId: 184160925

Fix nest bug with different dictionary key orderings.

PiperOrigin-RevId: 184160009

Add shape inference for outside_compilation graph rewrite. Pull out enough of the graph to enable inference of the shape of a SendFromHost Op once the shape of corresponding RecvAtHost Ops are known.

PiperOrigin-RevId: 184153187

Update ops-related pbtxt files.

PiperOrigin-RevId: 184141875

[TF:XLA] Implement MatrixSetDiag and MatrixBandPart.
Add support for int32 indices to the MatrixBandPart operator.

PiperOrigin-RevId: 184133343

[TF:XLA] Fix tfcompile OSS build

 - The @org_tensorflow package designation is unnecessary, and breaks the build
   when building without a sandbox.

 - The generated tests must use tf_cc_test, not cc_test.  See the note in
   tensorflow/core/BUILD.

Partially addresses #15338

PiperOrigin-RevId: 184095571

Internal change

PiperOrigin-RevId: 184088913

Remove BOM (#16505)

Go: Update generated wrapper functions for TensorFlow ops.
PiperOrigin-RevId: 184086955

Update ops-related pbtxt files.

PiperOrigin-RevId: 184085402

Improve shape function of NonMaxSuppression (#16664)

* Improve shape function of NonMaxSuppression

This fix tries to improve shape function of NonMaxSuppression.
As was specified in the docs, the shapes of parameters of
`tf.image.non_max_suppression` are clearly defined with:
boxes: 2-D with shape [num_boxes, 4]
scores: 1-D with shape [num_boxes]
max_output_size: 0-D scalar
iou_threshold: 0-D scalar

However, there is no shape check in the shape function of
NonMaxSuppression.

This fix adds the shape check for NonMaxSuppression,
and adds additinal test cases for it.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add additional test cases for shape check of NonMaxSuppression.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

fix python 2.7 build break & import error on windows (#16649)

added audio_ops.cc to fix the Op type not registered DecodeWav error - https://github.com/tensorflow/tensorflow/issues/15921 (#16537)

Fix linter error in losses_impl.py (#16675)

Updating the cloud tpu version.

compile libtensorflow on windows with AVX. (#16673)

Removing the escape character.

Fix an imperfect implementation of tf.losses.mean_pairwise_squared_error (#16433)

* Imperfect implementation of tf.losses.mean_pairwise_squared_error (#15968)

https://github.com/tensorflow/tensorflow/issues/15968

* To pass the test, tensorflow/python/kernel_tests/losses_test.py needs to be fixed.

Updating the version to 1.6.0-rc0.

Address sanity build issues. (#16647)

* Address sanity build issues.

* More fixes.

* Final pylint fixes.

Fix do_cmake_python_sanity error. (#16650)

* Fix do_cmake_python_sanity error.

* Update python_modules.txt

Clang on Windows will define __BYTE_ORDER__ etc. for us (#16492)

Fix for mkl_input conversion for MKL DNN. Fix also enables elemenwise operations. (#16557)

Add a new Dataset: PrependFromQueueAndPaddedBatchDataset.

PiperOrigin-RevId: 184078894

Test all TFLite kernel implementations (reference/optimized/...)

PiperOrigin-RevId: 184077940

TFE: Support `IndexedSlices` as inputs and outputs for `tfe.defun`.

In particular, this change fixes a bug that arose when attempting to
differentiate a defun-d function whose gradient yielded `IndexedSlices`.

PiperOrigin-RevId: 184077261

Add a doc explaining how to convert an `Estimator` to run on a Cloud TPU.

PiperOrigin-RevId: 184075365

Pooling and AddN fixes (#16607)

Merge pull request #16637 from case540/branch_184052073

Branch 184052073

Support multiple build types in Android build.gradle with the makefile build (#16640)

* updating CUDA srcs for Makefile build to fix unsatisfied link error

* more makefile refactoring

* Fixing Tegra build logic for Android

* reverting ndk dir

* set ccache back to default

Re-add missing argument specifier (#16632)

The ":" was erroneously removed in 76f70f5d62f35b5cc95121e6dfffa63a8214b626

By default, only download inception if it doesn't exist already (#16577)

* By default, only download inception if it doesn't exist already

* fix filename

Update docs for tf.matching_files to mention non-deterministic (#16633)

This fix tries to close the issue of 15374 by updating the
docs of `tf.matching_files` (as well as `Dataset.list_files`
and `train.match_filenames_once`), to mention that the file names
returned could be non-deterministic.

This fix fixes 15374.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Change RELEASE.md to specify CUDA 9.0 (#16486)

PR for https://github.com/tensorflow/tensorflow/issues/16348 (tinyest PR ever?)

[XLA] Support array layout specification in local Python XLA client.

PiperOrigin-RevId: 184069454

Add type check when assigning to a resource variable slice.

PiperOrigin-RevId: 184067663

Add note about ptxas bug affecting XLA:GPU to relnotes. (#16636)

eager: Fix dropout in MNIST example.

The dropout layer takes a training argument in __call__, which defaults
to false. So without this change, dropout was not being applied.

PiperOrigin-RevId: 184064465

MKL is no longer enabled via ./configure. Fixed documentation to reflect this.

PiperOrigin-RevId: 184060046

Change recommended option for building TensorFlow with MKL from -c opt to --config=opt. -c opt triggers optimized C++ compilation. --config=opt also uses additional optimization flags as set by running ./configure.

PiperOrigin-RevId: 184059060

Fix the FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated (#16591)

Fix typos. (#16570)

Remove query_layer in LuongMonotonicAttention (#16602)

In the constructor for LuongMonotonicAttention, a query layer was being created but it was ultimately never used.

Fixes #16287.

Replace 'Dan' with 'Dandelion' in the citations (#16630)

Remove duplicated identical lines (#16573)

Fixed typo (#16610)

Update ISSUE_TEMPLATE.md (#16635)

Fixes 16350

Update external protobuf codebase version for Windows cmake build

PiperOrigin-RevId: 184057827

Enable AVX in all TF windows builds.

PiperOrigin-RevId: 184052414

Merge commit for internal changes

Add grpcio as a pip dependency of tensorflow

PiperOrigin-RevId: 184052073

Fixes minor typos.

PiperOrigin-RevId: 184048812

[XLA] Initialize linear indices used by NearComparator.

In unoptimized builds, we'd see miscompares with insanely large indices when
comparing literals containing NaN.

The linear indices may never be updated/initialized if the value NaN was
compared, since:

(NaN > x) == false
(NaN < x) == false

Adds a few tests that were used when debugging, but not a perfect one for this
case. It's currently not possible to test that LiteralTestUtil::Near() fails
when given bad input since it uses the EXPECT_* family of macros, which would
cause the intentional miscompares to fail the test no matter what.

PiperOrigin-RevId: 184048275

Internal change.

PiperOrigin-RevId: 184047860