remove the misleading n_class information (#18305)

* DOC: modify the misleading n_class info

* DOC: add suggested fix

Fix WARNING in BatchNormalization (#18315)

The keep_dims for reduce_mean has been deprecated and replaced
with keepdims. This casues the following WARNING in BatchNormalization:
```
normalization.py:584: calling reduce_mean (from tensorflow.python.ops.math_ops) with keep_dims is deprecated and will be removed in a future version.
Instructions for updating:
keep_dims is deprecated, use keepdims instead
```

This fix fixes the warning in BatchNormalization.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

contrib: minor spelling tweaks (#18330)

* contrib: minor spelling tweaks

* Fix lint error

Reorder section `Using SavedModel with Estimators` (#18412)

Outputs should be specified before performing an export.

[MSVC] Remove -D__VERSION__ flag and implement tf_compiler_version properly (#18445)

Replace all COMPILER_MSVC to _MSC_VER and _WIN32 accordingly (#18448)

* Replace all COMPILER_MSVC to _MSC_VER and _WIN32 accordingly

* One more ARRAYSIZE to TF_ARRAYSIZE

* Delete non-existing include

Merge pull request #17123 from hovhannesgithub/div-sub-broadcasting

Add broadcasting functionality for Div and Sub ops.

Fixe merge issue

Merge branch 'master' into div-sub-broadcasting

Remove redefined BroadcastDiv function

Correct argument doc for BasicLSTMCell.call (#16554)

* Correct argument doc for BasicLSTMCell.call

* change self._num_units to num_units.

fix tf.GIT_VERSION always 'unknown' on windows cmake build (#16730)

Enhancement with deprecated_argument_lookup (#17527)

* Enhancement with deprecated_argument_lookup

The tf.losses.cosine_distance deprecated dim and switched
to axis. This fix adds the enhancement of using
deprecated_argument_lookup, which is used in all other
arguments deprecations.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add missing import

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Replace wrong variable (#17738)

Add comment to examples to prevent resource leaks (#17820)

Issue #17374

Add parallel implementation of CTC greedy decoder (#17982)

contrib/image: minor spelling tweaks (#18162)

Check input dimension for contrib.layers.conv2d/conv3d (#18251)

* Check input dimension for contrib.layers.conv2d/conv3d

This fix tries to fix the issue raised in 14583 where
the input dimension was not checked for contrib.layers.conv2d/conv3d
and contrib.slim.conv2d/conv3d.

The issue was that conv2d/conv3d were just aliases of
convolution. This fix wrap the conv2d/conv3d with the input
dimension check so that incorrect usage will return ValueError.

This fix fixes 14583.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add test case for conv2d/conv3d shape check

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Fix impacted tests.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Update convolution instead of adding _convolution,

based on review feedback

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add convolution1d and additional update

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

added missing shapefn to several operators (#18298)

Fix typo in error message (#18319)

Disable int64 test for backends which don't support it (#18344)

Fix broken links in /extend/language_bindings (#18346)

unified flip_* and random_flip_* functions (#18364)

Replace print with logging (#18392)

Fixing non-mkl builds (#18401)

Add negative axis support for tf.manip.roll (#18409)

* Add negative axis support for tf.manip.roll

This fix tries to support negative axis for tf.manip.roll.
The tf.manip.roll is supposed to be compatible with numpy.roll
which does support negative axis.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add test case for negative axis support for tf.manip.roll

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add axis check so that negative axis is within the range

Negative axis should be 0 <= axis + dims < dims

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add additional test cases

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Fix pylint issue

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Add deprecated_args decoration to expand_dims (#18419)

* Add deprecated_args decoration to expand_dims

This fix adds deprecated_args decoration to expand_dims
as `dims` has been deprecated and in favor of `axis`

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Enhance deprecated args with deprecation.deprecated_argument_lookup

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Imporve shape function of RandomUniformInt (#18420)

* Imporve shape function of RandomUniformInt

The input of `minval` and `maxval` of `RandomUniformInt`
should be scalar though it is not checked in the shape
function. This fix improves the shape function with the
rank check, and adds test case for it.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Add test case for maxval and minval for RandomUniformInt

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Update docs of reduce_max/reduce_min for real numeric type (#18422)

Both reduce_max and reduce_min only work for real numeric type
as complex numbers do not apply. This fix update the docs
with `numeric type` -> `real numeric type`.

Note that the current kernel registration in
reduction_ops_max.cc and reduction_ops_min.cc
use `TF_CALL_REAL_NUMBER_TYPES` so it is good.
The op registraton for Max and Min inside math_ops.cc should be `.Attr("T: realnumbertype")` instead of `numbertype`.
However, such a change will break API compatibility so leave it alone.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

[INTEL MKL] Skip special nodes inserted by TF and MKL (#18077)

* Skip special nodes inserted by TF. This fixes TFDO-178 JIIRA issue.

* Added a comment about skipping nodes with an /_ in them.

* Stripped trailing whitespace.

* Wrapped code such that it is executed only when INTEL_MKL is defined.

Merge pull request #18340 from JChord/master

Docs: Fix 'Unable to find source java class'

Update tf.contrib.metrics with deprecations (#18335)

* Update tf.contrib.metrics with deprecations

This fix updates tf.contrib.metrics.streaming_mean_absolution(relative/squared)_error
with deprecation notices as they have been replaces with tf.metrics.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Update streaming_mean_relative_error

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Update deprecation notice for streaming_root_mean_squared_error

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Fix the deprecation message.

* Fix pylint `Line too long (81/80)` issue

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Updating tensorboard link in Readme.md (#18161)

Merge pull request #18430 from lamberta/fix-docs-using-tpu

Docs: Clarify using_tpu.md

Tidy up doc for rebuild project

Merge pull request #18426 from qlzh727/branch_192461382

Branch 192461382

Docs: Clarify using_tpu.md

Merge commit for internal changes

Fixing dependencies.

PiperOrigin-RevId: 192461382

Fix Windows GPU TensorFlow Bazel builds.

The configure.py script will error out on Windows GPU builds due
to NCCL attempted to be configured (and is currently Linux only).

PiperOrigin-RevId: 192461362

Temporarily remove prelu from generated_examples_zip_test

PiperOrigin-RevId: 192453411

Remove unused former source of tensorflow.org/tutorials/image_retraining.

The source of https://tensorflow.org/tutorials/image_retraining has moved from
https://github.com/tensorflow/tensorflow/tree/master/tensorflow/docs_src/tutorials
to https://github.com/tensorflow/hub/tree/master/docs/tutorials
because of its use of TensorFlow Hub.

This change replaces the now-defunct version with a pointer to the new
location, in order to avoid dead code.

PiperOrigin-RevId: 192451570

Fixing propagation of minmax info on constant gather ops.

PiperOrigin-RevId: 192448922

[TF:XLA] Mark oom_test as optonly, it's really slow when compiled without optimization.

PiperOrigin-RevId: 192420481

Create FileWriter <-> tf.contrib.summary compatibility layer

This provides an implementation of FileWriter, activated by passing in a `session` parameter to the constructor, that is backed by session.run'ing graph ops that manipulate a tf.contrib.summary.create_file_writer() instance. Because tf.contrib.summary.SummaryWriters are backed by shared resources in the graph, this makes it possible to have a FileWriter and a tf.contrib.summary.SummaryWriter that both write to the same events file.

This change includes some related smaller changes:
- Factors out training_utils.py into a separate target to avoid a cyclic dep
- Moves contrib/summary/summary_ops.py to python/ops/summary_ops_v2.py
- Adds SummaryWriter.init(), .flush(), and .close() op-returning methods
- Changes create_file_writer() `name` arg to default to logdir prefixed by `logdir:` so shared resources are scoped by logdir by default
- Fixes a bug with tf.contrib.summary.flush() `writer` arg
- Makes create_file_writer()'s max_queue arg behave as documented
- Adds more testing for existing tf.contrib.summary API

PiperOrigin-RevId: 192408079

[XLA] Fix the size of data buffer for sparse literals.

PiperOrigin-RevId: 192404543

[XLA] Redesign: implement ComputeHost.

Also support convert from/to proto for ComputeHost.

PiperOrigin-RevId: 192403660

[XLA] Redesgin: implement and test Gather, Conditional.

Also support convert from/to proto for Gather.

PiperOrigin-RevId: 192400659

[XLA] Redesign: implment and test CrossReplicaSum.

PiperOrigin-RevId: 192397189

Update ops-related pbtxt files.

PiperOrigin-RevId: 192392702

[StreamExecutor] Merge StreamExecutor's and XLA's StatusOr classes.

StatusOr is a...complicated class to write.  It's really not good to
have two copies of it.  They've diverged (the XLA one is more
sophisticated), and this may be causing upstream build problems with
gcc6.

PiperOrigin-RevId: 192392111

[XLA] Redesign: implement and test BatchNormXXX.

PiperOrigin-RevId: 192391748

experimental C API: Fix compilation failure in Windows.

The functions added in
https://github.com/tensorflow/tensorflow/commit/be917027e37c5e8f21f6ba07f24bdbf072cf6dfd
are temporary, and their existence breaks compilation in MSVC because of
https://docs.microsoft.com/en-us/cpp/c-language/maximum-string-length
and
https://docs.microsoft.com/en-us/cpp/error-messages/compiler-errors-1/compiler-error-c2026

So just disabling it in Windows for now.

PiperOrigin-RevId: 192391164

Checkpointable: remove colocation constraints from restore ops

Mystery solved thanks to log_device_placement.

PiperOrigin-RevId: 192389574

Remove BN workaround for resource variable gradients bug that was recently fixed.

PiperOrigin-RevId: 192388867

Add missing TF_ATTRIBUTE_WEAK for MSVC (#18303)

Merge changes from github.

PiperOrigin-RevId: 192388250

Fix for users who were passing `Dimension` type as `units` arg in `Dense`.

PiperOrigin-RevId: 192387984

Fix incorrect math equation renderings in random_fourier_features.py (#18367)

* Fix incorrect math equation renderings in random_fourier_features.py

This fix fixes incorrect math equation renderings for markdown
in random_fourier_features.py. The issue is that
"```" backtick should not be added when mathjax quote is used ("\\(" or "$$").

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Additional fix.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* MathJax fixes

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Fix pylint errors

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Fix code block rendering issue in adding_an_op.md (#18368)

* Fix code block rendering issue in adding_an_op.md

In adding_an_op.md, html code was used in markdown for code blocks.
However, this does not work very well as some of the code blocks
includes incorrect rendering.

This fix converts html into "```c++" (backticks) so that the rendering
could be fixed.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Fix additional html code

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Fix lang-cpp issue

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>
* Further clean up

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

typo and readability fixes in CPU section (#18370)

Fixed a typo in the Tuning MKL section, and modified punctuation for intra_op_parallelism_threads section for easier readability.

TFTS: De-flake the LSTM test

Disabling the value-based check for now. Hopefully the shapes are deterministic.

PiperOrigin-RevId: 192383553

Forward the status from LookupResource to GetInputTensorFromVariable rather than returning a generic error status

PiperOrigin-RevId: 192382499

[XLA] Redesign: implement Conj.

PiperOrigin-RevId: 192381481

[XLA] Redesign: implement SliceInDim.

PiperOrigin-RevId: 192381080

[XLA] Redesign: implement ReduceAll.

PiperOrigin-RevId: 192380688

[XLA] Redesign: implement and test SelectAndScatter.

PiperOrigin-RevId: 192380121

Update LogToSTDErr for TF Lite usage

PiperOrigin-RevId: 192379483

Add types to error message in case of mismatch. NFC.

PiperOrigin-RevId: 192370979

Add a thread-safe producer-consumer queue.

PiperOrigin-RevId: 192370670

Fix issue with gradients of resource variables in cond.

PiperOrigin-RevId: 192369091

[XLA] Redesign: implement and test ReduceWindow.

PiperOrigin-RevId: 192368401

Merge pull request #18407 from av8ramit/fix_sed_cmd

Updating the sed command for docker parameterized build.

Update programmers guide

PiperOrigin-RevId: 192368335

Supporting FakeQuant num_bits and getting the fake quant op matching tensorflow.

PiperOrigin-RevId: 192367307

[XLA] GRPC service definition.

PiperOrigin-RevId: 192364932

Fix `nn` module RNN namespace issues.

PiperOrigin-RevId: 192364808

Updating the sed command for docker parameterized build.

Allow passing allow_custom_ops for toco_convert.

PiperOrigin-RevId: 192362688

Merge pull request #18399 from av8ramit/fix_docker_link

Forcing the symlink creation.

Cleaning up _distributed_apply now the device policy is unnecessary

PiperOrigin-RevId: 192360913

In `get_variable`, nest the choice to use `ResourceVariable` under an
`init_scope`.

This makes sure that, when executing eagerly, calls to `get_variable` in a
`defun`-compiled function retrieve `ResourceVariable`s instead of `Variables`.

PiperOrigin-RevId: 192360775

Small changes to testing code, plus a new binary to check diff from command line.

PiperOrigin-RevId: 192360373

[XLA] Redesign: implement and test Conv.

PiperOrigin-RevId: 192359226

Allow negative feature values in computation for `sum` combiner.

PiperOrigin-RevId: 192355950

Add quantized LogSoftmax.

PiperOrigin-RevId: 192352432

Forcing the symlink creation.

Run EvaluateNodes for ModelPrunerTest_StopGradientPruning. Also updated the test fixture to inherit from GrapplerTest.

PiperOrigin-RevId: 192350828

ParseOpData returns kTfLiteError when error happens.

PiperOrigin-RevId: 192346224

Bug fix for statistical_testing:
  - Max/Min computations should be done over the sample dimension.
  - Change dominate check to be greater_equal instead of greater (for matching dimensions).

PiperOrigin-RevId: 192345809

Add missing import for RNNClassifier

PiperOrigin-RevId: 192344760

[XLA] Redesign: implement and test Rev, BitcastConvertType, Map, and ReducePrecision.

PiperOrigin-RevId: 192342686

Pad support for quantized zero.

PiperOrigin-RevId: 192342172

test previously untested eval codepaths.

PiperOrigin-RevId: 192341561

Handle duplicate features by coalescing them together into a single feature.

PiperOrigin-RevId: 192341065

Refactor layers:
- tf.layers layers now subclasses tf.keras.layers layers.
- tf.keras.layers is now agnostic to variable scopes and global collections (future-proof). It also uses ResourceVariable everywhere by default.
- As a result tf.keras.layers is in general lower-complexity, with fewer hacks and workarounds. However some of current code is temporary (variable creation should be moved to Checkpointable, arguably, and there are some dependency issues that will require later refactors).
- The legacy tf.layers layers behavior is kept, with references to variable scopes and global collections injected in the subclassed tf.layers.base.Layer class (the content of tf.layers.base.Layer is the complexity differential between the old implementation and the new one).

Note: this refactor does slightly change the behavior of tf.layers.base.Layer, by disabling extreme edge-case behavior that either has long been invalid, or is dangerous and should most definitely be disabled. This will not affect any users since such behaviors only existed in the base Layer unit tests. The behaviors disabled are:
- Option to create reusable variables in `call` (already invalid for some time).
- Option to use a variable scope to create layer variables outside of the layer while not having the layer track such variables locally.
PiperOrigin-RevId: 192339798

Merge pull request #18391 from av8ramit/fix_devel_docker_python

Adding the python symlink command for devel packages too.

Update declaration order in staging ops Buffer class according to C++ style guide

PiperOrigin-RevId: 192336966

Checkpointable: wrap restore ops in init_scope

This should make restore() work with defun-wrapped code, when variables are
created inside the function. Just lifts the restore code into the outer
context. Adds a test for it.

PiperOrigin-RevId: 192331065

Merge pull request #18388 from qlzh727/branch_192309109

Branch 192309109