Merge pull request #19512 from yongtang/05232018-pylint

Fix pylint issue in the master branch

Additional pylint fix.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Fix pylint issue in the master branch

The latest master branch has the following pylint failure that caused
`Ubuntu Sanity — Internal CI build failed`:
```
53 FAIL: Found 2 non-whitelited pylint errors:
54 tensorflow/contrib/cmake/tools/create_def_file.py:47: [C0301(line-too-long), ] Line too long (106/80)
55
56 tensorflow/contrib/cmake/tools/create_def_file.py:61: [C0301(line-too-long), ] Line too long (90/80)
```

This PR addresses the above issues.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Expose stream executor namespace in cmake shared object. (#19415)

Instead of perftools::gputools expose stream executor namespace in cmake shared object.

Merge pull request #19502 from sdalbsoo/typo

Fix ovic typo

typo

Merge pull request #17070 from yupbank/refactor-tree-variables

add model restore support for tree and forest variables

BUG: keras.callbacks.TensorBoard raises an exception for non_trainale_weights (#19148)

* TST: write_grads for non_trainable_weights

* BUG: bypass non_trainable_weights for write_grad

* CLN: factor out write_grad loop

Setting default openmp settings for MKL kernels (#19136)

* Change inter op defaults when built with MKL to avoid thread oversubscription

* Bump up default mkl inter_op to be less conservative

* Added default OMP settings that are expected to give reasonable performance when using MKL kernels

* Query CPUID for determining number of hyperthreads per physical core on Intel 64 architectures

* Style fixes

* Buildifier and clang-format style fixes

* Removed use of setenv due to concerns about thread safety

Merge pull request #19386 from smistad/fix-cmake

CMake: fix include error when building with PYTHON_BINDINGS off

Merge pull request #19446 from sarahedkins/fix/python-feeding-function-error

fix(python): ValueError len(dataframe.columns) + 1

Merge pull request #17025 from kr-ish/numpy_input_fn_none_check

Adds a check for shuffle=None in numpy_input_fn

Merge pull request #19445 from yongtang/05122018-link

Fix incorrect link for nvidia drivers

Merge pull request #19462 from yongtang/05212018-docs-math_ops

Fix discrepancies between doc and implementation for math_ops

Fix typo (#19450)

fix(python): ValueError len(dataframe.columns) + 1

Update docstring for tf.round as it support all real types.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Update docstring as pow supports `float16` now

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Fix discrepancies between doc and implementation for math_ops

In the docstring of math_ops, there are some discrepancies
between the supported data types and the actual implementation:
`abs` supports `float16`.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Merge pull request #19254 from yongtang/05122018-compute_accidental_hits

Add additional shape validation to `compute_accidental_hits`

Merge pull request #19257 from yongtang/05122018-QuantizedReluX

Shape validation of `max_features` in `QuantizedReluX`

Merge pull request #19326 from yongtang/05162018-mpi_utils.h

Remove redundant header includes in mpi_utils.h

address lint again

address lint

address comments

add test case always predict [0, 1]

add inference support for tree and forest variables

Merge pull request #19258 from Androbin/patch-2

Update TFLite Docs on tf.gather

Merge pull request #19394 from miaout17/fix-demop

Fix the TFLite iOS demo apps.

Merge pull request #19396 from yongtang/19338-clip

Add test case for empty tensor with clip ops

Merge pull request #19432 from soonson/patch-1

Update groups.md

DOC: Fix python code in for invalid code (#19218)

There is an error in python code in the documentation. There is no class called `tf.estimator.Estimator.LinearClassifier` I think it was a typo and the author meant `tf.estimator.LinearClassifier`.

Update groups.md

Add more user groups collected

Merge pull request #19357 from yongtang/03122018-_any_variable_initialized

Fix the naming of _any_variable_initialized

Merge pull request #19273 from ageron/fix_estimator_doc

Fix errors and typos in the Estimators programmer's guide

StreamingFilesDataset fixes (#19413)

* use source_dataset.output_dtypes to yield correctly typed output dataset

* add test and fix issue introduced by 2a6c5998a239f41926ca295ac20bb595862fd5ff

Fix typo (#19411)

Merge pull request #18685 from nuchi/fft_no_core_framework_and_single_thread

XLA CPU Fft no core framework and single thread

comment typo (#19381)

Merge pull request #19409 from zheng-xq/branch_197218170

Branch 197218170

Merge pull request #19408 from annarev/add_more_missing_deps

Add missing dependencies to test_lite_main

Merge commit for internal changes

Merge pull request #19338 from girving/clip

Make tf.clip_by_value not crash on empty tensors

Automated g4 rollback of changelist 197070234

PiperOrigin-RevId: 197218170

Improve import error messages.

PiperOrigin-RevId: 197217638

Add missing dependencies to test_lite_main

Skip tests that require unavailable hardware when not using DistributionStrategy

Right now combinations.py skips tests that do not have the hardware that's
requried by the DistributionStrategy instance that is used in that test.  After
this change, the user can trigger such a behavior even when they are not using
DistributionStrategy.

Two new special arguments are added: "required_tpu" and "required_gpus".

PiperOrigin-RevId: 197212466

Merge pull request #19404 from yifeif/distributed

Make distributed_test use tf-nightly by default.

Correct dtype in resource_strided_slice_assign

PiperOrigin-RevId: 197210273

Remove unused BUILD dependencies

PiperOrigin-RevId: 197207799

Fixed an issue when add context into params.

PiperOrigin-RevId: 197205327

Make distributed_test use tf-nightly by default.

Adding back abi and stacktrace dependencies to stacktrace_handler (#19401)

Revert a change to fix TFLite iOS demo app.
It depends on released CocoaPod.

PiperOrigin-RevId: 197189734

The quantizer should match the patterns for partition variables.

PiperOrigin-RevId: 197189118

[dataset]: Remove extra `repeat` in the docstring for `shard`.

PiperOrigin-RevId: 197185877

[TF:XLA] Delete the reverseDFS scheduler. With recent improvements to the List scheduler, reverseDFS is no longer needed.

PiperOrigin-RevId: 197183727

Expose read-only versions of input tensors in tflite.

PiperOrigin-RevId: 197183345

Enable `SeedStream` construction from other `SeedStream` instances.

PiperOrigin-RevId: 197182686

Add eager tests for automatic tensor flattening

PiperOrigin-RevId: 197182339

Add an in-memory evaluator for Estimator. It will run evaluation without a checkpoint. This will let user get evaluation metrics on more steps without saving.

  Example:

  ```python
  def train_input_fn():
    ...
    return train_dataset

  def eval_input_fn():
    ...
    return eval_dataset

  estimator = tf.estimator.DNNClassifier(...)

  evaluator = tf.contrib.estimator.InMemoryEvaluatorHook(
      estimator, eval_input_fn)
  estimator.train(train_input_fn, hooks=[evaluator])
  ```

PiperOrigin-RevId: 197181726

When converting an unsupported op in TOCO, we can possibly infer the output type from an attribute named Tout (this works, e.g., for RandomUniformInt).

PiperOrigin-RevId: 197181552

[TF:XLA] Bump open source llvm revision to r332697

PiperOrigin-RevId: 197179581

boosted_trees: allow labels to have rank 1 as other estimators.

PiperOrigin-RevId: 197178169

Fix the TFLite iOS demo apps.

This partially reverted 2bf2308872a6dfa8d6d0809acf0098f666e00fe8.
The demo apps in `lite/examples` depends on CocoaPod, not the Github
head code.

[TF:XLA] Remove underscore prefix from XlaLaunch operator.
Minor fixes to comments.

PiperOrigin-RevId: 197177582

Validate the file signatures before issusing a content read in GCS. Remove the
checkpoint hack. Enable the stat cache by default, as the block cache has
already been enabled by default. Set the default stat cache max_age to 5s,
which is the same in the Cloud TPU server.

PiperOrigin-RevId: 197175258

Update test case to cover all scenarios

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Add additional test case

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Add test case for empty tensor with clip ops.

This fix is based on 19337 and 19338. The issue was that
previously an empty tensor for tf.clip_by_value on GPU
triggers a crash. The issue should have been fixed by 19338 and
the recent master. It makes sense to adds the test case for this issue.

This fix adds the test case.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Automated g4 rollback of changelist 197118212

PiperOrigin-RevId: 197167501

Op version: Populate version in Toco TFLite exporter

PiperOrigin-RevId: 197166962

[TF:XLA] Allow the HloEvaluator to be changed for the HLO interpreter.

PiperOrigin-RevId: 197164443

[tf.data] Changed internal implementation of `make_csv_dataset`, and removed arguments `default_float_type` and `comment` from `make_csv_dataset`

PiperOrigin-RevId: 197164167

Improve TFLite generated example test speed.

PiperOrigin-RevId: 197162686

Update the docstring on function.Defun to reflect current graph/session freezing behavior.

PiperOrigin-RevId: 197150790

Restructure BUILD rules to be modularly correct

PiperOrigin-RevId: 197145545

Mark link-time dependency library as alwayslink=1.

PiperOrigin-RevId: 197145205

Merge pull request #18240 from Intel-tensorflow/ashraf/direct_session_bugfix

INTEL MKL:  Fixing a unit test failure, for direct session memory allocation

Modify PadInsertion pass so that it matches other passes.

Currently, PadInsertion only iterates over the instructions in the
entry_computation. Other passes iterate over MakeNonfusionComputations.
When we run on HloSnapshots derived from TPU benchmarks, this makes a
difference, because it seems none of the convolutions are inside the entry
computation.

PiperOrigin-RevId: 197145067

fix include error when building with PYTHON_BINDINGS off

Dropping support for CUDA < 8.

PiperOrigin-RevId: 197137612

Extracts the following optimizations into methods:

SimplifyArithmeticOperations
ReduceDivToReciprocalMul

PiperOrigin-RevId: 197137281

Update downloadable clang to a new revision

PiperOrigin-RevId: 197121447

Dropping support for cuDNN < 6.
Enable CUDNN_FFT_TILING_FORWARD for cuDNN >= 7.

PiperOrigin-RevId: 197118212

Move Keras code out of _impl folder and remove API files.

PiperOrigin-RevId: 197097430

[XLA] Clamp indices in DynamicSlice and DynamicUpdateSlice instead of wrapping.

This implements the following index clamping in all backends (CPU, GPU, Interpreter):

for(int i = 0; i < rank; ++i)
  start_index[i] = clamp(start_index[i], 0, output_dim_size[i] - update_dim_size[i])

Which ensures the slice (or update region) is always inbounds w.r.t the input.

PiperOrigin-RevId: 197082276

Handle HloInstruction::ToString() when literal is missing.

PiperOrigin-RevId: 197079144

markdown fixes

PiperOrigin-RevId: 197077588

Do not force default layout when there is no need to.
Allow the inner computations to negotiate a root and parameter layouts different from default.
END_PUBLIC

RELNOTES: n/a

---------------------
BEGIN_PUBLIC
Automated g4 rollback of changelist 194293187

PiperOrigin-RevId: 197076025

Merge pull request #19355 from tensorflow/mrry-patch-2

Include <algorithm> in .pb_text.cc generated files

  Add NCHW_VECT_W tensor format.

PiperOrigin-RevId: 197074411

Enable optimizations submitted during pre-NIPS freeze:
  * Snapshot to Identity promotion.
  * Removal of transposes pairs separated by chain.

PiperOrigin-RevId: 197073602

boosted_trees: fixed the crash when eval/prediction is attempted with the initial checkpoints (at step 0) before training.

PiperOrigin-RevId: 197073582

Misc changes found when debugging an unrelated problem.

- (pywrap_tfe.i) Improve error message for better debugging TFE_Py_Execute failures.
- (pywrap_tfe_src.cc) Accept _value of None
- (base.i) Remove unnecessary temporary

PiperOrigin-RevId: 197073571

Make V1 metrics distributed-aware. Also fix a bug where assertAllClose
was sometimes ignoring its `msg` parameter.

PiperOrigin-RevId: 197070234

[XLA] Redesign: delete xla::Computation.

PiperOrigin-RevId: 197069851

Don't add branch prediction hints when compiling under nvcc.

As seen in #19203, the `__builtin_expect` compiler builtin isn't recognized as
a builtin in nvcc8, leading to compilation failures of the form

    ./tensorflow/core/kernels/gather_functor_gpu.cu.h(57): error: calling a __host__ function("__builtin_
expect") from a __global__ function("tensorflow::GatherOpKernel< ::Eigen::half, int, (bool)1> ") is n
ot allowed

when attempting to build TensorFlow.

This change fixes things by adding an additional check for `__NVCC__`, and
avoiding any branch prediction hints in that case.

PiperOrigin-RevId: 197067418

fixing some incorrect documentation in test cases.

PiperOrigin-RevId: 197064874

Introduce an "indexed array" analysis

Context: we want to optimize computations hanging off of a embedding lookup from
a constant array.  For instance, consider:

  embedding = gather from a constant array using non-constant indices
  embedding_reshaped = reshape embedding
  embedding_reshaped_transposed = transpose embedding_reshaped
  result = dot(embedding_reshaped_transposed, constant)

In the graph above, depending on how the details work out, we may be able to
fold `result` into a gather from a precomputed constant array.  However, it is
inconvenient to get there by incremental rewrites -- it is probably not
profitable to rewrite embedding_reshaped or embedding_reshaped_transposed [0] as
embedding lookups but we get to "see" that the dot can be rewritten only after
rewriting the reshape and the transpose.

This analysis aims to make the optimization above more straightforward by
allowing a transformation pass (that uses this analysis) to query the analysis
to see if if `result` _can_ be represented as an embedding lookup.  If yes it
can then apply some profitability heuristics to decide if it is worth it to
rewrite it as one.  This suggested workflow gives us separation of concerns (the
legality of the rewrite is computed separately from its profitability) and, more
importantly, lets us "look ahead" and analyze the dot without rewriting its
operands.

The implementation is far from complete (most of the interesting bits are TODO)
but I wanted to get an early design review before I spent too much time on this.

[0] Under the assumption that transposing or reshaping are not expensive enough
to pay the price of keeping around a new potentially large constant (in
particular, some of these may have been equivalent to free bitcasts).

PiperOrigin-RevId: 197064648