Merge branch 'master' into fix_typo

Merge pull request #19254 from yongtang/05122018-compute_accidental_hits

Add additional shape validation to `compute_accidental_hits`

Merge pull request #19257 from yongtang/05122018-QuantizedReluX

Shape validation of `max_features` in `QuantizedReluX`

Merge pull request #19326 from yongtang/05162018-mpi_utils.h

Remove redundant header includes in mpi_utils.h

Merge pull request #19258 from Androbin/patch-2

Update TFLite Docs on tf.gather

Merge pull request #19394 from miaout17/fix-demop

Fix the TFLite iOS demo apps.

Merge pull request #19396 from yongtang/19338-clip

Add test case for empty tensor with clip ops

Merge pull request #19432 from soonson/patch-1

Update groups.md

DOC: Fix python code in for invalid code (#19218)

There is an error in python code in the documentation. There is no class called `tf.estimator.Estimator.LinearClassifier` I think it was a typo and the author meant `tf.estimator.LinearClassifier`.

Update groups.md

Add more user groups collected

Merge pull request #19357 from yongtang/03122018-_any_variable_initialized

Fix the naming of _any_variable_initialized

Merge pull request #19273 from ageron/fix_estimator_doc

Fix errors and typos in the Estimators programmer's guide

StreamingFilesDataset fixes (#19413)

* use source_dataset.output_dtypes to yield correctly typed output dataset

* add test and fix issue introduced by 2a6c5998a239f41926ca295ac20bb595862fd5ff

Fix typo (#19411)

Merge pull request #18685 from nuchi/fft_no_core_framework_and_single_thread

XLA CPU Fft no core framework and single thread

Merge branch 'fix_typo' of https://github.com/ManHyuk/tensorflow into fix_typo

fix typo

fix typo

comment typo (#19381)

Merge pull request #19409 from zheng-xq/branch_197218170

Branch 197218170

Merge pull request #19408 from annarev/add_more_missing_deps

Add missing dependencies to test_lite_main

Merge commit for internal changes

Merge pull request #19338 from girving/clip

Make tf.clip_by_value not crash on empty tensors

Automated g4 rollback of changelist 197070234

PiperOrigin-RevId: 197218170

Improve import error messages.

PiperOrigin-RevId: 197217638

Add missing dependencies to test_lite_main

Skip tests that require unavailable hardware when not using DistributionStrategy

Right now combinations.py skips tests that do not have the hardware that's
requried by the DistributionStrategy instance that is used in that test.  After
this change, the user can trigger such a behavior even when they are not using
DistributionStrategy.

Two new special arguments are added: "required_tpu" and "required_gpus".

PiperOrigin-RevId: 197212466

Merge pull request #19404 from yifeif/distributed

Make distributed_test use tf-nightly by default.

Correct dtype in resource_strided_slice_assign

PiperOrigin-RevId: 197210273

Remove unused BUILD dependencies

PiperOrigin-RevId: 197207799

Fixed an issue when add context into params.

PiperOrigin-RevId: 197205327

Make distributed_test use tf-nightly by default.

Adding back abi and stacktrace dependencies to stacktrace_handler (#19401)

Revert a change to fix TFLite iOS demo app.
It depends on released CocoaPod.

PiperOrigin-RevId: 197189734

The quantizer should match the patterns for partition variables.

PiperOrigin-RevId: 197189118

[dataset]: Remove extra `repeat` in the docstring for `shard`.

PiperOrigin-RevId: 197185877

[TF:XLA] Delete the reverseDFS scheduler. With recent improvements to the List scheduler, reverseDFS is no longer needed.

PiperOrigin-RevId: 197183727

Expose read-only versions of input tensors in tflite.

PiperOrigin-RevId: 197183345

Enable `SeedStream` construction from other `SeedStream` instances.

PiperOrigin-RevId: 197182686

Add eager tests for automatic tensor flattening

PiperOrigin-RevId: 197182339

Add an in-memory evaluator for Estimator. It will run evaluation without a checkpoint. This will let user get evaluation metrics on more steps without saving.

  Example:

  ```python
  def train_input_fn():
    ...
    return train_dataset

  def eval_input_fn():
    ...
    return eval_dataset

  estimator = tf.estimator.DNNClassifier(...)

  evaluator = tf.contrib.estimator.InMemoryEvaluatorHook(
      estimator, eval_input_fn)
  estimator.train(train_input_fn, hooks=[evaluator])
  ```

PiperOrigin-RevId: 197181726

When converting an unsupported op in TOCO, we can possibly infer the output type from an attribute named Tout (this works, e.g., for RandomUniformInt).

PiperOrigin-RevId: 197181552

[TF:XLA] Bump open source llvm revision to r332697

PiperOrigin-RevId: 197179581

boosted_trees: allow labels to have rank 1 as other estimators.

PiperOrigin-RevId: 197178169

Fix the TFLite iOS demo apps.

This partially reverted 2bf2308872a6dfa8d6d0809acf0098f666e00fe8.
The demo apps in `lite/examples` depends on CocoaPod, not the Github
head code.

[TF:XLA] Remove underscore prefix from XlaLaunch operator.
Minor fixes to comments.

PiperOrigin-RevId: 197177582

Validate the file signatures before issusing a content read in GCS. Remove the
checkpoint hack. Enable the stat cache by default, as the block cache has
already been enabled by default. Set the default stat cache max_age to 5s,
which is the same in the Cloud TPU server.

PiperOrigin-RevId: 197175258

Update test case to cover all scenarios

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Add additional test case

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Add test case for empty tensor with clip ops.

This fix is based on 19337 and 19338. The issue was that
previously an empty tensor for tf.clip_by_value on GPU
triggers a crash. The issue should have been fixed by 19338 and
the recent master. It makes sense to adds the test case for this issue.

This fix adds the test case.

Signed-off-by: Yong Tang <yong.tang.github@outlook.com>

Automated g4 rollback of changelist 197118212

PiperOrigin-RevId: 197167501

Op version: Populate version in Toco TFLite exporter

PiperOrigin-RevId: 197166962

[TF:XLA] Allow the HloEvaluator to be changed for the HLO interpreter.

PiperOrigin-RevId: 197164443

[tf.data] Changed internal implementation of `make_csv_dataset`, and removed arguments `default_float_type` and `comment` from `make_csv_dataset`

PiperOrigin-RevId: 197164167

Improve TFLite generated example test speed.

PiperOrigin-RevId: 197162686

Update the docstring on function.Defun to reflect current graph/session freezing behavior.

PiperOrigin-RevId: 197150790

Restructure BUILD rules to be modularly correct

PiperOrigin-RevId: 197145545

Mark link-time dependency library as alwayslink=1.

PiperOrigin-RevId: 197145205

Merge pull request #18240 from Intel-tensorflow/ashraf/direct_session_bugfix

INTEL MKL:  Fixing a unit test failure, for direct session memory allocation

Modify PadInsertion pass so that it matches other passes.

Currently, PadInsertion only iterates over the instructions in the
entry_computation. Other passes iterate over MakeNonfusionComputations.
When we run on HloSnapshots derived from TPU benchmarks, this makes a
difference, because it seems none of the convolutions are inside the entry
computation.

PiperOrigin-RevId: 197145067

Dropping support for CUDA < 8.

PiperOrigin-RevId: 197137612

Extracts the following optimizations into methods:

SimplifyArithmeticOperations
ReduceDivToReciprocalMul

PiperOrigin-RevId: 197137281

Update downloadable clang to a new revision

PiperOrigin-RevId: 197121447

Dropping support for cuDNN < 6.
Enable CUDNN_FFT_TILING_FORWARD for cuDNN >= 7.

PiperOrigin-RevId: 197118212

Move Keras code out of _impl folder and remove API files.

PiperOrigin-RevId: 197097430

[XLA] Clamp indices in DynamicSlice and DynamicUpdateSlice instead of wrapping.

This implements the following index clamping in all backends (CPU, GPU, Interpreter):

for(int i = 0; i < rank; ++i)
  start_index[i] = clamp(start_index[i], 0, output_dim_size[i] - update_dim_size[i])

Which ensures the slice (or update region) is always inbounds w.r.t the input.

PiperOrigin-RevId: 197082276

Handle HloInstruction::ToString() when literal is missing.

PiperOrigin-RevId: 197079144

markdown fixes

PiperOrigin-RevId: 197077588

Do not force default layout when there is no need to.
Allow the inner computations to negotiate a root and parameter layouts different from default.
END_PUBLIC

RELNOTES: n/a

---------------------
BEGIN_PUBLIC
Automated g4 rollback of changelist 194293187

PiperOrigin-RevId: 197076025

Merge pull request #19355 from tensorflow/mrry-patch-2

Include <algorithm> in .pb_text.cc generated files

  Add NCHW_VECT_W tensor format.

PiperOrigin-RevId: 197074411

Enable optimizations submitted during pre-NIPS freeze:
  * Snapshot to Identity promotion.
  * Removal of transposes pairs separated by chain.

PiperOrigin-RevId: 197073602

boosted_trees: fixed the crash when eval/prediction is attempted with the initial checkpoints (at step 0) before training.

PiperOrigin-RevId: 197073582

Misc changes found when debugging an unrelated problem.

- (pywrap_tfe.i) Improve error message for better debugging TFE_Py_Execute failures.
- (pywrap_tfe_src.cc) Accept _value of None
- (base.i) Remove unnecessary temporary

PiperOrigin-RevId: 197073571

Make V1 metrics distributed-aware. Also fix a bug where assertAllClose
was sometimes ignoring its `msg` parameter.

PiperOrigin-RevId: 197070234

[XLA] Redesign: delete xla::Computation.

PiperOrigin-RevId: 197069851

Don't add branch prediction hints when compiling under nvcc.

As seen in #19203, the `__builtin_expect` compiler builtin isn't recognized as
a builtin in nvcc8, leading to compilation failures of the form

    ./tensorflow/core/kernels/gather_functor_gpu.cu.h(57): error: calling a __host__ function("__builtin_
expect") from a __global__ function("tensorflow::GatherOpKernel< ::Eigen::half, int, (bool)1> ") is n
ot allowed

when attempting to build TensorFlow.

This change fixes things by adding an additional check for `__NVCC__`, and
avoiding any branch prediction hints in that case.

PiperOrigin-RevId: 197067418

fixing some incorrect documentation in test cases.

PiperOrigin-RevId: 197064874

Introduce an "indexed array" analysis

Context: we want to optimize computations hanging off of a embedding lookup from
a constant array.  For instance, consider:

  embedding = gather from a constant array using non-constant indices
  embedding_reshaped = reshape embedding
  embedding_reshaped_transposed = transpose embedding_reshaped
  result = dot(embedding_reshaped_transposed, constant)

In the graph above, depending on how the details work out, we may be able to
fold `result` into a gather from a precomputed constant array.  However, it is
inconvenient to get there by incremental rewrites -- it is probably not
profitable to rewrite embedding_reshaped or embedding_reshaped_transposed [0] as
embedding lookups but we get to "see" that the dot can be rewritten only after
rewriting the reshape and the transpose.

This analysis aims to make the optimization above more straightforward by
allowing a transformation pass (that uses this analysis) to query the analysis
to see if if `result` _can_ be represented as an embedding lookup.  If yes it
can then apply some profitability heuristics to decide if it is worth it to
rewrite it as one.  This suggested workflow gives us separation of concerns (the
legality of the rewrite is computed separately from its profitability) and, more
importantly, lets us "look ahead" and analyze the dot without rewriting its
operands.

The implementation is far from complete (most of the interesting bits are TODO)
but I wanted to get an early design review before I spent too much time on this.

[0] Under the assumption that transposing or reshaping are not expensive enough
to pay the price of keeping around a new potentially large constant (in
particular, some of these may have been equivalent to free bitcasts).

PiperOrigin-RevId: 197064648

  Add more test cases in function_test

PiperOrigin-RevId: 197064629

Delete unused proto schema "graph_explorer.proto".

PiperOrigin-RevId: 197062616

Support combinations stored in a global variable in combinations.py-based tests.

The user's input is modified to give the test a better name.  If the user stores combinations in a variable and applies those combinations to more than one test, then the test case name will be a concatenation of of the names of the previous test cases.

PiperOrigin-RevId: 197061902

[XLA] Use Expm1 in Elu/Selu

exp(x) - 1 is best executed using the composed Expm1 operation as it is better
behaved when exp(x) is near 1.

PiperOrigin-RevId: 197061826

Move runtime.{h,cc,_test.cc} into core/common_runtime/eager as attr_builder

I'm not familiar with how the CMake build is set up but from the description
of the problem the dependency graph is coarser than Bazel's, so I think this
should fix #18925.

PiperOrigin-RevId: 197061764

Clean up CFG test suite

PiperOrigin-RevId: 197059149

Merge pull request #19294 from yongtang/03122018-MapAndBatchDataset

Add shape validation in shape function of MapAndBatchDataset

[XLA] Remove eq_shapes from Identical SlowPath since it is already checked in
Identical.

PiperOrigin-RevId: 197058888

Support Bool in Cast (TFLite)

PiperOrigin-RevId: 197056978

Added CSV parsing to the tf.data programmers guide
Relevant to #278.

PiperOrigin-RevId: 197053723

Basic usability fixes for RNNCell wrappers

They weren't calling their parent constructors (for the Keras base Layer), so a bunch of their methods threw odd errors. There may still be issues, but hopefully not so blatent.

Fixes #19208. For real this time.

PiperOrigin-RevId: 197052962

Fix L2Normalization.

PiperOrigin-RevId: 197052728

[TF:STREAM_EXECUTOR] move declaration of multi_platform_manager to header

PiperOrigin-RevId: 197051272

Automated g4 rollback of changelist 197026249

PiperOrigin-RevId: 197049255

[TF:XLA] Do not rely on implementation-defined semantics of DynamicSlice.

ReverseSequence relies on DynamicSlice wrapping around, which is implementation-defined behavior, and is not guaranteed. Pad the input instead.

PiperOrigin-RevId: 197043307

Allows users to specify allow_custom_ops when calling tf.contrib.lite.toco_convert().

PiperOrigin-RevId: 197039477

Remove -DGEMMLOWP_ALLOW_SLOW_SCALAR_FALLBACK being added by default to all builds.

PiperOrigin-RevId: 197037867

Support functools.partial as callable object in tf_inspect.getargspec.

PiperOrigin-RevId: 197036874

[XLA] Redesign: delete Client::LoadSnapeshot(SessionModule). This is a precondition to delete xla::Computation.

PiperOrigin-RevId: 197033641

Test some distributions stuff in Eager as well as Graph

PiperOrigin-RevId: 197033485

Internal Change

PiperOrigin-RevId: 197028096