Quantized RNNCell modules (#15469)
authorJames Reed <jamesreed@fb.com>
Tue, 15 Jan 2019 18:07:18 +0000 (10:07 -0800)
committerFacebook Github Bot <facebook-github-bot@users.noreply.github.com>
Tue, 15 Jan 2019 18:40:51 +0000 (10:40 -0800)
commit7f1397acefe5df83d6095a7f690ebf799fc78b0d
treeb15cde3762355da6c50177ce975878bf7bdcab9f
parent19717224c5be1251ef1a00e408e8d151236244f2
Quantized RNNCell modules (#15469)

Summary:
Similarly to https://github.com/pytorch/pytorch/pull/13777, we apply post-processing quantization to RNN cell modules (`RNNCell`, `LSTMCell`, and `GRUCell`).

A further follow-up PR will involve quantizing the full `RNN`, `GRU`, and `LSTM` modules. This depends on those modules being scriptable as part of the standard library scripting effort, though. Note that infrastructure in this pr such as `gather_quantized_params` is currently unused but should be used in the future when we can port over the full RNN modules.
Pull Request resolved: https://github.com/pytorch/pytorch/pull/15469

Differential Revision: D13545802

Pulled By: jamesr66a

fbshipit-source-id: ad3b694517842893ea619438e9f5e88fd7b96510
aten/src/ATen/native/RNN.cpp
aten/src/ATen/native/native_functions.yaml
test/test_jit.py
torch/jit/quantized.py