add InputLayer for Net input

Create an input layer to replace oddball Net `input` fields.

Merge pull request #3612 from kashefy/tied_weights_ip_transpose

Tied weights with transpose flag for InnerProduct layer

Merge pull request #3715 from olesalscheider/master

CMake: Do not include "${PROJECT_BINARY_DIR}/include" with SYSTEM option

Merge pull request #3703 from shaibagon/pycaffe_nd_blobs

[pycaffe] make pycaffe support N-D blobs throughout

Merge pull request #3719 from shelhamer/new-tutorial-notebooks

[example] Improve Tutorial Notebooks on Classification, Learning LeNet, and Fine-tuning

CMake: Do not include "${PROJECT_BINARY_DIR}/include" with SYSTEM option

This is important for the include order. Without this patch, a
previously installed caffe.pb.h might be included instead of the one
that is generated during the build.

[example] improve brewing logreg notebook

- create solvers inline through python protobuf
- drop manually written solver prototxt
- remove ordering prefix, since there is no real sequencing constraint
  for this example

[example] improve fine-tuning notebook

- add headings and text detail
- make nets by net spec
- define solvers inline through python protobuf
- do two-stage fine-tuning (first last layer alone, then end-to-end)
- show sample results

[example] improve learning LeNet notebook

- add subheadings and list steps for structure
- edit text and comments for clarity
- switch paths and use chdir for idempotency of scripts [shelhamer]
- title accuracy plots, rename ip -> fc to fit common naming, and
  rename output layer -> score [shelhamer]
- add experimentation section [shelhamer]

[data] get_mnist.sh rewrite; prevents prompt in tutorial notebooks

[example] improve classification notebook

- add subheadings and list steps
- edit text, add comments, and try to make the code more understandable
- add new section for summary and encouragement to try your own image

removing all references to Blob.num property (that assumes Blob is 4D). Replacing it with accessing Blob.shape[0] - for Blobs with num_axes() != 4

Merge pull request #3696 from shelhamer/fix-osx-install-name

fix library install name on OS X for @rpath linking

Merge pull request #3695 from shelhamer/fix-osx-elcap-cuda-link

Fix OS X El Capitan linking for CUDA

Fix OSX El Capitan CUDA incompatibility, by adding lib to rpath

fix library install name on OSX for relative path linking

for linking of the caffe tools, tests, etc. the library install name
needs to include the @rpath set for the executables and interfaces

this was broken on OSX by #3311

tranpose parameter added to IP layer to support tied weights in an autoencoder. Arguments to matrix multiplication function are conditioned on this parameter, no actual transposing takes place.

test ip gradient computation with transpose on

Merge pull request #3676 from flx42/leveldb_include_fix

Remove useless LevelDB include

Merge pull request #3687 from pra85/patch-2

Fix a typo in docs

Fix a typo in docs

`peformance` → `performance`

Remove useless LevelDB include

The tests could not compile with USE_LEVELDB=0 and LevelDB missing from the system

Merge pull request #3451 from intelcaffe/cmake-clang-fix

Fix to cmake build for clang on linux

Merge pull request #3650 from intbots/cmake-matlab-fix

bugfix for incorrect behaviour in `caffe_parse_linker_libs`

bugfix for incorrect behaviour in caffe_parse_linker_libs function while extracting libflags from absolute library path with multiple (dots)

Merge pull request #3624 from drnikolaev/bvlc-print-gpu-names

Nicely prints gpu names

Nicely prints GPU names

Merge pull request #3587 from junshi15/distribute_proto

Include proto definition in distribute dir

Merge pull request #3545 from gdh1995/relative-path-for-soft-links

use relative paths on making build/tools/ links

use relative paths on making build/tools/ links

The old uses `abspath`, which I think is so harmful:
* If I `cp -a` the whole project, `build/tools/caffe` still refer to
    the old file, until `make clean`, making debugging very hard
* For `tar` and `scp`, the soft links can not work
    unless the target project folder has the same path

Merge pull request #2917 from ajkl/patch-2

fixing the database param

Merge pull request #3022 from jeffdonahue/expose-param-display-names

Net: expose param_display_names_

Merge pull request #3605 from jeffdonahue/bias-gemm-type-fix

Remove incorrect cast of gemm int arg to Dtype in BiasLayer

Remove incorrect cast of gemm int arg to Dtype in BiasLayer

Merge pull request #3591 from jeffdonahue/scale-bias-layer

Scale and Bias Layers

Merge pull request #2651 from keir/master

Make the two separate build systems clearer in the documentation

Merge pull request #3602 from jeffdonahue/rm-cuda-props

Remove unnecessary CAFFE_TEST_CUDA_PROP declarations

Merge pull request #2144 from tishibas/load_image-improved

improved to load RGB image as grayscale image

Merge pull request #2810 from madan-ram/patch-2

Update mnist readme.md: scale moved to transform_param

Merge pull request #3297 from sjbrown/patch-1

Add a -c to wget so that it continues interrupted downloads

Merge pull request #3132 from bwilbertz/LastIterationLoss

Fix loss of last iteration when average_loss > 1

Remove unnecessary CAFFE_TEST_CUDA_PROP declarations

Merge pull request #3393 from kkhoot/fix-reshape

Prevent in-place computation in ReshapeLayer and FlattenLayer

Merge pull request #3496 from jeffdonahue/fix-testdatatransformer-leaks

TestDataTransformer: fix some memory leaks

Merge pull request #3581 from Austriker/draw-python3

Updated draw.py to make it work under Python 3

Updated import to make it work with pydotplus

Merge pull request #3593 from ronghanghu/matcaffe-versioning

show Caffe's version from MatCaffe

show Caffe's version from MatCaffe

Separation and generalization of ChannelwiseAffineLayer into BiasLayer
and ScaleLayer.  The behavior of ChannelwiseAffineLayer can be
reproduced by a ScaleLayer with `scale_param { bias_term: true }`.

BiasLayer and ScaleLayer each take 1 or 2 bottoms, with the output having
the same shape as the first.  The second input -- either another  bottom or a
learned parameter -- will have its axes (virtually) broadcast and tiled to have
the same shape as the first, after which elementwise addition (Bias) or
multiplication (Scale) is performed.

Merge pull request #3311 from lukeyeager/bvlc/versioning

Add versioning to build and mark version 1.0.0-rc3

Merge pull request #3584 from graphaelli/python3-config

Add makefile config option for linking Python 3 libraries

Version 1.0.0-rc3

Add ChannelwiseAffine for batch norm

copy proto to distribute directory

Merge pull request #3388 from mohomran/exponential_linear_units

Exponential Linear Units

Add makefile config option for linking Python 3 libraries

Merge pull request #3536 from intelcaffe/im2col-speedup

Performance related update of im2col() and col2im() functions

Merge pull request #3574 from tahtguymike/maxpool_bug

  Substitute Caffe engine for cuDNN max pooling
  as workaround for in-place after max pooling issue

Workaround for inplace max pooling issue

Performance related update of im2col() and col2im() functions

Merge pull request #3525 from philkr/cmake_python3

CMake python version fix

Merge pull request #2865 from philkr/top_bottom_names

Exposing layer top and bottom names to python

CMake python version fix

Merge pull request #3519 from philkr/faster_solver

Speeding up ADAM (and maybe other solvers too)

Speeding up the GPU solvers

Exposing layer top and bottom names to python

TestDataTransformer: fix some memory leaks caused by use of 'new'

Merge pull request #3490 from fyu/spaceplus

remove extra space before +

remove extra space before +

Merge pull request #3487 from longjon/dilation

An early implementation of this functionality for Caffe was written by @gpapan, which was extended and improved by @tamakoji in a previous implementation of this branch.

enable dilated deconvolution

Since the underlying routines are shared, we need only upgrade
compute_output_shape.

add short description of dilation to caffe.proto

disable dilated deconvolution

add and improve tests for dilated convolution/im2col

add support for N-D dilated convolution

add support for 2D dilated convolution

Merge pull request #3468 from mnogu/blobs_lr-to-lr_mult

Replace blobs_lr with lr_mult in readme.md.

Replace blobs_lr with lr_mult in readme.md.

models/finetune_flickr_style/deploy.prototxt uses lr_mult now.

- Fix to cmake build for clang

Merge pull request #3439 from flx42/cudnn_v4

Add ifdef in CuDNNConvolutionLayer for cuDNN v4

Fix CuDNNConvolutionLayer for cuDNN v4

Add a macro to check the current cuDNN version

Merge pull request #3432 from ianfhunter/patch-1

[docs] fix typo in interfaces.md

Update interfaces.md

typo

Merge pull request #3090 from longjon/summarize-tool

A Python script for at-a-glance net summary

Merge pull request #3395 from BonsaiAI/extract_features-compatibility

Fix compatibility issues with extract_features

ELU layer with basic tests

Correct type of device_id; disambiguate shared_ptr

Merge pull request #3404 from BonsaiAI/remove-hamming-dist

Remove hamming_distance and popcount

Remove hamming_distance and popcount

Merge pull request #3313 from gdh1995/master

don't divide by 0 duration when downloading model binary

Merge pull request #3267 from cbalint13/cmake-cudnn

[build] Display and store cuDNN version numbers for CMake

Merge pull request #3285 from longjon/cuda-dead-cpp

Remove dead preprocessor code for number of CUDA threads

Merge pull request #3315 from shelhamer/layer-headers

Dismantle Layer Headers

dismantle layer headers

No more monolithic includes: split layers into their own headers for modular inclusion and build.

Merge pull request #3378 from BonsaiAI/fix-temp-dir-creation-failure

Safely create temporary files and directories

Secure temporary file creation

Secure implementation of MakeTempDir

Merge pull request #3320 from BonsaiAI/disambiguate-dtype

Cast std::max args to Dtype