Use EXPECT_NEAR in EltwiseLayer test

Otherwise there seem to be some numerical issues causing BLAS results not exactly same as evaluated results in test code.

Merge pull request #3048 from seanbell/minor-string-fix

Minor: missing space in string formatting

Minor: missing space in string formatting

Merge pull request #3024 from danielgordon10/python-solver-fix

[pycaffe] expose all solvers for direct instantiation (although note get_solver)

enabling the alternate solvers to be accessed by the python interface

Merge pull request #3026 from CDLuminate/patch-1

Fix a typo

Merge pull request #3027 from ronghanghu/fix-accuracy-test

Fix AccuracyLayerTest for per-class accuracy.

Fix AccuracyLayerTest for per-class accuracy.

Fix AccuracyLayerTest for per-class accuracy. Previously in #2935, it crashes since the test accuracy is nan (0/0) when a class never appear.

Update extract_features.cpp

Merge pull request #3023 from jeffdonahue/param-debug-info-fix

fix Net debug_info to report learnable params

Merge pull request #2959 from jeffdonahue/netspec-allow-non-iterable-repeated

NetSpec: don't require lists to specify single-element repeated fields

NetSpec: don't require lists to specify single-element repeated fields

net.cpp fix debug_info params -> learnable_params

Merge pull request #3014 from jeffdonahue/trivial-slice-concat

Allow trivial slice/concat

ConcatLayer: allow trivial operation with single bottom Blob

SliceLayer: allow trivial operation with single top Blob

Merge pull request #2990 from mattdawkins/add-openblas-path

Add extra OpenBLAS include search path

Merge pull request #3010 from darrengarvey/fixup-memory-leak-siamese

Fix memory leak in convert_mnist_siamese_data.

Merge pull request #3012 from lukeyeager/convert-imageset-logging

Show output from convert_imageset tool

Merge pull request #3011 from darrengarvey/fixup-cifar10-example

cifar10: Fix examples by setting snapshot_format.

Merge pull request #3009 from darrengarvey/cleanup-documentation-warnings

Fix up documentation errors.

Show output from convert_imageset tool

Fix up documentation errors.

Fix some doxygen warnings about an undocumented argument in Blob and
incorrect documentation for SoftmaxWithLossLayer::Forward_cpu().

cifar10: Fix examples by setting snapshot_format.

Commit 4227828a set the default binary format from HDF5 to BINARYPROTO to
fix #2885. This broke the cifar10 examples which relied on this default.

This commit specifies the snapshot_format explicitly since the rest of the
example relies on this being HDF5.

Merge pull request #3008 from darrengarvey/cleanup-cmake-variable

Cleanup: Fixup capitalisation of Caffe_POSTFIX.

Fix memory leak in convert_mnist_siamese_data.

This fixes a memory leak by using delete[] rather than plain delete.

Cleanup: Fixup capitalisation of Caffe_POSTFIX.

Replaces CAffe_POSTFIX -> Caffe_POSTFIX.

Merge pull request #3007 from philkr/neg_lr_mult

Compute backward for negative lr_mult

Compute backward for negative lr_mult

Merge pull request #2998 from longjon/data-race

Fix a recently introduced race condition in DataLayer

Merge pull request #2894 from mfigurnov/fix-truncation-warning

Fix truncation of value warning

fix GPU data race

Previously, the prefetch GPU -> top GPU and prefetch CPU -> prefetch GPU
copies were launched concurrently in separate streams, allowing the next
batch to be copied in before the current one is read.

This patch explicitly synchronizes the prefetch -> top copy wrt the
host, preventing the CPU -> GPU from being launched until its
completion.

Merge pull request #2989 from jyegerlehner/embed-layer-compile-warning

Fix EmbedLayer compiler warning for unused variable.

Fix EmbedLayer compiler warning for unused variable.

Add extra openblas search path

Merge pull request #2944 from philkr/python_layer_param

Give the python layer parameter/weight blobs.

Merge pull request #2970 from ronghanghu/spp-fix

Fix SPPLayer top blob num and address `pyramid_height_ == 1`

Fix previous mistake on unimplemented top and address pyramid_height_==1 in SPPLayer

also, do nothing in SPPLayer Reshape if already reshaped once and bottom size unchanged

Merge pull request #2964 from jyegerlehner/mvn-layer-fixes

Fix MVNLayer

Merge pull request #2981 from maaskola/draw-deconvolution

Draw Deconvolution layers like Convolution layers

Draw Deconvolution layers like Convolution layers

MVNLayer fixes.

Fix the MVNLayer tests so they actually test what they claim.

MVNLayer fixes: sum_multiplier_ sized correctly; backward gradient calculation.

Gradient calculation per analysis of seanbell, found here:
https://github.com/BVLC/caffe/issues/1938

Fixes according to review comments.

Merge pull request #2083 from jeffdonahue/tile-layer

TileLayer

TileLayer: add CUDA kernels

Add TileLayer

Merge pull request #2032 from jeffdonahue/embed-layer

Embed layer for lookup table of one hot encodings

Merge pull request #2927 from jeffdonahue/improve-net-init-error-msgs

improve net config and shape mismatch error messages

Merge pull request #2972 from jeffdonahue/concat-backward-fix

[fix] properly backprop through ConcatLayer with propagate_down set

Python parameter test added

Allow the python layer have weight/parameter blobs.

Merge pull request #2963 from longjon/superfluous-toproto

Remove superfluous code in Net::ToProto

bugfix for ConcatLayer with propagate_down set

if propagate_down[i] was set, offset_concat_axis was not correctly
updated for subsequent bottoms i+1, i+2, ...

TestConcatLayer: add gradient check for bottom[1] only (to verify
propagate_down[0] == false correctness)

Merge pull request #2935 from rmanor/accuracies

Output accuracies per class.

Merge pull request #2253 from jyegerlehner/snapshot_on_signal

Snapshot on signal

Output accuracies per class.

Fixed case where number of samples in class can be zero.

- Fixed ignore_label case, also added a test.
- Two other fixes.

Fixed lint errors.

Small fix.

Add signal handler and early exit/snapshot to Solver.

Add signal handler and early exit/snapshot to Solver.

Add signal handler and early exit/snapshot to Solver.

Also check for exit and snapshot when testing.

Skip running test after early exit.

Fix more lint.

Rebase on master.

Finish rebase on master.

Fixups per review comments.

Redress review comments.

Lint.

Correct error message wording.

remove superfluous code in Net::ToProto

Merge pull request #2949 from jeffdonahue/deconv-gpu-backward-no-repeat-im2col

DeconvolutionLayer Backward_gpu fix: don't redo im2col

Merge pull request #2950 from lukeyeager/use-input_shape

Use input_shape instead of input_dim in examples

Use input_shape instead of input_dim in examples

Merge pull request #2947 from BlGene/bdl_fixup

BasePrefetchingDataLayer fixup.

DeconvolutionLayer Backward_gpu fix: don't redo im2col

Merge pull request #2930 from lukeyeager/pycaffe-layer_type_list

Expose LayerFactory::LayerTypeList in pycaffe

Expose LayerFactory::LayerTypeList in pycaffe

Useful for validating NetParameters without crashing on SIGABRT

In BasePrefetchingDataLayer::Forward_cpu hanged top[0]->Reshape to
top[0]->ReshapeLike, in line with other calls.

Merge pull request #2812 from philkr/python_loss_weight

Expose blob loss weight to python

Malloc at least 1 byte for MultiGPU P2PSync buffers

Merge pull request #2931 from ronghanghu/fix-gpu-test

Fix MultiGPU solver test crash

Fix MultiGPU solver test with TEST_GPUID != 1

This is a patch for multi-gpu testing issue (#2926). The problem fixed in this
commit is that when calling make runtest with TEST_GPUID != 0 on a MultiGPU
machine, solver tests will crash because gpu ids in multi-gpu tests doesn't
match that of single GPU test.

Merge pull request #2928 from cypof/lib_make_target

New make target to only build the library.

New make target to only build the library.

[net] improve net config and shape mismatch error messages

Exposing blob loss weight to python

Merge pull request #2925 from flx42/fix_classification_example

Make classification.bin support models with less than 5 classes

Make classification.bin support models with less than 5 classes

The example program would crash if the number of classes was less than
5, since it was still attempting to get the top 5 predictions.

Close #2585

Merge pull request #2921 from buaaliyi/multi_gpu

Destroy CUDA stream when finished

Merge pull request #2924 from ronghanghu/fix-malloc-empty

Malloc at least one byte in Parallel

Malloc at least one byte in Parallel

Merge pull request #2920 from PatWie/master

information about new implemented solvers

Merge pull request #2918 from ronghanghu/adam

Adam solver

Cite Adam paper in solver.hpp

Adam solver

This commit implements the Adam solver by Kingma et. al for CPU and
GPU. All solver parameters are defined in the caffe.proto. This also
adds an example for the MNIST dataset.

Destroy CUDA stream when finished

information about new implemented solvers

Merge pull request #2572 from flx42/optimize_inner_product_special_case

Optimize inner product layer for special case M == 1

Merge pull request #2903 from ronghanghu/multi_gpu

Multi-GPU Data Parallelism

Apply mutex only to shared layers and fix NVCC warning

Data Layers Parallel for Multi-GPU

Allow data layers (and also PythonLayer when used as data layer) to be shared
among worker solver's training net, and also test net for future-proof if one
wants to do Multi-GPU testing. Data layers are locked during forward to ensure
sequential forward.

Merge pull request #2909 from jeffdonahue/learnable-param-id-fix

learnable_param_ids_ fix

Merge pull request #2891 from fyu/fix-caffenetpy

fix examples/pycaffe/caffenet.py import

fix for learnable_param_ids_

Merge pull request #2782 from matthiasplappert/adadelta

AdaDelta Solver (v3)

Merge pull request #2873 from gut/master

Fix gist download model and binary scripts

Merge pull request #2897 from Russell91/patch-1

Update net_spec.py

Update net_spec.py

Fix truncation of value warning

Clean up and modernize AdaDelta code; add learning rate support; add additional test cases

Updated AdaDelta for modern Caffe; reduced iterations on multi-iter tests

Implement AdaDelta; add test cases; add mnist examples