src/debug.c

   1 /*
   2  *  Copyright (c) 2016 Samsung Electronics Co., Ltd All Rights Reserved
   3  *
   4  *  Contact: Krzysztof Jackiewicz <k.jackiewicz@samsung.com>
   5  *
   6  *  Licensed under the Apache License, Version 2.0 (the "License");
   7  *  you may not use this file except in compliance with the License.
   8  *  You may obtain a copy of the License at
   9  *
  10  *      http://www.apache.org/licenses/LICENSE-2.0
  11  *
  12  *  Unless required by applicable law or agreed to in writing, software
  13  *  distributed under the License is distributed on an "AS IS" BASIS,
  14  *  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15  *  See the License for the specific language governing permissions and
  16  *  limitations under the License
  17  */
  18
  19 /**
  20  * @file debug.c
  21  * @brief
  22  */
  23
  24 #include <stdbool.h>
  25 #include <string.h>
  26
  27 #include <openssl/err.h>
  28 #include <openssl/pem.h>
  29 #include <openssl/pkcs12.h>
  30 #include <openssl/dsa.h>
  31
  32 #include <yaca_error.h>
  33
  34 #include "internal.h"
  35 #include "debug.h"
  36
  37 // TODO any better idea than to use __thread?
  38 static __thread yaca_error_cb error_cb = NULL;
  39 static bool error_strings_loaded = false;
  40 static const int GENERIC_REASON_MAX = 99;
  41
  42 API void yaca_debug_set_error_cb(yaca_error_cb fn)
  43 {
  44         error_cb = fn;
  45 }
  46
  47 #define ERRORDESCRIBE(name) case name: return #name
  48 API const char *yaca_debug_translate_error(yaca_error_e err)
  49 {
  50         switch (err) {
  51         ERRORDESCRIBE(YACA_ERROR_NONE);
  52         ERRORDESCRIBE(YACA_ERROR_INVALID_PARAMETER);
  53         ERRORDESCRIBE(YACA_ERROR_OUT_OF_MEMORY);
  54         ERRORDESCRIBE(YACA_ERROR_INTERNAL);
  55         ERRORDESCRIBE(YACA_ERROR_DATA_MISMATCH);
  56         ERRORDESCRIBE(YACA_ERROR_INVALID_PASSWORD);
  57         default: return "Error not defined";
  58         }
  59 }
  60 #undef ERRORDESCRIBE
  61
  62 void error_dump(const char *file, int line, const char *function, int code)
  63 {
  64         if (error_cb == NULL) {
  65                 ERR_clear_error();
  66                 return;
  67         }
  68
  69         static const size_t BUF_SIZE = 512;
  70         static const char ELLIPSIS[] = "...\n";
  71         static const size_t ELLIPSIS_SIZE = sizeof(ELLIPSIS) / sizeof(ELLIPSIS[0]);
  72         char buf[BUF_SIZE];
  73         unsigned long err;
  74         size_t written;
  75         const char *err_str = yaca_debug_translate_error(code);
  76         const char *sign = "";
  77
  78         if (code < 0) {
  79                 code *= -1;
  80                 sign = "-";
  81         }
  82
  83         written = snprintf(buf, BUF_SIZE, "%s:%d %s() API error: %s0x%02X (%s)\n", file,
  84                                            line, function, sign, code, err_str);
  85
  86         while ((err = ERR_get_error()) != 0 && written < BUF_SIZE - 1) {
  87                 if (!error_strings_loaded) {
  88                         /*
  89                          * This function is thread-safe as long as static locks are
  90                          * installed according to doc so calling it twice won't break
  91                          * anything and I don't want to use synchronization mechanisms
  92                          * here.
  93                          */
  94                         ERR_load_crypto_strings();
  95                         error_strings_loaded = true;
  96                 }
  97
  98                 ERR_error_string_n(err, buf + written, BUF_SIZE - written);
  99                 written = strlen(buf); /* I trust you, openssl */
 100                 if (written < BUF_SIZE - 1) {
 101                         buf[written] = '\n';
 102                         written++;
 103                 }
 104         }
 105
 106         if (written >= BUF_SIZE - 1) {
 107                 strncpy(buf + BUF_SIZE - ELLIPSIS_SIZE, ELLIPSIS, ELLIPSIS_SIZE);
 108                 written = BUF_SIZE - 1;
 109                 ERR_clear_error();
 110         }
 111         buf[written] = '\0';
 112
 113         (*error_cb)(buf);
 114 }
 115
 116 int error_handle(const char *file, int line, const char *function)
 117 {
 118         int ret = YACA_ERROR_NONE;
 119         unsigned long err = ERR_peek_error();
 120
 121         if (err == 0)
 122                 return YACA_ERROR_INTERNAL;
 123
 124         /* known errors */
 125         switch (err) {
 126 #if OPENSSL_VERSION_NUMBER > 0x10100000L
 127         case ERR_PACK(ERR_LIB_RSA, RSA_F_RSA_OSSL_PRIVATE_DECRYPT, RSA_R_DATA_GREATER_THAN_MOD_LEN):
 128         case ERR_PACK(ERR_LIB_RSA, RSA_F_RSA_OSSL_PUBLIC_DECRYPT, RSA_R_DATA_GREATER_THAN_MOD_LEN):
 129 #else /* OPENSSL_VERSION_NUMBER > 0x10100000L */
 130         case ERR_PACK(ERR_LIB_RSA, RSA_F_PKEY_RSA_CTRL, RSA_R_INVALID_KEYBITS):
 131         case ERR_PACK(ERR_LIB_RSA, RSA_F_RSA_EAY_PRIVATE_DECRYPT, RSA_R_DATA_GREATER_THAN_MOD_LEN):
 132         case ERR_PACK(ERR_LIB_RSA, RSA_F_RSA_EAY_PUBLIC_DECRYPT, RSA_R_DATA_GREATER_THAN_MOD_LEN):
 133 #endif /* OPENSSL_VERSION_NUMBER > 0x10100000L */
 134         case ERR_PACK(ERR_LIB_RSA, RSA_F_PKEY_RSA_CTRL, RSA_R_KEY_SIZE_TOO_SMALL):
 135         case ERR_PACK(ERR_LIB_EVP, EVP_F_EVP_PKEY_CTX_CTRL, EVP_R_COMMAND_NOT_SUPPORTED):
 136         case ERR_PACK(ERR_LIB_PEM, PEM_F_PEM_READ_BIO, PEM_R_NO_START_LINE):
 137         case ERR_PACK(ERR_LIB_ASN1, ASN1_F_ASN1_D2I_READ_BIO, ASN1_R_NOT_ENOUGH_DATA):
 138         case ERR_PACK(ERR_LIB_EVP, EVP_F_EVP_ENCRYPTFINAL_EX, EVP_R_DATA_NOT_MULTIPLE_OF_BLOCK_LENGTH):
 139         case ERR_PACK(ERR_LIB_EVP, EVP_F_EVP_DECRYPTFINAL_EX, EVP_R_DATA_NOT_MULTIPLE_OF_BLOCK_LENGTH):
 140         case ERR_PACK(ERR_LIB_EVP, EVP_F_EVP_DECRYPTFINAL_EX, EVP_R_WRONG_FINAL_BLOCK_LENGTH):
 141         case ERR_PACK(ERR_LIB_EVP, EVP_F_EVP_PKEY_DERIVE_SET_PEER, EVP_R_DIFFERENT_PARAMETERS):
 142         case ERR_PACK(ERR_LIB_EC, EC_F_PKEY_EC_CTRL, EC_R_INVALID_DIGEST_TYPE):
 143         case ERR_PACK(ERR_LIB_DSA, DSA_F_PKEY_DSA_CTRL, DSA_R_INVALID_DIGEST_TYPE):
 144                 ret = YACA_ERROR_INVALID_PARAMETER;
 145                 break;
 146         case ERR_PACK(ERR_LIB_ASN1, ASN1_F_ASN1_GET_OBJECT, ASN1_R_TOO_LONG):
 147         case ERR_PACK(ERR_LIB_ASN1, ASN1_F_ASN1_GET_OBJECT, ASN1_R_HEADER_TOO_LONG):
 148         case ERR_PACK(ERR_LIB_ASN1, ASN1_F_ASN1_CHECK_TLEN, ASN1_R_WRONG_TAG):
 149         {
 150                 bool found_crypto_error = false;
 151
 152                 while ((err = ERR_get_error()) != 0)
 153                         if (err == ERR_PACK(ERR_LIB_PKCS12, PKCS12_F_PKCS12_ITEM_DECRYPT_D2I, PKCS12_R_DECODE_ERROR) ||
 154                                 err == ERR_PACK(ERR_LIB_PKCS12, PKCS12_F_PKCS12_PBE_CRYPT, PKCS12_R_PKCS12_CIPHERFINAL_ERROR) ||
 155                                 err == ERR_PACK(ERR_LIB_DSA, DSA_F_OLD_DSA_PRIV_DECODE, ERR_R_DSA_LIB) ||
 156                                 err == ERR_PACK(ERR_LIB_RSA, RSA_F_OLD_RSA_PRIV_DECODE, ERR_R_RSA_LIB)) {
 157                                 found_crypto_error = true;
 158                                 break;
 159                         }
 160
 161                 if (found_crypto_error)
 162                         ret = YACA_ERROR_INVALID_PASSWORD;
 163                 else
 164                         ret = YACA_ERROR_INVALID_PARAMETER;
 165
 166                 break;
 167         }
 168         case ERR_PACK(ERR_LIB_EVP, EVP_F_EVP_DECRYPTFINAL_EX, EVP_R_BAD_DECRYPT):
 169         case ERR_PACK(ERR_LIB_PEM, PEM_F_PEM_DO_HEADER, PEM_R_BAD_DECRYPT):
 170         case ERR_PACK(ERR_LIB_PEM, PEM_F_PEM_DO_HEADER, PEM_R_BAD_PASSWORD_READ):
 171         case ERR_PACK(ERR_LIB_PEM, PEM_F_PEM_READ_BIO_PRIVATEKEY, PEM_R_BAD_PASSWORD_READ):
 172         case ERR_PACK(ERR_LIB_PEM, PEM_F_D2I_PKCS8PRIVATEKEY_BIO, PEM_R_BAD_PASSWORD_READ):
 173                 ret = YACA_ERROR_INVALID_PASSWORD;
 174                 break;
 175         }
 176
 177         /* known rsa padding errors */
 178         if (ret == YACA_ERROR_NONE && ERR_GET_LIB(err) == ERR_LIB_RSA) {
 179                 switch (ERR_GET_FUNC(err)) {
 180                 case RSA_F_CHECK_PADDING_MD:
 181                 case RSA_F_RSA_PADDING_CHECK_NONE:
 182                 case RSA_F_RSA_PADDING_CHECK_PKCS1_OAEP:
 183                 case RSA_F_RSA_PADDING_CHECK_PKCS1_OAEP_MGF1:
 184                 case RSA_F_RSA_PADDING_CHECK_PKCS1_TYPE_1:
 185                 case RSA_F_RSA_PADDING_CHECK_PKCS1_TYPE_2:
 186                 case RSA_F_RSA_PADDING_CHECK_SSLV23:
 187                 case RSA_F_RSA_PADDING_CHECK_X931:
 188                 case RSA_F_RSA_PADDING_ADD_NONE:
 189                 case RSA_F_RSA_PADDING_ADD_PKCS1_OAEP:
 190                 case RSA_F_RSA_PADDING_ADD_PKCS1_OAEP_MGF1:
 191                 case RSA_F_RSA_PADDING_ADD_PKCS1_PSS:
 192                 case RSA_F_RSA_PADDING_ADD_PKCS1_PSS_MGF1:
 193                 case RSA_F_RSA_PADDING_ADD_PKCS1_TYPE_1:
 194                 case RSA_F_RSA_PADDING_ADD_PKCS1_TYPE_2:
 195                 case RSA_F_RSA_PADDING_ADD_SSLV23:
 196                 case RSA_F_RSA_PADDING_ADD_X931:
 197                         ret = YACA_ERROR_INVALID_PARAMETER;
 198                         break;
 199                 }
 200         }
 201
 202         /* fatal errors */
 203         int reason = ERR_GET_REASON(err);
 204         if (ret == YACA_ERROR_NONE && reason <= GENERIC_REASON_MAX && (err & ERR_R_FATAL) > 0) {
 205                 switch (reason) {
 206                 case ERR_R_MALLOC_FAILURE:
 207                         ret = YACA_ERROR_OUT_OF_MEMORY;
 208                         break;
 209                 case ERR_R_SHOULD_NOT_HAVE_BEEN_CALLED:
 210                 case ERR_R_PASSED_NULL_PARAMETER:
 211                         ret = YACA_ERROR_INVALID_PARAMETER;
 212                         break;
 213                 case ERR_R_INTERNAL_ERROR:
 214                 case ERR_R_DISABLED:
 215                         ret = YACA_ERROR_INTERNAL;
 216                         break;
 217                 }
 218         }
 219
 220         /* neither known nor fatal, unknown */
 221         if (ret == YACA_ERROR_NONE) {
 222                 error_dump(file, line, function, YACA_ERROR_INTERNAL);
 223                 ret = YACA_ERROR_INTERNAL;
 224         }
 225
 226         /* remove all errors from queue */
 227         ERR_clear_error();
 228         return ret;
 229 }