src/third_party/boringssl/src/crypto/x509/x509_cmp.c

   1 /* crypto/x509/x509_cmp.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.] */
  57
  58 #include <openssl/asn1.h>
  59 #include <openssl/buf.h>
  60 #include <openssl/digest.h>
  61 #include <openssl/err.h>
  62 #include <openssl/mem.h>
  63 #include <openssl/obj.h>
  64 #include <openssl/stack.h>
  65 #include <openssl/x509.h>
  66 #include <openssl/x509v3.h>
  67
  68
  69 int X509_issuer_and_serial_cmp(const X509 *a, const X509 *b)
  70         {
  71         int i;
  72         X509_CINF *ai,*bi;
  73
  74         ai=a->cert_info;
  75         bi=b->cert_info;
  76         i=M_ASN1_INTEGER_cmp(ai->serialNumber,bi->serialNumber);
  77         if (i) return(i);
  78         return(X509_NAME_cmp(ai->issuer,bi->issuer));
  79         }
  80
  81 #ifndef OPENSSL_NO_MD5
  82 unsigned long X509_issuer_and_serial_hash(X509 *a)
  83         {
  84         unsigned long ret=0;
  85         EVP_MD_CTX ctx;
  86         unsigned char md[16];
  87         char *f;
  88
  89         EVP_MD_CTX_init(&ctx);
  90         f=X509_NAME_oneline(a->cert_info->issuer,NULL,0);
  91         if (!EVP_DigestInit_ex(&ctx, EVP_md5(), NULL))
  92                 goto err;
  93         if (!EVP_DigestUpdate(&ctx,(unsigned char *)f,strlen(f)))
  94                 goto err;
  95         OPENSSL_free(f);
  96         if(!EVP_DigestUpdate(&ctx,(unsigned char *)a->cert_info->serialNumber->data,
  97                 (unsigned long)a->cert_info->serialNumber->length))
  98                 goto err;
  99         if (!EVP_DigestFinal_ex(&ctx,&(md[0]),NULL))
 100                 goto err;
 101         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
 102                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
 103                 )&0xffffffffL;
 104         err:
 105         EVP_MD_CTX_cleanup(&ctx);
 106         return(ret);
 107         }
 108 #endif
 109
 110 int X509_issuer_name_cmp(const X509 *a, const X509 *b)
 111         {
 112         return(X509_NAME_cmp(a->cert_info->issuer,b->cert_info->issuer));
 113         }
 114
 115 int X509_subject_name_cmp(const X509 *a, const X509 *b)
 116         {
 117         return(X509_NAME_cmp(a->cert_info->subject,b->cert_info->subject));
 118         }
 119
 120 int X509_CRL_cmp(const X509_CRL *a, const X509_CRL *b)
 121         {
 122         return(X509_NAME_cmp(a->crl->issuer,b->crl->issuer));
 123         }
 124
 125 #ifndef OPENSSL_NO_SHA
 126 int X509_CRL_match(const X509_CRL *a, const X509_CRL *b)
 127         {
 128         return memcmp(a->sha1_hash, b->sha1_hash, 20);
 129         }
 130 #endif
 131
 132 X509_NAME *X509_get_issuer_name(X509 *a)
 133         {
 134         return(a->cert_info->issuer);
 135         }
 136
 137 unsigned long X509_issuer_name_hash(X509 *x)
 138         {
 139         return(X509_NAME_hash(x->cert_info->issuer));
 140         }
 141
 142 #ifndef OPENSSL_NO_MD5
 143 unsigned long X509_issuer_name_hash_old(X509 *x)
 144         {
 145         return(X509_NAME_hash_old(x->cert_info->issuer));
 146         }
 147 #endif
 148
 149 X509_NAME *X509_get_subject_name(X509 *a)
 150         {
 151         return(a->cert_info->subject);
 152         }
 153
 154 ASN1_INTEGER *X509_get_serialNumber(X509 *a)
 155         {
 156         return(a->cert_info->serialNumber);
 157         }
 158
 159 unsigned long X509_subject_name_hash(X509 *x)
 160         {
 161         return(X509_NAME_hash(x->cert_info->subject));
 162         }
 163
 164 #ifndef OPENSSL_NO_MD5
 165 unsigned long X509_subject_name_hash_old(X509 *x)
 166         {
 167         return(X509_NAME_hash_old(x->cert_info->subject));
 168         }
 169 #endif
 170
 171 #ifndef OPENSSL_NO_SHA
 172 /* Compare two certificates: they must be identical for
 173  * this to work. NB: Although "cmp" operations are generally
 174  * prototyped to take "const" arguments (eg. for use in
 175  * STACKs), the way X509 handling is - these operations may
 176  * involve ensuring the hashes are up-to-date and ensuring
 177  * certain cert information is cached. So this is the point
 178  * where the "depth-first" constification tree has to halt
 179  * with an evil cast.
 180  */
 181 int X509_cmp(const X509 *a, const X509 *b)
 182 {
 183         int rv;
 184         /* ensure hash is valid */
 185         X509_check_purpose((X509 *)a, -1, 0);
 186         X509_check_purpose((X509 *)b, -1, 0);
 187
 188         rv = memcmp(a->sha1_hash, b->sha1_hash, SHA_DIGEST_LENGTH);
 189         if (rv)
 190                 return rv;
 191         /* Check for match against stored encoding too */
 192         if (!a->cert_info->enc.modified && !b->cert_info->enc.modified)
 193                 {
 194                 rv = (int)(a->cert_info->enc.len - b->cert_info->enc.len);
 195                 if (rv)
 196                         return rv;
 197                 return memcmp(a->cert_info->enc.enc, b->cert_info->enc.enc,
 198                                 a->cert_info->enc.len);
 199                 }
 200         return rv;
 201 }
 202 #endif
 203
 204
 205 int X509_NAME_cmp(const X509_NAME *a, const X509_NAME *b)
 206         {
 207         int ret;
 208
 209         /* Ensure canonical encoding is present and up to date */
 210
 211         if (!a->canon_enc || a->modified)
 212                 {
 213                 ret = i2d_X509_NAME((X509_NAME *)a, NULL);
 214                 if (ret < 0)
 215                         return -2;
 216                 }
 217
 218         if (!b->canon_enc || b->modified)
 219                 {
 220                 ret = i2d_X509_NAME((X509_NAME *)b, NULL);
 221                 if (ret < 0)
 222                         return -2;
 223                 }
 224
 225         ret = a->canon_enclen - b->canon_enclen;
 226
 227         if (ret)
 228                 return ret;
 229
 230         return memcmp(a->canon_enc, b->canon_enc, a->canon_enclen);
 231
 232         }
 233
 234 unsigned long X509_NAME_hash(X509_NAME *x)
 235         {
 236         unsigned long ret=0;
 237         unsigned char md[SHA_DIGEST_LENGTH];
 238
 239         /* Make sure X509_NAME structure contains valid cached encoding */
 240         i2d_X509_NAME(x,NULL);
 241         if (!EVP_Digest(x->canon_enc, x->canon_enclen, md, NULL, EVP_sha1(),
 242                 NULL))
 243                 return 0;
 244
 245         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
 246                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
 247                 )&0xffffffffL;
 248         return(ret);
 249         }
 250
 251
 252 #ifndef OPENSSL_NO_MD5
 253 /* I now DER encode the name and hash it.  Since I cache the DER encoding,
 254  * this is reasonably efficient. */
 255
 256 unsigned long X509_NAME_hash_old(X509_NAME *x)
 257         {
 258         EVP_MD_CTX md_ctx;
 259         unsigned long ret=0;
 260         unsigned char md[16];
 261
 262         /* Make sure X509_NAME structure contains valid cached encoding */
 263         i2d_X509_NAME(x,NULL);
 264         EVP_MD_CTX_init(&md_ctx);
 265         /* EVP_MD_CTX_set_flags(&md_ctx, EVP_MD_CTX_FLAG_NON_FIPS_ALLOW); */
 266         if (EVP_DigestInit_ex(&md_ctx, EVP_md5(), NULL)
 267             && EVP_DigestUpdate(&md_ctx, x->bytes->data, x->bytes->length)
 268             && EVP_DigestFinal_ex(&md_ctx,md,NULL))
 269                 ret=(((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
 270                      ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
 271                      )&0xffffffffL;
 272         EVP_MD_CTX_cleanup(&md_ctx);
 273
 274         return(ret);
 275         }
 276 #endif
 277
 278 /* Search a stack of X509 for a match */
 279 X509 *X509_find_by_issuer_and_serial(STACK_OF(X509) *sk, X509_NAME *name,
 280                 ASN1_INTEGER *serial)
 281         {
 282         size_t i;
 283         X509_CINF cinf;
 284         X509 x,*x509=NULL;
 285
 286         if(!sk) return NULL;
 287
 288         x.cert_info= &cinf;
 289         cinf.serialNumber=serial;
 290         cinf.issuer=name;
 291
 292         for (i=0; i<sk_X509_num(sk); i++)
 293                 {
 294                 x509=sk_X509_value(sk,i);
 295                 if (X509_issuer_and_serial_cmp(x509,&x) == 0)
 296                         return(x509);
 297                 }
 298         return(NULL);
 299         }
 300
 301 X509 *X509_find_by_subject(STACK_OF(X509) *sk, X509_NAME *name)
 302         {
 303         X509 *x509;
 304         size_t i;
 305
 306         for (i=0; i<sk_X509_num(sk); i++)
 307                 {
 308                 x509=sk_X509_value(sk,i);
 309                 if (X509_NAME_cmp(X509_get_subject_name(x509),name) == 0)
 310                         return(x509);
 311                 }
 312         return(NULL);
 313         }
 314
 315 EVP_PKEY *X509_get_pubkey(X509 *x)
 316         {
 317         if ((x == NULL) || (x->cert_info == NULL))
 318                 return(NULL);
 319         return(X509_PUBKEY_get(x->cert_info->key));
 320         }
 321
 322 ASN1_BIT_STRING *X509_get0_pubkey_bitstr(const X509 *x)
 323         {
 324         if(!x) return NULL;
 325         return x->cert_info->key->public_key;
 326         }
 327
 328
 329 int X509_check_private_key(X509 *x, EVP_PKEY *k)
 330         {
 331         EVP_PKEY *xk;
 332         int ret;
 333
 334         xk=X509_get_pubkey(x);
 335
 336         if (xk)
 337                 ret = EVP_PKEY_cmp(xk, k);
 338         else
 339                 ret = -2;
 340
 341         switch (ret)
 342                 {
 343         case 1:
 344                 break;
 345         case 0:
 346                 OPENSSL_PUT_ERROR(X509, X509_check_private_key, X509_R_KEY_VALUES_MISMATCH);
 347                 break;
 348         case -1:
 349                 OPENSSL_PUT_ERROR(X509, X509_check_private_key, X509_R_KEY_TYPE_MISMATCH);
 350                 break;
 351         case -2:
 352                 OPENSSL_PUT_ERROR(X509, X509_check_private_key, X509_R_UNKNOWN_KEY_TYPE);
 353                 }
 354         if (xk)
 355                 EVP_PKEY_free(xk);
 356         if (ret > 0)
 357                 return 1;
 358         return 0;
 359         }
 360
 361 /* Check a suite B algorithm is permitted: pass in a public key and
 362  * the NID of its signature (or 0 if no signature). The pflags is
 363  * a pointer to a flags field which must contain the suite B verification
 364  * flags.
 365  */
 366
 367 #ifndef OPENSSL_NO_EC
 368
 369 static int check_suite_b(EVP_PKEY *pkey, int sign_nid, unsigned long *pflags)
 370         {
 371         const EC_GROUP *grp = NULL;
 372         int curve_nid;
 373         if (pkey && pkey->type == EVP_PKEY_EC)
 374                 grp = EC_KEY_get0_group(pkey->pkey.ec);
 375         if (!grp)
 376                 return X509_V_ERR_SUITE_B_INVALID_ALGORITHM;
 377         curve_nid = EC_GROUP_get_curve_name(grp);
 378         /* Check curve is consistent with LOS */
 379         if (curve_nid == NID_secp384r1) /* P-384 */
 380                 {
 381                 /* Check signature algorithm is consistent with
 382                  * curve.
 383                  */
 384                 if (sign_nid != -1 && sign_nid != NID_ecdsa_with_SHA384)
 385                         return X509_V_ERR_SUITE_B_INVALID_SIGNATURE_ALGORITHM;
 386                 if (!(*pflags & X509_V_FLAG_SUITEB_192_LOS))
 387                         return X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED;
 388                 /* If we encounter P-384 we cannot use P-256 later */
 389                 *pflags &= ~X509_V_FLAG_SUITEB_128_LOS_ONLY;
 390                 }
 391         else if (curve_nid == NID_X9_62_prime256v1) /* P-256 */
 392                 {
 393                 if (sign_nid != -1 && sign_nid != NID_ecdsa_with_SHA256)
 394                         return X509_V_ERR_SUITE_B_INVALID_SIGNATURE_ALGORITHM;
 395                 if (!(*pflags & X509_V_FLAG_SUITEB_128_LOS_ONLY))
 396                         return X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED;
 397                 }
 398         else
 399                 return X509_V_ERR_SUITE_B_INVALID_CURVE;
 400
 401         return X509_V_OK;
 402         }
 403
 404 int X509_chain_check_suiteb(int *perror_depth, X509 *x, STACK_OF(X509) *chain,
 405                                                         unsigned long flags)
 406         {
 407         int rv, sign_nid;
 408         size_t i;
 409         EVP_PKEY *pk = NULL;
 410         unsigned long tflags;
 411         if (!(flags & X509_V_FLAG_SUITEB_128_LOS))
 412                 return X509_V_OK;
 413         tflags = flags;
 414         /* If no EE certificate passed in must be first in chain */
 415         if (x == NULL)
 416                 {
 417                 x = sk_X509_value(chain, 0);
 418                 i = 1;
 419                 }
 420         else
 421                 i = 0;
 422
 423         if (X509_get_version(x) != 2)
 424                 {
 425                 rv = X509_V_ERR_SUITE_B_INVALID_VERSION;
 426                 /* Correct error depth */
 427                 i = 0;
 428                 goto end;
 429                 }
 430
 431         pk = X509_get_pubkey(x);
 432         /* Check EE key only */
 433         rv = check_suite_b(pk, -1, &tflags);
 434         if (rv != X509_V_OK)
 435                 {
 436                 /* Correct error depth */
 437                 i = 0;
 438                 goto end;
 439                 }
 440         for(; i < sk_X509_num(chain); i++)
 441                 {
 442                 sign_nid = X509_get_signature_nid(x);
 443                 x = sk_X509_value(chain, i);
 444                 if (X509_get_version(x) != 2)
 445                         {
 446                         rv = X509_V_ERR_SUITE_B_INVALID_VERSION;
 447                         goto end;
 448                         }
 449                 EVP_PKEY_free(pk);
 450                 pk = X509_get_pubkey(x);
 451                 rv = check_suite_b(pk, sign_nid, &tflags);
 452                 if (rv != X509_V_OK)
 453                         goto end;
 454                 }
 455
 456         /* Final check: root CA signature */
 457         rv = check_suite_b(pk, X509_get_signature_nid(x), &tflags);
 458         end:
 459         if (pk)
 460                 EVP_PKEY_free(pk);
 461         if (rv != X509_V_OK)
 462                 {
 463                 /* Invalid signature or LOS errors are for previous cert */
 464                 if ((rv == X509_V_ERR_SUITE_B_INVALID_SIGNATURE_ALGORITHM
 465                     || rv == X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED) && i)
 466                         i--;
 467                 /* If we have LOS error and flags changed then we are signing
 468                  * P-384 with P-256. Use more meaninggul error.
 469                  */
 470                 if (rv == X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED && flags != tflags)
 471                         rv = X509_V_ERR_SUITE_B_CANNOT_SIGN_P_384_WITH_P_256;
 472                 if (perror_depth)
 473                         *perror_depth = i;
 474                 }
 475         return rv;
 476         }
 477
 478 int X509_CRL_check_suiteb(X509_CRL *crl, EVP_PKEY *pk, unsigned long flags)
 479         {
 480         int sign_nid;
 481         if (!(flags & X509_V_FLAG_SUITEB_128_LOS))
 482                 return X509_V_OK;
 483         sign_nid = OBJ_obj2nid(crl->crl->sig_alg->algorithm);
 484         return check_suite_b(pk, sign_nid, &flags);
 485         }
 486
 487 #else
 488 int X509_chain_check_suiteb(int *perror_depth, X509 *x, STACK_OF(X509) *chain,
 489                                                         unsigned long flags)
 490         {
 491         return 0;
 492         }
 493
 494 int X509_CRL_check_suiteb(X509_CRL *crl, EVP_PKEY *pk, unsigned long flags)
 495         {
 496         return 0;
 497         }
 498
 499 #endif
 500 /* Not strictly speaking an "up_ref" as a STACK doesn't have a reference
 501  * count but it has the same effect by duping the STACK and upping the ref
 502  * of each X509 structure.
 503  */
 504 STACK_OF(X509) *X509_chain_up_ref(STACK_OF(X509) *chain)
 505         {
 506         STACK_OF(X509) *ret;
 507         size_t i;
 508         ret = sk_X509_dup(chain);
 509         for (i = 0; i < sk_X509_num(ret); i++)
 510                 {
 511                 X509_up_ref(sk_X509_value(ret, i));
 512                 }
 513         return ret;
 514         }