g10/cipher.c

   1 /* cipher.c - En-/De-ciphering filter
   2  * Copyright (C) 1998, 1999, 2000, 2001 Free Software Foundation, Inc.
   3  *
   4  * This file is part of GnuPG.
   5  *
   6  * GnuPG is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License as published by
   8  * the Free Software Foundation; either version 2 of the License, or
   9  * (at your option) any later version.
  10  *
  11  * GnuPG is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14  * GNU General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * along with this program; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301,
  19  * USA.
  20  */
  21
  22 #include <config.h>
  23 #include <stdio.h>
  24 #include <stdlib.h>
  25 #include <string.h>
  26 #include <errno.h>
  27 #include <assert.h>
  28
  29 #include "errors.h"
  30 #include "iobuf.h"
  31 #include "memory.h"
  32 #include "util.h"
  33 #include "filter.h"
  34 #include "packet.h"
  35 #include "options.h"
  36 #include "main.h"
  37 #include "status.h"
  38
  39
  40 #define MIN_PARTIAL_SIZE 512
  41
  42
  43 static void
  44 write_header( cipher_filter_context_t *cfx, IOBUF a )
  45 {
  46     PACKET pkt;
  47     PKT_encrypted ed;
  48     byte temp[18];
  49     unsigned blocksize;
  50     unsigned nprefix;
  51
  52     blocksize = cipher_get_blocksize( cfx->dek->algo );
  53     if( blocksize < 8 || blocksize > 16 )
  54         log_fatal("unsupported blocksize %u\n", blocksize );
  55
  56     memset( &ed, 0, sizeof ed );
  57     ed.len = cfx->datalen;
  58     ed.extralen = blocksize+2;
  59     ed.new_ctb = !ed.len && !RFC1991;
  60     if( cfx->dek->use_mdc ) {
  61         ed.mdc_method = DIGEST_ALGO_SHA1;
  62         cfx->mdc_hash = md_open( DIGEST_ALGO_SHA1, 0 );
  63         if ( DBG_HASHING )
  64             md_start_debug( cfx->mdc_hash, "creatmdc" );
  65     }
  66
  67     {
  68         char buf[20];
  69
  70         sprintf (buf, "%d %d", ed.mdc_method, cfx->dek->algo);
  71         write_status_text (STATUS_BEGIN_ENCRYPTION, buf);
  72     }
  73
  74     init_packet( &pkt );
  75     pkt.pkttype = cfx->dek->use_mdc? PKT_ENCRYPTED_MDC : PKT_ENCRYPTED;
  76     pkt.pkt.encrypted = &ed;
  77     if( build_packet( a, &pkt ))
  78         log_bug("build_packet(ENCR_DATA) failed\n");
  79     nprefix = blocksize;
  80     randomize_buffer( temp, nprefix, 1 );
  81     temp[nprefix] = temp[nprefix-2];
  82     temp[nprefix+1] = temp[nprefix-1];
  83     print_cipher_algo_note( cfx->dek->algo );
  84     cfx->cipher_hd = cipher_open( cfx->dek->algo,
  85                                   cfx->dek->use_mdc? CIPHER_MODE_CFB
  86                                          : CIPHER_MODE_AUTO_CFB, 1 );
  87 /*   log_hexdump( "thekey", cfx->dek->key, cfx->dek->keylen );*/
  88     cipher_setkey( cfx->cipher_hd, cfx->dek->key, cfx->dek->keylen );
  89     cipher_setiv( cfx->cipher_hd, NULL, 0 );
  90 /*  log_hexdump( "prefix", temp, nprefix+2 ); */
  91     if( cfx->mdc_hash ) /* hash the "IV" */
  92         md_write( cfx->mdc_hash, temp, nprefix+2 );
  93     cipher_encrypt( cfx->cipher_hd, temp, temp, nprefix+2);
  94     cipher_sync( cfx->cipher_hd );
  95     iobuf_write(a, temp, nprefix+2);
  96     cfx->header=1;
  97 }
  98
  99
 100
 101 /****************
 102  * This filter is used to en/de-cipher data with a conventional algorithm
 103  */
 104 int
 105 cipher_filter( void *opaque, int control,
 106                IOBUF a, byte *buf, size_t *ret_len)
 107 {
 108     size_t size = *ret_len;
 109     cipher_filter_context_t *cfx = opaque;
 110     int rc=0;
 111
 112     if( control == IOBUFCTRL_UNDERFLOW ) { /* decrypt */
 113         rc = -1; /* not yet used */
 114     }
 115     else if( control == IOBUFCTRL_FLUSH ) { /* encrypt */
 116         assert(a);
 117         if( !cfx->header ) {
 118             write_header( cfx, a );
 119         }
 120         if( cfx->mdc_hash )
 121             md_write( cfx->mdc_hash, buf, size );
 122         cipher_encrypt( cfx->cipher_hd, buf, buf, size);
 123         if( iobuf_write( a, buf, size ) )
 124             rc = G10ERR_WRITE_FILE;
 125     }
 126     else if( control == IOBUFCTRL_FREE ) {
 127         if( cfx->mdc_hash ) {
 128             byte *hash;
 129             int hashlen = md_digest_length( md_get_algo( cfx->mdc_hash ) );
 130             byte temp[22];
 131
 132             assert( hashlen == 20 );
 133             /* we must hash the prefix of the MDC packet here */
 134             temp[0] = 0xd3;
 135             temp[1] = 0x14;
 136             md_putc( cfx->mdc_hash, temp[0] );
 137             md_putc( cfx->mdc_hash, temp[1] );
 138
 139             md_final( cfx->mdc_hash );
 140             hash = md_read( cfx->mdc_hash, 0 );
 141             memcpy(temp+2, hash, 20);
 142             cipher_encrypt( cfx->cipher_hd, temp, temp, 22 );
 143             md_close( cfx->mdc_hash ); cfx->mdc_hash = NULL;
 144             if( iobuf_write( a, temp, 22 ) )
 145                 log_error("writing MDC packet failed\n" );
 146         }
 147         cipher_close(cfx->cipher_hd);
 148     }
 149     else if( control == IOBUFCTRL_DESC ) {
 150         *(char**)buf = "cipher_filter";
 151     }
 152     return rc;
 153 }