d0_bignum-openssl.c

   1 /*
   2  * FILE:        d0_bignum-openssl.c
   3  * AUTHOR:      Rudolf Polzer - divVerent@xonotic.org
   4  *
   5  * Copyright (c) 2010, Rudolf Polzer
   6  * All rights reserved.
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions
  10  * are met:
  11  * 1. Redistributions of source code must retain the above copyright
  12  *    notice, this list of conditions and the following disclaimer.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  * 3. Neither the name of the copyright holder nor the names of contributors
  17  *    may be used to endorse or promote products derived from this software
  18  *    without specific prior written permission.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTOR(S) ``AS IS'' AND
  21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  23  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTOR(S) BE LIABLE
  24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  30  * SUCH DAMAGE.
  31  *
  32  * $Format:commit %H$
  33  * $Id$
  34  */
  35
  36 /* NOTE: this file links against openssl (http://www.openssl.org), which is
  37  * under the OpenSSL License. You may have to abide to its terms too if you use
  38  * this file.
  39  * To alternatively link to GMP, provide the option --without-openssl to
  40  * ./configure.
  41  */
  42
  43 #include "d0_bignum.h"
  44
  45 #include <assert.h>
  46 #include <string.h>
  47 #include <openssl/bn.h>
  48 #include <openssl/crypto.h>
  49
  50 // for stupid OpenSSL versions in Mac OS X
  51 #ifndef BN_is_negative
  52 #define BN_is_negative(a) ((a)->neg != 0)
  53 #define BN_set_negative(a,n) ((a)->neg = ((n) && !BN_is_zero(a)))
  54 #endif
  55
  56 struct d0_bignum_s
  57 {
  58         BIGNUM z;
  59 };
  60
  61 static d0_bignum_t temp;
  62 static BN_CTX *ctx;
  63 static void *tempmutex = NULL; // hold this mutex when using ctx or temp
  64
  65 #include <time.h>
  66 #include <stdio.h>
  67
  68 static void **locks;
  69
  70 void locking_function(int mode, int l, const char *file, int line)
  71 {
  72         void *m = locks[l];
  73         if(mode & CRYPTO_LOCK)
  74                 d0_lockmutex(m);
  75         else
  76                 d0_unlockmutex(m);
  77 }
  78
  79 typedef struct CRYPTO_dynlock_value
  80 {
  81         void *m;
  82 };
  83
  84 struct CRYPTO_dynlock_value *dyn_create_function(const char *file, int line)
  85 {
  86         return (struct CRYPTO_dynlock_value *) d0_createmutex();
  87 }
  88
  89 void dyn_lock_function(int mode, struct CRYPTO_dynlock_value *l, const char *file, int line)
  90 {
  91         void *m = (void *) l;
  92         if(mode & CRYPTO_LOCK)
  93                 d0_lockmutex(m);
  94         else
  95                 d0_unlockmutex(m);
  96 }
  97
  98 void dyn_destroy_function(struct CRYPTO_dynlock_value *l, const char *file, int line)
  99 {
 100         void *m = (void *) l;
 101         d0_destroymutex(l);
 102 }
 103
 104 D0_WARN_UNUSED_RESULT D0_BOOL d0_bignum_INITIALIZE(void)
 105 {
 106         FILE *f;
 107         D0_BOOL ret = 1;
 108         unsigned char buf[256];
 109         int i, n;
 110
 111         tempmutex = d0_createmutex();
 112         d0_lockmutex(tempmutex);
 113
 114         n = CRYPTO_num_locks();
 115         locks = d0_malloc(n * sizeof(*locks));
 116         for(i = 0; i < n; ++i)
 117                 locks[i] = d0_createmutex();
 118
 119         CRYPTO_set_locking_callback(locking_function);
 120         CRYPTO_set_dynlock_create_callback(dyn_create_function);
 121         CRYPTO_set_dynlock_lock_callback(dyn_lock_function);
 122         CRYPTO_set_dynlock_destroy_callback(dyn_destroy_function);
 123
 124         ctx = BN_CTX_new();
 125         d0_bignum_init(&temp);
 126
 127 #ifdef WIN32
 128         {
 129                 HCRYPTPROV hCryptProv;
 130                 if(CryptAcquireContext(&hCryptProv, NULL, NULL, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT))
 131                 {
 132                         if(!CryptGenRandom(hCryptProv, sizeof(buf), (PBYTE) &buf[0]))
 133                         {
 134                                 fprintf(stderr, "WARNING: could not initialize random number generator (CryptGenRandom failed)\n");
 135                                 ret = 0;
 136                         }
 137                         CryptReleaseContext(hCryptProv, 0);
 138                 }
 139                 else if(CryptAcquireContext(&hCryptProv, NULL, NULL, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT | CRYPT_NEWKEYSET))
 140                 {
 141                         if(!CryptGenRandom(hCryptProv, sizeof(buf), (PBYTE) &buf[0]))
 142                         {
 143                                 fprintf(stderr, "WARNING: could not initialize random number generator (CryptGenRandom failed)\n");
 144                                 ret = 0;
 145                         }
 146                         CryptReleaseContext(hCryptProv, 0);
 147                 }
 148                 else
 149                 {
 150                         fprintf(stderr, "WARNING: could not initialize random number generator (CryptAcquireContext failed)\n");
 151                         ret = 0;
 152                 }
 153         }
 154 #else
 155         f = fopen("/dev/urandom", "rb");
 156         if(!f)
 157                 f = fopen("/dev/random", "rb");
 158         if(f)
 159         {
 160                 setbuf(f, NULL);
 161                 if(fread(buf, sizeof(buf), 1, f) != 1)
 162                 {
 163                         fprintf(stderr, "WARNING: could not initialize random number generator (read from random device failed)\n");
 164                         ret = 0;
 165                 }
 166                 fclose(f);
 167         }
 168         else
 169         {
 170                 fprintf(stderr, "WARNING: could not initialize random number generator (no random device found)\n");
 171                 ret = 0;
 172         }
 173 #endif
 174         RAND_add(buf, sizeof(buf), sizeof(buf));
 175
 176         d0_unlockmutex(tempmutex);
 177
 178         return 1;
 179         // FIXME initialize the RNG on Windows on UNIX it is done right already
 180 }
 181
 182 void d0_bignum_SHUTDOWN(void)
 183 {
 184         int i, n;
 185
 186         d0_lockmutex(tempmutex);
 187
 188         d0_bignum_clear(&temp);
 189         BN_CTX_free(ctx);
 190         ctx = NULL;
 191
 192         n = CRYPTO_num_locks();
 193         for(i = 0; i < n; ++i)
 194                 d0_destroymutex(locks[i]);
 195         d0_free(locks);
 196
 197         d0_unlockmutex(tempmutex);
 198         d0_destroymutex(tempmutex);
 199         tempmutex = NULL;
 200 }
 201
 202 D0_BOOL d0_iobuf_write_bignum(d0_iobuf_t *buf, const d0_bignum_t *bignum)
 203 {
 204         static __thread unsigned char numbuf[65536];
 205         size_t count = 0;
 206         numbuf[0] = BN_is_zero(&bignum->z) ? 0 : BN_is_negative(&bignum->z) ? 3 : 1;
 207         if((numbuf[0] & 3) != 0) // nonzero
 208         {
 209                 count = BN_num_bytes(&bignum->z);
 210                 if(count > sizeof(numbuf) - 1)
 211                         return 0;
 212                 BN_bn2bin(&bignum->z, numbuf+1);
 213         }
 214         return d0_iobuf_write_packet(buf, numbuf, count + 1);
 215 }
 216
 217 d0_bignum_t *d0_iobuf_read_bignum(d0_iobuf_t *buf, d0_bignum_t *bignum)
 218 {
 219         static __thread unsigned char numbuf[65536];
 220         size_t count = sizeof(numbuf);
 221         if(!d0_iobuf_read_packet(buf, numbuf, &count))
 222                 return NULL;
 223         if(count < 1)
 224                 return NULL;
 225         if(!bignum) bignum = d0_bignum_new(); if(!bignum) return NULL;
 226         if(numbuf[0] & 3) // nonzero
 227         {
 228                 BN_bin2bn(numbuf+1, count-1, &bignum->z);
 229                 if(numbuf[0] & 2) // negative
 230                         BN_set_negative(&bignum->z, 1);
 231         }
 232         else // zero
 233         {
 234                 BN_zero(&bignum->z);
 235         }
 236         return bignum;
 237 }
 238
 239 ssize_t d0_bignum_export_unsigned(const d0_bignum_t *bignum, void *buf, size_t bufsize)
 240 {
 241         size_t count;
 242         count = BN_num_bytes(&bignum->z);
 243         if(count > bufsize)
 244                 return -1;
 245         if(bufsize > count)
 246         {
 247                 // pad from left (big endian numbers!)
 248                 memset(buf, 0, bufsize - count);
 249                 buf += bufsize - count;
 250         }
 251         BN_bn2bin(&bignum->z, buf);
 252         return bufsize;
 253 }
 254
 255 d0_bignum_t *d0_bignum_import_unsigned(d0_bignum_t *bignum, const void *buf, size_t bufsize)
 256 {
 257         size_t count;
 258         if(!bignum) bignum = d0_bignum_new(); if(!bignum) return NULL;
 259         BN_bin2bn(buf, bufsize, &bignum->z);
 260         return bignum;
 261 }
 262
 263 d0_bignum_t *d0_bignum_new(void)
 264 {
 265         d0_bignum_t *b = d0_malloc(sizeof(d0_bignum_t));
 266         BN_init(&b->z);
 267         return b;
 268 }
 269
 270 void d0_bignum_free(d0_bignum_t *a)
 271 {
 272         BN_free(&a->z);
 273         d0_free(a);
 274 }
 275
 276 void d0_bignum_init(d0_bignum_t *b)
 277 {
 278         BN_init(&b->z);
 279 }
 280
 281 void d0_bignum_clear(d0_bignum_t *a)
 282 {
 283         BN_free(&a->z);
 284 }
 285
 286 size_t d0_bignum_size(const d0_bignum_t *r)
 287 {
 288         return BN_num_bits(&r->z);
 289 }
 290
 291 int d0_bignum_cmp(const d0_bignum_t *a, const d0_bignum_t *b)
 292 {
 293         return BN_cmp(&a->z, &b->z);
 294 }
 295
 296 d0_bignum_t *d0_bignum_rand_range(d0_bignum_t *r, const d0_bignum_t *min, const d0_bignum_t *max)
 297 {
 298         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 299         d0_lockmutex(tempmutex);
 300         BN_sub(&temp.z, &max->z, &min->z);
 301         BN_rand_range(&r->z, &temp.z);
 302         d0_unlockmutex(tempmutex);
 303         BN_add(&r->z, &r->z, &min->z);
 304         return r;
 305 }
 306
 307 d0_bignum_t *d0_bignum_rand_bit_atmost(d0_bignum_t *r, size_t n)
 308 {
 309         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 310         BN_rand(&r->z, n, -1, 0);
 311         return r;
 312 }
 313
 314 d0_bignum_t *d0_bignum_rand_bit_exact(d0_bignum_t *r, size_t n)
 315 {
 316         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 317         BN_rand(&r->z, n, 0, 0);
 318         return r;
 319 }
 320
 321 d0_bignum_t *d0_bignum_zero(d0_bignum_t *r)
 322 {
 323         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 324         BN_zero(&r->z);
 325         return r;
 326 }
 327
 328 d0_bignum_t *d0_bignum_one(d0_bignum_t *r)
 329 {
 330         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 331         BN_one(&r->z);
 332         return r;
 333 }
 334
 335 d0_bignum_t *d0_bignum_int(d0_bignum_t *r, int n)
 336 {
 337         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 338         BN_set_word(&r->z, n);
 339         return r;
 340 }
 341
 342 d0_bignum_t *d0_bignum_mov(d0_bignum_t *r, const d0_bignum_t *a)
 343 {
 344         if(r == a)
 345                 return r; // trivial
 346         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 347         BN_copy(&r->z, &a->z);
 348         return r;
 349 }
 350
 351 d0_bignum_t *d0_bignum_neg(d0_bignum_t *r, const d0_bignum_t *a)
 352 {
 353         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 354         if(r != a)
 355                 BN_copy(&r->z, &a->z);
 356         BN_set_negative(&r->z, !BN_is_negative(&r->z));
 357         return r;
 358 }
 359
 360 d0_bignum_t *d0_bignum_shl(d0_bignum_t *r, const d0_bignum_t *a, ssize_t n)
 361 {
 362         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 363         if(n > 0)
 364                 BN_lshift(&r->z, &a->z, n);
 365         else if(n < 0)
 366                 BN_rshift(&r->z, &a->z, -n);
 367         else if(r != a)
 368                 BN_copy(&r->z, &a->z);
 369         return r;
 370 }
 371
 372 d0_bignum_t *d0_bignum_add(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
 373 {
 374         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 375         BN_add(&r->z, &a->z, &b->z);
 376         return r;
 377 }
 378
 379 d0_bignum_t *d0_bignum_sub(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
 380 {
 381         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 382         BN_sub(&r->z, &a->z, &b->z);
 383         return r;
 384 }
 385
 386 d0_bignum_t *d0_bignum_mul(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
 387 {
 388         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 389         d0_lockmutex(tempmutex);
 390         BN_mul(&r->z, &a->z, &b->z, ctx);
 391         d0_unlockmutex(tempmutex);
 392         return r;
 393 }
 394
 395 d0_bignum_t *d0_bignum_divmod(d0_bignum_t *q, d0_bignum_t *m, const d0_bignum_t *a, const d0_bignum_t *b)
 396 {
 397         if(!q && !m)
 398                 m = d0_bignum_new();
 399         d0_lockmutex(tempmutex);
 400         if(q)
 401         {
 402                 if(m)
 403                         BN_div(&q->z, &m->z, &a->z, &b->z, ctx);
 404                 else
 405                         BN_div(&q->z, NULL, &a->z, &b->z, ctx);
 406                 assert(!"I know this code is broken (rounds towards zero), need handle negative correctly");
 407         }
 408         else
 409                 BN_nnmod(&m->z, &a->z, &b->z, ctx);
 410         d0_unlockmutex(tempmutex);
 411         if(m)
 412                 return m;
 413         else
 414                 return q;
 415 }
 416
 417 d0_bignum_t *d0_bignum_mod_add(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
 418 {
 419         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 420         d0_lockmutex(tempmutex);
 421         BN_mod_add(&r->z, &a->z, &b->z, &m->z, ctx);
 422         d0_unlockmutex(tempmutex);
 423         return r;
 424 }
 425
 426 d0_bignum_t *d0_bignum_mod_sub(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
 427 {
 428         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 429         d0_lockmutex(tempmutex);
 430         BN_mod_sub(&r->z, &a->z, &b->z, &m->z, ctx);
 431         d0_unlockmutex(tempmutex);
 432         return r;
 433 }
 434
 435 d0_bignum_t *d0_bignum_mod_mul(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
 436 {
 437         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 438         d0_lockmutex(tempmutex);
 439         BN_mod_mul(&r->z, &a->z, &b->z, &m->z, ctx);
 440         d0_unlockmutex(tempmutex);
 441         return r;
 442 }
 443
 444 d0_bignum_t *d0_bignum_mod_pow(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
 445 {
 446         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 447         d0_lockmutex(tempmutex);
 448         BN_mod_exp(&r->z, &a->z, &b->z, &m->z, ctx);
 449         d0_unlockmutex(tempmutex);
 450         return r;
 451 }
 452
 453 D0_BOOL d0_bignum_mod_inv(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *m)
 454 {
 455         // here, r MUST be set, as otherwise we cannot return error state!
 456         int ret;
 457         d0_lockmutex(tempmutex);
 458         ret = !!BN_mod_inverse(&r->z, &a->z, &m->z, ctx);
 459         d0_unlockmutex(tempmutex);
 460         return ret;
 461 }
 462
 463 int d0_bignum_isprime(const d0_bignum_t *r, int param)
 464 {
 465         int ret;
 466         d0_lockmutex(tempmutex);
 467         if(param <= 0)
 468                 ret = BN_is_prime_fasttest(&r->z, 1, NULL, ctx, NULL, 1);
 469         else
 470                 ret = BN_is_prime(&r->z, param, NULL, ctx, NULL);
 471         d0_unlockmutex(tempmutex);
 472         return ret;
 473 }
 474
 475 d0_bignum_t *d0_bignum_gcd(d0_bignum_t *r, d0_bignum_t *s, d0_bignum_t *t, const d0_bignum_t *a, const d0_bignum_t *b)
 476 {
 477         if(!r) r = d0_bignum_new(); if(!r) return NULL;
 478         if(s)
 479                 assert(!"Extended gcd not implemented");
 480         else if(t)
 481                 assert(!"Extended gcd not implemented");
 482         else
 483         {
 484                 d0_lockmutex(tempmutex);
 485                 BN_gcd(&r->z, &a->z, &b->z, ctx);
 486                 d0_unlockmutex(tempmutex);
 487         }
 488         return r;
 489 }
 490
 491 char *d0_bignum_tostring(const d0_bignum_t *x, unsigned int base)
 492 {
 493         if(base == 10)
 494                 return BN_bn2dec(&x->z);
 495         else if(base == 16)
 496                 return BN_bn2hex(&x->z);
 497         else
 498                 assert(!"Other bases not implemented");
 499 }