mark things that need to be made threadsafe
[xonotic/d0_blind_id.git] / d0_bignum-gmp.c
1 /*
2  * FILE:        d0_bignum-gmp.c
3  * AUTHOR:      Rudolf Polzer - divVerent@xonotic.org
4  * 
5  * Copyright (c) 2010, Rudolf Polzer
6  * All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer.
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  * 3. Neither the name of the copyright holder nor the names of contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  * 
20  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTOR(S) ``AS IS'' AND
21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTOR(S) BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  *
32  * $Format:commit %H$
33  * $Id$
34  */
35
36 /* NOTE: this file links against libgmp (http://gmplib.org), which is under the
37  * Lesser General Public License 2.1 or later. You may have to abide to its
38  * terms too if you use this file.
39  * To alternatively link to OpenSSL, provide the option --with-openssl to
40  * ./configure.
41  */
42
43 #ifdef WIN32
44 #include <windows.h>
45 #include <wincrypt.h>
46 #endif
47
48 #include "d0_bignum.h"
49
50 #include <gmp.h>
51 #include <string.h>
52 #include <stdlib.h>
53
54 struct d0_bignum_s
55 {
56         mpz_t z;
57 };
58
59 static gmp_randstate_t RANDSTATE; // FIXME make threadsafe
60 static d0_bignum_t temp; // FIXME make threadsafe
61
62 #include <time.h>
63 #include <stdio.h>
64
65 D0_WARN_UNUSED_RESULT D0_BOOL d0_bignum_INITIALIZE(void)
66 {
67         FILE *f;
68         D0_BOOL ret = 1;
69         unsigned char buf[256];
70         d0_bignum_init(&temp);
71         gmp_randinit_mt(RANDSTATE);
72         gmp_randseed_ui(RANDSTATE, time(NULL));
73         * (time_t *) (&buf[0]) = time(0); // if everything else fails, we use the current time + uninitialized data
74 #ifdef WIN32
75         {
76                 HCRYPTPROV hCryptProv;
77                 if(CryptAcquireContext(&hCryptProv, NULL, NULL, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT))
78                 {
79                         if(!CryptGenRandom(hCryptProv, sizeof(buf), (PBYTE) &buf[0]))
80                         {
81                                 fprintf(stderr, "WARNING: could not initialize random number generator (CryptGenRandom failed)\n");
82                                 ret = 0;
83                         }
84                         CryptReleaseContext(hCryptProv, 0);
85                 }
86                 else if(CryptAcquireContext(&hCryptProv, NULL, NULL, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT | CRYPT_NEWKEYSET))
87                 {
88                         if(!CryptGenRandom(hCryptProv, sizeof(buf), (PBYTE) &buf[0]))
89                         {
90                                 fprintf(stderr, "WARNING: could not initialize random number generator (CryptGenRandom failed)\n");
91                                 ret = 0;
92                         }
93                         CryptReleaseContext(hCryptProv, 0);
94                 }
95                 else
96                 {
97                         fprintf(stderr, "WARNING: could not initialize random number generator (CryptAcquireContext failed)\n");
98                         ret = 0;
99                 }
100         }
101 #else
102         f = fopen("/dev/urandom", "rb");
103         if(!f)
104                 f = fopen("/dev/random", "rb");
105         if(f)
106         {
107                 setbuf(f, NULL);
108                 if(fread(buf, sizeof(buf), 1, f) != 1)
109                 {
110                         fprintf(stderr, "WARNING: could not initialize random number generator (read from random device failed)\n");
111                         ret = 0;
112                 }
113                 fclose(f);
114         }
115         else
116         {
117                 fprintf(stderr, "WARNING: could not initialize random number generator (no random device found)\n");
118                 ret = 0;
119         }
120 #endif
121
122         mpz_import(temp.z, sizeof(buf), 1, 1, 0, 0, buf);
123         gmp_randseed(RANDSTATE, temp.z);
124
125         return ret;
126 }
127
128 void d0_bignum_SHUTDOWN(void)
129 {
130         d0_bignum_clear(&temp);
131         gmp_randclear(RANDSTATE);
132 }
133
134 D0_BOOL d0_iobuf_write_bignum(d0_iobuf_t *buf, const d0_bignum_t *bignum)
135 {
136         static unsigned char numbuf[65536]; // FIXME make threadsafe
137         size_t count = 0;
138         numbuf[0] = mpz_sgn(bignum->z) & 3;
139         if((numbuf[0] & 3) != 0) // nonzero
140         {
141                 count = (mpz_sizeinbase(bignum->z, 2) + 7) / 8;
142                 if(count > sizeof(numbuf) - 1)
143                         return 0;
144                 mpz_export(numbuf+1, &count, 1, 1, 0, 0, bignum->z);
145         }
146         return d0_iobuf_write_packet(buf, numbuf, count + 1);
147 }
148
149 d0_bignum_t *d0_iobuf_read_bignum(d0_iobuf_t *buf, d0_bignum_t *bignum)
150 {
151         static unsigned char numbuf[65536]; // FIXME make threadsafe
152         size_t count = sizeof(numbuf);
153         if(!d0_iobuf_read_packet(buf, numbuf, &count))
154                 return NULL;
155         if(count < 1)
156                 return NULL;
157         if(!bignum) bignum = d0_bignum_new(); if(!bignum) return NULL;
158         if(numbuf[0] & 3) // nonzero
159         {
160                 mpz_import(bignum->z, count-1, 1, 1, 0, 0, numbuf+1);
161                 if(numbuf[0] & 2) // negative
162                         mpz_neg(bignum->z, bignum->z);
163         }
164         else // zero
165         {
166                 mpz_set_ui(bignum->z, 0);
167         }
168         return bignum;
169 }
170
171 ssize_t d0_bignum_export_unsigned(const d0_bignum_t *bignum, void *buf, size_t bufsize)
172 {
173         size_t count;
174         count = (mpz_sizeinbase(bignum->z, 2) + 7) / 8;
175         if(count > bufsize)
176                 return -1;
177         if(bufsize > count)
178         {
179                 // pad from left (big endian numbers!)
180                 memset(buf, 0, bufsize - count);
181                 buf += bufsize - count;
182         }
183         bufsize = count;
184         mpz_export(buf, &bufsize, 1, 1, 0, 0, bignum->z);
185         if(bufsize > count)
186         {
187                 // REALLY BAD
188                 // mpz_sizeinbase lied to us
189                 // buffer overflow
190                 // there is no sane way whatsoever to handle this
191                 abort();
192         }
193         if(bufsize < count)
194         {
195                 // BAD
196                 // mpz_sizeinbase lied to us
197                 // move the number
198                 if(count == 0)
199                 {
200                         memset(buf, 0, count);
201                 }
202                 else
203                 {
204                         memmove(buf + count - bufsize, buf, bufsize);
205                         memset(buf, 0, count - bufsize);
206                 }
207         }
208         return bufsize;
209 }
210
211 d0_bignum_t *d0_bignum_import_unsigned(d0_bignum_t *bignum, const void *buf, size_t bufsize)
212 {
213         size_t count;
214         if(!bignum) bignum = d0_bignum_new(); if(!bignum) return NULL;
215         mpz_import(bignum->z, bufsize, 1, 1, 0, 0, buf);
216         return bignum;
217 }
218
219 d0_bignum_t *d0_bignum_new(void)
220 {
221         d0_bignum_t *b = d0_malloc(sizeof(d0_bignum_t));
222         mpz_init(b->z);
223         return b;
224 }
225
226 void d0_bignum_free(d0_bignum_t *a)
227 {
228         mpz_clear(a->z);
229         d0_free(a);
230 }
231
232 void d0_bignum_init(d0_bignum_t *b)
233 {
234         mpz_init(b->z);
235 }
236
237 void d0_bignum_clear(d0_bignum_t *a)
238 {
239         mpz_clear(a->z);
240 }
241
242 size_t d0_bignum_size(const d0_bignum_t *r)
243 {
244         return mpz_sizeinbase(r->z, 2);
245 }
246
247 int d0_bignum_cmp(const d0_bignum_t *a, const d0_bignum_t *b)
248 {
249         return mpz_cmp(a->z, b->z);
250 }
251
252 d0_bignum_t *d0_bignum_rand_range(d0_bignum_t *r, const d0_bignum_t *min, const d0_bignum_t *max)
253 {
254         if(!r) r = d0_bignum_new(); if(!r) return NULL;
255         mpz_sub(temp.z, max->z, min->z);
256         mpz_urandomm(r->z, RANDSTATE, temp.z);
257         mpz_add(r->z, r->z, min->z);
258         return r;
259 }
260
261 d0_bignum_t *d0_bignum_rand_bit_atmost(d0_bignum_t *r, size_t n)
262 {
263         if(!r) r = d0_bignum_new(); if(!r) return NULL;
264         mpz_urandomb(r->z, RANDSTATE, n);
265         return r;
266 }
267
268 d0_bignum_t *d0_bignum_rand_bit_exact(d0_bignum_t *r, size_t n)
269 {
270         if(!r) r = d0_bignum_new(); if(!r) return NULL;
271         mpz_urandomb(r->z, RANDSTATE, n-1);
272         mpz_setbit(r->z, n-1);
273         return r;
274 }
275
276 d0_bignum_t *d0_bignum_zero(d0_bignum_t *r)
277 {
278         return d0_bignum_int(r, 0);
279 }
280
281 d0_bignum_t *d0_bignum_one(d0_bignum_t *r)
282 {
283         return d0_bignum_int(r, 1);
284 }
285
286 d0_bignum_t *d0_bignum_int(d0_bignum_t *r, int n)
287 {
288         if(!r) r = d0_bignum_new(); if(!r) return NULL;
289         mpz_set_si(r->z, n);
290         return r;
291 }
292
293 d0_bignum_t *d0_bignum_mov(d0_bignum_t *r, const d0_bignum_t *a)
294 {
295         if(r == a)
296                 return r; // trivial
297         if(!r) r = d0_bignum_new(); if(!r) return NULL;
298         mpz_set(r->z, a->z);
299         return r;
300 }
301
302 d0_bignum_t *d0_bignum_neg(d0_bignum_t *r, const d0_bignum_t *a)
303 {
304         if(!r) r = d0_bignum_new(); if(!r) return NULL;
305         mpz_neg(r->z, a->z);
306         return r;
307 }
308
309 d0_bignum_t *d0_bignum_shl(d0_bignum_t *r, const d0_bignum_t *a, ssize_t n)
310 {
311         if(!r) r = d0_bignum_new(); if(!r) return NULL;
312         if(n > 0)
313                 mpz_mul_2exp(r->z, a->z, n);
314         else if(n < 0)
315                 mpz_fdiv_q_2exp(r->z, a->z, -n);
316         else
317                 mpz_set(r->z, a->z);
318         return r;
319 }
320
321 d0_bignum_t *d0_bignum_add(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
322 {
323         if(!r) r = d0_bignum_new(); if(!r) return NULL;
324         mpz_add(r->z, a->z, b->z);
325         return r;
326 }
327
328 d0_bignum_t *d0_bignum_sub(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
329 {
330         if(!r) r = d0_bignum_new(); if(!r) return NULL;
331         mpz_sub(r->z, a->z, b->z);
332         return r;
333 }
334
335 d0_bignum_t *d0_bignum_mul(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
336 {
337         if(!r) r = d0_bignum_new(); if(!r) return NULL;
338         mpz_mul(r->z, a->z, b->z);
339         return r;
340 }
341
342 d0_bignum_t *d0_bignum_divmod(d0_bignum_t *q, d0_bignum_t *m, const d0_bignum_t *a, const d0_bignum_t *b)
343 {
344         if(!q && !m)
345                 m = d0_bignum_new();
346         if(q)
347                 if(m)
348                         mpz_fdiv_qr(q->z, m->z, a->z, b->z);
349                 else
350                         mpz_fdiv_q(q->z, a->z, b->z);
351         else
352                 mpz_fdiv_r(m->z, a->z, b->z);
353         if(m)
354                 return m;
355         else
356                 return q;
357 }
358
359 d0_bignum_t *d0_bignum_mod_add(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
360 {
361         r = d0_bignum_add(r, a, b);
362         mpz_fdiv_r(r->z, r->z, m->z);
363         return r;
364 }
365
366 d0_bignum_t *d0_bignum_mod_sub(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
367 {
368         r = d0_bignum_sub(r, a, b);
369         mpz_fdiv_r(r->z, r->z, m->z);
370         return r;
371 }
372
373 d0_bignum_t *d0_bignum_mod_mul(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
374 {
375         r = d0_bignum_mul(r, a, b);
376         mpz_fdiv_r(r->z, r->z, m->z);
377         return r;
378 }
379
380 d0_bignum_t *d0_bignum_mod_pow(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
381 {
382         if(!r) r = d0_bignum_new(); if(!r) return NULL;
383         mpz_powm(r->z, a->z, b->z, m->z);
384         return r;
385 }
386
387 D0_BOOL d0_bignum_mod_inv(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *m)
388 {
389         // here, r MUST be set, as otherwise we cannot return error state!
390         return mpz_invert(r->z, a->z, m->z);
391 }
392
393 int d0_bignum_isprime(const d0_bignum_t *r, int param)
394 {
395         return mpz_probab_prime_p(r->z, param);
396 }
397
398 d0_bignum_t *d0_bignum_gcd(d0_bignum_t *r, d0_bignum_t *s, d0_bignum_t *t, const d0_bignum_t *a, const d0_bignum_t *b)
399 {
400         if(!r) r = d0_bignum_new(); if(!r) return NULL;
401         if(s)
402                 mpz_gcdext(r->z, s->z, t ? t->z : NULL, a->z, b->z);
403         else if(t)
404                 mpz_gcdext(r->z, t->z, NULL, b->z, a->z);
405         else
406                 mpz_gcd(r->z, a->z, b->z);
407         return r;
408 }
409
410 char *d0_bignum_tostring(const d0_bignum_t *x, unsigned int base)
411 {
412         return mpz_get_str(NULL, base, x->z);
413 }