fix const warnings
[xonotic/d0_blind_id.git] / d0_bignum-openssl.c
1 /*
2  * FILE:        d0_bignum-openssl.c
3  * AUTHOR:      Rudolf Polzer - divVerent@xonotic.org
4  * 
5  * Copyright (c) 2010, Rudolf Polzer
6  * All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer.
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  * 3. Neither the name of the copyright holder nor the names of contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  * 
20  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTOR(S) ``AS IS'' AND
21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTOR(S) BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  *
32  * $Format:commit %H$
33  * $Id$
34  */
35
36 /* NOTE: this file links against openssl (http://www.openssl.org), which is
37  * under the OpenSSL License. You may have to abide to its terms too if you use
38  * this file.
39  * To alternatively link to GMP, provide the option --without-openssl to
40  * ./configure.
41  */
42
43 #include "d0_bignum.h"
44
45 #include <assert.h>
46 #include <string.h>
47 #include <openssl/bn.h>
48
49 // for stupid OpenSSL versions in Mac OS X
50 #ifndef BN_is_negative
51 #define BN_is_negative(a) ((a)->neg != 0)
52 #define BN_set_negative(a,n) ((a)->neg = ((n) && !BN_is_zero(a)))
53 #endif
54
55 struct d0_bignum_s
56 {
57         BIGNUM z;
58 };
59
60 static d0_bignum_t temp;
61 static BN_CTX *ctx;
62
63 #include <time.h>
64 #include <stdio.h>
65
66 D0_WARN_UNUSED_RESULT D0_BOOL d0_bignum_INITIALIZE(void)
67 {
68         ctx = BN_CTX_new();
69         d0_bignum_init(&temp);
70         return 1;
71 }
72
73 void d0_bignum_SHUTDOWN(void)
74 {
75         d0_bignum_clear(&temp);
76         BN_CTX_free(ctx);
77         ctx = NULL;
78 }
79
80 D0_BOOL d0_iobuf_write_bignum(d0_iobuf_t *buf, const d0_bignum_t *bignum)
81 {
82         static unsigned char numbuf[65536];
83         size_t count = 0;
84         numbuf[0] = BN_is_zero(&bignum->z) ? 0 : BN_is_negative(&bignum->z) ? 3 : 1;
85         if((numbuf[0] & 3) != 0) // nonzero
86         {
87                 count = BN_num_bytes(&bignum->z);
88                 if(count > sizeof(numbuf) - 1)
89                         return 0;
90                 BN_bn2bin(&bignum->z, numbuf+1);
91         }
92         return d0_iobuf_write_packet(buf, numbuf, count + 1);
93 }
94
95 d0_bignum_t *d0_iobuf_read_bignum(d0_iobuf_t *buf, d0_bignum_t *bignum)
96 {
97         static unsigned char numbuf[65536];
98         size_t count = sizeof(numbuf);
99         if(!d0_iobuf_read_packet(buf, numbuf, &count))
100                 return NULL;
101         if(count < 1)
102                 return NULL;
103         if(!bignum) bignum = d0_bignum_new(); if(!bignum) return NULL;
104         if(numbuf[0] & 3) // nonzero
105         {
106                 BN_bin2bn(numbuf+1, count-1, &bignum->z);
107                 if(numbuf[0] & 2) // negative
108                         BN_set_negative(&bignum->z, 1);
109         }
110         else // zero
111         {
112                 BN_zero(&bignum->z);
113         }
114         return bignum;
115 }
116
117 ssize_t d0_bignum_export_unsigned(const d0_bignum_t *bignum, void *buf, size_t bufsize)
118 {
119         size_t count;
120         count = BN_num_bytes(&bignum->z);
121         if(count > bufsize)
122                 return -1;
123         if(bufsize > count)
124         {
125                 // pad from left (big endian numbers!)
126                 memset(buf, 0, bufsize - count);
127                 buf += bufsize - count;
128         }
129         BN_bn2bin(&bignum->z, buf);
130         return bufsize;
131 }
132
133 d0_bignum_t *d0_bignum_import_unsigned(d0_bignum_t *bignum, const void *buf, size_t bufsize)
134 {
135         size_t count;
136         if(!bignum) bignum = d0_bignum_new(); if(!bignum) return NULL;
137         BN_bin2bn(buf, bufsize, &bignum->z);
138         return bignum;
139 }
140
141 d0_bignum_t *d0_bignum_new(void)
142 {
143         d0_bignum_t *b = d0_malloc(sizeof(d0_bignum_t));
144         BN_init(&b->z);
145         return b;
146 }
147
148 void d0_bignum_free(d0_bignum_t *a)
149 {
150         BN_free(&a->z);
151         d0_free(a);
152 }
153
154 void d0_bignum_init(d0_bignum_t *b)
155 {
156         BN_init(&b->z);
157 }
158
159 void d0_bignum_clear(d0_bignum_t *a)
160 {
161         BN_free(&a->z);
162 }
163
164 size_t d0_bignum_size(const d0_bignum_t *r)
165 {
166         return BN_num_bits(&r->z);
167 }
168
169 int d0_bignum_cmp(const d0_bignum_t *a, const d0_bignum_t *b)
170 {
171         return BN_cmp(&a->z, &b->z);
172 }
173
174 d0_bignum_t *d0_bignum_rand_range(d0_bignum_t *r, const d0_bignum_t *min, const d0_bignum_t *max)
175 {
176         if(!r) r = d0_bignum_new(); if(!r) return NULL;
177         BN_sub(&temp.z, &max->z, &min->z);
178         BN_rand_range(&r->z, &temp.z);
179         BN_add(&r->z, &r->z, &min->z);
180         return r;
181 }
182
183 d0_bignum_t *d0_bignum_rand_bit_atmost(d0_bignum_t *r, size_t n)
184 {
185         if(!r) r = d0_bignum_new(); if(!r) return NULL;
186         BN_rand(&r->z, n, -1, 0);
187         return r;
188 }
189
190 d0_bignum_t *d0_bignum_rand_bit_exact(d0_bignum_t *r, size_t n)
191 {
192         if(!r) r = d0_bignum_new(); if(!r) return NULL;
193         BN_rand(&r->z, n, 0, 0);
194         return r;
195 }
196
197 d0_bignum_t *d0_bignum_zero(d0_bignum_t *r)
198 {
199         if(!r) r = d0_bignum_new(); if(!r) return NULL;
200         BN_zero(&r->z);
201         return r;
202 }
203
204 d0_bignum_t *d0_bignum_one(d0_bignum_t *r)
205 {
206         if(!r) r = d0_bignum_new(); if(!r) return NULL;
207         BN_one(&r->z);
208         return r;
209 }
210
211 d0_bignum_t *d0_bignum_int(d0_bignum_t *r, int n)
212 {
213         if(!r) r = d0_bignum_new(); if(!r) return NULL;
214         BN_set_word(&r->z, n);
215         return r;
216 }
217
218 d0_bignum_t *d0_bignum_mov(d0_bignum_t *r, const d0_bignum_t *a)
219 {
220         if(r == a)
221                 return r; // trivial
222         if(!r) r = d0_bignum_new(); if(!r) return NULL;
223         BN_copy(&r->z, &a->z);
224         return r;
225 }
226
227 d0_bignum_t *d0_bignum_neg(d0_bignum_t *r, const d0_bignum_t *a)
228 {
229         if(!r) r = d0_bignum_new(); if(!r) return NULL;
230         if(r != a)
231                 BN_copy(&r->z, &a->z);
232         BN_set_negative(&r->z, !BN_is_negative(&r->z));
233         return r;
234 }
235
236 d0_bignum_t *d0_bignum_shl(d0_bignum_t *r, const d0_bignum_t *a, ssize_t n)
237 {
238         if(!r) r = d0_bignum_new(); if(!r) return NULL;
239         if(n > 0)
240                 BN_lshift(&r->z, &a->z, n);
241         else if(n < 0)
242                 BN_rshift(&r->z, &a->z, -n);
243         else if(r != a)
244                 BN_copy(&r->z, &a->z);
245         return r;
246 }
247
248 d0_bignum_t *d0_bignum_add(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
249 {
250         if(!r) r = d0_bignum_new(); if(!r) return NULL;
251         BN_add(&r->z, &a->z, &b->z);
252         return r;
253 }
254
255 d0_bignum_t *d0_bignum_sub(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
256 {
257         if(!r) r = d0_bignum_new(); if(!r) return NULL;
258         BN_sub(&r->z, &a->z, &b->z);
259         return r;
260 }
261
262 d0_bignum_t *d0_bignum_mul(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b)
263 {
264         if(!r) r = d0_bignum_new(); if(!r) return NULL;
265         BN_mul(&r->z, &a->z, &b->z, ctx);
266         return r;
267 }
268
269 d0_bignum_t *d0_bignum_divmod(d0_bignum_t *q, d0_bignum_t *m, const d0_bignum_t *a, const d0_bignum_t *b)
270 {
271         if(!q && !m)
272                 m = d0_bignum_new();
273         if(q)
274         {
275                 if(m)
276                         BN_div(&q->z, &m->z, &a->z, &b->z, ctx);
277                 else
278                         BN_div(&q->z, NULL, &a->z, &b->z, ctx);
279                 assert(!"I know this code is broken (rounds towards zero), need handle negative correctly");
280         }
281         else
282                 BN_nnmod(&m->z, &a->z, &b->z, ctx);
283         if(m)
284                 return m;
285         else
286                 return q;
287 }
288
289 d0_bignum_t *d0_bignum_mod_add(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
290 {
291         if(!r) r = d0_bignum_new(); if(!r) return NULL;
292         BN_mod_add(&r->z, &a->z, &b->z, &m->z, ctx);
293         return r;
294 }
295
296 d0_bignum_t *d0_bignum_mod_sub(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
297 {
298         if(!r) r = d0_bignum_new(); if(!r) return NULL;
299         BN_mod_sub(&r->z, &a->z, &b->z, &m->z, ctx);
300         return r;
301 }
302
303 d0_bignum_t *d0_bignum_mod_mul(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
304 {
305         if(!r) r = d0_bignum_new(); if(!r) return NULL;
306         BN_mod_mul(&r->z, &a->z, &b->z, &m->z, ctx);
307         return r;
308 }
309
310 d0_bignum_t *d0_bignum_mod_pow(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *b, const d0_bignum_t *m)
311 {
312         if(!r) r = d0_bignum_new(); if(!r) return NULL;
313         BN_mod_exp(&r->z, &a->z, &b->z, &m->z, ctx);
314         return r;
315 }
316
317 D0_BOOL d0_bignum_mod_inv(d0_bignum_t *r, const d0_bignum_t *a, const d0_bignum_t *m)
318 {
319         // here, r MUST be set, as otherwise we cannot return error state!
320         return !!BN_mod_inverse(&r->z, &a->z, &m->z, ctx);
321 }
322
323 int d0_bignum_isprime(const d0_bignum_t *r, int param)
324 {
325         if(param <= 0)
326                 return BN_is_prime_fasttest(&r->z, 1, NULL, ctx, NULL, 1);
327         else
328                 return BN_is_prime(&r->z, param, NULL, ctx, NULL);
329 }
330
331 d0_bignum_t *d0_bignum_gcd(d0_bignum_t *r, d0_bignum_t *s, d0_bignum_t *t, const d0_bignum_t *a, const d0_bignum_t *b)
332 {
333         if(!r) r = d0_bignum_new(); if(!r) return NULL;
334         if(s)
335                 assert(!"Extended gcd not implemented");
336         else if(t)
337                 assert(!"Extended gcd not implemented");
338         else
339                 BN_gcd(&r->z, &a->z, &b->z, ctx);
340         return r;
341 }
342
343 char *d0_bignum_tostring(const d0_bignum_t *x, unsigned int base)
344 {
345         if(base == 10)
346                 return BN_bn2dec(&x->z);
347         else if(base == 16)
348                 return BN_bn2hex(&x->z);
349         else
350                 assert(!"Other bases not implemented");
351 }