fixed several warnings that appear with -std=gnu99 -pedantic
[xonotic/darkplaces.git] / image_png.c
1 /*
2         Copyright (C) 2006  Serge "(515)" Ziryukin, Forest "LordHavoc" Hale
3
4         This program is free software; you can redistribute it and/or
5         modify it under the terms of the GNU General Public License
6         as published by the Free Software Foundation; either version 2
7         of the License, or (at your option) any later version.
8
9         This program is distributed in the hope that it will be useful,
10         but WITHOUT ANY WARRANTY; without even the implied warranty of
11         MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.
12
13         See the GNU General Public License for more details.
14
15         You should have received a copy of the GNU General Public License
16         along with this program; if not, write to:
17
18                 Free Software Foundation, Inc.
19                 59 Temple Place - Suite 330
20                 Boston, MA  02111-1307, USA
21
22 */
23
24 //[515]: png implemented into DP ONLY FOR TESTING 2d stuff with csqc
25 // so delete this bullshit :D
26 //
27 //LordHavoc: rewrote most of this.
28
29 #include "quakedef.h"
30 #include "image.h"
31 #include "image_png.h"
32
33 static void                             (*qpng_set_sig_bytes)           (void*, int);
34 static int                              (*qpng_sig_cmp)                         (const unsigned char*, size_t, size_t);
35 static void*                    (*qpng_create_read_struct)      (const char*, void*, void(*)(void *png, const char *message), void(*)(void *png, const char *message));
36 static void*                    (*qpng_create_info_struct)      (void*);
37 static void                             (*qpng_read_info)                       (void*, void*);
38 static void                             (*qpng_set_expand)                      (void*);
39 static void                             (*qpng_set_gray_1_2_4_to_8)     (void*);
40 static void                             (*qpng_set_palette_to_rgb)      (void*);
41 static void                             (*qpng_set_tRNS_to_alpha)       (void*);
42 static void                             (*qpng_set_gray_to_rgb)         (void*);
43 static void                             (*qpng_set_filler)                      (void*, unsigned int, int);
44 static void                             (*qpng_read_update_info)        (void*, void*);
45 static void                             (*qpng_read_image)                      (void*, unsigned char**);
46 static void                             (*qpng_read_end)                        (void*, void*);
47 static void                             (*qpng_destroy_read_struct)     (void**, void**, void**);
48 static void                             (*qpng_set_read_fn)                     (void*, void*, void(*)(void *png, unsigned char *data, size_t length));
49 static unsigned int             (*qpng_get_valid)                       (void*, void*, unsigned int);
50 static unsigned int             (*qpng_get_rowbytes)            (void*, void*);
51 static unsigned char    (*qpng_get_channels)            (void*, void*);
52 static unsigned char    (*qpng_get_bit_depth)           (void*, void*);
53 static unsigned int             (*qpng_get_IHDR)                        (void*, void*, unsigned long*, unsigned long*, int *, int *, int *, int *, int *);
54 static char*                    (*qpng_get_libpng_ver)          (void*);
55
56 static dllfunction_t pngfuncs[] =
57 {
58         {"png_set_sig_bytes",           (void **) &qpng_set_sig_bytes},
59         {"png_sig_cmp",                         (void **) &qpng_sig_cmp},
60         {"png_create_read_struct",      (void **) &qpng_create_read_struct},
61         {"png_create_info_struct",      (void **) &qpng_create_info_struct},
62         {"png_read_info",                       (void **) &qpng_read_info},
63         {"png_set_expand",                      (void **) &qpng_set_expand},
64         {"png_set_gray_1_2_4_to_8",     (void **) &qpng_set_gray_1_2_4_to_8},
65         {"png_set_palette_to_rgb",      (void **) &qpng_set_palette_to_rgb},
66         {"png_set_tRNS_to_alpha",       (void **) &qpng_set_tRNS_to_alpha},
67         {"png_set_gray_to_rgb",         (void **) &qpng_set_gray_to_rgb},
68         {"png_set_filler",                      (void **) &qpng_set_filler},
69         {"png_read_update_info",        (void **) &qpng_read_update_info},
70         {"png_read_image",                      (void **) &qpng_read_image},
71         {"png_read_end",                        (void **) &qpng_read_end},
72         {"png_destroy_read_struct",     (void **) &qpng_destroy_read_struct},
73         {"png_set_read_fn",                     (void **) &qpng_set_read_fn},
74         {"png_get_valid",                       (void **) &qpng_get_valid},
75         {"png_get_rowbytes",            (void **) &qpng_get_rowbytes},
76         {"png_get_channels",            (void **) &qpng_get_channels},
77         {"png_get_bit_depth",           (void **) &qpng_get_bit_depth},
78         {"png_get_IHDR",                        (void **) &qpng_get_IHDR},
79         {"png_get_libpng_ver",          (void **) &qpng_get_libpng_ver},
80         {NULL, NULL}
81 };
82
83 // Handle for PNG DLL
84 dllhandle_t png_dll = NULL;
85
86
87 /*
88 =================================================================
89
90   DLL load & unload
91
92 =================================================================
93 */
94
95 /*
96 ====================
97 PNG_OpenLibrary
98
99 Try to load the PNG DLL
100 ====================
101 */
102 qboolean PNG_OpenLibrary (void)
103 {
104         const char* dllnames [] =
105         {
106 #ifdef WIN64
107                 "libpng12_64.dll",
108 #elif WIN32
109                 "libpng12.dll",
110 #elif defined(MACOSX)
111                 "libpng12.0.dylib",
112 #else
113                 "libpng12.so.0",
114                 "libpng.so", // FreeBSD
115 #endif
116                 NULL
117         };
118
119         // Already loaded?
120         if (png_dll)
121                 return true;
122
123         // Load the DLL
124         return Sys_LoadLibrary (dllnames, &png_dll, pngfuncs);
125 }
126
127
128 /*
129 ====================
130 PNG_CloseLibrary
131
132 Unload the PNG DLL
133 ====================
134 */
135 void PNG_CloseLibrary (void)
136 {
137         Sys_UnloadLibrary (&png_dll);
138 }
139
140
141 /*
142 =================================================================
143
144         PNG decompression
145
146 =================================================================
147 */
148
149 #define PNG_LIBPNG_VER_STRING "1.2.4"
150
151 #define PNG_COLOR_MASK_PALETTE    1
152 #define PNG_COLOR_MASK_COLOR      2
153 #define PNG_COLOR_MASK_ALPHA      4
154
155 #define PNG_COLOR_TYPE_GRAY 0
156 #define PNG_COLOR_TYPE_PALETTE  (PNG_COLOR_MASK_COLOR | PNG_COLOR_MASK_PALETTE)
157 #define PNG_COLOR_TYPE_RGB        (PNG_COLOR_MASK_COLOR)
158 #define PNG_COLOR_TYPE_RGB_ALPHA  (PNG_COLOR_MASK_COLOR | PNG_COLOR_MASK_ALPHA)
159 #define PNG_COLOR_TYPE_GRAY_ALPHA (PNG_COLOR_MASK_ALPHA)
160
161 #define PNG_COLOR_TYPE_RGBA  PNG_COLOR_TYPE_RGB_ALPHA
162 #define PNG_COLOR_TYPE_GA  PNG_COLOR_TYPE_GRAY_ALPHA
163
164 #define PNG_INFO_tRNS 0x0010
165
166 // this struct is only used for status information during loading
167 static struct
168 {
169         const unsigned char     *tmpBuf;
170         int             tmpBuflength;
171         int             tmpi;
172         //int           FBgColor;
173         //int           FTransparent;
174         unsigned int    FRowBytes;
175         //double        FGamma;
176         //double        FScreenGamma;
177         unsigned char   **FRowPtrs;
178         unsigned char   *Data;
179         //char  *Title;
180         //char  *Author;
181         //char  *Description;
182         int             BitDepth;
183         int             BytesPerPixel;
184         int             ColorType;
185         unsigned long   Height; // retarded libpng 1.2 pngconf.h uses long (64bit/32bit depending on arch)
186         unsigned long   Width; // retarded libpng 1.2 pngconf.h uses long (64bit/32bit depending on arch)
187         int             Interlace;
188         int             Compression;
189         int             Filter;
190         //double        LastModified;
191         //int           Transparent;
192 } my_png;
193
194 //LordHavoc: removed __cdecl prefix, added overrun protection, and rewrote this to be more efficient
195 void PNG_fReadData(void *png, unsigned char *data, size_t length)
196 {
197         size_t l;
198         l = my_png.tmpBuflength - my_png.tmpi;
199         if (l < length)
200         {
201                 Con_Printf("PNG_fReadData: overrun by %i bytes\n", (int)(length - l));
202                 // a read going past the end of the file, fill in the remaining bytes
203                 // with 0 just to be consistent
204                 memset(data + l, 0, length - l);
205                 length = l;
206         }
207         memcpy(data, my_png.tmpBuf + my_png.tmpi, length);
208         my_png.tmpi += (int)length;
209         //Com_HexDumpToConsole(data, (int)length);
210 }
211
212 void PNG_error_fn(void *png, const char *message)
213 {
214         Con_Printf("PNG_LoadImage: error: %s\n", message);
215 }
216
217 void PNG_warning_fn(void *png, const char *message)
218 {
219         Con_Printf("PNG_LoadImage: warning: %s\n", message);
220 }
221
222 extern int      image_width;
223 extern int      image_height;
224
225 unsigned char *PNG_LoadImage_BGRA (const unsigned char *raw, int filesize)
226 {
227         unsigned int c;
228         unsigned int    y;
229         void *png, *pnginfo;
230         unsigned char *imagedata = NULL;
231         unsigned char ioBuffer[8192];
232
233         // FIXME: register an error handler so that abort() won't be called on error
234
235         // No DLL = no PNGs
236         if (!png_dll)
237                 return NULL;
238
239         if(qpng_sig_cmp(raw, 0, filesize))
240                 return NULL;
241         png = (void *)qpng_create_read_struct(PNG_LIBPNG_VER_STRING, 0, PNG_error_fn, PNG_warning_fn);
242         if(!png)
243                 return NULL;
244
245         // this must be memset before the setjmp error handler, because it relies
246         // on the fields in this struct for cleanup
247         memset(&my_png, 0, sizeof(my_png));
248
249         // NOTE: this relies on jmp_buf being the first thing in the png structure
250         // created by libpng! (this is correct for libpng 1.2.x)
251 #ifdef __cplusplus
252 #ifdef MACOSX
253         if (setjmp((int *)png))
254 #else
255         if (setjmp((__jmp_buf_tag *)png))
256 #endif
257 #else
258         if (setjmp(png))
259 #endif
260         {
261                 if (my_png.Data)
262                         Mem_Free(my_png.Data);
263                 my_png.Data = NULL;
264                 if (my_png.FRowPtrs)
265                         Mem_Free(my_png.FRowPtrs);
266                 my_png.FRowPtrs = NULL;
267                 qpng_destroy_read_struct(&png, &pnginfo, 0);
268                 return NULL;
269         }
270         //
271
272         pnginfo = qpng_create_info_struct(png);
273         if(!pnginfo)
274         {
275                 qpng_destroy_read_struct(&png, &pnginfo, 0);
276                 return NULL;
277         }
278         qpng_set_sig_bytes(png, 0);
279
280         my_png.tmpBuf = raw;
281         my_png.tmpBuflength = filesize;
282         my_png.tmpi = 0;
283         //my_png.Data           = NULL;
284         //my_png.FRowPtrs       = NULL;
285         //my_png.Height         = 0;
286         //my_png.Width          = 0;
287         my_png.ColorType        = PNG_COLOR_TYPE_RGB;
288         //my_png.Interlace      = 0;
289         //my_png.Compression    = 0;
290         //my_png.Filter         = 0;
291         qpng_set_read_fn(png, ioBuffer, PNG_fReadData);
292         qpng_read_info(png, pnginfo);
293         qpng_get_IHDR(png, pnginfo, &my_png.Width, &my_png.Height,&my_png.BitDepth, &my_png.ColorType, &my_png.Interlace, &my_png.Compression, &my_png.Filter);
294
295         // this check guards against pngconf.h with unsigned int *width/height parameters on big endian systems by detecting the strange values and shifting them down 32bits
296         // (if it's little endian the unwritten bytes are the most significant
297         //  ones and we don't worry about that)
298         //
299         // this is only necessary because of retarded 64bit png_uint_32 types in libpng 1.2, which can (conceivably) vary by platform
300 #if LONG_MAX > 4000000000
301         if (my_png.Width > LONG_MAX || my_png.Height > LONG_MAX)
302         {
303                 my_png.Width >>= 32;
304                 my_png.Height >>= 32;
305         }
306 #endif
307
308         if (my_png.ColorType == PNG_COLOR_TYPE_PALETTE)
309                 qpng_set_palette_to_rgb(png);
310         if (my_png.ColorType == PNG_COLOR_TYPE_GRAY || my_png.ColorType == PNG_COLOR_TYPE_GRAY_ALPHA)
311         {
312                 qpng_set_gray_to_rgb(png);
313                 if (my_png.BitDepth < 8)
314                         qpng_set_gray_1_2_4_to_8(png);
315         }
316
317         if (qpng_get_valid(png, pnginfo, PNG_INFO_tRNS))
318                 qpng_set_tRNS_to_alpha(png);
319         if (my_png.BitDepth == 8 && !(my_png.ColorType  & PNG_COLOR_MASK_ALPHA))
320                 qpng_set_filler(png, 255, 1);
321         if (( my_png.ColorType == PNG_COLOR_TYPE_GRAY) || (my_png.ColorType == PNG_COLOR_TYPE_GRAY_ALPHA ))
322                 qpng_set_gray_to_rgb(png);
323         if (my_png.BitDepth < 8)
324                 qpng_set_expand(png);
325
326         qpng_read_update_info(png, pnginfo);
327
328         my_png.FRowBytes = qpng_get_rowbytes(png, pnginfo);
329         my_png.BytesPerPixel = qpng_get_channels(png, pnginfo);
330
331         my_png.FRowPtrs = (unsigned char **)Mem_Alloc(tempmempool, my_png.Height * sizeof(*my_png.FRowPtrs));
332         if (my_png.FRowPtrs)
333         {
334                 imagedata = (unsigned char *)Mem_Alloc(tempmempool, my_png.Height * my_png.FRowBytes);
335                 if(imagedata)
336                 {
337                         my_png.Data = imagedata;
338                         for(y = 0;y < my_png.Height;y++)
339                                 my_png.FRowPtrs[y] = my_png.Data + y * my_png.FRowBytes;
340                         qpng_read_image(png, my_png.FRowPtrs);
341                 }
342                 else
343                 {
344                         Con_Printf("PNG_LoadImage : not enough memory\n");
345                         qpng_destroy_read_struct(&png, &pnginfo, 0);
346                         Mem_Free(my_png.FRowPtrs);
347                         return NULL;
348                 }
349                 Mem_Free(my_png.FRowPtrs);
350                 my_png.FRowPtrs = NULL;
351         }
352         else
353         {
354                 Con_Printf("PNG_LoadImage : not enough memory\n");
355                 qpng_destroy_read_struct(&png, &pnginfo, 0);
356                 return NULL;
357         }
358
359         qpng_read_end(png, pnginfo);
360         qpng_destroy_read_struct(&png, &pnginfo, 0);
361
362         image_width = (int)my_png.Width;
363         image_height = (int)my_png.Height;
364
365         if (my_png.BitDepth != 8)
366         {
367                 Con_Printf ("PNG_LoadImage : bad color depth\n");
368                 Mem_Free(imagedata);
369                 return NULL;
370         }
371
372         // swizzle RGBA to BGRA
373         for (y = 0;y < (unsigned int)(image_width*image_height*4);y += 4)
374         {
375                 c = imagedata[y+0];
376                 imagedata[y+0] = imagedata[y+2];
377                 imagedata[y+2] = c;
378         }
379
380         return imagedata;
381 }
382