some updates to the Linux build system - obtained a core binary and all required...
[xonotic/netradiant.git] / plugins / image / jpeg.cpp
1 /*\r
2 Copyright (c) 2001, Loki software, inc.\r
3 All rights reserved.\r
4 \r
5 Redistribution and use in source and binary forms, with or without modification, \r
6 are permitted provided that the following conditions are met:\r
7 \r
8 Redistributions of source code must retain the above copyright notice, this list \r
9 of conditions and the following disclaimer.\r
10 \r
11 Redistributions in binary form must reproduce the above copyright notice, this\r
12 list of conditions and the following disclaimer in the documentation and/or\r
13 other materials provided with the distribution.\r
14 \r
15 Neither the name of Loki software nor the names of its contributors may be used \r
16 to endorse or promote products derived from this software without specific prior \r
17 written permission. \r
18 \r
19 THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS ``AS IS'' \r
20 AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE \r
21 IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE \r
22 DISCLAIMED. IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE FOR ANY \r
23 DIRECT,INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES \r
24 (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; \r
25 LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON \r
26 ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT \r
27 (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS \r
28 SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. \r
29 */\r
30 \r
31 //\r
32 // Functions to load JPEG files from a buffer, based on jdatasrc.c\r
33 //\r
34 // Leonardo Zide (leo@lokigames.com)\r
35 //\r
36 \r
37 #include <setjmp.h>\r
38 #include <stdlib.h>\r
39 #include <stdio.h>\r
40 #include <string.h>\r
41 #include <glib.h>\r
42 \r
43 #include <jpeglib.h>\r
44 #include <jerror.h>\r
45  /*\r
46 extern "C" {\r
47 #include "radiant_jpeglib.h"\r
48 #include "jpeg6/jerror.h"\r
49 }\r
50  */\r
51 \r
52 #include "image.h"\r
53 \r
54 /* Expanded data source object for stdio input */\r
55 \r
56 typedef struct {\r
57   struct jpeg_source_mgr pub;   /* public fields */\r
58 \r
59   int src_size;\r
60   JOCTET * src_buffer;\r
61 \r
62   JOCTET * buffer;              /* start of buffer */\r
63   boolean start_of_file;        /* have we gotten any data yet? */\r
64 } my_source_mgr;\r
65 \r
66 typedef my_source_mgr * my_src_ptr;\r
67 \r
68 #define INPUT_BUF_SIZE  4096    /* choose an efficiently fread'able size */\r
69 \r
70 \r
71 /*\r
72  * Initialize source --- called by jpeg_read_header\r
73  * before any data is actually read.\r
74  */\r
75 \r
76 static void my_init_source (j_decompress_ptr cinfo)\r
77 {\r
78   my_src_ptr src = (my_src_ptr) cinfo->src;\r
79 \r
80   /* We reset the empty-input-file flag for each image,\r
81    * but we don't clear the input buffer.\r
82    * This is correct behavior for reading a series of images from one source.\r
83    */\r
84   src->start_of_file = TRUE;\r
85 }\r
86 \r
87 \r
88 /*\r
89  * Fill the input buffer --- called whenever buffer is emptied.\r
90  *\r
91  * In typical applications, this should read fresh data into the buffer\r
92  * (ignoring the current state of next_input_byte & bytes_in_buffer),\r
93  * reset the pointer & count to the start of the buffer, and return TRUE\r
94  * indicating that the buffer has been reloaded.  It is not necessary to\r
95  * fill the buffer entirely, only to obtain at least one more byte.\r
96  *\r
97  * There is no such thing as an EOF return.  If the end of the file has been\r
98  * reached, the routine has a choice of ERREXIT() or inserting fake data into\r
99  * the buffer.  In most cases, generating a warning message and inserting a\r
100  * fake EOI marker is the best course of action --- this will allow the\r
101  * decompressor to output however much of the image is there.  However,\r
102  * the resulting error message is misleading if the real problem is an empty\r
103  * input file, so we handle that case specially.\r
104  *\r
105  * In applications that need to be able to suspend compression due to input\r
106  * not being available yet, a FALSE return indicates that no more data can be\r
107  * obtained right now, but more may be forthcoming later.  In this situation,\r
108  * the decompressor will return to its caller (with an indication of the\r
109  * number of scanlines it has read, if any).  The application should resume\r
110  * decompression after it has loaded more data into the input buffer.  Note\r
111  * that there are substantial restrictions on the use of suspension --- see\r
112  * the documentation.\r
113  *\r
114  * When suspending, the decompressor will back up to a convenient restart point\r
115  * (typically the start of the current MCU). next_input_byte & bytes_in_buffer\r
116  * indicate where the restart point will be if the current call returns FALSE.\r
117  * Data beyond this point must be rescanned after resumption, so move it to\r
118  * the front of the buffer rather than discarding it.\r
119  */\r
120 \r
121 static boolean my_fill_input_buffer (j_decompress_ptr cinfo)\r
122 {\r
123   my_src_ptr src = (my_src_ptr) cinfo->src;\r
124   size_t nbytes;\r
125 \r
126   if (src->src_size > INPUT_BUF_SIZE)\r
127     nbytes = INPUT_BUF_SIZE;\r
128   else\r
129     nbytes = src->src_size;\r
130 \r
131   memcpy (src->buffer, src->src_buffer, nbytes);\r
132   src->src_buffer += nbytes;\r
133   src->src_size -= nbytes;\r
134 \r
135   if (nbytes <= 0) {\r
136     if (src->start_of_file)     /* Treat empty input file as fatal error */\r
137       ERREXIT(cinfo, JERR_INPUT_EMPTY);\r
138     WARNMS(cinfo, JWRN_JPEG_EOF);\r
139     /* Insert a fake EOI marker */\r
140     src->buffer[0] = (JOCTET) 0xFF;\r
141     src->buffer[1] = (JOCTET) JPEG_EOI;\r
142     nbytes = 2;\r
143   }\r
144 \r
145   src->pub.next_input_byte = src->buffer;\r
146   src->pub.bytes_in_buffer = nbytes;\r
147   src->start_of_file = FALSE;\r
148 \r
149   return TRUE;\r
150 }\r
151 \r
152 \r
153 /*\r
154  * Skip data --- used to skip over a potentially large amount of\r
155  * uninteresting data (such as an APPn marker).\r
156  *\r
157  * Writers of suspendable-input applications must note that skip_input_data\r
158  * is not granted the right to give a suspension return.  If the skip extends\r
159  * beyond the data currently in the buffer, the buffer can be marked empty so\r
160  * that the next read will cause a fill_input_buffer call that can suspend.\r
161  * Arranging for additional bytes to be discarded before reloading the input\r
162  * buffer is the application writer's problem.\r
163  */\r
164 \r
165 static void my_skip_input_data (j_decompress_ptr cinfo, long num_bytes)\r
166 {\r
167   my_src_ptr src = (my_src_ptr) cinfo->src;\r
168 \r
169   /* Just a dumb implementation for now.  Could use fseek() except\r
170    * it doesn't work on pipes.  Not clear that being smart is worth\r
171    * any trouble anyway --- large skips are infrequent.\r
172    */\r
173   if (num_bytes > 0) {\r
174     while (num_bytes > (long) src->pub.bytes_in_buffer) {\r
175       num_bytes -= (long) src->pub.bytes_in_buffer;\r
176       (void) my_fill_input_buffer(cinfo);\r
177       /* note we assume that fill_input_buffer will never return FALSE,\r
178        * so suspension need not be handled.\r
179        */\r
180     }\r
181     src->pub.next_input_byte += (size_t) num_bytes;\r
182     src->pub.bytes_in_buffer -= (size_t) num_bytes;\r
183   }\r
184 }\r
185 \r
186 \r
187 /*\r
188  * An additional method that can be provided by data source modules is the\r
189  * resync_to_restart method for error recovery in the presence of RST markers.\r
190  * For the moment, this source module just uses the default resync method\r
191  * provided by the JPEG library.  That method assumes that no backtracking\r
192  * is possible.\r
193  */\r
194 \r
195 \r
196 /*\r
197  * Terminate source --- called by jpeg_finish_decompress\r
198  * after all data has been read.  Often a no-op.\r
199  *\r
200  * NB: *not* called by jpeg_abort or jpeg_destroy; surrounding\r
201  * application must deal with any cleanup that should happen even\r
202  * for error exit.\r
203  */\r
204 \r
205 static void my_term_source (j_decompress_ptr cinfo)\r
206 {\r
207   /* no work necessary here */\r
208 }\r
209 \r
210 \r
211 /*\r
212  * Prepare for input from a stdio stream.\r
213  * The caller must have already opened the stream, and is responsible\r
214  * for closing it after finishing decompression.\r
215  */\r
216 \r
217 static void jpeg_buffer_src (j_decompress_ptr cinfo, void* buffer, int bufsize)\r
218 {\r
219   my_src_ptr src;\r
220 \r
221   /* The source object and input buffer are made permanent so that a series\r
222    * of JPEG images can be read from the same file by calling jpeg_stdio_src\r
223    * only before the first one.  (If we discarded the buffer at the end of\r
224    * one image, we'd likely lose the start of the next one.)\r
225    * This makes it unsafe to use this manager and a different source\r
226    * manager serially with the same JPEG object.  Caveat programmer.\r
227    */\r
228   if (cinfo->src == NULL) {     /* first time for this JPEG object? */\r
229     cinfo->src = (struct jpeg_source_mgr *)\r
230       (*cinfo->mem->alloc_small) ((j_common_ptr) cinfo, JPOOL_PERMANENT,\r
231                                   sizeof (my_source_mgr));\r
232     src = (my_src_ptr) cinfo->src;\r
233     src->buffer = (JOCTET *)\r
234       (*cinfo->mem->alloc_small) ((j_common_ptr) cinfo, JPOOL_PERMANENT,\r
235                                   INPUT_BUF_SIZE * sizeof (JOCTET));\r
236   }\r
237 \r
238   src = (my_src_ptr) cinfo->src;\r
239   src->pub.init_source = my_init_source;\r
240   src->pub.fill_input_buffer = my_fill_input_buffer;\r
241   src->pub.skip_input_data = my_skip_input_data;\r
242   src->pub.resync_to_restart = jpeg_resync_to_restart; /* use default method */\r
243   src->pub.term_source = my_term_source;\r
244   src->src_buffer = (JOCTET *)buffer;\r
245   src->src_size = bufsize;\r
246   src->pub.bytes_in_buffer = 0; /* forces fill_input_buffer on first read */\r
247   src->pub.next_input_byte = NULL; /* until buffer loaded */\r
248 }\r
249 \r
250 // =============================================================================\r
251 \r
252 static char errormsg[JMSG_LENGTH_MAX];\r
253 \r
254 typedef struct my_jpeg_error_mgr\r
255 {\r
256   struct jpeg_error_mgr pub;  // "public" fields\r
257   jmp_buf setjmp_buffer;      // for return to caller \r
258 } bt_jpeg_error_mgr;\r
259 \r
260 static void my_jpeg_error_exit (j_common_ptr cinfo)\r
261 {\r
262   my_jpeg_error_mgr* myerr = (bt_jpeg_error_mgr*) cinfo->err;\r
263 \r
264   (*cinfo->err->format_message) (cinfo, errormsg);\r
265 \r
266   longjmp (myerr->setjmp_buffer, 1);\r
267 }\r
268 \r
269 // stash a scanline\r
270 static void j_putRGBScanline (unsigned char* jpegline, int widthPix, unsigned char* outBuf, int row)\r
271 {\r
272   int offset = row * widthPix * 4;\r
273   int count;\r
274 \r
275   for (count = 0; count < widthPix; count++) \r
276   {\r
277     unsigned char iRed, iBlu, iGrn;\r
278     unsigned char *oRed, *oBlu, *oGrn, *oAlp;\r
279 \r
280     iRed = *(jpegline + count * 3 + 0);\r
281     iGrn = *(jpegline + count * 3 + 1);\r
282     iBlu = *(jpegline + count * 3 + 2);\r
283 \r
284     oRed = outBuf + offset + count * 4 + 0;\r
285     oGrn = outBuf + offset + count * 4 + 1;\r
286     oBlu = outBuf + offset + count * 4 + 2;\r
287     oAlp = outBuf + offset + count * 4 + 3;\r
288 \r
289     *oRed = iRed;\r
290     *oGrn = iGrn;\r
291     *oBlu = iBlu;\r
292     *oAlp = 255;\r
293   }\r
294 }\r
295 \r
296 // stash a scanline\r
297 static void j_putRGBAScanline (unsigned char* jpegline, int widthPix, unsigned char* outBuf, int row)\r
298 {\r
299   int offset = row * widthPix * 4;\r
300   int count;\r
301 \r
302   for (count = 0; count < widthPix; count++) \r
303   {\r
304     unsigned char iRed, iBlu, iGrn, iAlp;\r
305     unsigned char *oRed, *oBlu, *oGrn, *oAlp;\r
306 \r
307     iRed = *(jpegline + count * 4 + 0);\r
308     iGrn = *(jpegline + count * 4 + 1);\r
309     iBlu = *(jpegline + count * 4 + 2);\r
310                 iAlp = *(jpegline + count * 4 + 3);\r
311 \r
312     oRed = outBuf + offset + count * 4 + 0;\r
313     oGrn = outBuf + offset + count * 4 + 1;\r
314     oBlu = outBuf + offset + count * 4 + 2;\r
315     oAlp = outBuf + offset + count * 4 + 3;\r
316 \r
317     *oRed = iRed;\r
318     *oGrn = iGrn;\r
319     *oBlu = iBlu;\r
320         // ydnar: see bug 900\r
321     *oAlp = 255;        //%     iAlp;\r
322   }\r
323 }\r
324 \r
325 // stash a gray scanline\r
326 static void j_putGrayScanlineToRGB (unsigned char* jpegline, int widthPix, unsigned char* outBuf, int row)\r
327 {\r
328   int offset = row * widthPix * 4;\r
329   int count;\r
330 \r
331   for (count = 0; count < widthPix; count++) \r
332   {\r
333     unsigned char iGray;\r
334     unsigned char *oRed, *oBlu, *oGrn, *oAlp;\r
335 \r
336     // get our grayscale value\r
337     iGray = *(jpegline + count);\r
338 \r
339     oRed = outBuf + offset + count * 4;\r
340     oGrn = outBuf + offset + count * 4 + 1;\r
341     oBlu = outBuf + offset + count * 4 + 2;\r
342     oAlp = outBuf + offset + count * 4 + 3;\r
343 \r
344     *oRed = iGray;\r
345     *oGrn = iGray;\r
346     *oBlu = iGray;\r
347     *oAlp = 255;\r
348   }\r
349 }\r
350 \r
351 static int _LoadJPGBuff (void *src_buffer, int src_size, unsigned char **pic, int *width, int *height) \r
352 {\r
353   struct jpeg_decompress_struct cinfo;\r
354   struct my_jpeg_error_mgr jerr;\r
355   JSAMPARRAY buffer;\r
356   int row_stride, size;\r
357 \r
358   cinfo.err = jpeg_std_error (&jerr.pub);\r
359   jerr.pub.error_exit = my_jpeg_error_exit;\r
360 \r
361   if (setjmp (jerr.setjmp_buffer))\r
362   {\r
363     *pic = (unsigned char*)errormsg;\r
364     jpeg_destroy_decompress (&cinfo);\r
365     return -1;\r
366   }\r
367 \r
368   jpeg_create_decompress (&cinfo);\r
369   jpeg_buffer_src (&cinfo, src_buffer, src_size);\r
370   jpeg_read_header (&cinfo, TRUE);\r
371   jpeg_start_decompress (&cinfo);\r
372 \r
373   row_stride = cinfo.output_width * cinfo.output_components;\r
374 \r
375   size = cinfo.output_width * cinfo.output_height * 4;\r
376   *width = cinfo.output_width;\r
377   *height = cinfo.output_height;\r
378   *pic = (unsigned char*) (g_malloc (size+1));\r
379   memset (*pic, 0, size+1);\r
380 \r
381   buffer = (*cinfo.mem->alloc_sarray) ((j_common_ptr) &cinfo, JPOOL_IMAGE, row_stride, 1);\r
382 \r
383   while (cinfo.output_scanline < cinfo.output_height)\r
384   {\r
385     jpeg_read_scanlines (&cinfo, buffer, 1);\r
386 \r
387     if (cinfo.out_color_components == 4)\r
388       j_putRGBAScanline (buffer[0], cinfo.output_width, *pic, cinfo.output_scanline-1);\r
389     else if (cinfo.out_color_components == 3)\r
390       j_putRGBScanline (buffer[0], cinfo.output_width, *pic, cinfo.output_scanline-1);\r
391     else if (cinfo.out_color_components == 1)\r
392       j_putGrayScanlineToRGB (buffer[0], cinfo.output_width, *pic, cinfo.output_scanline-1);\r
393   }\r
394 \r
395   jpeg_finish_decompress (&cinfo);\r
396   jpeg_destroy_decompress (&cinfo);\r
397 \r
398   return 0;\r
399 }\r
400 \r
401 void LoadJPG (const char *filename, unsigned char **pic, int *width, int *height)\r
402 {\r
403   unsigned char *fbuffer = NULL;\r
404   int nLen = vfsLoadFile ((char *)filename, (void **)&fbuffer, 0 );\r
405   if (nLen == -1)\r
406     return;\r
407 \r
408   if (_LoadJPGBuff (fbuffer, nLen, pic, width, height) != 0)\r
409   {\r
410     g_FuncTable.m_pfnSysPrintf( "WARNING: JPEG library failed to load %s because %s\n", filename, *pic );\r
411     *pic = NULL;\r
412   }\r
413 \r
414   vfsFreeFile (fbuffer);\r
415 }\r