]> de.git.xonotic.org Git - xonotic/darkplaces.git/blobdiff - jpeg.c
fix a use of tempmempool to be loadmodel->mempool
[xonotic/darkplaces.git] / jpeg.c
diff --git a/jpeg.c b/jpeg.c
index 529a1f88938044b00b2e9d3bb873762f5b9d5a86..a248948f327685779d497767c045dc4d3de7986f 100644 (file)
--- a/jpeg.c
+++ b/jpeg.c
@@ -26,6 +26,7 @@
 #include "image.h"
 #include "jpeg.h"
 
+cvar_t sv_writepicture_quality = {CVAR_SAVE, "sv_writepicture_quality", "10", "WritePicture quality offset (higher means better quality, but slower)"};
 
 /*
 =================================================================
@@ -428,9 +429,11 @@ static dllfunction_t jpegfuncs[] =
 
 // Handle for JPEG DLL
 dllhandle_t jpeg_dll = NULL;
+qboolean jpeg_tried_loading = 0;
 
 static unsigned char jpeg_eoi_marker [2] = {0xFF, JPEG_EOI};
-static qboolean error_in_jpeg;
+static jmp_buf error_in_jpeg;
+static qboolean jpeg_toolarge;
 
 // Our own output manager for JPEG compression
 typedef struct
@@ -480,6 +483,11 @@ qboolean JPEG_OpenLibrary (void)
        if (jpeg_dll)
                return true;
 
+       if (jpeg_tried_loading) // only try once
+               return false;
+
+       jpeg_tried_loading = true;
+
        // Load the DLL
        return Sys_LoadLibrary (dllnames, &jpeg_dll, jpegfuncs);
 }
@@ -495,6 +503,7 @@ Unload the JPEG DLL
 void JPEG_CloseLibrary (void)
 {
        Sys_UnloadLibrary (&jpeg_dll);
+       jpeg_tried_loading = false; // allow retry
 }
 
 
@@ -546,7 +555,7 @@ static void JPEG_MemSrc (j_decompress_ptr cinfo, const unsigned char *buffer, si
 static void JPEG_ErrorExit (j_common_ptr cinfo)
 {
        ((struct jpeg_decompress_struct*)cinfo)->err->output_message (cinfo);
-       error_in_jpeg = true;
+       longjmp(error_in_jpeg, 1);
 }
 
 
@@ -561,7 +570,7 @@ unsigned char* JPEG_LoadImage_BGRA (const unsigned char *f, int filesize)
 {
        struct jpeg_decompress_struct cinfo;
        struct jpeg_error_mgr jerr;
-       unsigned char *image_buffer, *scanline;
+       unsigned char *image_buffer = NULL, *scanline = NULL;
        unsigned int line;
 
        // No DLL = no JPEGs
@@ -570,6 +579,10 @@ unsigned char* JPEG_LoadImage_BGRA (const unsigned char *f, int filesize)
 
        cinfo.err = qjpeg_std_error (&jerr);
        qjpeg_create_decompress (&cinfo);
+       if(setjmp(error_in_jpeg))
+               goto error_caught;
+       cinfo.err = qjpeg_std_error (&jerr);
+       cinfo.err->error_exit = JPEG_ErrorExit;
        JPEG_MemSrc (&cinfo, f, filesize);
        qjpeg_read_header (&cinfo, TRUE);
        qjpeg_start_decompress (&cinfo);
@@ -643,6 +656,14 @@ unsigned char* JPEG_LoadImage_BGRA (const unsigned char *f, int filesize)
        qjpeg_destroy_decompress (&cinfo);
 
        return image_buffer;
+
+error_caught:
+       if(scanline)
+               Mem_Free (scanline);
+       if(image_buffer)
+               Mem_Free (image_buffer);
+       qjpeg_destroy_decompress (&cinfo);
+       return NULL;
 }
 
 
@@ -668,10 +689,7 @@ static jboolean JPEG_EmptyOutputBuffer (j_compress_ptr cinfo)
        my_dest_ptr dest = (my_dest_ptr)cinfo->dest;
 
        if (FS_Write (dest->outfile, dest->buffer, JPEG_OUTPUT_BUF_SIZE) != (size_t) JPEG_OUTPUT_BUF_SIZE)
-       {
-               error_in_jpeg = true;
-               return false;
-       }
+               longjmp(error_in_jpeg, 1);
 
        dest->pub.next_output_byte = dest->buffer;
        dest->pub.free_in_buffer = JPEG_OUTPUT_BUF_SIZE;
@@ -686,7 +704,7 @@ static void JPEG_TermDestination (j_compress_ptr cinfo)
        // Write any data remaining in the buffer
        if (datacount > 0)
                if (FS_Write (dest->outfile, dest->buffer, datacount) != (fs_offset_t)datacount)
-                       error_in_jpeg = true;
+                       longjmp(error_in_jpeg, 1);
 }
 
 static void JPEG_FileDest (j_compress_ptr cinfo, qfile_t* outfile)
@@ -713,8 +731,11 @@ static void JPEG_Mem_InitDestination (j_compress_ptr cinfo)
 
 static jboolean JPEG_Mem_EmptyOutputBuffer (j_compress_ptr cinfo)
 {
-       error_in_jpeg = true;
-       return false;
+       my_dest_ptr dest = (my_dest_ptr)cinfo->dest;
+       jpeg_toolarge = true;
+       dest->pub.next_output_byte = dest->buffer;
+       dest->pub.free_in_buffer = dest->bufsize;
+       return true;
 }
 
 static void JPEG_Mem_TermDestination (j_compress_ptr cinfo)
@@ -736,7 +757,7 @@ static void JPEG_MemDest (j_compress_ptr cinfo, void* buf, size_t bufsize)
        dest->pub.term_destination = JPEG_Mem_TermDestination;
        dest->outfile = NULL;
 
-       dest->buffer = buf;
+       dest->buffer = (unsigned char *) buf;
        dest->bufsize = bufsize;
 }
 
@@ -764,13 +785,14 @@ qboolean JPEG_SaveImage_preflipped (const char *filename, int width, int height,
        }
 
        // Open the file
-       file = FS_Open (filename, "wb", true, false);
+       file = FS_OpenRealFile(filename, "wb", true);
        if (!file)
                return false;
 
+       if(setjmp(error_in_jpeg))
+               goto error_caught;
        cinfo.err = qjpeg_std_error (&jerr);
        cinfo.err->error_exit = JPEG_ErrorExit;
-       error_in_jpeg = false;
 
        qjpeg_create_compress (&cinfo);
        JPEG_FileDest (&cinfo, file);
@@ -802,8 +824,6 @@ qboolean JPEG_SaveImage_preflipped (const char *filename, int width, int height,
                scanline = &data[offset - cinfo.next_scanline * linesize];
 
                qjpeg_write_scanlines (&cinfo, &scanline, 1);
-               if (error_in_jpeg)
-                       break;
        }
 
        qjpeg_finish_compress (&cinfo);
@@ -811,16 +831,19 @@ qboolean JPEG_SaveImage_preflipped (const char *filename, int width, int height,
 
        FS_Close (file);
        return true;
+
+error_caught:
+       qjpeg_destroy_compress (&cinfo);
+       FS_Close (file);
+       return false;
 }
 
 static size_t JPEG_try_SaveImage_to_Buffer (struct jpeg_compress_struct *cinfo, char *jpegbuf, size_t jpegsize, int quality, int width, int height, unsigned char *data)
 {
        unsigned char *scanline;
        unsigned int linesize;
-       int offset;
-
-       error_in_jpeg = false;
 
+       jpeg_toolarge = false;
        JPEG_MemDest (cinfo, jpegbuf, jpegsize);
 
        // Set the parameters for compression
@@ -843,19 +866,19 @@ static size_t JPEG_try_SaveImage_to_Buffer (struct jpeg_compress_struct *cinfo,
 
        // Compress each scanline
        linesize = width * 3;
-       offset = linesize * (cinfo->image_height - 1);
        while (cinfo->next_scanline < cinfo->image_height)
        {
-               scanline = &data[offset - cinfo->next_scanline * linesize];
+               scanline = &data[cinfo->next_scanline * linesize];
 
                qjpeg_write_scanlines (cinfo, &scanline, 1);
-               if (error_in_jpeg)
-                       break;
        }
 
        qjpeg_finish_compress (cinfo);
 
-       return error_in_jpeg ? 0 : ((my_dest_ptr) cinfo->dest)->bufsize;
+       if(jpeg_toolarge)
+               return 0;
+
+       return ((my_dest_ptr) cinfo->dest)->bufsize;
 }
 
 size_t JPEG_SaveImage_to_Buffer (char *jpegbuf, size_t jpegsize, int width, int height, unsigned char *data)
@@ -874,6 +897,8 @@ size_t JPEG_SaveImage_to_Buffer (char *jpegbuf, size_t jpegsize, int width, int
                return false;
        }
 
+       if(setjmp(error_in_jpeg))
+               goto error_caught;
        cinfo.err = qjpeg_std_error (&jerr);
        cinfo.err->error_exit = JPEG_ErrorExit;
 
@@ -902,8 +927,8 @@ size_t JPEG_SaveImage_to_Buffer (char *jpegbuf, size_t jpegsize, int width, int
        //quality_guess = (100 * jpegsize - 41000) / (width*height) + 2; // fits random data
        quality_guess   = (256 * jpegsize - 81920) / (width*height) - 8; // fits Nexuiz's map pictures
 
-       quality_guess = bound(0, quality_guess, 90);
-       quality = quality_guess + 10; // assume it can do 10 failed attempts
+       quality_guess = bound(0, quality_guess, 100);
+       quality = bound(0, quality_guess + sv_writepicture_quality.integer, 100); // assume it can do 10 failed attempts
 
        while(!(result = JPEG_try_SaveImage_to_Buffer(&cinfo, jpegbuf, jpegsize, quality, width, height, data)))
        {
@@ -914,9 +939,14 @@ size_t JPEG_SaveImage_to_Buffer (char *jpegbuf, size_t jpegsize, int width, int
                        return 0;
                }
        }
+       qjpeg_destroy_compress (&cinfo);
        Con_DPrintf("JPEG_SaveImage_to_Buffer: guessed quality/size %d/%d, actually got %d/%d\n", quality_guess, (int)jpegsize, quality, (int)result);
 
        return result;
+
+error_caught:
+       qjpeg_destroy_compress (&cinfo);
+       return 0;
 }
 
 typedef struct CompressedImageCacheItem
@@ -940,7 +970,7 @@ static void CompressedImageCache_Add(const char *imagename, size_t maxsize, void
        if(strlen(imagename) >= MAX_QPATH)
                return; // can't add this
        
-       i = Z_Malloc(sizeof(CompressedImageCacheItem));
+       i = (CompressedImageCacheItem*) Z_Malloc(sizeof(CompressedImageCacheItem));
        strlcpy(i->imagename, imagename, sizeof(i->imagename));
        i->maxsize = maxsize;
        i->compressed = compressed;
@@ -969,6 +999,9 @@ qboolean Image_Compress(const char *imagename, size_t maxsize, void **buf, size_
        unsigned char *imagedata, *newimagedata;
        int maxPixelCount;
        int components[3] = {2, 1, 0};
+       CompressedImageCacheItem *i;
+
+       JPEG_OpenLibrary (); // for now; LH had the idea of replacing this by a better format
 
        // No DLL = no JPEGs
        if (!jpeg_dll)
@@ -977,7 +1010,7 @@ qboolean Image_Compress(const char *imagename, size_t maxsize, void **buf, size_
                return false;
        }
 
-       CompressedImageCacheItem *i = CompressedImageCache_Find(imagename, maxsize);
+       i = CompressedImageCache_Find(imagename, maxsize);
        if(i)
        {
                *size = i->compressed_size;
@@ -991,13 +1024,13 @@ qboolean Image_Compress(const char *imagename, size_t maxsize, void **buf, size_
 
        // find an appropriate size for somewhat okay compression
        if(maxsize <= 768)
-               maxPixelCount = 64 * 64;
+               maxPixelCount = 32 * 32;
        else if(maxsize <= 1024)
-               maxPixelCount = 128 * 128;
+               maxPixelCount = 64 * 64;
        else if(maxsize <= 4096)
-               maxPixelCount = 256 * 256;
+               maxPixelCount = 128 * 128;
        else
-               maxPixelCount = 512 * 512;
+               maxPixelCount = 256 * 256;
 
        while(image_width * image_height > maxPixelCount)
        {
@@ -1005,7 +1038,7 @@ qboolean Image_Compress(const char *imagename, size_t maxsize, void **buf, size_
                Image_MipReduce32(imagedata, imagedata, &image_width, &image_height, &one, image_width/2, image_height/2, 1);
        }
 
-       newimagedata = Mem_Alloc(tempmempool, image_width * image_height * 3);
+       newimagedata = (unsigned char *) Mem_Alloc(tempmempool, image_width * image_height * 3);
 
        // convert the image from BGRA to RGB
        Image_CopyMux(newimagedata, imagedata, image_width, image_height, false, false, false, 3, 4, components);
@@ -1013,7 +1046,7 @@ qboolean Image_Compress(const char *imagename, size_t maxsize, void **buf, size_
 
        // try to compress it to JPEG
        *buf = Z_Malloc(maxsize);
-       *size = JPEG_SaveImage_to_Buffer(*buf, maxsize, image_width, image_height, newimagedata);
+       *size = JPEG_SaveImage_to_Buffer((char *) *buf, maxsize, image_width, image_height, newimagedata);
        if(!*size)
        {
                Z_Free(*buf);