[svn] / branches / dev-api-3 / vfw / src / codec.c Repository:
ViewVC logotype

Diff of /branches/dev-api-3/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

trunk/vfw/src/codec.c revision 5, Fri Mar 8 19:23:56 2002 UTC branches/dev-api-3/vfw/src/codec.c revision 632, Thu Nov 7 10:34:14 2002 UTC
# Line 23  Line 23 
23   *   *
24   *      History:   *      History:
25   *   *
26   *      ... ???   *      12.07.2002      num_threads
27   *      01.12.2001      inital version; (c)2001 peter ross <suxen_drol@hotmail.com>   *      23.06.2002      XVID_CPU_CHKONLY; loading speed up
28     *      25.04.2002      ICDECOMPRESS_PREROLL
29     *      17.04.2002      re-enabled lumi masking for 1st pass
30     *      15.04.2002      updated cbr support
31     *      04.04.2002      separated 2-pass code to 2pass.c
32     *                              interlacing support
33     *                              hinted ME support
34     *      23.03.2002      daniel smith <danielsmith@astroboymail.com>
35     *                              changed inter4v to only be in modes 5 or 6
36     *                              fixed null mode crash ?
37     *                              merged foxer's alternative 2-pass code
38     *                              added DEBUGERR output on errors instead of returning
39     *      16.03.2002      daniel smith <danielsmith@astroboymail.com>
40     *                              changed BITMAPV4HEADER to BITMAPINFOHEADER
41     *                                      - prevents memcpy crash in compress_get_format()
42     *                              credits are processed in external 2pass mode
43     *                              motion search precision = 0 now effective in 2-pass
44     *                              modulated quantization
45     *                              added DX50 fourcc
46     *      01.12.2001      inital version; (c)2001 peter ross <pross@xvid.org>
47   *   *
48   *************************************************************************/   *************************************************************************/
49    
# Line 32  Line 51 
51  #include <vfw.h>  #include <vfw.h>
52    
53  #include "codec.h"  #include "codec.h"
54  #include <math.h>       // fabs()  #include "2pass.h"
55    
56  int pmvfast_presets[7] = {  int pmvfast_presets[7] = {
57          0, PMV_QUICKSTOP16, PMV_EARLYSTOP16, PMV_EARLYSTOP16 | PMV_EARLYSTOP8,          0, PMV_QUICKSTOP16, 0, 0,
58          PMV_EARLYSTOP16 | PMV_HALFPELREFINE16 | PMV_EARLYSTOP8 | PMV_HALFPELDIAMOND8,          0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8,
59          PMV_EARLYSTOP16 | PMV_HALFPELREFINE16 | PMV_EARLYSTOP8 | PMV_HALFPELDIAMOND8,          0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8 |
60          PMV_EARLYSTOP16 | PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |          PMV_ADVANCEDDIAMOND16, PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |
61          PMV_EARLYSTOP8 | PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8          PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8 | PMV_USESQUARES16
62  };  };
63    
64  /*      return xvid compatbile colorspace,  /*      return xvid compatbile colorspace,
65          or XVID_CSP_NULL if failure          or XVID_CSP_NULL if failure
66  */  */
67    
68  int get_colorspace(BITMAPV4HEADER * hdr)  int get_colorspace(BITMAPINFOHEADER * hdr)
69  {  {
70          if (hdr->bV4Height < 0)          /* rgb only: negative height specifies top down image */
71          {          int rgb_flip = (hdr->biHeight < 0 ? 0 : XVID_CSP_VFLIP);
                 DEBUG("colorspace: inverted input format not supported");  
                 return XVID_CSP_NULL;  
         }  
72    
73          switch(hdr->bV4V4Compression)          switch(hdr->biCompression)
74          {          {
75          case BI_RGB :          case BI_RGB :
76                  if (hdr->bV4BitCount == 16)                  if (hdr->biBitCount == 16)
77                  {                  {
78                          DEBUG("RGB16 (RGB555)");                          DEBUG("RGB16 (RGB555)");
79                          return XVID_CSP_VFLIP | XVID_CSP_RGB555;                          return rgb_flip | XVID_CSP_RGB555;
80                  }                  }
81                  if (hdr->bV4BitCount == 24)                  if (hdr->biBitCount == 24)
82                  {                  {
83                          DEBUG("RGB24");                          DEBUG("RGB24");
84                          return XVID_CSP_VFLIP | XVID_CSP_RGB24;                          return rgb_flip | XVID_CSP_RGB24;
85                  }                  }
86                  if (hdr->bV4BitCount == 32)                  if (hdr->biBitCount == 32)
87                  {                  {
88                          DEBUG("RGB32");                          DEBUG("RGB32");
89                          return XVID_CSP_VFLIP | XVID_CSP_RGB32;                          return rgb_flip | XVID_CSP_RGB32;
90                  }                  }
91    
92                  DEBUG1("BI_RGB unsupported", hdr->bV4BitCount);                  DEBUG1("unsupported BI_RGB biBitCount", hdr->biBitCount);
93                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
94    
95          case BI_BITFIELDS :          case BI_BITFIELDS :
96                  if(hdr->bV4BitCount == 16 &&                  if (hdr->biSize >= sizeof(BITMAPV4HEADER))
97                          hdr->bV4RedMask == 0x7c00 &&                  {
98                          hdr->bV4GreenMask == 0x3e0 &&                          BITMAPV4HEADER * hdr4 = (BITMAPV4HEADER *)hdr;
99                          hdr->bV4BlueMask == 0x1f)  
100                            if (hdr4->bV4BitCount == 16 &&
101                                    hdr4->bV4RedMask == 0x7c00 &&
102                                    hdr4->bV4GreenMask == 0x3e0 &&
103                                    hdr4->bV4BlueMask == 0x1f)
104                  {                  {
105                          DEBUG("RGB555");                          DEBUG("RGB555");
106                          return XVID_CSP_VFLIP | XVID_CSP_RGB555;                                  return rgb_flip | XVID_CSP_RGB555;
107                  }                  }
108                  if(hdr->bV4BitCount == 16 &&  
109                          hdr->bV4RedMask == 0xf800 &&                          if(hdr4->bV4BitCount == 16 &&
110                          hdr->bV4GreenMask == 0x7e0 &&                                  hdr4->bV4RedMask == 0xf800 &&
111                          hdr->bV4BlueMask == 0x1f)                                  hdr4->bV4GreenMask == 0x7e0 &&
112                                    hdr4->bV4BlueMask == 0x1f)
113                  {                  {
114                          DEBUG("RGB565");                          DEBUG("RGB565");
115                          return XVID_CSP_VFLIP | XVID_CSP_RGB565;                                  return rgb_flip | XVID_CSP_RGB565;
116                            }
117    
118                            DEBUG("unsupported BI_BITFIELDS mode");
119                            return XVID_CSP_NULL;
120                  }                  }
121    
122                  DEBUG1("BI_FIELDS unsupported", hdr->bV4BitCount);                  DEBUG("unsupported BI_BITFIELDS/BITMAPHEADER combination");
123                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
124    
125          case FOURCC_I420:          case FOURCC_I420:
# Line 108  Line 133 
133    
134          case FOURCC_YUYV :          case FOURCC_YUYV :
135          case FOURCC_YUY2 :          case FOURCC_YUY2 :
         case FOURCC_V422 :  
136                  DEBUG("YUY2");                  DEBUG("YUY2");
137                  return XVID_CSP_YUY2;                  return XVID_CSP_YUY2;
138    
# Line 120  Line 144 
144                  DEBUG("UYVY");                  DEBUG("UYVY");
145                  return XVID_CSP_UYVY;                  return XVID_CSP_UYVY;
146    
147          }          default :
148          DEBUGFOURCC("colorspace: unknown", hdr->bV4V4Compression);                  DEBUGFOURCC("unsupported colorspace", hdr->biCompression);
149          return XVID_CSP_NULL;          return XVID_CSP_NULL;
150  }  }
151    }
152    
153    
154  /* compressor */  /* compressor */
# Line 133  Line 158 
158    
159  LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
160  {  {
161          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
162          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
163    
164          if (get_colorspace(inhdr) == XVID_CSP_NULL)          if (get_colorspace(inhdr) == XVID_CSP_NULL)
165          {          {
# Line 146  Line 171 
171                  return ICERR_OK;                  return ICERR_OK;
172          }          }
173    
174          if (inhdr->bV4Width != outhdr->bV4Width || inhdr->bV4Height != outhdr->bV4Height ||          if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||
175                  (outhdr->bV4V4Compression != FOURCC_XVID && outhdr->bV4V4Compression != FOURCC_DIVX))                  (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX))
176          {          {
177                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
178          }          }
# Line 158  Line 183 
183    
184  LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
185  {  {
186          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
187          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
188    
189          if (get_colorspace(inhdr) == XVID_CSP_NULL)          if (get_colorspace(inhdr) == XVID_CSP_NULL)
190          {          {
# Line 171  Line 196 
196                  return sizeof(BITMAPV4HEADER);                  return sizeof(BITMAPV4HEADER);
197          }          }
198    
199          memcpy(outhdr, inhdr, sizeof(BITMAPV4HEADER));          memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
200          outhdr->bV4Size = sizeof(BITMAPV4HEADER);          outhdr->biSize = sizeof(BITMAPINFOHEADER);
201          outhdr->bV4BitCount = 24;  // or 16          outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);
202          outhdr->bV4SizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);          outhdr->biXPelsPerMeter = 0;
203          outhdr->bV4XPelsPerMeter = 0;          outhdr->biYPelsPerMeter = 0;
204          outhdr->bV4YPelsPerMeter = 0;          outhdr->biClrUsed = 0;
205          outhdr->bV4ClrUsed = 0;          outhdr->biClrImportant = 0;
         outhdr->bV4ClrImportant = 0;  
206    
207          if (codec->config.fourcc_used == 0)          if (codec->config.fourcc_used == 0)
208          {          {
209                  outhdr->bV4V4Compression = FOURCC_XVID;                  outhdr->biCompression = FOURCC_XVID;
210            }
211            else if (codec->config.fourcc_used == 1)
212            {
213                    outhdr->biCompression = FOURCC_DIVX;
214          }          }
215          else          else
216          {          {
217                  outhdr->bV4V4Compression = FOURCC_DIVX;                  outhdr->biCompression = FOURCC_DX50;
218          }          }
219    
220          return ICERR_OK;          return ICERR_OK;
# Line 195  Line 223 
223    
224  LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
225  {  {
226          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          return
227          return outhdr->bV4Width * outhdr->bV4Height * 3;  #ifdef BFRAMES
228             2 *
229    #endif
230            lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;
231  }  }
232    
233    
# Line 211  Line 242 
242    
243  LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
244  {  {
         BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;  
245          XVID_ENC_PARAM param;          XVID_ENC_PARAM param;
246          XVID_INIT_PARAM init_param;          XVID_INIT_PARAM init_param;
247    
248          switch (codec->config.mode)          switch (codec->config.mode)
249          {          {
250          case DLG_MODE_CBR :          case DLG_MODE_CBR :
251                  param.bitrate = codec->config.bitrate;                  param.rc_bitrate = codec->config.rc_bitrate;
252                  param.rc_buffersize = codec->config.rc_buffersize;                  param.rc_reaction_delay_factor = codec->config.rc_reaction_delay_factor;
253                    param.rc_averaging_period = codec->config.rc_averaging_period;
254                    param.rc_buffer = codec->config.rc_buffer;
255                  break;                  break;
256    
257          case DLG_MODE_VBR_QUAL :          case DLG_MODE_VBR_QUAL :
258                  codec->config.fquant = 0;                  codec->config.fquant = 0;
259                  param.bitrate = 0;                  param.rc_bitrate = 0;
260                  break;                  break;
261    
262          case DLG_MODE_VBR_QUANT :          case DLG_MODE_VBR_QUANT :
263                  codec->config.fquant = (float) codec->config.quant;                  codec->config.fquant = (float) codec->config.quant;
264                  param.bitrate = 0;                  param.rc_bitrate = 0;
265                  break;                  break;
266    
267          case DLG_MODE_2PASS_1:          case DLG_MODE_2PASS_1:
268          case DLG_MODE_2PASS_2_INT:          case DLG_MODE_2PASS_2_INT:
269          case DLG_MODE_2PASS_2_EXT:          case DLG_MODE_2PASS_2_EXT:
270                  param.bitrate = 0;                  param.rc_bitrate = 0;
271                    codec->twopass.max_framesize = (int)((double)codec->config.twopass_max_bitrate / 8.0 / ((double)codec->fbase / (double)codec->fincr));
272                  break;                  break;
273    
274            case DLG_MODE_NULL :
275                    return ICERR_OK;
276    
277          default :          default :
278                  break;                  break;
279          }          }
# Line 253  Line 289 
289          if((codec->config.cpu & XVID_CPU_FORCE) <= 0)          if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
290                  codec->config.cpu = init_param.cpu_flags;                  codec->config.cpu = init_param.cpu_flags;
291    
292          param.width = inhdr->bV4Width;          param.width = lpbiInput->bmiHeader.biWidth;
293          param.height = inhdr->bV4Height;          param.height = lpbiInput->bmiHeader.biHeight;
294          param.fincr = codec->fincr;          param.fincr = codec->fincr;
295          param.fbase = codec->fbase;          param.fbase = codec->fbase;
296    
297          param.rc_buffersize = codec->config.rc_buffersize;          param.min_quantizer = codec->config.min_pquant;
298            param.max_quantizer = codec->config.max_pquant;
         param.min_quantizer = codec->config.min_quant;  
         param.max_quantizer = codec->config.max_quant;  
299          param.max_key_interval = codec->config.max_key_interval;          param.max_key_interval = codec->config.max_key_interval;
300    
301    #ifdef _SMP
302            param.num_threads = codec->config.num_threads;
303    #endif
304    
305    #ifdef BFRAMES
306            param.global = 0;
307            if (codec->config.packed) param.global |= XVID_GLOBAL_PACKED;
308            if (codec->config.dx50bvop) param.global |= XVID_GLOBAL_DX50BVOP;
309            if (codec->config.debug) param.global |= XVID_GLOBAL_DEBUG;
310            param.max_bframes = codec->config.max_bframes;
311            param.bquant_ratio = codec->config.bquant_ratio;
312            param.frame_drop_ratio = codec->config.frame_drop_ratio;
313    #endif
314    
315          switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))          switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))
316          {          {
317          case XVID_ERR_FAIL :          case XVID_ERR_FAIL :
# Line 280  Line 328 
328          codec->framenum = 0;          codec->framenum = 0;
329          codec->keyspacing = 0;          codec->keyspacing = 0;
330    
331          codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;          codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
332            codec->twopass.hintstream = NULL;
333    
334          return ICERR_OK;          return ICERR_OK;
335  }  }
# Line 291  Line 340 
340          if (codec->ehandle != NULL)          if (codec->ehandle != NULL)
341          {          {
342                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
343    
344                    if (codec->twopass.hints != INVALID_HANDLE_VALUE)
345                    {
346                            CloseHandle(codec->twopass.hints);
347                    }
348                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
349                  {                  {
350                          CloseHandle(codec->twopass.stats1);                          CloseHandle(codec->twopass.stats1);
# Line 299  Line 353 
353                  {                  {
354                          CloseHandle(codec->twopass.stats2);                          CloseHandle(codec->twopass.stats2);
355                  }                  }
356                    if (codec->twopass.hintstream != NULL)
357                    {
358                            free(codec->twopass.hintstream);
359                    }
360    
361                  codec->ehandle = NULL;                  codec->ehandle = NULL;
362    
363                    codec_2pass_finish(codec);
364          }          }
365    
366          return ICERR_OK;          return ICERR_OK;
# Line 308  Line 369 
369    
370  LRESULT compress(CODEC * codec, ICCOMPRESS * icc)  LRESULT compress(CODEC * codec, ICCOMPRESS * icc)
371  {  {
372          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)icc->lpbiInput;          BITMAPINFOHEADER * inhdr = icc->lpbiInput;
373          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)icc->lpbiOutput;          BITMAPINFOHEADER * outhdr = icc->lpbiOutput;
374          XVID_ENC_FRAME frame;          XVID_ENC_FRAME frame;
375          XVID_ENC_STATS stats;          XVID_ENC_STATS stats;
376    
# Line 324  Line 385 
385    
386          frame.general = 0;          frame.general = 0;
387          frame.motion = 0;          frame.motion = 0;
388            frame.intra = -1;
         if(codec->config.motion_search == 0)  
                 frame.intra = 1;  
389    
390          frame.general |= XVID_HALFPEL;          frame.general |= XVID_HALFPEL;
391    //      frame.general |= XVID_ME_EPZS;
392    
393          if(codec->config.motion_search > 3)  
394            if (codec->config.motion_search > 4)
395                  frame.general |= XVID_INTER4V;                  frame.general |= XVID_INTER4V;
396    
397          // we actually need "default/custom" selectbox for both inter/intra          if (codec->config.lum_masking)
398          // this will do for now                  frame.general |= XVID_LUMIMASKING;
399    
400          if (codec->config.quant_type == QUANT_MODE_CUSTOM)          if (codec->config.interlacing)
401                    frame.general |= XVID_INTERLACING;
402    
403    
404    
405    // added by koepi for credits greyscale
406    
407            check_greyscale_mode(&codec->config, &frame, codec->framenum);
408    
409    // end of koepi's addition
410    
411    
412    // fix 1pass modes/hinted MV by koepi
413            if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_CBR || codec->config.mode == DLG_MODE_VBR_QUAL || codec->config.mode == DLG_MODE_VBR_QUANT))
414          {          {
415                  frame.general |= XVID_CUSTOM_QMATRIX;                  codec->config.hinted_me = 0;
                 frame.quant_intra_matrix = codec->config.qmatrix_intra;  
                 frame.quant_inter_matrix = codec->config.qmatrix_inter;  
416          }          }
417          else  // end of ugly hack
418    
419            if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
420          {          {
421                  frame.quant_intra_matrix = NULL;                  frame.hint.hintstream = codec->twopass.hintstream;
422                  frame.quant_inter_matrix = NULL;                  frame.hint.rawhints = 0;
423                    frame.general |= XVID_HINTEDME_GET;
424          }          }
425            else if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT))
426            {
427                    DWORD read;
428                    DWORD blocksize;
429    
430          if(codec->config.quant_type == 0)                  frame.hint.hintstream = codec->twopass.hintstream;
431                  frame.general |= XVID_H263QUANT;                  frame.hint.rawhints = 0;
432          else                  frame.general |= XVID_HINTEDME_SET;
                 frame.general |= XVID_MPEGQUANT;  
433    
434          if(((codec->config.mode == DLG_MODE_2PASS_1) ? 0 : codec->config.lum_masking) == 1)                  if (codec->twopass.hints == INVALID_HANDLE_VALUE)
435                  frame.general |= XVID_LUMIMASKING;                  {
436                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
437                            if (codec->twopass.hints == INVALID_HANDLE_VALUE)
438                            {
439                                    DEBUGERR("couldn't open hints file");
440                                    return ICERR_ERROR;
441                            }
442                    }
443                    if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
444                            !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
445                    {
446                            DEBUGERR("couldn't read from hints file");
447                            return ICERR_ERROR;
448                    }
449            }
450    
451          frame.motion = pmvfast_presets[codec->config.motion_search];          frame.motion = pmvfast_presets[codec->config.motion_search];
452    
453          frame.image = icc->lpInput;          frame.image = icc->lpInput;
454            // dev-api-3
455            frame.stride = (((icc->lpbiInput->biWidth * icc->lpbiInput->biBitCount) + 31) & ~31) >> 3;
456    
457          if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL) {          if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)
458                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
         }  
459    
460          frame.bitstream = icc->lpOutput;          frame.bitstream = icc->lpOutput;
461          frame.length = icc->lpbiOutput->biSizeImage;          frame.length = icc->lpbiOutput->biSizeImage;
         frame.intra = -1;  
462    
463          switch (codec->config.mode)          switch (codec->config.mode)
464          {          {
# Line 391  Line 483 
483                  }                  }
484                  if (codec->config.dummy2pass)                  if (codec->config.dummy2pass)
485                  {                  {
486                          outhdr->bV4SizeImage = codec->twopass.bytes2;                          outhdr->biSizeImage = codec->twopass.bytes2;
487                          *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;                          *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;
488                          return ICERR_OK;                          return ICERR_OK;
489                  }                  }
490                  break;                  break;
491    
492          case DLG_MODE_NULL :          case DLG_MODE_NULL :
493                  outhdr->bV4SizeImage = 0;                  outhdr->biSizeImage = 0;
494                  *icc->lpdwFlags = AVIIF_KEYFRAME;                  *icc->lpdwFlags = AVIIF_KEYFRAME;
495                  return ICERR_OK;                  return ICERR_OK;
496    
497          default :          default :
498                  DEBUG("Invalid encoding mode");                  DEBUGERR("Invalid encoding mode");
499                  return ICERR_ERROR;                  return ICERR_ERROR;
500          }          }
501    
502          // force keyframe spacing in 2-pass modes          if (codec->config.quant_type == QUANT_MODE_H263)
503          if ((codec->keyspacing < codec->config.min_key_interval && codec->framenum) &&          {
504                  (codec->config.mode == DLG_MODE_2PASS_1 || codec->config.mode == DLG_MODE_2PASS_2_INT ||                  frame.general |= XVID_H263QUANT;
505                  codec->config.mode == DLG_MODE_2PASS_2_EXT))          }
506            else
507            {
508                    frame.general |= XVID_MPEGQUANT;
509    
510                    // we actually need "default/custom" selectbox for both inter/intra
511                    // this will do for now
512                    if (codec->config.quant_type == QUANT_MODE_CUSTOM)
513                    {
514                            frame.general |= XVID_CUSTOM_QMATRIX;
515                            frame.quant_intra_matrix = codec->config.qmatrix_intra;
516                            frame.quant_inter_matrix = codec->config.qmatrix_inter;
517                    }
518                    else
519                    {
520                            frame.quant_intra_matrix = NULL;
521                            frame.quant_inter_matrix = NULL;
522                    }
523            }
524    
525            // force keyframe spacing in 2-pass 1st pass
526            if (codec->config.motion_search == 0)
527            {
528                    frame.intra = 1;
529            }
530            else if (codec->keyspacing < codec->config.min_key_interval && codec->framenum)
531          {          {
532                  DEBUG("current frame forced to p-frame");                  DEBUG("current frame forced to p-frame");
533                  frame.intra = 0;                  frame.intra = 0;
534          }          }
535    
536    #ifdef BFRAMES
537            frame.bquant = 0;
538    #endif
539    
540    //      OutputDebugString(" ");
541          switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))          switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))
542          {          {
543          case XVID_ERR_FAIL :          case XVID_ERR_FAIL :
# Line 438  Line 560 
560                  *icc->lpdwFlags = 0;                  *icc->lpdwFlags = 0;
561          }          }
562    
563          outhdr->bV4SizeImage = frame.length;          outhdr->biSizeImage = frame.length;
564    
565            if (codec->config.mode == DLG_MODE_2PASS_1 && codec->config.discard1pass)
566            {
567                    outhdr->biSizeImage = 0;
568            }
569    
570            if (frame.general & XVID_HINTEDME_GET)
571            {
572                    DWORD wrote;
573                    DWORD blocksize = frame.hint.hintlength;
574    
575          if (codec->config.mode == DLG_MODE_2PASS_1)                  if (codec->twopass.hints == INVALID_HANDLE_VALUE)
576                    {
577                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
578                            if (codec->twopass.hints        == INVALID_HANDLE_VALUE)
579          {          {
580                  if (codec->config.discard1pass)                                  DEBUGERR("couldn't create hints file");
581                                    return ICERR_ERROR;
582                            }
583                    }
584                    if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
585                            !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
586                  {                  {
587                          outhdr->bV4SizeImage = 0;                          DEBUGERR("couldn't write to hints file");
588                            return ICERR_ERROR;
589                  }                  }
590          }          }
591    
# Line 462  Line 603 
603    
604  LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)  LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)
605  {  {
606          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
607          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
608    
609          if (lpbiInput == NULL)          if (lpbiInput == NULL)
610          {          {
611                  return ICERR_ERROR;                  return ICERR_ERROR;
612          }          }
613    /* --- yv12 --- */
614            if (inhdr->biCompression == FOURCC_YV12) {
615                    return ICERR_OK;
616            }
617    /* --- yv12 --- */
618    
619          if (inhdr->bV4V4Compression != FOURCC_XVID && inhdr->bV4V4Compression != FOURCC_DIVX)          if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX)
620          {          {
621                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
622          }          }
# Line 480  Line 626 
626                  return ICERR_OK;                  return ICERR_OK;
627          }          }
628    
629          if (inhdr->bV4Width != outhdr->bV4Width ||          if (inhdr->biWidth != outhdr->biWidth ||
630                  inhdr->bV4Height != outhdr->bV4Height ||                  inhdr->biHeight != outhdr->biHeight ||
631                  get_colorspace(outhdr) == XVID_CSP_NULL)                  get_colorspace(outhdr) == XVID_CSP_NULL)
632          {          {
633                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
# Line 493  Line 639 
639    
640  LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
641  {  {
642          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
643          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
644          LRESULT result;          LRESULT result;
645    
646          if (lpbiOutput == NULL)          if (lpbiOutput == NULL)
647          {          {
648                  return sizeof(BITMAPV4HEADER);                  return sizeof(BITMAPINFOHEADER);
649            }
650    
651            /* --- yv12 --- */
652    
653            if (lpbiInput->bmiHeader.biCompression == FOURCC_YV12) {
654                    memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
655                    return ICERR_OK;
656          }          }
657            /* --- yv12 --- */
658    
659          result = decompress_query(codec, lpbiInput, lpbiOutput);          result = decompress_query(codec, lpbiInput, lpbiOutput);
660          if (result != ICERR_OK)          if (result != ICERR_OK)
# Line 508  Line 662 
662                  return result;                  return result;
663          }          }
664    
665          memcpy(outhdr, inhdr, sizeof(BITMAPV4HEADER));          memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
666          outhdr->bV4Size = sizeof(BITMAPV4HEADER);          outhdr->biSize = sizeof(BITMAPINFOHEADER);
667          outhdr->bV4V4Compression = FOURCC_YUY2;          outhdr->biCompression = FOURCC_YUY2;
668          outhdr->bV4SizeImage = outhdr->bV4Width * outhdr->bV4Height * outhdr->bV4BitCount;          outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;
669          outhdr->bV4XPelsPerMeter = 0;          outhdr->biXPelsPerMeter = 0;
670          outhdr->bV4YPelsPerMeter = 0;          outhdr->biYPelsPerMeter = 0;
671          outhdr->bV4ClrUsed = 0;          outhdr->biClrUsed = 0;
672          outhdr->bV4ClrImportant = 0;          outhdr->biClrImportant = 0;
673    
674          return ICERR_OK;          return ICERR_OK;
675  }  }
# Line 523  Line 677 
677    
678  LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
679  {  {
         BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;  
         BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;  
680          XVID_DEC_PARAM param;          XVID_DEC_PARAM param;
681          XVID_INIT_PARAM init_param;          XVID_INIT_PARAM init_param;
682    
# Line 535  Line 687 
687                  codec->config.cpu = init_param.cpu_flags;                  codec->config.cpu = init_param.cpu_flags;
688          }          }
689    
690          param.width = inhdr->bV4Width;          param.width = lpbiInput->bmiHeader.biWidth;
691          param.height = inhdr->bV4Height;          param.height = lpbiInput->bmiHeader.biHeight;
692    
693          switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))          switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))
694          {          {
# Line 569  Line 721 
721    
722  LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)  LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)
723  {  {
         BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)icd->lpbiInput;  
         BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)icd->lpbiOutput;  
724          XVID_DEC_FRAME frame;          XVID_DEC_FRAME frame;
725    
726          frame.bitstream = icd->lpInput;          frame.bitstream = icd->lpInput;
727          frame.length = icd->lpbiInput->biSizeImage;          frame.length = icd->lpbiInput->biSizeImage;
728    
729          frame.image = icd->lpOutput;          frame.image = icd->lpOutput;
730          frame.stride = icd->lpbiOutput->biWidth;          //frame.stride = icd->lpbiOutput->biWidth;
731            // dev-api-3:
732            frame.stride = (((icd->lpbiOutput->biWidth * icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
733    
734            /* --- yv12 --- */
735            if (icd->lpbiInput->biCompression == FOURCC_YV12) {
736                    DEBUGFOURCC("output", icd->lpbiOutput->biCompression);
737                    if (icd->lpbiOutput->biCompression == FOURCC_YV12) {
738                            memcpy(frame.image,codec->dhandle,icd->lpbiInput->biSizeImage);
739                    }
740                    return ICERR_OK;
741            }
742            /* --- yv12 --- */
743    
744    
745          if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE)))          if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE) | (icd->dwFlags & ICDECOMPRESS_PREROLL)))
746          {          {
747                  if ((frame.colorspace = get_colorspace(outhdr)) == XVID_CSP_NULL)                  if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)
748                  {                  {
749                          return ICERR_BADFORMAT;                          return ICERR_BADFORMAT;
750                  }                  }
# Line 606  Line 769 
769          return ICERR_OK;          return ICERR_OK;
770  }  }
771    
772  int codec_2pass_init(CODEC* codec)  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
773  {  {
         TWOPASS *twopass = &codec->twopass;  
         DWORD version = -20;  
         DWORD read, wrote;  
   
         int     frames = 0, credits_frames = 0, i_frames = 0;  
         __int64 total = 0, i_total = 0, i_boost_total = 0, start = 0, end = 0, start_curved = 0, end_curved = 0;  
         __int64 desired = codec->config.desired_size * 1024;  
   
         double total1 = 0.0;  
         double total2 = 0.0;  
   
774          switch (codec->config.mode)          switch (codec->config.mode)
775          {          {
776          case DLG_MODE_2PASS_1 :          case DLG_MODE_VBR_QUAL :
777                  twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_WRITE, FILE_SHARE_READ, 0, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, 0);                  if (codec_is_in_credits(&codec->config, codec->framenum))
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
                 {  
                         DEBUG("2pass init error - couldn't create stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (WriteFile(twopass->stats1, &version, sizeof(DWORD), &wrote, 0) == 0 || wrote != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUG("2pass init error - couldn't write to stats1");  
                         return ICERR_ERROR;  
                 }  
                 break;  
   
         case DLG_MODE_2PASS_2_INT :  
         case DLG_MODE_2PASS_2_EXT :  
                 twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
                 {  
                         DEBUG("2pass init error - couldn't open stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (ReadFile(twopass->stats1, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUG("2pass init error - couldn't read from stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (version != -20)  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUG("2pass init error - wrong .stats version");  
                         return ICERR_ERROR;  
                 }  
   
                 if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
                 {  
                         if (twopass->stats2 != INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats2);  
                         }  
   
                         twopass->stats2 = CreateFile(codec->config.stats2, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  
   
                         if (twopass->stats2 == INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 DEBUG("2pass init error - couldn't open stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (ReadFile(twopass->stats2, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUG("2pass init error - couldn't read from stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (version != -20)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUG("2pass init error - wrong .stats version");  
                                 return ICERR_ERROR;  
                         }  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 CloseHandle(twopass->stats2);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats1/stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames))  
                                 {  
                                         if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
                                         {  
                                                 i_boost_total = twopass->nns2.bytes * codec->config.keyframe_boost / 100;  
                                                 i_total += twopass->nns2.bytes;  
                                                 ++i_frames;  
                                         }  
   
                                         total += twopass->nns2.bytes;  
                                 }  
                                 else  
                                         ++credits_frames;  
   
                                 ++frames;  
                         }  
   
                         twopass->movie_curve = ((float)(total + i_boost_total) / total);  
                         twopass->average_frame = ((double)(total - i_total) / (frames - credits_frames - i_frames) / twopass->movie_curve);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 CloseHandle(twopass->stats2);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats1/stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns2.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
   
                                         if (dbytes > twopass->average_frame)  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_high / 100.0);  
                                         }  
                                         else  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_low / 100.0);  
                                         }  
                                 }  
   
                                 ++frames;  
                         }  
   
                         twopass->curve_comp_scale = total1 / total2;  
   
                         {  
                                 int asymmetric_average_frame;  
                                 char s[100];  
   
                                 asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);  
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
                 }  
                 else    // DLG_MODE_2PASS_2_INT  
                 {  
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (codec_is_in_credits(&codec->config, frames) == CREDITS_START)  
                                 {  
                                         start += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (codec_is_in_credits(&codec->config, frames) == CREDITS_END)  
                                 {  
                                         end += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
778                                  {                                  {
779                                          i_total += twopass->nns1.bytes + twopass->nns1.bytes * codec->config.keyframe_boost / 100;  // added by koepi for credits greyscale
                                         total += twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         ++i_frames;  
                                 }  
780    
781                                  total += twopass->nns1.bytes;                          check_greyscale_mode(&codec->config, frame, codec->framenum);
782    
783                                  ++frames;  // end of koepi's addition
                         }  
   
                         // compensate for avi frame overhead  
                         desired -= frames * 24;  
784    
785                          switch (codec->config.credits_mode)                          switch (codec->config.credits_mode)
786                          {                          {
787                          case CREDITS_MODE_RATE :                          case CREDITS_MODE_RATE :
788                                    frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);
                                 // credits curve = (total / desired_size) * (100 / credits_rate)  
                                 twopass->credits_start_curve = twopass->credits_end_curve =  
                                         ((float)total / desired) * ((float)100 / codec->config.credits_rate);  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
789                                  break;                                  break;
790    
791                          case CREDITS_MODE_QUANT :                          case CREDITS_MODE_QUANT :
792                                    frame->quant = codec->config.credits_quant_p;
                                 // movie curve = (total - credits) / (desired_size - credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) / (desired - start - end);  
   
                                 // aid the average asymmetric frame calculation below  
                                 start_curved = start;  
                                 end_curved = end;  
   
793                                  break;                                  break;
794    
795                          case CREDITS_MODE_SIZE :                          default :
796                                    DEBUGERR("Can't use credits size mode in quality mode");
                                 // start curve = (start / start desired size)  
                                 twopass->credits_start_curve = (float)  
                                         (start / 1024) / codec->config.credits_start_size;  
   
                                 // end curve = (end / end desired size)  
                                 twopass->credits_end_curve = (float)  
                                         (end / 1024) / codec->config.credits_end_size;  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
                         }  
   
                         // average frame size = (desired - curved credits - curved keyframes) /  
                         //      (frames - credits frames - keyframes)  
                         twopass->average_frame = (double)  
                                 (desired - start_curved - end_curved - (i_total / twopass->movie_curve)) /  
                                 (frames - credits_frames - i_frames);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats2 record?");  
797                                                  return ICERR_ERROR;                                                  return ICERR_ERROR;
798                                          }                                          }
799                                  }                                  }
   
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns1.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
   
                                         if (dbytes > twopass->average_frame)  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_high / 100.0);  
                                         }  
800                                          else                                          else
801                                          {                                          {
802                                                  total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  // added by koepi for credits greyscale
                                                         codec->config.curve_compression_low / 100.0);  
                                         }  
                                 }  
   
                                 ++frames;  
                         }  
   
                         twopass->curve_comp_scale = total1 / total2;  
   
                         {  
                                 int asymmetric_average_frame;  
                                 char s[100];  
   
                                 asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);  
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
803    
804                          SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);                          check_greyscale_mode(&codec->config, frame, codec->framenum);
                 }  
805    
806                  twopass->overflow = 0;  // end of koepi's addition
807    
808                  break;                          frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);
809          }          }
   
810          return ICERR_OK;          return ICERR_OK;
 }  
   
811    
812  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)          case DLG_MODE_VBR_QUANT :
 {  
         switch (codec->config.mode)  
         {  
         case DLG_MODE_VBR_QUAL :  
813                  if (codec_is_in_credits(&codec->config, codec->framenum))                  if (codec_is_in_credits(&codec->config, codec->framenum))
814                  {                  {
815                          switch (codec->config.credits_mode)  // added by koepi for credits greyscale
                         {  
                         case CREDITS_MODE_RATE :  
                                 frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);  
                                 break;  
816    
817                          case CREDITS_MODE_QUANT :                          check_greyscale_mode(&codec->config, frame, codec->framenum);
                                 frame->quant = codec->config.credits_quant_p;  
                                 break;  
818    
819                          default :  // end of koepi's addition
                                 DEBUG("Can't use credits size mode in quality mode");  
                                 return ICERR_ERROR;  
                         }  
                 }  
                 else  
                 {  
                         frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);  
                 }  
                 return ICERR_OK;  
820    
         case DLG_MODE_VBR_QUANT :  
                 if (codec_is_in_credits(&codec->config, codec->framenum))  
                 {  
821                          switch (codec->config.credits_mode)                          switch (codec->config.credits_mode)
822                          {                          {
823                          case CREDITS_MODE_RATE :                          case CREDITS_MODE_RATE :
824                                  frame->quant =                                  frame->quant =
825                                          codec->config.max_quant -                                          codec->config.max_pquant -
826                                          ((codec->config.max_quant - codec->config.quant) * codec->config.credits_rate / 100);                                          ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);
827                                  break;                                  break;
828    
829                          case CREDITS_MODE_QUANT :                          case CREDITS_MODE_QUANT :
# Line 1015  Line 831 
831                                  break;                                  break;
832    
833                          default :                          default :
834                                  DEBUG("Can't use credits size mode in quantizer mode");                                  DEBUGERR("Can't use credits size mode in quantizer mode");
835                                  return ICERR_ERROR;                                  return ICERR_ERROR;
836                          }                          }
837                  }                  }
838                  else                  else
839                  {                  {
840    // added by koepi for credits greyscale
841    
842                            check_greyscale_mode(&codec->config, frame, codec->framenum);
843    
844    // end of koepi's addition
845    
846                          frame->quant = codec->config.quant;                          frame->quant = codec->config.quant;
847                  }                  }
848                  return ICERR_OK;                  return ICERR_OK;
849    
850          case DLG_MODE_2PASS_1 :          case DLG_MODE_2PASS_1 :
851    // added by koepi for credits greyscale
852    
853                    check_greyscale_mode(&codec->config, frame, codec->framenum);
854    
855    // end of koepi's addition
856    
857                  if (codec->config.credits_mode == CREDITS_MODE_QUANT)                  if (codec->config.credits_mode == CREDITS_MODE_QUANT)
858                  {                  {
859                          if (codec_is_in_credits(&codec->config, codec->framenum))                          if (codec_is_in_credits(&codec->config, codec->framenum))
# Line 1044  Line 872 
872                  return ICERR_OK;                  return ICERR_OK;
873    
874          default:          default:
875                  DEBUG("get quant: invalid mode");                  DEBUGERR("get quant: invalid mode");
876                  return ICERR_ERROR;                  return ICERR_ERROR;
877          }          }
878  }  }
879    
880    
881  int codec_2pass_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  int codec_is_in_credits(CONFIG* config, int framenum)
 {  
         static double quant_error[32];  
         static double curve_comp_error;  
         static int last_quant;  
   
         TWOPASS * twopass = &codec->twopass;  
   
         DWORD read;  
         int bytes1, bytes2;  
         int overflow;  
         int credits_pos;  
   
         if (codec->framenum == 0)  
         {  
                 int i;  
   
                 for (i=0 ; i<32 ; ++i)  
                 {  
                         quant_error[i] = 0.0;  
                 }  
   
                 curve_comp_error = 0.0;  
                 last_quant = 0;  
         }  
   
         if (ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
882          {          {
883                  DEBUG("2ndpass quant: couldn't read from stats1");          if (config->credits_start)
                 return ICERR_ERROR;  
         }  
         if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
884          {          {
885                  if (ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))                  if (framenum >= config->credits_start_begin &&
886                            framenum <= config->credits_start_end)
887                  {                  {
888                          DEBUG("2ndpass quant: couldn't read from stats2");                          return CREDITS_START;
                         return ICERR_ERROR;  
                 }  
889          }          }
   
         bytes1 = twopass->nns1.bytes;  
         overflow = twopass->overflow / 8;  
   
         // override codec i-frame choice (reenable in credits)  
         frame->intra = (twopass->nns1.quant & NNSTATS_KEYFRAME);  
   
         if (frame->intra)  
         {  
                 overflow = 0;  
890          }          }
891    
892          credits_pos = codec_is_in_credits(&codec->config, codec->framenum);          if (config->credits_end)
   
         if (credits_pos)  
         {  
                 if (codec->config.mode == DLG_MODE_2PASS_2_INT)  
                 {  
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
                         case CREDITS_MODE_SIZE :  
                                 if (credits_pos == CREDITS_START)  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_start_curve);  
                                 }  
                                 else // CREDITS_END  
893                                  {                                  {
894                                          bytes2 = (int)(bytes1 / twopass->credits_end_curve);                  if (framenum >= config->credits_end_begin &&
895                                  }                          framenum <= config->credits_end_end)
   
                                 frame->intra = -1;  
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
                                 if (codec->config.credits_quant_i != codec->config.credits_quant_p)  
896                                  {                                  {
897                                          frame->quant = frame->intra ?                          return CREDITS_END;
                                                 codec->config.credits_quant_i :  
                                                 codec->config.credits_quant_p;  
898                                  }                                  }
                                 else  
                                 {  
                                         frame->quant = codec->config.credits_quant_p;  
                                         frame->intra = -1;  
899                                  }                                  }
900    
901                                  twopass->bytes1 = bytes1;          return 0;
                                 twopass->bytes2 = bytes1;  
                                 twopass->desired_bytes2 = bytes1;  
                                 return ICERR_OK;  
                         }  
                 }  
                 else    // DLG_MODE_2PASS_2_EXT  
                 {  
                         bytes2 = twopass->nns2.bytes;  
                 }  
902          }          }
         else    // Foxer: apply curve compression outside credits  
         {  
                 double dbytes, curve_temp;  
903    
                 bytes2 = (codec->config.mode == DLG_MODE_2PASS_2_INT) ? bytes1 : twopass->nns2.bytes;  
   
                 if (frame->intra)  
                 {  
                         dbytes = ((int)(bytes2 + bytes2 * codec->config.keyframe_boost / 100)) /  
                                 twopass->movie_curve;  
                 }  
                 else  
                 {  
                         dbytes = bytes2 / twopass->movie_curve;  
                 }  
904    
905                  // spread the compression error across payback_delay frames  int codec_get_vbr_quant(CONFIG* config, int quality)
                 if (codec->config.bitrate_payback_method == 0)  
                 {  
                         bytes2 = (int)(curve_comp_error / codec->config.bitrate_payback_delay);  
                 }  
                 else  
906                  {                  {
907                          bytes2 = (int)(curve_comp_error * dbytes /          static float fquant_running = 0;
908                                  twopass->average_frame / codec->config.bitrate_payback_delay);          static int my_quality = -1;
909            int     quant;
910    
911                          if (labs(bytes2) > fabs(curve_comp_error))          // if quality changes, recalculate fquant (credits)
912            if (quality != my_quality)
913                          {                          {
914                                  bytes2 = (int)curve_comp_error;                  config->fquant = 0;
                         }  
915                  }                  }
916    
917                  curve_comp_error -= bytes2;          my_quality = quality;
918    
919                  if ((codec->config.curve_compression_high + codec->config.curve_compression_low) &&          // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ
920                          !frame->intra)          if (!config->fquant)
                 {  
                         if (dbytes > twopass->average_frame)  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_high / 100.0);  
                         }  
                         else  
921                          {                          {
922                                  curve_temp = twopass->curve_comp_scale *                  config->fquant =
923                                          ((double)dbytes + (twopass->average_frame - dbytes) *                          ((float) (config->max_pquant - config->min_pquant) / 100) *
924                                          codec->config.curve_compression_low / 100.0);                          (100 - quality) +
925                          }                          (float) config->min_pquant;
926    
927                          bytes2 += ((int)curve_temp);                  fquant_running = config->fquant;
                         curve_comp_error += curve_temp - ((int)curve_temp);  
                 }  
                 else  
                 {  
                         curve_comp_error += dbytes - ((int)dbytes);  
                         bytes2 += ((int)dbytes);  
928                  }                  }
929    
930                  // cap bytes2 to first pass size, lowers number of quant=1 frames          if (fquant_running < config->min_pquant)
                 if (bytes2 > bytes1)  
931                  {                  {
932                          curve_comp_error += bytes2 - bytes1;                  fquant_running = (float) config->min_pquant;
                         bytes2 = bytes1;  
933                  }                  }
934                  else if (bytes2 < 1)          else if(fquant_running > config->max_pquant)
935                  {                  {
936                          curve_comp_error += --bytes2;                  fquant_running = (float) config->max_pquant;
                         bytes2 = 1;  
                 }  
937          }          }
938    
939          twopass->desired_bytes2 = bytes2;          quant = (int) fquant_running;
   
         // Foxer: scale overflow in relation to average size, so smaller frames don't get  
         // too much/little bitrate  
         overflow = (int)((double)overflow * bytes2 / twopass->average_frame);  
   
         // Foxer: reign in overflow with huge frames  
         if (labs(overflow) > labs(twopass->overflow))  
         {  
                 overflow = twopass->overflow;  
         }  
940    
941          // Foxer: make sure overflow doesn't run away          // add error between fquant and quant to fquant_running
942          if (overflow > bytes2 * 6 / 10)          fquant_running += config->fquant - quant;
         {  
                 bytes2 += (overflow <= bytes2) ? bytes2 * 6 / 10 : overflow * 6 / 10;  
         }  
         else if (overflow < bytes2 * -6 / 10)  
         {  
                 bytes2 += bytes2 * -6 / 10;  
         }  
         else  
         {  
                 bytes2 += overflow;  
         }  
943    
944          if (bytes2 < 1)          return quant;
         {  
                 bytes2 = 1;  
945          }          }
946    
947          twopass->bytes1 = bytes1;  // added by koepi for credits greyscale
         twopass->bytes2 = bytes2;  
948    
949          // very 'simple' quant<->filesize relationship  int check_greyscale_mode(CONFIG* config, XVID_ENC_FRAME* frame, int framenum)
         frame->quant = ((twopass->nns1.quant & ~NNSTATS_KEYFRAME) * bytes1) / bytes2;  
950    
         if (frame->quant < 1)  
         {  
                 frame->quant = 1;  
         }  
         else if (frame->quant > 31)  
951          {          {
                 frame->quant = 31;  
         }  
         else if (!frame->intra)  
         {  
                 // Foxer: aid desired quantizer precision by accumulating decision error  
                 quant_error[frame->quant] += ((double)((twopass->nns1.quant & ~NNSTATS_KEYFRAME) *  
                         bytes1) / bytes2) - frame->quant;  
952    
953                  if (quant_error[frame->quant] >= 1.0)          if ((codec_is_in_credits(config, framenum)) && (config->mode!=DLG_MODE_CBR))
                 {  
                         quant_error[frame->quant] -= 1.0;  
                         ++frame->quant;  
                 }  
         }  
954    
         // we're done with credits  
         if (codec_is_in_credits(&codec->config, codec->framenum))  
955          {          {
                 return ICERR_OK;  
         }  
956    
957          if (frame->intra)                  if (config->credits_greyscale)
         {  
                 if (frame->quant < codec->config.min_iquant)  
                 {  
                         frame->quant = codec->config.min_iquant;  
                         DEBUG2P("I-frame quantizer raised");  
                 }  
                 if (frame->quant > codec->config.max_iquant)  
                 {  
                         frame->quant = codec->config.max_iquant;  
                         DEBUG2P("I-frame quantizer lowered");  
                 }  
         }  
         else  
         {  
                 if (frame->quant > codec->config.max_quant)  
                 {  
                         frame->quant = codec->config.max_quant;  
                 }  
                 if (frame->quant < codec->config.min_quant)  
                 {  
                         frame->quant = codec->config.min_quant;  
                 }  
958    
                 // subsequent frame quants can only be +- 2  
                 if (last_quant)  
959                  {                  {
                         if (frame->quant > last_quant + 2)  
                         {  
                                 frame->quant = last_quant + 2;  
                                 DEBUG2P("P-frame quantizer prevented from rising too steeply");  
                         }  
                         if (frame->quant < last_quant - 2)  
                         {  
                                 frame->quant = last_quant - 2;  
                                 DEBUG2P("P-frame quantizer prevented from falling too steeply");  
                         }  
                 }  
         }  
960    
961          last_quant = frame->quant;                          if ((frame->general && XVID_GREYSCALE))  // use only if not already in greyscale
962    
963          return ICERR_OK;                                  frame->general |= XVID_GREYSCALE;
 }  
964    
965                    } else {
966    
967  int codec_2pass_update(CODEC* codec, XVID_ENC_FRAME* frame, XVID_ENC_STATS* stats)                          if (!(frame->general && XVID_GREYSCALE))  // if movie is in greyscale, switch back
 {  
         static __int64 total_size;  
968    
969          NNSTATS nns1;                                  frame->general |= XVID_GREYSCALE;
         DWORD wrote;  
970    
         if (codec->framenum == 0)  
         {  
                 total_size = 0;  
971          }          }
972    
973          switch (codec->config.mode)          } else {
         {  
         case DLG_MODE_2PASS_1 :  
                 nns1.bytes = frame->length;     // total bytes  
                 nns1.dd_v = stats->hlength;     // header bytes  
974    
975                  nns1.dd_u = nns1.dd_y = 0;                  if (config->greyscale)
                 nns1.dk_v = nns1.dk_u = nns1.dk_y = 0;  
                 nns1.md_u = nns1.md_y = 0;  
                 nns1.mk_u = nns1.mk_y = 0;  
976    
                 nns1.quant = stats->quant;  
                 if (frame->intra)  
977                  {                  {
                         nns1.quant |= NNSTATS_KEYFRAME;  
                 }  
                 nns1.kblk = stats->kblks;  
                 nns1.mblk = stats->mblks;  
                 nns1.ublk = stats->ublks;  
                 nns1.lum_noise[0] = nns1.lum_noise[1] = 1;  
978    
979                  total_size += frame->length;                          if ((frame->general && XVID_GREYSCALE))  // use only if not already in greyscale
                 DEBUG1ST(frame->length, (int)total_size/1024, frame->intra, frame->quant, stats->kblks, stats->mblks)  
980    
981                  if (WriteFile(codec->twopass.stats1, &nns1, sizeof(NNSTATS), &wrote, 0) == 0 || wrote != sizeof(NNSTATS))                                  frame->general |= XVID_GREYSCALE;
                 {  
                         DEBUG("stats1: WriteFile error");  
                         return ICERR_ERROR;  
                 }  
                 break;  
982    
983          case DLG_MODE_2PASS_2_INT :                  } else {
         case DLG_MODE_2PASS_2_EXT :  
                 codec->twopass.overflow += codec->twopass.desired_bytes2 - frame->length;  
                 DEBUG2ND(frame->quant, frame->intra, codec->twopass.bytes1, codec->twopass.desired_bytes2, frame->length, codec->twopass.overflow, codec_is_in_credits(&codec->config, codec->framenum))  
                 break;  
   
         default:  
                 break;  
         }  
   
         return ICERR_OK;  
 }  
984    
985                            if (!(frame->general && XVID_GREYSCALE))  // if credits is in greyscale, switch back
986    
987  int codec_is_in_credits(CONFIG* config, int framenum)                                  frame->general |= XVID_GREYSCALE;
 {  
         if (config->mode == DLG_MODE_2PASS_2_EXT)  
         {  
                 return 0;  
         }  
988    
         if (config->credits_start)  
         {  
                 if (framenum >= config->credits_start_begin &&  
                         framenum <= config->credits_start_end)  
                 {  
                         return CREDITS_START;  
                 }  
989          }          }
990    
         if (config->credits_end)  
         {  
                 if (framenum >= config->credits_end_begin &&  
                         framenum <= config->credits_end_end)  
                 {  
                         return CREDITS_END;  
                 }  
991          }          }
992    
993          return 0;          return 0;
 }  
   
994    
 int codec_get_vbr_quant(CONFIG* config, int quality)  
 {  
         static float fquant_running = 0;  
         static int my_quality = -1;  
         int     quant;  
   
         // if quality changes, recalculate fquant (credits)  
         if (quality != my_quality)  
         {  
                 config->fquant = 0;  
995          }          }
996    
997          my_quality = quality;  // end of koepi's addition
   
         // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ  
         if (!config->fquant)  
         {  
                 config->fquant =  
                         ((float) (config->max_quant - config->min_quant) / 100) *  
                         (100 - quality) +  
                         (float) config->min_quant;  
   
                 fquant_running = config->fquant;  
         }  
   
         if (fquant_running < config->min_quant)  
         {  
                 fquant_running = (float) config->min_quant;  
         }  
         else if(fquant_running > config->max_quant)  
         {  
                 fquant_running = (float) config->max_quant;  
         }  
   
         quant = (int) fquant_running;  
   
         // add error between fquant and quant to fquant_running  
         fquant_running += config->fquant - quant;  
   
         return quant;  
 }  
998    

Legend:
Removed from v.5  
changed lines
  Added in v.632

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4