[svn] / trunk / vfw / src / codec.c Repository:
ViewVC logotype

Diff of /trunk/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 3, Fri Mar 8 02:46:11 2002 UTC revision 102, Fri Apr 5 14:42:37 2002 UTC
# Line 23  Line 23 
23   *   *
24   *      History:   *      History:
25   *   *
26   *      ... ???   *      04.04.2002      separated 2-pass code to 2pass.c
27     *                              interlacing support
28     *                              hinted ME support
29     *      23.03.2002      daniel smith <danielsmith@astroboymail.com>
30     *                              changed inter4v to only be in modes 5 or 6
31     *                              fixed null mode crash ?
32     *                              merged foxer's alternative 2-pass code
33     *                              added DEBUGERR output on errors instead of returning
34     *      16.03.2002      daniel smith <danielsmith@astroboymail.com>
35     *                              changed BITMAPV4HEADER to BITMAPINFOHEADER
36     *                                      - prevents memcpy crash in compress_get_format()
37     *                              credits are processed in external 2pass mode
38     *                              motion search precision = 0 now effective in 2-pass
39     *                              modulated quantization
40     *                              added DX50 fourcc
41   *      01.12.2001      inital version; (c)2001 peter ross <suxen_drol@hotmail.com>   *      01.12.2001      inital version; (c)2001 peter ross <suxen_drol@hotmail.com>
42   *   *
43   *************************************************************************/   *************************************************************************/
# Line 32  Line 46 
46  #include <vfw.h>  #include <vfw.h>
47    
48  #include "codec.h"  #include "codec.h"
49  #include <math.h>       // fabs()  #include "2pass.h"
50    
51  int pmvfast_presets[7] = {  int pmvfast_presets[7] = {
52          0, PMV_QUICKSTOP16, PMV_EARLYSTOP16, PMV_EARLYSTOP16 | PMV_EARLYSTOP8,          0, PMV_QUICKSTOP16, PMV_EARLYSTOP16, PMV_EARLYSTOP16 | PMV_EARLYSTOP8,
# Line 46  Line 60 
60          or XVID_CSP_NULL if failure          or XVID_CSP_NULL if failure
61  */  */
62    
63  int get_colorspace(BITMAPV4HEADER * hdr)  int get_colorspace(BITMAPINFOHEADER * hdr)
64  {  {
65          if (hdr->bV4Height < 0)          if (hdr->biHeight < 0)
66          {          {
67                  DEBUG("colorspace: inverted input format not supported");                  DEBUGERR("colorspace: inverted input format not supported");
68                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
69          }          }
70    
71          switch(hdr->bV4V4Compression)          switch(hdr->biCompression)
72          {          {
73          case BI_RGB :          case BI_RGB :
74                  if (hdr->bV4BitCount == 16)                  if (hdr->biBitCount == 16)
75                  {                  {
76                          DEBUG("RGB16 (RGB555)");                          DEBUG("RGB16 (RGB555)");
77                          return XVID_CSP_VFLIP | XVID_CSP_RGB555;                          return XVID_CSP_VFLIP | XVID_CSP_RGB555;
78                  }                  }
79                  if (hdr->bV4BitCount == 24)                  if (hdr->biBitCount == 24)
80                  {                  {
81                          DEBUG("RGB24");                          DEBUG("RGB24");
82                          return XVID_CSP_VFLIP | XVID_CSP_RGB24;                          return XVID_CSP_VFLIP | XVID_CSP_RGB24;
83                  }                  }
84                  if (hdr->bV4BitCount == 32)                  if (hdr->biBitCount == 32)
85                  {                  {
86                          DEBUG("RGB32");                          DEBUG("RGB32");
87                          return XVID_CSP_VFLIP | XVID_CSP_RGB32;                          return XVID_CSP_VFLIP | XVID_CSP_RGB32;
88                  }                  }
89    
90                  DEBUG1("BI_RGB unsupported", hdr->bV4BitCount);                  DEBUG1("BI_RGB unsupported", hdr->biBitCount);
91                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
92    
93          case BI_BITFIELDS :  // how do these work in BITMAPINFOHEADER ???
94                  if(hdr->bV4BitCount == 16 &&  /*      case BI_BITFIELDS :
95                    if (hdr->biBitCount == 16
96                    if(hdr->biBitCount == 16 &&
97                          hdr->bV4RedMask == 0x7c00 &&                          hdr->bV4RedMask == 0x7c00 &&
98                          hdr->bV4GreenMask == 0x3e0 &&                          hdr->bV4GreenMask == 0x3e0 &&
99                          hdr->bV4BlueMask == 0x1f)                          hdr->bV4BlueMask == 0x1f)
# Line 96  Line 112 
112    
113                  DEBUG1("BI_FIELDS unsupported", hdr->bV4BitCount);                  DEBUG1("BI_FIELDS unsupported", hdr->bV4BitCount);
114                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
115    */
116          case FOURCC_I420:          case FOURCC_I420:
117          case FOURCC_IYUV:          case FOURCC_IYUV:
118                  DEBUG("IYUY");                  DEBUG("IYUY");
# Line 121  Line 137 
137                  return XVID_CSP_UYVY;                  return XVID_CSP_UYVY;
138    
139          }          }
140          DEBUGFOURCC("colorspace: unknown", hdr->bV4V4Compression);          DEBUGFOURCC("colorspace: unknown", hdr->biCompression);
141          return XVID_CSP_NULL;          return XVID_CSP_NULL;
142  }  }
143    
# Line 133  Line 149 
149    
150  LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
151  {  {
152          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
153          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
154    
155          if (get_colorspace(inhdr) == XVID_CSP_NULL)          if (get_colorspace(inhdr) == XVID_CSP_NULL)
156          {          {
# Line 146  Line 162 
162                  return ICERR_OK;                  return ICERR_OK;
163          }          }
164    
165          if (inhdr->bV4Width != outhdr->bV4Width || inhdr->bV4Height != outhdr->bV4Height ||          if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||
166                  (outhdr->bV4V4Compression != FOURCC_XVID && outhdr->bV4V4Compression != FOURCC_DIVX))                  (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX))
167          {          {
168                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
169          }          }
# Line 158  Line 174 
174    
175  LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
176  {  {
177          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
178          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
179    
180          if (get_colorspace(inhdr) == XVID_CSP_NULL)          if (get_colorspace(inhdr) == XVID_CSP_NULL)
181          {          {
# Line 171  Line 187 
187                  return sizeof(BITMAPV4HEADER);                  return sizeof(BITMAPV4HEADER);
188          }          }
189    
190          memcpy(outhdr, inhdr, sizeof(BITMAPV4HEADER));          memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
191          outhdr->bV4Size = sizeof(BITMAPV4HEADER);          outhdr->biSize = sizeof(BITMAPINFOHEADER);
192          outhdr->bV4BitCount = 24;  // or 16          outhdr->biBitCount = 24;  // or 16
193          outhdr->bV4SizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);          outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);
194          outhdr->bV4XPelsPerMeter = 0;          outhdr->biXPelsPerMeter = 0;
195          outhdr->bV4YPelsPerMeter = 0;          outhdr->biYPelsPerMeter = 0;
196          outhdr->bV4ClrUsed = 0;          outhdr->biClrUsed = 0;
197          outhdr->bV4ClrImportant = 0;          outhdr->biClrImportant = 0;
198    
199          if (codec->config.fourcc_used == 0)          if (codec->config.fourcc_used == 0)
200          {          {
201                  outhdr->bV4V4Compression = FOURCC_XVID;                  outhdr->biCompression = FOURCC_XVID;
202            }
203            else if (codec->config.fourcc_used == 1)
204            {
205                    outhdr->biCompression = FOURCC_DIVX;
206          }          }
207          else          else
208          {          {
209                  outhdr->bV4V4Compression = FOURCC_DIVX;                  outhdr->biCompression = FOURCC_DX50;
210          }          }
211    
212          return ICERR_OK;          return ICERR_OK;
# Line 195  Line 215 
215    
216  LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
217  {  {
218          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          return lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;
         return outhdr->bV4Width * outhdr->bV4Height * 3;  
219  }  }
220    
221    
# Line 211  Line 230 
230    
231  LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
232  {  {
         BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;  
233          XVID_ENC_PARAM param;          XVID_ENC_PARAM param;
234          XVID_INIT_PARAM init_param;          XVID_INIT_PARAM init_param;
235    
# Line 238  Line 256 
256                  param.bitrate = 0;                  param.bitrate = 0;
257                  break;                  break;
258    
259            case DLG_MODE_NULL :
260                    return ICERR_OK;
261    
262          default :          default :
263                  break;                  break;
264          }          }
# Line 253  Line 274 
274          if((codec->config.cpu & XVID_CPU_FORCE) <= 0)          if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
275                  codec->config.cpu = init_param.cpu_flags;                  codec->config.cpu = init_param.cpu_flags;
276    
277          param.width = inhdr->bV4Width;          param.width = lpbiInput->bmiHeader.biWidth;
278          param.height = inhdr->bV4Height;          param.height = lpbiInput->bmiHeader.biHeight;
279          param.fincr = codec->fincr;          param.fincr = codec->fincr;
280          param.fbase = codec->fbase;          param.fbase = codec->fbase;
281    
282          param.rc_buffersize = codec->config.rc_buffersize;          param.rc_buffersize = codec->config.rc_buffersize;
283    
284          param.min_quantizer = codec->config.min_quant;          param.min_quantizer = codec->config.min_pquant;
285          param.max_quantizer = codec->config.max_quant;          param.max_quantizer = codec->config.max_pquant;
286          param.max_key_interval = codec->config.max_key_interval;          param.max_key_interval = codec->config.max_key_interval;
287    
288          switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))          switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))
# Line 280  Line 301 
301          codec->framenum = 0;          codec->framenum = 0;
302          codec->keyspacing = 0;          codec->keyspacing = 0;
303    
304          codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;          codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
305            codec->twopass.hintstream = NULL;
306    
307          return ICERR_OK;          return ICERR_OK;
308  }  }
# Line 291  Line 313 
313          if (codec->ehandle != NULL)          if (codec->ehandle != NULL)
314          {          {
315                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
316    
317                    if (codec->twopass.hints != INVALID_HANDLE_VALUE)
318                    {
319                            CloseHandle(codec->twopass.hints);
320                    }
321                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
322                  {                  {
323                          CloseHandle(codec->twopass.stats1);                          CloseHandle(codec->twopass.stats1);
# Line 299  Line 326 
326                  {                  {
327                          CloseHandle(codec->twopass.stats2);                          CloseHandle(codec->twopass.stats2);
328                  }                  }
329                    if (codec->twopass.hintstream != NULL)
330                    {
331                            free(codec->twopass.hintstream);
332                    }
333    
334                  codec->ehandle = NULL;                  codec->ehandle = NULL;
335          }          }
336    
# Line 308  Line 340 
340    
341  LRESULT compress(CODEC * codec, ICCOMPRESS * icc)  LRESULT compress(CODEC * codec, ICCOMPRESS * icc)
342  {  {
343          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)icc->lpbiInput;          BITMAPINFOHEADER * inhdr = icc->lpbiInput;
344          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)icc->lpbiOutput;          BITMAPINFOHEADER * outhdr = icc->lpbiOutput;
345          XVID_ENC_FRAME frame;          XVID_ENC_FRAME frame;
346          XVID_ENC_STATS stats;          XVID_ENC_STATS stats;
347    
# Line 324  Line 356 
356    
357          frame.general = 0;          frame.general = 0;
358          frame.motion = 0;          frame.motion = 0;
359            frame.intra = -1;
         if(codec->config.motion_search == 0)  
                 frame.intra = 1;  
360    
361          frame.general |= XVID_HALFPEL;          frame.general |= XVID_HALFPEL;
362    
363          if(codec->config.motion_search > 3)          if(codec->config.motion_search > 4)
364                  frame.general |= XVID_INTER4V;                  frame.general |= XVID_INTER4V;
365    
366          // we actually need "default/custom" selectbox for both inter/intra          if(((codec->config.mode == DLG_MODE_2PASS_1) ? 0 : codec->config.lum_masking) == 1)
367          // this will do for now                  frame.general |= XVID_LUMIMASKING;
368    
369            if (codec->config.interlacing)
370                    frame.general |= XVID_INTERLACING;
371    
372          if ((codec->config.quant_type == QUANT_MODE_CUSTOM) && (codec->config.quant_type == 1))          if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
373          {          {
374                  frame.general |= XVID_CUSTOM_QMATRIX;                  frame.hint.hintstream = codec->twopass.hintstream;
375                  frame.quant_intra_matrix = codec->config.qmatrix_intra;                  frame.hint.rawhints = 0;
376                  frame.quant_inter_matrix = codec->config.qmatrix_inter;                  frame.general |= XVID_HINTEDME_GET;
377          }          }
378          else          else if (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT)
379          {          {
380                  frame.quant_intra_matrix = NULL;                  DWORD read;
381                  frame.quant_inter_matrix = NULL;                  DWORD blocksize;
         }  
382    
383          if(codec->config.quant_type == 0)                  frame.hint.hintstream = codec->twopass.hintstream;
384                  frame.general |= XVID_H263QUANT;                  frame.hint.rawhints = 0;
385          else                  frame.general |= XVID_HINTEDME_SET;
                 frame.general |= XVID_MPEGQUANT;  
386    
387          if(((codec->config.mode == DLG_MODE_2PASS_1) ? 0 : codec->config.lum_masking) == 1)                  if (codec->twopass.hints == INVALID_HANDLE_VALUE)
388                  frame.general |= XVID_LUMIMASKING;                  {
389                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
390                            if (codec->twopass.hints == INVALID_HANDLE_VALUE)
391                            {
392                                    DEBUGERR("couldn't open hints file");
393                                    return ICERR_ERROR;
394                            }
395                    }
396                    if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
397                            !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
398                    {
399                            DEBUGERR("couldn't read from hints file");
400                            return ICERR_ERROR;
401                    }
402            }
403    
404          frame.motion = pmvfast_presets[codec->config.motion_search];          frame.motion = pmvfast_presets[codec->config.motion_search];
405    
406          frame.image = icc->lpInput;          frame.image = icc->lpInput;
407    
408          if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL) {          if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)
409                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
         }  
410    
411          frame.bitstream = icc->lpOutput;          frame.bitstream = icc->lpOutput;
412          frame.length = icc->lpbiOutput->biSizeImage;          frame.length = icc->lpbiOutput->biSizeImage;
         frame.intra = -1;  
413    
414          switch (codec->config.mode)          switch (codec->config.mode)
415          {          {
# Line 391  Line 434 
434                  }                  }
435                  if (codec->config.dummy2pass)                  if (codec->config.dummy2pass)
436                  {                  {
437                          outhdr->bV4SizeImage = codec->twopass.bytes2;                          outhdr->biSizeImage = codec->twopass.bytes2;
438                          *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;                          *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;
439                          return ICERR_OK;                          return ICERR_OK;
440                  }                  }
441                  break;                  break;
442    
443          case DLG_MODE_NULL :          case DLG_MODE_NULL :
444                  outhdr->bV4SizeImage = 0;                  outhdr->biSizeImage = 0;
445                  *icc->lpdwFlags = AVIIF_KEYFRAME;                  *icc->lpdwFlags = AVIIF_KEYFRAME;
446                  return ICERR_OK;                  return ICERR_OK;
447    
448          default :          default :
449                  DEBUG("Invalid encoding mode");                  DEBUGERR("Invalid encoding mode");
450                  return ICERR_ERROR;                  return ICERR_ERROR;
451          }          }
452    
453          // force keyframe spacing in 2-pass modes          if (codec->config.quant_type == QUANT_MODE_H263)
454          if ((codec->keyspacing < codec->config.min_key_interval && codec->framenum) &&          {
455                  (codec->config.mode == DLG_MODE_2PASS_1 || codec->config.mode == DLG_MODE_2PASS_2_INT ||                  frame.general |= XVID_H263QUANT;
456                  codec->config.mode == DLG_MODE_2PASS_2_EXT))          }
457            else
458            {
459                    frame.general |= XVID_MPEGQUANT;
460    
461                    // we actually need "default/custom" selectbox for both inter/intra
462                    // this will do for now
463                    if (codec->config.quant_type == QUANT_MODE_CUSTOM)
464                    {
465                            frame.general |= XVID_CUSTOM_QMATRIX;
466                            frame.quant_intra_matrix = codec->config.qmatrix_intra;
467                            frame.quant_inter_matrix = codec->config.qmatrix_inter;
468                    }
469                    else
470                    {
471                            frame.quant_intra_matrix = NULL;
472                            frame.quant_inter_matrix = NULL;
473                    }
474            }
475    
476            // force keyframe spacing in 2-pass 1st pass
477            if (codec->config.motion_search == 0)
478            {
479                    frame.intra = 1;
480            }
481            else if ((codec->keyspacing < codec->config.min_key_interval && codec->framenum) &&
482                    (codec->config.mode == DLG_MODE_2PASS_1))
483          {          {
484                  DEBUG("current frame forced to p-frame");                  DEBUG("current frame forced to p-frame");
485                  frame.intra = 0;                  frame.intra = 0;
# Line 438  Line 507 
507                  *icc->lpdwFlags = 0;                  *icc->lpdwFlags = 0;
508          }          }
509    
510          outhdr->bV4SizeImage = frame.length;          outhdr->biSizeImage = frame.length;
511    
512            if (codec->config.mode == DLG_MODE_2PASS_1 && codec->config.discard1pass)
513            {
514                    outhdr->biSizeImage = 0;
515            }
516    
517            if (frame.general & XVID_HINTEDME_GET)
518            {
519                    DWORD wrote;
520                    DWORD blocksize = frame.hint.hintlength;
521    
522          if (codec->config.mode == DLG_MODE_2PASS_1)                  if (codec->twopass.hints == INVALID_HANDLE_VALUE)
523          {          {
524                  if (codec->config.discard1pass)                          codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
525                            if (codec->twopass.hints == INVALID_HANDLE_VALUE)
526                  {                  {
527                          outhdr->bV4SizeImage = 0;                                  DEBUGERR("couldn't create hints file");
528                                    return ICERR_ERROR;
529                            }
530                    }
531                    if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
532                            !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
533                    {
534                            DEBUGERR("couldn't write to hints file");
535                            return ICERR_ERROR;
536                  }                  }
537          }          }
538    
# Line 462  Line 550 
550    
551  LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)  LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)
552  {  {
553          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
554          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
555    
556          if (lpbiInput == NULL)          if (lpbiInput == NULL)
557          {          {
558                  return ICERR_ERROR;                  return ICERR_ERROR;
559          }          }
560    
561          if (inhdr->bV4V4Compression != FOURCC_XVID && inhdr->bV4V4Compression != FOURCC_DIVX)          if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX)
562          {          {
563                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
564          }          }
# Line 480  Line 568 
568                  return ICERR_OK;                  return ICERR_OK;
569          }          }
570    
571          if (inhdr->bV4Width != outhdr->bV4Width ||          if (inhdr->biWidth != outhdr->biWidth ||
572                  inhdr->bV4Height != outhdr->bV4Height ||                  inhdr->biHeight != outhdr->biHeight ||
573                  get_colorspace(outhdr) == XVID_CSP_NULL)                  get_colorspace(outhdr) == XVID_CSP_NULL)
574          {          {
575                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
# Line 493  Line 581 
581    
582  LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
583  {  {
584          BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;          BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
585          BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;          BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
586          LRESULT result;          LRESULT result;
587    
588          if (lpbiOutput == NULL)          if (lpbiOutput == NULL)
589          {          {
590                  return sizeof(BITMAPV4HEADER);                  return sizeof(BITMAPINFOHEADER);
591          }          }
592    
593          result = decompress_query(codec, lpbiInput, lpbiOutput);          result = decompress_query(codec, lpbiInput, lpbiOutput);
# Line 508  Line 596 
596                  return result;                  return result;
597          }          }
598    
599          memcpy(outhdr, inhdr, sizeof(BITMAPV4HEADER));          memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
600          outhdr->bV4Size = sizeof(BITMAPV4HEADER);          outhdr->biSize = sizeof(BITMAPINFOHEADER);
601          outhdr->bV4V4Compression = FOURCC_YUY2;          outhdr->biCompression = FOURCC_YUY2;
602          outhdr->bV4SizeImage = outhdr->bV4Width * outhdr->bV4Height * outhdr->bV4BitCount;          outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;
603          outhdr->bV4XPelsPerMeter = 0;          outhdr->biXPelsPerMeter = 0;
604          outhdr->bV4YPelsPerMeter = 0;          outhdr->biYPelsPerMeter = 0;
605          outhdr->bV4ClrUsed = 0;          outhdr->biClrUsed = 0;
606          outhdr->bV4ClrImportant = 0;          outhdr->biClrImportant = 0;
607    
608          return ICERR_OK;          return ICERR_OK;
609  }  }
# Line 523  Line 611 
611    
612  LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
613  {  {
         BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)&lpbiInput->bmiHeader;  
         BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)&lpbiOutput->bmiHeader;  
614          XVID_DEC_PARAM param;          XVID_DEC_PARAM param;
615          XVID_INIT_PARAM init_param;          XVID_INIT_PARAM init_param;
616    
# Line 535  Line 621 
621                  codec->config.cpu = init_param.cpu_flags;                  codec->config.cpu = init_param.cpu_flags;
622          }          }
623    
624          param.width = inhdr->bV4Width;          param.width = lpbiInput->bmiHeader.biWidth;
625          param.height = inhdr->bV4Height;          param.height = lpbiInput->bmiHeader.biHeight;
626    
627          switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))          switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))
628          {          {
# Line 569  Line 655 
655    
656  LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)  LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)
657  {  {
         BITMAPV4HEADER * inhdr = (BITMAPV4HEADER *)icd->lpbiInput;  
         BITMAPV4HEADER * outhdr = (BITMAPV4HEADER *)icd->lpbiOutput;  
658          XVID_DEC_FRAME frame;          XVID_DEC_FRAME frame;
659    
660          frame.bitstream = icd->lpInput;          frame.bitstream = icd->lpInput;
# Line 581  Line 665 
665    
666          if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE)))          if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE)))
667          {          {
668                  if ((frame.colorspace = get_colorspace(outhdr)) == XVID_CSP_NULL)                  if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)
669                  {                  {
670                          return ICERR_BADFORMAT;                          return ICERR_BADFORMAT;
671                  }                  }
# Line 606  Line 690 
690          return ICERR_OK;          return ICERR_OK;
691  }  }
692    
 int codec_2pass_init(CODEC* codec)  
 {  
         TWOPASS *twopass = &codec->twopass;  
         DWORD version = -20;  
         DWORD read, wrote;  
   
         int     frames = 0, credits_frames = 0, i_frames = 0;  
         __int64 total = 0, i_total = 0, i_boost_total = 0, start = 0, end = 0, start_curved = 0, end_curved = 0;  
         __int64 desired = codec->config.desired_size * 1024;  
   
         double total1 = 0.0;  
         double total2 = 0.0;  
   
         switch (codec->config.mode)  
         {  
         case DLG_MODE_2PASS_1 :  
                 twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_WRITE, FILE_SHARE_READ, 0, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, 0);  
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
                 {  
                         DEBUG("2pass init error - couldn't create stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (WriteFile(twopass->stats1, &version, sizeof(DWORD), &wrote, 0) == 0 || wrote != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUG("2pass init error - couldn't write to stats1");  
                         return ICERR_ERROR;  
                 }  
                 break;  
   
         case DLG_MODE_2PASS_2_INT :  
         case DLG_MODE_2PASS_2_EXT :  
                 twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
                 {  
                         DEBUG("2pass init error - couldn't open stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (ReadFile(twopass->stats1, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUG("2pass init error - couldn't read from stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (version != -20)  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUG("2pass init error - wrong .stats version");  
                         return ICERR_ERROR;  
                 }  
   
                 if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
                 {  
                         if (twopass->stats2 != INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats2);  
                         }  
   
                         twopass->stats2 = CreateFile(codec->config.stats2, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  
   
                         if (twopass->stats2 == INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 DEBUG("2pass init error - couldn't open stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (ReadFile(twopass->stats2, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUG("2pass init error - couldn't read from stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (version != -20)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUG("2pass init error - wrong .stats version");  
                                 return ICERR_ERROR;  
                         }  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 CloseHandle(twopass->stats2);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats1/stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames))  
                                 {  
                                         if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
                                         {  
                                                 i_boost_total = twopass->nns2.bytes * codec->config.keyframe_boost / 100;  
                                                 i_total += twopass->nns2.bytes;  
                                                 ++i_frames;  
                                         }  
   
                                         total += twopass->nns2.bytes;  
                                 }  
                                 else  
                                         ++credits_frames;  
   
                                 ++frames;  
                         }  
   
                         twopass->movie_curve = ((float)(total + i_boost_total) / total);  
                         twopass->average_frame = ((double)(total - i_total) / (frames - credits_frames - i_frames) / twopass->movie_curve);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 CloseHandle(twopass->stats2);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats1/stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns2.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
   
                                         if (dbytes > twopass->average_frame)  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_high / 100.0);  
                                         }  
                                         else  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_low / 100.0);  
                                         }  
                                 }  
   
                                 ++frames;  
                         }  
   
                         twopass->curve_comp_scale = total1 / total2;  
   
                         {  
                                 int asymmetric_average_frame;  
                                 char s[100];  
   
                                 asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);  
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
                 }  
                 else    // DLG_MODE_2PASS_2_INT  
                 {  
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (codec_is_in_credits(&codec->config, frames) == CREDITS_START)  
                                 {  
                                         start += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (codec_is_in_credits(&codec->config, frames) == CREDITS_END)  
                                 {  
                                         end += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
                                 {  
                                         i_total += twopass->nns1.bytes + twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         total += twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         ++i_frames;  
                                 }  
   
                                 total += twopass->nns1.bytes;  
   
                                 ++frames;  
                         }  
   
                         // compensate for avi frame overhead  
                         desired -= frames * 24;  
   
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
   
                                 // credits curve = (total / desired_size) * (100 / credits_rate)  
                                 twopass->credits_start_curve = twopass->credits_end_curve =  
                                         ((float)total / desired) * ((float)100 / codec->config.credits_rate);  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
   
                                 // movie curve = (total - credits) / (desired_size - credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) / (desired - start - end);  
   
                                 // aid the average asymmetric frame calculation below  
                                 start_curved = start;  
                                 end_curved = end;  
   
                                 break;  
   
                         case CREDITS_MODE_SIZE :  
   
                                 // start curve = (start / start desired size)  
                                 twopass->credits_start_curve = (float)  
                                         (start / 1024) / codec->config.credits_start_size;  
   
                                 // end curve = (end / end desired size)  
                                 twopass->credits_end_curve = (float)  
                                         (end / 1024) / codec->config.credits_end_size;  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
                         }  
   
                         // average frame size = (desired - curved credits - curved keyframes) /  
                         //      (frames - credits frames - keyframes)  
                         twopass->average_frame = (double)  
                                 (desired - start_curved - end_curved - (i_total / twopass->movie_curve)) /  
                                 (frames - credits_frames - i_frames);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUG("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns1.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
   
                                         if (dbytes > twopass->average_frame)  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_high / 100.0);  
                                         }  
                                         else  
                                         {  
                                                 total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                         codec->config.curve_compression_low / 100.0);  
                                         }  
                                 }  
   
                                 ++frames;  
                         }  
   
                         twopass->curve_comp_scale = total1 / total2;  
   
                         {  
                                 int asymmetric_average_frame;  
                                 char s[100];  
   
                                 asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);  
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                 }  
   
                 twopass->overflow = 0;  
   
                 break;  
         }  
   
         return ICERR_OK;  
 }  
   
   
693  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
694  {  {
695          switch (codec->config.mode)          switch (codec->config.mode)
# Line 989  Line 708 
708                                  break;                                  break;
709    
710                          default :                          default :
711                                  DEBUG("Can't use credits size mode in quality mode");                                  DEBUGERR("Can't use credits size mode in quality mode");
712                                  return ICERR_ERROR;                                  return ICERR_ERROR;
713                          }                          }
714                  }                  }
# Line 1006  Line 725 
725                          {                          {
726                          case CREDITS_MODE_RATE :                          case CREDITS_MODE_RATE :
727                                  frame->quant =                                  frame->quant =
728                                          codec->config.max_quant -                                          codec->config.max_pquant -
729                                          ((codec->config.max_quant - codec->config.quant) * codec->config.credits_rate / 100);                                          ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);
730                                  break;                                  break;
731    
732                          case CREDITS_MODE_QUANT :                          case CREDITS_MODE_QUANT :
# Line 1015  Line 734 
734                                  break;                                  break;
735    
736                          default :                          default :
737                                  DEBUG("Can't use credits size mode in quantizer mode");                                  DEBUGERR("Can't use credits size mode in quantizer mode");
738                                  return ICERR_ERROR;                                  return ICERR_ERROR;
739                          }                          }
740                  }                  }
# Line 1044  Line 763 
763                  return ICERR_OK;                  return ICERR_OK;
764    
765          default:          default:
766                  DEBUG("get quant: invalid mode");                  DEBUGERR("get quant: invalid mode");
                 return ICERR_ERROR;  
         }  
 }  
   
   
 int codec_2pass_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  
 {  
         static double quant_error[32];  
         static double curve_comp_error;  
         static int last_quant;  
   
         TWOPASS * twopass = &codec->twopass;  
   
         DWORD read;  
         int bytes1, bytes2;  
         int overflow;  
         int credits_pos;  
   
         if (codec->framenum == 0)  
         {  
                 int i;  
   
                 for (i=0 ; i<32 ; ++i)  
                 {  
                         quant_error[i] = 0.0;  
                 }  
   
                 curve_comp_error = 0.0;  
                 last_quant = 0;  
         }  
   
         if (ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
         {  
                 DEBUG("2ndpass quant: couldn't read from stats1");  
                 return ICERR_ERROR;  
         }  
         if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
         {  
                 if (ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
                 {  
                         DEBUG("2ndpass quant: couldn't read from stats2");  
767                          return ICERR_ERROR;                          return ICERR_ERROR;
768                  }                  }
769          }          }
770    
         bytes1 = twopass->nns1.bytes;  
         overflow = twopass->overflow / 8;  
   
         // override codec i-frame choice (reenable in credits)  
         frame->intra = (twopass->nns1.quant & NNSTATS_KEYFRAME);  
   
         if (frame->intra)  
         {  
                 overflow = 0;  
         }  
   
         credits_pos = codec_is_in_credits(&codec->config, codec->framenum);  
   
         if (credits_pos)  
         {  
                 if (codec->config.mode == DLG_MODE_2PASS_2_INT)  
                 {  
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
                         case CREDITS_MODE_SIZE :  
                                 if (credits_pos == CREDITS_START)  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_start_curve);  
                                 }  
                                 else // CREDITS_END  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_end_curve);  
                                 }  
   
                                 frame->intra = -1;  
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
                                 if (codec->config.credits_quant_i != codec->config.credits_quant_p)  
                                 {  
                                         frame->quant = frame->intra ?  
                                                 codec->config.credits_quant_i :  
                                                 codec->config.credits_quant_p;  
                                 }  
                                 else  
                                 {  
                                         frame->quant = codec->config.credits_quant_p;  
                                         frame->intra = -1;  
                                 }  
   
                                 twopass->bytes1 = bytes1;  
                                 twopass->bytes2 = bytes1;  
                                 twopass->desired_bytes2 = bytes1;  
                                 return ICERR_OK;  
                         }  
                 }  
                 else    // DLG_MODE_2PASS_2_EXT  
                 {  
                         bytes2 = twopass->nns2.bytes;  
                 }  
         }  
         else    // Foxer: apply curve compression outside credits  
         {  
                 double dbytes, curve_temp;  
   
                 bytes2 = (codec->config.mode == DLG_MODE_2PASS_2_INT) ? bytes1 : twopass->nns2.bytes;  
   
                 if (frame->intra)  
                 {  
                         dbytes = ((int)(bytes2 + bytes2 * codec->config.keyframe_boost / 100)) /  
                                 twopass->movie_curve;  
                 }  
                 else  
                 {  
                         dbytes = bytes2 / twopass->movie_curve;  
                 }  
   
                 // spread the compression error across payback_delay frames  
                 if (codec->config.bitrate_payback_method == 0)  
                 {  
                         bytes2 = (int)(curve_comp_error / codec->config.bitrate_payback_delay);  
                 }  
                 else  
                 {  
                         bytes2 = (int)(curve_comp_error * dbytes /  
                                 twopass->average_frame / codec->config.bitrate_payback_delay);  
   
                         if (labs(bytes2) > fabs(curve_comp_error))  
                         {  
                                 bytes2 = (int)curve_comp_error;  
                         }  
                 }  
   
                 curve_comp_error -= bytes2;  
   
                 if ((codec->config.curve_compression_high + codec->config.curve_compression_low) &&  
                         !frame->intra)  
                 {  
                         if (dbytes > twopass->average_frame)  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_high / 100.0);  
                         }  
                         else  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_low / 100.0);  
                         }  
   
                         bytes2 += ((int)curve_temp);  
                         curve_comp_error += curve_temp - ((int)curve_temp);  
                 }  
                 else  
                 {  
                         curve_comp_error += dbytes - ((int)dbytes);  
                         bytes2 += ((int)dbytes);  
                 }  
   
                 // cap bytes2 to first pass size, lowers number of quant=1 frames  
                 if (bytes2 > bytes1)  
                 {  
                         curve_comp_error += bytes2 - bytes1;  
                         bytes2 = bytes1;  
                 }  
                 else if (bytes2 < 1)  
                 {  
                         curve_comp_error += --bytes2;  
                         bytes2 = 1;  
                 }  
         }  
   
         twopass->desired_bytes2 = bytes2;  
   
         // Foxer: scale overflow in relation to average size, so smaller frames don't get  
         // too much/little bitrate  
         overflow = (int)((double)overflow * bytes2 / twopass->average_frame);  
   
         // Foxer: reign in overflow with huge frames  
         if (labs(overflow) > labs(twopass->overflow))  
         {  
                 overflow = twopass->overflow;  
         }  
   
         // Foxer: make sure overflow doesn't run away  
         if (overflow > bytes2 * 6 / 10)  
         {  
                 bytes2 += (overflow <= bytes2) ? bytes2 * 6 / 10 : overflow * 6 / 10;  
         }  
         else if (overflow < bytes2 * -6 / 10)  
         {  
                 bytes2 += bytes2 * -6 / 10;  
         }  
         else  
         {  
                 bytes2 += overflow;  
         }  
   
         if (bytes2 < 1)  
         {  
                 bytes2 = 1;  
         }  
   
         twopass->bytes1 = bytes1;  
         twopass->bytes2 = bytes2;  
   
         // very 'simple' quant<->filesize relationship  
         frame->quant = ((twopass->nns1.quant & ~NNSTATS_KEYFRAME) * bytes1) / bytes2;  
   
         if (frame->quant < 1)  
         {  
                 frame->quant = 1;  
         }  
         else if (frame->quant > 31)  
         {  
                 frame->quant = 31;  
         }  
         else if (!frame->intra)  
         {  
                 // Foxer: aid desired quantizer precision by accumulating decision error  
                 quant_error[frame->quant] += ((double)((twopass->nns1.quant & ~NNSTATS_KEYFRAME) *  
                         bytes1) / bytes2) - frame->quant;  
   
                 if (quant_error[frame->quant] >= 1.0)  
                 {  
                         quant_error[frame->quant] -= 1.0;  
                         ++frame->quant;  
                 }  
         }  
   
         // we're done with credits  
         if (codec_is_in_credits(&codec->config, codec->framenum))  
         {  
                 return ICERR_OK;  
         }  
   
         if (frame->intra)  
         {  
                 if (frame->quant < codec->config.min_iquant)  
                 {  
                         frame->quant = codec->config.min_iquant;  
                         DEBUG2P("I-frame quantizer raised");  
                 }  
                 if (frame->quant > codec->config.max_iquant)  
                 {  
                         frame->quant = codec->config.max_iquant;  
                         DEBUG2P("I-frame quantizer lowered");  
                 }  
         }  
         else  
         {  
                 if (frame->quant > codec->config.max_quant)  
                 {  
                         frame->quant = codec->config.max_quant;  
                 }  
                 if (frame->quant < codec->config.min_quant)  
                 {  
                         frame->quant = codec->config.min_quant;  
                 }  
   
                 // subsequent frame quants can only be +- 2  
                 if (last_quant)  
                 {  
                         if (frame->quant > last_quant + 2)  
                         {  
                                 frame->quant = last_quant + 2;  
                                 DEBUG2P("P-frame quantizer prevented from rising too steeply");  
                         }  
                         if (frame->quant < last_quant - 2)  
                         {  
                                 frame->quant = last_quant - 2;  
                                 DEBUG2P("P-frame quantizer prevented from falling too steeply");  
                         }  
                 }  
         }  
   
         last_quant = frame->quant;  
   
         return ICERR_OK;  
 }  
   
   
 int codec_2pass_update(CODEC* codec, XVID_ENC_FRAME* frame, XVID_ENC_STATS* stats)  
 {  
         static __int64 total_size;  
   
         NNSTATS nns1;  
         DWORD wrote;  
   
         if (codec->framenum == 0)  
         {  
                 total_size = 0;  
         }  
   
         switch (codec->config.mode)  
         {  
         case DLG_MODE_2PASS_1 :  
                 nns1.bytes = frame->length;     // total bytes  
                 nns1.dd_v = stats->hlength;     // header bytes  
   
                 nns1.dd_u = nns1.dd_y = 0;  
                 nns1.dk_v = nns1.dk_u = nns1.dk_y = 0;  
                 nns1.md_u = nns1.md_y = 0;  
                 nns1.mk_u = nns1.mk_y = 0;  
   
                 nns1.quant = stats->quant;  
                 if (frame->intra)  
                 {  
                         nns1.quant |= NNSTATS_KEYFRAME;  
                 }  
                 nns1.kblk = stats->kblks;  
                 nns1.mblk = stats->mblks;  
                 nns1.ublk = stats->ublks;  
                 nns1.lum_noise[0] = nns1.lum_noise[1] = 1;  
   
                 total_size += frame->length;  
                 DEBUG1ST(frame->length, (int)total_size/1024, frame->intra, frame->quant, stats->kblks, stats->mblks)  
   
                 if (WriteFile(codec->twopass.stats1, &nns1, sizeof(NNSTATS), &wrote, 0) == 0 || wrote != sizeof(NNSTATS))  
                 {  
                         DEBUG("stats1: WriteFile error");  
                         return ICERR_ERROR;  
                 }  
                 break;  
   
         case DLG_MODE_2PASS_2_INT :  
         case DLG_MODE_2PASS_2_EXT :  
                 codec->twopass.overflow += codec->twopass.desired_bytes2 - frame->length;  
                 DEBUG2ND(frame->quant, frame->intra, codec->twopass.bytes1, codec->twopass.desired_bytes2, frame->length, codec->twopass.overflow, codec_is_in_credits(&codec->config, codec->framenum))  
                 break;  
   
         default:  
                 break;  
         }  
   
         return ICERR_OK;  
 }  
   
771    
772  int codec_is_in_credits(CONFIG* config, int framenum)  int codec_is_in_credits(CONFIG* config, int framenum)
773  {  {
         if (config->mode == DLG_MODE_2PASS_2_EXT)  
         {  
                 return 0;  
         }  
   
774          if (config->credits_start)          if (config->credits_start)
775          {          {
776                  if (framenum >= config->credits_start_begin &&                  if (framenum >= config->credits_start_begin &&
# Line 1433  Line 811 
811          if (!config->fquant)          if (!config->fquant)
812          {          {
813                  config->fquant =                  config->fquant =
814                          ((float) (config->max_quant - config->min_quant) / 100) *                          ((float) (config->max_pquant - config->min_pquant) / 100) *
815                          (100 - quality) +                          (100 - quality) +
816                          (float) config->min_quant;                          (float) config->min_pquant;
817    
818                  fquant_running = config->fquant;                  fquant_running = config->fquant;
819          }          }
820    
821          if (fquant_running < config->min_quant)          if (fquant_running < config->min_pquant)
822          {          {
823                  fquant_running = (float) config->min_quant;                  fquant_running = (float) config->min_pquant;
824          }          }
825          else if(fquant_running > config->max_quant)          else if(fquant_running > config->max_pquant)
826          {          {
827                  fquant_running = (float) config->max_quant;                  fquant_running = (float) config->max_pquant;
828          }          }
829    
830          quant = (int) fquant_running;          quant = (int) fquant_running;

Legend:
Removed from v.3  
changed lines
  Added in v.102

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4