[svn] / trunk / vfw / src / codec.c Repository:
ViewVC logotype

Diff of /trunk/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 94, Sat Mar 30 23:53:58 2002 UTC revision 1092, Thu Jul 17 10:37:44 2003 UTC
# Line 23  Line 23 
23   *   *
24   *      History:   *      History:
25   *   *
26     *      12.07.2002      num_threads
27     *      23.06.2002      XVID_CPU_CHKONLY; loading speed up
28     *      25.04.2002      ICDECOMPRESS_PREROLL
29     *      17.04.2002      re-enabled lumi masking for 1st pass
30     *      15.04.2002      updated cbr support
31     *      04.04.2002      separated 2-pass code to 2pass.c
32     *                              interlacing support
33     *                              hinted ME support
34   *      23.03.2002      daniel smith <danielsmith@astroboymail.com>   *      23.03.2002      daniel smith <danielsmith@astroboymail.com>
35   *                              changed inter4v to only be in modes 5 or 6   *                              changed inter4v to only be in modes 5 or 6
36   *                              fixed null mode crash ?   *                              fixed null mode crash ?
# Line 35  Line 43 
43   *                              motion search precision = 0 now effective in 2-pass   *                              motion search precision = 0 now effective in 2-pass
44   *                              modulated quantization   *                              modulated quantization
45   *                              added DX50 fourcc   *                              added DX50 fourcc
46   *      01.12.2001      inital version; (c)2001 peter ross <suxen_drol@hotmail.com>   *      01.12.2001      inital version; (c)2001 peter ross <pross@xvid.org>
47   *   *
48   *************************************************************************/   *************************************************************************/
49    
# Line 43  Line 51 
51  #include <vfw.h>  #include <vfw.h>
52    
53  #include "codec.h"  #include "codec.h"
54  #include <math.h>       // fabs()  #include "2pass.h"
55    
56  int pmvfast_presets[7] = {  int pmvfast_presets[7] = {
57          0, PMV_QUICKSTOP16, PMV_EARLYSTOP16, PMV_EARLYSTOP16 | PMV_EARLYSTOP8,          0, PMV_QUICKSTOP16, 0, 0,
58          PMV_EARLYSTOP16 | PMV_HALFPELREFINE16 | PMV_EARLYSTOP8 | PMV_HALFPELDIAMOND8,          0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8,
59          PMV_EARLYSTOP16 | PMV_HALFPELREFINE16 | PMV_EARLYSTOP8 | PMV_HALFPELDIAMOND8,          0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8 |
60          PMV_EARLYSTOP16 | PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |          PMV_ADVANCEDDIAMOND16, PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |
61          PMV_EARLYSTOP8 | PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8          PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8 | PMV_USESQUARES16
62  };  };
63    
64  /*      return xvid compatbile colorspace,  /*      return xvid compatbile colorspace,
# Line 59  Line 67 
67    
68  int get_colorspace(BITMAPINFOHEADER * hdr)  int get_colorspace(BITMAPINFOHEADER * hdr)
69  {  {
70          if (hdr->biHeight < 0)          /* rgb only: negative height specifies top down image */
71          {          int rgb_flip = (hdr->biHeight < 0 ? 0 : XVID_CSP_VFLIP);
                 DEBUGERR("colorspace: inverted input format not supported");  
                 return XVID_CSP_NULL;  
         }  
72    
73          switch(hdr->biCompression)          switch(hdr->biCompression)
74          {          {
# Line 71  Line 76 
76                  if (hdr->biBitCount == 16)                  if (hdr->biBitCount == 16)
77                  {                  {
78                          DEBUG("RGB16 (RGB555)");                          DEBUG("RGB16 (RGB555)");
79                          return XVID_CSP_VFLIP | XVID_CSP_RGB555;                          return rgb_flip | XVID_CSP_RGB555;
80                  }                  }
81                  if (hdr->biBitCount == 24)                  if (hdr->biBitCount == 24)
82                  {                  {
83                          DEBUG("RGB24");                          DEBUG("RGB24");
84                          return XVID_CSP_VFLIP | XVID_CSP_RGB24;                          return rgb_flip | XVID_CSP_RGB24;
85                  }                  }
86                  if (hdr->biBitCount == 32)                  if (hdr->biBitCount == 32)
87                  {                  {
88                          DEBUG("RGB32");                          DEBUG("RGB32");
89                          return XVID_CSP_VFLIP | XVID_CSP_RGB32;                          return rgb_flip | XVID_CSP_RGB32;
90                  }                  }
91    
92                  DEBUG1("BI_RGB unsupported", hdr->biBitCount);                  DEBUG1("unsupported BI_RGB biBitCount", hdr->biBitCount);
93                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
94    
95  // how do these work in BITMAPINFOHEADER ???          case BI_BITFIELDS :
96  /*      case BI_BITFIELDS :                  if (hdr->biSize >= sizeof(BITMAPV4HEADER))
97                  if (hdr->biBitCount == 16                  {
98                  if(hdr->biBitCount == 16 &&                          BITMAPV4HEADER * hdr4 = (BITMAPV4HEADER *)hdr;
99                          hdr->bV4RedMask == 0x7c00 &&  
100                          hdr->bV4GreenMask == 0x3e0 &&                          if (hdr4->bV4BitCount == 16 &&
101                          hdr->bV4BlueMask == 0x1f)                                  hdr4->bV4RedMask == 0x7c00 &&
102                                    hdr4->bV4GreenMask == 0x3e0 &&
103                                    hdr4->bV4BlueMask == 0x1f)
104                  {                  {
105                          DEBUG("RGB555");                          DEBUG("RGB555");
106                          return XVID_CSP_VFLIP | XVID_CSP_RGB555;                                  return rgb_flip | XVID_CSP_RGB555;
107                  }                  }
108                  if(hdr->bV4BitCount == 16 &&  
109                          hdr->bV4RedMask == 0xf800 &&                          if(hdr4->bV4BitCount == 16 &&
110                          hdr->bV4GreenMask == 0x7e0 &&                                  hdr4->bV4RedMask == 0xf800 &&
111                          hdr->bV4BlueMask == 0x1f)                                  hdr4->bV4GreenMask == 0x7e0 &&
112                                    hdr4->bV4BlueMask == 0x1f)
113                  {                  {
114                          DEBUG("RGB565");                          DEBUG("RGB565");
115                          return XVID_CSP_VFLIP | XVID_CSP_RGB565;                                  return rgb_flip | XVID_CSP_RGB565;
116                  }                  }
117    
118                  DEBUG1("BI_FIELDS unsupported", hdr->bV4BitCount);                          DEBUG("unsupported BI_BITFIELDS mode");
119                  return XVID_CSP_NULL;                  return XVID_CSP_NULL;
120  */                  }
121    
122                    DEBUG("unsupported BI_BITFIELDS/BITMAPHEADER combination");
123                    return XVID_CSP_NULL;
124    
125          case FOURCC_I420:          case FOURCC_I420:
126          case FOURCC_IYUV:          case FOURCC_IYUV:
127                  DEBUG("IYUY");                  DEBUG("IYUY");
# Line 121  Line 133 
133    
134          case FOURCC_YUYV :          case FOURCC_YUYV :
135          case FOURCC_YUY2 :          case FOURCC_YUY2 :
         case FOURCC_V422 :  
136                  DEBUG("YUY2");                  DEBUG("YUY2");
137                  return XVID_CSP_YUY2;                  return XVID_CSP_YUY2;
138    
# Line 133  Line 144 
144                  DEBUG("UYVY");                  DEBUG("UYVY");
145                  return XVID_CSP_UYVY;                  return XVID_CSP_UYVY;
146    
147          }          default :
148          DEBUGFOURCC("colorspace: unknown", hdr->biCompression);                  DEBUGFOURCC("unsupported colorspace", hdr->biCompression);
149          return XVID_CSP_NULL;          return XVID_CSP_NULL;
150  }  }
151    }
152    
153    
154  /* compressor */  /* compressor */
# Line 160  Line 172 
172          }          }
173    
174          if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||          if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||
175                  (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX))                  (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX && outhdr->biCompression != FOURCC_DX50))
176          {          {
177                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
178          }          }
# Line 181  Line 193 
193    
194          if (lpbiOutput == NULL)          if (lpbiOutput == NULL)
195          {          {
196                  return sizeof(BITMAPV4HEADER);                  return sizeof(BITMAPINFOHEADER);
197          }          }
198    
199          memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));          memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
200          outhdr->biSize = sizeof(BITMAPINFOHEADER);          outhdr->biSize = sizeof(BITMAPINFOHEADER);
         outhdr->biBitCount = 24;  // or 16  
201          outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);          outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);
202          outhdr->biXPelsPerMeter = 0;          outhdr->biXPelsPerMeter = 0;
203          outhdr->biYPelsPerMeter = 0;          outhdr->biYPelsPerMeter = 0;
# Line 212  Line 223 
223    
224  LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)  LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
225  {  {
226          return lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;          return 2 * lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;
227  }  }
228    
229    
# Line 233  Line 244 
244          switch (codec->config.mode)          switch (codec->config.mode)
245          {          {
246          case DLG_MODE_CBR :          case DLG_MODE_CBR :
247                  param.bitrate = codec->config.bitrate;                  param.rc_bitrate = codec->config.rc_bitrate;
248                  param.rc_buffersize = codec->config.rc_buffersize;                  param.rc_reaction_delay_factor = codec->config.rc_reaction_delay_factor;
249                    param.rc_averaging_period = codec->config.rc_averaging_period;
250                    param.rc_buffer = codec->config.rc_buffer;
251                  break;                  break;
252    
253          case DLG_MODE_VBR_QUAL :          case DLG_MODE_VBR_QUAL :
254                  codec->config.fquant = 0;                  codec->config.fquant = 0;
255                  param.bitrate = 0;                  param.rc_bitrate = 0;
256                  break;                  break;
257    
258          case DLG_MODE_VBR_QUANT :          case DLG_MODE_VBR_QUANT :
259                  codec->config.fquant = (float) codec->config.quant;                  codec->config.fquant = (float) codec->config.quant;
260                  param.bitrate = 0;                  param.rc_bitrate = 0;
261                  break;                  break;
262    
263          case DLG_MODE_2PASS_1 :          case DLG_MODE_2PASS_1 :
264          case DLG_MODE_2PASS_2_INT :          case DLG_MODE_2PASS_2_INT :
265          case DLG_MODE_2PASS_2_EXT :          case DLG_MODE_2PASS_2_EXT :
266                  param.bitrate = 0;                  param.rc_bitrate = 0;
267                    codec->twopass.max_framesize = (int)((double)codec->config.twopass_max_bitrate / 8.0 / ((double)codec->fbase / (double)codec->fincr));
268                  break;                  break;
269    
270          case DLG_MODE_NULL :          case DLG_MODE_NULL :
# Line 276  Line 290 
290          param.fincr = codec->fincr;          param.fincr = codec->fincr;
291          param.fbase = codec->fbase;          param.fbase = codec->fbase;
292    
         param.rc_buffersize = codec->config.rc_buffersize;  
   
293          param.min_quantizer = codec->config.min_pquant;          param.min_quantizer = codec->config.min_pquant;
294          param.max_quantizer = codec->config.max_pquant;          param.max_quantizer = codec->config.max_pquant;
295          param.max_key_interval = codec->config.max_key_interval;          param.max_key_interval = codec->config.max_key_interval;
296    
297    #ifdef _SMP
298            param.num_threads = codec->config.num_threads;
299    #endif
300    
301            param.global = 0;
302            if (codec->config.packed) param.global |= XVID_GLOBAL_PACKED;
303            if (codec->config.dx50bvop) param.global |= XVID_GLOBAL_DX50BVOP;
304            if (codec->config.debug) param.global |= XVID_GLOBAL_DEBUG;
305            if (codec->config.reduced_resolution) param.global |= XVID_GLOBAL_REDUCED;
306            param.max_bframes = codec->config.max_bframes;
307            param.bquant_ratio = codec->config.bquant_ratio;
308            param.bquant_offset = codec->config.bquant_offset;
309            param.frame_drop_ratio = codec->config.frame_drop_ratio;
310    
311          switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))          switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))
312          {          {
313          case XVID_ERR_FAIL :          case XVID_ERR_FAIL :
# Line 298  Line 324 
324          codec->framenum = 0;          codec->framenum = 0;
325          codec->keyspacing = 0;          codec->keyspacing = 0;
326    
327          codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;          codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
328            codec->twopass.hintstream = NULL;
329    
330          return ICERR_OK;          return ICERR_OK;
331  }  }
# Line 309  Line 336 
336          if (codec->ehandle != NULL)          if (codec->ehandle != NULL)
337          {          {
338                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
339    
340                    if (codec->twopass.hints != INVALID_HANDLE_VALUE)
341                    {
342                            CloseHandle(codec->twopass.hints);
343                    }
344                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
345                  {                  {
346                          CloseHandle(codec->twopass.stats1);                          CloseHandle(codec->twopass.stats1);
# Line 317  Line 349 
349                  {                  {
350                          CloseHandle(codec->twopass.stats2);                          CloseHandle(codec->twopass.stats2);
351                  }                  }
352                    if (codec->twopass.hintstream != NULL)
353                    {
354                            free(codec->twopass.hintstream);
355                    }
356    
357                  codec->ehandle = NULL;                  codec->ehandle = NULL;
358    
359                    codec_2pass_finish(codec);
360          }          }
361    
362          return ICERR_OK;          return ICERR_OK;
# Line 345  Line 384 
384          frame.intra = -1;          frame.intra = -1;
385    
386          frame.general |= XVID_HALFPEL;          frame.general |= XVID_HALFPEL;
387    //      frame.general |= XVID_ME_EPZS;
388    
389            frame.general |= XVID_HQACPRED;
390    
391            frame.bframe_threshold = 255;
392    
393          if(codec->config.motion_search > 4)          if(codec->config.motion_search > 4)
394                  frame.general |= XVID_INTER4V;                  frame.general |= XVID_INTER4V;
395    
396          if(((codec->config.mode == DLG_MODE_2PASS_1) ? 0 : codec->config.lum_masking) == 1)          if (codec->config.lum_masking)
397                  frame.general |= XVID_LUMIMASKING;                  frame.general |= XVID_LUMIMASKING;
398    
399          frame.motion = pmvfast_presets[codec->config.motion_search];          if (codec->config.interlacing)
400                    frame.general |= XVID_INTERLACING;
401    
402            if (codec->config.qpel) {
403                    frame.general |= XVID_QUARTERPEL;
404                    frame.motion |= PMV_QUARTERPELREFINE16 | PMV_QUARTERPELREFINE8;
405            }
406    
407            if (codec->config.gmc)
408                    frame.general |= XVID_GMC;
409    
410            if (codec->config.chromame)
411                    frame.motion |= PMV_CHROMA16 + PMV_CHROMA8;
412    
413            if (codec->config.reduced_resolution)
414                    frame.general |= XVID_REDUCED;
415    
416            if (codec->config.chroma_opt)
417                    frame.general |= XVID_CHROMAOPT;
418    // added by koepi for credits greyscale
419    
420            check_greyscale_mode(&codec->config, &frame, codec->framenum);
421    
422    // end of koepi's addition
423    
424    
425    // fix 1pass modes/hinted MV by koepi
426            if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_CBR || codec->config.mode == DLG_MODE_VBR_QUAL || codec->config.mode == DLG_MODE_VBR_QUANT))
427            {
428                    codec->config.hinted_me = 0;
429            }
430    // end of ugly hack
431    
432            if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
433            {
434                    frame.hint.hintstream = codec->twopass.hintstream;
435                    frame.hint.rawhints = 0;
436                    frame.general |= XVID_HINTEDME_GET;
437            }
438            else if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT))
439            {
440                    DWORD read;
441                    DWORD blocksize;
442    
443                    frame.hint.hintstream = codec->twopass.hintstream;
444                    frame.hint.rawhints = 0;
445                    frame.general |= XVID_HINTEDME_SET;
446    
447                    if (codec->twopass.hints == INVALID_HANDLE_VALUE)
448                    {
449                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
450                            if (codec->twopass.hints == INVALID_HANDLE_VALUE)
451                            {
452                                    DEBUGERR("couldn't open hints file");
453                                    return ICERR_ERROR;
454                            }
455                    }
456                    if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
457                            !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
458                    {
459                            DEBUGERR("couldn't read from hints file");
460                            return ICERR_ERROR;
461                    }
462            }
463    
464            frame.motion |= pmvfast_presets[codec->config.motion_search];
465    
466            switch (codec->config.vhq_mode)
467            {
468            case VHQ_MODE_DECISION :
469                    frame.general |= XVID_MODEDECISION_BITS;
470                    break;
471    
472            case VHQ_LIMITED_SEARCH :
473                    frame.general |= XVID_MODEDECISION_BITS;
474                    frame.motion |= HALFPELREFINE16_BITS;
475                    frame.motion |= QUARTERPELREFINE16_BITS;
476                    break;
477    
478            case VHQ_MEDIUM_SEARCH :
479                    frame.general |= XVID_MODEDECISION_BITS;
480                    frame.motion |= HALFPELREFINE16_BITS;
481                    frame.motion |= HALFPELREFINE8_BITS;
482                    frame.motion |= QUARTERPELREFINE16_BITS;
483                    frame.motion |= QUARTERPELREFINE8_BITS;
484                    frame.motion |= CHECKPREDICTION_BITS;
485                    break;
486    
487            case VHQ_WIDE_SEARCH :
488                    frame.general |= XVID_MODEDECISION_BITS;
489                    frame.motion |= HALFPELREFINE16_BITS;
490                    frame.motion |= HALFPELREFINE8_BITS;
491                    frame.motion |= QUARTERPELREFINE16_BITS;
492                    frame.motion |= QUARTERPELREFINE8_BITS;
493                    frame.motion |= CHECKPREDICTION_BITS;
494                    frame.motion |= EXTSEARCH_BITS;
495                    break;
496    
497            default :
498                    break;
499            }
500    
501          frame.image = icc->lpInput;          frame.image = icc->lpInput;
502            frame.stride = (((icc->lpbiInput->biWidth * icc->lpbiInput->biBitCount) + 31) & ~31) >> 3;
503    
504          if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)          if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)
505                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
506    
507            if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
508                    frame.stride = (frame.stride*2)/3;
509    
510          frame.bitstream = icc->lpOutput;          frame.bitstream = icc->lpOutput;
511          frame.length = icc->lpbiOutput->biSizeImage;          frame.length = icc->lpbiOutput->biSizeImage;
512    
# Line 429  Line 577 
577          {          {
578                  frame.intra = 1;                  frame.intra = 1;
579          }          }
580          else if ((codec->keyspacing < codec->config.min_key_interval && codec->framenum) &&          else if (codec->keyspacing < codec->config.min_key_interval && codec->framenum)
                 (codec->config.mode == DLG_MODE_2PASS_1))  
581          {          {
582                  DEBUG("current frame forced to p-frame");                  DEBUG("current frame forced to p-frame");
583                  frame.intra = 0;                  frame.intra = 0;
584          }          }
585    
586            frame.bquant = 0;
587            frame.bframe_threshold = 0;
588    
589    //      OutputDebugString(" ");
590          switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))          switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))
591          {          {
592          case XVID_ERR_FAIL :          case XVID_ERR_FAIL :
# Line 448  Line 599 
599                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
600          }          }
601    
602          if (frame.intra)          if (frame.intra==1)
603          {          {
604                  codec->keyspacing = 0;                  codec->keyspacing = 0;
605                  *icc->lpdwFlags = AVIIF_KEYFRAME;                  *icc->lpdwFlags = AVIIF_KEYFRAME;
# Line 457  Line 608 
608          {          {
609                  *icc->lpdwFlags = 0;                  *icc->lpdwFlags = 0;
610          }          }
611            if (frame.length == 0) { frame.length = 1; *((unsigned char*)frame.bitstream) = 0x7f; }
612    
613          outhdr->biSizeImage = frame.length;          outhdr->biSizeImage = frame.length;
614    
# Line 465  Line 617 
617                  outhdr->biSizeImage = 0;                  outhdr->biSizeImage = 0;
618          }          }
619    
620            if (frame.general & XVID_HINTEDME_GET)
621            {
622                    DWORD wrote;
623                    DWORD blocksize = frame.hint.hintlength;
624    
625                    if (codec->twopass.hints == INVALID_HANDLE_VALUE)
626                    {
627                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
628                            if (codec->twopass.hints        == INVALID_HANDLE_VALUE)
629                            {
630                                    DEBUGERR("couldn't create hints file");
631                                    return ICERR_ERROR;
632                            }
633                    }
634                    if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
635                            !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
636                    {
637                            DEBUGERR("couldn't write to hints file");
638                            return ICERR_ERROR;
639                    }
640            }
641    
642    //quick fix for delayed frames
643    //      if (frame.intra != 5)
644          codec_2pass_update(codec, &frame, &stats);          codec_2pass_update(codec, &frame, &stats);
645    
646          ++codec->framenum;          ++codec->framenum;
# Line 487  Line 663 
663                  return ICERR_ERROR;                  return ICERR_ERROR;
664          }          }
665    
666          if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX)          if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX && inhdr->biCompression != FOURCC_DX50 && get_colorspace(inhdr) == XVID_CSP_NULL)
667          {          {
668                  return ICERR_BADFORMAT;                  return ICERR_BADFORMAT;
669          }          }
# Line 519  Line 695 
695                  return sizeof(BITMAPINFOHEADER);                  return sizeof(BITMAPINFOHEADER);
696          }          }
697    
698          result = decompress_query(codec, lpbiInput, lpbiOutput);          /* --- yv12 --- */
699    
700            if (get_colorspace(inhdr) != XVID_CSP_NULL) {
701                    memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
702                    // XXX: should we set outhdr->biSize ??
703                    return ICERR_OK;
704            }
705            /* --- yv12 --- */
706    
707            result = decompress_query(codec, lpbiInput, NULL);
708          if (result != ICERR_OK)          if (result != ICERR_OK)
709          {          {
710                  return result;                  return result;
711          }          }
712    
         memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));  
713          outhdr->biSize = sizeof(BITMAPINFOHEADER);          outhdr->biSize = sizeof(BITMAPINFOHEADER);
714          outhdr->biCompression = FOURCC_YUY2;          outhdr->biWidth = inhdr->biWidth;
715            outhdr->biHeight = inhdr->biHeight;
716            outhdr->biPlanes = 1;
717            outhdr->biBitCount = 24;
718            outhdr->biCompression = BI_RGB; /* sonic foundry vegas video v3 only supports BI_RGB */
719          outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;          outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;
720          outhdr->biXPelsPerMeter = 0;          outhdr->biXPelsPerMeter = 0;
721          outhdr->biYPelsPerMeter = 0;          outhdr->biYPelsPerMeter = 0;
# Line 588  Line 776 
776    
777          frame.bitstream = icd->lpInput;          frame.bitstream = icd->lpInput;
778          frame.length = icd->lpbiInput->biSizeImage;          frame.length = icd->lpbiInput->biSizeImage;
779            frame.general = XVID_DEC_LOWDELAY;      /* force low_delay_default mode */
780            if (codec->config.deblock_y)
781                    frame.general |= XVID_DEC_DEBLOCKY;
782            if (codec->config.deblock_uv)
783                    frame.general |= XVID_DEC_DEBLOCKUV;
784    
785          frame.image = icd->lpOutput;          frame.image = icd->lpOutput;
786          frame.stride = icd->lpbiOutput->biWidth;          frame.stride = (((icd->lpbiOutput->biWidth * icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
787    
788            /* --- yv12 --- */
789            if (icd->lpbiInput->biCompression != FOURCC_XVID &&
790                     icd->lpbiInput->biCompression != FOURCC_DIVX &&
791                     icd->lpbiInput->biCompression != FOURCC_DX50)
792            {
793                    XVID_INIT_CONVERTINFO convert;
794                    DEBUGFOURCC("input", icd->lpbiInput->biCompression);
795                    DEBUGFOURCC("output", icd->lpbiOutput->biCompression);
796                    convert.input.colorspace = get_colorspace(icd->lpbiInput);
797                    convert.input.y = icd->lpInput;
798                    convert.input.y_stride = (((icd->lpbiInput->biWidth *icd->lpbiInput->biBitCount) + 31) & ~31) >> 3;
799                    if (convert.input.colorspace == XVID_CSP_I420 || convert.input.colorspace == XVID_CSP_YV12)
800                            convert.input.y_stride = (convert.input.y_stride*2)/3;
801    
802                    convert.output.colorspace = get_colorspace(icd->lpbiOutput);
803                    convert.output.y = icd->lpOutput;
804                    convert.output.y_stride = (((icd->lpbiOutput->biWidth *icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
805                    if (convert.output.colorspace == XVID_CSP_I420 || convert.output.colorspace == XVID_CSP_YV12)
806                            convert.output.y_stride = (convert.output.y_stride*2)/3;
807    
808                    convert.width = icd->lpbiInput->biWidth;
809                    convert.height = icd->lpbiInput->biHeight;
810                    convert.interlacing = 0;
811                    if (convert.input.colorspace == XVID_CSP_NULL ||
812                            convert.output.colorspace == XVID_CSP_NULL ||
813                            xvid_init(NULL, XVID_INIT_CONVERT, &convert, NULL) != XVID_ERR_OK)
814                    {
815                             return ICERR_BADFORMAT;
816                    }
817                    return ICERR_OK;
818            }
819            /* --- yv12 --- */
820    
821    
822          if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE)))          if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE) | (icd->dwFlags & ICDECOMPRESS_PREROLL)))
823          {          {
824                  if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)                  if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)
825                  {                  {
# Line 604  Line 831 
831                  frame.colorspace = XVID_CSP_NULL;                  frame.colorspace = XVID_CSP_NULL;
832          }          }
833    
834            if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
835                    frame.stride = (frame.stride*2)/3;
836    
837          switch (xvid_decore(codec->dhandle, XVID_DEC_DECODE, &frame, NULL))          switch (xvid_decore(codec->dhandle, XVID_DEC_DECODE, &frame, NULL))
838          {          {
839          case XVID_ERR_FAIL :          case XVID_ERR_FAIL :
# Line 619  Line 849 
849          return ICERR_OK;          return ICERR_OK;
850  }  }
851    
852  int codec_2pass_init(CODEC* codec)  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
853  {  {
         TWOPASS *twopass = &codec->twopass;  
         DWORD version = -20;  
         DWORD read, wrote;  
   
         int     frames = 0, credits_frames = 0, i_frames = 0;  
         __int64 total = 0, i_total = 0, i_boost_total = 0, start = 0, end = 0, start_curved = 0, end_curved = 0;  
         __int64 desired = (__int64)codec->config.desired_size * 1024;  
   
         double total1 = 0.0;  
         double total2 = 0.0;  
   
854          switch (codec->config.mode)          switch (codec->config.mode)
855          {          {
856          case DLG_MODE_2PASS_1 :          case DLG_MODE_VBR_QUAL :
857                  twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_WRITE, FILE_SHARE_READ, 0, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, 0);                  if (codec_is_in_credits(&codec->config, codec->framenum))
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
858                  {                  {
859                          DEBUGERR("2pass init error - couldn't create stats1");  // added by koepi for credits greyscale
860                          return ICERR_ERROR;  
861                  }                          check_greyscale_mode(&codec->config, frame, codec->framenum);
862                  if (WriteFile(twopass->stats1, &version, sizeof(DWORD), &wrote, 0) == 0 || wrote != sizeof(DWORD))  
863    // end of koepi's addition
864    
865                            switch (codec->config.credits_mode)
866                  {                  {
867                          CloseHandle(twopass->stats1);                          case CREDITS_MODE_RATE :
868                          twopass->stats1 = INVALID_HANDLE_VALUE;                                  frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);
                         DEBUGERR("2pass init error - couldn't write to stats1");  
                         return ICERR_ERROR;  
                 }  
869                  break;                  break;
870    
871          case DLG_MODE_2PASS_2_INT :                          case CREDITS_MODE_QUANT :
872          case DLG_MODE_2PASS_2_EXT :                                  frame->quant = codec->config.credits_quant_p;
873                  twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);                                  break;
874                  if (twopass->stats1 == INVALID_HANDLE_VALUE)  
875                  {                          default :
876                          DEBUGERR("2pass init error - couldn't open stats1");                                  DEBUGERR("Can't use credits size mode in quality mode");
877                          return ICERR_ERROR;                          return ICERR_ERROR;
878                  }                  }
                 if (ReadFile(twopass->stats1, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUGERR("2pass init error - couldn't read from stats1");  
                         return ICERR_ERROR;  
879                  }                  }
880                  if (version != -20)                  else
881                  {                  {
882                          CloseHandle(twopass->stats1);  // added by koepi for credits greyscale
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUGERR("2pass init error - wrong .stats version");  
                         return ICERR_ERROR;  
                 }  
883    
884                  if (codec->config.mode == DLG_MODE_2PASS_2_EXT)                          check_greyscale_mode(&codec->config, frame, codec->framenum);
                 {  
                         if (twopass->stats2 != INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats2);  
                         }  
885    
886                          twopass->stats2 = CreateFile(codec->config.stats2, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  // end of koepi's addition
887    
888                          if (twopass->stats2 == INVALID_HANDLE_VALUE)                          frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 DEBUGERR("2pass init error - couldn't open stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (ReadFile(twopass->stats2, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUGERR("2pass init error - couldn't read from stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (version != -20)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUGERR("2pass init error - wrong .stats version");  
                                 return ICERR_ERROR;  
889                          }                          }
890                    return ICERR_OK;
891    
892                          while (1)          case DLG_MODE_VBR_QUANT :
893                          {                  if (codec_is_in_credits(&codec->config, codec->framenum))
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
894                                  {                                  {
895                                          DWORD err = GetLastError();  // added by koepi for credits greyscale
896    
897                            check_greyscale_mode(&codec->config, frame, codec->framenum);
898    
899                                          if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  // end of koepi's addition
900    
901                            switch (codec->config.credits_mode)
902                                          {                                          {
903                            case CREDITS_MODE_RATE :
904                                    frame->quant =
905                                            codec->config.max_pquant -
906                                            ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);
907                                                  break;                                                  break;
908                                          }  
909                                          else                          case CREDITS_MODE_QUANT :
910                                          {                                  frame->quant = codec->config.credits_quant_p;
911                                                  CloseHandle(twopass->stats1);                                  break;
912                                                  CloseHandle(twopass->stats2);  
913                                                  twopass->stats1 = INVALID_HANDLE_VALUE;                          default :
914                                                  twopass->stats2 = INVALID_HANDLE_VALUE;                                  DEBUGERR("Can't use credits size mode in quantizer mode");
                                                 DEBUGERR("2pass init error - incomplete stats1/stats2 record?");  
915                                                  return ICERR_ERROR;                                                  return ICERR_ERROR;
916                                          }                                          }
917                                  }                                  }
918                    else
                                 if (!codec_is_in_credits(&codec->config, frames))  
                                 {  
                                         if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
919                                          {                                          {
920                                                  i_boost_total = twopass->nns2.bytes * codec->config.keyframe_boost / 100;  // added by koepi for credits greyscale
                                                 i_total += twopass->nns2.bytes;  
                                                 ++i_frames;  
                                         }  
921    
922                                          total += twopass->nns2.bytes;                          check_greyscale_mode(&codec->config, frame, codec->framenum);
                                 }  
                                 else  
                                         ++credits_frames;  
923    
924                                  ++frames;  // end of koepi's addition
925    
926                            frame->quant = codec->config.quant;
927                          }                          }
928                    return ICERR_OK;
929    
930                          twopass->movie_curve = ((double)(total + i_boost_total) / total);          case DLG_MODE_2PASS_1 :
931                          twopass->average_frame = ((double)(total - i_total) / (frames - credits_frames - i_frames) / twopass->movie_curve);  // added by koepi for credits greyscale
932    
933                          SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);                  check_greyscale_mode(&codec->config, frame, codec->framenum);
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
934    
935                          // perform prepass to compensate for over/undersizing  // end of koepi's addition
                         frames = 0;  
936    
937                          if (codec->config.use_alt_curve)                  if (codec->config.credits_mode == CREDITS_MODE_QUANT)
                         {  
                                 twopass->alt_curve_low = twopass->average_frame - twopass->average_frame * (double)codec->config.alt_curve_low_dist / 100.0;  
                                 twopass->alt_curve_low_diff = twopass->average_frame - twopass->alt_curve_low;  
                                 twopass->alt_curve_high = twopass->average_frame + twopass->average_frame * (double)codec->config.alt_curve_high_dist / 100.0;  
                                 twopass->alt_curve_high_diff = twopass->alt_curve_high - twopass->average_frame;  
                                 if (codec->config.alt_curve_use_auto)  
938                                  {                                  {
939                                          if (twopass->movie_curve > 1.0)                          if (codec_is_in_credits(&codec->config, codec->framenum))
940                                          {                                          {
941                                                  codec->config.alt_curve_min_rel_qual = (int)(100.0 - (100.0 - 100.0 / twopass->movie_curve) * (double)codec->config.alt_curve_auto_str / 100.0);                                  frame->quant = codec->config.credits_quant_p;
                                                 if (codec->config.alt_curve_min_rel_qual < 20)  
                                                         codec->config.alt_curve_min_rel_qual = 20;  
942                                          }                                          }
943                                          else                                          else
                                                 codec->config.alt_curve_min_rel_qual = 100;  
                                 }  
                                 twopass->alt_curve_mid_qual = (1.0 + (double)codec->config.alt_curve_min_rel_qual / 100.0) / 2.0;  
                                 twopass->alt_curve_qual_dev = 1.0 - twopass->alt_curve_mid_qual;  
                                 if (codec->config.alt_curve_low_dist > 100)  
                                 {  
                                         switch(codec->config.alt_curve_type)  
                                         {  
                                         case 2: // Sine Curve (high aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff));  
                                                 break;  
                                         case 1: // Linear (medium aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         twopass->average_frame / twopass->alt_curve_low_diff);  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         twopass->average_frame / twopass->alt_curve_low_diff;  
                                                 break;  
                                         case 0: // Cosine Curve (low aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff))));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                         }  
                                 }  
                         }  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
944                                          {                                          {
945                                                  break;                                  frame->quant = 2;
946                            }
947                                          }                                          }
948                                          else                                          else
949                                          {                                          {
950                                                  CloseHandle(twopass->stats1);                          frame->quant = 2;
951                                                  CloseHandle(twopass->stats2);                  }
952                                                  twopass->stats1 = INVALID_HANDLE_VALUE;                  return ICERR_OK;
953                                                  twopass->stats2 = INVALID_HANDLE_VALUE;  
954                                                  DEBUGERR("2pass init error - incomplete stats1/stats2 record?");          default:
955                    DEBUGERR("get quant: invalid mode");
956                                                  return ICERR_ERROR;                                                  return ICERR_ERROR;
957                                          }                                          }
958                                  }                                  }
959    
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns2.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
960    
961                                          if (codec->config.use_alt_curve)  int codec_is_in_credits(CONFIG* config, int framenum)
                                         {  
                                                 if (dbytes > twopass->average_frame)  
962                                                  {                                                  {
963                                                          if (dbytes >= twopass->alt_curve_high)          if (config->credits_start)
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev);  
                                                         else  
964                                                          {                                                          {
965                                                                  switch(codec->config.alt_curve_type)                  if (framenum >= config->credits_start_begin &&
966                            framenum <= config->credits_start_end)
967                                                                  {                                                                  {
968                                                                  case 2:                          return CREDITS_START;
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_high_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff))));  
                                                                 }  
969                                                          }                                                          }
970                                                  }                                                  }
971                                                  else  
972                                                  {          if (config->credits_end)
                                                         if (dbytes <= twopass->alt_curve_low)  
                                                                 total2 += dbytes;  
                                                         else  
973                                                          {                                                          {
974                                                                  switch(codec->config.alt_curve_type)                  if (framenum >= config->credits_end_begin &&
975                            framenum <= config->credits_end_end)
976                                                                  {                                                                  {
977                                                                  case 2:                          return CREDITS_END;
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_low_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual + twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff))));  
                                                                 }  
978                                                          }                                                          }
979                                                  }                                                  }
980    
981            return 0;
982                                          }                                          }
983                                          else  
984    
985    int codec_get_vbr_quant(CONFIG* config, int quality)
986                                          {                                          {
987                                                  if (dbytes > twopass->average_frame)          static float fquant_running = 0;
988            static int my_quality = -1;
989            int     quant;
990    
991            // if quality changes, recalculate fquant (credits)
992            if (quality != my_quality)
993                                                  {                                                  {
994                                                          total2 += ((double)dbytes + (twopass->average_frame - dbytes) *                  config->fquant = 0;
                                                                 codec->config.curve_compression_high / 100.0);  
995                                                  }                                                  }
996                                                  else  
997            my_quality = quality;
998    
999            // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ
1000            if (!config->fquant)
1001                                                  {                                                  {
1002                                                          total2 += ((double)dbytes + (twopass->average_frame - dbytes) *                  config->fquant =
1003                                                                  codec->config.curve_compression_low / 100.0);                          ((float) (config->max_pquant - config->min_pquant) / 100) *
1004                            (100 - quality) +
1005                            (float) config->min_pquant;
1006    
1007                    fquant_running = config->fquant;
1008                                                  }                                                  }
1009    
1010            if (fquant_running < config->min_pquant)
1011            {
1012                    fquant_running = (float) config->min_pquant;
1013                                          }                                          }
1014            else if(fquant_running > config->max_pquant)
1015            {
1016                    fquant_running = (float) config->max_pquant;
1017                                  }                                  }
1018    
1019                                  ++frames;          quant = (int) fquant_running;
1020    
1021            // add error between fquant and quant to fquant_running
1022            fquant_running += config->fquant - quant;
1023    
1024            return quant;
1025                          }                          }
1026    
1027                          twopass->curve_comp_scale = total1 / total2;  // added by koepi for credits greyscale
1028    
1029    int check_greyscale_mode(CONFIG* config, XVID_ENC_FRAME* frame, int framenum)
1030    
                         if (!codec->config.use_alt_curve)  
1031                          {                          {
                                 int asymmetric_average_frame;  
                                 char s[100];  
1032    
1033                                  asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);          if ((codec_is_in_credits(config, framenum)) && (config->mode!=DLG_MODE_CBR))
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
1034    
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
                 }  
                 else    // DLG_MODE_2PASS_2_INT  
1035                  {                  {
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUGERR("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (codec_is_in_credits(&codec->config, frames) == CREDITS_START)  
                                 {  
                                         start += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (codec_is_in_credits(&codec->config, frames) == CREDITS_END)  
                                 {  
                                         end += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
                                 {  
                                         i_total += twopass->nns1.bytes + twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         total += twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         ++i_frames;  
                                 }  
   
                                 total += twopass->nns1.bytes;  
   
                                 ++frames;  
                         }  
1036    
1037                          // compensate for avi frame overhead                  if (config->credits_greyscale)
                         desired -= frames * 24;  
1038    
                         switch (codec->config.credits_mode)  
1039                          {                          {
                         case CREDITS_MODE_RATE :  
   
                                 // credits curve = (total / desired_size) * (100 / credits_rate)  
                                 twopass->credits_start_curve = twopass->credits_end_curve =  
                                         ((double)total / desired) * ((double)100 / codec->config.credits_rate);  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (double)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
1040    
1041                                  // movie curve = (total - credits) / (desired_size - credits)                          if ((frame->general && XVID_GREYSCALE))  // use only if not already in greyscale
                                 twopass->movie_curve = (double)  
                                         (total - start - end) / (desired - start - end);  
   
                                 // aid the average asymmetric frame calculation below  
                                 start_curved = start;  
                                 end_curved = end;  
1042    
1043                                  break;                                  frame->general |= XVID_GREYSCALE;
   
                         case CREDITS_MODE_SIZE :  
   
                                 // start curve = (start / start desired size)  
                                 twopass->credits_start_curve = (double)  
                                         (start / 1024) / codec->config.credits_start_size;  
   
                                 // end curve = (end / end desired size)  
                                 twopass->credits_end_curve = (double)  
                                         (end / 1024) / codec->config.credits_end_size;  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (double)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
                         }  
   
                         // average frame size = (desired - curved credits - curved keyframes) /  
                         //      (frames - credits frames - keyframes)  
                         twopass->average_frame = (double)  
                                 (desired - start_curved - end_curved - (i_total / twopass->movie_curve)) /  
                                 (frames - credits_frames - i_frames);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         if (codec->config.use_alt_curve)  
                         {  
                                 twopass->alt_curve_low = twopass->average_frame - twopass->average_frame * (double)codec->config.alt_curve_low_dist / 100.0;  
                                 twopass->alt_curve_low_diff = twopass->average_frame - twopass->alt_curve_low;  
                                 twopass->alt_curve_high = twopass->average_frame + twopass->average_frame * (double)codec->config.alt_curve_high_dist / 100.0;  
                                 twopass->alt_curve_high_diff = twopass->alt_curve_high - twopass->average_frame;  
                                 if (codec->config.alt_curve_use_auto)  
                                 {  
                                         if (twopass->movie_curve > 1.0)  
                                         {  
                                                 codec->config.alt_curve_min_rel_qual = (int)(100.0 - (100.0 - 100.0 / twopass->movie_curve) * (double)codec->config.alt_curve_auto_str / 100.0);  
                                                 if (codec->config.alt_curve_min_rel_qual < 20)  
                                                         codec->config.alt_curve_min_rel_qual = 20;  
                                         }  
                                         else  
                                                 codec->config.alt_curve_min_rel_qual = 100;  
                                 }  
                                 twopass->alt_curve_mid_qual = (1.0 + (double)codec->config.alt_curve_min_rel_qual / 100.0) / 2.0;  
                                 twopass->alt_curve_qual_dev = 1.0 - twopass->alt_curve_mid_qual;  
                                 if (codec->config.alt_curve_low_dist > 100)  
                                 {  
                                         switch(codec->config.alt_curve_type)  
                                         {  
                                         case 2: // Sine Curve (high aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff));  
                                                 break;  
                                         case 1: // Linear (medium aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         twopass->average_frame / twopass->alt_curve_low_diff);  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         twopass->average_frame / twopass->alt_curve_low_diff;  
                                                 break;  
                                         case 0: // Cosine Curve (low aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff))));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                         }  
                                 }  
                         }  
1044    
1045                          while (1)                  } else {
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
1046    
1047                                          if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)                          if (!(frame->general && XVID_GREYSCALE))  // if movie is in greyscale, switch back
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUGERR("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
1048    
1049                                  if (!codec_is_in_credits(&codec->config, frames) &&                                  frame->general |= XVID_GREYSCALE;
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns1.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
1050    
                                         if (codec->config.use_alt_curve)  
                                         {  
                                                 if (dbytes > twopass->average_frame)  
                                                 {  
                                                         if (dbytes >= twopass->alt_curve_high)  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev);  
                                                         else  
                                                         {  
                                                                 switch(codec->config.alt_curve_type)  
                                                                 {  
                                                                 case 2:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_high_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff))));  
                                                                 }  
                                                         }  
                                                 }  
                                                 else  
                                                 {  
                                                         if (dbytes <= twopass->alt_curve_low)  
                                                                 total2 += dbytes;  
                                                         else  
                                                         {  
                                                                 switch(codec->config.alt_curve_type)  
                                                                 {  
                                                                 case 2:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_low_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual + twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff))));  
                                                                 }  
                                                         }  
                                                 }  
                                         }  
                                         else  
                                         {  
                                                 if (dbytes > twopass->average_frame)  
                                                 {  
                                                         total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                                 codec->config.curve_compression_high / 100.0);  
                                                 }  
                                                 else  
                                                 {  
                                                         total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                                 codec->config.curve_compression_low / 100.0);  
                                                 }  
                                         }  
1051                                  }                                  }
1052    
1053                                  ++frames;          } else {
                         }  
1054    
1055                          twopass->curve_comp_scale = total1 / total2;                  if (config->greyscale)
1056    
                         if (!codec->config.use_alt_curve)  
1057                          {                          {
                                 int asymmetric_average_frame;  
                                 char s[100];  
1058    
1059                                  asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);                          if ((frame->general && XVID_GREYSCALE))  // use only if not already in greyscale
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
1060    
1061                          SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);                                  frame->general |= XVID_GREYSCALE;
                 }  
1062    
1063                  if (codec->config.use_alt_curve)                  } else {
                 {  
                         if (codec->config.alt_curve_use_auto_bonus_bias)  
                                 codec->config.alt_curve_bonus_bias = codec->config.alt_curve_min_rel_qual;  
1064    
1065                          twopass->curve_bias_bonus = (total1 - total2) * (double)codec->config.alt_curve_bonus_bias / 100.0 / (double)(frames - credits_frames - i_frames);                          if (!(frame->general && XVID_GREYSCALE))  // if credits is in greyscale, switch back
                         twopass->curve_comp_scale = ((total1 - total2) * (1.0 - (double)codec->config.alt_curve_bonus_bias / 100.0) + total2) / total2;  
                 }  
1066    
1067                  twopass->overflow = 0;                                  frame->general |= XVID_GREYSCALE;
1068    
                 break;  
1069          }          }
1070    
         return ICERR_OK;  
 }  
   
   
 int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  
 {  
         switch (codec->config.mode)  
         {  
         case DLG_MODE_VBR_QUAL :  
                 if (codec_is_in_credits(&codec->config, codec->framenum))  
                 {  
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
                                 frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);  
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
                                 frame->quant = codec->config.credits_quant_p;  
                                 break;  
   
                         default :  
                                 DEBUGERR("Can't use credits size mode in quality mode");  
                                 return ICERR_ERROR;  
                         }  
                 }  
                 else  
                 {  
                         frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);  
                 }  
                 return ICERR_OK;  
   
         case DLG_MODE_VBR_QUANT :  
                 if (codec_is_in_credits(&codec->config, codec->framenum))  
                 {  
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
                                 frame->quant =  
                                         codec->config.max_pquant -  
                                         ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);  
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
                                 frame->quant = codec->config.credits_quant_p;  
                                 break;  
   
                         default :  
                                 DEBUGERR("Can't use credits size mode in quantizer mode");  
                                 return ICERR_ERROR;  
                         }  
                 }  
                 else  
                 {  
                         frame->quant = codec->config.quant;  
                 }  
                 return ICERR_OK;  
   
         case DLG_MODE_2PASS_1 :  
                 if (codec->config.credits_mode == CREDITS_MODE_QUANT)  
                 {  
                         if (codec_is_in_credits(&codec->config, codec->framenum))  
                         {  
                                 frame->quant = codec->config.credits_quant_p;  
                         }  
                         else  
                         {  
                                 frame->quant = 2;  
                         }  
                 }  
                 else  
                 {  
                         frame->quant = 2;  
                 }  
                 return ICERR_OK;  
   
         default:  
                 DEBUGERR("get quant: invalid mode");  
                 return ICERR_ERROR;  
         }  
 }  
   
   
 int codec_2pass_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  
 {  
         static double quant_error[32];  
         static double curve_comp_error;  
         static int last_quant;  
   
         TWOPASS * twopass = &codec->twopass;  
   
         DWORD read;  
         int bytes1, bytes2;  
         int overflow;  
         int credits_pos;  
   
         if (codec->framenum == 0)  
         {  
                 int i;  
   
                 for (i=0 ; i<32 ; ++i)  
                 {  
                         quant_error[i] = 0.0;  
                 }  
   
                 curve_comp_error = 0.0;  
                 last_quant = 0;  
         }  
   
         if (ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
         {  
                 DEBUGERR("2ndpass quant: couldn't read from stats1");  
                 return ICERR_ERROR;  
         }  
         if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
         {  
                 if (ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
                 {  
                         DEBUGERR("2ndpass quant: couldn't read from stats2");  
                         return ICERR_ERROR;  
                 }  
         }  
   
         bytes1 = twopass->nns1.bytes;  
         overflow = twopass->overflow / 8;  
   
         // override codec i-frame choice (reenable in credits)  
         frame->intra = (twopass->nns1.quant & NNSTATS_KEYFRAME);  
   
         if (frame->intra)  
         {  
                 overflow = 0;  
         }  
   
         credits_pos = codec_is_in_credits(&codec->config, codec->framenum);  
   
         if (credits_pos)  
         {  
                 if (codec->config.mode == DLG_MODE_2PASS_2_INT)  
                 {  
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
                         case CREDITS_MODE_SIZE :  
                                 if (credits_pos == CREDITS_START)  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_start_curve);  
                                 }  
                                 else // CREDITS_END  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_end_curve);  
                                 }  
   
                                 frame->intra = -1;  
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
                                 if (codec->config.credits_quant_i != codec->config.credits_quant_p)  
                                 {  
                                         frame->quant = frame->intra ?  
                                                 codec->config.credits_quant_i :  
                                                 codec->config.credits_quant_p;  
                                 }  
                                 else  
                                 {  
                                         frame->quant = codec->config.credits_quant_p;  
                                         frame->intra = -1;  
                                 }  
   
                                 twopass->bytes1 = bytes1;  
                                 twopass->bytes2 = bytes1;  
                                 twopass->desired_bytes2 = bytes1;  
                                 return ICERR_OK;  
                         }  
                 }  
                 else    // DLG_MODE_2PASS_2_EXT  
                 {  
                         bytes2 = twopass->nns2.bytes;  
                 }  
         }  
         else    // Foxer: apply curve compression outside credits  
         {  
                 double dbytes, curve_temp;  
   
                 bytes2 = (codec->config.mode == DLG_MODE_2PASS_2_INT) ? bytes1 : twopass->nns2.bytes;  
   
                 if (frame->intra)  
                 {  
                         dbytes = ((int)(bytes2 + bytes2 * codec->config.keyframe_boost / 100)) /  
                                 twopass->movie_curve;  
                 }  
                 else  
                 {  
                         dbytes = bytes2 / twopass->movie_curve;  
                 }  
   
                 // spread the compression error across payback_delay frames  
                 if (codec->config.bitrate_payback_method == 0)  
                 {  
                         bytes2 = (int)(curve_comp_error / codec->config.bitrate_payback_delay);  
                 }  
                 else  
                 {  
                         bytes2 = (int)(curve_comp_error * dbytes /  
                                 twopass->average_frame / codec->config.bitrate_payback_delay);  
   
                         if (labs(bytes2) > fabs(curve_comp_error))  
                         {  
                                 bytes2 = (int)curve_comp_error;  
                         }  
                 }  
   
                 curve_comp_error -= bytes2;  
   
                 if (codec->config.use_alt_curve)  
                 {  
                         if (!frame->intra)  
                         {  
                                 if (dbytes > twopass->average_frame)  
                                 {  
                                         if (dbytes >= twopass->alt_curve_high)  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev);  
                                         else  
                                         {  
                                                 switch(codec->config.alt_curve_type)  
                                                 {  
                                                 case 2:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff)));  
                                                         break;  
                                                 case 1:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_high_diff);  
                                                         break;  
                                                 case 0:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff))));  
                                                 }  
                                         }  
                                 }  
                                 else  
                                 {  
                                         if (dbytes <= twopass->alt_curve_low)  
                                                 curve_temp = dbytes;  
                                         else  
                                         {  
                                                 switch(codec->config.alt_curve_type)  
                                                 {  
                                                 case 2:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff)));  
                                                         break;  
                                                 case 1:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_low_diff);  
                                                         break;  
                                                 case 0:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual + twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff))));  
                                                 }  
                                         }  
                                 }  
                                 curve_temp = curve_temp * twopass->curve_comp_scale + twopass->curve_bias_bonus;  
   
                                 bytes2 += ((int)curve_temp);  
                                 curve_comp_error += curve_temp - ((int)curve_temp);  
                         }  
                         else  
                         {  
                                 curve_comp_error += dbytes - ((int)dbytes);  
                                 bytes2 += ((int)dbytes);  
                         }  
                 }  
                 else if ((codec->config.curve_compression_high + codec->config.curve_compression_low) &&  
                         !frame->intra)  
                 {  
                         if (dbytes > twopass->average_frame)  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_high / 100.0);  
                         }  
                         else  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_low / 100.0);  
                         }  
   
                         bytes2 += ((int)curve_temp);  
                         curve_comp_error += curve_temp - ((int)curve_temp);  
                 }  
                 else  
                 {  
                         curve_comp_error += dbytes - ((int)dbytes);  
                         bytes2 += ((int)dbytes);  
                 }  
   
                 // cap bytes2 to first pass size, lowers number of quant=1 frames  
                 if (bytes2 > bytes1)  
                 {  
                         curve_comp_error += bytes2 - bytes1;  
                         bytes2 = bytes1;  
                 }  
                 else if (bytes2 < 1)  
                 {  
                         curve_comp_error += --bytes2;  
                         bytes2 = 1;  
                 }  
         }  
   
         twopass->desired_bytes2 = bytes2;  
   
         // Foxer: scale overflow in relation to average size, so smaller frames don't get  
         // too much/little bitrate  
         overflow = (int)((double)overflow * bytes2 / twopass->average_frame);  
   
         // Foxer: reign in overflow with huge frames  
         if (labs(overflow) > labs(twopass->overflow))  
         {  
                 overflow = twopass->overflow;  
         }  
   
         // Foxer: make sure overflow doesn't run away  
         if (overflow > bytes2 * 6 / 10)  
         {  
                 bytes2 += (overflow <= bytes2) ? bytes2 * 6 / 10 : overflow * 6 / 10;  
         }  
         else if (overflow < bytes2 * -6 / 10)  
         {  
                 bytes2 += bytes2 * -6 / 10;  
         }  
         else  
         {  
                 bytes2 += overflow;  
         }  
   
         if (bytes2 < 1)  
         {  
                 bytes2 = 1;  
         }  
   
         twopass->bytes1 = bytes1;  
         twopass->bytes2 = bytes2;  
   
         // very 'simple' quant<->filesize relationship  
         frame->quant = ((twopass->nns1.quant & ~NNSTATS_KEYFRAME) * bytes1) / bytes2;  
   
         if (frame->quant < 1)  
         {  
                 frame->quant = 1;  
         }  
         else if (frame->quant > 31)  
         {  
                 frame->quant = 31;  
         }  
         else if (!frame->intra)  
         {  
                 // Foxer: aid desired quantizer precision by accumulating decision error  
                 quant_error[frame->quant] += ((double)((twopass->nns1.quant & ~NNSTATS_KEYFRAME) *  
                         bytes1) / bytes2) - frame->quant;  
   
                 if (quant_error[frame->quant] >= 1.0)  
                 {  
                         quant_error[frame->quant] -= 1.0;  
                         ++frame->quant;  
                 }  
         }  
   
         // we're done with credits  
         if (codec_is_in_credits(&codec->config, codec->framenum))  
         {  
                 return ICERR_OK;  
         }  
   
         if (frame->intra)  
         {  
                 if (frame->quant < codec->config.min_iquant)  
                 {  
                         frame->quant = codec->config.min_iquant;  
                         DEBUG2P("I-frame quantizer raised");  
                 }  
                 if (frame->quant > codec->config.max_iquant)  
                 {  
                         frame->quant = codec->config.max_iquant;  
                         DEBUG2P("I-frame quantizer lowered");  
                 }  
         }  
         else  
         {  
                 if (frame->quant > codec->config.max_pquant)  
                 {  
                         frame->quant = codec->config.max_pquant;  
                 }  
                 if (frame->quant < codec->config.min_pquant)  
                 {  
                         frame->quant = codec->config.min_pquant;  
                 }  
   
                 // subsequent frame quants can only be +- 2  
                 if (last_quant)  
                 {  
                         if (frame->quant > last_quant + 2)  
                         {  
                                 frame->quant = last_quant + 2;  
                                 DEBUG2P("P-frame quantizer prevented from rising too steeply");  
                         }  
                         if (frame->quant < last_quant - 2)  
                         {  
                                 frame->quant = last_quant - 2;  
                                 DEBUG2P("P-frame quantizer prevented from falling too steeply");  
                         }  
                 }  
         }  
   
         last_quant = frame->quant;  
   
         if (codec->config.quant_type == QUANT_MODE_MOD)  
         {  
                 frame->general |= (frame->quant < 4) ? XVID_MPEGQUANT : XVID_H263QUANT;  
                 frame->general &= (frame->quant < 4) ? ~XVID_H263QUANT : ~XVID_MPEGQUANT;  
         }  
   
         return ICERR_OK;  
 }  
   
   
 int codec_2pass_update(CODEC* codec, XVID_ENC_FRAME* frame, XVID_ENC_STATS* stats)  
 {  
         static __int64 total_size;  
   
         NNSTATS nns1;  
         DWORD wrote;  
         char* quant_type;  
   
         if (codec->framenum == 0)  
         {  
                 total_size = 0;  
         }  
   
         quant_type = (frame->general & XVID_H263QUANT) ? "H.263" :  
                 ((frame->general & XVID_MPEGQUANT) && (frame->general & XVID_CUSTOM_QMATRIX)) ?  
                 "Cust" : "MPEG";  
   
         switch (codec->config.mode)  
         {  
         case DLG_MODE_2PASS_1 :  
                 nns1.bytes = frame->length;     // total bytes  
                 nns1.dd_v = stats->hlength;     // header bytes  
   
                 nns1.dd_u = nns1.dd_y = 0;  
                 nns1.dk_v = nns1.dk_u = nns1.dk_y = 0;  
                 nns1.md_u = nns1.md_y = 0;  
                 nns1.mk_u = nns1.mk_y = 0;  
   
                 nns1.quant = stats->quant;  
                 if (frame->intra)  
                 {  
                         nns1.quant |= NNSTATS_KEYFRAME;  
                 }  
                 nns1.kblk = stats->kblks;  
                 nns1.mblk = stats->mblks;  
                 nns1.ublk = stats->ublks;  
                 nns1.lum_noise[0] = nns1.lum_noise[1] = 1;  
   
                 total_size += frame->length;  
   
                 DEBUG1ST(frame->length, (int)total_size/1024, frame->intra, frame->quant, quant_type, stats->kblks, stats->mblks)  
   
                 if (WriteFile(codec->twopass.stats1, &nns1, sizeof(NNSTATS), &wrote, 0) == 0 || wrote != sizeof(NNSTATS))  
                 {  
                         DEBUGERR("stats1: WriteFile error");  
                         return ICERR_ERROR;  
                 }  
                 break;  
   
         case DLG_MODE_2PASS_2_INT :  
         case DLG_MODE_2PASS_2_EXT :  
                 codec->twopass.overflow += codec->twopass.desired_bytes2 - frame->length;  
                 DEBUG2ND(frame->quant, quant_type, frame->intra, codec->twopass.bytes1, codec->twopass.desired_bytes2, frame->length, codec->twopass.overflow, codec_is_in_credits(&codec->config, codec->framenum))  
                 break;  
   
         default:  
                 break;  
         }  
   
         return ICERR_OK;  
 }  
   
   
 int codec_is_in_credits(CONFIG* config, int framenum)  
 {  
         if (config->credits_start)  
         {  
                 if (framenum >= config->credits_start_begin &&  
                         framenum <= config->credits_start_end)  
                 {  
                         return CREDITS_START;  
                 }  
         }  
   
         if (config->credits_end)  
         {  
                 if (framenum >= config->credits_end_begin &&  
                         framenum <= config->credits_end_end)  
                 {  
                         return CREDITS_END;  
                 }  
1071          }          }
1072    
1073          return 0;          return 0;
 }  
   
   
 int codec_get_vbr_quant(CONFIG* config, int quality)  
 {  
         static float fquant_running = 0;  
         static int my_quality = -1;  
         int     quant;  
1074    
         // if quality changes, recalculate fquant (credits)  
         if (quality != my_quality)  
         {  
                 config->fquant = 0;  
1075          }          }
1076    
1077          my_quality = quality;  // end of koepi's addition
   
         // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ  
         if (!config->fquant)  
         {  
                 config->fquant =  
                         ((float) (config->max_pquant - config->min_pquant) / 100) *  
                         (100 - quality) +  
                         (float) config->min_pquant;  
   
                 fquant_running = config->fquant;  
         }  
   
         if (fquant_running < config->min_pquant)  
         {  
                 fquant_running = (float) config->min_pquant;  
         }  
         else if(fquant_running > config->max_pquant)  
         {  
                 fquant_running = (float) config->max_pquant;  
         }  
   
         quant = (int) fquant_running;  
   
         // add error between fquant and quant to fquant_running  
         fquant_running += config->fquant - quant;  
   
         return quant;  
 }  
1078    

Legend:
Removed from v.94  
changed lines
  Added in v.1092

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4