[svn] / branches / dev-api-3 / vfw / src / codec.c Repository:
ViewVC logotype

Diff of /branches/dev-api-3/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 61, Sat Mar 23 06:58:56 2002 UTC revision 105, Sat Apr 6 06:21:29 2002 UTC
# Line 23  Line 23 
23   *   *
24   *      History:   *      History:
25   *   *
26     *      04.04.2002      separated 2-pass code to 2pass.c
27     *                              interlacing support
28     *                              hinted ME support
29   *      23.03.2002      daniel smith <danielsmith@astroboymail.com>   *      23.03.2002      daniel smith <danielsmith@astroboymail.com>
30   *                              changed inter4v to only be in modes 5 or 6   *                              changed inter4v to only be in modes 5 or 6
31   *                              fixed null mode crash ?   *                              fixed null mode crash ?
# Line 43  Line 46 
46  #include <vfw.h>  #include <vfw.h>
47    
48  #include "codec.h"  #include "codec.h"
49  #include <math.h>       // fabs()  #include "2pass.h"
50    
51  int pmvfast_presets[7] = {  int pmvfast_presets[7] = {
52          0, PMV_QUICKSTOP16, PMV_EARLYSTOP16, PMV_EARLYSTOP16 | PMV_EARLYSTOP8,          0, PMV_QUICKSTOP16, PMV_EARLYSTOP16, PMV_EARLYSTOP16 | PMV_EARLYSTOP8,
# Line 298  Line 301 
301          codec->framenum = 0;          codec->framenum = 0;
302          codec->keyspacing = 0;          codec->keyspacing = 0;
303    
304          codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;          codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
305            codec->twopass.hintstream = NULL;
306    
307          return ICERR_OK;          return ICERR_OK;
308  }  }
# Line 309  Line 313 
313          if (codec->ehandle != NULL)          if (codec->ehandle != NULL)
314          {          {
315                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);                  xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
316    
317                    if (codec->twopass.hints != INVALID_HANDLE_VALUE)
318                    {
319                            CloseHandle(codec->twopass.hints);
320                    }
321                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)                  if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
322                  {                  {
323                          CloseHandle(codec->twopass.stats1);                          CloseHandle(codec->twopass.stats1);
# Line 317  Line 326 
326                  {                  {
327                          CloseHandle(codec->twopass.stats2);                          CloseHandle(codec->twopass.stats2);
328                  }                  }
329                    if (codec->twopass.hintstream != NULL)
330                    {
331                            free(codec->twopass.hintstream);
332                    }
333    
334                  codec->ehandle = NULL;                  codec->ehandle = NULL;
335    
336                    codec_2pass_finish(codec);
337          }          }
338    
339          return ICERR_OK;          return ICERR_OK;
# Line 352  Line 368 
368          if(((codec->config.mode == DLG_MODE_2PASS_1) ? 0 : codec->config.lum_masking) == 1)          if(((codec->config.mode == DLG_MODE_2PASS_1) ? 0 : codec->config.lum_masking) == 1)
369                  frame.general |= XVID_LUMIMASKING;                  frame.general |= XVID_LUMIMASKING;
370    
371            if (codec->config.interlacing)
372                    frame.general |= XVID_INTERLACING;
373    
374            if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
375            {
376                    frame.hint.hintstream = codec->twopass.hintstream;
377                    frame.hint.rawhints = 0;
378                    frame.general |= XVID_HINTEDME_GET;
379            }
380            else if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT))
381            {
382                    DWORD read;
383                    DWORD blocksize;
384    
385                    frame.hint.hintstream = codec->twopass.hintstream;
386                    frame.hint.rawhints = 0;
387                    frame.general |= XVID_HINTEDME_SET;
388    
389                    if (codec->twopass.hints == INVALID_HANDLE_VALUE)
390                    {
391                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
392                            if (codec->twopass.hints == INVALID_HANDLE_VALUE)
393                            {
394                                    DEBUGERR("couldn't open hints file");
395                                    return ICERR_ERROR;
396                            }
397                    }
398                    if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
399                            !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
400                    {
401                            DEBUGERR("couldn't read from hints file");
402                            return ICERR_ERROR;
403                    }
404            }
405    
406          frame.motion = pmvfast_presets[codec->config.motion_search];          frame.motion = pmvfast_presets[codec->config.motion_search];
407    
408          frame.image = icc->lpInput;          frame.image = icc->lpInput;
# Line 430  Line 481 
481                  frame.intra = 1;                  frame.intra = 1;
482          }          }
483          else if ((codec->keyspacing < codec->config.min_key_interval && codec->framenum) &&          else if ((codec->keyspacing < codec->config.min_key_interval && codec->framenum) &&
484                  (codec->config.mode == DLG_MODE_2PASS_1))                  (codec->config.mode == DLG_MODE_2PASS_1 || codec->config.mode == DLG_MODE_CBR || codec->config.mode == DLG_MODE_VBR_QUANT ||
485                    codec->config.mode == DLG_MODE_VBR_QUAL || codec->config.mode == DLG_MODE_NULL))
486          {          {
487                  DEBUG("current frame forced to p-frame");                  DEBUG("current frame forced to p-frame");
488                  frame.intra = 0;                  frame.intra = 0;
# Line 465  Line 517 
517                  outhdr->biSizeImage = 0;                  outhdr->biSizeImage = 0;
518          }          }
519    
520            if (frame.general & XVID_HINTEDME_GET)
521            {
522                    DWORD wrote;
523                    DWORD blocksize = frame.hint.hintlength;
524    
525                    if (codec->twopass.hints == INVALID_HANDLE_VALUE)
526                    {
527                            codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
528                            if (codec->twopass.hints == INVALID_HANDLE_VALUE)
529                            {
530                                    DEBUGERR("couldn't create hints file");
531                                    return ICERR_ERROR;
532                            }
533                    }
534                    if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
535                            !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
536                    {
537                            DEBUGERR("couldn't write to hints file");
538                            return ICERR_ERROR;
539                    }
540            }
541    
542          codec_2pass_update(codec, &frame, &stats);          codec_2pass_update(codec, &frame, &stats);
543    
544          ++codec->framenum;          ++codec->framenum;
# Line 619  Line 693 
693          return ICERR_OK;          return ICERR_OK;
694  }  }
695    
 int codec_2pass_init(CODEC* codec)  
 {  
         TWOPASS *twopass = &codec->twopass;  
         DWORD version = -20;  
         DWORD read, wrote;  
   
         int     frames = 0, credits_frames = 0, i_frames = 0;  
         __int64 total = 0, i_total = 0, i_boost_total = 0, start = 0, end = 0, start_curved = 0, end_curved = 0;  
         __int64 desired = codec->config.desired_size * 1024;  
   
         double total1 = 0.0;  
         double total2 = 0.0;  
   
         switch (codec->config.mode)  
         {  
         case DLG_MODE_2PASS_1 :  
                 twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_WRITE, FILE_SHARE_READ, 0, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, 0);  
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
                 {  
                         DEBUGERR("2pass init error - couldn't create stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (WriteFile(twopass->stats1, &version, sizeof(DWORD), &wrote, 0) == 0 || wrote != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUGERR("2pass init error - couldn't write to stats1");  
                         return ICERR_ERROR;  
                 }  
                 break;  
   
         case DLG_MODE_2PASS_2_INT :  
         case DLG_MODE_2PASS_2_EXT :  
                 twopass->stats1 = CreateFile(codec->config.stats1, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  
                 if (twopass->stats1 == INVALID_HANDLE_VALUE)  
                 {  
                         DEBUGERR("2pass init error - couldn't open stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (ReadFile(twopass->stats1, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUGERR("2pass init error - couldn't read from stats1");  
                         return ICERR_ERROR;  
                 }  
                 if (version != -20)  
                 {  
                         CloseHandle(twopass->stats1);  
                         twopass->stats1 = INVALID_HANDLE_VALUE;  
                         DEBUGERR("2pass init error - wrong .stats version");  
                         return ICERR_ERROR;  
                 }  
   
                 if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
                 {  
                         if (twopass->stats2 != INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats2);  
                         }  
   
                         twopass->stats2 = CreateFile(codec->config.stats2, GENERIC_READ, FILE_SHARE_READ, 0, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);  
   
                         if (twopass->stats2 == INVALID_HANDLE_VALUE)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 DEBUGERR("2pass init error - couldn't open stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (ReadFile(twopass->stats2, &version, sizeof(DWORD), &read, 0) == 0 || read != sizeof(DWORD))  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUGERR("2pass init error - couldn't read from stats2");  
                                 return ICERR_ERROR;  
                         }  
                         if (version != -20)  
                         {  
                                 CloseHandle(twopass->stats1);  
                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                 CloseHandle(twopass->stats2);  
                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                 DEBUGERR("2pass init error - wrong .stats version");  
                                 return ICERR_ERROR;  
                         }  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 CloseHandle(twopass->stats2);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                                 DEBUGERR("2pass init error - incomplete stats1/stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames))  
                                 {  
                                         if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
                                         {  
                                                 i_boost_total = twopass->nns2.bytes * codec->config.keyframe_boost / 100;  
                                                 i_total += twopass->nns2.bytes;  
                                                 ++i_frames;  
                                         }  
   
                                         total += twopass->nns2.bytes;  
                                 }  
                                 else  
                                         ++credits_frames;  
   
                                 ++frames;  
                         }  
   
                         twopass->movie_curve = ((float)(total + i_boost_total) / total);  
                         twopass->average_frame = ((double)(total - i_total) / (frames - credits_frames - i_frames) / twopass->movie_curve);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         if (codec->config.use_alt_curve)  
                         {  
                                 twopass->alt_curve_low = twopass->average_frame - twopass->average_frame * (double)codec->config.alt_curve_low_dist / 100.0;  
                                 twopass->alt_curve_low_diff = twopass->average_frame - twopass->alt_curve_low;  
                                 twopass->alt_curve_high = twopass->average_frame + twopass->average_frame * (double)codec->config.alt_curve_high_dist / 100.0;  
                                 twopass->alt_curve_high_diff = twopass->alt_curve_high - twopass->average_frame;  
                                 if (codec->config.alt_curve_use_auto)  
                                 {  
                                         if (twopass->movie_curve > 1.0f)  
                                         {  
                                                 codec->config.alt_curve_min_rel_qual = (int)(100.0 - (100.0 - 100.0 / twopass->movie_curve) * (double)codec->config.alt_curve_auto_str / 100.0);  
                                                 if (codec->config.alt_curve_min_rel_qual < 20)  
                                                         codec->config.alt_curve_min_rel_qual = 20;  
                                         }  
                                         else  
                                                 codec->config.alt_curve_min_rel_qual = 100;  
                                 }  
                                 twopass->alt_curve_mid_qual = (1.0 + (double)codec->config.alt_curve_min_rel_qual / 100.0) / 2.0;  
                                 twopass->alt_curve_qual_dev = 1.0 - twopass->alt_curve_mid_qual;  
                                 if (codec->config.alt_curve_low_dist > 100)  
                                 {  
                                         switch(codec->config.alt_curve_type)  
                                         {  
                                         case 2: // Sine Curve (high aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff));  
                                                 break;  
                                         case 1: // Linear (medium aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         twopass->average_frame / twopass->alt_curve_low_diff);  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         twopass->average_frame / twopass->alt_curve_low_diff;  
                                                 break;  
                                         case 0: // Cosine Curve (low aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff))));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                         }  
                                 }  
                         }  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS) ||  
                                         !ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 CloseHandle(twopass->stats2);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 twopass->stats2 = INVALID_HANDLE_VALUE;  
                                                 DEBUGERR("2pass init error - incomplete stats1/stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns2.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
   
                                         if (codec->config.use_alt_curve)  
                                         {  
                                                 if (dbytes > twopass->average_frame)  
                                                 {  
                                                         if (dbytes >= twopass->alt_curve_high)  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev);  
                                                         else  
                                                         {  
                                                                 switch(codec->config.alt_curve_type)  
                                                                 {  
                                                                 case 2:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_high_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff))));  
                                                                 }  
                                                         }  
                                                 }  
                                                 else  
                                                 {  
                                                         if (dbytes <= twopass->alt_curve_low)  
                                                                 total2 += dbytes;  
                                                         else  
                                                         {  
                                                                 switch(codec->config.alt_curve_type)  
                                                                 {  
                                                                 case 2:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_low_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual + twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff))));  
                                                                 }  
                                                         }  
                                                 }  
                                         }  
                                         else  
                                         {  
                                                 if (dbytes > twopass->average_frame)  
                                                 {  
                                                         total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                                 codec->config.curve_compression_high / 100.0);  
                                                 }  
                                                 else  
                                                 {  
                                                         total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                                 codec->config.curve_compression_low / 100.0);  
                                                 }  
                                         }  
                                 }  
   
                                 ++frames;  
                         }  
   
                         twopass->curve_comp_scale = total1 / total2;  
   
                         if (!codec->config.use_alt_curve)  
                         {  
                                 int asymmetric_average_frame;  
                                 char s[100];  
   
                                 asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);  
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                         SetFilePointer(twopass->stats2, sizeof(DWORD), 0, FILE_BEGIN);  
                 }  
                 else    // DLG_MODE_2PASS_2_INT  
                 {  
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUGERR("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (codec_is_in_credits(&codec->config, frames) == CREDITS_START)  
                                 {  
                                         start += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (codec_is_in_credits(&codec->config, frames) == CREDITS_END)  
                                 {  
                                         end += twopass->nns1.bytes;  
                                         ++credits_frames;  
                                 }  
                                 else if (twopass->nns1.quant & NNSTATS_KEYFRAME)  
                                 {  
                                         i_total += twopass->nns1.bytes + twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         total += twopass->nns1.bytes * codec->config.keyframe_boost / 100;  
                                         ++i_frames;  
                                 }  
   
                                 total += twopass->nns1.bytes;  
   
                                 ++frames;  
                         }  
   
                         // compensate for avi frame overhead  
                         desired -= frames * 24;  
   
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
   
                                 // credits curve = (total / desired_size) * (100 / credits_rate)  
                                 twopass->credits_start_curve = twopass->credits_end_curve =  
                                         ((float)total / desired) * ((float)100 / codec->config.credits_rate);  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
   
                                 // movie curve = (total - credits) / (desired_size - credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) / (desired - start - end);  
   
                                 // aid the average asymmetric frame calculation below  
                                 start_curved = start;  
                                 end_curved = end;  
   
                                 break;  
   
                         case CREDITS_MODE_SIZE :  
   
                                 // start curve = (start / start desired size)  
                                 twopass->credits_start_curve = (float)  
                                         (start / 1024) / codec->config.credits_start_size;  
   
                                 // end curve = (end / end desired size)  
                                 twopass->credits_end_curve = (float)  
                                         (end / 1024) / codec->config.credits_end_size;  
   
                                 start_curved = (__int64)(start / twopass->credits_start_curve);  
                                 end_curved = (__int64)(end / twopass->credits_end_curve);  
   
                                 // movie curve = (total - credits) / (desired_size - curved credits)  
                                 twopass->movie_curve = (float)  
                                         (total - start - end) /  
                                         (desired - start_curved - end_curved);  
   
                                 break;  
                         }  
   
                         // average frame size = (desired - curved credits - curved keyframes) /  
                         //      (frames - credits frames - keyframes)  
                         twopass->average_frame = (double)  
                                 (desired - start_curved - end_curved - (i_total / twopass->movie_curve)) /  
                                 (frames - credits_frames - i_frames);  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
   
                         // perform prepass to compensate for over/undersizing  
                         frames = 0;  
   
                         if (codec->config.use_alt_curve)  
                         {  
                                 twopass->alt_curve_low = twopass->average_frame - twopass->average_frame * (double)codec->config.alt_curve_low_dist / 100.0;  
                                 twopass->alt_curve_low_diff = twopass->average_frame - twopass->alt_curve_low;  
                                 twopass->alt_curve_high = twopass->average_frame + twopass->average_frame * (double)codec->config.alt_curve_high_dist / 100.0;  
                                 twopass->alt_curve_high_diff = twopass->alt_curve_high - twopass->average_frame;  
                                 if (codec->config.alt_curve_use_auto)  
                                 {  
                                         if (twopass->movie_curve > 1.0f)  
                                         {  
                                                 codec->config.alt_curve_min_rel_qual = (int)(100.0 - (100.0 - 100.0 / twopass->movie_curve) * (double)codec->config.alt_curve_auto_str / 100.0);  
                                                 if (codec->config.alt_curve_min_rel_qual < 20)  
                                                         codec->config.alt_curve_min_rel_qual = 20;  
                                         }  
                                         else  
                                                 codec->config.alt_curve_min_rel_qual = 100;  
                                 }  
                                 twopass->alt_curve_mid_qual = (1.0 + (double)codec->config.alt_curve_min_rel_qual / 100.0) / 2.0;  
                                 twopass->alt_curve_qual_dev = 1.0 - twopass->alt_curve_mid_qual;  
                                 if (codec->config.alt_curve_low_dist > 100)  
                                 {  
                                         switch(codec->config.alt_curve_type)  
                                         {  
                                         case 2: // Sine Curve (high aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff));  
                                                 break;  
                                         case 1: // Linear (medium aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         twopass->average_frame / twopass->alt_curve_low_diff);  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         twopass->average_frame / twopass->alt_curve_low_diff;  
                                                 break;  
                                         case 0: // Cosine Curve (low aggressiveness)  
                                                 twopass->alt_curve_qual_dev *= 2.0 / (1.0 +  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff))));  
                                                 twopass->alt_curve_mid_qual = 1.0 - twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * (twopass->average_frame * 90.0 / twopass->alt_curve_low_diff)));  
                                         }  
                                 }  
                         }  
   
                         while (1)  
                         {  
                                 if (!ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, NULL) || read != sizeof(NNSTATS))  
                                 {  
                                         DWORD err = GetLastError();  
   
                                         if (err == ERROR_HANDLE_EOF || err == ERROR_SUCCESS)  
                                         {  
                                                 break;  
                                         }  
                                         else  
                                         {  
                                                 CloseHandle(twopass->stats1);  
                                                 twopass->stats1 = INVALID_HANDLE_VALUE;  
                                                 DEBUGERR("2pass init error - incomplete stats2 record?");  
                                                 return ICERR_ERROR;  
                                         }  
                                 }  
   
                                 if (!codec_is_in_credits(&codec->config, frames) &&  
                                         !(twopass->nns1.quant & NNSTATS_KEYFRAME))  
                                 {  
                                         double dbytes = twopass->nns1.bytes / twopass->movie_curve;  
                                         total1 += dbytes;  
   
                                         if (codec->config.use_alt_curve)  
                                         {  
                                                 if (dbytes > twopass->average_frame)  
                                                 {  
                                                         if (dbytes >= twopass->alt_curve_high)  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev);  
                                                         else  
                                                         {  
                                                                 switch(codec->config.alt_curve_type)  
                                                                 {  
                                                                 case 2:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_high_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff))));  
                                                                 }  
                                                         }  
                                                 }  
                                                 else  
                                                 {  
                                                         if (dbytes <= twopass->alt_curve_low)  
                                                                 total2 += dbytes;  
                                                         else  
                                                         {  
                                                                 switch(codec->config.alt_curve_type)  
                                                                 {  
                                                                 case 2:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff)));  
                                                                         break;  
                                                                 case 1:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_low_diff);  
                                                                         break;  
                                                                 case 0:  
                                                                 total2 += dbytes * (twopass->alt_curve_mid_qual + twopass->alt_curve_qual_dev *  
                                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff))));  
                                                                 }  
                                                         }  
                                                 }  
                                         }  
                                         else  
                                         {  
                                                 if (dbytes > twopass->average_frame)  
                                                 {  
                                                         total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                                 codec->config.curve_compression_high / 100.0);  
                                                 }  
                                                 else  
                                                 {  
                                                         total2 += ((double)dbytes + (twopass->average_frame - dbytes) *  
                                                                 codec->config.curve_compression_low / 100.0);  
                                                 }  
                                         }  
                                 }  
   
                                 ++frames;  
                         }  
   
                         twopass->curve_comp_scale = total1 / total2;  
   
                         if (!codec->config.use_alt_curve)  
                         {  
                                 int asymmetric_average_frame;  
                                 char s[100];  
   
                                 asymmetric_average_frame = (int)(twopass->average_frame * twopass->curve_comp_scale);  
                                 wsprintf(s, "middle frame size for asymmetric curve compression: %i", asymmetric_average_frame);  
                                 DEBUG2P(s);  
                         }  
   
                         SetFilePointer(twopass->stats1, sizeof(DWORD), 0, FILE_BEGIN);  
                 }  
   
                 if (codec->config.use_alt_curve)  
                 {  
                         if (codec->config.alt_curve_use_auto_bonus_bias)  
                                 codec->config.alt_curve_bonus_bias = codec->config.alt_curve_min_rel_qual;  
   
                         twopass->curve_bias_bonus = (total1 - total2) * (double)codec->config.alt_curve_bonus_bias / 100.0 / (double)(frames - credits_frames - i_frames);  
                         twopass->curve_comp_scale = ((total1 - total2) * (1.0 - (double)codec->config.alt_curve_bonus_bias / 100.0) + total2) / total2;  
                 }  
   
                 twopass->overflow = 0;  
   
                 break;  
         }  
   
         return ICERR_OK;  
 }  
   
   
696  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
697  {  {
698          switch (codec->config.mode)          switch (codec->config.mode)
# Line 1262  Line 772 
772  }  }
773    
774    
 int codec_2pass_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)  
 {  
         static double quant_error[32];  
         static double curve_comp_error;  
         static int last_quant;  
   
         TWOPASS * twopass = &codec->twopass;  
   
         DWORD read;  
         int bytes1, bytes2;  
         int overflow;  
         int credits_pos;  
   
         if (codec->framenum == 0)  
         {  
                 int i;  
   
                 for (i=0 ; i<32 ; ++i)  
                 {  
                         quant_error[i] = 0.0;  
                 }  
   
                 curve_comp_error = 0.0;  
                 last_quant = 0;  
         }  
   
         if (ReadFile(twopass->stats1, &twopass->nns1, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
         {  
                 DEBUGERR("2ndpass quant: couldn't read from stats1");  
                 return ICERR_ERROR;  
         }  
         if (codec->config.mode == DLG_MODE_2PASS_2_EXT)  
         {  
                 if (ReadFile(twopass->stats2, &twopass->nns2, sizeof(NNSTATS), &read, 0) == 0 || read != sizeof(NNSTATS))  
                 {  
                         DEBUGERR("2ndpass quant: couldn't read from stats2");  
                         return ICERR_ERROR;  
                 }  
         }  
   
         bytes1 = twopass->nns1.bytes;  
         overflow = twopass->overflow / 8;  
   
         // override codec i-frame choice (reenable in credits)  
         frame->intra = (twopass->nns1.quant & NNSTATS_KEYFRAME);  
   
         if (frame->intra)  
         {  
                 overflow = 0;  
         }  
   
         credits_pos = codec_is_in_credits(&codec->config, codec->framenum);  
   
         if (credits_pos)  
         {  
                 if (codec->config.mode == DLG_MODE_2PASS_2_INT)  
                 {  
                         switch (codec->config.credits_mode)  
                         {  
                         case CREDITS_MODE_RATE :  
                         case CREDITS_MODE_SIZE :  
                                 if (credits_pos == CREDITS_START)  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_start_curve);  
                                 }  
                                 else // CREDITS_END  
                                 {  
                                         bytes2 = (int)(bytes1 / twopass->credits_end_curve);  
                                 }  
   
                                 frame->intra = -1;  
                                 break;  
   
                         case CREDITS_MODE_QUANT :  
                                 if (codec->config.credits_quant_i != codec->config.credits_quant_p)  
                                 {  
                                         frame->quant = frame->intra ?  
                                                 codec->config.credits_quant_i :  
                                                 codec->config.credits_quant_p;  
                                 }  
                                 else  
                                 {  
                                         frame->quant = codec->config.credits_quant_p;  
                                         frame->intra = -1;  
                                 }  
   
                                 twopass->bytes1 = bytes1;  
                                 twopass->bytes2 = bytes1;  
                                 twopass->desired_bytes2 = bytes1;  
                                 return ICERR_OK;  
                         }  
                 }  
                 else    // DLG_MODE_2PASS_2_EXT  
                 {  
                         bytes2 = twopass->nns2.bytes;  
                 }  
         }  
         else    // Foxer: apply curve compression outside credits  
         {  
                 double dbytes, curve_temp;  
   
                 bytes2 = (codec->config.mode == DLG_MODE_2PASS_2_INT) ? bytes1 : twopass->nns2.bytes;  
   
                 if (frame->intra)  
                 {  
                         dbytes = ((int)(bytes2 + bytes2 * codec->config.keyframe_boost / 100)) /  
                                 twopass->movie_curve;  
                 }  
                 else  
                 {  
                         dbytes = bytes2 / twopass->movie_curve;  
                 }  
   
                 // spread the compression error across payback_delay frames  
                 if (codec->config.bitrate_payback_method == 0)  
                 {  
                         bytes2 = (int)(curve_comp_error / codec->config.bitrate_payback_delay);  
                 }  
                 else  
                 {  
                         bytes2 = (int)(curve_comp_error * dbytes /  
                                 twopass->average_frame / codec->config.bitrate_payback_delay);  
   
                         if (labs(bytes2) > fabs(curve_comp_error))  
                         {  
                                 bytes2 = (int)curve_comp_error;  
                         }  
                 }  
   
                 curve_comp_error -= bytes2;  
   
                 if (codec->config.use_alt_curve)  
                 {  
                         if (!frame->intra)  
                         {  
                                 if (dbytes > twopass->average_frame)  
                                 {  
                                         if (dbytes >= twopass->alt_curve_high)  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev);  
                                         else  
                                         {  
                                                 switch(codec->config.alt_curve_type)  
                                                 {  
                                                 case 2:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff)));  
                                                         break;  
                                                 case 1:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_high_diff);  
                                                         break;  
                                                 case 0:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_high_diff))));  
                                                 }  
                                         }  
                                 }  
                                 else  
                                 {  
                                         if (dbytes <= twopass->alt_curve_low)  
                                                 curve_temp = dbytes;  
                                         else  
                                         {  
                                                 switch(codec->config.alt_curve_type)  
                                                 {  
                                                 case 2:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         sin(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff)));  
                                                         break;  
                                                 case 1:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual - twopass->alt_curve_qual_dev *  
                                                         (dbytes - twopass->average_frame) / twopass->alt_curve_low_diff);  
                                                         break;  
                                                 case 0:  
                                                 curve_temp = dbytes * (twopass->alt_curve_mid_qual + twopass->alt_curve_qual_dev *  
                                                         (1.0 - cos(DEG2RAD * ((dbytes - twopass->average_frame) * 90.0 / twopass->alt_curve_low_diff))));  
                                                 }  
                                         }  
                                 }  
                                 curve_temp = curve_temp * twopass->curve_comp_scale + twopass->curve_bias_bonus;  
   
                                 bytes2 += ((int)curve_temp);  
                                 curve_comp_error += curve_temp - ((int)curve_temp);  
                         }  
                         else  
                         {  
                                 curve_comp_error += dbytes - ((int)dbytes);  
                                 bytes2 += ((int)dbytes);  
                         }  
                 }  
                 else if ((codec->config.curve_compression_high + codec->config.curve_compression_low) &&  
                         !frame->intra)  
                 {  
                         if (dbytes > twopass->average_frame)  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_high / 100.0);  
                         }  
                         else  
                         {  
                                 curve_temp = twopass->curve_comp_scale *  
                                         ((double)dbytes + (twopass->average_frame - dbytes) *  
                                         codec->config.curve_compression_low / 100.0);  
                         }  
   
                         bytes2 += ((int)curve_temp);  
                         curve_comp_error += curve_temp - ((int)curve_temp);  
                 }  
                 else  
                 {  
                         curve_comp_error += dbytes - ((int)dbytes);  
                         bytes2 += ((int)dbytes);  
                 }  
   
                 // cap bytes2 to first pass size, lowers number of quant=1 frames  
                 if (bytes2 > bytes1)  
                 {  
                         curve_comp_error += bytes2 - bytes1;  
                         bytes2 = bytes1;  
                 }  
                 else if (bytes2 < 1)  
                 {  
                         curve_comp_error += --bytes2;  
                         bytes2 = 1;  
                 }  
         }  
   
         twopass->desired_bytes2 = bytes2;  
   
         // Foxer: scale overflow in relation to average size, so smaller frames don't get  
         // too much/little bitrate  
         overflow = (int)((double)overflow * bytes2 / twopass->average_frame);  
   
         // Foxer: reign in overflow with huge frames  
         if (labs(overflow) > labs(twopass->overflow))  
         {  
                 overflow = twopass->overflow;  
         }  
   
         // Foxer: make sure overflow doesn't run away  
         if (overflow > bytes2 * 6 / 10)  
         {  
                 bytes2 += (overflow <= bytes2) ? bytes2 * 6 / 10 : overflow * 6 / 10;  
         }  
         else if (overflow < bytes2 * -6 / 10)  
         {  
                 bytes2 += bytes2 * -6 / 10;  
         }  
         else  
         {  
                 bytes2 += overflow;  
         }  
   
         if (bytes2 < 1)  
         {  
                 bytes2 = 1;  
         }  
   
         twopass->bytes1 = bytes1;  
         twopass->bytes2 = bytes2;  
   
         // very 'simple' quant<->filesize relationship  
         frame->quant = ((twopass->nns1.quant & ~NNSTATS_KEYFRAME) * bytes1) / bytes2;  
   
         if (frame->quant < 1)  
         {  
                 frame->quant = 1;  
         }  
         else if (frame->quant > 31)  
         {  
                 frame->quant = 31;  
         }  
         else if (!frame->intra)  
         {  
                 // Foxer: aid desired quantizer precision by accumulating decision error  
                 quant_error[frame->quant] += ((double)((twopass->nns1.quant & ~NNSTATS_KEYFRAME) *  
                         bytes1) / bytes2) - frame->quant;  
   
                 if (quant_error[frame->quant] >= 1.0)  
                 {  
                         quant_error[frame->quant] -= 1.0;  
                         ++frame->quant;  
                 }  
         }  
   
         // we're done with credits  
         if (codec_is_in_credits(&codec->config, codec->framenum))  
         {  
                 return ICERR_OK;  
         }  
   
         if (frame->intra)  
         {  
                 if (frame->quant < codec->config.min_iquant)  
                 {  
                         frame->quant = codec->config.min_iquant;  
                         DEBUG2P("I-frame quantizer raised");  
                 }  
                 if (frame->quant > codec->config.max_iquant)  
                 {  
                         frame->quant = codec->config.max_iquant;  
                         DEBUG2P("I-frame quantizer lowered");  
                 }  
         }  
         else  
         {  
                 if (frame->quant > codec->config.max_pquant)  
                 {  
                         frame->quant = codec->config.max_pquant;  
                 }  
                 if (frame->quant < codec->config.min_pquant)  
                 {  
                         frame->quant = codec->config.min_pquant;  
                 }  
   
                 // subsequent frame quants can only be +- 2  
                 if (last_quant)  
                 {  
                         if (frame->quant > last_quant + 2)  
                         {  
                                 frame->quant = last_quant + 2;  
                                 DEBUG2P("P-frame quantizer prevented from rising too steeply");  
                         }  
                         if (frame->quant < last_quant - 2)  
                         {  
                                 frame->quant = last_quant - 2;  
                                 DEBUG2P("P-frame quantizer prevented from falling too steeply");  
                         }  
                 }  
         }  
   
         last_quant = frame->quant;  
   
         if (codec->config.quant_type == QUANT_MODE_MOD)  
         {  
                 frame->general |= (frame->quant < 4) ? XVID_MPEGQUANT : XVID_H263QUANT;  
                 frame->general &= (frame->quant < 4) ? ~XVID_H263QUANT : ~XVID_MPEGQUANT;  
         }  
   
         return ICERR_OK;  
 }  
   
   
 int codec_2pass_update(CODEC* codec, XVID_ENC_FRAME* frame, XVID_ENC_STATS* stats)  
 {  
         static __int64 total_size;  
   
         NNSTATS nns1;  
         DWORD wrote;  
         char* quant_type;  
   
         if (codec->framenum == 0)  
         {  
                 total_size = 0;  
         }  
   
         quant_type = (frame->general & XVID_H263QUANT) ? "H.263" :  
                 ((frame->general & XVID_MPEGQUANT) && (frame->general & XVID_CUSTOM_QMATRIX)) ?  
                 "Cust" : "MPEG";  
   
         switch (codec->config.mode)  
         {  
         case DLG_MODE_2PASS_1 :  
                 nns1.bytes = frame->length;     // total bytes  
                 nns1.dd_v = stats->hlength;     // header bytes  
   
                 nns1.dd_u = nns1.dd_y = 0;  
                 nns1.dk_v = nns1.dk_u = nns1.dk_y = 0;  
                 nns1.md_u = nns1.md_y = 0;  
                 nns1.mk_u = nns1.mk_y = 0;  
   
                 nns1.quant = stats->quant;  
                 if (frame->intra)  
                 {  
                         nns1.quant |= NNSTATS_KEYFRAME;  
                 }  
                 nns1.kblk = stats->kblks;  
                 nns1.mblk = stats->mblks;  
                 nns1.ublk = stats->ublks;  
                 nns1.lum_noise[0] = nns1.lum_noise[1] = 1;  
   
                 total_size += frame->length;  
   
                 DEBUG1ST(frame->length, (int)total_size/1024, frame->intra, frame->quant, quant_type, stats->kblks, stats->mblks)  
   
                 if (WriteFile(codec->twopass.stats1, &nns1, sizeof(NNSTATS), &wrote, 0) == 0 || wrote != sizeof(NNSTATS))  
                 {  
                         DEBUGERR("stats1: WriteFile error");  
                         return ICERR_ERROR;  
                 }  
                 break;  
   
         case DLG_MODE_2PASS_2_INT :  
         case DLG_MODE_2PASS_2_EXT :  
                 codec->twopass.overflow += codec->twopass.desired_bytes2 - frame->length;  
                 DEBUG2ND(frame->quant, quant_type, frame->intra, codec->twopass.bytes1, codec->twopass.desired_bytes2, frame->length, codec->twopass.overflow, codec_is_in_credits(&codec->config, codec->framenum))  
                 break;  
   
         default:  
                 break;  
         }  
   
         return ICERR_OK;  
 }  
   
   
775  int codec_is_in_credits(CONFIG* config, int framenum)  int codec_is_in_credits(CONFIG* config, int framenum)
776  {  {
777          if (config->credits_start)          if (config->credits_start)

Legend:
Removed from v.61  
changed lines
  Added in v.105

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4