[svn] / branches / dev-api-4 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /branches/dev-api-4/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 925, Sat Mar 15 17:06:53 2003 UTC revision 1070, Fri Jun 13 12:11:27 2003 UTC
# Line 3  Line 3 
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Encoder main module  -   *  -  Encoder main module  -
5   *   *
6   *  This program is an implementation of a part of one or more MPEG-4   *  Copyright(C) 2002      Michael Militzer <isibaar@xvid.org>
7   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *               2002-2003 Peter Ross <pross@xvid.org>
8   *  to use this software module in hardware or software products are   *               2002      Daniel Smith <danielsmith@astroboymail.com>
  *  advised that its use may infringe existing patents or copyrights, and  
  *  any such use would be at such party's own risk.  The original  
  *  developer of this software module and his/her company, and subsequent  
  *  editors and their companies, will have no liability for use of this  
  *  software or modifications or derivatives thereof.  
9   *   *
10   *  This program is free software; you can redistribute it and/or modify   *  This program is free software; you can redistribute it and/or modify
11   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 26  Line 21 
21   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   *  $Id: encoder.c,v 1.95.2.8 2003-03-15 17:06:53 suxen_drol Exp $   * $Id: encoder.c,v 1.95.2.30 2003-06-13 12:11:27 suxen_drol Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 49  Line 44 
44  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
45  #include "utils/emms.h"  #include "utils/emms.h"
46  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
 #include "quant/adapt_quant.h"  
47  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
48  #include "utils/mem_align.h"  #include "utils/mem_align.h"
49    
50  /*****************************************************************************  /*****************************************************************************
  * Local macros  
  ****************************************************************************/  
   
 #define SWAP(_T_,A,B)    { _T_ tmp = A; A = B; B = tmp; }  
   
 /*****************************************************************************  
51   * Local function prototypes   * Local function prototypes
52   ****************************************************************************/   ****************************************************************************/
53    
# Line 75  Line 63 
63                                             FRAMEINFO * frame,                                             FRAMEINFO * frame,
64                                             Bitstream * bs);                                             Bitstream * bs);
65    
 /*****************************************************************************  
  * Local data  
  ****************************************************************************/  
   
 static int DQtab[4] = {  
         -1, -2, 1, 2  
 };  
   
 static int iDQtab[5] = {  
         1, 0, NO_CHANGE, 2, 3  
 };  
   
66    
67  /*****************************************************************************  /*****************************************************************************
68   * Encoder creation   * Encoder creation
# Line 134  Line 110 
110    
111    
112  int  int
113  enc_create(xvid_enc_create_t * create, xvid_enc_rc_t * rc)  enc_create(xvid_enc_create_t * create)
114  {  {
115          Encoder *pEnc;          Encoder *pEnc;
116      int n;      int n;
117    
118          if (XVID_MAJOR(create->version) != 1 || (rc && XVID_MAJOR(rc->version) != 1))   /* v1.x.x */          if (XVID_MAJOR(create->version) != 1)   /* v1.x.x */
119                  return XVID_ERR_VERSION;                  return XVID_ERR_VERSION;
120    
121          if (create->width%2 || create->height%2)          if (create->width%2 || create->height%2)
# Line 152  Line 128 
128                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
129          memset(pEnc, 0, sizeof(Encoder));          memset(pEnc, 0, sizeof(Encoder));
130    
131        pEnc->mbParam.profile = create->profile;
132    
133          /* global flags */          /* global flags */
134      pEnc->mbParam.global_flags = create->global;      pEnc->mbParam.global_flags = create->global;
135    
# Line 169  Line 147 
147      if (pEnc->mbParam.fincr>0)      if (pEnc->mbParam.fincr>0)
148              simplify_time(&pEnc->mbParam.fincr, &pEnc->mbParam.fbase);              simplify_time(&pEnc->mbParam.fincr, &pEnc->mbParam.fbase);
149    
150      /* plugin */      /* zones */
151        if(create->num_zones > 0) {
152                    pEnc->num_zones = create->num_zones;
153                    pEnc->zones = xvid_malloc(sizeof(xvid_enc_zone_t) * pEnc->num_zones, CACHE_LINE);
154                    if (pEnc->zones == NULL)
155                            goto xvid_err_memory0;
156            memcpy(pEnc->zones, create->zones, sizeof(xvid_enc_zone_t) * pEnc->num_zones);
157            } else {
158                    pEnc->num_zones = 0;
159                    pEnc->zones = NULL;
160            }
161    
162        /* plugins */
163        if(create->num_plugins > 0) {
164      pEnc->num_plugins = create->num_plugins;      pEnc->num_plugins = create->num_plugins;
165      pEnc->plugins = xvid_malloc(sizeof(xvid_enc_plugin_t) * pEnc->num_plugins, CACHE_LINE);      pEnc->plugins = xvid_malloc(sizeof(xvid_enc_plugin_t) * pEnc->num_plugins, CACHE_LINE);
166      if (pEnc->plugins == NULL)      if (pEnc->plugins == NULL)
167          goto xvid_err_memory0;          goto xvid_err_memory0;
168            } else {
169                    pEnc->num_plugins = 0;
170                    pEnc->plugins = NULL;
171            }
172    
173      for (n=0; n<pEnc->num_plugins;n++) {      for (n=0; n<pEnc->num_plugins;n++) {
174          xvid_plg_create_t pcreate;          xvid_plg_create_t pcreate;
# Line 187  Line 182 
182    
183          memset(&pcreate, 0, sizeof(xvid_plg_create_t));          memset(&pcreate, 0, sizeof(xvid_plg_create_t));
184          pcreate.version = XVID_VERSION;          pcreate.version = XVID_VERSION;
185            pcreate.num_zones = pEnc->num_zones;
186            pcreate.zones = pEnc->zones;
187          pcreate.width = pEnc->mbParam.width;          pcreate.width = pEnc->mbParam.width;
188          pcreate.height = pEnc->mbParam.height;          pcreate.height = pEnc->mbParam.height;
189          pcreate.fincr = pEnc->mbParam.fincr;          pcreate.fincr = pEnc->mbParam.fincr;
# Line 199  Line 196 
196          }          }
197      }      }
198    
199      if ((pEnc->mbParam.global_flags & XVID_EXTRASTATS_ENABLE) ||      if ((pEnc->mbParam.global_flags & XVID_GLOBAL_EXTRASTATS_ENABLE) ||
200          (pEnc->mbParam.plugin_flags & XVID_REQPSNR)) {          (pEnc->mbParam.plugin_flags & XVID_REQPSNR)) {
201          pEnc->mbParam.plugin_flags |= XVID_REQORIGINAL; /* psnr calculation requires the original */          pEnc->mbParam.plugin_flags |= XVID_REQORIGINAL; /* psnr calculation requires the original */
202      }      }
203    
204      /* temp dquants */      /* temp dquants */
205        if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
206          pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *          pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *
207                                          pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);                                          pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
208      /* XXX: error checking */          if (pEnc->temp_dquants==NULL)
209                goto xvid_err_memory1a;
210        }
211    
212          /* bframes */          /* bframes */
213          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);
214          pEnc->mbParam.bquant_ratio = MAX(create->bquant_ratio, 0);          pEnc->mbParam.bquant_ratio = MAX(create->bquant_ratio, 0);
215          pEnc->mbParam.bquant_offset = create->bquant_offset;          pEnc->mbParam.bquant_offset = create->bquant_offset;
216    
217        /* min/max quant */
218        for (n=0; n<3; n++) {
219            pEnc->mbParam.min_quant[n] = create->min_quant[n] > 0 ? create->min_quant[n] : 2;
220            pEnc->mbParam.max_quant[n] = create->max_quant[n] > 0 ? create->max_quant[n] : 31;
221        }
222    
223          /* frame drop ratio */          /* frame drop ratio */
224          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);
225    
226      /* max keyframe interval */      /* max keyframe interval */
227      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <=0 ? 250 : create->max_key_interval;      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ?
228      /*XXX: replace 250 hard code with "10seconds * framerate" */                  (10 * pEnc->mbParam.fbase) / pEnc->mbParam.fincr : create->max_key_interval;
   
         /* Bitrate allocator defaults  
   
         if ((create->min_quantizer <= 0) || (create->min_quantizer > 31))  
                 create->min_quantizer = 1;  
   
         if ((create->max_quantizer <= 0) || (create->max_quantizer > 31))  
                 create->max_quantizer = 31;  
   
         if (create->max_quantizer < create->min_quantizer)  
                 create->max_quantizer = create->min_quantizer; */  
   
229    
230      /* allocate working frame-image memory */      /* allocate working frame-image memory */
231    
# Line 504  Line 498 
498          xvid_free(pEnc->current);          xvid_free(pEnc->current);
499          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
500    
501      xvid_err_memory1a:
502        if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
503          xvid_free(pEnc->temp_dquants);          xvid_free(pEnc->temp_dquants);
504        }
505    
506    xvid_err_memory0:    xvid_err_memory0:
507      for (n=0; n<pEnc->num_plugins;n++) {      for (n=0; n<pEnc->num_plugins;n++) {
# Line 514  Line 511 
511      }      }
512      xvid_free(pEnc->plugins);      xvid_free(pEnc->plugins);
513    
514        xvid_free(pEnc->zones);
515    
516          xvid_free(pEnc);          xvid_free(pEnc);
517    
518          create->handle = NULL;          create->handle = NULL;
# Line 591  Line 590 
590                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
591          image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
592                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
593            image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
594                                      pEnc->mbParam.edged_height);
595    
596          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
597                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
# Line 607  Line 608 
608          xvid_free(pEnc->reference->mbs);          xvid_free(pEnc->reference->mbs);
609          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
610    
611        if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
612      xvid_free(pEnc->temp_dquants);      xvid_free(pEnc->temp_dquants);
613        }
614    
615    
616        if (pEnc->num_plugins>0) {
617            xvid_plg_destroy_t pdestroy;
618            memset(&pdestroy, 0, sizeof(xvid_plg_destroy_t));
619    
620            pdestroy.version = XVID_VERSION;
621            pdestroy.num_frames = pEnc->m_framenum;
622    
623      for (i=0; i<pEnc->num_plugins;i++) {      for (i=0; i<pEnc->num_plugins;i++) {
624          if (pEnc->plugins[i].func) {          if (pEnc->plugins[i].func) {
625              pEnc->plugins[i].func(pEnc->plugins[i].param, XVID_PLG_DESTROY, 0, 0);                  pEnc->plugins[i].func(pEnc->plugins[i].param, XVID_PLG_DESTROY, &pdestroy, 0);
626          }          }
627      }      }
628      xvid_free(pEnc->plugins);      xvid_free(pEnc->plugins);
629        }
630    
631        if (pEnc->num_plugins>0)
632            xvid_free(pEnc->zones);
633    
634          xvid_free(pEnc);          xvid_free(pEnc);
635    
# Line 629  Line 644 
644  static void call_plugins(Encoder * pEnc, FRAMEINFO * frame, IMAGE * original,  static void call_plugins(Encoder * pEnc, FRAMEINFO * frame, IMAGE * original,
645                           int opt, int * type, int * quant, xvid_enc_stats_t * stats)                           int opt, int * type, int * quant, xvid_enc_stats_t * stats)
646  {  {
647      int i;      unsigned int i, j;
648      xvid_plg_data_t data;      xvid_plg_data_t data;
649    
650        /* set data struct */
651    
652      memset(&data, 0, sizeof(xvid_plg_data_t));      memset(&data, 0, sizeof(xvid_plg_data_t));
653      data.version = XVID_VERSION;      data.version = XVID_VERSION;
654    
655        /* find zone */
656        for(i=0; i<pEnc->num_zones && pEnc->zones[i].frame<=frame->frame_num; i++) ;
657        data.zone = i>0 ? &pEnc->zones[i-1] : NULL;
658    
659      data.width = pEnc->mbParam.width;      data.width = pEnc->mbParam.width;
660      data.height = pEnc->mbParam.height;      data.height = pEnc->mbParam.height;
661        data.mb_width = pEnc->mbParam.mb_width;
662        data.mb_height = pEnc->mbParam.mb_height;
663      data.fincr = frame->fincr;      data.fincr = frame->fincr;
664      data.fbase = pEnc->mbParam.fbase;      data.fbase = pEnc->mbParam.fbase;
665    
666        for (i=0; i<3; i++) {
667            data.min_quant[i] = pEnc->mbParam.min_quant[i];
668            data.max_quant[i] = pEnc->mbParam.max_quant[i];
669        }
670    
671      data.reference.csp = XVID_CSP_USER;      data.reference.csp = XVID_CSP_USER;
672      data.reference.plane[0] = pEnc->reference->image.y;      data.reference.plane[0] = pEnc->reference->image.y;
673      data.reference.plane[1] = pEnc->reference->image.u;      data.reference.plane[1] = pEnc->reference->image.u;
# Line 659  Line 687 
687      data.frame_num = frame->frame_num;      data.frame_num = frame->frame_num;
688    
689      if (opt == XVID_PLG_BEFORE) {      if (opt == XVID_PLG_BEFORE) {
690          data.type = XVID_TYPE_AUTO;          data.type = *type;
691          data.quant = 2;          data.quant = *quant;
         //memset(pEnc->temp_dquants, NO_CHANGE, pEnc->mbParam.width * pEnc->mbParam.height);  
         //data.qscale_stride = pEnc->mbParam.width;  
         //data.qscale_table = pEnc->temp_dquants;  
         /* todo: vol,vop,motion flags */  
692    
693      } else { // XVID_PLG_AFTER                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
694                data.dquant = pEnc->temp_dquants;
695                data.dquant_stride = pEnc->mbParam.mb_width;
696                            memset(data.dquant, 0, data.mb_width*data.mb_height);
697            }
698    
699            data.vol_flags = frame->vol_flags;
700            data.vop_flags = frame->vop_flags;
701            data.motion_flags = frame->motion_flags;
702    
703        } else { /* XVID_PLG_AFTER */
704          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
705              data.original.csp = XVID_CSP_USER;              data.original.csp = XVID_CSP_USER;
706              data.original.plane[0] = original->y;              data.original.plane[0] = original->y;
# Line 677  Line 711 
711              data.original.stride[2] = pEnc->mbParam.edged_width/2;              data.original.stride[2] = pEnc->mbParam.edged_width/2;
712          }          }
713    
714          if ((frame->vol_flags & XVID_EXTRASTATS) ||          if ((frame->vol_flags & XVID_VOL_EXTRASTATS) ||
715              (pEnc->mbParam.plugin_flags & XVID_REQPSNR)) {              (pEnc->mbParam.plugin_flags & XVID_REQPSNR)) {
716    
717                          data.sse_y =                          data.sse_y =
# Line 698  Line 732 
732    
733          data.type = coding2type(frame->coding_type);          data.type = coding2type(frame->coding_type);
734          data.quant = frame->quant;          data.quant = frame->quant;
735          /* todo: data.qscale */  
736            if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
737                data.dquant = pEnc->temp_dquants;
738                data.dquant_stride = pEnc->mbParam.mb_width;
739    
740                for (j=0; j<pEnc->mbParam.mb_height; j++)
741                for (i=0; i<pEnc->mbParam.mb_width; i++) {
742                    data.dquant[j*data.dquant_stride + i] = frame->mbs[j*pEnc->mbParam.mb_width + i].dquant;;
743                }
744            }
745    
746          data.vol_flags = frame->vol_flags;          data.vol_flags = frame->vol_flags;
747          data.vop_flags = frame->vop_flags;          data.vop_flags = frame->vop_flags;
748          data.motion_flags = frame->motion_flags;          data.motion_flags = frame->motion_flags;
# Line 708  Line 752 
752          data.mblks = frame->sStat.mblks;          data.mblks = frame->sStat.mblks;
753          data.ublks = frame->sStat.ublks;          data.ublks = frame->sStat.ublks;
754    
755          if (stats)          if (stats) {
         {  
756                  stats->type = coding2type(frame->coding_type);                  stats->type = coding2type(frame->coding_type);
757                  stats->quant = frame->quant;                  stats->quant = frame->quant;
758                  stats->vol_flags = frame->vol_flags;                  stats->vol_flags = frame->vol_flags;
# Line 725  Line 768 
768          }          }
769      }      }
770    
771      emms();      /* call plugins */
772      for (i=0; i<pEnc->num_plugins;i++) {      for (i=0; i<pEnc->num_plugins;i++) {
773            emms();
774          if (pEnc->plugins[i].func) {          if (pEnc->plugins[i].func) {
775              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {
776                  continue;                  continue;
# Line 735  Line 779 
779      }      }
780      emms();      emms();
781    
782        /* copy modified values back into frame*/
783      if (opt == XVID_PLG_BEFORE) {      if (opt == XVID_PLG_BEFORE) {
784          *type = data.type;          *type = data.type;
785          *quant = data.quant;          *quant = data.quant > 0 ? data.quant : 2;   /* default */
786          /* todo: copy modified qscale,vol,vop,motion flags into the frame*/  
787            if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
788                for (j=0; j<pEnc->mbParam.mb_height; j++)
789                for (i=0; i<pEnc->mbParam.mb_width; i++) {
790                    frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = data.dquant[j*data.mb_width + i];
791                }
792            }else{
793                for (j=0; j<pEnc->mbParam.mb_height; j++)
794                for (i=0; i<pEnc->mbParam.mb_width; i++) {
795                    frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
796                }
797      }      }
798    
799            frame->vol_flags = data.vol_flags;
800            frame->vop_flags = data.vop_flags;
801            frame->motion_flags = data.motion_flags;
802        }
803  }  }
804    
805    
# Line 827  Line 886 
886                  if (image_input                  if (image_input
887                          (&q->image, pEnc->mbParam.width, pEnc->mbParam.height,                          (&q->image, pEnc->mbParam.width, pEnc->mbParam.height,
888                          pEnc->mbParam.edged_width, (uint8_t**)xFrame->input.plane, xFrame->input.stride,                          pEnc->mbParam.edged_width, (uint8_t**)xFrame->input.plane, xFrame->input.stride,
889                          xFrame->input.csp, xFrame->vol_flags & XVID_INTERLACING))                          xFrame->input.csp, xFrame->vol_flags & XVID_VOL_INTERLACING))
890                  {                  {
891                          emms();                          emms();
892                          return XVID_ERR_FORMAT;                          return XVID_ERR_FORMAT;
893                  }                  }
894                  stop_conv_timer();                  stop_conv_timer();
895    
896                  if ((xFrame->vop_flags & XVID_CHROMAOPT)) {                  if ((xFrame->vop_flags & XVID_VOP_CHROMAOPT)) {
897                          image_chroma_optimize(&q->image,                          image_chroma_optimize(&q->image,
898                                  pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);                                  pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);
899                  }                  }
# Line 868  Line 927 
927          {          {
928                  if (pEnc->bframenum_head < pEnc->bframenum_tail) {                  if (pEnc->bframenum_head < pEnc->bframenum_tail) {
929    
930                          DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",                          DPRINTF(XVID_DEBUG_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
931                                          pEnc->bframenum_head, pEnc->bframenum_tail,                                          pEnc->bframenum_head, pEnc->bframenum_tail,
932                                          pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                          pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
933    
# Line 891  Line 950 
950                     indentical to the future-referece frame.                     indentical to the future-referece frame.
951                  */                  */
952    
953                  if ((pEnc->mbParam.global_flags & XVID_PACKED && pEnc->bframenum_tail > 0)) {                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED && pEnc->bframenum_tail > 0)) {
954                          int tmp;                          int tmp;
955                          int bits;                          int bits;
956    
957                          DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",                          DPRINTF(XVID_DEBUG_DEBUG,"*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
958                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
959                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
960    
# Line 933  Line 992 
992                  if (xFrame->input.csp == XVID_CSP_NULL) /* no futher input */                  if (xFrame->input.csp == XVID_CSP_NULL) /* no futher input */
993                  {                  {
994    
995              if (!(pEnc->mbParam.global_flags & XVID_PACKED) && pEnc->mbParam.max_bframes > 0) {              DPRINTF(XVID_DEBUG_DEBUG,"*** FINISH bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
996                                    pEnc->bframenum_head, pEnc->bframenum_tail,
997                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
998    
999                if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0) {
1000                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1001              }              }
1002    
1003              /* if the very last frame is to be b-vop, we must change it to a p-vop */              /* if the very last frame is to be b-vop, we must change it to a p-vop */
1004              if (pEnc->bframenum_tail > 0)              if (pEnc->bframenum_tail > 0) {
                         {  
1005    
1006                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);
1007                                  pEnc->bframenum_tail--;                                  pEnc->bframenum_tail--;
# Line 953  Line 1015 
1015                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1016                  }                  }
1017    
1018                    DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1019                                    pEnc->bframenum_head, pEnc->bframenum_tail,
1020                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1021    
1022                                  FrameCodeP(pEnc, &bs, 1, 0);                                  FrameCodeP(pEnc, &bs, 1, 0);
1023    
1024                                  goto done_flush;  
1025                    if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {
1026                        call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1027                    }else{
1028                        pEnc->flush_bframes = 1;
1029                        goto done;
1030                    }
1031                          }                          }
1032                DPRINTF(XVID_DEBUG_DEBUG, "*** END\n");
1033    
1034                          emms();                          emms();
1035                          return XVID_ERR_END;    /* end of stream reached */                          return XVID_ERR_END;    /* end of stream reached */
# Line 964  Line 1037 
1037                  goto done;      /* nothing to encode yet; encoder lag */                  goto done;      /* nothing to encode yet; encoder lag */
1038          }          }
1039    
1040          // the current FRAME becomes the reference          /* the current FRAME becomes the reference */
1041          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);
1042    
1043          // remove frame from encoding-queue (head), and move it into the current          /* remove frame from encoding-queue (head), and move it into the current */
1044          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);
1045          frame = &pEnc->queue[pEnc->queue_head].frame;          frame = &pEnc->queue[pEnc->queue_head].frame;
1046          pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);          pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);
# Line 978  Line 1051 
1051           * init pEnc->current fields           * init pEnc->current fields
1052           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1053    
   
1054      pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;      pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;
1055        inc_frame_num(pEnc);
1056      pEnc->current->vol_flags = pEnc->mbParam.vol_flags;      pEnc->current->vol_flags = pEnc->mbParam.vol_flags;
1057      pEnc->current->vop_flags = frame->vop_flags;      pEnc->current->vop_flags = frame->vop_flags;
1058          pEnc->current->motion_flags = frame->motion;          pEnc->current->motion_flags = frame->motion;
1059          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
1060          pEnc->current->bcode = pEnc->mbParam.m_fcode;          pEnc->current->bcode = pEnc->mbParam.m_fcode;
1061    
1062      if ((xFrame->vop_flags & XVID_CHROMAOPT)) {  
1063        if ((xFrame->vop_flags & XVID_VOP_CHROMAOPT)) {
1064              image_chroma_optimize(&pEnc->current->image,              image_chroma_optimize(&pEnc->current->image,
1065                      pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);                      pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);
1066      }      }
1067    
         emms();         /* float-point region */  
         if ((pEnc->current->vop_flags & XVID_LUMIMASKING)) {  
         unsigned int x, y;  
   
                 pEnc->current->quant =  
                         adaptive_quantization(pEnc->current->image.y,  
                                                           pEnc->mbParam.edged_width, pEnc->temp_dquants,  
                                                           pEnc->current->quant, pEnc->current->quant,  
                                                           2 * pEnc->current->quant,  
                                                           pEnc->mbParam.mb_width,  
                                                           pEnc->mbParam.mb_height);  
   
                 for (y = 0; y < pEnc->mbParam.mb_height; y++) {  
   
 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)  
   
                         for (x = 0; x < pEnc->mbParam.mb_width; x++) {  
                                 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];  
   
                                 pMB->dquant = iDQtab[pEnc->temp_dquants[OFFSET(x, y)] + 2];  
                         }  
   
 #undef OFFSET  
                 }  
   
         }  
     emms();             /* END floating-point region */  
   
1068          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
1069           * frame type & quant selection           * frame type & quant selection
1070           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1071    
     call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_BEFORE, &type, &pEnc->current->quant, stats);  
   
     if (frame->type > 0)  
1072                  type = frame->type;                  type = frame->type;
   
     if (frame->quant > 0)  
1073                  pEnc->current->quant = frame->quant;                  pEnc->current->quant = frame->quant;
1074    
1075        call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_BEFORE, &type, &pEnc->current->quant, stats);
1076    
1077      if (type > 0){      /* XVID_TYPE_?VOP */      if (type > 0){      /* XVID_TYPE_?VOP */
1078                  type = type2coding(type);       /* convert XVID_TYPE_?VOP to bitstream coding type */                  type = type2coding(type);       /* convert XVID_TYPE_?VOP to bitstream coding type */
1079      } else{             /* XVID_TYPE_AUTO */      } else{             /* XVID_TYPE_AUTO */
# Line 1040  Line 1083 
1083                  }else{                  }else{
1084                          type = MEanalysis(&pEnc->reference->image, pEnc->current,                          type = MEanalysis(&pEnc->reference->image, pEnc->current,
1085                                          &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,                                          &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,
1086                                          pEnc->iFrameNum, pEnc->bframenum_tail);                                          pEnc->iFrameNum, pEnc->bframenum_tail, xFrame->bframe_threshold);
   
             if (type == B_VOP && !(pEnc->current->vop_flags & XVID_DYNAMIC_BFRAMES)) {  
                 type = P_VOP;   /* disable dynamic bframes */  
             }  
1087                  }                  }
1088          }          }
1089    
1090      /* bframes buffer overflow check */      /* bframes buffer overflow check */
1091      if (type != I_VOP) {      if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
         if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {  
1092              type = P_VOP;              type = P_VOP;
         }else{  
             type = B_VOP;  
         }  
1093      }      }
1094    
         inc_frame_num(pEnc);  
1095          pEnc->iFrameNum++;          pEnc->iFrameNum++;
1096    
1097          if ((pEnc->current->vop_flags & XVID_DEBUG)) {          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1098                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
1099                          "%i  st:%i  if:%i", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);                          "%i  st:%i  if:%i", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);
1100          }          }
# Line 1070  Line 1104 
1104       * (we dont encode here, rather we store the frame in the bframes queue, to be encoded later)       * (we dont encode here, rather we store the frame in the bframes queue, to be encoded later)
1105           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1106          if (type == B_VOP) {          if (type == B_VOP) {
1107                  if ((pEnc->current->vop_flags & XVID_DEBUG)) {                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1108                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1109                  }                  }
1110    
1111                  if (frame->bquant < 1) {                  if (frame->quant < 1) {
1112                          pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *                          pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *
1113                                  pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;                                  pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;
1114    
1115                  } else {                  } else {
1116                          pEnc->current->quant = frame->bquant;                          pEnc->current->quant = frame->quant;
1117                  }                  }
1118    
1119                  if (pEnc->current->quant < 1)                  if (pEnc->current->quant < 1)
# Line 1087  Line 1121 
1121                  else if (pEnc->current->quant > 31)                  else if (pEnc->current->quant > 31)
1122              pEnc->current->quant = 31;              pEnc->current->quant = 31;
1123    
1124                  DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i  quant=%i",                  DPRINTF(XVID_DEBUG_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i  quant=%i\n",
1125                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1126                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);
1127    
# Line 1100  Line 1134 
1134                  goto repeat;                  goto repeat;
1135      }      }
1136    
1137    
1138                    DPRINTF(XVID_DEBUG_DEBUG,"*** XXXXXX bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1139                                    pEnc->bframenum_head, pEnc->bframenum_tail,
1140                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1141    
1142      /* for unpacked bframes, output the stats for the last encoded frame */      /* for unpacked bframes, output the stats for the last encoded frame */
1143      if (!(pEnc->mbParam.global_flags & XVID_PACKED) && pEnc->bframenum_tail > 0)      if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0)
1144      {      {
1145          if (pEnc->current->stamp > 0) {          if (pEnc->current->stamp > 0) {
1146              call_plugins(pEnc, pEnc->reference, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);              call_plugins(pEnc, pEnc->reference, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
# Line 1115  Line 1154 
1154       * if the frame prior to an iframe is scheduled as a bframe, we must change it to a pframe       * if the frame prior to an iframe is scheduled as a bframe, we must change it to a pframe
1155       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1156    
1157      if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_CLOSED_GOP) && pEnc->bframenum_tail > 0) {      if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP) && pEnc->bframenum_tail > 0) {
1158    
1159                  // place this frame back on the encoding-queue (head)                  /* place this frame back on the encoding-queue (head) */
1160                  // we will deal with it next time                  /* we will deal with it next time */
1161          dec_frame_num(pEnc);          dec_frame_num(pEnc);
1162          pEnc->iFrameNum--;          pEnc->iFrameNum--;
1163    
# Line 1126  Line 1165 
1165          pEnc->queue_size++;          pEnc->queue_size++;
1166                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);
1167    
1168                  // grab the last frame from the bframe-queue                  /* grab the last frame from the bframe-queue */
1169    
1170                  pEnc->bframenum_tail--;                  pEnc->bframenum_tail--;
1171                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1172    
1173                  if ((pEnc->current->vop_flags & XVID_DEBUG)) {                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1174                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
1175                  }                  }
1176    
# Line 1147  Line 1186 
1186    
1187          if (type == I_VOP) {          if (type == I_VOP) {
1188    
1189                  DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",                  DPRINTF(XVID_DEBUG_DEBUG,"*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1190                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1191                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1192    
1193                  if ((pEnc->current->vop_flags & XVID_DEBUG)) {                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1194                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
1195                  }                  }
1196    
# Line 1159  Line 1198 
1198                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1199                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;
1200    
1201          if ((pEnc->mbParam.vol_flags & XVID_MPEGQUANT)) {          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1202                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
1203                                  set_intra_matrix(frame->quant_intra_matrix);                                  set_intra_matrix(frame->quant_intra_matrix);
1204                          if (frame->quant_inter_matrix != NULL)                          if (frame->quant_inter_matrix != NULL)
# Line 1168  Line 1207 
1207    
1208          /* prevent vol/vop misuse */          /* prevent vol/vop misuse */
1209    
1210          if (!(pEnc->current->vol_flags & XVID_REDUCED_ENABLE))          if (!(pEnc->current->vol_flags & XVID_VOL_REDUCED_ENABLE))
1211              pEnc->current->vop_flags &= ~XVID_REDUCED;              pEnc->current->vop_flags &= ~XVID_VOP_REDUCED;
1212    
1213          if (!(pEnc->current->vol_flags & XVID_INTERLACING))          if (!(pEnc->current->vol_flags & XVID_VOL_INTERLACING))
1214              pEnc->current->vop_flags &= ~(XVID_TOPFIELDFIRST|XVID_ALTERNATESCAN);              pEnc->current->vop_flags &= ~(XVID_VOP_TOPFIELDFIRST|XVID_VOP_ALTERNATESCAN);
1215    
1216                  /* ^^^------------------------ */                  /* ^^^------------------------ */
1217    
# Line 1188  Line 1227 
1227           * encode this frame as an p-vop           * encode this frame as an p-vop
1228       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1229    
1230      } else { // (type == P_VOP || type == S_VOP)      } else { /* (type == P_VOP || type == S_VOP) */
1231    
1232                  DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1233                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1234                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1235    
1236                  if ((pEnc->current->vop_flags & XVID_DEBUG)) {                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1237                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
1238                  }                  }
1239    
# Line 1215  Line 1254 
1254    
1255      pEnc->flush_bframes = 1;      pEnc->flush_bframes = 1;
1256    
1257          /* packed & queued_bframes: dont bother outputting stats, we do so after the flush */          /* packed & queued_bframes: dont bother outputting stats here, we do so after the flush */
1258          if ((pEnc->mbParam.global_flags & XVID_PACKED) && pEnc->bframenum_tail > 0) {          if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
1259                  goto repeat;                  goto repeat;
1260          }          }
1261    
1262      /* packed or no-bframes: output stats */      /* packed or no-bframes or no-bframes-queued: output stats */
1263      if ((pEnc->mbParam.global_flags & XVID_PACKED) || pEnc->mbParam.max_bframes == 0) {      if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) || pEnc->mbParam.max_bframes == 0 ) {
1264          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1265          }          }
1266    
# Line 1239  Line 1278 
1278  }  }
1279    
1280    
1281    static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)
1282    {
1283        unsigned int i,j;
1284        int quant = frame->quant;
1285    
1286        for (j=0; j<pParam->mb_height; j++)
1287        for (i=0; i<pParam->mb_width; i++) {
1288            MACROBLOCK * pMB = &frame->mbs[j*pParam->mb_width + i];
1289            quant += pMB->dquant;
1290            if (quant > 31)
1291                            quant = 31;
1292                    if (quant < 1)
1293                            quant = 1;
1294            pMB->quant = quant;
1295        }
1296    }
1297    
1298    
1299  static __inline void  static __inline void
1300  CodeIntraMB(Encoder * pEnc,  CodeIntraMB(Encoder * pEnc,
1301                          MACROBLOCK * pMB)                          MACROBLOCK * pMB)
# Line 1252  Line 1309 
1309          pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;          pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1310          pMB->sad16 = 0;          pMB->sad16 = 0;
1311    
1312          if ((pEnc->current->vop_flags & XVID_LUMIMASKING)) {          if (pMB->dquant != 0) {
                 if (pMB->dquant != NO_CHANGE) {  
1313                          pMB->mode = MODE_INTRA_Q;                          pMB->mode = MODE_INTRA_Q;
                         pEnc->current->quant += DQtab[pMB->dquant];  
   
                         if (pEnc->current->quant > 31)  
                                 pEnc->current->quant = 31;  
                         if (pEnc->current->quant < 1)  
                                 pEnc->current->quant = 1;  
1314                  }                  }
1315          }          }
1316    
         pMB->quant = pEnc->current->quant;  
 }  
   
1317    
1318    
1319  static int  static int
# Line 1282  Line 1329 
1329    
1330          uint16_t x, y;          uint16_t x, y;
1331    
1332          if ((pEnc->current->vol_flags & XVID_REDUCED_ENABLE))          if ((pEnc->current->vol_flags & XVID_VOL_REDUCED_ENABLE))
1333          {          {
1334                  mb_width = (pEnc->mbParam.width + 31) / 32;                  mb_width = (pEnc->mbParam.width + 31) / 32;
1335                  mb_height = (pEnc->mbParam.height + 31) / 32;                  mb_height = (pEnc->mbParam.height + 31) / 32;
# Line 1300  Line 1347 
1347          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1348          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
1349    
1350        SetMacroblockQuants(&pEnc->mbParam, pEnc->current);
1351    
1352          BitstreamWriteVolHeader(bs, &pEnc->mbParam);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
1353    
1354          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
# Line 1326  Line 1375 
1375                          stop_prediction_timer();                          stop_prediction_timer();
1376    
1377                          start_timer();                          start_timer();
1378                          if (pEnc->current->vop_flags & XVID_GREYSCALE)                          if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)
1379                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1380                                  qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
1381                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
# Line 1335  Line 1384 
1384                          stop_coding_timer();                          stop_coding_timer();
1385                  }                  }
1386    
1387          if ((pEnc->current->vop_flags & XVID_REDUCED))          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))
1388          {          {
1389                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1390                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,
# Line 1343  Line 1392 
1392          }          }
1393          emms();          emms();
1394    
1395    /* XXX: Remove the two #if 0 blocks when we are sure we must always pad the stream */
1396    #if 0
1397          /* for divx5 compatibility, we must always pad between the packed p and b frames */          /* for divx5 compatibility, we must always pad between the packed p and b frames */
1398          if ((pEnc->mbParam.global_flags & XVID_PACKED) && pEnc->bframenum_tail > 0)          if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0)
1399    #endif
1400                  BitstreamPadAlways(bs);                  BitstreamPadAlways(bs);
1401    #if 0
1402          else          else
1403                  BitstreamPad(bs);                  BitstreamPad(bs);
1404    #endif
1405      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;
1406    
1407          pEnc->fMvPrevSigma = -1;          pEnc->fMvPrevSigma = -1;
1408          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
1409    
     /* XXX: hinted me  
         if (pEnc->current->global_flags & XVID_HINTEDME_GET) {  
                 HintedMEGet(pEnc, 1);  
         }*/  
   
1410          return 1;                                       /* intra */          return 1;                                       /* intra */
1411  }  }
1412    
# Line 1390  Line 1439 
1439          /* IMAGE *pCurrent = &pEnc->current->image; */          /* IMAGE *pCurrent = &pEnc->current->image; */
1440          IMAGE *pRef = &pEnc->reference->image;          IMAGE *pRef = &pEnc->reference->image;
1441    
1442          if ((pEnc->current->vop_flags & XVID_REDUCED))          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))
1443          {          {
1444                  mb_width = (pEnc->mbParam.width + 31) / 32;                  mb_width = (pEnc->mbParam.width + 31) / 32;
1445                  mb_height = (pEnc->mbParam.height + 31) / 32;                  mb_height = (pEnc->mbParam.height + 31) / 32;
# Line 1404  Line 1453 
1453    
1454          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1455          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
         //pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;  
1456          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
1457    
1458          if (!force_inter)          if (!force_inter)
# Line 1412  Line 1460 
1460          else          else
1461                  iLimit = mb_width * mb_height + 1;                  iLimit = mb_width * mb_height + 1;
1462    
1463          if ((pEnc->current->vop_flags & XVID_HALFPEL)) {          if ((pEnc->current->vop_flags & XVID_VOP_HALFPEL)) {
1464                  start_timer();                  start_timer();
1465                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1466                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,
1467                                                    pEnc->mbParam.edged_height,                                                    pEnc->mbParam.edged_height,
1468                                                    (pEnc->mbParam.vol_flags & XVID_QUARTERPEL),                                                    (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL),
1469                                                    pEnc->current->rounding_type);                                                    pEnc->current->rounding_type);
1470                  stop_inter_timer();                  stop_inter_timer();
1471          }          }
1472    
1473          pEnc->current->coding_type = P_VOP;          pEnc->current->coding_type = P_VOP;
1474    
1475    
1476        SetMacroblockQuants(&pEnc->mbParam, pEnc->current);
1477    
1478          start_timer();          start_timer();
1479          /*if (pEnc->current->global_flags & XVID_HINTEDME_SET)          bIntra = MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
                 HintedMESet(pEnc, &bIntra);  
         else*/  
                 bIntra =  
                         MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,  
1480                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1481                           iLimit);                           iLimit);
1482    
# Line 1437  Line 1484 
1484    
1485          if (bIntra == 1) return FrameCodeI(pEnc, bs);          if (bIntra == 1) return FrameCodeI(pEnc, bs);
1486    
1487          if ( ( pEnc->current->vol_flags & XVID_GMC )          if ( ( pEnc->current->vol_flags & XVID_VOL_GMC )
1488                  && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )                  && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )
1489          {          {
1490                  pEnc->current->coding_type = S_VOP;                  pEnc->current->coding_type = S_VOP;
# Line 1449  Line 1496 
1496                  generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,                  generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,
1497                                  pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,                                  pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,
1498                                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,                                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,
1499                                  pEnc->mbParam.m_fcode, (pEnc->mbParam.vol_flags & XVID_QUARTERPEL), 0,                                  pEnc->mbParam.m_fcode, (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0,
1500                                  pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);                                  pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);
1501    
1502          }          }
# Line 1498  Line 1545 
1545                                          pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,                                          pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1546                                          pEnc->mbParam.edged_width, 65536);                                          pEnc->mbParam.edged_width, 65536);
1547    
1548                                  if (pEnc->current->motion_flags & PMV_CHROMA16) {                                  if (pEnc->current->motion_flags & XVID_ME_CHROMA16) {
1549                                          iSAD += sad8(pEnc->current->image.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,                                          iSAD += sad8(pEnc->current->image.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,
1550                                          pEnc->vGMC.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);                                          pEnc->vGMC.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);
1551    
# Line 1508  Line 1555 
1555    
1556                                  if (iSAD <= pMB->sad16) {               /* mode decision GMC */                                  if (iSAD <= pMB->sad16) {               /* mode decision GMC */
1557    
1558                                          if ((pEnc->mbParam.vol_flags & XVID_QUARTERPEL))                                          if ((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL))
1559                                                  pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;                                                  pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;
1560                                          else                                          else
1561                                                  pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;                                                  pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;
# Line 1531  Line 1578 
1578                                                                   dct_codes, pEnc->mbParam.width,                                                                   dct_codes, pEnc->mbParam.width,
1579                                                                   pEnc->mbParam.height,                                                                   pEnc->mbParam.height,
1580                                                                   pEnc->mbParam.edged_width,                                                                   pEnc->mbParam.edged_width,
1581                                                                   (pEnc->current->vol_flags & XVID_QUARTERPEL),                                                                   (pEnc->current->vol_flags & XVID_VOL_QUARTERPEL),
1582                                                                   (pEnc->current->vop_flags & XVID_REDUCED),                                                                   (pEnc->current->vop_flags & XVID_VOP_REDUCED),
1583                                                                   pEnc->current->rounding_type);                                                                   pEnc->current->rounding_type);
1584    
1585                          stop_comp_timer();                          stop_comp_timer();
1586    
1587                          if ((pEnc->current->vop_flags & XVID_LUMIMASKING)) {                          if (pMB->dquant != 0) {
                                 if (pMB->dquant != NO_CHANGE) {  
1588                                          pMB->mode = MODE_INTER_Q;                                          pMB->mode = MODE_INTER_Q;
                                         pEnc->current->quant += DQtab[pMB->dquant];  
                                         if (pEnc->current->quant > 31)  
                                                 pEnc->current->quant = 31;  
                                         else if (pEnc->current->quant < 1)  
                                                 pEnc->current->quant = 1;  
                                 }  
1589                          }                          }
                         pMB->quant = pEnc->current->quant;  
1590    
1591                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1592    
# Line 1570  Line 1609 
1609                          /* Finished processing the MB, now check if to CODE or SKIP */                          /* Finished processing the MB, now check if to CODE or SKIP */
1610    
1611                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&
1612                                                          (pMB->dquant == NO_CHANGE);                                                          (pMB->dquant == 0);
1613    
1614                          if (pEnc->current->coding_type == S_VOP)                          if (pEnc->current->coding_type == S_VOP)
1615                                  skip_possible &= (pMB->mcsel == 1);                                  skip_possible &= (pMB->mcsel == 1);
1616                          else if (pEnc->current->coding_type == P_VOP) {                          else if (pEnc->current->coding_type == P_VOP) {
1617                                  if ((pEnc->mbParam.vol_flags & XVID_QUARTERPEL))                                  if ((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL))
1618                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );
1619                                  else                                  else
1620                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );
# Line 1602  Line 1641 
1641                                          }                                          }
1642    
1643                                          if (!bSkip) {   /* no SKIP, but trivial block */                                          if (!bSkip) {   /* no SKIP, but trivial block */
1644                                                  if((pEnc->mbParam.vol_flags & XVID_QUARTERPEL)) {                                                  if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {
1645                                                          VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1646                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1647                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
# Line 1629  Line 1668 
1668                          }                          }
1669                          /* ordinary case: normal coded INTER/INTER4V block */                          /* ordinary case: normal coded INTER/INTER4V block */
1670    
1671                          if ((pEnc->current->vop_flags & XVID_GREYSCALE))                          if ((pEnc->current->vop_flags & XVID_VOP_GREYSCALE))
1672                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1673                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */
1674                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
1675                          }                          }
1676    
1677                          if((pEnc->mbParam.vol_flags & XVID_QUARTERPEL)) {                          if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {
1678                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1679                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;
1680                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;
1681                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1682                          } else {                          } else {
1683                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1684                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;
1685                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;
1686                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1687                          }                          }
1688    
1689    
# Line 1652  Line 1691 
1691                          {       int k;                          {       int k;
1692                                  for (k=1;k<4;k++)                                  for (k=1;k<4;k++)
1693                                  {                                  {
1694                                          if((pEnc->mbParam.vol_flags & XVID_QUARTERPEL)) {                                          if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {
1695                                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);                                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);
1696                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;
1697                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;
1698                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1699                                          } else {                                          } else {
1700                                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);                                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);
1701                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;
1702                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;
1703                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1704                                          }                                          }
1705    
1706                                  }                                  }
# Line 1673  Line 1712 
1712                  }                  }
1713          }          }
1714    
1715          if ((pEnc->current->vop_flags & XVID_REDUCED))          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))
1716          {          {
1717                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1718                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,
# Line 1682  Line 1721 
1721    
1722          emms();          emms();
1723    
     /* XXX: hinted me  
         if (pEnc->current->global_flags & XVID_HINTEDME_GET) {  
                 HintedMEGet(pEnc, 0);  
         }*/  
   
1724          if (pEnc->current->sStat.iMvCount == 0)          if (pEnc->current->sStat.iMvCount == 0)
1725                  pEnc->current->sStat.iMvCount = 1;                  pEnc->current->sStat.iMvCount = 1;
1726    
# Line 1695  Line 1729 
1729          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1730    
1731          if ((fSigma > iSearchRange / 3)          if ((fSigma > iSearchRange / 3)
1732          && (pEnc->mbParam.m_fcode <= (3 +  (pEnc->mbParam.vol_flags & XVID_QUARTERPEL?1:0)  ))) /* maximum search range 128 */          && (pEnc->mbParam.m_fcode <= (3 +  (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL?1:0)  )))     /* maximum search range 128 */
1733          {          {
1734                  pEnc->mbParam.m_fcode++;                  pEnc->mbParam.m_fcode++;
1735                  iSearchRange *= 2;                  iSearchRange *= 2;
1736          } else if ((fSigma < iSearchRange / 6)          } else if ((fSigma < iSearchRange / 6)
1737                             && (pEnc->fMvPrevSigma >= 0)                             && (pEnc->fMvPrevSigma >= 0)
1738                             && (pEnc->fMvPrevSigma < iSearchRange / 6)                             && (pEnc->fMvPrevSigma < iSearchRange / 6)
1739                             && (pEnc->mbParam.m_fcode >= (2 + (pEnc->mbParam.vol_flags & XVID_QUARTERPEL?1:0) )))        /* minimum search range 16 */                             && (pEnc->mbParam.m_fcode >= (2 + (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL?1:0) )))    /* minimum search range 16 */
1740          {          {
1741                  pEnc->mbParam.m_fcode--;                  pEnc->mbParam.m_fcode--;
1742                  iSearchRange /= 2;                  iSearchRange /= 2;
# Line 1711  Line 1745 
1745          pEnc->fMvPrevSigma = fSigma;          pEnc->fMvPrevSigma = fSigma;
1746    
1747          /* frame drop code */          /* frame drop code */
1748          DPRINTF(DPRINTF_DEBUG, "kmu %i %i %i", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);  #if 0
1749            DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);
1750    #endif
1751          if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <          if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <
1752                  (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)                  (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)
1753          {          {
# Line 1727  Line 1763 
1763                  pEnc->current->quant = pEnc->reference->quant;                  pEnc->current->quant = pEnc->reference->quant;
1764                  pEnc->current->motion_flags = pEnc->reference->motion_flags;                  pEnc->current->motion_flags = pEnc->reference->motion_flags;
1765                  pEnc->current->rounding_type = pEnc->reference->rounding_type;                  pEnc->current->rounding_type = pEnc->reference->rounding_type;
                 //pEnc->current->quarterpel =  pEnc->reference->quarterpel;  
1766                  pEnc->current->fcode = pEnc->reference->fcode;                  pEnc->current->fcode = pEnc->reference->fcode;
1767                  pEnc->current->bcode = pEnc->reference->bcode;                  pEnc->current->bcode = pEnc->reference->bcode;
1768                  image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);                  image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
# Line 1749  Line 1784 
1784          }          }
1785          */          */
1786    
1787    /* XXX: Remove the two #if 0 blocks when we are sure we must always pad the stream */
1788    #if 0
1789          /* for divx5 compatibility, we must always pad between the packed p and b frames */          /* for divx5 compatibility, we must always pad between the packed p and b frames */
1790          if ((pEnc->mbParam.global_flags & XVID_PACKED) && pEnc->bframenum_tail > 0)          if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0)
1791    #endif
1792                  BitstreamPadAlways(bs);                  BitstreamPadAlways(bs);
1793    #if 0
1794          else          else
1795                  BitstreamPad(bs);                  BitstreamPad(bs);
1796    #endif
1797    
1798      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;
1799    
# Line 1781  Line 1821 
1821                  fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \                  fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \
1822          }          }
1823    
1824          /* XXX: pEnc->current->global_flags &= ~XVID_REDUCED;  reduced resoltion not yet supported */          /* XXX: pEnc->current->global_flags &= ~XVID_VOP_REDUCED;  reduced resoltion not yet supported */
1825    
1826          if (!first){          if (!first){
1827                  fp=fopen("C:\\XVIDDBGE.TXT","w");                  fp=fopen("C:\\XVIDDBGE.TXT","w");
1828          }          }
1829  #endif  #endif
1830    
         //frame->quarterpel =  pEnc->mbParam.m_quarterpel;  
   
1831          /* forward  */          /* forward  */
1832          image_setedges(f_ref, pEnc->mbParam.edged_width,          image_setedges(f_ref, pEnc->mbParam.edged_width,
1833                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,
# Line 1797  Line 1835 
1835          start_timer();          start_timer();
1836          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1837                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1838                                            (pEnc->mbParam.vol_flags & XVID_QUARTERPEL), 0);                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1839          stop_inter_timer();          stop_inter_timer();
1840    
1841          /* backward */          /* backward */
# Line 1807  Line 1845 
1845          start_timer();          start_timer();
1846          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1847                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1848                                            (pEnc->mbParam.vol_flags & XVID_QUARTERPEL), 0);                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1849          stop_inter_timer();          stop_inter_timer();
1850    
1851          start_timer();          start_timer();
   
1852          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
1853                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */
1854                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */
# Line 1819  Line 1856 
1856                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1857                                                   pEnc->current, b_ref, &pEnc->vInterH,                                                   pEnc->current, b_ref, &pEnc->vInterH,
1858                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
   
   
1859          stop_motion_timer();          stop_motion_timer();
1860    
         /*  
         if (test_quant_type(&pEnc->mbParam, pEnc->current)) {  
                 BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);  
         }  
         */  
   
1861          frame->coding_type = B_VOP;          frame->coding_type = B_VOP;
1862    
1863          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
# Line 1844  Line 1873 
1873          for (y = 0; y < pEnc->mbParam.mb_height; y++) {          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1874                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1875                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1876                          int direction = frame->vop_flags & XVID_ALTERNATESCAN ? 2 : 0;                          int direction = frame->vop_flags & XVID_VOP_ALTERNATESCAN ? 2 : 0;
1877    
1878                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */
1879                          if (mb->mode == MODE_NOT_CODED) {                          if (mb->mode == MODE_NOT_CODED) {
# Line 1852  Line 1881 
1881                                  continue;                                  continue;
1882                          }                          }
1883    
1884                          if (mb->mode != MODE_DIRECT_NONE_MV) {                          if (mb->mode != MODE_DIRECT_NONE_MV || pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {
1885                                  MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,                                  MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1886                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,
1887                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,
# Line 1862  Line 1891 
1891                                  if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;                                  if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;
1892                                  mb->quant = frame->quant;                                  mb->quant = frame->quant;
1893    
1894                                  mb->cbp =                                  if (mb->mode != MODE_DIRECT_NONE_MV)
1895                                          MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, x, y,  dct_codes, qcoeff);                                          mb->cbp = MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, x, y,  dct_codes, qcoeff);
1896    
1897                                  if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)                                  if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)
1898                                          && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {                                          && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {
# Line 1885  Line 1914 
1914    
1915          /* TODO: dynamic fcode/bcode ??? */          /* TODO: dynamic fcode/bcode ??? */
1916    
1917      BitstreamPad(bs);      BitstreamPadAlways(bs);
1918          frame->length = (BitstreamPos(bs) - bits) / 8;          frame->length = (BitstreamPos(bs) - bits) / 8;
1919    
1920  #ifdef BFRAMES_DEC_DEBUG  #ifdef BFRAMES_DEC_DEBUG
Legend:
Removed from v.925  
changed lines
  Added in v.1070
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4