[svn] / branches / dev-api-4 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /branches/dev-api-4/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1038, Thu May 22 16:36:07 2003 UTC revision 1210, Sat Nov 15 14:43:38 2003 UTC
# Line 3  Line 3 
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Encoder main module  -   *  -  Encoder main module  -
5   *   *
6   *  This program is an implementation of a part of one or more MPEG-4   *  Copyright(C) 2002      Michael Militzer <isibaar@xvid.org>
7   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *               2002-2003 Peter Ross <pross@xvid.org>
8   *  to use this software module in hardware or software products are   *               2002      Daniel Smith <danielsmith@astroboymail.com>
  *  advised that its use may infringe existing patents or copyrights, and  
  *  any such use would be at such party's own risk.  The original  
  *  developer of this software module and his/her company, and subsequent  
  *  editors and their companies, will have no liability for use of this  
  *  software or modifications or derivatives thereof.  
9   *   *
10   *  This program is free software; you can redistribute it and/or modify   *  This program is free software; you can redistribute it and/or modify
11   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 26  Line 21 
21   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   *  $Id: encoder.c,v 1.95.2.25 2003-05-22 16:34:47 edgomez Exp $   * $Id: encoder.c,v 1.95.2.51 2003-11-15 14:43:38 syskin Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 43  Line 38 
38  #include "image/font.h"  #include "image/font.h"
39  #include "motion/sad.h"  #include "motion/sad.h"
40  #include "motion/motion.h"  #include "motion/motion.h"
41    #include "motion/gmc.h"
42    
43  #include "bitstream/cbp.h"  #include "bitstream/cbp.h"
44  #include "utils/mbfunctions.h"  #include "utils/mbfunctions.h"
45  #include "bitstream/bitstream.h"  #include "bitstream/bitstream.h"
46  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
47  #include "utils/emms.h"  #include "utils/emms.h"
48  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
 #include "quant/adapt_quant.h"  
49  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
50  #include "utils/mem_align.h"  #include "utils/mem_align.h"
51    
# Line 121  Line 117 
117          Encoder *pEnc;          Encoder *pEnc;
118      int n;      int n;
119    
120          if (XVID_MAJOR(create->version) != 1)   /* v1.x.x */          if (XVID_VERSION_MAJOR(create->version) != 1) /* v1.x.x */
121                  return XVID_ERR_VERSION;                  return XVID_ERR_VERSION;
122    
123          if (create->width%2 || create->height%2)          if (create->width%2 || create->height%2)
# Line 192  Line 188 
188          pcreate.zones = pEnc->zones;          pcreate.zones = pEnc->zones;
189          pcreate.width = pEnc->mbParam.width;          pcreate.width = pEnc->mbParam.width;
190          pcreate.height = pEnc->mbParam.height;          pcreate.height = pEnc->mbParam.height;
191            pcreate.mb_width = pEnc->mbParam.mb_width;
192            pcreate.mb_height = pEnc->mbParam.mb_height;
193          pcreate.fincr = pEnc->mbParam.fincr;          pcreate.fincr = pEnc->mbParam.fincr;
194          pcreate.fbase = pEnc->mbParam.fbase;          pcreate.fbase = pEnc->mbParam.fbase;
195          pcreate.param = create->plugins[n].param;          pcreate.param = create->plugins[n].param;
# Line 211  Line 209 
209      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
210              pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *              pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *
211                                              pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);                                              pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
212            if (pEnc->temp_dquants==NULL)
213                goto xvid_err_memory1a;
214      }      }
     /* XXX: error checking */  
215    
216          /* bframes */          /* bframes */
217          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);
# Line 229  Line 228 
228          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);
229    
230      /* max keyframe interval */      /* max keyframe interval */
231      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ?      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ? (10 * (int)pEnc->mbParam.fbase) / (int)pEnc->mbParam.fincr : create->max_key_interval;
                 10 * pEnc->mbParam.fbase / pEnc->mbParam.fincr : create->max_key_interval;  
   
         /* Bitrate allocator defaults  
   
         if ((create->min_quantizer <= 0) || (create->min_quantizer > 31))  
                 create->min_quantizer = 1;  
   
         if ((create->max_quantizer <= 0) || (create->max_quantizer > 31))  
                 create->max_quantizer = 31;  
   
         if (create->max_quantizer < create->min_quantizer)  
                 create->max_quantizer = create->min_quantizer; */  
   
232    
233      /* allocate working frame-image memory */      /* allocate working frame-image memory */
234    
# Line 405  Line 391 
391                  image_null(&pEnc->queue[n].image);                  image_null(&pEnc->queue[n].image);
392    
393    
394          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++)          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {
         {  
395                  if (image_create                  if (image_create
396                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,
397                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
398                          goto xvid_err_memory5;                          goto xvid_err_memory5;
   
399          }          }
400    
   
401          /* timestamp stuff */          /* timestamp stuff */
402    
403          pEnc->mbParam.m_stamp = 0;          pEnc->mbParam.m_stamp = 0;
# Line 439  Line 422 
422    
423    xvid_err_memory5:    xvid_err_memory5:
424    
425          if (pEnc->mbParam.max_bframes > 0) {          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {
426          int i;                          image_destroy(&pEnc->queue[n].image, pEnc->mbParam.edged_width,
   
                 for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {  
                         image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,  
427                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
428                  }                  }
429    
430                  xvid_free(pEnc->queue);                  xvid_free(pEnc->queue);
         }  
431    
432    xvid_err_memory4:    xvid_err_memory4:
433    
# Line 461  Line 441 
441    
442                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
443                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
   
444                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
   
445                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
   
446                  }                  }
447    
448                  xvid_free(pEnc->bframes);                  xvid_free(pEnc->bframes);
# Line 515  Line 492 
492          xvid_free(pEnc->current);          xvid_free(pEnc->current);
493          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
494    
495      xvid_err_memory1a:
496      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
497              xvid_free(pEnc->temp_dquants);              xvid_free(pEnc->temp_dquants);
498      }      }
# Line 553  Line 531 
531          int i;          int i;
532    
533          /* B Frames specific */          /* B Frames specific */
         if (pEnc->mbParam.max_bframes > 0) {  
   
534                  for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {                  for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {
   
535                          image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,
536                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
537                  }                  }
                 xvid_free(pEnc->queue);  
         }  
538    
539            xvid_free(pEnc->queue);
540    
541          if (pEnc->mbParam.max_bframes > 0) {          if (pEnc->mbParam.max_bframes > 0) {
542    
# Line 573  Line 547 
547    
548                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
549                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
   
550                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
   
551                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
552                  }                  }
553    
# Line 678  Line 650 
650      data.mb_height = pEnc->mbParam.mb_height;      data.mb_height = pEnc->mbParam.mb_height;
651      data.fincr = frame->fincr;      data.fincr = frame->fincr;
652      data.fbase = pEnc->mbParam.fbase;      data.fbase = pEnc->mbParam.fbase;
653            data.bquant_ratio = pEnc->mbParam.bquant_ratio;
654            data.bquant_offset = pEnc->mbParam.bquant_offset;
655    
656      for (i=0; i<3; i++) {      for (i=0; i<3; i++) {
657          data.min_quant[i] = pEnc->mbParam.min_quant[i];          data.min_quant[i] = pEnc->mbParam.min_quant[i];
# Line 703  Line 677 
677      data.frame_num = frame->frame_num;      data.frame_num = frame->frame_num;
678    
679      if (opt == XVID_PLG_BEFORE) {      if (opt == XVID_PLG_BEFORE) {
680          data.type = XVID_TYPE_AUTO;          data.type = *type;
681          data.quant = 0;          data.quant = *quant;
682    
683                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
684              data.dquant = pEnc->temp_dquants;              data.dquant = pEnc->temp_dquants;
# Line 712  Line 686 
686                          memset(data.dquant, 0, data.mb_width*data.mb_height);                          memset(data.dquant, 0, data.mb_width*data.mb_height);
687          }          }
688    
689          /* todo: [vol,vop,motion]_flags*/          data.vol_flags = frame->vol_flags;
690            data.vop_flags = frame->vop_flags;
691            data.motion_flags = frame->motion_flags;
692    
693      } else { // XVID_PLG_AFTER      } else { /* XVID_PLG_AFTER */
694          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
695              data.original.csp = XVID_CSP_USER;              data.original.csp = XVID_CSP_USER;
696              data.original.plane[0] = original->y;              data.original.plane[0] = original->y;
# Line 753  Line 729 
729    
730              for (j=0; j<pEnc->mbParam.mb_height; j++)              for (j=0; j<pEnc->mbParam.mb_height; j++)
731              for (i=0; i<pEnc->mbParam.mb_width; i++) {              for (i=0; i<pEnc->mbParam.mb_width; i++) {
732                  data.dquant[j*data.dquant_stride + i] = frame->mbs[j*pEnc->mbParam.mb_width + i].dquant;;                  data.dquant[j*data.dquant_stride + i] = frame->mbs[j*pEnc->mbParam.mb_width + i].dquant;
733              }              }
734          }          }
735    
# Line 783  Line 759 
759      }      }
760    
761      /* call plugins */      /* call plugins */
762      for (i=0; i<pEnc->num_plugins;i++) {      for (i=0; i<(unsigned int)pEnc->num_plugins;i++) {
763          emms();          emms();
764          if (pEnc->plugins[i].func) {          if (pEnc->plugins[i].func) {
765              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {
# Line 809  Line 785 
785                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
786              }              }
787          }          }
788          /* todo: [vol,vop,motion]_flags*/  
789            frame->vol_flags = data.vol_flags;
790            frame->vop_flags = data.vop_flags;
791            frame->motion_flags = data.motion_flags;
792      }      }
793  }  }
794    
# Line 876  Line 855 
855          int type;          int type;
856          Bitstream bs;          Bitstream bs;
857    
858          if (XVID_MAJOR(xFrame->version) != 1 || (stats && XVID_MAJOR(stats->version) != 1))     /* v1.x.x */          if (XVID_VERSION_MAJOR(xFrame->version) != 1 || (stats && XVID_VERSION_MAJOR(stats->version) != 1))     /* v1.x.x */
859                  return XVID_ERR_VERSION;                  return XVID_ERR_VERSION;
860    
861          xFrame->out_flags = 0;          xFrame->out_flags = 0;
# Line 913  Line 892 
892    
893                  if (xFrame->quant_intra_matrix)                  if (xFrame->quant_intra_matrix)
894                  {                  {
895                          memcpy(q->quant_intra_matrix, xFrame->quant_intra_matrix, sizeof(xFrame->quant_intra_matrix));                          memcpy(q->quant_intra_matrix, xFrame->quant_intra_matrix, 64*sizeof(unsigned char));
896                          q->frame.quant_intra_matrix = q->quant_intra_matrix;                          q->frame.quant_intra_matrix = q->quant_intra_matrix;
897                  }                  }
898    
899                  if (xFrame->quant_inter_matrix)                  if (xFrame->quant_inter_matrix)
900                  {                  {
901                          memcpy(q->quant_inter_matrix, xFrame->quant_inter_matrix, sizeof(xFrame->quant_inter_matrix));                          memcpy(q->quant_inter_matrix, xFrame->quant_inter_matrix, 64*sizeof(unsigned char));
902                          q->frame.quant_inter_matrix = q->quant_inter_matrix;                          q->frame.quant_inter_matrix = q->quant_inter_matrix;
903                  }                  }
904    
# Line 1019  Line 998 
998                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
999    
1000                                  /* convert B-VOP to P-VOP */                                  /* convert B-VOP to P-VOP */
1001                  pEnc->current->quant = ((pEnc->current->quant*100) - pEnc->mbParam.bquant_offset) / pEnc->mbParam.bquant_ratio;                  pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;
1002                                    pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */
1003                                    pEnc->current->quant /= pEnc->mbParam.bquant_ratio;
1004    
1005                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
1006                              image_copy(&pEnc->sOriginal, &pEnc->current->image,                              image_copy(&pEnc->sOriginal, &pEnc->current->image,
# Line 1048  Line 1029 
1029                  goto done;      /* nothing to encode yet; encoder lag */                  goto done;      /* nothing to encode yet; encoder lag */
1030          }          }
1031    
1032          // the current FRAME becomes the reference          /* the current FRAME becomes the reference */
1033          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);
1034    
1035          // remove frame from encoding-queue (head), and move it into the current          /* remove frame from encoding-queue (head), and move it into the current */
1036          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);
1037          frame = &pEnc->queue[pEnc->queue_head].frame;          frame = &pEnc->queue[pEnc->queue_head].frame;
1038          pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);          pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);
# Line 1107  Line 1088 
1088    
1089          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1090                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
1091                          "%i  st:%i  if:%i", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);                          "%d  st:%lld  if:%d", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);
1092          }          }
1093    
1094          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
# Line 1167  Line 1148 
1148    
1149      if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP) && pEnc->bframenum_tail > 0) {      if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP) && pEnc->bframenum_tail > 0) {
1150    
1151                  // place this frame back on the encoding-queue (head)                  /* place this frame back on the encoding-queue (head) */
1152                  // we will deal with it next time                  /* we will deal with it next time */
1153          dec_frame_num(pEnc);          dec_frame_num(pEnc);
1154          pEnc->iFrameNum--;          pEnc->iFrameNum--;
1155    
# Line 1176  Line 1157 
1157          pEnc->queue_size++;          pEnc->queue_size++;
1158                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);
1159    
1160                  // grab the last frame from the bframe-queue                  /* grab the last frame from the bframe-queue */
1161    
1162                  pEnc->bframenum_tail--;                  pEnc->bframenum_tail--;
1163                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
# Line 1186  Line 1167 
1167                  }                  }
1168    
1169                  /* convert B-VOP quant to P-VOP */                  /* convert B-VOP quant to P-VOP */
1170                  pEnc->current->quant = ((pEnc->current->quant*100) - pEnc->mbParam.bquant_offset) / pEnc->mbParam.bquant_ratio;                  pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;
1171                    pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */
1172                    pEnc->current->quant /= pEnc->mbParam.bquant_ratio;
1173          type = P_VOP;          type = P_VOP;
1174      }      }
1175    
# Line 1205  Line 1188 
1188                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
1189                  }                  }
1190    
1191                    pEnc->iFrameNum = 1;
1192    
1193                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1194                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;
1195                    switch(frame->par) {
1196                    case XVID_PAR_11_VGA:
1197                    case XVID_PAR_43_PAL:
1198                    case XVID_PAR_43_NTSC:
1199                    case XVID_PAR_169_PAL:
1200                    case XVID_PAR_169_NTSC:
1201                    case XVID_PAR_EXT:
1202                            pEnc->mbParam.par = frame->par;
1203                            break;
1204                    default:
1205                            pEnc->mbParam.par = XVID_PAR_EXT;
1206                            break;
1207                    }
1208                    pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;
1209                    pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;
1210    
1211          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1212                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
# Line 1238  Line 1237 
1237           * encode this frame as an p-vop           * encode this frame as an p-vop
1238       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1239    
1240      } else { // (type == P_VOP || type == S_VOP)      } else { /* (type == P_VOP || type == S_VOP) */
1241    
1242                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1243                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
# Line 1261  Line 1260 
1260           * on next enc_encode call we must flush bframes           * on next enc_encode call we must flush bframes
1261           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1262    
1263  done_flush:  /*done_flush:*/
1264    
1265      pEnc->flush_bframes = 1;      pEnc->flush_bframes = 1;
1266    
# Line 1293  Line 1292 
1292  {  {
1293      unsigned int i,j;      unsigned int i,j;
1294      int quant = frame->quant;      int quant = frame->quant;
1295        if (quant > 31)
1296                    frame->quant = quant = 31;
1297            else if (quant < 1)
1298                    frame->quant = quant = 1;
1299    
1300      for (j=0; j<pParam->mb_height; j++)      for (j=0; j<pParam->mb_height; j++)
1301      for (i=0; i<pParam->mb_width; i++) {      for (i=0; i<pParam->mb_width; i++) {
# Line 1300  Line 1303 
1303          quant += pMB->dquant;          quant += pMB->dquant;
1304          if (quant > 31)          if (quant > 31)
1305                          quant = 31;                          quant = 31;
1306                  if (quant < 1)                  else if (quant < 1)
1307                          quant = 1;                          quant = 1;
1308          pMB->quant = quant;          pMB->quant = quant;
1309      }      }
# Line 1364  Line 1367 
1367    
1368          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1369    
1370          BitstreamPadAlways(bs);          BitstreamPad(bs);
1371    
1372          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1373    
1374          pEnc->current->sStat.iTextBits = 0;          pEnc->current->sStat.iTextBits = 0;
# Line 1403  Line 1407 
1407          }          }
1408          emms();          emms();
1409    
1410  /* XXX: Remove the two #if 0 blocks when we are sure we must always pad the stream */          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
1411  #if 0  
         /* for divx5 compatibility, we must always pad between the packed p and b frames */  
         if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0)  
 #endif  
                 BitstreamPadAlways(bs);  
 #if 0  
         else  
                 BitstreamPad(bs);  
 #endif  
1412      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;
1413    
1414          pEnc->fMvPrevSigma = -1;          pEnc->fMvPrevSigma = -1;
1415          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
1416    
1417      /* XXX: hinted me          pEnc->current->is_edged = 0; /* not edged */
1418          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
                 HintedMEGet(pEnc, 1);  
         }*/  
1419    
1420          return 1;                                       /* intra */          return 1;                                       /* intra */
1421  }  }
# Line 1444  Line 1438 
1438          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1439          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1440    
         int mb_width = pEnc->mbParam.mb_width;  
         int mb_height = pEnc->mbParam.mb_height;  
   
1441          int iLimit;          int iLimit;
1442          int x, y, k;          int x, y, k;
1443          int iSearchRange;          int iSearchRange;
1444          int bIntra, skip_possible;          int bIntra=0, skip_possible;
1445            FRAMEINFO *const current = pEnc->current;
1446            FRAMEINFO *const reference = pEnc->reference;
1447            MBParam * const pParam = &pEnc->mbParam;
1448            int mb_width = pParam->mb_width;
1449            int mb_height = pParam->mb_height;
1450    
         /* IMAGE *pCurrent = &pEnc->current->image; */  
         IMAGE *pRef = &pEnc->reference->image;  
1451    
1452          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))          /* IMAGE *pCurrent = &current->image; */
1453            IMAGE *pRef = &reference->image;
1454    
1455            if ((current->vop_flags & XVID_VOP_REDUCED))
1456          {          {
1457                  mb_width = (pEnc->mbParam.width + 31) / 32;                  mb_width = (pParam->width + 31) / 32;
1458                  mb_height = (pEnc->mbParam.height + 31) / 32;                  mb_height = (pParam->height + 31) / 32;
1459          }          }
1460    
1461    
1462            if (!reference->is_edged) {
1463          start_timer();          start_timer();
1464          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,
1465                                     pEnc->mbParam.width, pEnc->mbParam.height);                                             pParam->width, pParam->height);
1466          stop_edges_timer();          stop_edges_timer();
1467                    reference->is_edged = 1;
1468            }
1469    
1470          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;          pParam->m_rounding_type = 1 - pParam->m_rounding_type;
1471          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
1472          //pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;          current->fcode = pParam->m_fcode;
         pEnc->current->fcode = pEnc->mbParam.m_fcode;  
1473    
1474          if (!force_inter)          if (!force_inter)
1475                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);
1476          else          else
1477                  iLimit = mb_width * mb_height + 1;                  iLimit = mb_width * mb_height + 1;
1478    
1479          if ((pEnc->current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1480                    if (reference->is_interpolated != current->rounding_type) {
1481                  start_timer();                  start_timer();
1482                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1483                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,                                                            &pEnc->vInterHV, pParam->edged_width,
1484                                                    pEnc->mbParam.edged_height,                                                            pParam->edged_height,
1485                                                    (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL),                                                            (pParam->vol_flags & XVID_VOL_QUARTERPEL),
1486                                                    pEnc->current->rounding_type);                                                            current->rounding_type);
1487                  stop_inter_timer();                  stop_inter_timer();
1488                            reference->is_interpolated = current->rounding_type;
1489                    }
1490          }          }
1491    
1492          pEnc->current->coding_type = P_VOP;          current->coding_type = P_VOP;
1493    
1494    
1495      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);      SetMacroblockQuants(&pEnc->mbParam, current);
1496    
1497          start_timer();          start_timer();
1498          /*if (pEnc->current->global_flags & XVID_HINTEDME_SET)          if (current->vol_flags & XVID_VOL_GMC ) /* GMC only for S(GMC)-VOPs */
1499                  HintedMESet(pEnc, &bIntra);          {       int gmcval;
1500          else*/                  current->warp = GlobalMotionEst( current->mbs, pParam, current, reference,
1501                                                                     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
1502    
1503                    if (current->motion_flags & XVID_ME_GME_REFINE) {
1504                            gmcval = GlobalMotionEstRefine(&current->warp,
1505                                                                                       current->mbs, pParam,
1506                                                                                       current, reference,
1507                                                                                       &current->image,
1508                                                                                       &reference->image,
1509                                                                                       &pEnc->vInterH,
1510                                                                                       &pEnc->vInterV,
1511                                                                                       &pEnc->vInterHV);
1512                    } else {
1513                            gmcval = globalSAD(&current->warp, pParam, current->mbs,
1514                                                               current,
1515                                                               &reference->image,
1516                                                               &current->image,
1517                                                               pEnc->vGMC.y);
1518                    }
1519    
1520                    gmcval += /*current->quant*/ 2 * (int)(pParam->mb_width*pParam->mb_height);
1521    
1522                    /* 1st '3': 3 warpoints, 2nd '3': 16th pel res (2<<3) */
1523                    generate_GMCparameters( 3, 3, &current->warp,
1524                                    pParam->width, pParam->height,
1525                                    &current->new_gmc_data);
1526    
1527                    if ( (gmcval<0) && ( (current->warp.duv[1].x != 0) || (current->warp.duv[1].y != 0) ||
1528                             (current->warp.duv[2].x != 0) || (current->warp.duv[2].y != 0) ) )
1529                    {
1530                            current->coding_type = S_VOP;
1531    
1532                            generate_GMCimage(&current->new_gmc_data, &reference->image,
1533                                    pParam->mb_width, pParam->mb_height,
1534                                    pParam->edged_width, pParam->edged_width/2,
1535                                    pParam->m_fcode, ((pParam->vol_flags & XVID_VOL_QUARTERPEL)?1:0), 0,
1536                                    current->rounding_type, current->mbs, &pEnc->vGMC);
1537    
1538                    } else {
1539    
1540                            generate_GMCimage(&current->new_gmc_data, &reference->image,
1541                                    pParam->mb_width, pParam->mb_height,
1542                                    pParam->edged_width, pParam->edged_width/2,
1543                                    pParam->m_fcode, ((pParam->vol_flags & XVID_VOL_QUARTERPEL)?1:0), 0,
1544                                    current->rounding_type, current->mbs, NULL);    /* no warping, just AMV */
1545                    }
1546            }
1547    
1548                  bIntra =                  bIntra =
1549                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,                  MotionEstimation(&pEnc->mbParam, current, reference,
1550                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1551                           iLimit);                                           &pEnc->vGMC, iLimit);
1552    
1553    
1554          stop_motion_timer();          stop_motion_timer();
1555    
1556          if (bIntra == 1) return FrameCodeI(pEnc, bs);          if (bIntra == 1) return FrameCodeI(pEnc, bs);
1557    
1558          if ( ( pEnc->current->vol_flags & XVID_VOL_GMC )          set_timecodes(current,reference,pParam->fbase);
                 && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )  
         {  
                 pEnc->current->coding_type = S_VOP;  
   
                 generate_GMCparameters( 2, 16, &pEnc->current->warp,  
                                         pEnc->mbParam.width, pEnc->mbParam.height,  
                                         &pEnc->current->gmc_data);  
   
                 generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,  
                                 pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,  
                                 pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,  
                                 pEnc->mbParam.m_fcode, (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0,  
                                 pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);  
   
         }  
   
         set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);  
1559          if (vol_header)          if (vol_header)
1560          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);
1561                  BitstreamPadAlways(bs);                  BitstreamPad(bs);
1562          }          }
1563    
1564          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1);
1565    
1566          pEnc->current->sStat.iTextBits = pEnc->current->sStat.iMvSum = pEnc->current->sStat.iMvCount =          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =
1567                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;
1568    
1569    
1570          for (y = 0; y < mb_height; y++) {          for (y = 0; y < mb_height; y++) {
1571                  for (x = 0; x < mb_width; x++) {                  for (x = 0; x < mb_width; x++) {
1572                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1573                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                                  &current->mbs[x + y * pParam->mb_width];
   
 /* Mode decision: Check, if the block should be INTRA / INTER or GMC-coded */  
 /* For a start, leave INTRA decision as is, only choose only between INTER/GMC  - gruel, 9.1.2002 */  
1574    
1575                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1576    
1577                          if (bIntra) {                          if (bIntra) {
1578                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
1579                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,                                  MBTransQuantIntra(&pEnc->mbParam, current, pMB, x, y,
1580                                                                    dct_codes, qcoeff);                                                                    dct_codes, qcoeff);
1581    
1582                                  start_timer();                                  start_timer();
1583                                  MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);                                  MBPrediction(current, x, y, pParam->mb_width, qcoeff);
1584                                  stop_prediction_timer();                                  stop_prediction_timer();
1585    
1586                                  pEnc->current->sStat.kblks++;                                  current->sStat.kblks++;
1587    
1588                                  MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                                  if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)
1589                                    {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1590                                            qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
1591                                            qcoeff[5*64+0]=0;
1592                                    }
1593                                    MBCoding(current, pMB, qcoeff, bs, &current->sStat);
1594                                  stop_coding_timer();                                  stop_coding_timer();
1595                                  continue;                                  continue;
1596                          }                          }
1597    
                         if (pEnc->current->coding_type == S_VOP) {  
   
                                 int32_t iSAD = sad16(pEnc->current->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                         pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                         pEnc->mbParam.edged_width, 65536);  
   
                                 if (pEnc->current->motion_flags & XVID_ME_CHROMA16) {  
                                         iSAD += sad8(pEnc->current->image.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,  
                                         pEnc->vGMC.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);  
   
                                         iSAD += sad8(pEnc->current->image.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,  
                                         pEnc->vGMC.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);  
                                 }  
   
                                 if (iSAD <= pMB->sad16) {               /* mode decision GMC */  
   
                                         if ((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL))  
                                                 pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;  
                                         else  
                                                 pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;  
   
                                         pMB->mode = MODE_INTER;  
                                         pMB->mcsel = 1;  
                                         pMB->sad16 = iSAD;  
                                 } else {  
                                         pMB->mcsel = 0;  
                                 }  
                         } else {  
                                 pMB->mcsel = 0; /* just a precaution */  
                         }  
   
1598                          start_timer();                          start_timer();
1599                          MBMotionCompensation(pMB, x, y, &pEnc->reference->image,                          MBMotionCompensation(pMB, x, y, &reference->image,
1600                                                                   &pEnc->vInterH, &pEnc->vInterV,                                                                   &pEnc->vInterH, &pEnc->vInterV,
1601                                                                   &pEnc->vInterHV, &pEnc->vGMC,                                                                   &pEnc->vInterHV, &pEnc->vGMC,
1602                                                                   &pEnc->current->image,                                                                   &current->image,
1603                                                                   dct_codes, pEnc->mbParam.width,                                                                   dct_codes, pParam->width,
1604                                                                   pEnc->mbParam.height,                                                                   pParam->height,
1605                                                                   pEnc->mbParam.edged_width,                                                                   pParam->edged_width,
1606                                                                   (pEnc->current->vol_flags & XVID_VOL_QUARTERPEL),                                                                   (current->vol_flags & XVID_VOL_QUARTERPEL),
1607                                                                   (pEnc->current->vop_flags & XVID_VOP_REDUCED),                                                                   (current->vop_flags & XVID_VOP_REDUCED),
1608                                                                   pEnc->current->rounding_type);                                                                   current->rounding_type);
1609    
1610                          stop_comp_timer();                          stop_comp_timer();
1611    
# Line 1613  Line 1617 
1617    
1618                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
1619                          {       pMB->cbp =                          {       pMB->cbp =
1620                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,                                          MBTransQuantInter(&pEnc->mbParam, current, pMB, x, y,
1621                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1622                          }                          }
1623    
1624                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1625                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1626                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1627                                  pEnc->current->sStat.mblks++;                                  current->sStat.mblks++;
1628                          }  else {                          }  else {
1629                                  pEnc->current->sStat.ublks++;                                  current->sStat.ublks++;
1630                          }                          }
1631    
1632                          start_timer();                          start_timer();
# Line 1632  Line 1636 
1636                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&
1637                                                          (pMB->dquant == 0);                                                          (pMB->dquant == 0);
1638    
1639                          if (pEnc->current->coding_type == S_VOP)                          if (current->coding_type == S_VOP)
1640                                  skip_possible &= (pMB->mcsel == 1);                                  skip_possible &= (pMB->mcsel == 1);
1641                          else if (pEnc->current->coding_type == P_VOP) {                          else if (current->coding_type == P_VOP) {
1642                                  if ((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL))                                  if ((pParam->vol_flags & XVID_VOL_QUARTERPEL))
1643                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );
1644                                  else                                  else
1645                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );
# Line 1645  Line 1649 
1649    
1650  /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */  /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */
1651    
1652                                  if (pEnc->current->coding_type == P_VOP)        /* special rule for P-VOP's SKIP */                                  if (current->coding_type == P_VOP)      /* special rule for P-VOP's SKIP */
1653                                  {                                  {
1654                                          int bSkip = 1;                                          int bSkip = 1;
1655    
1656                                          for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)                                          for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)
1657                                          {                                          {
1658                                                  int iSAD;                                                  int iSAD;
1659                                                  iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,                                                  iSAD = sad16(reference->image.y + 16*y*pParam->edged_width + 16*x,
1660                                                                          pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,                                                                          pEnc->bframes[k]->image.y + 16*y*pParam->edged_width + 16*x,
1661                                                                  pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);                                                                  pParam->edged_width,BFRAME_SKIP_THRESHHOLD);
1662                                                  if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)                                                  if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)
1663                                                  {       bSkip = 0;                                                  {       bSkip = 0;
1664                                                          break;                                                          break;
# Line 1662  Line 1666 
1666                                          }                                          }
1667    
1668                                          if (!bSkip) {   /* no SKIP, but trivial block */                                          if (!bSkip) {   /* no SKIP, but trivial block */
1669                                                  if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {                                                  if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {
1670                                                          VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1671                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1672                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
1673                                                  }                                                  }
1674                                                  else {                                                  else {
1675                                                          VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1676                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1677                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
1678                                                  }                                                  }
1679                                                  pMB->mode = MODE_INTER;                                                  pMB->mode = MODE_INTER;
1680                                                  pMB->cbp = 0;                                                  pMB->cbp = 0;
1681                                                  MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                                                  MBCoding(current, pMB, qcoeff, bs, &current->sStat);
1682                                                  stop_coding_timer();                                                  stop_coding_timer();
1683    
1684                                                  continue;       /* next MB */                                                  continue;       /* next MB */
# Line 1689  Line 1693 
1693                          }                          }
1694                          /* ordinary case: normal coded INTER/INTER4V block */                          /* ordinary case: normal coded INTER/INTER4V block */
1695    
1696                          if ((pEnc->current->vop_flags & XVID_VOP_GREYSCALE))                          if ((current->vop_flags & XVID_VOP_GREYSCALE))
1697                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1698                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */
1699                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
1700                          }                          }
1701    
1702                          if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {                          if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {
1703                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1704                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;
1705                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;
1706                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1707                          } else {                          } else {
1708                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1709                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;
1710                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;
1711                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
# Line 1712  Line 1716 
1716                          {       int k;                          {       int k;
1717                                  for (k=1;k<4;k++)                                  for (k=1;k<4;k++)
1718                                  {                                  {
1719                                          if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {                                          if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {
1720                                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);                                                  VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, k);
1721                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;
1722                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;
1723                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1724                                          } else {                                          } else {
1725                                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);                                                  VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, k);
1726                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;
1727                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;
1728                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
# Line 1727  Line 1731 
1731                                  }                                  }
1732                          }                          }
1733    
1734                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                          MBCoding(current, pMB, qcoeff, bs, &pEnc->current->sStat);
1735                          stop_coding_timer();                          stop_coding_timer();
1736    
1737                  }                  }
1738          }          }
1739    
1740          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))          if ((current->vop_flags & XVID_VOP_REDUCED))
1741          {          {
1742                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,                  image_deblock_rrv(&current->image, pParam->edged_width,
1743                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,                          current->mbs, mb_width, mb_height, pParam->mb_width,
1744                          16, 0);                          16, 0);
1745          }          }
1746    
1747          emms();          emms();
1748    
1749      /* XXX: hinted me          if (current->sStat.iMvCount == 0)
1750          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {                  current->sStat.iMvCount = 1;
                 HintedMEGet(pEnc, 0);  
         }*/  
   
         if (pEnc->current->sStat.iMvCount == 0)  
                 pEnc->current->sStat.iMvCount = 1;  
1751    
1752          fSigma = (float) sqrt((float) pEnc->current->sStat.iMvSum / pEnc->current->sStat.iMvCount);          fSigma = (float) sqrt((float) current->sStat.iMvSum / current->sStat.iMvCount);
1753    
1754          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);          iSearchRange = 1 << (3 + pParam->m_fcode);
1755    
1756          if ((fSigma > iSearchRange / 3)          if ((fSigma > iSearchRange / 3)
1757          && (pEnc->mbParam.m_fcode <= (3 +  (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL?1:0)  )))     /* maximum search range 128 */          && (pParam->m_fcode <= (3 +  (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0)  ))) /* maximum search range 128 */
1758          {          {
1759                  pEnc->mbParam.m_fcode++;                  pParam->m_fcode++;
1760                  iSearchRange *= 2;                  iSearchRange *= 2;
1761          } else if ((fSigma < iSearchRange / 6)          } else if ((fSigma < iSearchRange / 6)
1762                             && (pEnc->fMvPrevSigma >= 0)                             && (pEnc->fMvPrevSigma >= 0)
1763                             && (pEnc->fMvPrevSigma < iSearchRange / 6)                             && (pEnc->fMvPrevSigma < iSearchRange / 6)
1764                             && (pEnc->mbParam.m_fcode >= (2 + (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL?1:0) )))    /* minimum search range 16 */                             && (pParam->m_fcode >= (2 + (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0) )))        /* minimum search range 16 */
1765          {          {
1766                  pEnc->mbParam.m_fcode--;                  pParam->m_fcode--;
1767                  iSearchRange /= 2;                  iSearchRange /= 2;
1768          }          }
1769    
1770          pEnc->fMvPrevSigma = fSigma;          pEnc->fMvPrevSigma = fSigma;
1771    
1772          /* frame drop code */          /* frame drop code */
1773          //DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);  #if 0
1774          if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);
1775                  (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)  #endif
1776            if (current->sStat.kblks + current->sStat.mblks <
1777                    (pParam->frame_drop_ratio * mb_width * mb_height) / 100)
1778          {          {
1779                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = 0;                  current->sStat.kblks = current->sStat.mblks = 0;
1780                  pEnc->current->sStat.ublks = mb_width * mb_height;                  current->sStat.ublks = mb_width * mb_height;
1781    
1782                  BitstreamReset(bs);                  BitstreamReset(bs);
1783    
1784                  set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);                  set_timecodes(current,reference,pParam->fbase);
1785                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0);
1786    
1787                  /* copy reference frame details into the current frame */                  /* copy reference frame details into the current frame */
1788                  pEnc->current->quant = pEnc->reference->quant;                  current->quant = reference->quant;
1789                  pEnc->current->motion_flags = pEnc->reference->motion_flags;                  current->motion_flags = reference->motion_flags;
1790                  pEnc->current->rounding_type = pEnc->reference->rounding_type;                  current->rounding_type = reference->rounding_type;
1791                  //pEnc->current->quarterpel =  pEnc->reference->quarterpel;                  current->fcode = reference->fcode;
1792                  pEnc->current->fcode = pEnc->reference->fcode;                  current->bcode = reference->bcode;
1793                  pEnc->current->bcode = pEnc->reference->bcode;                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);
1794                  image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1795                  memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);          }
1796          }  
1797            pEnc->current->is_edged = 0; /* not edged */
1798            pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
1799    
1800            /* what was this frame's interpolated reference will become
1801                    forward (past) reference in b-frame coding */
1802    
1803            image_swap(&pEnc->vInterH, &pEnc->f_refh);
1804            image_swap(&pEnc->vInterV, &pEnc->f_refv);
1805            image_swap(&pEnc->vInterHV, &pEnc->f_refhv);
1806    
1807    
1808          /* XXX: debug          /* XXX: debug
1809          {          {
1810                  char s[100];                  char s[100];
1811                  sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);                  sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);
1812                  image_dump_yuvpgm(&pEnc->current->image,                  image_dump_yuvpgm(&current->image,
1813                          pEnc->mbParam.edged_width,                          pParam->edged_width,
1814                          pEnc->mbParam.width, pEnc->mbParam.height, s);                          pParam->width, pParam->height, s);
1815    
1816                  sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);                  sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);
1817                  image_dump_yuvpgm(&pEnc->reference->image,                  image_dump_yuvpgm(&reference->image,
1818                          pEnc->mbParam.edged_width,                          pParam->edged_width,
1819                          pEnc->mbParam.width, pEnc->mbParam.height, s);                          pParam->width, pParam->height, s);
1820          }          }
1821          */          */
1822    
1823  /* XXX: Remove the two #if 0 blocks when we are sure we must always pad the stream */          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
 #if 0  
         /* for divx5 compatibility, we must always pad between the packed p and b frames */  
         if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0)  
 #endif  
                 BitstreamPadAlways(bs);  
 #if 0  
         else  
                 BitstreamPad(bs);  
 #endif  
1824    
1825      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;      current->length = (BitstreamPos(bs) - bits) / 8;
1826    
1827          return 0;                                       /* inter */          return 0;                                       /* inter */
1828  }  }
# Line 1853  Line 1855 
1855          }          }
1856  #endif  #endif
1857    
         //frame->quarterpel =  pEnc->mbParam.m_quarterpel;  
   
1858          /* forward  */          /* forward  */
1859            if (!pEnc->reference->is_edged) {
1860          image_setedges(f_ref, pEnc->mbParam.edged_width,          image_setedges(f_ref, pEnc->mbParam.edged_width,
1861                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1862                                     pEnc->mbParam.height);                                     pEnc->mbParam.height);
1863                    pEnc->current->is_edged = 1;
1864            }
1865    
1866            if (pEnc->reference->is_interpolated != 0) {
1867          start_timer();          start_timer();
1868          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1869                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1870                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1871          stop_inter_timer();          stop_inter_timer();
1872                    pEnc->reference->is_interpolated = 0;
1873            }
1874    
1875          /* backward */          /* backward */
1876            if (!pEnc->current->is_edged) {
1877          image_setedges(b_ref, pEnc->mbParam.edged_width,          image_setedges(b_ref, pEnc->mbParam.edged_width,
1878                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1879                                     pEnc->mbParam.height);                                     pEnc->mbParam.height);
1880                    pEnc->current->is_edged = 1;
1881            }
1882    
1883            if (pEnc->current->is_interpolated != 0) {
1884          start_timer();          start_timer();
1885          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1886                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1887                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1888          stop_inter_timer();          stop_inter_timer();
1889                    pEnc->current->is_interpolated = 0;
1890            }
1891    
1892          start_timer();          start_timer();
   
1893          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
1894                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */
1895                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */
# Line 1884  Line 1897 
1897                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1898                                                   pEnc->current, b_ref, &pEnc->vInterH,                                                   pEnc->current, b_ref, &pEnc->vInterH,
1899                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
   
   
1900          stop_motion_timer();          stop_motion_timer();
1901    
         /*  
         if (test_quant_type(&pEnc->mbParam, pEnc->current)) {  
                 BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);  
         }  
         */  
   
1902          frame->coding_type = B_VOP;          frame->coding_type = B_VOP;
1903    
1904          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
# Line 1909  Line 1914 
1914          for (y = 0; y < pEnc->mbParam.mb_height; y++) {          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1915                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1916                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
                         int direction = frame->vop_flags & XVID_VOP_ALTERNATESCAN ? 2 : 0;  
1917    
1918                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */
1919                          if (mb->mode == MODE_NOT_CODED) {                          if (mb->mode == MODE_NOT_CODED) {
1920                                  /* mb->mvs[0].x = mb->mvs[0].y = mb->cbp = 0; */                                  if (pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {
1921                                            MBMotionCompensation(mb, x, y, f_ref, NULL, f_ref, NULL, NULL, &frame->image,
1922                                                                                            NULL, 0, 0, pEnc->mbParam.edged_width, 0, 0, 0);
1923                                    }
1924    
1925                                  continue;                                  continue;
1926                          }                          }
1927    
# Line 1936  Line 1944 
1944                                  }                                  }
1945                          }                          }
1946    
1947  #ifdef BFRAMES_DEC_DEBUG                          /* keep only bits 5-2 -- Chroma blocks will just be skipped by the
1948          BFRAME_DEBUG                           * coding function for BFrames, that's why we don't zero teh DC
1949  #endif                           * coeffs */
1950                            if ((frame->vop_flags & XVID_VOP_GREYSCALE))
1951                                    mb->cbp &= 0x3C;
1952    
1953                          start_timer();                          start_timer();
1954                          MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,                          MBCodingBVOP(frame, mb, qcoeff, frame->fcode, frame->bcode, bs,
1955                                                   &frame->sStat, direction);                                                   &frame->sStat);
1956                          stop_coding_timer();                          stop_coding_timer();
1957                  }                  }
1958          }          }
# Line 1950  Line 1961 
1961    
1962          /* TODO: dynamic fcode/bcode ??? */          /* TODO: dynamic fcode/bcode ??? */
1963    
1964      BitstreamPadAlways(bs);      BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
1965          frame->length = (BitstreamPos(bs) - bits) / 8;          frame->length = (BitstreamPos(bs) - bits) / 8;
1966    
1967  #ifdef BFRAMES_DEC_DEBUG  #ifdef BFRAMES_DEC_DEBUG
Legend:
Removed from v.1038  
changed lines
  Added in v.1210
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4