[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1574, Fri Dec 10 05:37:11 2004 UTC revision 1665, Sat Dec 17 12:04:52 2005 UTC
# Line 21  Line 21 
21   *  along with this program ; if not, write to the Free Software   *  along with this program ; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: encoder.c,v 1.116 2004-12-10 05:37:11 syskin Exp $   * $Id: encoder.c,v 1.122 2005-12-17 12:04:52 syskin Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 85  Line 85 
85  /*  /*
86   * Simplify the "fincr/fbase" fraction   * Simplify the "fincr/fbase" fraction
87  */  */
88    static int
89    gcd(int a, int b)
90    {
91            int r ;
92    
93            if (b > a) {
94                    r = a;
95                    a = b;
96                    b = r;
97            }
98    
99            while ((r = a % b)) {
100                    a = b;
101                    b = r;
102            }
103            return b;
104    }
105    
106  static void  static void
107  simplify_time(int *inc, int *base)  simplify_time(int *inc, int *base)
108  {  {
109          /* common factor */          /* common factor */
110          int i = *inc;          const int s = gcd(*inc, *base);
111          while (i > 1) {    *inc  /= s;
112                  if (*inc % i == 0 && *base % i == 0) {    *base /= s;
                         *inc /= i;  
                         *base /= i;  
                         i = *inc;  
                         continue;  
                 }  
                 i--;  
         }  
113    
114          if (*base > 65535 || *inc > 65535) {          if (*base > 65535 || *inc > 65535) {
115                  int *biggest;                  int *biggest;
# Line 114  Line 125 
125                  }                  }
126    
127                  div = ((float)*biggest)/((float)65535);                  div = ((float)*biggest)/((float)65535);
128                  *biggest = (int)(((float)*biggest)/div);                  *biggest = (unsigned int)(((float)*biggest)/div);
129                  *other = (int)(((float)*other)/div);                  *other = (unsigned int)(((float)*other)/div);
130          }          }
131  }  }
132    
# Line 146  Line 157 
157    
158          /* global flags */          /* global flags */
159          pEnc->mbParam.global_flags = create->global;          pEnc->mbParam.global_flags = create->global;
160      if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED))
161        pEnc->mbParam.global_flags |= XVID_GLOBAL_DIVX5_USERDATA;
162    
163          /* width, height */          /* width, height */
164          pEnc->mbParam.width = create->width;          pEnc->mbParam.width = create->width;
# Line 159  Line 172 
172          pEnc->mbParam.fincr = MAX(create->fincr, 0);          pEnc->mbParam.fincr = MAX(create->fincr, 0);
173          pEnc->mbParam.fbase = create->fincr <= 0 ? 25 : create->fbase;          pEnc->mbParam.fbase = create->fincr <= 0 ? 25 : create->fbase;
174          if (pEnc->mbParam.fincr>0)          if (pEnc->mbParam.fincr>0)
175                  simplify_time(&pEnc->mbParam.fincr, &pEnc->mbParam.fbase);                  simplify_time((int*)&pEnc->mbParam.fincr, (int*)&pEnc->mbParam.fbase);
176    
177          /* zones */          /* zones */
178          if(create->num_zones > 0) {          if(create->num_zones > 0) {
# Line 190  Line 203 
203    
204                  memset(&pinfo, 0, sizeof(xvid_plg_info_t));                  memset(&pinfo, 0, sizeof(xvid_plg_info_t));
205                  pinfo.version = XVID_VERSION;                  pinfo.version = XVID_VERSION;
206                  if (create->plugins[n].func(0, XVID_PLG_INFO, &pinfo, 0) >= 0) {                  if (create->plugins[n].func(NULL, XVID_PLG_INFO, &pinfo, NULL) >= 0) {
207                          pEnc->mbParam.plugin_flags |= pinfo.flags;                          pEnc->mbParam.plugin_flags |= pinfo.flags;
208                  }                  }
209    
# Line 207  Line 220 
220                  pcreate.param = create->plugins[n].param;                  pcreate.param = create->plugins[n].param;
221    
222                  pEnc->plugins[n].func = NULL;   /* disable plugins that fail */                  pEnc->plugins[n].func = NULL;   /* disable plugins that fail */
223                  if (create->plugins[n].func(0, XVID_PLG_CREATE, &pcreate, &pEnc->plugins[n].param) >= 0) {                  if (create->plugins[n].func(NULL, XVID_PLG_CREATE, &pcreate, &pEnc->plugins[n].param) >= 0) {
224                          pEnc->plugins[n].func = create->plugins[n].func;                          pEnc->plugins[n].func = create->plugins[n].func;
225                  }                  }
226          }          }
# Line 225  Line 238 
238                          goto xvid_err_memory1a;                          goto xvid_err_memory1a;
239          }          }
240    
241            /* temp lambdas */
242            if (pEnc->mbParam.plugin_flags & XVID_REQLAMBDA) {
243                    pEnc->temp_lambda = (float *) xvid_malloc(pEnc->mbParam.mb_width *
244                                                    pEnc->mbParam.mb_height * 6 * sizeof(float), CACHE_LINE);
245                    if (pEnc->temp_lambda == NULL)
246                            goto xvid_err_memory1a;
247            }
248    
249          /* bframes */          /* bframes */
250          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);
251          pEnc->mbParam.bquant_ratio = MAX(create->bquant_ratio, 0);          pEnc->mbParam.bquant_ratio = MAX(create->bquant_ratio, 0);
# Line 506  Line 527 
527                  xvid_free(pEnc->temp_dquants);                  xvid_free(pEnc->temp_dquants);
528          }          }
529    
530            if(pEnc->mbParam.plugin_flags & XVID_REQLAMBDA) {
531                    xvid_free(pEnc->temp_lambda);
532            }
533    
534    xvid_err_memory0:    xvid_err_memory0:
535          for (n=0; n<pEnc->num_plugins;n++) {          for (n=0; n<pEnc->num_plugins;n++) {
536                  if (pEnc->plugins[n].func) {                  if (pEnc->plugins[n].func) {
537                          pEnc->plugins[n].func(pEnc->plugins[n].param, XVID_PLG_DESTROY, 0, 0);                          pEnc->plugins[n].func(pEnc->plugins[n].param, XVID_PLG_DESTROY, NULL, NULL);
538                  }                  }
539          }          }
540          xvid_free(pEnc->plugins);          xvid_free(pEnc->plugins);
# Line 614  Line 639 
639    
640                  for (i=0; i<pEnc->num_plugins;i++) {                  for (i=0; i<pEnc->num_plugins;i++) {
641                          if (pEnc->plugins[i].func) {                          if (pEnc->plugins[i].func) {
642                                  pEnc->plugins[i].func(pEnc->plugins[i].param, XVID_PLG_DESTROY, &pdestroy, 0);                                  pEnc->plugins[i].func(pEnc->plugins[i].param, XVID_PLG_DESTROY, &pdestroy, NULL);
643                          }                          }
644                  }                  }
645                  xvid_free(pEnc->plugins);                  xvid_free(pEnc->plugins);
# Line 638  Line 663 
663  static void call_plugins(Encoder * pEnc, FRAMEINFO * frame, IMAGE * original,  static void call_plugins(Encoder * pEnc, FRAMEINFO * frame, IMAGE * original,
664                                                   int opt, int * type, int * quant, xvid_enc_stats_t * stats)                                                   int opt, int * type, int * quant, xvid_enc_stats_t * stats)
665  {  {
666          unsigned int i, j;          unsigned int i, j, k;
667          xvid_plg_data_t data;          xvid_plg_data_t data;
668    
669          /* set data struct */          /* set data struct */
# Line 700  Line 725 
725                          memset(data.dquant, 0, data.mb_width*data.mb_height);                          memset(data.dquant, 0, data.mb_width*data.mb_height);
726                  }                  }
727    
728                    if(pEnc->mbParam.plugin_flags & XVID_REQLAMBDA) {
729                            int block = 0;
730                            data.lambda = pEnc->temp_lambda;
731                            for(i = 0;i < pEnc->mbParam.mb_height; i++)
732                                    for(j = 0;j < pEnc->mbParam.mb_width; j++)
733                                            for (k = 0; k < 6; k++)
734                                                    data.lambda[block++] = 1.0f;
735                    }
736    
737          } else { /* XVID_PLG_AFTER */          } else { /* XVID_PLG_AFTER */
738                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
739                          data.original.csp = XVID_CSP_PLANAR;                          data.original.csp = XVID_CSP_PLANAR;
# Line 774  Line 808 
808          for (i=0; i<(unsigned int)pEnc->num_plugins;i++) {          for (i=0; i<(unsigned int)pEnc->num_plugins;i++) {
809                  emms();                  emms();
810                  if (pEnc->plugins[i].func) {                  if (pEnc->plugins[i].func) {
811                          if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {                          if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, NULL) < 0) {
812                                  continue;                                  continue;
813                          }                          }
814                  }                  }
# Line 803  Line 837 
837                                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
838                          }                          }
839                  }                  }
840    
841                    if (pEnc->mbParam.plugin_flags & XVID_REQLAMBDA) {
842                            for (j = 0; j < pEnc->mbParam.mb_height; j++)
843                                    for (i = 0; i < pEnc->mbParam.mb_width; i++)
844                                            for (k = 0; k < 6; k++) {
845                                                    frame->mbs[j*pEnc->mbParam.mb_width + i].lambda[k] =
846                                                            (int) ((float)(1<<LAMBDA_EXP) * data.lambda[6 * (j * data.mb_width + i) + k]);
847                            }
848                    } else {
849                            for (j = 0; j<pEnc->mbParam.mb_height; j++)
850                                    for (i = 0; i<pEnc->mbParam.mb_width; i++)
851                                            for (k = 0; k < 6; k++) {
852                                                    frame->mbs[j*pEnc->mbParam.mb_width + i].lambda[k] = 1<<LAMBDA_EXP;
853                            }
854                    }
855    
856    
857                  frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */                  frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */
858          }          }
859    
# Line 872  Line 923 
923  #endif  #endif
924  }  }
925    
 static int  
 gcd(int a, int b)  
 {  
         int r ;  
   
         if (b > a) {  
                 r = a;  
                 a = b;  
                 b = r;  
         }  
   
         while ((r = a % b)) {  
                 a = b;  
                 b = r;  
         }  
         return b;  
 }  
   
926  static void  static void
927  simplify_par(int *par_width, int *par_height)  simplify_par(int *par_width, int *par_height)
928  {  {
# Line 1015  Line 1048 
1048                          }                          }
1049    
1050                          FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs);                          FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs);
1051                          call_plugins(pEnc, pEnc->bframes[pEnc->bframenum_head], &pEnc->sOriginal2, XVID_PLG_AFTER, 0, 0, stats);                          call_plugins(pEnc, pEnc->bframes[pEnc->bframenum_head], &pEnc->sOriginal2, XVID_PLG_AFTER, NULL, NULL, stats);
1052                          pEnc->bframenum_head++;                          pEnc->bframenum_head++;
1053    
1054                          goto done;                          goto done;
# Line 1047  Line 1080 
1080    
1081                          /* add the not-coded length to the reference frame size */                          /* add the not-coded length to the reference frame size */
1082                          pEnc->current->length += (BitstreamPos(&bs) - bits) / 8;                          pEnc->current->length += (BitstreamPos(&bs) - bits) / 8;
1083                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, NULL, NULL, stats);
1084    
1085                          /* flush complete: reset counters */                          /* flush complete: reset counters */
1086                          pEnc->flush_bframes = 0;                          pEnc->flush_bframes = 0;
# Line 1075  Line 1108 
1108                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1109    
1110                          if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0) {                          if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0) {
1111                                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, NULL, NULL, stats);
1112                          }                          }
1113    
1114                          /* if the very last frame is to be b-vop, we must change it to a p-vop */                          /* if the very last frame is to be b-vop, we must change it to a p-vop */
# Line 1104  Line 1137 
1137    
1138    
1139                                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {                                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {
1140                                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, NULL, NULL, stats);
1141                                  }else{                                  }else{
1142                                          pEnc->flush_bframes = 1;                                          pEnc->flush_bframes = 1;
1143                                          goto done;                                          goto done;
# Line 1153  Line 1186 
1186          type = frame->type;          type = frame->type;
1187          pEnc->current->quant = frame->quant;          pEnc->current->quant = frame->quant;
1188    
1189          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_BEFORE, &type, &pEnc->current->quant, stats);          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_BEFORE, &type, (int*)&pEnc->current->quant, stats);
1190    
1191          if (type > 0){  /* XVID_TYPE_?VOP */          if (type > 0){  /* XVID_TYPE_?VOP */
1192                  type = type2coding(type);       /* convert XVID_TYPE_?VOP to bitstream coding type */                  type = type2coding(type);       /* convert XVID_TYPE_?VOP to bitstream coding type */
# Line 1228  Line 1261 
1261          if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0)          if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0)
1262          {          {
1263                  if (pEnc->current->stamp > 0) {                  if (pEnc->current->stamp > 0) {
1264                          call_plugins(pEnc, pEnc->reference, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                          call_plugins(pEnc, pEnc->reference, &pEnc->sOriginal, XVID_PLG_AFTER, NULL, NULL, stats);
1265                  }                  }
1266                  else                  else
1267                          stats->type = XVID_TYPE_NOTHING;                          stats->type = XVID_TYPE_NOTHING;
# Line 1256  Line 1289 
1289                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1290    
1291                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1292                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "CLOSED GOP BVOP->PVOP");
1293                  }                  }
1294    
1295                  /* convert B-VOP quant to P-VOP */                  /* convert B-VOP quant to P-VOP */
# Line 1351  Line 1384 
1384    
1385                  if ( FrameCodeP(pEnc, &bs) == 0 ) {                  if ( FrameCodeP(pEnc, &bs) == 0 ) {
1386                          /* N-VOP, we mustn't code b-frames yet */                          /* N-VOP, we mustn't code b-frames yet */
1387                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, NULL, NULL, stats);
1388                          goto done;                          goto done;
1389                  }                  }
1390          }          }
# Line 1372  Line 1405 
1405    
1406          /* packed or no-bframes or no-bframes-queued: output stats */          /* packed or no-bframes or no-bframes-queued: output stats */
1407          if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) || pEnc->mbParam.max_bframes == 0 ) {          if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) || pEnc->mbParam.max_bframes == 0 ) {
1408                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, NULL, NULL, stats);
1409          }          }
1410    
1411          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
# Line 1559  Line 1592 
1592          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1593                  if (reference->is_interpolated != current->rounding_type) {                  if (reference->is_interpolated != current->rounding_type) {
1594                          start_timer();                          start_timer();
1595                          image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                          image_interpolate(pRef->y, pEnc->vInterH.y, pEnc->vInterV.y,
1596                                                            &pEnc->vInterHV, pParam->edged_width,                                                            pEnc->vInterHV.y, pParam->edged_width,
1597                                                            pParam->edged_height,                                                            pParam->edged_height,
1598                                                            (pParam->vol_flags & XVID_VOL_QUARTERPEL),                                                            (pParam->vol_flags & XVID_VOL_QUARTERPEL),
1599                                                            current->rounding_type);                                                            current->rounding_type);
# Line 1852  Line 1885 
1885    
1886          if (pEnc->reference->is_interpolated != 0) {          if (pEnc->reference->is_interpolated != 0) {
1887                  start_timer();                  start_timer();
1888                  image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                  image_interpolate(f_ref->y, pEnc->f_refh.y, pEnc->f_refv.y, pEnc->f_refhv.y,
1889                                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1890                                                    (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                                    (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1891                  stop_inter_timer();                  stop_inter_timer();
# Line 1869  Line 1902 
1902    
1903          if (pEnc->current->is_interpolated != 0) {          if (pEnc->current->is_interpolated != 0) {
1904                  start_timer();                  start_timer();
1905                  image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                  image_interpolate(b_ref->y, pEnc->vInterH.y, pEnc->vInterV.y, pEnc->vInterHV.y,
1906                                                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1907                                                  (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                                  (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1908                  stop_inter_timer();                  stop_inter_timer();
# Line 1877  Line 1910 
1910          }          }
1911    
1912          frame->coding_type = B_VOP;          frame->coding_type = B_VOP;
1913          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);          call_plugins(pEnc, frame, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1914    
1915          start_timer();          start_timer();
1916          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,

Legend:
Removed from v.1574  
changed lines
  Added in v.1665

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4