[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 4, Fri Mar 8 19:17:46 2002 UTC revision 100, Thu Apr 4 13:58:18 2002 UTC
# Line 16  Line 16 
16  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
17  #include "quant/adapt_quant.h"  #include "quant/adapt_quant.h"
18  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
19    #include "utils/mem_align.h"
20    
21  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
22    
# Line 81  Line 82 
82                  pParam->bitrate = 900000;                  pParam->bitrate = 900000;
83    
84      if (pParam->rc_buffersize <= 0)      if (pParam->rc_buffersize <= 0)
85                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_buffersize = 16;
86    
87      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 95  Line 96 
96      if (pParam->max_quantizer < pParam->min_quantizer)      if (pParam->max_quantizer < pParam->min_quantizer)
97                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
98    
99      if ((pEnc = (Encoder *) malloc(sizeof(Encoder))) == NULL)          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
101    
102          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
# Line 120  Line 121 
121      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
122      pEnc->iMaxKeyInterval = pParam->max_key_interval;      pEnc->iMaxKeyInterval = pParam->max_key_interval;
123    
124      if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          /* try to allocate memory */
     {  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
         if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
     if (image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
     if (image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
     if (image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
125    
126          pEnc->pMBs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);          pEnc->sCurrent.y        =       pEnc->sCurrent.u        =       pEnc->sCurrent.v        = NULL;
127          if (pEnc->pMBs == NULL)          pEnc->sReference.y      =       pEnc->sReference.u      =       pEnc->sReference.v      = NULL;
128            pEnc->vInterH.y         =       pEnc->vInterH.u         =       pEnc->vInterH.v         = NULL;
129            pEnc->vInterV.y         =       pEnc->vInterV.u         =       pEnc->vInterV.v         = NULL;
130            pEnc->vInterVf.y        =       pEnc->vInterVf.u        =       pEnc->vInterVf.v        = NULL;
131            pEnc->vInterHV.y        =       pEnc->vInterHV.u        =       pEnc->vInterHV.v        = NULL;
132            pEnc->vInterHVf.y       =       pEnc->vInterHVf.u       =       pEnc->vInterHVf.v       = NULL;
133    
134            pEnc->pMBs = NULL;
135    
136            if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
137                    image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
138                    image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139                    image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140                    image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141                    image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142                    image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143                    (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
144          {          {
145                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
146                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
147                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
148                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149                    image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151                  free(pEnc);                  image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152                    if (pEnc)
153                    {
154                            xvid_free(pEnc);
155                    }
156                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
157          }          }
158    
# Line 182  Line 166 
166    
167          if (pParam->bitrate)          if (pParam->bitrate)
168          {          {
169                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 100 / pParam->fincr,
170                                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);                                  pParam->max_quantizer, pParam->min_quantizer);
171          }          }
172    
173          create_vlc_tables();          init_timer();
174    
175          return XVID_ERR_OK;          return XVID_ERR_OK;
176  }  }
# Line 198  Line 182 
182      ENC_CHECK(pEnc->sCurrent.y);      ENC_CHECK(pEnc->sCurrent.y);
183      ENC_CHECK(pEnc->sReference.y);      ENC_CHECK(pEnc->sReference.y);
184    
185          free(pEnc->pMBs);          xvid_free(pEnc->pMBs);
186      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
187      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
188      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
189      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
190            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
191      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
192      free(pEnc);          image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
193            xvid_free(pEnc);
         destroy_vlc_tables();  
194    
195      return XVID_ERR_OK;      return XVID_ERR_OK;
196  }  }
# Line 216  Line 200 
200      uint16_t x, y;      uint16_t x, y;
201      Bitstream bs;      Bitstream bs;
202      uint32_t bits;      uint32_t bits;
         uint16_t quant_type = 0;  
203          uint16_t write_vol_header = 0;          uint16_t write_vol_header = 0;
204    
     IMAGE *pCurrent = &(pEnc->sCurrent);  
   
205          start_global_timer();          start_global_timer();
206    
207      ENC_CHECK(pEnc);      ENC_CHECK(pEnc);
# Line 239  Line 220 
220          }          }
221          stop_conv_timer();          stop_conv_timer();
222    
223            EMMS();
224    
225      BitstreamInit(&bs, pFrame->bitstream, 0);      BitstreamInit(&bs, pFrame->bitstream, 0);
226    
227          if (pFrame->quant == 0)          if (pFrame->quant == 0)
# Line 252  Line 235 
235    
236          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
237          {          {
238                  int * temp_dquants = (int *) malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int));                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
239    
240                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
241                          temp_dquants, pFrame->quant, pFrame->quant,                                                              pEnc->mbParam.width,
242                          2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                              temp_dquants,
243                                                                pEnc->mbParam.quant,
244                                                                pEnc->mbParam.quant,
245                                                                2*pEnc->mbParam.quant,
246                                                                pEnc->mbParam.mb_width,
247                                                                pEnc->mbParam.mb_height);
248    
249                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++)
250                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++)
# Line 264  Line 252 
252                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
253                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
254                          }                          }
255                  free(temp_dquants);                  xvid_free(temp_dquants);
256          }          }
257    
258          if(pEnc->mbParam.global_flags & XVID_H263QUANT)          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
259                  quant_type = H263_QUANT;                  if(pEnc->mbParam.quant_type != H263_QUANT)
         else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT)  
                 quant_type = MPEG4_QUANT;  
   
         if(pEnc->mbParam.quant_type != quant_type) {  
                 pEnc->mbParam.quant_type = quant_type;  
260                  write_vol_header = 1;                  write_vol_header = 1;
261                    pEnc->mbParam.quant_type = H263_QUANT;
262          }          }
263          else          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
                 write_vol_header = 0;  
   
         if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0)  
         {  
264                  int ret1, ret2;                  int ret1, ret2;
265    
266                    ret1 = ret2 = 0;
267    
268                    if(pEnc->mbParam.quant_type != MPEG4_QUANT)
269                            write_vol_header = 1;
270    
271                    pEnc->mbParam.quant_type = MPEG4_QUANT;
272    
273                    if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
274                            if(pFrame->quant_intra_matrix != NULL)
275                  ret1 = set_intra_matrix(pFrame->quant_intra_matrix);                  ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
276                            if(pFrame->quant_inter_matrix != NULL)
277                  ret2 = set_inter_matrix(pFrame->quant_inter_matrix);                  ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
278                    }
279                    else {
280                            ret1 = set_intra_matrix(get_default_intra_matrix());
281                            ret2 = set_inter_matrix(get_default_inter_matrix());
282                    }
283                  if(write_vol_header == 0)                  if(write_vol_header == 0)
284                          write_vol_header = ret1 | ret2;                          write_vol_header = ret1 | ret2;
285          }          }
# Line 319  Line 315 
315                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
316      }      }
317    
318      if (pEnc->bitrate)          EMMS();
319    
320            if (pFrame->quant == 0)
321          {          {
322                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
323          }          }
# Line 355  Line 353 
353    
354  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
355  {  {
356      int16_t dct_codes[6][64];  
357      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
358            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
359    
360      uint16_t x, y;      uint16_t x, y;
     IMAGE *pCurrent = &pEnc->sCurrent;  
361    
362      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
363      pEnc->mbParam.rounding_type = 1;      pEnc->mbParam.rounding_type = 1;
364      pEnc->mbParam.coding_type = I_VOP;      pEnc->mbParam.coding_type = I_VOP;
365    
366          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
367          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                         pEnc->mbParam.quant,  
                         pEnc->mbParam.fixed_code);  
368    
369      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
370    
# Line 382  Line 379 
379    
380                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
381    
382                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
383    
384                          start_timer();                          start_timer();
385                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
# Line 410  Line 407 
407  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
408  {  {
409      float fSigma;      float fSigma;
410      int16_t dct_codes[6][64];  
411      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
412            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
413    
414          int iLimit;          int iLimit;
415      uint32_t x, y;      uint32_t x, y;
416      int iSearchRange;      int iSearchRange;
# Line 420  Line 419 
419      IMAGE *pCurrent = &pEnc->sCurrent;      IMAGE *pCurrent = &pEnc->sCurrent;
420      IMAGE *pRef = &pEnc->sReference;      IMAGE *pRef = &pEnc->sReference;
421    
422          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          start_timer();
423            image_setedges(pRef,
424                           pEnc->mbParam.edged_width,
425                           pEnc->mbParam.edged_height,
426                           pEnc->mbParam.width,
427                           pEnc->mbParam.height,
428                           pEnc->mbParam.global_flags & XVID_INTERLACING);
429            stop_edges_timer();
430    
431      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
432    
# Line 449  Line 455 
455      pEnc->mbParam.coding_type = P_VOP;      pEnc->mbParam.coding_type = P_VOP;
456    
457          if(vol_header)          if(vol_header)
458                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam);
459    
460      BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                          pEnc->mbParam.quant,  
                          pEnc->mbParam.fixed_code);  
461    
462      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
463    
# Line 473  Line 477 
477                          if (!bIntra)                          if (!bIntra)
478                      {                      {
479                                  start_timer();                                  start_timer();
480                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB,
481                                          &pEnc->vInterH, &pEnc->vInterV,                                                       x, y,
482                                          &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                       &pEnc->sReference,
483                                                         &pEnc->vInterH,
484                                                         &pEnc->vInterV,
485                                                         &pEnc->vInterHV,
486                                                         &pEnc->sCurrent,
487                                                         dct_codes,
488                                          pEnc->mbParam.width,                                          pEnc->mbParam.width,
489                                          pEnc->mbParam.height,                                          pEnc->mbParam.height,
490                                          pEnc->mbParam.edged_width,                                          pEnc->mbParam.edged_width,
# Line 492  Line 501 
501                                  }                                  }
502                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->mbParam.quant;
503    
504                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
505    
506                                    pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
507                      }                      }
508                          else                          else
509                          {                          {
510                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
511                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
512                          }                          }
513    
514                      start_timer();                      start_timer();

Legend:
Removed from v.4  
changed lines
  Added in v.100

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4