[svn] / branches / dev-api-3 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /branches/dev-api-3/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 73, Thu Mar 28 12:24:41 2002 UTC revision 87, Fri Mar 29 07:24:57 2002 UTC
# Line 121  Line 121 
121          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
122          pEnc->iMaxKeyInterval = pParam->max_key_interval;          pEnc->iMaxKeyInterval = pParam->max_key_interval;
123    
124          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          /* try to allocate memory */
         {  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
   
         if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
         {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
125    
126          if (image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          pEnc->sCurrent.y        =       pEnc->sCurrent.u        =       pEnc->sCurrent.v        = NULL;
127          {          pEnc->sReference.y      =       pEnc->sReference.u      =       pEnc->sReference.v      = NULL;
128                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterH.y         =       pEnc->vInterH.u         =       pEnc->vInterH.v         = NULL;
129                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterV.y         =       pEnc->vInterV.u         =       pEnc->vInterV.v         = NULL;
130                  xvid_free(pEnc);          pEnc->vInterVf.y        =       pEnc->vInterVf.u        =       pEnc->vInterVf.v        = NULL;
131                  return XVID_ERR_MEMORY;          pEnc->vInterHV.y        =       pEnc->vInterHV.u        =       pEnc->vInterHV.v        = NULL;
132          }          pEnc->vInterHVf.y       =       pEnc->vInterHVf.u       =       pEnc->vInterHVf.v       = NULL;
133    
134          if (image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          pEnc->pMBs = NULL;
135          {  
136                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
137                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
138                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139                  xvid_free(pEnc);                  image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140                  return XVID_ERR_MEMORY;                  image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141          }                  image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142                    image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143          if (image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)                  (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
         {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
   
         pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE);  
         if (pEnc->pMBs == NULL)  
144          {          {
145                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
146                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
147                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
148                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149                    image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151                    image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152                    if (pEnc)
153                    {
154                  xvid_free(pEnc);                  xvid_free(pEnc);
155                    }
156                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
157          }          }
158    
# Line 205  Line 188 
188          image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
189          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
190          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
191            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
192          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
193            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
194          xvid_free(pEnc);          xvid_free(pEnc);
195    
196          destroy_vlc_tables();          destroy_vlc_tables();
# Line 255  Line 240 
240          {          {
241                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
242    
243                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
244                                                              temp_dquants, pFrame->quant, pFrame->quant,                                                              pEnc->mbParam.width,
245                                                              2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                              temp_dquants,
246                                                                pEnc->mbParam.quant,
247                                                                pEnc->mbParam.quant,
248                                                                2*pEnc->mbParam.quant,
249                                                                pEnc->mbParam.mb_width,
250                                                                pEnc->mbParam.mb_height);
251    
252                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++)
253                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++)
# Line 276  Line 266 
266          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
267                  int ret1, ret2;                  int ret1, ret2;
268    
269                    ret1 = ret2 = 0;
270    
271                  if(pEnc->mbParam.quant_type != MPEG4_QUANT)                  if(pEnc->mbParam.quant_type != MPEG4_QUANT)
272                          write_vol_header = 1;                          write_vol_header = 1;
273    
# Line 364  Line 356 
356    
357  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
358  {  {
359  #ifdef LINUX  
360          DECLARE_ALIGNED_MATRIX(dct_codes,6,64,int16_t,16);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
361          DECLARE_ALIGNED_MATRIX(qcoeff,6,64,int16_t,16);          DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
362  #else  
         CACHE_ALIGN int16_t dct_codes[6][64];  
         CACHE_ALIGN int16_t qcoeff[6][64];  
 #endif  
363          uint16_t x, y;          uint16_t x, y;
364    
365          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
# Line 421  Line 410 
410  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
411  {  {
412          float fSigma;          float fSigma;
413  #ifdef LINUX  
414          DECLARE_ALIGNED_MATRIX(dct_codes,6,64,int16_t,16);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
415          DECLARE_ALIGNED_MATRIX(qcoeff,6,64,int16_t,16);          DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
 #else  
         CACHE_ALIGN int16_t dct_codes[6][64];  
         CACHE_ALIGN int16_t qcoeff[6][64];  
 #endif  
416    
417          int iLimit;          int iLimit;
418          uint32_t x, y;          uint32_t x, y;
# Line 438  Line 423 
423          IMAGE *pRef = &pEnc->sReference;          IMAGE *pRef = &pEnc->sReference;
424    
425          start_timer();          start_timer();
426          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.global_flags & XVID_INTERLACING);          image_setedges(pRef,
427                           pEnc->mbParam.edged_width,
428                           pEnc->mbParam.edged_height,
429                           pEnc->mbParam.width,
430                           pEnc->mbParam.height,
431                           pEnc->mbParam.global_flags & XVID_INTERLACING);
432          stop_edges_timer();          stop_edges_timer();
433    
434          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
# Line 490  Line 480 
480                          if (!bIntra)                          if (!bIntra)
481                          {                          {
482                                  start_timer();                                  start_timer();
483                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB,
484                                                       &pEnc->vInterH, &pEnc->vInterV,                                                       x, y,
485                                                       &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                       &pEnc->sReference,
486                                                         &pEnc->vInterH,
487                                                         &pEnc->vInterV,
488                                                         &pEnc->vInterHV,
489                                                         &pEnc->sCurrent,
490                                                         dct_codes,
491                                                       pEnc->mbParam.width,                                                       pEnc->mbParam.width,
492                                                       pEnc->mbParam.height,                                                       pEnc->mbParam.height,
493                                                       pEnc->mbParam.edged_width,                                                       pEnc->mbParam.edged_width,

Legend:
Removed from v.73  
changed lines
  Added in v.87

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4