[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 36, Sat Mar 16 15:55:12 2002 UTC revision 73, Thu Mar 28 12:24:41 2002 UTC
# Line 16  Line 16 
16  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
17  #include "quant/adapt_quant.h"  #include "quant/adapt_quant.h"
18  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
19    #include "utils/mem_align.h"
20    
21  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
22    
# Line 81  Line 82 
82                  pParam->bitrate = 900000;                  pParam->bitrate = 900000;
83    
84          if (pParam->rc_buffersize <= 0)          if (pParam->rc_buffersize <= 0)
85                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_buffersize = 16;
86    
87          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 95  Line 96 
96          if (pParam->max_quantizer < pParam->min_quantizer)          if (pParam->max_quantizer < pParam->min_quantizer)
97                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
98    
99          if ((pEnc = (Encoder *) malloc(sizeof(Encoder))) == NULL)          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
101    
102          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
# Line 122  Line 123 
123    
124          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
125          {          {
126                  free(pEnc);                  xvid_free(pEnc);
127                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
128          }          }
129    
130          if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
131          {          {
132                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
133                  free(pEnc);                  xvid_free(pEnc);
134                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
135          }          }
136    
# Line 137  Line 138 
138          {          {
139                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
140                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
141                  free(pEnc);                  xvid_free(pEnc);
142                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
143          }          }
144    
# Line 146  Line 147 
147                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
148                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150                  free(pEnc);                  xvid_free(pEnc);
151                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
152          }          }
153    
# Line 156  Line 157 
157                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
158                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
159                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
160                  free(pEnc);                  xvid_free(pEnc);
161                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
162          }          }
163    
164          pEnc->pMBs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);          pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE);
165          if (pEnc->pMBs == NULL)          if (pEnc->pMBs == NULL)
166          {          {
167                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
# Line 168  Line 169 
169                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
170                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
171                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
172                  free(pEnc);                  xvid_free(pEnc);
173                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
174          }          }
175    
# Line 182  Line 183 
183    
184          if (pParam->bitrate)          if (pParam->bitrate)
185          {          {
186                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 100 / pParam->fincr,
187                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);                                  pParam->max_quantizer, pParam->min_quantizer);
188          }          }
189    
190          create_vlc_tables();          create_vlc_tables();
# Line 199  Line 200 
200          ENC_CHECK(pEnc->sCurrent.y);          ENC_CHECK(pEnc->sCurrent.y);
201          ENC_CHECK(pEnc->sReference.y);          ENC_CHECK(pEnc->sReference.y);
202    
203          free(pEnc->pMBs);          xvid_free(pEnc->pMBs);
204          image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
205          image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
206          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
207          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
208          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
209          free(pEnc);          xvid_free(pEnc);
210    
211          destroy_vlc_tables();          destroy_vlc_tables();
212    
# Line 237  Line 238 
238          }          }
239          stop_conv_timer();          stop_conv_timer();
240    
241            EMMS();
242    
243          BitstreamInit(&bs, pFrame->bitstream, 0);          BitstreamInit(&bs, pFrame->bitstream, 0);
244    
245          if (pFrame->quant == 0)          if (pFrame->quant == 0)
# Line 250  Line 253 
253    
254          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
255          {          {
256                  int * temp_dquants = (int *) malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int));                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
257    
258                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,
259                                                              temp_dquants, pFrame->quant, pFrame->quant,                                                              temp_dquants, pFrame->quant, pFrame->quant,
# Line 262  Line 265 
265                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
266                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
267                          }                          }
268                  free(temp_dquants);                  xvid_free(temp_dquants);
269          }          }
270    
271          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
# Line 323  Line 326 
326                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
327          }          }
328    
329            EMMS();
330    
331          if (pFrame->quant == 0)          if (pFrame->quant == 0)
332          {          {
333                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
# Line 359  Line 364 
364    
365  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
366  {  {
367          int16_t dct_codes[6][64];  #ifdef LINUX
368          int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes,6,64,int16_t,16);
369            DECLARE_ALIGNED_MATRIX(qcoeff,6,64,int16_t,16);
370    #else
371            CACHE_ALIGN int16_t dct_codes[6][64];
372            CACHE_ALIGN int16_t qcoeff[6][64];
373    #endif
374          uint16_t x, y;          uint16_t x, y;
375    
376          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
377          pEnc->mbParam.rounding_type = 1;          pEnc->mbParam.rounding_type = 1;
378          pEnc->mbParam.coding_type = I_VOP;          pEnc->mbParam.coding_type = I_VOP;
379    
380          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
381          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                                 pEnc->mbParam.quant,  
                                 pEnc->mbParam.fixed_code);  
382    
383          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
384    
# Line 385  Line 393 
393    
394                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
395    
396                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, &pEnc->sCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
397    
398                          start_timer();                          start_timer();
399                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
# Line 413  Line 421 
421  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
422  {  {
423          float fSigma;          float fSigma;
424          int16_t dct_codes[6][64];  #ifdef LINUX
425          int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes,6,64,int16_t,16);
426            DECLARE_ALIGNED_MATRIX(qcoeff,6,64,int16_t,16);
427    #else
428            CACHE_ALIGN int16_t dct_codes[6][64];
429            CACHE_ALIGN int16_t qcoeff[6][64];
430    #endif
431    
432          int iLimit;          int iLimit;
433          uint32_t x, y;          uint32_t x, y;
434          int iSearchRange;          int iSearchRange;
# Line 423  Line 437 
437          IMAGE *pCurrent = &pEnc->sCurrent;          IMAGE *pCurrent = &pEnc->sCurrent;
438          IMAGE *pRef = &pEnc->sReference;          IMAGE *pRef = &pEnc->sReference;
439    
440          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          start_timer();
441            image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.global_flags & XVID_INTERLACING);
442            stop_edges_timer();
443    
444          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
445    
# Line 452  Line 468 
468          pEnc->mbParam.coding_type = P_VOP;          pEnc->mbParam.coding_type = P_VOP;
469    
470          if(vol_header)          if(vol_header)
471                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam);
472    
473          BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                                 pEnc->mbParam.quant,  
                                 pEnc->mbParam.fixed_code);  
474    
475          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
476    
# Line 495  Line 509 
509                                  }                                  }
510                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->mbParam.quant;
511    
512                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
513    
514                                    pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
515                          }                          }
516                          else                          else
517                          {                          {
518                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
519                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
520                          }                          }
521    
522                          start_timer();                          start_timer();

Legend:
Removed from v.36  
changed lines
  Added in v.73

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4