[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 157, Fri May 3 08:37:55 2002 UTC revision 236, Sun Jun 23 19:48:06 2002 UTC
# Line 1  Line 1 
1  /**************************************************************************  /*****************************************************************************
2   *   *
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Encoder main module  -   *  -  Encoder main module  -
# Line 26  Line 26 
26   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
27   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
28   *   *
29   ***************************************************************************/   ****************************************************************************/
30    
31  /****************************************************************************  /*****************************************************************************
32   *   *
33   *  History   *  History
34   *   *
35     *      20.06.2002 bframe patch
36     *  08.05.2002 fix some problem in DEBUG mode;
37     *             MinChen <chenm001@163.com>
38   *  14.04.2002 added FrameCodeB()   *  14.04.2002 added FrameCodeB()
39   *   *
40   *  $Id: encoder.c,v 1.33 2002-05-03 08:32:49 Isibaar Exp $   *  $Id: encoder.c,v 1.47 2002-06-23 19:48:06 edgomez Exp $
41   *   *
42   ***************************************************************************/   ****************************************************************************/
43    
44  #include <stdlib.h>  #include <stdlib.h>
45  #include <stdio.h>  #include <stdio.h>
46  #include <math.h>  #include <math.h>
47    #include <string.h>
48    
49  #include "encoder.h"  #include "encoder.h"
50  #include "prediction/mbprediction.h"  #include "prediction/mbprediction.h"
# Line 59  Line 63 
63  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
64  #include "utils/mem_align.h"  #include "utils/mem_align.h"
65    
66    /*****************************************************************************
67     * Local macros
68     ****************************************************************************/
69    
70  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
71  #define SWAP(A,B)    { void * tmp = A; A = B; B = tmp; }  #define SWAP(A,B)    { void * tmp = A; A = B; B = tmp; }
72    
73    /*****************************************************************************
74     * Local function prototypes
75     ****************************************************************************/
76    
77    static int FrameCodeI(Encoder * pEnc,
78                                              Bitstream * bs,
79                                              uint32_t * pBits);
80    
81    static int FrameCodeP(Encoder * pEnc,
82                                              Bitstream * bs,
83                                              uint32_t * pBits,
84                                              bool force_inter,
85                                              bool vol_header);
86    
87  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);  #ifdef BFRAMES
88  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);  static void FrameCodeB(Encoder * pEnc,
89  static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits);                                             FRAMEINFO * frame,
90                                               Bitstream * bs,
91                                               uint32_t * pBits);
92    #endif
93    
94  static int DQtab[4] =  /*****************************************************************************
95  {   * Local data
96     ****************************************************************************/
97    
98    static int DQtab[4] = {
99          -1, -2, 1, 2          -1, -2, 1, 2
100  };  };
101    
102  static int iDQtab[5] =  static int iDQtab[5] = {
 {  
103          1, 0, NO_CHANGE, 2, 3          1, 0, NO_CHANGE, 2, 3
104  };  };
105    
106    
107  void static image_null(IMAGE * image)  static void __inline
108    image_null(IMAGE * image)
109  {  {
110          image->y = image->u = image->v = NULL;          image->y = image->u = image->v = NULL;
111  }  }
112    
113    
114  int encoder_create(XVID_ENC_PARAM * pParam)  /*****************************************************************************
115     * Encoder creation
116     *
117     * This function creates an Encoder instance, it allocates all necessary
118     * image buffers (reference, current and bframes) and initialize the internal
119     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
120     *
121     * The code seems to be very long but is very basic, mainly memory allocation
122     * and cleaning code.
123     *
124     * Returned values :
125     *    - XVID_ERR_OK     - no errors
126     *    - XVID_ERR_MEMORY - the libc could not allocate memory, the function
127     *                        cleans the structure before exiting.
128     *                        pParam->handle is also set to NULL.
129     *
130     ****************************************************************************/
131    
132    int
133    encoder_create(XVID_ENC_PARAM * pParam)
134  {  {
135          Encoder *pEnc;          Encoder *pEnc;
136          uint32_t i;          int i;
137    
138          pParam->handle = NULL;          pParam->handle = NULL;
139    
# Line 98  Line 144 
144          ENC_CHECK(!(pParam->width % 2));          ENC_CHECK(!(pParam->width % 2));
145          ENC_CHECK(!(pParam->height % 2));          ENC_CHECK(!(pParam->height % 2));
146    
147          if (pParam->fincr <= 0 || pParam->fbase <= 0)          /* Fps */
148          {  
149            if (pParam->fincr <= 0 || pParam->fbase <= 0) {
150                  pParam->fincr = 1;                  pParam->fincr = 1;
151                  pParam->fbase = 25;                  pParam->fbase = 25;
152          }          }
153    
154          // simplify the "fincr/fbase" fraction          /*
155          // (neccessary, since windows supplies us with huge numbers)           * Simplify the "fincr/fbase" fraction
156             * (neccessary, since windows supplies us with huge numbers)
157             */
158    
159          i = pParam->fincr;          i = pParam->fincr;
160          while (i > 1)          while (i > 1) {
161          {                  if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
                 if (pParam->fincr % i == 0 && pParam->fbase % i == 0)  
                 {  
162                          pParam->fincr /= i;                          pParam->fincr /= i;
163                          pParam->fbase /= i;                          pParam->fbase /= i;
164                          i = pParam->fincr;                          i = pParam->fincr;
# Line 120  Line 167 
167                  i--;                  i--;
168          }          }
169    
170          if (pParam->fbase > 65535)          if (pParam->fbase > 65535) {
         {  
171                  float div = (float)pParam->fbase / 65535;                  float div = (float)pParam->fbase / 65535;
172    
173                  pParam->fbase = (int)(pParam->fbase / div);                  pParam->fbase = (int)(pParam->fbase / div);
174                  pParam->fincr = (int)(pParam->fincr / div);                  pParam->fincr = (int)(pParam->fincr / div);
175          }          }
176    
177            /* Bitrate allocator defaults */
178    
179          if (pParam->rc_bitrate <= 0)          if (pParam->rc_bitrate <= 0)
180                  pParam->rc_bitrate = 900000;                  pParam->rc_bitrate = 900000;
181    
# Line 139  Line 188 
188          if (pParam->rc_buffer <= 0)          if (pParam->rc_buffer <= 0)
189                  pParam->rc_buffer = 100;                  pParam->rc_buffer = 100;
190    
191            /* Max and min quantizers */
192    
193          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
194                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
195    
196          if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))          if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
197                  pParam->max_quantizer = 31;                  pParam->max_quantizer = 31;
198    
         if (pParam->max_key_interval == 0)              /* 1 keyframe each 10 seconds */  
                 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;  
   
199          if (pParam->max_quantizer < pParam->min_quantizer)          if (pParam->max_quantizer < pParam->min_quantizer)
200                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
201    
202          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)          /* 1 keyframe each 10 seconds */
203    
204            if (pParam->max_key_interval == 0)
205                    pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
206    
207    
208            pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
209            if (pEnc == NULL)
210                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
211    
212            /* Zero the Encoder Structure */
213    
214            memset(pEnc, 0, sizeof(Encoder));
215    
216          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
217    
218          pEnc->mbParam.width = pParam->width;          pEnc->mbParam.width = pParam->width;
# Line 168  Line 227 
227          pEnc->mbParam.fbase = pParam->fbase;          pEnc->mbParam.fbase = pParam->fbase;
228          pEnc->mbParam.fincr = pParam->fincr;          pEnc->mbParam.fincr = pParam->fincr;
229    
230            pEnc->mbParam.m_quant_type = H263_QUANT;
231    
232          pEnc->sStat.fMvPrevSigma = -1;          pEnc->sStat.fMvPrevSigma = -1;
233    
234          /* Fill rate control parameters */          /* Fill rate control parameters */
# Line 179  Line 240 
240    
241          /* try to allocate frame memory */          /* try to allocate frame memory */
242    
243          pEnc->current = NULL;          pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
244          pEnc->reference = NULL;          pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
245          if ( (pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE)) == NULL ||  
246                   (pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE)) == NULL)          if (pEnc->current == NULL || pEnc->reference == NULL)
247          {                  goto xvid_err_memory1;
                 if (pEnc->current) xvid_free(pEnc->current);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
248    
249          /* try to allocate mb memory */          /* try to allocate mb memory */
250    
251          pEnc->current->mbs = NULL;          pEnc->current->mbs =
252          pEnc->reference->mbs = NULL;                  xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
253                                            pEnc->mbParam.mb_height, CACHE_LINE);
254            pEnc->reference->mbs =
255                    xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
256                                            pEnc->mbParam.mb_height, CACHE_LINE);
257    
258          if ((pEnc->current->mbs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL ||          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
259                  (pEnc->reference->mbs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)                  goto xvid_err_memory2;
         {  
                 if (pEnc->current->mbs) xvid_free(pEnc->current->mbs);  
                 xvid_free(pEnc->current);  
                 xvid_free(pEnc->reference);  
                 xvid_free(pEnc);  
         }  
260    
261          /* try to allocate image memory */          /* try to allocate image memory */
262    
263  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
264          image_null(&pEnc->sOriginal);          image_null(&pEnc->sOriginal);
265  #endif  #endif
266  #ifdef BFRAMES  #ifdef BFRAMES
# Line 221  Line 276 
276          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
277          image_null(&pEnc->vInterHVf);          image_null(&pEnc->vInterHVf);
278    
279          if (  #ifdef _DEBUG_PSNR
280  #ifdef _DEBUG          if (image_create
281                  image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                  (&pEnc->sOriginal, pEnc->mbParam.edged_width,
282                     pEnc->mbParam.edged_height) < 0)
283                    goto xvid_err_memory3;
284  #endif  #endif
285  #ifdef BFRAMES  #ifdef BFRAMES
286                  image_create(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||          if (image_create
287                  image_create(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                  (&pEnc->f_refh, pEnc->mbParam.edged_width,
288                  image_create(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                   pEnc->mbParam.edged_height) < 0)
289  #endif                  goto xvid_err_memory3;
290                  image_create(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||          if (image_create
291                  image_create(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                  (&pEnc->f_refv, pEnc->mbParam.edged_width,
292                  image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                   pEnc->mbParam.edged_height) < 0)
293                  image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                  goto xvid_err_memory3;
294                  image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||          if (image_create
295                  image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||                  (&pEnc->f_refhv, pEnc->mbParam.edged_width,
296                  image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
297          {                  goto xvid_err_memory3;
 #ifdef _DEBUG  
                 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
298  #endif  #endif
299  #ifdef BFRAMES          if (image_create
300                  image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  (&pEnc->current->image, pEnc->mbParam.edged_width,
301                  image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                   pEnc->mbParam.edged_height) < 0)
302                  image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  goto xvid_err_memory3;
303  #endif          if (image_create
304                  image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  (&pEnc->reference->image, pEnc->mbParam.edged_width,
305                  image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                   pEnc->mbParam.edged_height) < 0)
306                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  goto xvid_err_memory3;
307                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          if (image_create
308                  image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  (&pEnc->vInterH, pEnc->mbParam.edged_width,
309                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                   pEnc->mbParam.edged_height) < 0)
310                  image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  goto xvid_err_memory3;
311            if (image_create
312                    (&pEnc->vInterV, pEnc->mbParam.edged_width,
313                     pEnc->mbParam.edged_height) < 0)
314                    goto xvid_err_memory3;
315            if (image_create
316                    (&pEnc->vInterVf, pEnc->mbParam.edged_width,
317                     pEnc->mbParam.edged_height) < 0)
318                    goto xvid_err_memory3;
319            if (image_create
320                    (&pEnc->vInterHV, pEnc->mbParam.edged_width,
321                     pEnc->mbParam.edged_height) < 0)
322                    goto xvid_err_memory3;
323            if (image_create
324                    (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
325                     pEnc->mbParam.edged_height) < 0)
326                    goto xvid_err_memory3;
327    
                 xvid_free(pEnc->current);  
                 xvid_free(pEnc->reference);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
328    
329  // ==============================================================================  
330            /* B Frames specific init */
331  #ifdef BFRAMES  #ifdef BFRAMES
332    
333          // TODO: handle malloc() == NULL          pEnc->global = pParam->global;
334          pEnc->max_bframes = pParam->max_bframes;          pEnc->mbParam.max_bframes = pParam->max_bframes;
335          pEnc->bquant_ratio = pParam->bquant_ratio;          pEnc->bquant_ratio = pParam->bquant_ratio;
336          if (pEnc->max_bframes > 0)          pEnc->bframes = NULL;
337          {  
338            if (pEnc->mbParam.max_bframes > 0) {
339                  int n;                  int n;
340    
341                  pEnc->bframes = malloc(pEnc->max_bframes * sizeof(FRAMEINFO *));                  pEnc->bframes =
342                            xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
343                                                    CACHE_LINE);
344    
345                  for (n = 0; n < pEnc->max_bframes; n++)                  if (pEnc->bframes == NULL)
346                  {                          goto xvid_err_memory3;
347                          pEnc->bframes[n] = malloc(sizeof(FRAMEINFO));  
348                          pEnc->bframes[n]->mbs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);                  for (n = 0; n < pEnc->mbParam.max_bframes; n++)
349                            pEnc->bframes[n] = NULL;
350    
351    
352                    for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
353                            pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
354    
355                            if (pEnc->bframes[n] == NULL)
356                                    goto xvid_err_memory4;
357    
358                            pEnc->bframes[n]->mbs =
359                                    xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
360                                                            pEnc->mbParam.mb_height, CACHE_LINE);
361    
362                            if (pEnc->bframes[n]->mbs == NULL)
363                                    goto xvid_err_memory4;
364    
365                            image_null(&pEnc->bframes[n]->image);
366    
367                            if (image_create
368                                    (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
369                                     pEnc->mbParam.edged_height) < 0)
370                                    goto xvid_err_memory4;
371    
                         if (image_create(&pEnc->bframes[n]->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
                         {  
                                 return XVID_ERR_MEMORY;  
                         }  
372                  }                  }
373          }          }
374    
375          pEnc->bframenum_head = 0;          pEnc->bframenum_head = 0;
376          pEnc->bframenum_tail = 0;          pEnc->bframenum_tail = 0;
377          pEnc->flush_bframes = 0;          pEnc->flush_bframes = 0;
378    
379          pEnc->mbParam.m_seconds = 0;          pEnc->queue = NULL;
380          pEnc->mbParam.m_ticks = 0;  
381  #endif  
382            if (pEnc->mbParam.max_bframes > 0) {
383                    int n;
384    
385                    pEnc->queue =
386                            xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
387                                                    CACHE_LINE);
388    
389                    if (pEnc->queue == NULL)
390                            goto xvid_err_memory4;
391    
392  // ==============================================================================                  for (n = 0; n < pEnc->mbParam.max_bframes; n++)
393                            image_null(&pEnc->queue[n]);
394    
395                    for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
396                            if (image_create
397                                    (&pEnc->queue[n], pEnc->mbParam.edged_width,
398                                     pEnc->mbParam.edged_height) < 0)
399                                    goto xvid_err_memory5;
400    
401                    }
402            }
403    
404            pEnc->queue_head = 0;
405            pEnc->queue_tail = 0;
406            pEnc->queue_size = 0;
407    
408    
409            pEnc->mbParam.m_seconds = 0;
410            pEnc->mbParam.m_ticks = 0;
411            pEnc->m_framenum = 0;
412    #endif
413    
414          pParam->handle = (void *)pEnc;          pParam->handle = (void *)pEnc;
415    
416          if (pParam->rc_bitrate)          if (pParam->rc_bitrate) {
417          {                  RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
418                  RateControlInit(pParam->rc_bitrate, pParam->rc_reaction_delay_factor,                                                  pParam->rc_reaction_delay_factor,
419                          pParam->rc_averaging_period, pParam->rc_buffer, pParam->fbase * 1000 / pParam->fincr,                                                  pParam->rc_averaging_period, pParam->rc_buffer,
420                                                    pParam->fbase * 1000 / pParam->fincr,
421                          pParam->max_quantizer, pParam->min_quantizer);                          pParam->max_quantizer, pParam->min_quantizer);
422          }          }
423    
424          init_timer();          init_timer();
425    
426          return XVID_ERR_OK;          return XVID_ERR_OK;
427    
428            /*
429             * We handle all XVID_ERR_MEMORY here, this makes the code lighter
430             */
431    #ifdef BFRAMES
432      xvid_err_memory5:
433    
434    
435            if (pEnc->mbParam.max_bframes > 0) {
436    
437                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
438                            image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
439                                                      pEnc->mbParam.edged_height);
440                    }
441                    xvid_free(pEnc->queue);
442            }
443    
444      xvid_err_memory4:
445    
446            if (pEnc->mbParam.max_bframes > 0) {
447    
448                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
449    
450                            if (pEnc->bframes[i] == NULL)
451                                    continue;
452    
453                            image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
454                                                      pEnc->mbParam.edged_height);
455    
456                            xvid_free(pEnc->bframes[i]->mbs);
457    
458                            xvid_free(pEnc->bframes[i]);
459    
460                    }
461    
462                    xvid_free(pEnc->bframes);
463            }
464    
465    #endif
466    
467      xvid_err_memory3:
468    #ifdef _DEBUG_PSNR
469            image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
470                                      pEnc->mbParam.edged_height);
471    #endif
472    
473    #ifdef BFRAMES
474            image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
475                                      pEnc->mbParam.edged_height);
476            image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
477                                      pEnc->mbParam.edged_height);
478            image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
479                                      pEnc->mbParam.edged_height);
480    #endif
481    
482            image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
483                                      pEnc->mbParam.edged_height);
484            image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
485                                      pEnc->mbParam.edged_height);
486            image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
487                                      pEnc->mbParam.edged_height);
488            image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
489                                      pEnc->mbParam.edged_height);
490            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
491                                      pEnc->mbParam.edged_height);
492            image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
493                                      pEnc->mbParam.edged_height);
494            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
495                                      pEnc->mbParam.edged_height);
496    
497      xvid_err_memory2:
498            xvid_free(pEnc->current->mbs);
499            xvid_free(pEnc->reference->mbs);
500    
501      xvid_err_memory1:
502            xvid_free(pEnc->current);
503            xvid_free(pEnc->reference);
504            xvid_free(pEnc);
505    
506            pParam->handle = NULL;
507    
508            return XVID_ERR_MEMORY;
509  }  }
510    
511    /*****************************************************************************
512     * Encoder destruction
513     *
514     * This function destroy the entire encoder structure created by a previous
515     * successful encoder_create call.
516     *
517     * Returned values (for now only one returned value) :
518     *    - XVID_ERR_OK     - no errors
519     *
520     ****************************************************************************/
521    
522  int encoder_destroy(Encoder * pEnc)  int
523    encoder_destroy(Encoder * pEnc)
524  {  {
525    #ifdef BFRAMES
526            int i;
527    #endif
528    
529          ENC_CHECK(pEnc);          ENC_CHECK(pEnc);
530    
531  // =================================================================          /* B Frames specific */
532  #ifdef BFRAMES  #ifdef BFRAMES
533          if (pEnc->max_bframes > 0)          if (pEnc->mbParam.max_bframes > 0) {
534          {  
535                  int n;                  for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
536                  for (n = 0; n < pEnc->max_bframes; n++)  
537                  {                          image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
538                          image_destroy(&pEnc->bframes[n]->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
539                          free(pEnc->bframes[n]->mbs);                  }
540                          free(pEnc->bframes[n]);                  xvid_free(pEnc->queue);
541                  }          }
542                  free(pEnc->bframes);  
543          }  
544  #endif BFRAMES          if (pEnc->mbParam.max_bframes > 0) {
545  //====================================================================  
546                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
547          image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
548          image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                          if (pEnc->bframes[i] == NULL)
549          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                                  continue;
550          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
551          image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
552          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
553          image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
554                            xvid_free(pEnc->bframes[i]->mbs);
555    
556                            xvid_free(pEnc->bframes[i]);
557                    }
558    
559                    xvid_free(pEnc->bframes);
560    
561            }
562    #endif
563    
564            /* All images, reference, current etc ... */
565    
566            image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
567                                      pEnc->mbParam.edged_height);
568            image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
569                                      pEnc->mbParam.edged_height);
570            image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
571                                      pEnc->mbParam.edged_height);
572            image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
573                                      pEnc->mbParam.edged_height);
574            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
575                                      pEnc->mbParam.edged_height);
576            image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
577                                      pEnc->mbParam.edged_height);
578            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
579                                      pEnc->mbParam.edged_height);
580  #ifdef BFRAMES  #ifdef BFRAMES
581          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
582          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
583          image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
584                                      pEnc->mbParam.edged_height);
585            image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
586                                      pEnc->mbParam.edged_height);
587  #endif  #endif
588  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
589                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
590                                      pEnc->mbParam.edged_height);
591  #endif  #endif
592    
593            /* Encoder structure */
594    
595          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
596          xvid_free(pEnc->current);          xvid_free(pEnc->current);
597    
# Line 352  Line 599 
599          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
600    
601          xvid_free(pEnc);          xvid_free(pEnc);
602    
603          return XVID_ERR_OK;          return XVID_ERR_OK;
604  }  }
605    
606    
607    #ifdef BFRAMES
608    void inc_frame_num(Encoder * pEnc)
609    {
610            pEnc->iFrameNum++;
611            pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
612    
613            pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
614            pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
615    }
616    #endif
617    
618    
619    #ifdef BFRAMES
620    void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
621    {
622            if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
623            {
624                    DPRINTF("FATAL: QUEUE FULL");
625                    return;
626            }
627    
628            DPRINTF("*** QUEUE bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
629                                    pEnc->bframenum_head, pEnc->bframenum_tail,
630                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
631    
632    
633            start_timer();
634            if (image_input
635                    (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
636                     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
637                    return;
638            stop_conv_timer();
639    
640            pEnc->queue_size++;
641            pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
642    }
643    #endif
644    
645    
 // ==================================================================  
646  #ifdef BFRAMES  #ifdef BFRAMES
647  int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)  /*****************************************************************************
648     * IPB frame encoder entry point
649     *
650     * Returned values :
651     *    - XVID_ERR_OK     - no errors
652     *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
653     *                        format
654     ****************************************************************************/
655    
656    int
657    encoder_encode_bframes(Encoder * pEnc,
658                               XVID_ENC_FRAME * pFrame,
659                               XVID_ENC_STATS * pResult)
660  {  {
661          uint16_t x, y;          uint16_t x, y;
662          Bitstream bs;          Bitstream bs;
663          uint32_t bits;          uint32_t bits;
664    
665            int input_valid = 1;
666    
667    #ifdef _DEBUG_PSNR
668            float psnr;
669            char temp[128];
670    #endif
671    
672          ENC_CHECK(pEnc);          ENC_CHECK(pEnc);
673          ENC_CHECK(pFrame);          ENC_CHECK(pFrame);
674            ENC_CHECK(pFrame->image);
675    
676          start_global_timer();          start_global_timer();
677    
678          BitstreamInit(&bs, pFrame->bitstream, 0);          BitstreamInit(&bs, pFrame->bitstream, 0);
679    
680  // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  ipvop_loop:
 // bframe "flush" code  
 // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
681    
682          if ((pFrame->image == NULL || pEnc->flush_bframes) &&          /*
683                  pEnc->bframenum_head < pEnc->bframenum_tail)           * bframe "flush" code
684          {           */
685    
686            if ((pFrame->image == NULL || pEnc->flush_bframes)
687                    && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
688    
689                    if (pEnc->flush_bframes == 0) {
690                            /*
691                             * we have reached the end of stream without getting
692                             * a future reference frame... so encode last final
693                             * frame as a pframe
694                             */
695    
696                            DPRINTF("*** BFRAME (final frame) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
697                                    pEnc->bframenum_head, pEnc->bframenum_tail,
698                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
699    
                 if (pEnc->flush_bframes == 0)  
                 {  
                         // we have reached end of stream without getting a future reference  
                         // .. so encode last final frame a pframe  
                         dprintf("--- PFRAME (final frame correction) --- ");  
700                          pEnc->bframenum_tail--;                          pEnc->bframenum_tail--;
701                          SWAP(pEnc->current, pEnc->reference);                          SWAP(pEnc->current, pEnc->reference);
702    
# Line 394  Line 706 
706    
707                          BitstreamPad(&bs);                          BitstreamPad(&bs);
708                          pFrame->length = BitstreamLength(&bs);                          pFrame->length = BitstreamLength(&bs);
                         pFrame->input_consumed = 0;  
709                          pFrame->intra = 0;                          pFrame->intra = 0;
710    
711                          return XVID_ERR_OK;                          return XVID_ERR_OK;
712                  }                  }
713    
                 dprintf("--- BFRAME (flush) --- ");  
                 FrameCodeB(pEnc,  
                         pEnc->bframes[pEnc->bframenum_head],  
                          &bs, &bits);  
                 pEnc->bframenum_head++;  
714    
715                    DPRINTF("*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
716                                    pEnc->bframenum_head, pEnc->bframenum_tail,
717                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
718    
719                    FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
720                    pEnc->bframenum_head++;
721    
722                  BitstreamPad(&bs);                  BitstreamPad(&bs);
723                  pFrame->length = BitstreamLength(&bs);                  pFrame->length = BitstreamLength(&bs);
                 pFrame->input_consumed = 0;  
724                  pFrame->intra = 0;                  pFrame->intra = 0;
725    
726                    if (input_valid)
727                            queue_image(pEnc, pFrame);
728    
729                  return XVID_ERR_OK;                  return XVID_ERR_OK;
730          }          }
731    
732          if (pFrame->image == NULL)          if (pEnc->bframenum_head > 0) {
733          {                  pEnc->bframenum_head = pEnc->bframenum_tail = 0;
734                  pFrame->length = 0;  
735                  pFrame->input_consumed = 1;                  if ((pEnc->global & XVID_GLOBAL_PACKED)) {
736    
737                            DPRINTF("*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
738                                    pEnc->bframenum_head, pEnc->bframenum_tail,
739                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
740    
741    
742                            BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
743                            BitstreamPad(&bs);
744                            BitstreamPutBits(&bs, 0x7f, 8);
745    
746                            pFrame->length = BitstreamLength(&bs);
747                  pFrame->intra = 0;                  pFrame->intra = 0;
748    
749                            if (input_valid)
750                                    queue_image(pEnc, pFrame);
751    
752                  return XVID_ERR_OK;                  return XVID_ERR_OK;
753          }          }
754            }
755    
756    
757          if (pEnc->bframenum_head > 0)  bvop_loop:
758    
759            if (input_valid) {
760    
761                    SWAP(pEnc->current, pEnc->reference);
762    
763                    start_timer();
764                    if (image_input
765                            (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
766                            pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
767                            return XVID_ERR_FORMAT;
768                    stop_conv_timer();
769    
770                    // queue input frame, and dequue next image
771                    if (pEnc->queue_size > 0)
772          {          {
773                  pEnc->bframenum_head = pEnc->bframenum_tail = 0;                          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
774                            if (pEnc->queue_head != pEnc->queue_tail)
775                            {
776                                    image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
777                            }
778                            pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
779                            pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
780                    }
781    
782            } else if (pEnc->queue_size > 0) {
783    
784                    SWAP(pEnc->current, pEnc->reference);
785    
786                    image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
787                    pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
788                    pEnc->queue_size--;
789    
790            } else if (BitstreamPos(&bs) == 0) {
791    
792                    DPRINTF("*** SKIP bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
793                                    pEnc->bframenum_head, pEnc->bframenum_tail,
794                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
795    
796    
797                    pFrame->intra = 0;
798    
799                    BitstreamPutBits(&bs, 0x7f, 8);
800                    BitstreamPad(&bs);
801                    pFrame->length = BitstreamLength(&bs);
802    
803                    return XVID_ERR_OK;
804    
805            } else {
806    
807                    pFrame->length = BitstreamLength(&bs);
808                    return XVID_ERR_OK;
809          }          }
810    
811          pEnc->flush_bframes = 0;          pEnc->flush_bframes = 0;
812    
813  // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
814             * Well there was a separation here so i put it in ANSI C
815             * comment style :-)
816             * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
817    
818          SWAP(pEnc->current, pEnc->reference);  //$$    SWAP(pEnc->current, pEnc->reference);
819    
820            emms();
821    
822          pEnc->current->quant = (pFrame->quant == 0) ? RateControlGetQ(0) : pFrame->quant;          if (pFrame->quant == 0)
823                    pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
824            else
825                    pEnc->current->quant = pFrame->quant;
826    
827          if(pEnc->current->quant < 1)          if(pEnc->current->quant < 1)
828                  pEnc->current->quant = 1;                  pEnc->current->quant = 1;
# Line 444  Line 834 
834          pEnc->current->motion_flags = pFrame->motion;          pEnc->current->motion_flags = pFrame->motion;
835          pEnc->current->seconds = pEnc->mbParam.m_seconds;          pEnc->current->seconds = pEnc->mbParam.m_seconds;
836          pEnc->current->ticks = pEnc->mbParam.m_ticks;          pEnc->current->ticks = pEnc->mbParam.m_ticks;
837          //@@@ TODO: dyanmic fcode (in both directions)          /* ToDo : dynamic fcode (in both directions) */
838          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
839          pEnc->current->bcode = pEnc->mbParam.m_fcode;          pEnc->current->bcode = pEnc->mbParam.m_fcode;
840    
841          start_timer();  //$$$   start_timer();
842          if (image_input(&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,  //$$$   if (image_input
843                          pFrame->image, pFrame->colorspace))  //$$$           (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
844          {  //$$$            pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
845                  return XVID_ERR_FORMAT;  //$$$           return XVID_ERR_FORMAT;
846          }  //$$$   stop_conv_timer();
847          stop_conv_timer();  
848    #ifdef _DEBUG_PSNR
849  #ifdef _DEBUG          image_copy(&pEnc->sOriginal, &pEnc->current->image,
850          image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);                             pEnc->mbParam.edged_width, pEnc->mbParam.height);
851  #endif  #endif
852    
853            emms();
854    
855            if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
856                    image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
857                            "%i  if:%i  st:%i:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->seconds, pEnc->current->ticks);
858            }
859    
 // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
 // lumi masking  
 // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
860    
861          if ((pEnc->current->global_flags & XVID_LUMIMASKING))          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
862          {           * Luminance masking
863                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
864    
865                  pEnc->current->quant = adaptive_quantization(pEnc->current->image.y,          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
866                                                              pEnc->mbParam.edged_width,  // stride                  int *temp_dquants =
867                                                              temp_dquants,                          (int *) xvid_malloc(pEnc->mbParam.mb_width *
868                                                              pEnc->current->quant,                                                                  pEnc->mbParam.mb_height * sizeof(int),
869                                                              pEnc->current->quant,       // min_quant                                                                  CACHE_LINE);
870                                                              2*pEnc->current->quant,     // max_quant  
871                    pEnc->current->quant =
872                            adaptive_quantization(pEnc->current->image.y,
873                                                                      pEnc->mbParam.edged_width, temp_dquants,
874                                                                      pEnc->current->quant, pEnc->current->quant,
875                                                                      2 * pEnc->current->quant,
876                                                              pEnc->mbParam.mb_width,                                                              pEnc->mbParam.mb_width,
877                                                              pEnc->mbParam.mb_height);                                                              pEnc->mbParam.mb_height);
878    
879                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++) {
880                          for (x = 0; x < pEnc->mbParam.mb_width; x++)  
881                          {  #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
882                                  MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];  
883                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                          for (x = 0; x < pEnc->mbParam.mb_width; x++) {
884                                    MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
885    
886                                    pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
887                          }                          }
888    
889    #undef OFFSET
890    
891                    }
892    
893                  xvid_free(temp_dquants);                  xvid_free(temp_dquants);
894          }          }
895    
896            /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
897             * ivop/pvop/bvop selection
898             * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
899    
900    
901            if (pEnc->iFrameNum == 0 || pFrame->intra == 1 ||
902                    (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
903                     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
904                    || image_mad(&pEnc->reference->image, &pEnc->current->image,
905                                             pEnc->mbParam.edged_width, pEnc->mbParam.width,
906                                             pEnc->mbParam.height) > 30) {
907                    /*
908                     * This will be coded as an Intra Frame
909                     */
910    
911                    DPRINTF("*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
912                                    pEnc->bframenum_head, pEnc->bframenum_tail,
913                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
914    
915  // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                  if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
916  // ivop/pvop/bvop selection                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
917  // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                  }
   
         if (pEnc->iFrameNum == 0 ||  
                 pFrame->intra == 1 ||  
                 (pFrame->intra < 0 && (pEnc->iMaxKeyInterval > 0 && pEnc->iFrameNum >= pEnc->iMaxKeyInterval)) ||  
                 image_mad(&pEnc->reference->image, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.width, pEnc->mbParam.height) > 30)  
         {  
                 dprintf("--- IFRAME ---");  
918    
919                  FrameCodeI(pEnc, &bs, &bits);                  FrameCodeI(pEnc, &bs, &bits);
920    
921                  pFrame->intra = 1;                  pFrame->intra = 1;
922                  pEnc->flush_bframes = 1;                  pEnc->flush_bframes = 1;
923    
924                  /* note: sequences like "IIBB" decode fine with msfdam but,                  inc_frame_num(pEnc);
925                     go screwy with divx5.00 */  
926                    if ((pEnc->global & XVID_GLOBAL_PACKED)) {
927                            BitstreamPad(&bs);
928                            input_valid = 0;
929                            goto ipvop_loop;
930                    }
931    
932                    /*
933                     * NB : sequences like "IIBB" decode fine with msfdam but,
934                     *      go screwy with divx 5.00
935                     */
936            } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
937                    /*
938                     * This will be coded as a Predicted Frame
939                     */
940    
941                    DPRINTF("*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
942                                    pEnc->bframenum_head, pEnc->bframenum_tail,
943                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
944    
945                    if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
946                            image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
947          }          }
         else if (pEnc->bframenum_tail >= pEnc->max_bframes)  
         {  
                 dprintf("--- PFRAME ---");  
948    
949                  FrameCodeP(pEnc, &bs, &bits, 1, 0);                  FrameCodeP(pEnc, &bs, &bits, 1, 0);
950                  pFrame->intra = 0;                  pFrame->intra = 0;
951                  pEnc->flush_bframes = 1;                  pEnc->flush_bframes = 1;
952    
953                    inc_frame_num(pEnc);
954    
955                    if ((pEnc->global & XVID_GLOBAL_PACKED)) {
956                            BitstreamPad(&bs);
957                            input_valid = 0;
958                            goto ipvop_loop;
959          }          }
         else  
         {  
                 dprintf("--- BFRAME (store) ---  head=%i tail=%i", pEnc->bframenum_head, pEnc->bframenum_tail);  
960    
961                  if (pFrame->bquant < 1)          } else {
962                  {                  /*
963                          pEnc->current->quant = ((pEnc->reference->quant + pEnc->current->quant) * pEnc->bquant_ratio) / 200;                   * This will be coded as a Bidirectional Frame
964                     */
965    
966                    DPRINTF("*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
967                                    pEnc->bframenum_head, pEnc->bframenum_tail,
968                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
969    
970                    if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
971                            image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
972                  }                  }
973                  else  
974                  {                  if (pFrame->bquant < 1) {
975                            pEnc->current->quant =
976                                    ((pEnc->reference->quant +
977                                      pEnc->current->quant) * pEnc->bquant_ratio) / 200;
978                    } else {
979                          pEnc->current->quant = pFrame->bquant;                          pEnc->current->quant = pFrame->bquant;
980                  }                  }
981    
982                  // store frame into bframe buffer & swap ref back to current                  /* store frame into bframe buffer & swap ref back to current */
983                  SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                  SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
984                  SWAP(pEnc->current, pEnc->reference);                  SWAP(pEnc->current, pEnc->reference);
985    
# Line 536  Line 987 
987    
988                  pFrame->intra = 0;                  pFrame->intra = 0;
989                  pFrame->length = 0;                  pFrame->length = 0;
                 pFrame->input_consumed = 1;  
990    
991                  pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;                  inc_frame_num(pEnc);
992                  if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)  
993                  {                  input_valid = 0;
994                          pEnc->mbParam.m_seconds++;                  goto bvop_loop;
                         pEnc->mbParam.m_ticks = 0;  
                 }  
                 return XVID_ERR_OK;  
995          }          }
996    
997          BitstreamPad(&bs);          BitstreamPad(&bs);
998          pFrame->length = BitstreamLength(&bs);          pFrame->length = BitstreamLength(&bs);
999    
1000          if (pResult)          if (pResult) {
         {  
1001                  pResult->quant = pEnc->current->quant;                  pResult->quant = pEnc->current->quant;
1002                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1003                  pResult->kblks = pEnc->sStat.kblks;                  pResult->kblks = pEnc->sStat.kblks;
# Line 559  Line 1005 
1005                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
1006          }          }
1007    
1008  #ifdef _DEBUG          emms();
1009          psnr = image_psnr(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width,  
1010                                  pEnc->mbParam.width, pEnc->mbParam.height);  #ifdef _DEBUG_PSNR
1011            psnr =
1012                    image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1013                                       pEnc->mbParam.edged_width, pEnc->mbParam.width,
1014                                       pEnc->mbParam.height);
1015    
1016          sprintf(temp, "PSNR: %f\n", psnr);          snprintf(temp, 127, "PSNR: %f\n", psnr);
1017          DEBUG(temp);          DEBUG(temp);
1018  #endif  #endif
1019    
1020          if (pFrame->quant == 0)          if (pFrame->quant == 0) {
1021          {                  RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1022                  RateControlUpdate(pEnc->current->quant, pFrame->length, pFrame->intra);                                                    pFrame->length, pFrame->intra);
1023          }          }
1024    
         pEnc->iFrameNum++;  
         pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;  
         if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)  
         {  
                 pEnc->mbParam.m_seconds++;  
                 pEnc->mbParam.m_ticks = 0;  
         }  
         pFrame->input_consumed = 1;  
1025    
1026          stop_global_timer();          stop_global_timer();
1027          write_timer();          write_timer();
1028    
1029          return XVID_ERR_OK;          return XVID_ERR_OK;
1030  }  }
1031  // ==================================================================  
1032  #else  #endif
1033  int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)  
1034    
1035    
1036    /*****************************************************************************
1037     * "original" IP frame encoder entry point
1038     *
1039     * Returned values :
1040     *    - XVID_ERR_OK     - no errors
1041     *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1042     *                        format
1043     ****************************************************************************/
1044    
1045    int
1046    encoder_encode(Encoder * pEnc,
1047                               XVID_ENC_FRAME * pFrame,
1048                               XVID_ENC_STATS * pResult)
1049  {  {
1050          uint16_t x, y;          uint16_t x, y;
1051          Bitstream bs;          Bitstream bs;
1052          uint32_t bits;          uint32_t bits;
1053          uint16_t write_vol_header = 0;          uint16_t write_vol_header = 0;
1054  #ifdef _DEBUG  
1055    #ifdef _DEBUG_PSNR
1056          float psnr;          float psnr;
1057          uint8_t temp[100];          uint8_t temp[128];
1058  #endif  #endif
1059    
1060          start_global_timer();          start_global_timer();
# Line 610  Line 1068 
1068    
1069          pEnc->current->global_flags = pFrame->general;          pEnc->current->global_flags = pFrame->general;
1070          pEnc->current->motion_flags = pFrame->motion;          pEnc->current->motion_flags = pFrame->motion;
1071    #ifdef BFRAMES
1072            pEnc->current->seconds = pEnc->mbParam.m_seconds;
1073            pEnc->current->ticks = pEnc->mbParam.m_ticks;
1074    #endif
1075          pEnc->mbParam.hint = &pFrame->hint;          pEnc->mbParam.hint = &pFrame->hint;
1076    
1077          start_timer();          start_timer();
1078          if (image_input(&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,          if (image_input
1079                          pFrame->image, pFrame->colorspace))                  (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1080          {                   pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1081                  return XVID_ERR_FORMAT;                  return XVID_ERR_FORMAT;
         }  
1082          stop_conv_timer();          stop_conv_timer();
1083    
1084  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
1085          image_copy(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);          image_copy(&pEnc->sOriginal, &pEnc->current->image,
1086                               pEnc->mbParam.edged_width, pEnc->mbParam.height);
1087  #endif  #endif
1088    
1089          EMMS();          emms();
1090    
1091          BitstreamInit(&bs, pFrame->bitstream, 0);          BitstreamInit(&bs, pFrame->bitstream, 0);
1092    
1093          if (pFrame->quant == 0)          if (pFrame->quant == 0) {
1094          {                  pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1095                  pEnc->current->quant = RateControlGetQ(0);          } else {
         }  
         else  
         {  
1096                  pEnc->current->quant = pFrame->quant;                  pEnc->current->quant = pFrame->quant;
1097          }          }
1098    
1099          if ((pEnc->current->global_flags & XVID_LUMIMASKING))          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1100          {                  int *temp_dquants =
1101                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);                          (int *) xvid_malloc(pEnc->mbParam.mb_width *
1102                                                                    pEnc->mbParam.mb_height * sizeof(int),
1103                  pEnc->current->quant = adaptive_quantization(pEnc->current->image.y,                                                                  CACHE_LINE);
1104                                                              pEnc->mbParam.edged_width,  // stride  
1105                                                              temp_dquants,                  pEnc->current->quant =
1106                                                              pEnc->current->quant,                          adaptive_quantization(pEnc->current->image.y,
1107                                                              pEnc->current->quant,       // min_quant                                                                    pEnc->mbParam.edged_width, temp_dquants,
1108                                                              2*pEnc->current->quant,     // max_quant                                                                    pEnc->current->quant, pEnc->current->quant,
1109                                                                      2 * pEnc->current->quant,
1110                                                              pEnc->mbParam.mb_width,                                                              pEnc->mbParam.mb_width,
1111                                                              pEnc->mbParam.mb_height);                                                              pEnc->mbParam.mb_height);
1112    
1113                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1114                          for (x = 0; x < pEnc->mbParam.mb_width; x++)  
1115                          {  #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1116                                  MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];  
1117                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                          for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1118    
1119    
1120                                    MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1121    
1122                                    pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1123                            }
1124    
1125    #undef OFFSET
1126                          }                          }
1127    
1128                  xvid_free(temp_dquants);                  xvid_free(temp_dquants);
1129          }          }
1130    
# Line 663  Line 1132 
1132                  if(pEnc->mbParam.m_quant_type != H263_QUANT)                  if(pEnc->mbParam.m_quant_type != H263_QUANT)
1133                          write_vol_header = 1;                          write_vol_header = 1;
1134                  pEnc->mbParam.m_quant_type = H263_QUANT;                  pEnc->mbParam.m_quant_type = H263_QUANT;
1135          }          } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1136          else if(pEnc->current->global_flags & XVID_MPEGQUANT) {                  int matrix1_changed, matrix2_changed;
                 int ret1, ret2;  
1137    
1138                  ret1 = ret2 = 0;                  matrix1_changed = matrix2_changed = 0;
1139    
1140                  if(pEnc->mbParam.m_quant_type != MPEG4_QUANT)                  if(pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1141                          write_vol_header = 1;                          write_vol_header = 1;
# Line 676  Line 1144 
1144    
1145                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1146                          if(pFrame->quant_intra_matrix != NULL)                          if(pFrame->quant_intra_matrix != NULL)
1147                                  ret1 = set_intra_matrix(pFrame->quant_intra_matrix);                                  matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1148                          if(pFrame->quant_inter_matrix != NULL)                          if(pFrame->quant_inter_matrix != NULL)
1149                                  ret2 = set_inter_matrix(pFrame->quant_inter_matrix);                                  matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1150                  }                  } else {
1151                  else {                          matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1152                          ret1 = set_intra_matrix(get_default_intra_matrix());                          matrix2_changed = set_inter_matrix(get_default_inter_matrix());
                         ret2 = set_inter_matrix(get_default_inter_matrix());  
1153                  }                  }
1154                  if(write_vol_header == 0)                  if(write_vol_header == 0)
1155                          write_vol_header = ret1 | ret2;                          write_vol_header = matrix1_changed | matrix2_changed;
1156          }          }
1157    
1158          if (pFrame->intra < 0)          if (pFrame->intra < 0) {
1159          {                  if ((pEnc->iFrameNum == 0)
1160                  if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)                          || ((pEnc->iMaxKeyInterval > 0)
1161                                                 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))                                  && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
   
1162                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1163                  else                  } else {
1164                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1165          }          }
1166          else          } else {
1167          {                  if (pFrame->intra == 1) {
                 if (pFrame->intra == 1)  
1168                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1169                  else                  } else {
1170                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1171          }          }
1172    
1173            }
1174    
1175          BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
1176          BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
1177          BitstreamPad(&bs);          BitstreamPad(&bs);
1178          pFrame->length = BitstreamLength(&bs);          pFrame->length = BitstreamLength(&bs);
1179    
1180          if (pResult)          if (pResult) {
         {  
1181                  pResult->quant = pEnc->current->quant;                  pResult->quant = pEnc->current->quant;
1182                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1183                  pResult->kblks = pEnc->sStat.kblks;                  pResult->kblks = pEnc->sStat.kblks;
# Line 719  Line 1185 
1185                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
1186          }          }
1187    
1188          EMMS();          emms();
   
         if (pFrame->quant == 0)  
         {  
                 RateControlUpdate(pEnc->current->quant, pFrame->length, pFrame->intra);  
         }  
1189    
1190  #ifdef _DEBUG          if (pFrame->quant == 0) {
1191          psnr = image_psnr(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width,                  RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1192                                  pEnc->mbParam.width, pEnc->mbParam.height);                                                    pFrame->length, pFrame->intra);
1193            }
1194    #ifdef _DEBUG_PSNR
1195            psnr =
1196                    image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1197                                       pEnc->mbParam.edged_width, pEnc->mbParam.width,
1198                                       pEnc->mbParam.height);
1199    
1200          sprintf(temp, "PSNR: %f\n", psnr);          snprintf(temp, 127, "PSNR: %f\n", psnr);
1201          DEBUG(temp);          DEBUG(temp);
1202  #endif  #endif
1203    
1204    #ifdef BFRAMES
1205            inc_frame_num(pEnc);
1206    #else
1207          pEnc->iFrameNum++;          pEnc->iFrameNum++;
1208    #endif
1209    
1210    
1211          stop_global_timer();          stop_global_timer();
1212          write_timer();          write_timer();
1213    
1214          return XVID_ERR_OK;          return XVID_ERR_OK;
1215  }  }
 #endif  
1216    
1217    
1218  static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {  static __inline void
1219    CodeIntraMB(Encoder * pEnc,
1220                            MACROBLOCK * pMB)
1221    {
1222    
1223          pMB->mode = MODE_INTRA;          pMB->mode = MODE_INTRA;
1224    
# Line 755  Line 1229 
1229          pMB->sad16 = 0;          pMB->sad16 = 0;
1230    
1231          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1232                  if(pMB->dquant != NO_CHANGE)                  if (pMB->dquant != NO_CHANGE) {
                 {  
1233                          pMB->mode = MODE_INTRA_Q;                          pMB->mode = MODE_INTRA_Q;
1234                          pEnc->current->quant += DQtab[pMB->dquant];                          pEnc->current->quant += DQtab[pMB->dquant];
1235    
1236                          if (pEnc->current->quant > 31) pEnc->current->quant = 31;                          if (pEnc->current->quant > 31)
1237                          if (pEnc->current->quant < 1) pEnc->current->quant = 1;                                  pEnc->current->quant = 31;
1238                            if (pEnc->current->quant < 1)
1239                                    pEnc->current->quant = 1;
1240                  }                  }
1241          }          }
1242    
# Line 772  Line 1247 
1247  #define FCODEBITS       3  #define FCODEBITS       3
1248  #define MODEBITS        5  #define MODEBITS        5
1249    
1250  void HintedMESet(Encoder * pEnc, int * intra)  void
1251    HintedMESet(Encoder * pEnc,
1252                            int *intra)
1253  {  {
1254          HINTINFO * hint;          HINTINFO * hint;
1255          Bitstream bs;          Bitstream bs;
# Line 781  Line 1258 
1258    
1259          hint = pEnc->mbParam.hint;          hint = pEnc->mbParam.hint;
1260    
1261          if (hint->rawhints)          if (hint->rawhints) {
         {  
1262                  *intra = hint->mvhint.intra;                  *intra = hint->mvhint.intra;
1263          }          } else {
         else  
         {  
1264                  BitstreamInit(&bs, hint->hintstream, hint->hintlength);                  BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1265                  *intra = BitstreamGetBit(&bs);                  *intra = BitstreamGetBit(&bs);
1266          }          }
1267    
1268          if (*intra)          if (*intra) {
         {  
1269                  return;                  return;
1270          }          }
1271    
1272          pEnc->current->fcode = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);          pEnc->current->fcode =
1273                    (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1274                                                                                                                                     FCODEBITS);
1275    
1276          length  = pEnc->current->fcode + 5;          length  = pEnc->current->fcode + 5;
1277          high    = 1 << (length - 1);          high    = 1 << (length - 1);
1278    
1279          for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)          for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1280          {                  for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1281                  for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)                          MACROBLOCK *pMB =
1282                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1283                          MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                          MVBLOCKHINT *bhint =
1284                          MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];                                  &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1285                          VECTOR pred[4];                          VECTOR pred[4];
1286                          VECTOR tmp;                          VECTOR tmp;
1287                          int32_t dummy[4];                          int32_t dummy[4];
1288                          int vec;                          int vec;
1289    
1290                          pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);                          pMB->mode =
1291                                    (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1292                                                                                                                                      MODEBITS);
1293    
1294                          pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;                          pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1295                          pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;                          pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1296    
1297                          if (pMB->mode == MODE_INTER)                          if (pMB->mode == MODE_INTER) {
1298                          {                                  tmp.x =
1299                                  tmp.x  = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);                                          (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1300                                  tmp.y  = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);                                                                                                                                                    length);
1301                                    tmp.y =
1302                                            (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1303                                                                                                                                                      length);
1304                                  tmp.x -= (tmp.x >= high) ? high*2 : 0;                                  tmp.x -= (tmp.x >= high) ? high*2 : 0;
1305                                  tmp.y -= (tmp.y >= high) ? high*2 : 0;                                  tmp.y -= (tmp.y >= high) ? high*2 : 0;
1306    
1307                                  get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);                                  get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width,
1308                                                            0, pred, dummy);
1309    
1310                                  for (vec=0 ; vec<4 ; ++vec)                                  for (vec = 0; vec < 4; ++vec) {
                                 {  
1311                                          pMB->mvs[vec].x  = tmp.x;                                          pMB->mvs[vec].x  = tmp.x;
1312                                          pMB->mvs[vec].y  = tmp.y;                                          pMB->mvs[vec].y  = tmp.y;
1313                                          pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;                                          pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
1314                                          pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;                                          pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
1315                                  }                                  }
1316                          }                          } else if (pMB->mode == MODE_INTER4V) {
1317                          else if (pMB->mode == MODE_INTER4V)                                  for (vec = 0; vec < 4; ++vec) {
1318                          {                                          tmp.x =
1319                                  for (vec=0 ; vec<4 ; ++vec)                                                  (hint->rawhints) ? bhint->mvs[vec].
1320                                  {                                                  x : BitstreamGetBits(&bs, length);
1321                                          tmp.x  = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);                                          tmp.y =
1322                                          tmp.y  = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);                                                  (hint->rawhints) ? bhint->mvs[vec].
1323                                                    y : BitstreamGetBits(&bs, length);
1324                                          tmp.x -= (tmp.x >= high) ? high*2 : 0;                                          tmp.x -= (tmp.x >= high) ? high*2 : 0;
1325                                          tmp.y -= (tmp.y >= high) ? high*2 : 0;                                          tmp.y -= (tmp.y >= high) ? high*2 : 0;
1326    
1327                                          get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);                                          get_pmvdata(pEnc->current->mbs, x, y,
1328                                                                    pEnc->mbParam.mb_width, vec, pred, dummy);
1329    
1330                                          pMB->mvs[vec].x  = tmp.x;                                          pMB->mvs[vec].x  = tmp.x;
1331                                          pMB->mvs[vec].y  = tmp.y;                                          pMB->mvs[vec].y  = tmp.y;
1332                                          pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;                                          pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
1333                                          pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;                                          pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
1334                                  }                                  }
1335                          }                          } else                          // intra / stuffing / not_coded
                         else    // intra / stuffing / not_coded  
                         {  
                                 for (vec=0 ; vec<4 ; ++vec)  
1336                                  {                                  {
1337                                    for (vec = 0; vec < 4; ++vec) {
1338                                          pMB->mvs[vec].x  = pMB->mvs[vec].y  = 0;                                          pMB->mvs[vec].x  = pMB->mvs[vec].y  = 0;
1339                                  }                                  }
1340                          }                          }
1341    
1342                          if (pMB->mode == MODE_INTER4V &&                          if (pMB->mode == MODE_INTER4V &&
1343                                  (pEnc->current->global_flags & XVID_LUMIMASKING) && pMB->dquant != NO_CHANGE)                                  (pEnc->current->global_flags & XVID_LUMIMASKING)
1344                          {                                  && pMB->dquant != NO_CHANGE) {
1345                                  pMB->mode = MODE_INTRA;                                  pMB->mode = MODE_INTRA;
1346    
1347                                  for (vec=0 ; vec<4 ; ++vec)                                  for (vec = 0; vec < 4; ++vec) {
                                 {  
1348                                          pMB->mvs[vec].x = pMB->mvs[vec].y = 0;                                          pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1349                                  }                                  }
1350                          }                          }
# Line 874  Line 1353 
1353  }  }
1354    
1355    
1356  void HintedMEGet(Encoder * pEnc, int intra)  void
1357    HintedMEGet(Encoder * pEnc,
1358                            int intra)
1359  {  {
1360          HINTINFO * hint;          HINTINFO * hint;
1361          Bitstream bs;          Bitstream bs;
# Line 883  Line 1364 
1364    
1365          hint = pEnc->mbParam.hint;          hint = pEnc->mbParam.hint;
1366    
1367          if (hint->rawhints)          if (hint->rawhints) {
         {  
1368                  hint->mvhint.intra = intra;                  hint->mvhint.intra = intra;
1369          }          } else {
         else  
         {  
1370                  BitstreamInit(&bs, hint->hintstream, 0);                  BitstreamInit(&bs, hint->hintstream, 0);
1371                  BitstreamPutBit(&bs, intra);                  BitstreamPutBit(&bs, intra);
1372          }          }
1373    
1374          if (intra)          if (intra) {
1375          {                  if (!hint->rawhints) {
                 if (!hint->rawhints)  
                 {  
1376                          BitstreamPad(&bs);                          BitstreamPad(&bs);
1377                          hint->hintlength = BitstreamLength(&bs);                          hint->hintlength = BitstreamLength(&bs);
1378                  }                  }
# Line 906  Line 1382 
1382          length  = pEnc->current->fcode + 5;          length  = pEnc->current->fcode + 5;
1383          high    = 1 << (length - 1);          high    = 1 << (length - 1);
1384    
1385          if (hint->rawhints)          if (hint->rawhints) {
         {  
1386                  hint->mvhint.fcode = pEnc->current->fcode;                  hint->mvhint.fcode = pEnc->current->fcode;
1387          }          } else {
         else  
         {  
1388                  BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);                  BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1389          }          }
1390    
1391          for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)          for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1392          {                  for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1393                  for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)                          MACROBLOCK *pMB =
1394                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1395                          MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                          MVBLOCKHINT *bhint =
1396                          MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];                                  &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1397                          VECTOR tmp;                          VECTOR tmp;
1398    
1399                          if (hint->rawhints)                          if (hint->rawhints) {
                         {  
1400                                  bhint->mode = pMB->mode;                                  bhint->mode = pMB->mode;
1401                          }                          } else {
                         else  
                         {  
1402                                  BitstreamPutBits(&bs, pMB->mode, MODEBITS);                                  BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1403                          }                          }
1404    
1405                          if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)                          if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
                         {  
1406                                  tmp.x  = pMB->mvs[0].x;                                  tmp.x  = pMB->mvs[0].x;
1407                                  tmp.y  = pMB->mvs[0].y;                                  tmp.y  = pMB->mvs[0].y;
1408                                  tmp.x += (tmp.x < 0) ? high*2 : 0;                                  tmp.x += (tmp.x < 0) ? high*2 : 0;
1409                                  tmp.y += (tmp.y < 0) ? high*2 : 0;                                  tmp.y += (tmp.y < 0) ? high*2 : 0;
1410    
1411                                  if (hint->rawhints)                                  if (hint->rawhints) {
                                 {  
1412                                          bhint->mvs[0].x = tmp.x;                                          bhint->mvs[0].x = tmp.x;
1413                                          bhint->mvs[0].y = tmp.y;                                          bhint->mvs[0].y = tmp.y;
1414                                  }                                  } else {
                                 else  
                                 {  
1415                                          BitstreamPutBits(&bs, tmp.x, length);                                          BitstreamPutBits(&bs, tmp.x, length);
1416                                          BitstreamPutBits(&bs, tmp.y, length);                                          BitstreamPutBits(&bs, tmp.y, length);
1417                                  }                                  }
1418                          }                          } else if (pMB->mode == MODE_INTER4V) {
                         else if (pMB->mode == MODE_INTER4V)  
                         {  
1419                                  int vec;                                  int vec;
1420    
1421                                  for (vec=0 ; vec<4 ; ++vec)                                  for (vec = 0; vec < 4; ++vec) {
                                 {  
1422                                          tmp.x  = pMB->mvs[vec].x;                                          tmp.x  = pMB->mvs[vec].x;
1423                                          tmp.y  = pMB->mvs[vec].y;                                          tmp.y  = pMB->mvs[vec].y;
1424                                          tmp.x += (tmp.x < 0) ? high*2 : 0;                                          tmp.x += (tmp.x < 0) ? high*2 : 0;
1425                                          tmp.y += (tmp.y < 0) ? high*2 : 0;                                          tmp.y += (tmp.y < 0) ? high*2 : 0;
1426    
1427                                          if (hint->rawhints)                                          if (hint->rawhints) {
                                         {  
1428                                                  bhint->mvs[vec].x = tmp.x;                                                  bhint->mvs[vec].x = tmp.x;
1429                                                  bhint->mvs[vec].y = tmp.y;                                                  bhint->mvs[vec].y = tmp.y;
1430                                          }                                          } else {
                                         else  
                                         {  
1431                                                  BitstreamPutBits(&bs, tmp.x, length);                                                  BitstreamPutBits(&bs, tmp.x, length);
1432                                                  BitstreamPutBits(&bs, tmp.y, length);                                                  BitstreamPutBits(&bs, tmp.y, length);
1433                                          }                                          }
# Line 976  Line 1436 
1436                  }                  }
1437          }          }
1438    
1439          if (!hint->rawhints)          if (!hint->rawhints) {
         {  
1440                  BitstreamPad(&bs);                  BitstreamPad(&bs);
1441                  hint->hintlength = BitstreamLength(&bs);                  hint->hintlength = BitstreamLength(&bs);
1442          }          }
1443  }  }
1444    
1445    
1446  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int
1447    FrameCodeI(Encoder * pEnc,
1448                       Bitstream * bs,
1449                       uint32_t * pBits)
1450  {  {
1451    
1452          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
# Line 998  Line 1460 
1460          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
1461    
1462          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1463          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);  #ifdef BFRAMES
1464    #define DIVX501B481P "DivX501b481p"
1465            if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1466                    BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1467            }
1468    #endif
1469            BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1470    
1471          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
1472    
# Line 1007  Line 1475 
1475          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1476    
1477          for (y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++)
1478                  for (x = 0; x < pEnc->mbParam.mb_width; x++)                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1479                  {                          MACROBLOCK *pMB =
1480                          MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1481    
1482                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
1483    
1484                          MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);                          MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1485                                                              dct_codes, qcoeff);
1486    
1487                          start_timer();                          start_timer();
1488                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
# Line 1032  Line 1501 
1501          pEnc->sStat.iMvCount = 0;          pEnc->sStat.iMvCount = 0;
1502          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
1503    
1504          if (pEnc->current->global_flags & XVID_HINTEDME_GET)          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
         {  
1505                  HintedMEGet(pEnc, 1);                  HintedMEGet(pEnc, 1);
1506          }          }
1507    
# Line 1043  Line 1511 
1511    
1512  #define INTRA_THRESHOLD 0.5  #define INTRA_THRESHOLD 0.5
1513    
1514  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int
1515    FrameCodeP(Encoder * pEnc,
1516                       Bitstream * bs,
1517                       uint32_t * pBits,
1518                       bool force_inter,
1519                       bool vol_header)
1520  {  {
1521          float fSigma;          float fSigma;
1522    
# Line 1059  Line 1532 
1532          IMAGE *pRef = &pEnc->reference->image;          IMAGE *pRef = &pEnc->reference->image;
1533    
1534          start_timer();          start_timer();
1535          image_setedges(pRef,          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1536                         pEnc->mbParam.edged_width,                                     pEnc->mbParam.width, pEnc->mbParam.height,
                        pEnc->mbParam.edged_height,  
                        pEnc->mbParam.width,  
                        pEnc->mbParam.height,  
1537                         pEnc->current->global_flags & XVID_INTERLACING);                         pEnc->current->global_flags & XVID_INTERLACING);
1538          stop_edges_timer();          stop_edges_timer();
1539    
# Line 1072  Line 1542 
1542          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
1543    
1544          if (!force_inter)          if (!force_inter)
1545                  iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);                  iLimit =
1546                            (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1547                                       INTRA_THRESHOLD);
1548          else          else
1549                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1550    
1551          if ((pEnc->current->global_flags & XVID_HALFPEL)) {          if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1552                  start_timer();                  start_timer();
1553                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1554                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,
1555                                                      pEnc->mbParam.edged_height,
1556                                    pEnc->current->rounding_type);                                    pEnc->current->rounding_type);
1557                  stop_inter_timer();                  stop_inter_timer();
1558          }          }
1559    
1560          start_timer();          start_timer();
1561          if (pEnc->current->global_flags & XVID_HINTEDME_SET)          if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
         {  
1562                  HintedMESet(pEnc, &bIntra);                  HintedMESet(pEnc, &bIntra);
1563          }          } else {
1564          else                  bIntra =
1565          {                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1566                  bIntra = MotionEstimation(                                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
                         &pEnc->mbParam,  
                         pEnc->current,  
                         pEnc->reference,  
                         &pEnc->vInterH,  
                         &pEnc->vInterV,  
                         &pEnc->vInterHV,  
1567                          iLimit);                          iLimit);
1568          }          }
1569          stop_motion_timer();          stop_motion_timer();
1570    
1571          if (bIntra == 1)          if (bIntra == 1) {
         {  
1572                  return FrameCodeI(pEnc, bs, pBits);                  return FrameCodeI(pEnc, bs, pBits);
1573          }          }
1574    
# Line 1112  Line 1577 
1577          if(vol_header)          if(vol_header)
1578                  BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1579    
1580          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1581    
1582          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
1583    
# Line 1121  Line 1586 
1586          pEnc->sStat.iMvCount = 0;          pEnc->sStat.iMvCount = 0;
1587          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1588    
1589          for(y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1590          {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1591                  for(x = 0; x < pEnc->mbParam.mb_width; x++)                          MACROBLOCK *pMB =
1592                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
                         MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];  
1593    
1594                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1595    
1596                          if (!bIntra)                          if (!bIntra) {
                         {  
1597                                  start_timer();                                  start_timer();
1598                                  MBMotionCompensation(pMB,                                  MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1599                                                       x, y,                                                                           &pEnc->vInterH, &pEnc->vInterV,
1600                                                       &pEnc->reference->image,                                                                           &pEnc->vInterHV, &pEnc->current->image,
1601                                                       &pEnc->vInterH,                                                                           dct_codes, pEnc->mbParam.width,
                                                      &pEnc->vInterV,  
                                                      &pEnc->vInterHV,  
                                                      &pEnc->current->image,  
                                                      dct_codes,  
                                                      pEnc->mbParam.width,  
1602                                                       pEnc->mbParam.height,                                                       pEnc->mbParam.height,
1603                                                       pEnc->mbParam.edged_width,                                                       pEnc->mbParam.edged_width,
1604                                                       pEnc->current->rounding_type);                                                       pEnc->current->rounding_type);
# Line 1150  Line 1608 
1608                                          if(pMB->dquant != NO_CHANGE) {                                          if(pMB->dquant != NO_CHANGE) {
1609                                                  pMB->mode = MODE_INTER_Q;                                                  pMB->mode = MODE_INTER_Q;
1610                                                  pEnc->current->quant += DQtab[pMB->dquant];                                                  pEnc->current->quant += DQtab[pMB->dquant];
1611                                                  if (pEnc->current->quant > 31) pEnc->current->quant = 31;                                                  if (pEnc->current->quant > 31)
1612                                                  else if(pEnc->current->quant < 1) pEnc->current->quant = 1;                                                          pEnc->current->quant = 31;
1613                                                    else if (pEnc->current->quant < 1)
1614                                                            pEnc->current->quant = 1;
1615                                          }                                          }
1616                                  }                                  }
1617                                  pMB->quant = pEnc->current->quant;                                  pMB->quant = pEnc->current->quant;
1618    
1619                                  pMB->field_pred = 0;                                  pMB->field_pred = 0;
1620    
1621                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);                                  pMB->cbp =
1622                          }                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1623                          else                                                                            dct_codes, qcoeff);
1624                          {                          } else {
1625                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
1626                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1627                                                                      dct_codes, qcoeff);
1628                          }                          }
1629    
1630                          start_timer();                          start_timer();
1631                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1632                          stop_prediction_timer();                          stop_prediction_timer();
1633    
1634                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
                         {  
1635                                  pEnc->sStat.kblks++;                                  pEnc->sStat.kblks++;
1636                          }                          } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1637                          else if (pMB->cbp ||                                             pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1638                                   pMB->mvs[0].x || pMB->mvs[0].y ||                                             pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
                                  pMB->mvs[1].x || pMB->mvs[1].y ||  
                                  pMB->mvs[2].x || pMB->mvs[2].y ||  
                                  pMB->mvs[3].x || pMB->mvs[3].y)  
                         {  
1639                                  pEnc->sStat.mblks++;                                  pEnc->sStat.mblks++;
1640                          }                          } else {
                         else  
                         {  
1641                                  pEnc->sStat.ublks++;                                  pEnc->sStat.ublks++;
1642                          }                          }
1643    
# Line 1195  Line 1649 
1649    
1650          emms();          emms();
1651    
1652          if (pEnc->current->global_flags & XVID_HINTEDME_GET)          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
         {  
1653                  HintedMEGet(pEnc, 0);                  HintedMEGet(pEnc, 0);
1654          }          }
1655    
# Line 1212  Line 1665 
1665          {          {
1666                  pEnc->mbParam.m_fcode++;                  pEnc->mbParam.m_fcode++;
1667                  iSearchRange *= 2;                  iSearchRange *= 2;
1668          }          } else if ((fSigma < iSearchRange / 6)
         else if ((fSigma < iSearchRange / 6)  
1669                   && (pEnc->sStat.fMvPrevSigma >= 0)                   && (pEnc->sStat.fMvPrevSigma >= 0)
1670                   && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)                   && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1671                   && (pEnc->mbParam.m_fcode >= 2))       // minimum search range 16                   && (pEnc->mbParam.m_fcode >= 2))       // minimum search range 16
# Line 1231  Line 1683 
1683    
1684    
1685  #ifdef BFRAMES  #ifdef BFRAMES
1686  static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)  static void
1687    FrameCodeB(Encoder * pEnc,
1688                       FRAMEINFO * frame,
1689                       Bitstream * bs,
1690                       uint32_t * pBits)
1691  {  {
1692      int16_t dct_codes[6*64];      int16_t dct_codes[6*64];
1693      int16_t qcoeff[6*64];      int16_t qcoeff[6*64];
# Line 1243  Line 1699 
1699          IMAGE *b_ref = &pEnc->current->image;          IMAGE *b_ref = &pEnc->current->image;
1700    
1701          // forward          // forward
1702          image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);          image_setedges(f_ref, pEnc->mbParam.edged_width,
1703                                       pEnc->mbParam.edged_height, pEnc->mbParam.width,
1704                                       pEnc->mbParam.height,
1705                                       frame->global_flags & XVID_INTERLACING);
1706          start_timer();          start_timer();
1707          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1708                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1709                                              0);
1710          stop_inter_timer();          stop_inter_timer();
1711    
1712          // backward          // backward
1713          image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);          image_setedges(b_ref, pEnc->mbParam.edged_width,
1714                                       pEnc->mbParam.edged_height, pEnc->mbParam.width,
1715                                       pEnc->mbParam.height,
1716                                       frame->global_flags & XVID_INTERLACING);
1717      start_timer();      start_timer();
1718          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1719                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1720                                              0);
1721          stop_inter_timer();          stop_inter_timer();
1722    
1723          start_timer();          start_timer();
1724          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1725                  pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1726                  pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);                                                   pEnc->current->mbs, b_ref, &pEnc->vInterH,
1727                                                     &pEnc->vInterV, &pEnc->vInterHV);
1728    
1729    
1730          stop_motion_timer();          stop_motion_timer();
# Line 1270  Line 1735 
1735          }*/          }*/
1736    
1737      frame->coding_type = B_VOP;      frame->coding_type = B_VOP;
1738      BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1739    
1740      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
1741    
# Line 1280  Line 1745 
1745          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1746    
1747    
1748      for (y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
         {  
1749                  // reset prediction                  // reset prediction
1750    
1751                  forward.x = 0;                  forward.x = 0;
# Line 1289  Line 1753 
1753                  backward.x = 0;                  backward.x = 0;
1754                  backward.y = 0;                  backward.y = 0;
1755    
1756                  for (x = 0; x < pEnc->mbParam.mb_width; x++)                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1757                  {                          MACROBLOCK *f_mb =
1758                          MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];                                  &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1759                          MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK *b_mb =
1760                                    &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1761                          MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1762    
1763                          // decoder ignores mb when refence block is INTER(0,0), CBP=0                          // decoder ignores mb when refence block is INTER(0,0), CBP=0
1764                          if (mb->mode == MODE_NOT_CODED)                          if (mb->mode == MODE_NOT_CODED) {
                         {  
1765                                  mb->mvs[0].x = 0;                                  mb->mvs[0].x = 0;
1766                                  mb->mvs[0].y = 0;                                  mb->mvs[0].y = 0;
1767                                  continue;                                  continue;
1768                          }                          }
1769    
1770                          MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,                          MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1771                                          f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,
1772                                          b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1773                                                                             &pEnc->vInterV, &pEnc->vInterHV,
1774                                          dct_codes);                                          dct_codes);
1775    
1776                          mb->quant = frame->quant;                          mb->quant = frame->quant;
1777                          mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes, qcoeff);                          mb->cbp =
1778                                    MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1779                                                                      qcoeff);
1780                          //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);                          //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1781    
1782    
1783                          if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&                          if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1784                                  mb->cbp == 0 &&                                  && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
                                 mb->mvs[0].x == 0 &&  
                                 mb->mvs[0].y == 0)  
                         {  
1785                                  mb->mode = 5;  // skipped                                  mb->mode = 5;  // skipped
1786                          }                          }
1787    
1788                          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)                          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
                         {  
1789                                  mb->pmvs[0].x = mb->mvs[0].x - forward.x;                                  mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1790                                  mb->pmvs[0].y = mb->mvs[0].y - forward.y;                                  mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1791                                  forward.x = mb->mvs[0].x;                                  forward.x = mb->mvs[0].x;
1792                                  forward.y = mb->mvs[0].y;                                  forward.y = mb->mvs[0].y;
1793                          }                          }
1794    
1795                          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)                          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
                         {  
1796                                  mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;                                  mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1797                                  mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;                                  mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1798                                  backward.x = mb->b_mvs[0].x;                                  backward.x = mb->b_mvs[0].x;
1799                                  backward.y = mb->b_mvs[0].y;                                  backward.y = mb->b_mvs[0].y;
1800                          }                          }
1801    //                      DPRINTF("%05i : [%i %i] M=%i CBP=%i MVS=%i,%i forward=%i,%i", pEnc->m_framenum, x, y, mb->mode, mb->cbp, mb->mvs[0].x, mb->mvs[0].y, forward.x, forward.y);
 //                      printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i  %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);  
1802    
1803                          start_timer();                          start_timer();
1804                          MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs, &pEnc->sStat);                          MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1805                                                     &pEnc->sStat);
1806                          stop_coding_timer();                          stop_coding_timer();
1807                  }                  }
1808          }          }

Legend:
Removed from v.157  
changed lines
  Added in v.236

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4