[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 194, Sun Jun 9 23:30:50 2002 UTC revision 648, Sat Nov 16 23:38:16 2002 UTC
# Line 3  Line 3 
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Encoder main module  -   *  -  Encoder main module  -
5   *   *
6   *  This program is an implementation of a part of one or more MPEG-4   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *               2002 Peter Ross <pross@xvid.org>
8   *  to use this software module in hardware or software products are   *               2002 Daniel Smith <danielsmith@astroboymail.com>
  *  advised that its use may infringe existing patents or copyrights, and  
  *  any such use would be at such party's own risk.  The original  
  *  developer of this software module and his/her company, and subsequent  
  *  editors and their companies, will have no liability for use of this  
  *  software or modifications or derivatives thereof.  
9   *   *
10   *  This program is free software; you can redistribute it and/or modify   *  This file is part of XviD, a free MPEG-4 video encoder/decoder
11   *  it under the terms of the GNU General Public License as published by   *
12     *  XviD is free software; you can redistribute it and/or modify it
13     *  under the terms of the GNU General Public License as published by
14   *  the Free Software Foundation; either version 2 of the License, or   *  the Free Software Foundation; either version 2 of the License, or
15   *  (at your option) any later version.   *  (at your option) any later version.
16   *   *
# Line 26  Line 23 
23   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
24   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
25   *   *
26   ****************************************************************************/   *  Under section 8 of the GNU General Public License, the copyright
27     *  holders of XVID explicitly forbid distribution in the following
28  /*****************************************************************************   *  countries:
29     *
30     *    - Japan
31     *    - United States of America
32     *
33     *  Linking XviD statically or dynamically with other modules is making a
34     *  combined work based on XviD.  Thus, the terms and conditions of the
35     *  GNU General Public License cover the whole combination.
36   *   *
37   *  History   *  As a special exception, the copyright holders of XviD give you
38     *  permission to link XviD with independent modules that communicate with
39     *  XviD solely through the VFW1.1 and DShow interfaces, regardless of the
40     *  license terms of these independent modules, and to copy and distribute
41     *  the resulting combined work under terms of your choice, provided that
42     *  every copy of the combined work is accompanied by a complete copy of
43     *  the source code of XviD (the version of XviD used to produce the
44     *  combined work), being distributed under the terms of the GNU General
45     *  Public License plus this exception.  An independent module is a module
46     *  which is not derived from or based on XviD.
47   *   *
48   *  08.05.2002 fix some problem in DEBUG mode;   *  Note that people who make modified versions of XviD are not obligated
49   *             MinChen <chenm001@163.com>   *  to grant this special exception for their modified versions; it is
50   *  14.04.2002 added FrameCodeB()   *  their choice whether to do so.  The GNU General Public License gives
51     *  permission to release a modified version without this exception; this
52     *  exception also makes it possible to release a modified version which
53     *  carries forward this exception.
54   *   *
55   *  $Id: encoder.c,v 1.40 2002-06-09 23:30:50 edgomez Exp $   * $Id: encoder.c,v 1.87 2002-11-16 23:38:16 edgomez Exp $
56   *   *
57   ****************************************************************************/   ****************************************************************************/
58    
59  #include <stdlib.h>  #include <stdlib.h>
60  #include <stdio.h>  #include <stdio.h>
61  #include <math.h>  #include <math.h>
62    #include <string.h>
63    
64  #include "encoder.h"  #include "encoder.h"
65  #include "prediction/mbprediction.h"  #include "prediction/mbprediction.h"
# Line 61  Line 78 
78  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
79  #include "utils/mem_align.h"  #include "utils/mem_align.h"
80    
81    #ifdef _SMP
82    #include "motion/smp_motion_est.h"
83    #endif
84  /*****************************************************************************  /*****************************************************************************
85   * Local macros   * Local macros
86   ****************************************************************************/   ****************************************************************************/
# Line 82  Line 102 
102                        bool force_inter,                        bool force_inter,
103                        bool vol_header);                        bool vol_header);
104    
 #ifdef BFRAMES  
 static void FrameCodeB(Encoder * pEnc,  
                        FRAMEINFO * frame,  
                        Bitstream * bs,  
                        uint32_t *pBits);  
 #endif  
   
105  /*****************************************************************************  /*****************************************************************************
106   * Local data   * Local data
107   ****************************************************************************/   ****************************************************************************/
108    
109  static int DQtab[4] =  static int DQtab[4] = {
 {  
110          -1, -2, 1, 2          -1, -2, 1, 2
111  };  };
112    
113  static int iDQtab[5] =  static int iDQtab[5] = {
 {  
114          1, 0, NO_CHANGE, 2, 3          1, 0, NO_CHANGE, 2, 3
115  };  };
116    
117    
118  static void __inline image_null(IMAGE * image)  static void __inline
119    image_null(IMAGE * image)
120  {  {
121          image->y = image->u = image->v = NULL;          image->y = image->u = image->v = NULL;
122  }  }
# Line 114  Line 126 
126   * Encoder creation   * Encoder creation
127   *   *
128   * This function creates an Encoder instance, it allocates all necessary   * This function creates an Encoder instance, it allocates all necessary
129   * image buffers (reference, current and bframes) and initialize the internal   * image buffers (reference, current) and initialize the internal xvid
130   * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.   * encoder paremeters according to the XVID_ENC_PARAM input parameter.
131   *   *
132   * The code seems to be very long but is very basic, mainly memory allocation   * The code seems to be very long but is very basic, mainly memory allocation
133   * and cleaning code.   * and cleaning code.
# Line 132  Line 144 
144  encoder_create(XVID_ENC_PARAM * pParam)  encoder_create(XVID_ENC_PARAM * pParam)
145  {  {
146          Encoder *pEnc;          Encoder *pEnc;
147          uint32_t i;          int i;
148    
149          pParam->handle = NULL;          pParam->handle = NULL;
150    
# Line 145  Line 157 
157    
158          /* Fps */          /* Fps */
159    
160          if (pParam->fincr <= 0 || pParam->fbase <= 0)          if (pParam->fincr <= 0 || pParam->fbase <= 0) {
         {  
161                  pParam->fincr = 1;                  pParam->fincr = 1;
162                  pParam->fbase = 25;                  pParam->fbase = 25;
163          }          }
# Line 157  Line 168 
168           */           */
169    
170          i = pParam->fincr;          i = pParam->fincr;
171          while (i > 1)          while (i > 1) {
172          {                  if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
                 if (pParam->fincr % i == 0 && pParam->fbase % i == 0)  
                 {  
173                          pParam->fincr /= i;                          pParam->fincr /= i;
174                          pParam->fbase /= i;                          pParam->fbase /= i;
175                          i = pParam->fincr;                          i = pParam->fincr;
# Line 169  Line 178 
178                  i--;                  i--;
179          }          }
180    
181          if (pParam->fbase > 65535)          if (pParam->fbase > 65535) {
         {  
182                  float div = (float)pParam->fbase / 65535;                  float div = (float)pParam->fbase / 65535;
183    
184                  pParam->fbase = (int)(pParam->fbase / div);                  pParam->fbase = (int)(pParam->fbase / div);
185                  pParam->fincr = (int)(pParam->fincr / div);                  pParam->fincr = (int)(pParam->fincr / div);
186          }          }
# Line 203  Line 212 
212    
213          /* 1 keyframe each 10 seconds */          /* 1 keyframe each 10 seconds */
214    
215          if (pParam->max_key_interval == 0)          if (pParam->max_key_interval <= 0)
216                  pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;                  pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
217    
   
218          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
219          if (pEnc == NULL)          if (pEnc == NULL)
220                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
221    
222            /* Zero the Encoder Structure */
223    
224            memset(pEnc, 0, sizeof(Encoder));
225    
226          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
227    
228          pEnc->mbParam.width = pParam->width;          pEnc->mbParam.width = pParam->width;
# Line 225  Line 237 
237          pEnc->mbParam.fbase = pParam->fbase;          pEnc->mbParam.fbase = pParam->fbase;
238          pEnc->mbParam.fincr = pParam->fincr;          pEnc->mbParam.fincr = pParam->fincr;
239    
240            pEnc->mbParam.m_quant_type = H263_QUANT;
241    
242    #ifdef _SMP
243            pEnc->mbParam.num_threads = MIN(pParam->num_threads, MAXNUMTHREADS);
244    #endif
245    
246          pEnc->sStat.fMvPrevSigma = -1;          pEnc->sStat.fMvPrevSigma = -1;
247    
248          /* Fill rate control parameters */          /* Fill rate control parameters */
# Line 244  Line 262 
262    
263          /* try to allocate mb memory */          /* try to allocate mb memory */
264    
265          pEnc->current->mbs = xvid_malloc(sizeof(MACROBLOCK) * \          pEnc->current->mbs =
266                                           pEnc->mbParam.mb_width * \                  xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
267                                           pEnc->mbParam.mb_height,                                          pEnc->mbParam.mb_height, CACHE_LINE);
268                                           CACHE_LINE);          pEnc->reference->mbs =
269          pEnc->reference->mbs = xvid_malloc(sizeof(MACROBLOCK) * \                  xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
270                                             pEnc->mbParam.mb_width * \                                          pEnc->mbParam.mb_height, CACHE_LINE);
                                            pEnc->mbParam.mb_height,  
                                            CACHE_LINE);  
271    
272          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
273                  goto xvid_err_memory2;                  goto xvid_err_memory2;
274    
275          /* try to allocate image memory */          /* try to allocate image memory */
276    
277  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
278          image_null(&pEnc->sOriginal);          image_null(&pEnc->sOriginal);
279  #endif  #endif
 #ifdef BFRAMES  
         image_null(&pEnc->f_refh);  
         image_null(&pEnc->f_refv);  
         image_null(&pEnc->f_refhv);  
 #endif  
280          image_null(&pEnc->current->image);          image_null(&pEnc->current->image);
281          image_null(&pEnc->reference->image);          image_null(&pEnc->reference->image);
282          image_null(&pEnc->vInterH);          image_null(&pEnc->vInterH);
283          image_null(&pEnc->vInterV);          image_null(&pEnc->vInterV);
         image_null(&pEnc->vInterVf);  
284          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
         image_null(&pEnc->vInterHVf);  
285    
286  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
287          if (image_create(&pEnc->sOriginal,          if (image_create
288                           pEnc->mbParam.edged_width,                  (&pEnc->sOriginal, pEnc->mbParam.edged_width,
289                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
290                  goto xvid_err_memory3;                  goto xvid_err_memory3;
291  #endif  #endif
292  #ifdef BFRAMES          if (image_create
293          if (image_create(&pEnc->f_refh,                  (&pEnc->current->image, pEnc->mbParam.edged_width,
                          pEnc->mbParam.edged_width,  
294                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
295                  goto xvid_err_memory3;                  goto xvid_err_memory3;
296          if (image_create(&pEnc->f_refv,          if (image_create
297                           pEnc->mbParam.edged_width,                  (&pEnc->reference->image, pEnc->mbParam.edged_width,
298                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
299                  goto xvid_err_memory3;                  goto xvid_err_memory3;
300          if (image_create(&pEnc->f_refhv,          if (image_create
301                           pEnc->mbParam.edged_width,                  (&pEnc->vInterH, pEnc->mbParam.edged_width,
                          pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
 #endif  
         if (image_create(&pEnc->current->image,  
                          pEnc->mbParam.edged_width,  
302                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
303                  goto xvid_err_memory3;                  goto xvid_err_memory3;
304          if (image_create(&pEnc->reference->image,          if (image_create
305                           pEnc->mbParam.edged_width,                  (&pEnc->vInterV, pEnc->mbParam.edged_width,
306                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
307                  goto xvid_err_memory3;                  goto xvid_err_memory3;
308          if (image_create(&pEnc->vInterH,          if (image_create
309                           pEnc->mbParam.edged_width,                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,
                          pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create(&pEnc->vInterV,  
                          pEnc->mbParam.edged_width,  
310                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
311                  goto xvid_err_memory3;                  goto xvid_err_memory3;
         if (image_create(&pEnc->vInterVf,  
                          pEnc->mbParam.edged_width,  
                          pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create(&pEnc->vInterHV,  
                          pEnc->mbParam.edged_width,  
                          pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create(&pEnc->vInterHVf,  
                          pEnc->mbParam.edged_width,  
                          pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
   
   
   
         /* B Frames specific init */  
 #ifdef BFRAMES  
   
         pEnc->mbParam.max_bframes = pParam->max_bframes;  
         pEnc->bquant_ratio = pParam->bquant_ratio;  
         pEnc->bframes = NULL;  
   
         if (pEnc->mbParam.max_bframes > 0)  
         {  
                 int n;  
   
                 pEnc->bframes = xvid_malloc(pEnc->mbParam.max_bframes * \  
                                             sizeof(FRAMEINFO *),  
                                             CACHE_LINE);  
   
                 if (pEnc->bframes == NULL)  
                         goto xvid_err_memory3;  
   
                 for (n=0; n<pEnc->mbParam.max_bframes; n++)  
                         pEnc->bframes[n] = NULL;  
   
   
                 for (n = 0; n < pEnc->mbParam.max_bframes; n++)  
                 {  
                         pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO),  
                                                        CACHE_LINE);  
   
                         if (pEnc->bframes[n] == NULL)  
                                 goto xvid_err_memory4;  
   
                         pEnc->bframes[n]->mbs = xvid_malloc(sizeof(MACROBLOCK) * \  
                                                             pEnc->mbParam.mb_width * \  
                                                             pEnc->mbParam.mb_height,  
                                                             CACHE_LINE);  
   
                         if (pEnc->bframes[n]->mbs == NULL)  
                                 goto xvid_err_memory4;  
   
                         image_null(&pEnc->bframes[n]->image);  
   
                         if (image_create(&pEnc->bframes[n]->image,  
                                          pEnc->mbParam.edged_width,  
                                          pEnc->mbParam.edged_height) < 0)  
                                 goto xvid_err_memory4;  
   
                 }  
         }  
   
         pEnc->bframenum_head = 0;  
         pEnc->bframenum_tail = 0;  
         pEnc->flush_bframes = 0;  
   
         pEnc->mbParam.m_seconds = 0;  
         pEnc->mbParam.m_ticks = 0;  
 #endif  
312    
313          pParam->handle = (void *)pEnc;          pParam->handle = (void *)pEnc;
314    
315          if (pParam->rc_bitrate)          if (pParam->rc_bitrate) {
316          {                  RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
                 RateControlInit(&pEnc->rate_control,  
                                 pParam->rc_bitrate,  
317                                  pParam->rc_reaction_delay_factor,                                  pParam->rc_reaction_delay_factor,
318                                  pParam->rc_averaging_period,                                                  pParam->rc_averaging_period, pParam->rc_buffer,
                                 pParam->rc_buffer,  
319                                  pParam->fbase * 1000 / pParam->fincr,                                  pParam->fbase * 1000 / pParam->fincr,
320                                  pParam->max_quantizer,                                                  pParam->max_quantizer, pParam->min_quantizer);
                                 pParam->min_quantizer);  
321          }          }
322    
323          init_timer();          init_timer();
# Line 402  Line 327 
327          /*          /*
328           * We handle all XVID_ERR_MEMORY here, this makes the code lighter           * We handle all XVID_ERR_MEMORY here, this makes the code lighter
329           */           */
 #ifdef BFRAMES  
  xvid_err_memory4:  
         for (i=0; i<pEnc->mbParam.max_bframes; i++)  
         {  
   
                 if (pEnc->bframes[i] == NULL) continue;  
   
                 image_destroy(&pEnc->bframes[i]->image,  
                               pEnc->mbParam.edged_width,  
                               pEnc->mbParam.edged_height);  
   
                 xvid_free(pEnc->bframes[i]->mbs);  
   
                 xvid_free(pEnc->bframes[i]);  
   
         }  
   
         xvid_free(pEnc->bframes);  
   
 #endif  
330    
331   xvid_err_memory3:   xvid_err_memory3:
332  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
333          image_destroy(&pEnc->sOriginal,          image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
334                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
335  #endif  #endif
336    
337  #ifdef BFRAMES          image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
         image_destroy(&pEnc->f_refh,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refv,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refhv,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
 #endif  
   
         image_destroy(&pEnc->current->image,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->reference->image,  
                       pEnc->mbParam.edged_width,  
338                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
339          image_destroy(&pEnc->vInterH,          image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
340                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
341          image_destroy(&pEnc->vInterV,          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
342                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
343          image_destroy(&pEnc->vInterVf,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
344                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
345          image_destroy(&pEnc->vInterHV,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterHVf,  
                       pEnc->mbParam.edged_width,  
346                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
347    
348   xvid_err_memory2:   xvid_err_memory2:
# Line 492  Line 373 
373  int  int
374  encoder_destroy(Encoder * pEnc)  encoder_destroy(Encoder * pEnc)
375  {  {
         ENC_CHECK(pEnc);  
   
         /* B Frames specific */  
 #ifdef BFRAMES  
         int i;  
   
         for (i=0; i<pEnc->mbParam.max_bframes; i++)  
         {  
   
                 if (pEnc->bframes[i] == NULL) continue;  
   
                 image_destroy(&pEnc->bframes[i]->image,  
                               pEnc->mbParam.edged_width,  
                               pEnc->mbParam.edged_height);  
   
                 xvid_free(pEnc->bframes[i]->mbs);  
   
                 xvid_free(pEnc->bframes[i]);  
   
         }  
   
         xvid_free(pEnc->bframes);  
376    
377  #endif          ENC_CHECK(pEnc);
378    
379          /* All images, reference, current etc ... */          /* All images, reference, current etc ... */
380            image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
         image_destroy(&pEnc->current->image,  
                       pEnc->mbParam.edged_width,  
381                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
382          image_destroy(&pEnc->reference->image,          image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
383                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
384          image_destroy(&pEnc->vInterH,          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
385                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
386          image_destroy(&pEnc->vInterV,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterVf,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterHV,  
                       pEnc->mbParam.edged_width,  
387                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
388          image_destroy(&pEnc->vInterHVf,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
 #ifdef BFRAMES  
         image_destroy(&pEnc->f_refh,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refv,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refhv,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.edged_height);  
 #endif  
 #ifdef _DEBUG  
         image_destroy(&pEnc->sOriginal,  
                       pEnc->mbParam.edged_width,  
389                        pEnc->mbParam.edged_height);                        pEnc->mbParam.edged_height);
 #endif  
   
         /* Encoder structure */  
   
         xvid_free(pEnc->current->mbs);  
         xvid_free(pEnc->current);  
   
         xvid_free(pEnc->reference->mbs);  
         xvid_free(pEnc->reference);  
   
         xvid_free(pEnc);  
   
         return XVID_ERR_OK;  
 }  
   
 /*****************************************************************************  
  * Frame encoder entry point  
  *  
  * At this moment 2 versions coexist : one for IPB compatible encoder,  
  *                                     another one for the old IP encoder.  
  *  
  * Returned values :  
  *    - XVID_ERR_OK     - no errors  
  *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong  
  *                        format  
  ****************************************************************************/  
   
   
 #ifdef BFRAMES  
 /*****************************************************************************  
  * Frame encoder entry point for IPB capable encoder  
  ****************************************************************************/  
 int  
 encoder_encode(Encoder * pEnc,  
                XVID_ENC_FRAME * pFrame,  
                XVID_ENC_STATS * pResult)  
 {  
         uint16_t x, y;  
         Bitstream bs;  
         uint32_t bits;  
   
 #ifdef _DEBUG  
         float psnr;  
         char temp[128];  
 #endif  
   
         ENC_CHECK(pEnc);  
         ENC_CHECK(pFrame);  
   
         start_global_timer();  
   
         BitstreamInit(&bs, pFrame->bitstream, 0);  
   
         /*  
          * bframe "flush" code  
          */  
   
         if ( (pFrame->image == NULL || pEnc->flush_bframes) &&  
              (pEnc->bframenum_head < pEnc->bframenum_tail))  
         {  
   
                 if (pEnc->flush_bframes == 0)  
                 {  
                         /*  
                          * we have reached the end of stream without getting  
                          * a future reference frame... so encode last final  
                          * frame as a pframe  
                          */  
   
                         /* ToDo : remove dprintf calls */  
                         /*  
                           dprintf("--- PFRAME (final frame correction) --- ");  
                         */  
                         pEnc->bframenum_tail--;  
                         SWAP(pEnc->current, pEnc->reference);  
   
                         SWAP(pEnc->current,  
                              pEnc->bframes[pEnc->bframenum_tail]);  
   
                         FrameCodeP(pEnc, &bs, &bits, 1, 0);  
   
                         BitstreamPad(&bs);  
                         pFrame->length = BitstreamLength(&bs);  
                         pFrame->input_consumed = 0;  
                         pFrame->intra = 0;  
   
                         return XVID_ERR_OK;  
                 }  
   
                 /* ToDo : remove dprintf calls */  
                 /*  
                   dprintf("--- BFRAME (flush) --- ");  
                 */  
                 FrameCodeB(pEnc,  
                            pEnc->bframes[pEnc->bframenum_head],  
                            &bs,  
                            &bits);  
                 pEnc->bframenum_head++;  
   
   
                 BitstreamPad(&bs);  
                 pFrame->length = BitstreamLength(&bs);  
                 pFrame->input_consumed = 0;  
                 pFrame->intra = 0;  
   
                 return XVID_ERR_OK;  
         }  
   
         if (pFrame->image == NULL)  
         {  
                 pFrame->length = 0;  
                 pFrame->input_consumed = 1;  
                 pFrame->intra = 0;  
   
                 return XVID_ERR_OK;  
         }  
   
         if (pEnc->bframenum_head > 0)  
         {  
                 pEnc->bframenum_head = pEnc->bframenum_tail = 0;  
         }  
   
         pEnc->flush_bframes = 0;  
   
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * Well there was a separation here so i put it in ANSI C  
          * comment style :-)  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
   
         SWAP(pEnc->current, pEnc->reference);  
   
         EMMS();  
   
         if (pFrame->quant == 0)  
                 pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);  
         else  
                 pEnc->current->quant = pFrame->quant;  
   
         if(pEnc->current->quant < 1)  
                 pEnc->current->quant = 1;  
   
         if(pEnc->current->quant > 31)  
                 pEnc->current->quant = 31;  
   
         pEnc->current->global_flags = pFrame->general;  
         pEnc->current->motion_flags = pFrame->motion;  
         pEnc->current->seconds = pEnc->mbParam.m_seconds;  
         pEnc->current->ticks = pEnc->mbParam.m_ticks;  
         /* ToDo : dynamic fcode (in both directions) */  
         pEnc->current->fcode = pEnc->mbParam.m_fcode;  
         pEnc->current->bcode = pEnc->mbParam.m_fcode;  
   
         start_timer();  
         if (image_input(&pEnc->current->image,  
                         pEnc->mbParam.width,  
                         pEnc->mbParam.height,  
                         pEnc->mbParam.edged_width,  
                         pFrame->image,  
                         pFrame->colorspace))  
                 return XVID_ERR_FORMAT;  
         stop_conv_timer();  
   
 #ifdef _DEBUG  
         image_copy(&pEnc->sOriginal,  
                    &pEnc->current->image,  
                    pEnc->mbParam.edged_width,  
                    pEnc->mbParam.height);  
 #endif  
   
         EMMS();  
   
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * Luminance masking  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
   
         if ((pEnc->current->global_flags & XVID_LUMIMASKING))  
         {  
                 int *temp_dquants =  
                         (int *) xvid_malloc(pEnc->mbParam.mb_width * \  
                                             pEnc->mbParam.mb_height * \  
                                             sizeof(int),  
                                             CACHE_LINE);  
   
                 pEnc->current->quant =  
                         adaptive_quantization(pEnc->current->image.y,  
                                               pEnc->mbParam.edged_width,  
                                               temp_dquants,  
                                               pEnc->current->quant,  
                                               pEnc->current->quant,  
                                               2*pEnc->current->quant,  
                                               pEnc->mbParam.mb_width,  
                                               pEnc->mbParam.mb_height);  
   
                 for (y = 0; y < pEnc->mbParam.mb_height; y++)  
                 {  
   
                         #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)  
   
                         for (x = 0; x < pEnc->mbParam.mb_width; x++)  
                         {  
                                 MACROBLOCK *pMB =  
                                         &pEnc->current->mbs[OFFSET(x,y)];  
                                 pMB->dquant =  
                                         iDQtab[temp_dquants[OFFSET(x,y)] + 2];  
                         }  
   
                         #undef OFFSET  
   
                 }  
   
                 xvid_free(temp_dquants);  
         }  
   
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * ivop/pvop/bvop selection  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
390    
391    #ifdef _DEBUG_PSNR
392            image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
393                                      pEnc->mbParam.edged_height);
394    #endif
395    
396          if (pEnc->iFrameNum == 0 ||          /* Encoder structure */
397              pFrame->intra   == 1 ||          xvid_free(pEnc->current->mbs);
398            xvid_free(pEnc->current);
             (pFrame->intra < 0  &&  
              pEnc->iMaxKeyInterval > 0 &&  
              pEnc->iFrameNum >= pEnc->iMaxKeyInterval) ||  
   
             image_mad(&pEnc->reference->image,  
                       &pEnc->current->image,  
                       pEnc->mbParam.edged_width,  
                       pEnc->mbParam.width,  
                       pEnc->mbParam.height) > 30)  
         {  
                 /*  
                  * This will be coded as an Intra Frame  
                  */  
   
                 /* ToDo : Remove dprintf calls */  
                 /*  
                   dprintf("--- IFRAME ---");  
                 */  
   
                 FrameCodeI(pEnc, &bs, &bits);  
   
                 pFrame->intra = 1;  
                 pEnc->flush_bframes = 1;  
   
                 /*  
                  * NB : sequences like "IIBB" decode fine with msfdam but,  
                  *      go screwy with divx 5.00  
                  */  
         }  
         else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes)  
         {  
                 /*  
                  * This will be coded as a Predicted Frame  
                  */  
   
                 /* ToDo : Remove dprintf calls */  
                 /*  
                   dprintf("--- PFRAME ---");  
                 */  
   
                 FrameCodeP(pEnc, &bs, &bits, 1, 0);  
                 pFrame->intra = 0;  
                 pEnc->flush_bframes = 1;  
         }  
         else  
         {  
                 /*  
                  * This will be coded as a Bidirectional Frame  
                  */  
   
                 /* ToDo : Remove dprintf calls */  
                 /*  
                   dprintf("--- BFRAME (store) ---  head=%i tail=%i",  
                   pEnc->bframenum_head,  
                   pEnc->bframenum_tail);  
                 */  
   
                 if (pFrame->bquant < 1)  
                 {  
                         pEnc->current->quant =  
                                 ((pEnc->reference->quant+pEnc->current->quant)*\  
                                  pEnc->bquant_ratio) / 200;  
                 }  
                 else  
                 {  
                         pEnc->current->quant = pFrame->bquant;  
                 }  
   
                 /* store frame into bframe buffer & swap ref back to current */  
                 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);  
                 SWAP(pEnc->current, pEnc->reference);  
   
                 pEnc->bframenum_tail++;  
399    
400                  pFrame->intra = 0;          xvid_free(pEnc->reference->mbs);
401                  pFrame->length = 0;          xvid_free(pEnc->reference);
                 pFrame->input_consumed = 1;  
402    
403                  pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;          xvid_free(pEnc);
                 if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)  
                 {  
                         pEnc->mbParam.m_seconds++;  
                         pEnc->mbParam.m_ticks = 0;  
                 }  
404    
405                  return XVID_ERR_OK;                  return XVID_ERR_OK;
406          }          }
407    
         BitstreamPad(&bs);  
         pFrame->length = BitstreamLength(&bs);  
   
         if (pResult)  
         {  
                 pResult->quant = pEnc->current->quant;  
                 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits/8);  
                 pResult->kblks = pEnc->sStat.kblks;  
                 pResult->mblks = pEnc->sStat.mblks;  
                 pResult->ublks = pEnc->sStat.ublks;  
         }  
   
         EMMS();  
   
 #ifdef _DEBUG  
         psnr = image_psnr(&pEnc->sOriginal,  
                           &pEnc->current->image,  
                           pEnc->mbParam.edged_width,  
                           pEnc->mbParam.width,  
                           pEnc->mbParam.height);  
   
         snprintf(temp, 127, "PSNR: %f\n", psnr);  
         DEBUG(temp);  
 #endif  
408    
409          if (pFrame->quant == 0)  void inc_frame_num(Encoder * pEnc)
410          {          {
                 RateControlUpdate(&pEnc->rate_control,  
                                   pEnc->current->quant,  
                                   pFrame->length,  
                                   pFrame->intra);  
         }  
   
         pEnc->iFrameNum++;  
411          pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;          pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
412          if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)          pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
413          {          pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
                 pEnc->mbParam.m_seconds++;  
                 pEnc->mbParam.m_ticks = 0;  
414          }          }
         pFrame->input_consumed = 1;  
415    
         stop_global_timer();  
         write_timer();  
   
         return XVID_ERR_OK;  
 }  
 #else  
416  /*****************************************************************************  /*****************************************************************************
417   * Frame encoder entry point for IP capable encoder   * "original" IP frame encoder entry point
418     *
419     * Returned values :
420     *    - XVID_ERR_OK     - no errors
421     *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
422     *                        format
423   ****************************************************************************/   ****************************************************************************/
424    
425  int  int
426  encoder_encode(Encoder * pEnc,  encoder_encode(Encoder * pEnc,
427                 XVID_ENC_FRAME * pFrame,                 XVID_ENC_FRAME * pFrame,
# Line 924  Line 431 
431          Bitstream bs;          Bitstream bs;
432          uint32_t bits;          uint32_t bits;
433          uint16_t write_vol_header = 0;          uint16_t write_vol_header = 0;
434  #ifdef _DEBUG  
435    #ifdef _DEBUG_PSNR
436          float psnr;          float psnr;
437          uint8_t temp[128];          uint8_t temp[128];
438  #endif  #endif
# Line 940  Line 448 
448    
449          pEnc->current->global_flags = pFrame->general;          pEnc->current->global_flags = pFrame->general;
450          pEnc->current->motion_flags = pFrame->motion;          pEnc->current->motion_flags = pFrame->motion;
451            pEnc->current->seconds = pEnc->mbParam.m_seconds;
452            pEnc->current->ticks = pEnc->mbParam.m_ticks;
453          pEnc->mbParam.hint = &pFrame->hint;          pEnc->mbParam.hint = &pFrame->hint;
454    
455          start_timer();          start_timer();
456          if (image_input(&pEnc->current->image,          if (image_input
457                          pEnc->mbParam.width,                  (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
458                          pEnc->mbParam.height,                   pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
                         pEnc->mbParam.edged_width,  
                         pFrame->image,  
                         pFrame->colorspace) < 0)  
459                  return XVID_ERR_FORMAT;                  return XVID_ERR_FORMAT;
460          stop_conv_timer();          stop_conv_timer();
461    
462  #ifdef _DEBUG  #ifdef _DEBUG_PSNR
463          image_copy(&pEnc->sOriginal,          image_copy(&pEnc->sOriginal, &pEnc->current->image,
464                     &pEnc->current->image,                             pEnc->mbParam.edged_width, pEnc->mbParam.height);
                    pEnc->mbParam.edged_width,  
                    pEnc->mbParam.height);  
465  #endif  #endif
466    
467          EMMS();          emms();
468    
469          BitstreamInit(&bs, pFrame->bitstream, 0);          BitstreamInit(&bs, pFrame->bitstream, 0);
470    
471          if (pFrame->quant == 0)          if (pFrame->quant == 0) {
         {  
472                  pEnc->current->quant = RateControlGetQ(&pEnc->rate_control,0);                  pEnc->current->quant = RateControlGetQ(&pEnc->rate_control,0);
473          }          } else {
         else  
         {  
474                  pEnc->current->quant = pFrame->quant;                  pEnc->current->quant = pFrame->quant;
475          }          }
476    
477          if ((pEnc->current->global_flags & XVID_LUMIMASKING))          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
478          {                  int *temp_dquants =
479                  int * temp_dquants = (int *)                          (int *) xvid_malloc(pEnc->mbParam.mb_width *
480                          xvid_malloc(pEnc->mbParam.mb_width * \                                                                  pEnc->mbParam.mb_height * sizeof(int),
                                     pEnc->mbParam.mb_height * \  
                                     sizeof(int),  
481                                      CACHE_LINE);                                      CACHE_LINE);
482    
483                  pEnc->current->quant =                  pEnc->current->quant =
484                          adaptive_quantization(pEnc->current->image.y,                          adaptive_quantization(pEnc->current->image.y,
485                                                pEnc->mbParam.edged_width,                                                                    pEnc->mbParam.edged_width, temp_dquants,
486                                                temp_dquants,                                                                    pEnc->current->quant, pEnc->current->quant,
                                               pEnc->current->quant,  
                                               pEnc->current->quant,  
487                                                2*pEnc->current->quant,                                                2*pEnc->current->quant,
488                                                pEnc->mbParam.mb_width,                                                pEnc->mbParam.mb_width,
489                                                pEnc->mbParam.mb_height);                                                pEnc->mbParam.mb_height);
490    
491                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++) {
                 {  
492    
493                          #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)                          #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
494    
495                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++) {
                         {  
496    
497    
498                                  MACROBLOCK *pMB =                                  MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
499                                          &pEnc->current->mbs[OFFSET(x,y)];  
500                                  pMB->dquant =                                  pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
                                         iDQtab[temp_dquants[OFFSET(x,y)] + 2];  
501                          }                          }
502    
503                          #undef OFFSET                          #undef OFFSET
# Line 1011  Line 506 
506                  xvid_free(temp_dquants);                  xvid_free(temp_dquants);
507          }          }
508    
509          if (pEnc->current->global_flags & XVID_H263QUANT)          if (pEnc->current->global_flags & XVID_H263QUANT) {
         {  
510                  if(pEnc->mbParam.m_quant_type != H263_QUANT)                  if(pEnc->mbParam.m_quant_type != H263_QUANT)
511                          write_vol_header = 1;                          write_vol_header = 1;
512                  pEnc->mbParam.m_quant_type = H263_QUANT;                  pEnc->mbParam.m_quant_type = H263_QUANT;
513          }          } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
         else if (pEnc->current->global_flags & XVID_MPEGQUANT)  
         {  
514                  int matrix1_changed, matrix2_changed;                  int matrix1_changed, matrix2_changed;
515    
516                  matrix1_changed = matrix2_changed = 0;                  matrix1_changed = matrix2_changed = 0;
# Line 1030  Line 522 
522    
523                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
524                          if(pFrame->quant_intra_matrix != NULL)                          if(pFrame->quant_intra_matrix != NULL)
525                                  matrix1_changed =                                  matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
                                         set_intra_matrix(pFrame->quant_intra_matrix);  
526                          if(pFrame->quant_inter_matrix != NULL)                          if(pFrame->quant_inter_matrix != NULL)
527                                  matrix2_changed                                  matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
528                                          = set_inter_matrix(pFrame->quant_inter_matrix);                  } else {
                 }  
                 else {  
529                          matrix1_changed = set_intra_matrix(get_default_intra_matrix());                          matrix1_changed = set_intra_matrix(get_default_intra_matrix());
530                          matrix2_changed = set_inter_matrix(get_default_inter_matrix());                          matrix2_changed = set_inter_matrix(get_default_inter_matrix());
531                  }                  }
# Line 1044  Line 533 
533                          write_vol_header = matrix1_changed | matrix2_changed;                          write_vol_header = matrix1_changed | matrix2_changed;
534          }          }
535    
536          if (pFrame->intra < 0)          if (pFrame->intra < 0) {
537          {                  if ((pEnc->iFrameNum == 0)
538                  if ((pEnc->iFrameNum == 0) ||                          || ((pEnc->iMaxKeyInterval > 0)
539                                    && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
540                      ((pEnc->iMaxKeyInterval > 0) &&                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
541                       (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))                  } else {
542                  {                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
543                          pFrame->intra = FrameCodeI(pEnc,                  }
544                                                     &bs,          } else {
545                                                     &bits);                  if (pFrame->intra == 1) {
546                  }                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
547                  else                  } else {
548                  {                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
                         pFrame->intra = FrameCodeP(pEnc,  
                                                    &bs,  
                                                    &bits,  
                                                    0,  
                                                    write_vol_header);  
                 }  
         }  
         else  
         {  
                 if (pFrame->intra == 1)  
                 {  
                         pFrame->intra = FrameCodeI(pEnc,  
                                                    &bs,  
                                                    &bits);  
                 }  
                 else  
                 {  
                         pFrame->intra = FrameCodeP(pEnc,  
                                                    &bs,  
                                                    &bits,  
                                                    1,  
                                                    write_vol_header);  
549                  }                  }
550    
551          }          }
# Line 1088  Line 555 
555          BitstreamPad(&bs);          BitstreamPad(&bs);
556          pFrame->length = BitstreamLength(&bs);          pFrame->length = BitstreamLength(&bs);
557    
558          if (pResult)          if (pResult) {
         {  
559                  pResult->quant = pEnc->current->quant;                  pResult->quant = pEnc->current->quant;
560                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
561                  pResult->kblks = pEnc->sStat.kblks;                  pResult->kblks = pEnc->sStat.kblks;
# Line 1097  Line 563 
563                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
564          }          }
565    
566          EMMS();          emms();
   
         if (pFrame->quant == 0)  
         {  
                 RateControlUpdate(&pEnc->rate_control,  
                                   pEnc->current->quant,  
                                   pFrame->length,  
                                   pFrame->intra);  
         }  
567    
568  #ifdef _DEBUG          if (pFrame->quant == 0) {
569          psnr = image_psnr(&pEnc->sOriginal,                  RateControlUpdate(&pEnc->rate_control, (int16_t)pEnc->current->quant,
570                            &pEnc->current->image,                                                    pFrame->length, pFrame->intra);
571                            pEnc->mbParam.edged_width,          }
572                            pEnc->mbParam.width,  #ifdef _DEBUG_PSNR
573            psnr =
574                    image_psnr(&pEnc->sOriginal, &pEnc->current->image,
575                                       pEnc->mbParam.edged_width, pEnc->mbParam.width,
576                            pEnc->mbParam.height);                            pEnc->mbParam.height);
577    
578          snprintf(temp, 127, "PSNR: %f\n", psnr);          snprintf(temp, 127, "PSNR: %f\n", psnr);
579          DEBUG(temp);          DEBUG(temp);
580  #endif  #endif
581    
582            inc_frame_num(pEnc);
583          pEnc->iFrameNum++;          pEnc->iFrameNum++;
584    
585          stop_global_timer();          stop_global_timer();
# Line 1125  Line 587 
587    
588          return XVID_ERR_OK;          return XVID_ERR_OK;
589  }  }
 #endif  
590    
591    
592  static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {  static __inline void
593    CodeIntraMB(Encoder * pEnc,
594                            MACROBLOCK * pMB)
595    {
596    
597          pMB->mode = MODE_INTRA;          pMB->mode = MODE_INTRA;
598    
# Line 1139  Line 603 
603          pMB->sad16 = 0;          pMB->sad16 = 0;
604    
605          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
606                  if(pMB->dquant != NO_CHANGE)                  if (pMB->dquant != NO_CHANGE) {
                 {  
607                          pMB->mode = MODE_INTRA_Q;                          pMB->mode = MODE_INTRA_Q;
608                          pEnc->current->quant += DQtab[pMB->dquant];                          pEnc->current->quant += DQtab[pMB->dquant];
609    
610                          if (pEnc->current->quant > 31) pEnc->current->quant = 31;                          if (pEnc->current->quant > 31)
611                          if (pEnc->current->quant < 1) pEnc->current->quant = 1;                                  pEnc->current->quant = 31;
612                            if (pEnc->current->quant < 1)
613                                    pEnc->current->quant = 1;
614                  }                  }
615          }          }
616    
# Line 1156  Line 621 
621  #define FCODEBITS       3  #define FCODEBITS       3
622  #define MODEBITS        5  #define MODEBITS        5
623    
624  void HintedMESet(Encoder * pEnc, int * intra)  void
625    HintedMESet(Encoder * pEnc,
626                            int *intra)
627  {  {
628          HINTINFO * hint;          HINTINFO * hint;
629          Bitstream bs;          Bitstream bs;
# Line 1165  Line 632 
632    
633          hint = pEnc->mbParam.hint;          hint = pEnc->mbParam.hint;
634    
635          if (hint->rawhints)          if (hint->rawhints) {
         {  
636                  *intra = hint->mvhint.intra;                  *intra = hint->mvhint.intra;
637          }          } else {
         else  
         {  
638                  BitstreamInit(&bs, hint->hintstream, hint->hintlength);                  BitstreamInit(&bs, hint->hintstream, hint->hintlength);
639                  *intra = BitstreamGetBit(&bs);                  *intra = BitstreamGetBit(&bs);
640          }          }
641    
642          if (*intra)          if (*intra) {
         {  
643                  return;                  return;
644          }          }
645    
646          pEnc->current->fcode = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);          pEnc->current->fcode =
647                    (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
648                                                                                                                                     FCODEBITS);
649    
650          length  = pEnc->current->fcode + 5;          length  = pEnc->current->fcode + 5;
651          high    = 1 << (length - 1);          high    = 1 << (length - 1);
652    
653          for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)          for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
654          {                  for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
655                  for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)                          MACROBLOCK *pMB =
656                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
657                          MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                          MVBLOCKHINT *bhint =
658                          MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];                                  &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
659                          VECTOR pred[4];                          VECTOR pred;
660                          VECTOR tmp;                          VECTOR tmp;
                         int32_t dummy[4];  
661                          int vec;                          int vec;
662    
663                          pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);                          pMB->mode =
664                                    (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
665                                                                                                                                      MODEBITS);
666    
667                          pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;                          pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
668                          pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;                          pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
669    
670                          if (pMB->mode == MODE_INTER)                          if (pMB->mode == MODE_INTER) {
671                          {                                  tmp.x =
672                                  tmp.x  = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);                                          (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
673                                  tmp.y  = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);                                                                                                                                                    length);
674                                    tmp.y =
675                                            (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
676                                                                                                                                                      length);
677                                  tmp.x -= (tmp.x >= high) ? high*2 : 0;                                  tmp.x -= (tmp.x >= high) ? high*2 : 0;
678                                  tmp.y -= (tmp.y >= high) ? high*2 : 0;                                  tmp.y -= (tmp.y >= high) ? high*2 : 0;
679    
680                                  get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);                                  pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
681    
682                                  for (vec=0 ; vec<4 ; ++vec)                                  for (vec = 0; vec < 4; ++vec) {
                                 {  
683                                          pMB->mvs[vec].x  = tmp.x;                                          pMB->mvs[vec].x  = tmp.x;
684                                          pMB->mvs[vec].y  = tmp.y;                                          pMB->mvs[vec].y  = tmp.y;
685                                          pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;                                          pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
686                                          pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;                                          pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
                                 }  
687                          }                          }
688                          else if (pMB->mode == MODE_INTER4V)                          } else if (pMB->mode == MODE_INTER4V) {
689                          {                                  for (vec = 0; vec < 4; ++vec) {
690                                  for (vec=0 ; vec<4 ; ++vec)                                          tmp.x =
691                                  {                                                  (hint->rawhints) ? bhint->mvs[vec].
692                                          tmp.x  = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);                                                  x : BitstreamGetBits(&bs, length);
693                                          tmp.y  = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);                                          tmp.y =
694                                                    (hint->rawhints) ? bhint->mvs[vec].
695                                                    y : BitstreamGetBits(&bs, length);
696                                          tmp.x -= (tmp.x >= high) ? high*2 : 0;                                          tmp.x -= (tmp.x >= high) ? high*2 : 0;
697                                          tmp.y -= (tmp.y >= high) ? high*2 : 0;                                          tmp.y -= (tmp.y >= high) ? high*2 : 0;
698    
699                                          get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);                                          pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
700    
701                                          pMB->mvs[vec].x  = tmp.x;                                          pMB->mvs[vec].x  = tmp.x;
702                                          pMB->mvs[vec].y  = tmp.y;                                          pMB->mvs[vec].y  = tmp.y;
703                                          pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;                                          pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
704                                          pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;                                          pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
705                                  }                                  }
706                          }                          } else                          // intra / stuffing / not_coded
                         else    // intra / stuffing / not_coded  
                         {  
                                 for (vec=0 ; vec<4 ; ++vec)  
707                                  {                                  {
708                                    for (vec = 0; vec < 4; ++vec) {
709                                          pMB->mvs[vec].x  = pMB->mvs[vec].y  = 0;                                          pMB->mvs[vec].x  = pMB->mvs[vec].y  = 0;
710                                  }                                  }
711                          }                          }
712    
713                          if (pMB->mode == MODE_INTER4V &&                          if (pMB->mode == MODE_INTER4V &&
714                                  (pEnc->current->global_flags & XVID_LUMIMASKING) && pMB->dquant != NO_CHANGE)                                  (pEnc->current->global_flags & XVID_LUMIMASKING)
715                          {                                  && pMB->dquant != NO_CHANGE) {
716                                  pMB->mode = MODE_INTRA;                                  pMB->mode = MODE_INTRA;
717    
718                                  for (vec=0 ; vec<4 ; ++vec)                                  for (vec = 0; vec < 4; ++vec) {
                                 {  
719                                          pMB->mvs[vec].x = pMB->mvs[vec].y = 0;                                          pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
720                                  }                                  }
721                          }                          }
# Line 1258  Line 724 
724  }  }
725    
726    
727  void HintedMEGet(Encoder * pEnc, int intra)  void
728    HintedMEGet(Encoder * pEnc,
729                            int intra)
730  {  {
731          HINTINFO * hint;          HINTINFO * hint;
732          Bitstream bs;          Bitstream bs;
# Line 1267  Line 735 
735    
736          hint = pEnc->mbParam.hint;          hint = pEnc->mbParam.hint;
737    
738          if (hint->rawhints)          if (hint->rawhints) {
         {  
739                  hint->mvhint.intra = intra;                  hint->mvhint.intra = intra;
740          }          } else {
         else  
         {  
741                  BitstreamInit(&bs, hint->hintstream, 0);                  BitstreamInit(&bs, hint->hintstream, 0);
742                  BitstreamPutBit(&bs, intra);                  BitstreamPutBit(&bs, intra);
743          }          }
744    
745          if (intra)          if (intra) {
746          {                  if (!hint->rawhints) {
                 if (!hint->rawhints)  
                 {  
747                          BitstreamPad(&bs);                          BitstreamPad(&bs);
748                          hint->hintlength = BitstreamLength(&bs);                          hint->hintlength = BitstreamLength(&bs);
749                  }                  }
# Line 1290  Line 753 
753          length  = pEnc->current->fcode + 5;          length  = pEnc->current->fcode + 5;
754          high    = 1 << (length - 1);          high    = 1 << (length - 1);
755    
756          if (hint->rawhints)          if (hint->rawhints) {
         {  
757                  hint->mvhint.fcode = pEnc->current->fcode;                  hint->mvhint.fcode = pEnc->current->fcode;
758          }          } else {
         else  
         {  
759                  BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);                  BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
760          }          }
761    
762          for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)          for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
763          {                  for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
764                  for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)                          MACROBLOCK *pMB =
765                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
766                          MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                          MVBLOCKHINT *bhint =
767                          MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];                                  &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
768                          VECTOR tmp;                          VECTOR tmp;
769    
770                          if (hint->rawhints)                          if (hint->rawhints) {
                         {  
771                                  bhint->mode = pMB->mode;                                  bhint->mode = pMB->mode;
772                          }                          } else {
                         else  
                         {  
773                                  BitstreamPutBits(&bs, pMB->mode, MODEBITS);                                  BitstreamPutBits(&bs, pMB->mode, MODEBITS);
774                          }                          }
775    
776                          if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)                          if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
                         {  
777                                  tmp.x  = pMB->mvs[0].x;                                  tmp.x  = pMB->mvs[0].x;
778                                  tmp.y  = pMB->mvs[0].y;                                  tmp.y  = pMB->mvs[0].y;
779                                  tmp.x += (tmp.x < 0) ? high*2 : 0;                                  tmp.x += (tmp.x < 0) ? high*2 : 0;
780                                  tmp.y += (tmp.y < 0) ? high*2 : 0;                                  tmp.y += (tmp.y < 0) ? high*2 : 0;
781    
782                                  if (hint->rawhints)                                  if (hint->rawhints) {
                                 {  
783                                          bhint->mvs[0].x = tmp.x;                                          bhint->mvs[0].x = tmp.x;
784                                          bhint->mvs[0].y = tmp.y;                                          bhint->mvs[0].y = tmp.y;
785                                  }                                  } else {
                                 else  
                                 {  
786                                          BitstreamPutBits(&bs, tmp.x, length);                                          BitstreamPutBits(&bs, tmp.x, length);
787                                          BitstreamPutBits(&bs, tmp.y, length);                                          BitstreamPutBits(&bs, tmp.y, length);
788                                  }                                  }
789                          }                          } else if (pMB->mode == MODE_INTER4V) {
                         else if (pMB->mode == MODE_INTER4V)  
                         {  
790                                  int vec;                                  int vec;
791    
792                                  for (vec=0 ; vec<4 ; ++vec)                                  for (vec = 0; vec < 4; ++vec) {
                                 {  
793                                          tmp.x  = pMB->mvs[vec].x;                                          tmp.x  = pMB->mvs[vec].x;
794                                          tmp.y  = pMB->mvs[vec].y;                                          tmp.y  = pMB->mvs[vec].y;
795                                          tmp.x += (tmp.x < 0) ? high*2 : 0;                                          tmp.x += (tmp.x < 0) ? high*2 : 0;
796                                          tmp.y += (tmp.y < 0) ? high*2 : 0;                                          tmp.y += (tmp.y < 0) ? high*2 : 0;
797    
798                                          if (hint->rawhints)                                          if (hint->rawhints) {
                                         {  
799                                                  bhint->mvs[vec].x = tmp.x;                                                  bhint->mvs[vec].x = tmp.x;
800                                                  bhint->mvs[vec].y = tmp.y;                                                  bhint->mvs[vec].y = tmp.y;
801                                          }                                          } else {
                                         else  
                                         {  
802                                                  BitstreamPutBits(&bs, tmp.x, length);                                                  BitstreamPutBits(&bs, tmp.x, length);
803                                                  BitstreamPutBits(&bs, tmp.y, length);                                                  BitstreamPutBits(&bs, tmp.y, length);
804                                          }                                          }
# Line 1360  Line 807 
807                  }                  }
808          }          }
809    
810          if (!hint->rawhints)          if (!hint->rawhints) {
         {  
811                  BitstreamPad(&bs);                  BitstreamPad(&bs);
812                  hint->hintlength = BitstreamLength(&bs);                  hint->hintlength = BitstreamLength(&bs);
813          }          }
814  }  }
815    
816    
817  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int
818    FrameCodeI(Encoder * pEnc,
819                       Bitstream * bs,
820                       uint32_t * pBits)
821  {  {
822    
823          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
# Line 1382  Line 831 
831          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
832    
833          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
834          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);  
835            BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
836    
837          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
838    
# Line 1391  Line 841 
841          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
842    
843          for (y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++)
844                  for (x = 0; x < pEnc->mbParam.mb_width; x++)                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
845                  {                          MACROBLOCK *pMB =
846                          MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
847    
848                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
849    
850                          MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);                          MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
851                                                              dct_codes, qcoeff);
852    
853                          start_timer();                          start_timer();
854                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
855                          stop_prediction_timer();                          stop_prediction_timer();
856    
857                          start_timer();                          start_timer();
858                            if (pEnc->current->global_flags & XVID_GREYSCALE)
859                            {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
860                                    qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
861                                    qcoeff[5*64+0]=0;
862                            }
863                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
864                          stop_coding_timer();                          stop_coding_timer();
865                  }                  }
# Line 1416  Line 872 
872          pEnc->sStat.iMvCount = 0;          pEnc->sStat.iMvCount = 0;
873          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
874    
875          if (pEnc->current->global_flags & XVID_HINTEDME_GET)          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
         {  
876                  HintedMEGet(pEnc, 1);                  HintedMEGet(pEnc, 1);
877          }          }
878    
# Line 1427  Line 882 
882    
883  #define INTRA_THRESHOLD 0.5  #define INTRA_THRESHOLD 0.5
884    
885  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int
886    FrameCodeP(Encoder * pEnc,
887                       Bitstream * bs,
888                       uint32_t * pBits,
889                       bool force_inter,
890                       bool vol_header)
891  {  {
892          float fSigma;          float fSigma;
893    
# Line 1435  Line 895 
895          DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
896    
897          int iLimit;          int iLimit;
898          uint32_t x, y;          unsigned int x, y;
899          int iSearchRange;          int iSearchRange;
900          int bIntra;          int bIntra;
901    
# Line 1443  Line 903 
903          IMAGE *pRef = &pEnc->reference->image;          IMAGE *pRef = &pEnc->reference->image;
904    
905          start_timer();          start_timer();
906          image_setedges(pRef,          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
907                         pEnc->mbParam.edged_width,                                     pEnc->mbParam.width, pEnc->mbParam.height);
                        pEnc->mbParam.edged_height,  
                        pEnc->mbParam.width,  
                        pEnc->mbParam.height,  
                        pEnc->current->global_flags & XVID_INTERLACING);  
908          stop_edges_timer();          stop_edges_timer();
909    
910          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
# Line 1456  Line 912 
912          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
913    
914          if (!force_inter)          if (!force_inter)
915                  iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);                  iLimit =
916                            (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
917                                       INTRA_THRESHOLD);
918          else          else
919                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
920    
921          if ((pEnc->current->global_flags & XVID_HALFPEL)) {          if ((pEnc->current->global_flags & XVID_HALFPEL)) {
922                  start_timer();                  start_timer();
923                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
924                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,
925                                                      pEnc->mbParam.edged_height,
926                                    pEnc->current->rounding_type);                                    pEnc->current->rounding_type);
927                  stop_inter_timer();                  stop_inter_timer();
928          }          }
929    
930          start_timer();          start_timer();
931          if (pEnc->current->global_flags & XVID_HINTEDME_SET)          if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
         {  
932                  HintedMESet(pEnc, &bIntra);                  HintedMESet(pEnc, &bIntra);
933          }          } else {
934    
935    #ifdef _SMP
936            if (pEnc->mbParam.num_threads > 1)
937                    bIntra =
938                            SMP_MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
939                                                     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
940                                                     iLimit);
941          else          else
942          {  #endif
943                  bIntra = MotionEstimation(                  bIntra =
944                          &pEnc->mbParam,                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
945                          pEnc->current,                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
                         pEnc->reference,  
                         &pEnc->vInterH,  
                         &pEnc->vInterV,  
                         &pEnc->vInterHV,  
946                          iLimit);                          iLimit);
947    
948          }          }
949          stop_motion_timer();          stop_motion_timer();
950    
951          if (bIntra == 1)          if (bIntra == 1) {
         {  
952                  return FrameCodeI(pEnc, bs, pBits);                  return FrameCodeI(pEnc, bs, pBits);
953          }          }
954    
# Line 1496  Line 957 
957          if(vol_header)          if(vol_header)
958                  BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
959    
960          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
961    
962          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
963    
# Line 1505  Line 966 
966          pEnc->sStat.iMvCount = 0;          pEnc->sStat.iMvCount = 0;
967          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
968    
969          for(y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
970          {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
971                  for(x = 0; x < pEnc->mbParam.mb_width; x++)                          MACROBLOCK *pMB =
972                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
                         MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];  
973    
974                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
975    
976                          if (!bIntra)                          if (!bIntra) {
                         {  
977                                  start_timer();                                  start_timer();
978                                  MBMotionCompensation(pMB,                                  MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
979                                                       x, y,                                                                           &pEnc->vInterH, &pEnc->vInterV,
980                                                       &pEnc->reference->image,                                                                           &pEnc->vInterHV, &pEnc->current->image,
981                                                       &pEnc->vInterH,                                                                           dct_codes, pEnc->mbParam.width,
                                                      &pEnc->vInterV,  
                                                      &pEnc->vInterHV,  
                                                      &pEnc->current->image,  
                                                      dct_codes,  
                                                      pEnc->mbParam.width,  
982                                                       pEnc->mbParam.height,                                                       pEnc->mbParam.height,
983                                                       pEnc->mbParam.edged_width,                                                       pEnc->mbParam.edged_width,
984                                                       pEnc->current->rounding_type);                                                       pEnc->current->rounding_type);
# Line 1534  Line 988 
988                                          if(pMB->dquant != NO_CHANGE) {                                          if(pMB->dquant != NO_CHANGE) {
989                                                  pMB->mode = MODE_INTER_Q;                                                  pMB->mode = MODE_INTER_Q;
990                                                  pEnc->current->quant += DQtab[pMB->dquant];                                                  pEnc->current->quant += DQtab[pMB->dquant];
991                                                  if (pEnc->current->quant > 31) pEnc->current->quant = 31;                                                  if (pEnc->current->quant > 31)
992                                                  else if(pEnc->current->quant < 1) pEnc->current->quant = 1;                                                          pEnc->current->quant = 31;
993                                                    else if (pEnc->current->quant < 1)
994                                                            pEnc->current->quant = 1;
995                                          }                                          }
996                                  }                                  }
997                                  pMB->quant = pEnc->current->quant;                                  pMB->quant = pEnc->current->quant;
998    
999                                  pMB->field_pred = 0;                                  pMB->field_pred = 0;
1000    
1001                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);                                  pMB->cbp =
1002                          }                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1003                          else                                                                            dct_codes, qcoeff);
1004                          {                          } else {
1005                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
1006                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1007                          }                                                                    dct_codes, qcoeff);
1008    
1009                          start_timer();                          start_timer();
1010                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1011                          stop_prediction_timer();                          stop_prediction_timer();
1012                            }
1013    
1014                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
                         {  
1015                                  pEnc->sStat.kblks++;                                  pEnc->sStat.kblks++;
1016                          }                          } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1017                          else if (pMB->cbp ||                                             pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1018                                   pMB->mvs[0].x || pMB->mvs[0].y ||                                             pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
                                  pMB->mvs[1].x || pMB->mvs[1].y ||  
                                  pMB->mvs[2].x || pMB->mvs[2].y ||  
                                  pMB->mvs[3].x || pMB->mvs[3].y)  
                         {  
1019                                  pEnc->sStat.mblks++;                                  pEnc->sStat.mblks++;
1020                          }                          }  else {
                         else  
                         {  
1021                                  pEnc->sStat.ublks++;                                  pEnc->sStat.ublks++;
1022                          }                          }
1023    
1024                          start_timer();                          start_timer();
1025    
1026                            /* Finished processing the MB, now check if to CODE or SKIP */
1027    
1028                            if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&
1029                                    pMB->mvs[0].y == 0) {
1030    
1031                                            MBSkip(bs);     /* without B-frames, no precautions are needed */
1032    
1033                            }
1034                            else {
1035                                    if (pEnc->current->global_flags & XVID_GREYSCALE) {
1036                                            pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1037                                            qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */
1038                                            qcoeff[5*64+0]=0;
1039                                    }
1040                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1041                            }
1042    
1043                          stop_coding_timer();                          stop_coding_timer();
1044                  }                  }
1045          }          }
1046    
1047          emms();          emms();
1048    
1049          if (pEnc->current->global_flags & XVID_HINTEDME_GET)          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
         {  
1050                  HintedMEGet(pEnc, 0);                  HintedMEGet(pEnc, 0);
1051          }          }
1052    
# Line 1596  Line 1062 
1062          {          {
1063                  pEnc->mbParam.m_fcode++;                  pEnc->mbParam.m_fcode++;
1064                  iSearchRange *= 2;                  iSearchRange *= 2;
1065          }          } else if ((fSigma < iSearchRange / 6)
         else if ((fSigma < iSearchRange / 6)  
1066                   && (pEnc->sStat.fMvPrevSigma >= 0)                   && (pEnc->sStat.fMvPrevSigma >= 0)
1067                   && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)                   && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1068                   && (pEnc->mbParam.m_fcode >= 2))       // minimum search range 16                   && (pEnc->mbParam.m_fcode >= 2))       // minimum search range 16
# Line 1611  Line 1076 
1076          *pBits = BitstreamPos(bs) - *pBits;          *pBits = BitstreamPos(bs) - *pBits;
1077    
1078          return 0;                                        // inter          return 0;                                        // inter
 }  
   
   
 #ifdef BFRAMES  
 static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)  
 {  
     int16_t dct_codes[6*64];  
     int16_t qcoeff[6*64];  
     uint32_t x, y;  
         VECTOR forward;  
         VECTOR backward;  
   
     IMAGE *f_ref = &pEnc->reference->image;  
         IMAGE *b_ref = &pEnc->current->image;  
   
         // forward  
         image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);  
         start_timer();  
         image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,  
                 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);  
         stop_inter_timer();  
   
         // backward  
         image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);  
     start_timer();  
         image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,  
                 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);  
         stop_inter_timer();  
   
         start_timer();  
         MotionEstimationBVOP(&pEnc->mbParam, frame,  
                 pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,  
                 pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);  
   
   
         stop_motion_timer();  
   
         /*if (test_quant_type(&pEnc->mbParam, pEnc->current))  
         {  
                 BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);  
         }*/  
   
     frame->coding_type = B_VOP;  
     BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame);  
   
     *pBits = BitstreamPos(bs);  
   
     pEnc->sStat.iTextBits = 0;  
     pEnc->sStat.iMvSum = 0;  
     pEnc->sStat.iMvCount = 0;  
         pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;  
   
1079    
     for (y = 0; y < pEnc->mbParam.mb_height; y++)  
         {  
                 // reset prediction  
   
                 forward.x = 0;  
                 forward.y = 0;  
                 backward.x = 0;  
                 backward.y = 0;  
   
                 for (x = 0; x < pEnc->mbParam.mb_width; x++)  
                 {  
                         MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];  
                         MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];  
                         MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];  
   
                         // decoder ignores mb when refence block is INTER(0,0), CBP=0  
                         if (mb->mode == MODE_NOT_CODED)  
                         {  
                                 mb->mvs[0].x = 0;  
                                 mb->mvs[0].y = 0;  
                                 continue;  
                         }  
   
                         MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,  
                                         f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,  
                                         b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,  
                                         dct_codes);  
   
                         mb->quant = frame->quant;  
                         mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes, qcoeff);  
                         //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);  
   
   
                         if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&  
                                 mb->cbp == 0 &&  
                                 mb->mvs[0].x == 0 &&  
                                 mb->mvs[0].y == 0)  
                         {  
                                 mb->mode = 5;  // skipped  
                         }  
   
                         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)  
                         {  
                                 mb->pmvs[0].x = mb->mvs[0].x - forward.x;  
                                 mb->pmvs[0].y = mb->mvs[0].y - forward.y;  
                                 forward.x = mb->mvs[0].x;  
                                 forward.y = mb->mvs[0].y;  
1080                          }                          }
   
                         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)  
                         {  
                                 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;  
                                 mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;  
                                 backward.x = mb->b_mvs[0].x;  
                                 backward.y = mb->b_mvs[0].y;  
                         }  
   
 //                      printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i  %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);  
   
                         start_timer();  
                         MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs, &pEnc->sStat);  
                         stop_coding_timer();  
                 }  
         }  
   
         emms();  
   
         // TODO: dynamic fcode/bcode ???  
   
         *pBits = BitstreamPos(bs) - *pBits;  
 }  
 #endif  

Legend:
Removed from v.194  
changed lines
  Added in v.648

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4