[svn] / branches / release-1_0-branch / xvidcore / src / prediction / mbprediction.c Repository:
ViewVC logotype

Diff of /branches/release-1_0-branch/xvidcore/src/prediction/mbprediction.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

trunk/xvidcore/src/prediction/mbprediction.c revision 723, Sun Dec 15 01:21:12 2002 UTC branches/release-1_0-branch/xvidcore/src/prediction/mbprediction.c revision 1446, Mon May 3 23:28:29 2004 UTC
# Line 1  Line 1 
1  /*****************************************************************************  /*****************************************************************************
2   *   *
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  - Prediction functions -   *  - Prediction module -
5   *   *
6   *  Copyright(C) 2001-2002 - Michael Militzer <isibaar@xvid.org>   *  Copyright (C) 2001-2003 Michael Militzer <isibaar@xvid.org>
7   *  Copyright(C) 2001-2002 - Peter Ross <pross@xvid.org>   *                2001-2003 Peter Ross <pross@xvid.org>
8   *   *
9   *  This file is part of XviD, a free MPEG-4 video encoder/decoder   *  This program is free software ; you can redistribute it and/or modify
10   *   *  it under the terms of the GNU General Public License as published by
  *  XviD is free software; you can redistribute it and/or modify it  
  *  under the terms of the GNU General Public License as published by  
11   *  the Free Software Foundation; either version 2 of the License, or   *  the Free Software Foundation; either version 2 of the License, or
12   *  (at your option) any later version.   *  (at your option) any later version.
13   *   *
# Line 22  Line 20 
20   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
21   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
22   *   *
23   *  Under section 8 of the GNU General Public License, the copyright   * $Id: mbprediction.c,v 1.14.2.1 2004-05-03 23:28:29 edgomez Exp $
  *  holders of XVID explicitly forbid distribution in the following  
  *  countries:  
  *  
  *    - Japan  
  *    - United States of America  
  *  
  *  Linking XviD statically or dynamically with other modules is making a  
  *  combined work based on XviD.  Thus, the terms and conditions of the  
  *  GNU General Public License cover the whole combination.  
  *  
  *  As a special exception, the copyright holders of XviD give you  
  *  permission to link XviD with independent modules that communicate with  
  *  XviD solely through the VFW1.1 and DShow interfaces, regardless of the  
  *  license terms of these independent modules, and to copy and distribute  
  *  the resulting combined work under terms of your choice, provided that  
  *  every copy of the combined work is accompanied by a complete copy of  
  *  the source code of XviD (the version of XviD used to produce the  
  *  combined work), being distributed under the terms of the GNU General  
  *  Public License plus this exception.  An independent module is a module  
  *  which is not derived from or based on XviD.  
  *  
  *  Note that people who make modified versions of XviD are not obligated  
  *  to grant this special exception for their modified versions; it is  
  *  their choice whether to do so.  The GNU General Public License gives  
  *  permission to release a modified version without this exception; this  
  *  exception also makes it possible to release a modified version which  
  *  carries forward this exception.  
  *  
  * $Id: mbprediction.c,v 1.12 2002-12-15 01:21:12 edgomez Exp $  
24   *   *
25   ****************************************************************************/   ****************************************************************************/
26    
27    #include <stdlib.h>
28    
29    #include "../global.h"
30  #include "../encoder.h"  #include "../encoder.h"
31  #include "mbprediction.h"  #include "mbprediction.h"
32  #include "../utils/mbfunctions.h"  #include "../utils/mbfunctions.h"
33  #include "../bitstream/cbp.h"  #include "../bitstream/cbp.h"
34    #include "../bitstream/mbcoding.h"
35    #include "../bitstream/zigzag.h"
36    
37    
 #define ABS(X) (((X)>0)?(X):-(X))  
 #define DIV_DIV(A,B)    ( (A) > 0 ? ((A)+((B)>>1))/(B) : ((A)-((B)>>1))/(B) )  
   
   
 /*****************************************************************************  
  * Local inlined function  
  ****************************************************************************/  
   
38  static int __inline  static int __inline
39  rescale(int predict_quant,  rescale(int predict_quant,
40                  int current_quant,                  int current_quant,
# Line 79  Line 45 
45  }  }
46    
47    
 /*****************************************************************************  
  * Local data  
  ****************************************************************************/  
   
48  static const int16_t default_acdc_values[15] = {  static const int16_t default_acdc_values[15] = {
49          1024,          1024,
50          0, 0, 0, 0, 0, 0, 0,          0, 0, 0, 0, 0, 0, 0,
# Line 90  Line 52 
52  };  };
53    
54    
 /*****************************************************************************  
  * Functions  
  ****************************************************************************/  
   
   
55  /*      get dc/ac prediction direction for a single block and place  /*      get dc/ac prediction direction for a single block and place
56          predictor values into MB->pred_values[j][..]          predictor values into MB->pred_values[j][..]
57  */  */
# Line 110  Line 67 
67                           uint32_t current_quant,                           uint32_t current_quant,
68                           int32_t iDcScaler,                           int32_t iDcScaler,
69                           int16_t predictors[8],                           int16_t predictors[8],
70                          const int bound)                           const int bound,
71                             const int bsversion)
72    
73  {  {
74          const int mbpos = (y * mb_width) + x;          const int mbpos = (y * mb_width) + x;
# Line 139  Line 97 
97    
98                  left = pMBs[index - 1].pred_values[0];                  left = pMBs[index - 1].pred_values[0];
99                  left_quant = pMBs[index - 1].quant;                  left_quant = pMBs[index - 1].quant;
                 /*DEBUGI("LEFT", *(left+MBPRED_SIZE)); */  
100          }          }
101          /* top macroblock */          /* top macroblock */
102    
# Line 228  Line 185 
185                  break;                  break;
186          }          }
187    
188          /*  determine ac prediction direction & ac/dc predictor */          /* determine ac prediction direction & ac/dc predictor place rescaled ac/dc
189          /*  place rescaled ac/dc predictions into predictors[] for later use */           * predictions into predictors[] for later use */
190    
191          if (ABS(pLeft[0] - pDiag[0]) < ABS(pDiag[0] - pTop[0])) {          /* Workaround: Bitstream versions <= 32 used to have a wrong predictor
192             * stored as it wasn't clipped to the [-2048, 2047] range. We only
193             * use the right predictors for bs versions > 32 */
194    #define BUGGY_CLIPPING_BS_VERSION 32
195            if (abs(pLeft[0] - pDiag[0]) < abs(pDiag[0] - pTop[0])) {
196                  *acpred_direction = 1;  /* vertical */                  *acpred_direction = 1;  /* vertical */
197                  predictors[0] = (int16_t)(DIV_DIV(pTop[0], iDcScaler));                  predictors[0] = DIV_DIV(pTop[0], iDcScaler);
198                    if (bsversion == 0 || bsversion > BUGGY_CLIPPING_BS_VERSION)
199                            predictors[0] = CLIP(predictors[0], -2048, 2047);
200                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
201                          predictors[i] = rescale(top_quant, current_quant, pTop[i]);                          predictors[i] = rescale(top_quant, current_quant, pTop[i]);
202                  }                  }
203          } else {          } else {
204                  *acpred_direction = 2;  /* horizontal */                  *acpred_direction = 2;  /* horizontal */
205                  predictors[0] = (int16_t)(DIV_DIV(pLeft[0], iDcScaler));                  predictors[0] = DIV_DIV(pLeft[0], iDcScaler);
206                    if (bsversion == 0 || bsversion > BUGGY_CLIPPING_BS_VERSION)
207                            predictors[0] = CLIP(predictors[0], -2048, 2047);
208                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
209                          predictors[i] = rescale(left_quant, current_quant, pLeft[i + 7]);                          predictors[i] = rescale(left_quant, current_quant, pLeft[i + 7]);
210                  }                  }
# Line 263  Line 228 
228          int16_t *pCurrent = pMB->pred_values[block];          int16_t *pCurrent = pMB->pred_values[block];
229          uint32_t i;          uint32_t i;
230    
231          DPRINTF(DPRINTF_COEFF,"predictor[0] %i", predictors[0]);          DPRINTF(XVID_DEBUG_COEFF,"predictor[0] %i\n", predictors[0]);
232    
233          dct_codes[0] += predictors[0];  /* dc prediction */          dct_codes[0] += predictors[0];  /* dc prediction */
234          pCurrent[0] = (int16_t)(dct_codes[0] * iDcScaler);          pCurrent[0] = dct_codes[0] * iDcScaler;
235    
236          if (acpred_direction == 1) {          if (acpred_direction == 1) {
237                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
238                          int level = dct_codes[i] + predictors[i];                          int level = dct_codes[i] + predictors[i];
239    
240                          DPRINTF(DPRINTF_COEFF,"predictor[%i] %i",i, predictors[i]);                          DPRINTF(XVID_DEBUG_COEFF,"predictor[%i] %i\n",i, predictors[i]);
241    
242                          dct_codes[i] = level;                          dct_codes[i] = level;
243                          pCurrent[i] = level;                          pCurrent[i] = level;
# Line 281  Line 246 
246          } else if (acpred_direction == 2) {          } else if (acpred_direction == 2) {
247                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
248                          int level = dct_codes[i * 8] + predictors[i];                          int level = dct_codes[i * 8] + predictors[i];
249                          DPRINTF(DPRINTF_COEFF,"predictor[%i] %i",i*8, predictors[i]);                          DPRINTF(XVID_DEBUG_COEFF,"predictor[%i] %i\n",i*8, predictors[i]);
250    
251                          dct_codes[i * 8] = level;                          dct_codes[i * 8] = level;
252                          pCurrent[i + 7] = level;                          pCurrent[i + 7] = level;
# Line 297  Line 262 
262    
263    
264    
265  /* ****************************************************************** */  /*****************************************************************************
266  /* ****************************************************************** */   ****************************************************************************/
267    
268  /* encoder: subtract predictors from qcoeff[] and calculate S1/S2  /* encoder: subtract predictors from qcoeff[] and calculate S1/S2
269    
270  todo: perform [-127,127] clamping after prediction  returns sum of coeefficients *saved* if prediction is enabled
 clamping must adjust the coeffs, so dequant is done correctly  
271    
 S1/S2 are used  to determine if its worth predicting for AC  
272  S1 = sum of all (qcoeff - prediction)  S1 = sum of all (qcoeff - prediction)
273  S2 = sum of all qcoeff  S2 = sum of all qcoeff
274  */  */
275    
276  uint32_t  int
277  calc_acdc(MACROBLOCK * pMB,  calc_acdc_coeff(MACROBLOCK * pMB,
278                    uint32_t block,                    uint32_t block,
279                    int16_t qcoeff[64],                    int16_t qcoeff[64],
280                    uint32_t iDcScaler,                    uint32_t iDcScaler,
# Line 319  Line 282 
282  {  {
283          int16_t *pCurrent = pMB->pred_values[block];          int16_t *pCurrent = pMB->pred_values[block];
284          uint32_t i;          uint32_t i;
285          uint32_t S1 = 0, S2 = 0;          int S1 = 0, S2 = 0;
286    
287    
288          /* store current coeffs to pred_values[] for future prediction */          /* store current coeffs to pred_values[] for future prediction */
289    
290          pCurrent[0] = (int16_t)(qcoeff[0] * iDcScaler);          pCurrent[0] = qcoeff[0] * iDcScaler;
291          for (i = 1; i < 8; i++) {          for (i = 1; i < 8; i++) {
292                  pCurrent[i] = qcoeff[i];                  pCurrent[i] = qcoeff[i];
293                  pCurrent[i + 7] = qcoeff[i * 8];                  pCurrent[i + 7] = qcoeff[i * 8];
# Line 339  Line 302 
302                          int16_t level;                          int16_t level;
303    
304                          level = qcoeff[i];                          level = qcoeff[i];
305                          S2 += ABS(level);                          S2 += abs(level);
306                          level -= predictors[i];                          level -= predictors[i];
307                          S1 += ABS(level);                          S1 += abs(level);
308                          predictors[i] = level;                          predictors[i] = level;
309                  }                  }
310          } else                                          /* acpred_direction == 2 */          } else                                          /* acpred_direction == 2 */
# Line 350  Line 313 
313                          int16_t level;                          int16_t level;
314    
315                          level = qcoeff[i * 8];                          level = qcoeff[i * 8];
316                          S2 += ABS(level);                          S2 += abs(level);
317                          level -= predictors[i];                          level -= predictors[i];
318                          S1 += ABS(level);                          S1 += abs(level);
319                          predictors[i] = level;                          predictors[i] = level;
320                  }                  }
321    
# Line 363  Line 326 
326  }  }
327    
328    
329    
330    /* returns the bits *saved* if prediction is enabled */
331    
332    int
333    calc_acdc_bits(MACROBLOCK * pMB,
334                      uint32_t block,
335                      int16_t qcoeff[64],
336                      uint32_t iDcScaler,
337                      int16_t predictors[8])
338    {
339            const int direction = pMB->acpred_directions[block];
340            int16_t *pCurrent = pMB->pred_values[block];
341            int16_t tmp[8];
342            unsigned int i;
343            int Z1, Z2;
344    
345            /* store current coeffs to pred_values[] for future prediction */
346            pCurrent[0] = qcoeff[0] * iDcScaler;
347            for (i = 1; i < 8; i++) {
348                    pCurrent[i] = qcoeff[i];
349                    pCurrent[i + 7] = qcoeff[i * 8];
350            }
351    
352    
353            /* dc prediction */
354            qcoeff[0] = qcoeff[0] - predictors[0];
355    
356            /* calc cost before ac prediction */
357            Z2 = CodeCoeffIntra_CalcBits(qcoeff, scan_tables[0]);
358    
359            /* apply ac prediction & calc cost*/
360            if (direction == 1) {
361                    for (i = 1; i < 8; i++) {
362                            tmp[i] = qcoeff[i];
363                            qcoeff[i] -= predictors[i];
364                            predictors[i] = qcoeff[i];
365                    }
366            }else{                                          /* acpred_direction == 2 */
367                    for (i = 1; i < 8; i++) {
368                            tmp[i] = qcoeff[i*8];
369                            qcoeff[i*8] -= predictors[i];
370                            predictors[i] = qcoeff[i*8];
371                    }
372            }
373    
374            Z1 = CodeCoeffIntra_CalcBits(qcoeff, scan_tables[direction]);
375    
376            /* undo prediction */
377            if (direction == 1) {
378                    for (i = 1; i < 8; i++)
379                            qcoeff[i] = tmp[i];
380            }else{                                          /* acpred_direction == 2 */
381                    for (i = 1; i < 8; i++)
382                            qcoeff[i*8] = tmp[i];
383            }
384    
385            return Z2-Z1;
386    }
387    
388  /* apply predictors[] to qcoeff */  /* apply predictors[] to qcoeff */
389    
390  void  void
# Line 371  Line 393 
393                     int16_t qcoeff[64],                     int16_t qcoeff[64],
394                     int16_t predictors[8])                     int16_t predictors[8])
395  {  {
396          uint32_t i;          unsigned int i;
397    
398          if (pMB->acpred_directions[block] == 1) {          if (pMB->acpred_directions[block] == 1) {
399                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++)
400                          qcoeff[i] = predictors[i];                          qcoeff[i] = predictors[i];
                 }  
401          } else {          } else {
402                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++)
403                          qcoeff[i * 8] = predictors[i];                          qcoeff[i * 8] = predictors[i];
404                  }                  }
405          }          }
 }  
406    
407    
408  void  void
# Line 394  Line 414 
414  {  {
415    
416          int32_t j;          int32_t j;
417          int32_t iDcScaler, iQuant = frame->quant;          int32_t iDcScaler, iQuant;
418          int32_t S = 0;          int S = 0;
419          int16_t predictors[6][8];          int16_t predictors[6][8];
420    
421          MACROBLOCK *pMB = &frame->mbs[x + y * mb_width];          MACROBLOCK *pMB = &frame->mbs[x + y * mb_width];
422        iQuant = pMB->quant;
423    
424          if ((pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q)) {          if ((pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q)) {
425    
426                  for (j = 0; j < 6; j++) {                  for (j = 0; j < 6; j++) {
427                          iDcScaler = get_dc_scaler(iQuant, (j < 4) ? 1 : 0);                          iDcScaler = get_dc_scaler(iQuant, j<4);
428    
429                          predict_acdc(frame->mbs, x, y, mb_width, j, &qcoeff[j * 64],                          predict_acdc(frame->mbs, x, y, mb_width, j, &qcoeff[j * 64],
430                                                   iQuant, iDcScaler, predictors[j], 0);                                                   iQuant, iDcScaler, predictors[j], 0, 0);
431    
432                          S += calc_acdc(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);                          if ((frame->vop_flags & XVID_VOP_HQACPRED))
433                                    S += calc_acdc_bits(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);
434                            else
435                                    S += calc_acdc_coeff(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);
436    
437                  }                  }
438    
439                  if (S < 0)                              /* dont predict */                  if (S<=0) {                             /* dont predict */
440                  {                          for (j = 0; j < 6; j++)
                         for (j = 0; j < 6; j++) {  
441                                  pMB->acpred_directions[j] = 0;                                  pMB->acpred_directions[j] = 0;
                         }  
442                  } else {                  } else {
443                          for (j = 0; j < 6; j++) {                          for (j = 0; j < 6; j++)
444                                  apply_acdc(pMB, j, &qcoeff[j * 64], predictors[j]);                                  apply_acdc(pMB, j, &qcoeff[j * 64], predictors[j]);
445                          }                          }
446                  }  
447                  pMB->cbp = calc_cbp(qcoeff);                  pMB->cbp = calc_cbp(qcoeff);
448          }          }
449    }
450    
451    static const VECTOR zeroMV = { 0, 0 };
452    
453    VECTOR
454    get_pmv2(const MACROBLOCK * const mbs,
455                    const int mb_width,
456                    const int bound,
457                    const int x,
458                    const int y,
459                    const int block)
460    {
461            int lx, ly, lz;         /* left */
462            int tx, ty, tz;         /* top */
463            int rx, ry, rz;         /* top-right */
464            int lpos, tpos, rpos;
465            int num_cand = 0, last_cand = 1;
466    
467            VECTOR pmv[4];  /* left neighbour, top neighbour, top-right neighbour */
468    
469            switch (block) {
470            case 0:
471                    lx = x - 1;     ly = y;         lz = 1;
472                    tx = x;         ty = y - 1;     tz = 2;
473                    rx = x + 1;     ry = y - 1;     rz = 2;
474                    break;
475            case 1:
476                    lx = x;         ly = y;         lz = 0;
477                    tx = x;         ty = y - 1;     tz = 3;
478                    rx = x + 1;     ry = y - 1;     rz = 2;
479                    break;
480            case 2:
481                    lx = x - 1;     ly = y;         lz = 3;
482                    tx = x;         ty = y;         tz = 0;
483                    rx = x;         ry = y;         rz = 1;
484                    break;
485            default:
486                    lx = x;         ly = y;         lz = 2;
487                    tx = x;         ty = y;         tz = 0;
488                    rx = x;         ry = y;         rz = 1;
489            }
490    
491            lpos = lx + ly * mb_width;
492            rpos = rx + ry * mb_width;
493            tpos = tx + ty * mb_width;
494    
495            if (lpos >= bound && lx >= 0) {
496                    num_cand++;
497                    pmv[1] = mbs[lpos].mvs[lz];
498            } else pmv[1] = zeroMV;
499    
500            if (tpos >= bound) {
501                    num_cand++;
502                    last_cand = 2;
503                    pmv[2] = mbs[tpos].mvs[tz];
504            } else pmv[2] = zeroMV;
505    
506            if (rpos >= bound && rx < mb_width) {
507                    num_cand++;
508                    last_cand = 3;
509                    pmv[3] = mbs[rpos].mvs[rz];
510            } else pmv[3] = zeroMV;
511    
512            /* If there're more than one candidate, we return the median vector */
513    
514            if (num_cand > 1) {
515                    /* set median */
516                    pmv[0].x =
517                            MIN(MAX(pmv[1].x, pmv[2].x),
518                                    MIN(MAX(pmv[2].x, pmv[3].x), MAX(pmv[1].x, pmv[3].x)));
519                    pmv[0].y =
520                            MIN(MAX(pmv[1].y, pmv[2].y),
521                                    MIN(MAX(pmv[2].y, pmv[3].y), MAX(pmv[1].y, pmv[3].y)));
522                    return pmv[0];
523            }
524    
525            return pmv[last_cand];  /* no point calculating median mv */
526    }
527    
528    VECTOR
529    get_qpmv2(const MACROBLOCK * const mbs,
530                    const int mb_width,
531                    const int bound,
532                    const int x,
533                    const int y,
534                    const int block)
535    {
536            int lx, ly, lz;         /* left */
537            int tx, ty, tz;         /* top */
538            int rx, ry, rz;         /* top-right */
539            int lpos, tpos, rpos;
540            int num_cand = 0, last_cand = 1;
541    
542            VECTOR pmv[4];  /* left neighbour, top neighbour, top-right neighbour */
543    
544            switch (block) {
545            case 0:
546                    lx = x - 1;     ly = y;         lz = 1;
547                    tx = x;         ty = y - 1;     tz = 2;
548                    rx = x + 1;     ry = y - 1;     rz = 2;
549                    break;
550            case 1:
551                    lx = x;         ly = y;         lz = 0;
552                    tx = x;         ty = y - 1;     tz = 3;
553                    rx = x + 1;     ry = y - 1;     rz = 2;
554                    break;
555            case 2:
556                    lx = x - 1;     ly = y;         lz = 3;
557                    tx = x;         ty = y;         tz = 0;
558                    rx = x;         ry = y;         rz = 1;
559                    break;
560            default:
561                    lx = x;         ly = y;         lz = 2;
562                    tx = x;         ty = y;         tz = 0;
563                    rx = x;         ry = y;         rz = 1;
564            }
565    
566            lpos = lx + ly * mb_width;
567            rpos = rx + ry * mb_width;
568            tpos = tx + ty * mb_width;
569    
570            if (lpos >= bound && lx >= 0) {
571                    num_cand++;
572                    pmv[1] = mbs[lpos].qmvs[lz];
573            } else pmv[1] = zeroMV;
574    
575            if (tpos >= bound) {
576                    num_cand++;
577                    last_cand = 2;
578                    pmv[2] = mbs[tpos].qmvs[tz];
579            } else pmv[2] = zeroMV;
580    
581            if (rpos >= bound && rx < mb_width) {
582                    num_cand++;
583                    last_cand = 3;
584                    pmv[3] = mbs[rpos].qmvs[rz];
585            } else pmv[3] = zeroMV;
586    
587            /* If there're more than one candidate, we return the median vector */
588    
589            if (num_cand > 1) {
590                    /* set median */
591                    pmv[0].x =
592                            MIN(MAX(pmv[1].x, pmv[2].x),
593                                    MIN(MAX(pmv[2].x, pmv[3].x), MAX(pmv[1].x, pmv[3].x)));
594                    pmv[0].y =
595                            MIN(MAX(pmv[1].y, pmv[2].y),
596                                    MIN(MAX(pmv[2].y, pmv[3].y), MAX(pmv[1].y, pmv[3].y)));
597                    return pmv[0];
598            }
599    
600            return pmv[last_cand];  /* no point calculating median mv */
601  }  }
Legend:
Removed from v.723  
changed lines
  Added in v.1446
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4