[svn] / branches / release-1_3-branch / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /branches/release-1_3-branch/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 133, Tue Apr 23 00:05:31 2002 UTC revision 453, Sun Sep 8 15:39:01 2002 UTC
# Line 1  Line 1 
1   /******************************************************************************  /*****************************************************************************
2    *                                                                            *   *
3    *  This file is part of XviD, a free MPEG-4 video encoder/decoder            *   *  XVID MPEG-4 VIDEO CODEC
4    *                                                                            *   *  - Macro Block coding functions -
5    *  XviD is an implementation of a part of one or more MPEG-4 Video tools     *   *
6    *  as specified in ISO/IEC 14496-2 standard.  Those intending to use this    *   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7    *  software module in hardware or software products are advised that its     *   *
8    *  use may infringe existing patents or copyrights, and any such use         *   *
9    *  would be at such party's own risk.  The original developer of this        *   *  This program is an implementation of a part of one or more MPEG-4
10    *  software module and his/her company, and subsequent editors and their     *   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
11    *  companies, will have no liability for use of this software or             *   *  to use this software module in hardware or software products are
12    *  modifications or derivatives thereof.                                     *   *  advised that its use may infringe existing patents or copyrights, and
13    *                                                                            *   *  any such use would be at such party's own risk.  The original
14    *  XviD is free software; you can redistribute it and/or modify it           *   *  developer of this software module and his/her company, and subsequent
15    *  under the terms of the GNU General Public License as published by         *   *  editors and their companies, will have no liability for use of this
16    *  the Free Software Foundation; either version 2 of the License, or         *   *  software or modifications or derivatives thereof.
17    *  (at your option) any later version.                                       *   *
18    *                                                                            *   *  This program is free software; you can redistribute it and/or modify
19    *  XviD is distributed in the hope that it will be useful, but               *   *  it under the terms of the GNU General Public License as published by
20    *  WITHOUT ANY WARRANTY; without even the implied warranty of                *   *  the Free Software Foundation; either version 2 of the License, or
21    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the             *   *  (at your option) any later version.
22    *  GNU General Public License for more details.                              *   *
23    *                                                                            *   *  This program is distributed in the hope that it will be useful,
24    *  You should have received a copy of the GNU General Public License         *   *  but WITHOUT ANY WARRANTY; without even the implied warranty of
25    *  along with this program; if not, write to the Free Software               *   *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
26    *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA  *   *  GNU General Public License for more details.
27    *                                                                            *   *
28    ******************************************************************************/   *  You should have received a copy of the GNU General Public License
29     *  along with this program; if not, write to the Free Software
30   /******************************************************************************   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
31    *                                                                            *   *
32    *  bitstream.c                                                               *   * $Id: mbcoding.c,v 1.27 2002-09-08 15:39:01 edgomez Exp $
33    *                                                                            *   *
34    *  Copyright (C) 2001 - Peter Ross <pross@cs.rmit.edu.au>                    *   ****************************************************************************/
   *                                                                            *  
   *  For more information visit the XviD homepage: http://www.xvid.org         *  
   *                                                                            *  
   ******************************************************************************/  
   
  /******************************************************************************  
   *                                                                                                                                                        *  
   *  Revision history:                                                         *  
   *                                                                            *  
   *  14.04.2002 bframe encoding  
   *  08.03.2002 initial version; isibaar                                                           *  
   *                                                                                                                                                        *  
   ******************************************************************************/  
   
   
35    
36  #include <stdlib.h>  #include <stdlib.h>
37  #include "../portab.h"  #include "../portab.h"
# Line 60  Line 45 
45  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
46  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
47    
48  VLC intra_table[65536];  /*****************************************************************************
49  VLC inter_table[65536];   * Local data
50     ****************************************************************************/
51  VLC DCT3Dintra[4096];  
52  VLC DCT3Dinter[4096];  static VLC intra_table[524032];
53    static VLC inter_table[524032];
54    
55    static VLC DCT3Dintra[4096];
56    static VLC DCT3Dinter[4096];
57    
58    /*****************************************************************************
59     * Vector Length Coding Initialization
60     ****************************************************************************/
61    
62  static int16_t clip_table[4096];  void
63    init_vlc_tables(void)
 void init_vlc_tables(void)  
64  {  {
65    
66          int32_t k, l, i, intra, last;          int32_t k, l, i, intra, last;
# Line 82  Line 74 
74          vlc[0] = intra_table;          vlc[0] = intra_table;
75          vlc[1] = inter_table;          vlc[1] = inter_table;
76    
77          // initialize the clipping table          /*
78          for(i = -2048; i < 2048; i++) {           * Generate encoding vlc lookup tables
79                  clip_table[i + 2048] = i;           * the lookup table idea is taken from the excellent fame project
80                  if(i < -255)           * by Vivien Chapellier
81                          clip_table[i + 2048] = -255;           */
                 if(i > 255)  
                         clip_table[i + 2048] = 255;  
         }  
   
         // generate encoding vlc lookup tables  
82          for(i = 0; i < 4; i++) {          for(i = 0; i < 4; i++) {
83                  intra = i % 2;                  intra = i % 2;
84                  last = i / 2;                  last = i / 2;
85    
86                  coeff_ptr = coeff_vlc[last + 2 * intra];                  coeff_ptr = coeff_vlc[last + 2 * intra];
87    
88                  for(k = -255; k < 256; k++) { // level                  for (k = -2047; k < 2048; k++) {        // level
89                          int8_t *max_level_ptr = max_level[last + 2 * intra];                          int8_t *max_level_ptr = max_level[last + 2 * intra];
90                          int8_t *max_run_ptr = max_run[last + 2 * intra];                          int8_t *max_run_ptr = max_run[last + 2 * intra];
91    
92                          for(l = 0; l < 64; l++) { // run                          for(l = 0; l < 64; l++) { // run
93                                  int32_t level = k;                                  int32_t level = k;
94                                  uint32_t run = l;                                  ptr_t run = l;
95    
96                                  if((abs(level) <= max_level_ptr[run]) &&                                  if ((abs(level) <= max_level_ptr[run]) && (run <= (uint32_t) max_run_ptr[abs(level)])) {        // level < max_level and run < max_run
                                    (run <= (uint32_t)max_run_ptr[abs(level)])) { // level < max_level and run < max_run  
97    
98                                                  vlc[intra]->code = 0;                                                  vlc[intra]->code = 0;
99                                                  vlc[intra]->len = 0;                                                  vlc[intra]->len = 0;
100                                                  goto loop_end;                                                  goto loop_end;
101                                  }                                  } else {
                                 else {  
102                                          if(level > 0)                                        // correct level                                          if(level > 0)                                        // correct level
103                                                  level -= max_level_ptr[run];                                                  level -= max_level_ptr[run];
104                                          else                                          else
# Line 144  Line 129 
129                                          run += max_run_ptr[abs(level)] + 1;                                          run += max_run_ptr[abs(level)] + 1;
130                                  }                                  }
131    
132                                  vlc[intra]->code = (uint32_t) ((l << 14) | (0x1e + last) << 20) |                                  vlc[intra]->code =
133                                                                                            (1 << 13) | ((k & 0xfff) << 1) | 1;                                          (uint32_t) ((l << 14) | (0x1e + last) << 20) | (1 << 13) |
134                                            ((k & 0xfff) << 1) | 1;
135    
136                                  vlc[intra]->len = 30;                                  vlc[intra]->len = 30;
137                                  vlc[intra]++;                                  vlc[intra]++;
# Line 153  Line 139 
139    
140  loop_end:  loop_end:
141                                  if(level != 0) {                                  if(level != 0) {
142                                          vlc[intra]->code = (vlc[intra]->code << (coeff_ptr[run][abs(level) - 1].len + 1)) |                                          vlc[intra]->code =
143                                                                             (coeff_ptr[run][abs(level) - 1].code << 1);                                                  (vlc[intra]->
144                                          vlc[intra]->len = (coeff_ptr[run][abs(level) - 1].len + 1) + vlc[intra]->len;                                                   code << (coeff_ptr[run][abs(level) - 1].len +
145                                                                      1)) | (coeff_ptr[run][abs(level) -
146                                                                                                                    1].code << 1);
147                                            vlc[intra]->len =
148                                                    (coeff_ptr[run][abs(level) - 1].len + 1) +
149                                                    vlc[intra]->len;
150    
151                                          if(level < 0)                                          if(level < 0)
152                                                  vlc[intra]->code += 1;                                                  vlc[intra]->code += 1;
# Line 170  Line 161 
161                  if(i >= 512) {                  if(i >= 512) {
162                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];
163                          *vlc2 = DCT3Dtab0[(i >> 5) - 16];                          *vlc2 = DCT3Dtab0[(i >> 5) - 16];
164                  }                  } else if (i >= 128) {
                 else if(i >= 128) {  
165                          *vlc1 = DCT3Dtab4[(i >> 2) - 32];                          *vlc1 = DCT3Dtab4[(i >> 2) - 32];
166                          *vlc2 = DCT3Dtab1[(i >> 2) - 32];                          *vlc2 = DCT3Dtab1[(i >> 2) - 32];
167                  }                  } else if (i >= 8) {
                 else if(i >= 8) {  
168                          *vlc1 = DCT3Dtab5[i - 8];                          *vlc1 = DCT3Dtab5[i - 8];
169                          *vlc2 = DCT3Dtab2[i - 8];                          *vlc2 = DCT3Dtab2[i - 8];
170                  }                  } else {
                 else {  
171                          *vlc1 = ERRtab[i];                          *vlc1 = ERRtab[i];
172                          *vlc2 = ERRtab[i];                          *vlc2 = ERRtab[i];
173                  }                  }
# Line 192  Line 180 
180    
181  }  }
182    
183  static __inline void CodeVector(Bitstream *bs,  /*****************************************************************************
184                                  int16_t value,   * Local inlined functions for MB coding
185                                  int16_t f_code,   ****************************************************************************/
186    
187    static __inline void
188    CodeVector(Bitstream * bs,
189                       int32_t value,
190                       int32_t f_code,
191                                  Statistics *pStat)                                  Statistics *pStat)
192  {  {
193    
# Line 211  Line 204 
204          pStat->iMvCount++;          pStat->iMvCount++;
205    
206          if (value == 0) {          if (value == 0) {
207                  BitstreamPutBits(bs, mb_motion_table[32].code, mb_motion_table[32].len);                  BitstreamPutBits(bs, mb_motion_table[32].code,
208                                                     mb_motion_table[32].len);
209          } else {          } else {
210                  uint16_t length, code, mv_res, sign;                  uint16_t length, code, mv_res, sign;
211    
# Line 236  Line 230 
230                          code = -code;                          code = -code;
231    
232                  code += 32;                  code += 32;
233                  BitstreamPutBits(bs, mb_motion_table[code].code, mb_motion_table[code].len);                  BitstreamPutBits(bs, mb_motion_table[code].code,
234                                                     mb_motion_table[code].len);
235    
236                  if(f_code)                  if(f_code)
237                          BitstreamPutBits(bs, mv_res, f_code);                          BitstreamPutBits(bs, mv_res, f_code);
# Line 244  Line 239 
239    
240  }  }
241    
242    static __inline void
243  static __inline void CodeCoeff(Bitstream *bs,  CodeCoeff(Bitstream * bs,
244                                 int16_t qcoeff[64],                    const int16_t qcoeff[64],
245                                 VLC *table,                                 VLC *table,
246                                 const uint16_t *zigzag,                                 const uint16_t *zigzag,
247                                 uint16_t intra)                                 uint16_t intra)
# Line 259  Line 254 
254          j = intra;          j = intra;
255          last = intra;          last = intra;
256    
257          while((v = qcoeff[zigzag[j]]) == 0) j++;          while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
258                    j++;
259    
260          do {          do {
261                  // count zeroes                  vlc = table + 64 * 2047 + (v << 6) + j - last;
                 vlc = table + 64*255 + (clip_table[2048+v] << 6) + j - last;  
262                  last = ++j;                  last = ++j;
263                  while(j < 64 && (v = qcoeff[zigzag[j]]) == 0) j++;  
264                    // count zeroes
265                    while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
266                            j++;
267    
268                  // write code                  // write code
269                  if(j != 64) {                  if(j != 64) {
270                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
271                  } else {                  } else {
272                          vlc += 64*511;                          vlc += 64 * 4095;
273                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
274                          break;                          break;
275                  }                  }
# Line 279  Line 277 
277    
278  }  }
279    
280    /*****************************************************************************
281     * Local functions
282     ****************************************************************************/
283    
284  static void CodeBlockIntra(const MBParam * pParam,  static void
285    CodeBlockIntra(const FRAMEINFO * frame,
286                             const MACROBLOCK *pMB,                             const MACROBLOCK *pMB,
287                             int16_t qcoeff[6*64],                             int16_t qcoeff[6*64],
288                             Bitstream * bs,                             Bitstream * bs,
# Line 292  Line 294 
294          cbpy = pMB->cbp >> 2;          cbpy = pMB->cbp >> 2;
295    
296          // write mcbpc          // write mcbpc
297          if(pParam->coding_type == I_VOP) {          if (frame->coding_type == I_VOP) {
298                  mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);                  mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);
299                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code, mcbpc_intra_tab[mcbpc].len);                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,
300          }                                                   mcbpc_intra_tab[mcbpc].len);
301          else {          } else {
302                  mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);                  mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
303                  BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);                  BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
304                                                     mcbpc_inter_tab[mcbpc].len);
305          }          }
306    
307          // ac prediction flag          // ac prediction flag
# Line 315  Line 318 
318                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
319    
320          // write interlacing          // write interlacing
321          if (pParam->global_flags & XVID_INTERLACING)          if (frame->global_flags & XVID_INTERLACING) {
         {  
322                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
323          }          }
   
324          // code block coeffs          // code block coeffs
325          for(i = 0; i < 6; i++)          for (i = 0; i < 6; i++) {
         {  
326                  if(i < 4)                  if(i < 4)
327                          BitstreamPutBits(bs,                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,
                                          dcy_tab[qcoeff[i*64 + 0] + 255].code,  
328                                           dcy_tab[qcoeff[i*64 + 0] + 255].len);                                           dcy_tab[qcoeff[i*64 + 0] + 255].len);
329                  else                  else
330                          BitstreamPutBits(bs,                          BitstreamPutBits(bs, dcc_tab[qcoeff[i * 64 + 0] + 255].code,
                                          dcc_tab[qcoeff[i*64 + 0] + 255].code,  
331                                           dcc_tab[qcoeff[i*64 + 0] + 255].len);                                           dcc_tab[qcoeff[i*64 + 0] + 255].len);
332    
333                  if(pMB->cbp & (1 << (5 - i)))                  if (pMB->cbp & (1 << (5 - i))) {
                 {  
334                          bits = BitstreamPos(bs);                          bits = BitstreamPos(bs);
335    
336                          CodeCoeff(bs,                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,
337                                    &qcoeff[i*64],                                            scan_tables[pMB->acpred_directions[i]], 1);
                                   intra_table,  
                                   scan_tables[pMB->acpred_directions[i]],  
                                   1);  
338    
339                          bits = BitstreamPos(bs) - bits;                          bits = BitstreamPos(bs) - bits;
340                          pStat->iTextBits += bits;                          pStat->iTextBits += bits;
# Line 350  Line 344 
344  }  }
345    
346    
347  static void CodeBlockInter(const MBParam * pParam,  static void
348    CodeBlockInter(const FRAMEINFO * frame,
349                             const MACROBLOCK *pMB,                             const MACROBLOCK *pMB,
350                             int16_t qcoeff[6*64],                             int16_t qcoeff[6*64],
351                             Bitstream * bs,                             Bitstream * bs,
# Line 364  Line 359 
359          cbpy = 15 - (pMB->cbp >> 2);          cbpy = 15 - (pMB->cbp >> 2);
360    
361          // write mcbpc          // write mcbpc
362          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
363                                             mcbpc_inter_tab[mcbpc].len);
364    
365          // write cbpy          // write cbpy
366          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
# Line 374  Line 370 
370                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
371    
372          // interlacing          // interlacing
373          if (pParam->global_flags & XVID_INTERLACING)          if (frame->global_flags & XVID_INTERLACING) {
374          {                  if (pMB->cbp) {
375                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
376                  DEBUG1("codep: field_dct: ", pMB->field_dct);                  DEBUG1("codep: field_dct: ", pMB->field_dct);
377                    }
378    
379                  // if inter block, write field ME flag                  // if inter block, write field ME flag
380                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
                 {  
381                          BitstreamPutBit(bs, pMB->field_pred);                          BitstreamPutBit(bs, pMB->field_pred);
382                          DEBUG1("codep: field_pred: ", pMB->field_pred);                          DEBUG1("codep: field_pred: ", pMB->field_pred);
383    
384                          // write field prediction references                          // write field prediction references
385                          if (pMB->field_pred)                          if (pMB->field_pred) {
                         {  
386                                  BitstreamPutBit(bs, pMB->field_for_top);                                  BitstreamPutBit(bs, pMB->field_for_top);
387                                  BitstreamPutBit(bs, pMB->field_for_bot);                                  BitstreamPutBit(bs, pMB->field_for_bot);
388                          }                          }
389                  }                  }
390          }          }
   
391          // code motion vector(s)          // code motion vector(s)
392          for(i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++)          for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {
393          {                  CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);
394                  CodeVector(bs, pMB->pmvs[i].x, pParam->fixed_code, pStat);                  CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);
                 CodeVector(bs, pMB->pmvs[i].y, pParam->fixed_code, pStat);  
395          }          }
396    
397          bits = BitstreamPos(bs);          bits = BitstreamPos(bs);
# Line 413  Line 406 
406    
407  }  }
408    
409    /*****************************************************************************
410     * Macro Block bitstream encoding functions
411     ****************************************************************************/
412    
413  void MBCoding(const MBParam * pParam,  void
414    MBCoding(const FRAMEINFO * frame,
415                MACROBLOCK *pMB,                MACROBLOCK *pMB,
416                int16_t qcoeff[6*64],                int16_t qcoeff[6*64],
417                Bitstream * bs,                Bitstream * bs,
418                Statistics * pStat)                Statistics * pStat)
419  {  {
420    
421          int intra = (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q);          if (frame->coding_type == P_VOP) {
   
         if(pParam->coding_type == P_VOP) {  
                 if(pMB->cbp == 0 && pMB->mode == MODE_INTER &&  
                    pMB->mvs[0].x == 0 && pMB->mvs[0].y == 0)  
                 {  
                         BitstreamPutBit(bs, 1);         // not_coded  
                         return;  
                 }  
                 else  
422                          BitstreamPutBit(bs, 0);         // coded                          BitstreamPutBit(bs, 0);         // coded
423          }          }
424    
425          if(intra)          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
426                  CodeBlockIntra(pParam, pMB, qcoeff, bs, pStat);                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);
427          else          else
428                  CodeBlockInter(pParam, pMB, qcoeff, bs, pStat);                  CodeBlockInter(frame, pMB, qcoeff, bs, pStat);
429    
430    }
431    
432    
433    void
434    MBSkip(Bitstream * bs)
435    {
436            BitstreamPutBit(bs, 1); // not coded
437            return;
438  }  }
439    
440    
441  /***************************************************************  /***************************************************************
442   * bframe encoding start   * bframe encoding start
443   ***************************************************************/   ***************************************************************/
# Line 453  Line 450 
450          3       0001b   forward mc+q            dbquant, mvdf          3       0001b   forward mc+q            dbquant, mvdf
451  */  */
452    
453  void put_bvop_mbtype(Bitstream * bs, int value)  void
454  {  put_bvop_mbtype(Bitstream * bs,
455          switch(value)                                  int value)
456          {          {
457          case 0 :        BitstreamPutBit(bs, 1);          switch (value) {
458            case 0:
459                    BitstreamPutBit(bs, 1);
460                                  return;                                  return;
461    
462          case 1 :        BitstreamPutBit(bs, 0);          case 1:
463                    BitstreamPutBit(bs, 0);
464                                  BitstreamPutBit(bs, 1);                                  BitstreamPutBit(bs, 1);
465                                  return;                                  return;
466    
467          case 2 :        BitstreamPutBit(bs, 0);          case 2:
468                    BitstreamPutBit(bs, 0);
469                                  BitstreamPutBit(bs, 0);                                  BitstreamPutBit(bs, 0);
470                                  BitstreamPutBit(bs, 1);                                  BitstreamPutBit(bs, 1);
471                                  return;                                  return;
472    
473          case 3 :        BitstreamPutBit(bs, 0);          case 3:
474                    BitstreamPutBit(bs, 0);
475                                  BitstreamPutBit(bs, 0);                                  BitstreamPutBit(bs, 0);
476                                  BitstreamPutBit(bs, 0);                                  BitstreamPutBit(bs, 0);
477                                  BitstreamPutBit(bs, 1);                                  BitstreamPutBit(bs, 1);
# Line 488  Line 490 
490          +2      11b          +2      11b
491  */  */
492    
493  void put_bvop_dbquant(Bitstream *bs, int value)  void
494    put_bvop_dbquant(Bitstream * bs,
495                                     int value)
496  {  {
497          switch (value)          switch (value) {
498          {          case 0:
499          case 0 :        BitstreamPutBit(bs, 0);                  BitstreamPutBit(bs, 0);
500                                  return;                                  return;
501    
502          case -2 :       BitstreamPutBit(bs, 1);          case -2:
503                    BitstreamPutBit(bs, 1);
504                                  BitstreamPutBit(bs, 0);                                  BitstreamPutBit(bs, 0);
505                                  return;                                  return;
506    
507          case 2 :        BitstreamPutBit(bs, 1);          case 2:
508                    BitstreamPutBit(bs, 1);
509                                  BitstreamPutBit(bs, 1);                                  BitstreamPutBit(bs, 1);
510                                  return;                                  return;
511    
# Line 507  Line 513 
513          }          }
514  }  }
515    
516    #if 0
517    void
518  void MBCodingBVOP(const MACROBLOCK * mb,  MBCodingBVOP(const MACROBLOCK * mb,
519                                    const int16_t qcoeff[6*64],                                    const int16_t qcoeff[6*64],
520                                    const int16_t fcode,                           const int32_t fcode,
521                                    const int16_t bcode,                           const int32_t bcode,
522                                    Bitstream * bs,                                    Bitstream * bs,
523                                    Statistics * pStat)                                    Statistics * pStat)
524  {  {
525          int i;          int i;
526    
527  /*      ------------------------------------------------------------------  /*      ------------------------------------------------------------------
528                  when a block is skipped it is decoded DIRECT(0,)                  when a block is skipped it is decoded DIRECT(0,0)
529                  hence are interpolated from forward & backward frames                  hence is interpolated from forward & backward frames
530          ------------------------------------------------------------------ */          ------------------------------------------------------------------ */
531    
532          if (mb->mode == 5)          if (mb->mode == MODE_DIRECT_NONE_MV) {
         {  
533                  BitstreamPutBit(bs, 1);         // skipped                  BitstreamPutBit(bs, 1);         // skipped
534                  return;                  return;
535          }          }
536    
537          BitstreamPutBit(bs, 0);         // not skipped          BitstreamPutBit(bs, 0);         // not skipped
538    
539          if (mb->cbp == 0)          if (mb->cbp == 0) {
         {  
540                  BitstreamPutBit(bs, 1);         // cbp == 0                  BitstreamPutBit(bs, 1);         // cbp == 0
541          }          } else {
         else  
         {  
542                  BitstreamPutBit(bs, 0);         // cbp == xxx                  BitstreamPutBit(bs, 0);         // cbp == xxx
543          }          }
544    
545          put_bvop_mbtype(bs, mb->mode);          put_bvop_mbtype(bs, mb->mode);
546    
547          if (mb->cbp)          if (mb->cbp) {
         {  
548                  BitstreamPutBits(bs, mb->cbp, 6);                  BitstreamPutBits(bs, mb->cbp, 6);
549          }          }
550    
551          if (mb->mode != MODE_DIRECT && mb->cbp != 0)          if (mb->mode != MODE_DIRECT && mb->cbp != 0) {
         {  
552                  put_bvop_dbquant(bs, 0); // todo: mb->dquant = 0                  put_bvop_dbquant(bs, 0); // todo: mb->dquant = 0
553          }          }
554    
555          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
         {  
556              CodeVector(bs, mb->pmvs[0].x, fcode, pStat);              CodeVector(bs, mb->pmvs[0].x, fcode, pStat);
557              CodeVector(bs, mb->pmvs[0].y, fcode, pStat);              CodeVector(bs, mb->pmvs[0].y, fcode, pStat);
558          }          }
559    
560          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)          if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
         {  
561              CodeVector(bs, mb->b_pmvs[0].x, bcode, pStat);              CodeVector(bs, mb->b_pmvs[0].x, bcode, pStat);
562              CodeVector(bs, mb->b_pmvs[0].y, bcode, pStat);              CodeVector(bs, mb->b_pmvs[0].y, bcode, pStat);
563          }          }
564    
565          if (mb->mode == MODE_DIRECT)          if (mb->mode == MODE_DIRECT) {
566          {                  CodeVector(bs, mb->deltamv.x, 1, pStat);                /* fcode is always 1 for delta vector */
567                  // TODO: direct                  CodeVector(bs, mb->deltamv.y, 1, pStat);                /* prediction is always (0,0) */
568          }          }
569    
570      for (i = 0; i < 6; i++)          for (i = 0; i < 6; i++) {
571      {                  if (mb->cbp & (1 << (5 - i))) {
                 if (mb->cbp & (1 << (5 - i)))  
                 {  
572                          CodeCoeff(bs, &qcoeff[i*64], inter_table, scan_tables[0], 0);                          CodeCoeff(bs, &qcoeff[i*64], inter_table, scan_tables[0], 0);
573                  }                  }
574      }      }
575  }  }
576    #endif
577    
578    
579    /*****************************************************************************
580     * decoding stuff starts here
581     ****************************************************************************/
582    
583  /***************************************************************  /*
584   * decoding stuff starts here                                  *   * For IVOP addbits == 0
585   ***************************************************************/   * For PVOP addbits == fcode - 1
586     * For BVOP addbits == max(fcode,bcode) - 1
587     * returns true or false
588     */
589    
590  int get_mcbpc_intra(Bitstream * bs)  int
591    check_resync_marker(Bitstream * bs, int addbits)
592  {  {
593            uint32_t nbits;
594            uint32_t code;
595            uint32_t nbitsresyncmarker = NUMBITS_VP_RESYNC_MARKER + addbits;
596    
597            nbits = BitstreamNumBitsToByteAlign(bs);
598            code = BitstreamShowBits(bs, nbits);
599    
600            if (code == (((uint32_t)1 << (nbits - 1)) - 1))
601            {
602                    return BitstreamShowBitsFromByteAlign(bs, nbitsresyncmarker) == RESYNC_MARKER;
603            }
604    
605            return 0;
606    }
607    
         uint32_t index;  
608    
         while((index = BitstreamShowBits(bs, 9)) == 1)  
                 BitstreamSkip(bs, 9);  
609    
610    int
611    get_mcbpc_intra(Bitstream * bs)
612    {
613    
614            uint32_t index;
615    
616            index = BitstreamShowBits(bs, 9);
617          index >>= 3;          index >>= 3;
618    
619          BitstreamSkip(bs, mcbpc_intra_table[index].len);          BitstreamSkip(bs, mcbpc_intra_table[index].len);
# Line 600  Line 622 
622    
623  }  }
624    
625  int get_mcbpc_inter(Bitstream * bs)  int
626    get_mcbpc_inter(Bitstream * bs)
627  {  {
628    
629          uint32_t index;          uint32_t index;
630    
631          while((index = CLIP(BitstreamShowBits(bs, 9), 256)) == 1)          index = CLIP(BitstreamShowBits(bs, 9), 256);
                 BitstreamSkip(bs, 9);  
632    
633          BitstreamSkip(bs,  mcbpc_inter_table[index].len);          BitstreamSkip(bs,  mcbpc_inter_table[index].len);
634    
# Line 614  Line 636 
636    
637  }  }
638    
639  int get_cbpy(Bitstream * bs, int intra)  int
640    get_cbpy(Bitstream * bs,
641                     int intra)
642  {  {
643    
644          int cbpy;          int cbpy;
# Line 630  Line 654 
654    
655  }  }
656    
657  int get_mv_data(Bitstream * bs)  int
658    get_mv_data(Bitstream * bs)
659  {  {
660    
661          uint32_t index;          uint32_t index;
# Line 640  Line 665 
665    
666          index = BitstreamShowBits(bs, 12);          index = BitstreamShowBits(bs, 12);
667    
668          if(index >= 512)          if (index >= 512) {
         {  
669                  index = (index >> 8) - 2;                  index = (index >> 8) - 2;
670                  BitstreamSkip(bs, TMNMVtab0[index].len);                  BitstreamSkip(bs, TMNMVtab0[index].len);
671                  return TMNMVtab0[index].code;                  return TMNMVtab0[index].code;
672          }          }
673    
674          if(index >= 128)          if (index >= 128) {
         {  
675                  index = (index >> 2) - 32;                  index = (index >> 2) - 32;
676                  BitstreamSkip(bs, TMNMVtab1[index].len);                  BitstreamSkip(bs, TMNMVtab1[index].len);
677                  return TMNMVtab1[index].code;                  return TMNMVtab1[index].code;
# Line 661  Line 684 
684    
685  }  }
686    
687  int get_mv(Bitstream * bs, int fcode)  int
688    get_mv(Bitstream * bs,
689               int fcode)
690  {  {
691    
692          int data;          int data;
# Line 681  Line 706 
706    
707  }  }
708    
709  int get_dc_dif(Bitstream * bs, uint32_t dc_size)  int
710    get_dc_dif(Bitstream * bs,
711                       uint32_t dc_size)
712  {  {
713    
714          int code = BitstreamGetBits(bs, dc_size);          int code = BitstreamGetBits(bs, dc_size);
# Line 694  Line 721 
721    
722  }  }
723    
724  int get_dc_size_lum(Bitstream * bs)  int
725    get_dc_size_lum(Bitstream * bs)
726  {  {
727    
728          int code, i;          int code, i;
729    
730          code = BitstreamShowBits(bs, 11);          code = BitstreamShowBits(bs, 11);
731    
732          for(i = 11; i > 3; i--) {          for(i = 11; i > 3; i--) {
# Line 714  Line 743 
743  }  }
744    
745    
746  int get_dc_size_chrom(Bitstream * bs)  int
747    get_dc_size_chrom(Bitstream * bs)
748  {  {
749    
750          uint32_t code, i;          uint32_t code, i;
751    
752          code = BitstreamShowBits(bs, 12);          code = BitstreamShowBits(bs, 12);
753    
754          for(i = 12; i > 2; i--) {          for(i = 12; i > 2; i--) {
# Line 732  Line 763 
763    
764  }  }
765    
766  void get_intra_block(Bitstream * bs, int16_t * block, int direction, int coeff)  /*****************************************************************************
767     * Local inlined function to "decode" written vlc codes
768     ****************************************************************************/
769    
770    static __inline int
771    get_coeff(Bitstream * bs,
772                      int *run,
773                      int *last,
774                      int intra,
775                      int short_video_header)
776    {
777    
778            uint32_t mode;
779            const VLC *tab;
780            int32_t level;
781    
782            if (short_video_header)         // inter-VLCs will be used for both intra and inter blocks
783                    intra = 0;
784    
785            tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];
786    
787            if (tab->code == -1)
788                    goto error;
789    
790            BitstreamSkip(bs, tab->len);
791    
792            if (tab->code != ESCAPE) {
793                    if (!intra) {
794                            *run = (tab->code >> 4) & 255;
795                            level = tab->code & 15;
796                            *last = (tab->code >> 12) & 1;
797                    } else {
798                            *run = (tab->code >> 8) & 255;
799                            level = tab->code & 255;
800                            *last = (tab->code >> 16) & 1;
801                    }
802                    return BitstreamGetBit(bs) ? -level : level;
803            }
804    
805            if (short_video_header) {
806                    // escape mode 4 - H.263 type, only used if short_video_header = 1
807                    *last = BitstreamGetBit(bs);
808                    *run = BitstreamGetBits(bs, 6);
809                    level = BitstreamGetBits(bs, 8);
810    
811                    if (level == 0 || level == 128)
812                            DEBUG1("Illegal LEVEL for ESCAPE mode 4:", level);
813    
814                    return (level >= 128 ? -(256 - level) : level);
815            }
816    
817            mode = BitstreamShowBits(bs, 2);
818    
819            if (mode < 3) {
820                    BitstreamSkip(bs, (mode == 2) ? 2 : 1);
821    
822                    tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];
823                    if (tab->code == -1)
824                            goto error;
825    
826                    BitstreamSkip(bs, tab->len);
827    
828                    if (!intra) {
829                            *run = (tab->code >> 4) & 255;
830                            level = tab->code & 15;
831                            *last = (tab->code >> 12) & 1;
832                    } else {
833                            *run = (tab->code >> 8) & 255;
834                            level = tab->code & 255;
835                            *last = (tab->code >> 16) & 1;
836                    }
837    
838                    if (mode < 2)                   // first escape mode, level is offset
839                            level += max_level[*last + (!intra << 1)][*run];        // need to add back the max level
840                    else if (mode == 2)             // second escape mode, run is offset
841                            *run += max_run[*last + (!intra << 1)][level] + 1;
842    
843                    return BitstreamGetBit(bs) ? -level : level;
844            }
845            // third escape mode - fixed length codes
846            BitstreamSkip(bs, 2);
847            *last = BitstreamGetBits(bs, 1);
848            *run = BitstreamGetBits(bs, 6);
849            BitstreamSkip(bs, 1);           // marker
850            level = BitstreamGetBits(bs, 12);
851            BitstreamSkip(bs, 1);           // marker
852    
853            return (level & 0x800) ? (level | (-1 ^ 0xfff)) : level;
854    
855      error:
856            *run = VLC_ERROR;
857            return 0;
858    
859    }
860    
861    /*****************************************************************************
862     * MB reading functions
863     ****************************************************************************/
864    
865    void
866    get_intra_block(Bitstream * bs,
867                                    int16_t * block,
868                                    int direction,
869                                    int coeff)
870  {  {
871    
872          const uint16_t * scan = scan_tables[ direction ];          const uint16_t * scan = scan_tables[ direction ];
# Line 740  Line 874 
874          int run;          int run;
875          int last;          int last;
876    
877          do          do {
         {  
878                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
879                  if (run == -1)                  if (run == -1) {
                 {  
880                          DEBUG("fatal: invalid run");                          DEBUG("fatal: invalid run");
881                          break;                          break;
882                  }                  }
883                  coeff += run;                  coeff += run;
884                  block[ scan[coeff] ] = level;                  block[ scan[coeff] ] = level;
885                  if (level < -127 || level > 127)  
886                  {                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);
887                    //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));
888    
889                    if (level < -127 || level > 127) {
890                          DEBUG1("warning: intra_overflow", level);                          DEBUG1("warning: intra_overflow", level);
891                  }                  }
892                  coeff++;                  coeff++;
# Line 759  Line 894 
894    
895  }  }
896    
897  void get_inter_block(Bitstream * bs, int16_t * block)  void
898    get_inter_block(Bitstream * bs,
899                                    int16_t * block)
900  {  {
901    
902          const uint16_t * scan = scan_tables[0];          const uint16_t * scan = scan_tables[0];
# Line 769  Line 906 
906          int last;          int last;
907    
908          p = 0;          p = 0;
909          do          do {
         {  
910                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
911                  if (run == -1)                  if (run == -1) {
                 {  
912                          DEBUG("fatal: invalid run");                          DEBUG("fatal: invalid run");
913                          break;                          break;
914                  }                  }
915                  p += run;                  p += run;
916    
917                  block[ scan[p] ] = level;                  block[ scan[p] ] = level;
918                  if (level < -127 || level > 127)  
919                  {                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
920                    // DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[p], level, BitstreamShowBits(bs, 32));
921    
922                    if (level < -127 || level > 127) {
923                          DEBUG1("warning: inter_overflow", level);                          DEBUG1("warning: inter_overflow", level);
924                  }                  }
925                  p++;                  p++;

Legend:
Removed from v.133  
changed lines
  Added in v.453

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4