[svn] / trunk / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 454, Sun Sep 8 15:40:02 2002 UTC revision 764, Sun Jan 5 16:54:36 2003 UTC
# Line 5  Line 5 
5   *   *
6   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7   *   *
8     *  This file is part of XviD, a free MPEG-4 video encoder/decoder
9   *   *
10   *  This program is an implementation of a part of one or more MPEG-4   *  XviD is free software; you can redistribute it and/or modify it
11   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *  under the terms of the GNU General Public License as published by
  *  to use this software module in hardware or software products are  
  *  advised that its use may infringe existing patents or copyrights, and  
  *  any such use would be at such party's own risk.  The original  
  *  developer of this software module and his/her company, and subsequent  
  *  editors and their companies, will have no liability for use of this  
  *  software or modifications or derivatives thereof.  
  *  
  *  This program is free software; you can redistribute it and/or modify  
  *  it under the terms of the GNU General Public License as published by  
12   *  the Free Software Foundation; either version 2 of the License, or   *  the Free Software Foundation; either version 2 of the License, or
13   *  (at your option) any later version.   *  (at your option) any later version.
14   *   *
# Line 29  Line 21 
21   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: mbcoding.c,v 1.28 2002-09-08 15:40:02 edgomez Exp $   *  Under section 8 of the GNU General Public License, the copyright
25     *  holders of XVID explicitly forbid distribution in the following
26     *  countries:
27     *
28     *    - Japan
29     *    - United States of America
30     *
31     *  Linking XviD statically or dynamically with other modules is making a
32     *  combined work based on XviD.  Thus, the terms and conditions of the
33     *  GNU General Public License cover the whole combination.
34     *
35     *  As a special exception, the copyright holders of XviD give you
36     *  permission to link XviD with independent modules that communicate with
37     *  XviD solely through the VFW1.1 and DShow interfaces, regardless of the
38     *  license terms of these independent modules, and to copy and distribute
39     *  the resulting combined work under terms of your choice, provided that
40     *  every copy of the combined work is accompanied by a complete copy of
41     *  the source code of XviD (the version of XviD used to produce the
42     *  combined work), being distributed under the terms of the GNU General
43     *  Public License plus this exception.  An independent module is a module
44     *  which is not derived from or based on XviD.
45     *
46     *  Note that people who make modified versions of XviD are not obligated
47     *  to grant this special exception for their modified versions; it is
48     *  their choice whether to do so.  The GNU General Public License gives
49     *  permission to release a modified version without this exception; this
50     *  exception also makes it possible to release a modified version which
51     *  carries forward this exception.
52     *
53     * $Id: mbcoding.c,v 1.37 2003-01-05 16:54:36 edgomez Exp $
54   *   *
55   ****************************************************************************/   ****************************************************************************/
56    
# Line 45  Line 66 
66  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
67  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
68    
69    /*#define _BIGLUT_*/
70    
71    #ifdef _BIGLUT_
72    #define LEVELOFFSET 2048
73    #else
74    #define LEVELOFFSET 32
75    #endif
76    
77  /*****************************************************************************  /*****************************************************************************
78   * Local data   * Local data
79   ****************************************************************************/   ****************************************************************************/
80    
81  static VLC intra_table[524032];  static REVERSE_EVENT DCT3D[2][4096];
 static VLC inter_table[524032];  
82    
83  static VLC DCT3Dintra[4096];  #ifdef _BIGLUT_
84  static VLC DCT3Dinter[4096];  static VLC coeff_VLC[2][2][4096][64];
85    VLC *intra_table, *inter_table;
86    #else
87    static VLC coeff_VLC[2][2][64][64];
88    #endif
89    
90  /*****************************************************************************  /*****************************************************************************
91   * Vector Length Coding Initialization   * Vector Length Coding Initialization
# Line 62  Line 94 
94  void  void
95  init_vlc_tables(void)  init_vlc_tables(void)
96  {  {
97            uint32_t i, j, intra, last, run, offset;
98            int32_t level;
99            VLC coeff_VLC_temp[2][2][64][64];
100    
101          int32_t k, l, i, intra, last;  #ifdef _BIGLUT_
102          VLC *vlc[2];          intra_table = coeff_VLC[1];
103          VLC **coeff_ptr;          inter_table = coeff_VLC[0];
104          VLC *vlc1, *vlc2;  #endif
   
         vlc1 = DCT3Dintra;  
         vlc2 = DCT3Dinter;  
   
         vlc[0] = intra_table;  
         vlc[1] = inter_table;  
   
         /*  
          * Generate encoding vlc lookup tables  
          * the lookup table idea is taken from the excellent fame project  
          * by Vivien Chapellier  
          */  
         for (i = 0; i < 4; i++) {  
                 intra = i % 2;  
                 last = i / 2;  
   
                 coeff_ptr = coeff_vlc[last + 2 * intra];  
   
                 for (k = -2047; k < 2048; k++) {        // level  
                         int8_t *max_level_ptr = max_level[last + 2 * intra];  
                         int8_t *max_run_ptr = max_run[last + 2 * intra];  
   
                         for (l = 0; l < 64; l++) {      // run  
                                 int32_t level = k;  
                                 ptr_t run = l;  
   
                                 if ((abs(level) <= max_level_ptr[run]) && (run <= (uint32_t) max_run_ptr[abs(level)])) {        // level < max_level and run < max_run  
   
                                         vlc[intra]->code = 0;  
                                         vlc[intra]->len = 0;  
                                         goto loop_end;  
                                 } else {  
                                         if (level > 0)  // correct level  
                                                 level -= max_level_ptr[run];  
                                         else  
                                                 level += max_level_ptr[run];  
105    
                                         if ((abs(level) <= max_level_ptr[run]) &&  
                                                 (run <= (uint32_t) max_run_ptr[abs(level)])) {  
106    
107                                                  vlc[intra]->code = 0x06;          for (intra = 0; intra < 2; intra++)
108                                                  vlc[intra]->len = 8;                  for (i = 0; i < 4096; i++)
109                                                  goto loop_end;                          DCT3D[intra][i].event.level = 0;
110    
111            for (intra = 0; intra < 2; intra++)
112                    for (last = 0; last < 2; last++)
113                    {
114                            for (run = 0; run < 63 + last; run++)
115                                    for (level = 0; level < 32 << intra; level++)
116                                    {
117    #ifdef _BIGLUT_
118                                            offset = LEVELOFFSET;
119    #else
120                                            offset = !intra * LEVELOFFSET;
121    #endif
122                                            coeff_VLC_temp[intra][last][level][run].len             = 128;
123                                            coeff_VLC[intra][last][level + offset][run].len = 128;
124                                    }
125                                          }                                          }
126    
127                                          if (level > 0)  // still here?          for (intra = 0; intra < 2; intra++)
128                                                  level += max_level_ptr[run];    // restore level                  for (i = 0; i < 102; i++)
129                                          else                  {
130                                                  level -= max_level_ptr[run];  #ifdef _BIGLUT_
131                            offset = LEVELOFFSET;
132                                          run -= max_run_ptr[abs(level)] + 1;     // and change run  #else
133                            offset = !intra * LEVELOFFSET;
134                                          if ((abs(level) <= max_level_ptr[run]) &&  #endif
135                                                  (run <= (uint32_t) max_run_ptr[abs(level)])) {                          for (j = 0; j < 1 << (12 - coeff_tab[intra][i].vlc.len); j++)
136                            {
137                                    DCT3D[intra][(coeff_tab[intra][i].vlc.code << (12 - coeff_tab[intra][i].vlc.len)) | j].len       = coeff_tab[intra][i].vlc.len;
138                                    DCT3D[intra][(coeff_tab[intra][i].vlc.code << (12 - coeff_tab[intra][i].vlc.len)) | j].event = coeff_tab[intra][i].event;
139                            }
140    
141                                                  vlc[intra]->code = 0x0e;                          coeff_VLC_temp[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].code
142                                                  vlc[intra]->len = 9;                                  = coeff_tab[intra][i].vlc.code << 1;
143                                                  goto loop_end;                          coeff_VLC_temp[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].len
144                                    = coeff_tab[intra][i].vlc.len + 1;
145    
146                            coeff_VLC[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level + offset][coeff_tab[intra][i].event.run].code
147                                    = coeff_tab[intra][i].vlc.code << 1;
148                            coeff_VLC[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level + offset][coeff_tab[intra][i].event.run].len
149                                    = coeff_tab[intra][i].vlc.len + 1;
150    #ifndef _BIGLUT_
151                            if (!intra)
152    #endif
153                            {
154                                    coeff_VLC[intra][coeff_tab[intra][i].event.last][offset - coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].code
155                                            = (coeff_tab[intra][i].vlc.code << 1) | 1;
156                                    coeff_VLC[intra][coeff_tab[intra][i].event.last][offset - coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].len
157                                            = coeff_tab[intra][i].vlc.len + 1;
158                                          }                                          }
                                         run += max_run_ptr[abs(level)] + 1;  
159                                  }                                  }
160    
161                                  vlc[intra]->code =          for (intra = 0; intra < 2; intra++)
162                                          (uint32_t) ((l << 14) | (0x1e + last) << 20) | (1 << 13) |                  for (last = 0; last < 2; last++)
163                                          ((k & 0xfff) << 1) | 1;                          for (run = 0; run < 63 + last; run++)
164                            {
165                                  vlc[intra]->len = 30;                                  for (level = 1; level < 32 << intra; level++)
166                                  vlc[intra]++;                                  {
167                                  continue;  #ifdef _BIGLUT_
168                                            offset = LEVELOFFSET;
169                            loop_end:  #else
170                                  if (level != 0) {                                          offset = !intra * LEVELOFFSET;
171                                          vlc[intra]->code =  #endif
172                                                  (vlc[intra]->                                          if ((max_level[intra][last][run]) && (level > max_level[intra][last][run]))
173                                                   code << (coeff_ptr[run][abs(level) - 1].len +                                                  if (coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len != 128
174                                                                    1)) | (coeff_ptr[run][abs(level) -                                                          && coeff_VLC[intra][last][level + offset][run].len == 128)
175                                                                                                                  1].code << 1);                                                  {
176                                          vlc[intra]->len =                                                          coeff_VLC[intra][last][level + offset][run].code
177                                                  (coeff_ptr[run][abs(level) - 1].len + 1) +                                                                  = (ESCAPE1 << coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len)
178                                                  vlc[intra]->len;                                                                  |  coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].code;
179                                                            coeff_VLC[intra][last][level + offset][run].len
180                                          if (level < 0)                                                                  = coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len + 7 + 1;
181                                                  vlc[intra]->code += 1;  #ifndef _BIGLUT_
182                                                            if (!intra)
183    #endif
184                                                            {
185                                                                    coeff_VLC[intra][last][offset - level][run].code
186                                                                            = (ESCAPE1 << coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len)
187                                                                            |  coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].code | 1;
188                                                                    coeff_VLC[intra][last][offset - level][run].len
189                                                                            = coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len + 7 + 1;
190                                                            }
191                                                    }
192                                            if (run > max_run[intra][last][level])
193                                                    if (coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len != 128
194                                                            && coeff_VLC[intra][last][level + offset][run].len == 128)
195                                                    /*use the lower test instead of the upper to use shorter escape codes when possible :
196                                                    if (coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2
197                                                            < coeff_VLC[intra][last][level + offset][run].len)*/
198                                                    {
199                                                            coeff_VLC[intra][last][level + offset][run].code
200                                                                    = (ESCAPE2 << coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len)
201                                                                    |  coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].code;
202                                                            coeff_VLC[intra][last][level + offset][run].len
203                                                                    = coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2;
204    #ifndef _BIGLUT_
205                                                            if (!intra)
206    #endif
207                                                            {
208                                                                    coeff_VLC[intra][last][offset - level][run].code
209                                                                            = (ESCAPE2 << coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len)
210                                                                            |  coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].code | 1;
211                                                                    coeff_VLC[intra][last][offset - level][run].len
212                                                                            = coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2;
213                                  }                                  }
   
                                 vlc[intra]++;  
214                          }                          }
215    #ifndef _BIGLUT_
216                                            if (!intra)
217    #endif
218                                                    if (coeff_VLC[intra][last][level + offset][run].len == 128)
219                                                    {
220                                                            coeff_VLC[intra][last][level + offset][run].code
221                                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((level & 0xfff) << 1) | 1;
222                                                            coeff_VLC[intra][last][level + offset][run].len = 30;
223    
224                                                            coeff_VLC[intra][last][offset - level][run].code
225                                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-level & 0xfff) << 1) | 1;
226                                                            coeff_VLC[intra][last][offset - level][run].len = 30;
227                  }                  }
228          }          }
229    #ifdef _BIGLUT_
230                                    for (level = 32 << intra; level < 2048; level++)
231                                    {
232                                            coeff_VLC[intra][last][level + offset][run].code
233                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((level & 0xfff) << 1) | 1;
234                                            coeff_VLC[intra][last][level + offset][run].len = 30;
235    
236          for (i = 0; i < 4096; i++) {                                          coeff_VLC[intra][last][offset - level][run].code
237                  if (i >= 512) {                                                  = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-level & 0xfff) << 1) | 1;
238                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];                                          coeff_VLC[intra][last][offset - level][run].len = 30;
                         *vlc2 = DCT3Dtab0[(i >> 5) - 16];  
                 } else if (i >= 128) {  
                         *vlc1 = DCT3Dtab4[(i >> 2) - 32];  
                         *vlc2 = DCT3Dtab1[(i >> 2) - 32];  
                 } else if (i >= 8) {  
                         *vlc1 = DCT3Dtab5[i - 8];  
                         *vlc2 = DCT3Dtab2[i - 8];  
                 } else {  
                         *vlc1 = ERRtab[i];  
                         *vlc2 = ERRtab[i];  
239                  }                  }
240    #else
241                  vlc1++;                                  if (!intra)
242                  vlc2++;                                  {
243                                            coeff_VLC[intra][last][0][run].code
244                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-32 & 0xfff) << 1) | 1;
245                                            coeff_VLC[intra][last][0][run].len = 30;
246                                    }
247    #endif
248          }          }
         DCT3D[0] = DCT3Dinter;  
         DCT3D[1] = DCT3Dintra;  
   
249  }  }
250    
251  /*****************************************************************************  /*****************************************************************************
# Line 239  Line 307 
307    
308  }  }
309    
310    #ifdef __BIGLUT_
311    
312  static __inline void  static __inline void
313  CodeCoeff(Bitstream * bs,  CodeCoeff(Bitstream * bs,
314                    const int16_t qcoeff[64],                    const int16_t qcoeff[64],
# Line 258  Line 328 
328                  j++;                  j++;
329    
330          do {          do {
331                  vlc = table + 64 * 2047 + (v << 6) + j - last;                  vlc = table + 64 * 2048 + (v << 6) + j - last;
332                  last = ++j;                  last = ++j;
333    
334                  // count zeroes                  /* count zeroes */
335                  while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)                  while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
336                          j++;                          j++;
337    
338                  // write code                  /* write code */
339                  if (j != 64) {                  if (j != 64) {
340                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
341                  } else {                  } else {
342                          vlc += 64 * 4095;                          vlc += 64 * 4096;
343                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
344                          break;                          break;
345                  }                  }
# Line 277  Line 347 
347    
348  }  }
349    
350    #else
351    
352    static __inline void
353    CodeCoeffInter(Bitstream * bs,
354                      const int16_t qcoeff[64],
355                      const uint16_t * zigzag)
356    {
357            uint32_t i, run, prev_run, code, len;
358            int32_t level, prev_level, level_shifted;
359    
360            i       = 0;
361            run = 0;
362    
363            while (!(level = qcoeff[zigzag[i++]]))
364                    run++;
365    
366            prev_level = level;
367            prev_run   = run;
368            run = 0;
369    
370            while (i < 64)
371            {
372                    if ((level = qcoeff[zigzag[i++]]) != 0)
373                    {
374                            level_shifted = prev_level + 32;
375                            if (!(level_shifted & -64))
376                            {
377                                    code = coeff_VLC[0][0][level_shifted][prev_run].code;
378                                    len      = coeff_VLC[0][0][level_shifted][prev_run].len;
379                            }
380                            else
381                            {
382                                    code = (ESCAPE3 << 21) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
383                                    len  = 30;
384                            }
385                            BitstreamPutBits(bs, code, len);
386                            prev_level = level;
387                            prev_run   = run;
388                            run = 0;
389                    }
390                    else
391                            run++;
392            }
393    
394            level_shifted = prev_level + 32;
395            if (!(level_shifted & -64))
396            {
397                    code = coeff_VLC[0][1][level_shifted][prev_run].code;
398                    len      = coeff_VLC[0][1][level_shifted][prev_run].len;
399            }
400            else
401            {
402                    code = (ESCAPE3 << 21) | (1 << 20) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
403                    len  = 30;
404            }
405            BitstreamPutBits(bs, code, len);
406    }
407    
408    static __inline void
409    CodeCoeffIntra(Bitstream * bs,
410                      const int16_t qcoeff[64],
411                      const uint16_t * zigzag)
412    {
413            uint32_t i, abs_level, run, prev_run, code, len;
414            int32_t level, prev_level;
415    
416            i       = 1;
417            run = 0;
418    
419            while (!(level = qcoeff[zigzag[i++]]))
420                    run++;
421    
422            prev_level = level;
423            prev_run   = run;
424            run = 0;
425    
426            while (i < 64)
427            {
428                    if ((level = qcoeff[zigzag[i++]]) != 0)
429                    {
430                            abs_level = ABS(prev_level);
431                            abs_level = abs_level < 64 ? abs_level : 0;
432                            code      = coeff_VLC[1][0][abs_level][prev_run].code;
433                            len               = coeff_VLC[1][0][abs_level][prev_run].len;
434                            if (len != 128)
435                                    code |= (prev_level < 0);
436                            else
437                            {
438                            code = (ESCAPE3 << 21) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
439                                    len  = 30;
440                            }
441                            BitstreamPutBits(bs, code, len);
442                            prev_level = level;
443                            prev_run   = run;
444                            run = 0;
445                    }
446                    else
447                            run++;
448            }
449    
450            abs_level = ABS(prev_level);
451            abs_level = abs_level < 64 ? abs_level : 0;
452            code      = coeff_VLC[1][1][abs_level][prev_run].code;
453            len               = coeff_VLC[1][1][abs_level][prev_run].len;
454            if (len != 128)
455                    code |= (prev_level < 0);
456            else
457            {
458                    code = (ESCAPE3 << 21) | (1 << 20) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
459                    len  = 30;
460            }
461            BitstreamPutBits(bs, code, len);
462    }
463    
464    #endif
465    
466  /*****************************************************************************  /*****************************************************************************
467   * Local functions   * Local functions
468   ****************************************************************************/   ****************************************************************************/
# Line 293  Line 479 
479    
480          cbpy = pMB->cbp >> 2;          cbpy = pMB->cbp >> 2;
481    
482          // write mcbpc          /* write mcbpc */
483          if (frame->coding_type == I_VOP) {          if (frame->coding_type == I_VOP) {
484                  mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);                  mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);
485                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,
# Line 304  Line 490 
490                                                   mcbpc_inter_tab[mcbpc].len);                                                   mcbpc_inter_tab[mcbpc].len);
491          }          }
492    
493          // ac prediction flag          /* ac prediction flag */
494          if (pMB->acpred_directions[0])          if (pMB->acpred_directions[0])
495                  BitstreamPutBits(bs, 1, 1);                  BitstreamPutBits(bs, 1, 1);
496          else          else
497                  BitstreamPutBits(bs, 0, 1);                  BitstreamPutBits(bs, 0, 1);
498    
499          // write cbpy          /* write cbpy */
500          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
501    
502          // write dquant          /* write dquant */
503          if (pMB->mode == MODE_INTRA_Q)          if (pMB->mode == MODE_INTRA_Q)
504                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
505    
506          // write interlacing          /* write interlacing */
507          if (frame->global_flags & XVID_INTERLACING) {          if (frame->global_flags & XVID_INTERLACING) {
508                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
509          }          }
510          // code block coeffs          /* code block coeffs */
511          for (i = 0; i < 6; i++) {          for (i = 0; i < 6; i++) {
512                  if (i < 4)                  if (i < 4)
513                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,
# Line 333  Line 519 
519                  if (pMB->cbp & (1 << (5 - i))) {                  if (pMB->cbp & (1 << (5 - i))) {
520                          bits = BitstreamPos(bs);                          bits = BitstreamPos(bs);
521    
522    #ifdef _BIGLUT_
523                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,
524                                            scan_tables[pMB->acpred_directions[i]], 1);                                            scan_tables[pMB->acpred_directions[i]], 1);
525    #else
526                            CodeCoeffIntra(bs, &qcoeff[i * 64], scan_tables[pMB->acpred_directions[i]]);
527    #endif
528                          bits = BitstreamPos(bs) - bits;                          bits = BitstreamPos(bs) - bits;
529                          pStat->iTextBits += bits;                          pStat->iTextBits += bits;
530                  }                  }
# Line 358  Line 547 
547          mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);          mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
548          cbpy = 15 - (pMB->cbp >> 2);          cbpy = 15 - (pMB->cbp >> 2);
549    
550          // write mcbpc          /* write mcbpc */
551          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
552                                           mcbpc_inter_tab[mcbpc].len);                                           mcbpc_inter_tab[mcbpc].len);
553    
554          // write cbpy          /* write cbpy */
555          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
556    
557          // write dquant          /* write dquant */
558          if (pMB->mode == MODE_INTER_Q)          if (pMB->mode == MODE_INTER_Q)
559                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
560    
561          // interlacing          /* interlacing */
562          if (frame->global_flags & XVID_INTERLACING) {          if (frame->global_flags & XVID_INTERLACING) {
563                  if (pMB->cbp) {                  if (pMB->cbp) {
564                          BitstreamPutBit(bs, pMB->field_dct);                          BitstreamPutBit(bs, pMB->field_dct);
565                          DEBUG1("codep: field_dct: ", pMB->field_dct);                          DPRINTF(DPRINTF_DEBUG, "codep: field_dct: %d", pMB->field_dct);
566                  }                  }
567    
568                  // if inter block, write field ME flag                  /* if inter block, write field ME flag */
569                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
570                          BitstreamPutBit(bs, pMB->field_pred);                          BitstreamPutBit(bs, pMB->field_pred);
571                          DEBUG1("codep: field_pred: ", pMB->field_pred);                          DPRINTF(DPRINTF_DEBUG, "codep: field_pred: %d", pMB->field_pred);
572    
573                          // write field prediction references                          /* write field prediction references */
574                          if (pMB->field_pred) {                          if (pMB->field_pred) {
575                                  BitstreamPutBit(bs, pMB->field_for_top);                                  BitstreamPutBit(bs, pMB->field_for_top);
576                                  BitstreamPutBit(bs, pMB->field_for_bot);                                  BitstreamPutBit(bs, pMB->field_for_bot);
577                          }                          }
578                  }                  }
579          }          }
580          // code motion vector(s)          /* code motion vector(s) */
581          for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {          for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {
582                  CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);                  CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);
583                  CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);                  CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);
# Line 396  Line 585 
585    
586          bits = BitstreamPos(bs);          bits = BitstreamPos(bs);
587    
588          // code block coeffs          /* code block coeffs */
589          for (i = 0; i < 6; i++)          for (i = 0; i < 6; i++)
590                  if (pMB->cbp & (1 << (5 - i)))                  if (pMB->cbp & (1 << (5 - i)))
591    #ifdef _BIGLUT_
592                          CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);                          CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);
593    #else
594                            CodeCoeffInter(bs, &qcoeff[i * 64], scan_tables[0]);
595    #endif
596    
597          bits = BitstreamPos(bs) - bits;          bits = BitstreamPos(bs) - bits;
598          pStat->iTextBits += bits;          pStat->iTextBits += bits;
# Line 419  Line 612 
612  {  {
613    
614          if (frame->coding_type == P_VOP) {          if (frame->coding_type == P_VOP) {
615                          BitstreamPutBit(bs, 0); // coded                          BitstreamPutBit(bs, 0); /* coded */
616          }          }
617    
618          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
# Line 433  Line 626 
626  void  void
627  MBSkip(Bitstream * bs)  MBSkip(Bitstream * bs)
628  {  {
629          BitstreamPutBit(bs, 1); // not coded          BitstreamPutBit(bs, 1); /* not coded */
         return;  
 }  
   
 #if 0  
 /***************************************************************  
  * bframe encoding start  
  ***************************************************************/  
   
 /*  
         mbtype  
         0       1b              direct(h263)            mvdb  
         1       01b             interpolate mc+q        dbquant, mvdf, mvdb  
         2       001b    backward mc+q           dbquant, mvdb  
         3       0001b   forward mc+q            dbquant, mvdf  
 */  
   
 void  
 put_bvop_mbtype(Bitstream * bs,  
                                 int value)  
 {  
         switch (value) {  
         case 0:  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 1:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 3:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         default:;                                       // invalid!  
   
         }  
   
 }  
   
 /*  
         dbquant  
         -2      10b  
         0       0b  
         +2      11b  
 */  
   
 void  
 put_bvop_dbquant(Bitstream * bs,  
                                  int value)  
 {  
         switch (value) {  
         case 0:  
                 BitstreamPutBit(bs, 0);  
630                  return;                  return;
   
         case -2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         default:;                                       // invalid  
         }  
 }  
   
 void  
 MBCodingBVOP(const MACROBLOCK * mb,  
                          const int16_t qcoeff[6 * 64],  
                          const int32_t fcode,  
                          const int32_t bcode,  
                          Bitstream * bs,  
                          Statistics * pStat)  
 {  
         int i;  
   
 /*      ------------------------------------------------------------------  
                 when a block is skipped it is decoded DIRECT(0,0)  
                 hence is interpolated from forward & backward frames  
         ------------------------------------------------------------------ */  
   
         if (mb->mode == MODE_DIRECT_NONE_MV) {  
                 BitstreamPutBit(bs, 1); // skipped  
                 return;  
         }  
   
         BitstreamPutBit(bs, 0);         // not skipped  
   
         if (mb->cbp == 0) {  
                 BitstreamPutBit(bs, 1); // cbp == 0  
         } else {  
                 BitstreamPutBit(bs, 0); // cbp == xxx  
         }  
   
         put_bvop_mbtype(bs, mb->mode);  
   
         if (mb->cbp) {  
                 BitstreamPutBits(bs, mb->cbp, 6);  
         }  
   
         if (mb->mode != MODE_DIRECT && mb->cbp != 0) {  
                 put_bvop_dbquant(bs, 0);        // todo: mb->dquant = 0  
631          }          }
632    
         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {  
                 CodeVector(bs, mb->pmvs[0].x, fcode, pStat);  
                 CodeVector(bs, mb->pmvs[0].y, fcode, pStat);  
         }  
   
         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {  
                 CodeVector(bs, mb->b_pmvs[0].x, bcode, pStat);  
                 CodeVector(bs, mb->b_pmvs[0].y, bcode, pStat);  
         }  
   
         if (mb->mode == MODE_DIRECT) {  
                 CodeVector(bs, mb->deltamv.x, 1, pStat);                /* fcode is always 1 for delta vector */  
                 CodeVector(bs, mb->deltamv.y, 1, pStat);                /* prediction is always (0,0) */  
         }  
   
         for (i = 0; i < 6; i++) {  
                 if (mb->cbp & (1 << (5 - i))) {  
                         CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);  
                 }  
         }  
 }  
 #endif  
   
   
633  /*****************************************************************************  /*****************************************************************************
634   * decoding stuff starts here   * decoding stuff starts here
635   ****************************************************************************/   ****************************************************************************/
# Line 775  Line 830 
830  {  {
831    
832          uint32_t mode;          uint32_t mode;
         const VLC *tab;  
833          int32_t level;          int32_t level;
834            REVERSE_EVENT *reverse_event;
835    
836          if (short_video_header)         // inter-VLCs will be used for both intra and inter blocks          if (short_video_header)         /* inter-VLCs will be used for both intra and inter blocks */
837                  intra = 0;                  intra = 0;
838    
839          tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];          if (BitstreamShowBits(bs, 7) != ESCAPE) {
840                    reverse_event = &DCT3D[intra][BitstreamShowBits(bs, 12)];
841    
842          if (tab->code == -1)                  if ((level = reverse_event->event.level) == 0)
843                  goto error;                  goto error;
844    
845          BitstreamSkip(bs, tab->len);                  *last = reverse_event->event.last;
846                    *run  = reverse_event->event.run;
847    
848          if (tab->code != ESCAPE) {                  BitstreamSkip(bs, reverse_event->len);
849                  if (!intra) {  
850                          *run = (tab->code >> 4) & 255;                  return BitstreamGetBits(bs, 1) ? -level : level;
                         level = tab->code & 15;  
                         *last = (tab->code >> 12) & 1;  
                 } else {  
                         *run = (tab->code >> 8) & 255;  
                         level = tab->code & 255;  
                         *last = (tab->code >> 16) & 1;  
                 }  
                 return BitstreamGetBit(bs) ? -level : level;  
851          }          }
852    
853            BitstreamSkip(bs, 7);
854    
855          if (short_video_header) {          if (short_video_header) {
856                  // escape mode 4 - H.263 type, only used if short_video_header = 1                  /* escape mode 4 - H.263 type, only used if short_video_header = 1  */
857                  *last = BitstreamGetBit(bs);                  *last = BitstreamGetBit(bs);
858                  *run = BitstreamGetBits(bs, 6);                  *run = BitstreamGetBits(bs, 6);
859                  level = BitstreamGetBits(bs, 8);                  level = BitstreamGetBits(bs, 8);
860    
861                  if (level == 0 || level == 128)                  if (level == 0 || level == 128)
862                          DEBUG1("Illegal LEVEL for ESCAPE mode 4:", level);                          DPRINTF(DPRINTF_ERROR, "Illegal LEVEL for ESCAPE mode 4: %d", level);
863    
864                  return (level >= 128 ? -(256 - level) : level);                  return (level << 24) >> 24;
865          }          }
866    
867          mode = BitstreamShowBits(bs, 2);          mode = BitstreamShowBits(bs, 2);
# Line 818  Line 869 
869          if (mode < 3) {          if (mode < 3) {
870                  BitstreamSkip(bs, (mode == 2) ? 2 : 1);                  BitstreamSkip(bs, (mode == 2) ? 2 : 1);
871    
872                  tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];                  reverse_event = &DCT3D[intra][BitstreamShowBits(bs, 12)];
873                  if (tab->code == -1)  
874                    if ((level = reverse_event->event.level) == 0)
875                          goto error;                          goto error;
876    
877                  BitstreamSkip(bs, tab->len);                  *last = reverse_event->event.last;
878                    *run  = reverse_event->event.run;
879    
880                  if (!intra) {                  BitstreamSkip(bs, reverse_event->len);
                         *run = (tab->code >> 4) & 255;  
                         level = tab->code & 15;  
                         *last = (tab->code >> 12) & 1;  
                 } else {  
                         *run = (tab->code >> 8) & 255;  
                         level = tab->code & 255;  
                         *last = (tab->code >> 16) & 1;  
                 }  
881    
882                  if (mode < 2)                   // first escape mode, level is offset                  if (mode < 2)                   /* first escape mode, level is offset */
883                          level += max_level[*last + (!intra << 1)][*run];        // need to add back the max level                          level += max_level[intra][*last][*run];
884                  else if (mode == 2)             // second escape mode, run is offset                  else                                    /* second escape mode, run is offset */
885                          *run += max_run[*last + (!intra << 1)][level] + 1;                          *run += max_run[intra][*last][level] + 1;
886    
887                  return BitstreamGetBit(bs) ? -level : level;                  return BitstreamGetBits(bs, 1) ? -level : level;
888          }          }
889          // third escape mode - fixed length codes  
890            /* third escape mode - fixed length codes */
891          BitstreamSkip(bs, 2);          BitstreamSkip(bs, 2);
892          *last = BitstreamGetBits(bs, 1);          *last = BitstreamGetBits(bs, 1);
893          *run = BitstreamGetBits(bs, 6);          *run = BitstreamGetBits(bs, 6);
894          BitstreamSkip(bs, 1);           // marker          BitstreamSkip(bs, 1);           /* marker */
895          level = BitstreamGetBits(bs, 12);          level = BitstreamGetBits(bs, 12);
896          BitstreamSkip(bs, 1);           // marker          BitstreamSkip(bs, 1);           /* marker */
897    
898          return (level & 0x800) ? (level | (-1 ^ 0xfff)) : level;          return (level << 20) >> 20;
899    
900    error:    error:
901          *run = VLC_ERROR;          *run = VLC_ERROR;
902          return 0;          return 0;
   
903  }  }
904    
905  /*****************************************************************************  /*****************************************************************************
# Line 876  Line 921 
921          do {          do {
922                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
923                  if (run == -1) {                  if (run == -1) {
924                          DEBUG("fatal: invalid run");                          DPRINTF(DPRINTF_DEBUG, "fatal: invalid run");
925                          break;                          break;
926                  }                  }
927                  coeff += run;                  coeff += run;
928                  block[scan[coeff]] = level;                  block[scan[coeff]] = level;
929    
930                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);
931                  //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));                  /*DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32)); */
932    
933                  if (level < -127 || level > 127) {                  if (level < -2047 || level > 2047) {
934                          DEBUG1("warning: intra_overflow", level);                          DPRINTF(DPRINTF_DEBUG, "warning: intra_overflow: %d", level);
935                  }                  }
936                  coeff++;                  coeff++;
937          } while (!last);          } while (!last);
# Line 908  Line 953 
953          do {          do {
954                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
955                  if (run == -1) {                  if (run == -1) {
956                          DEBUG("fatal: invalid run");                          DPRINTF(DPRINTF_ERROR, "fatal: invalid run");
957                          break;                          break;
958                  }                  }
959                  p += run;                  p += run;
# Line 916  Line 961 
961                  block[scan[p]] = level;                  block[scan[p]] = level;
962    
963                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
                 // DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[p], level, BitstreamShowBits(bs, 32));  
964    
965                  if (level < -127 || level > 127) {                  if (level < -2047 || level > 2047) {
966                          DEBUG1("warning: inter_overflow", level);                          DPRINTF(DPRINTF_DEBUG, "warning: inter_overflow: %d", level);
967                  }                  }
968                  p++;                  p++;
969          } while (!last);          } while (!last);
Legend:
Removed from v.454  
changed lines
  Added in v.764
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4