[svn] / trunk / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 28, Fri Mar 15 09:20:03 2002 UTC revision 764, Sun Jan 5 16:54:36 2003 UTC
# Line 1  Line 1 
1    /*****************************************************************************
2     *
3     *  XVID MPEG-4 VIDEO CODEC
4     *  - Macro Block coding functions -
5     *
6     *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7     *
8     *  This file is part of XviD, a free MPEG-4 video encoder/decoder
9     *
10     *  XviD is free software; you can redistribute it and/or modify it
11     *  under the terms of the GNU General Public License as published by
12     *  the Free Software Foundation; either version 2 of the License, or
13     *  (at your option) any later version.
14     *
15     *  This program is distributed in the hope that it will be useful,
16     *  but WITHOUT ANY WARRANTY; without even the implied warranty of
17     *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18     *  GNU General Public License for more details.
19     *
20     *  You should have received a copy of the GNU General Public License
21     *  along with this program; if not, write to the Free Software
22     *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23     *
24     *  Under section 8 of the GNU General Public License, the copyright
25     *  holders of XVID explicitly forbid distribution in the following
26     *  countries:
27     *
28     *    - Japan
29     *    - United States of America
30     *
31     *  Linking XviD statically or dynamically with other modules is making a
32     *  combined work based on XviD.  Thus, the terms and conditions of the
33     *  GNU General Public License cover the whole combination.
34     *
35     *  As a special exception, the copyright holders of XviD give you
36     *  permission to link XviD with independent modules that communicate with
37     *  XviD solely through the VFW1.1 and DShow interfaces, regardless of the
38     *  license terms of these independent modules, and to copy and distribute
39     *  the resulting combined work under terms of your choice, provided that
40     *  every copy of the combined work is accompanied by a complete copy of
41     *  the source code of XviD (the version of XviD used to produce the
42     *  combined work), being distributed under the terms of the GNU General
43     *  Public License plus this exception.  An independent module is a module
44     *  which is not derived from or based on XviD.
45     *
46     *  Note that people who make modified versions of XviD are not obligated
47     *  to grant this special exception for their modified versions; it is
48     *  their choice whether to do so.  The GNU General Public License gives
49     *  permission to release a modified version without this exception; this
50     *  exception also makes it possible to release a modified version which
51     *  carries forward this exception.
52     *
53     * $Id: mbcoding.c,v 1.37 2003-01-05 16:54:36 edgomez Exp $
54     *
55     ****************************************************************************/
56    
57    #include <stdlib.h>
58  #include "../portab.h"  #include "../portab.h"
59  #include "bitstream.h"  #include "bitstream.h"
60  #include "zigzag.h"  #include "zigzag.h"
61  #include "vlc_codes.h"  #include "vlc_codes.h"
62    #include "mbcoding.h"
63    
64  #include "../utils/mbfunctions.h"  #include "../utils/mbfunctions.h"
65    
 #include <stdlib.h> /* malloc, free */  
   
 #define ESCAPE 7167  
66  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
67  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
68    
69  static VLC *DCT3D[2];  /*#define _BIGLUT_*/
   
 VLC *intra_table, *inter_table;  
 static short clip_table[4096];  
   
 void create_vlc_tables(void)  
 {  
         int32_t k, l, i, intra, last;  
         VLC *vlc[2];  
         VLC **coeff_ptr;  
         VLC *vlc1, *vlc2;  
   
         VLC *DCT3Dintra;  
         VLC *DCT3Dinter;  
   
         DCT3Dintra = (VLC *) malloc(sizeof(VLC) * 4096);  
         DCT3Dinter = (VLC *) malloc(sizeof(VLC) * 4096);  
   
         vlc1 = DCT3Dintra;  
         vlc2 = DCT3Dinter;  
70    
71          vlc[0] = intra_table = (VLC *) malloc(128 * 511 * sizeof(VLC));  #ifdef _BIGLUT_
72          vlc[1] = inter_table = (VLC *) malloc(128 * 511 * sizeof(VLC));  #define LEVELOFFSET 2048
73    #else
74    #define LEVELOFFSET 32
75    #endif
76    
77    /*****************************************************************************
78     * Local data
79     ****************************************************************************/
80    
81          // initialize the clipping table  static REVERSE_EVENT DCT3D[2][4096];
         for(i = -2048; i < 2048; i++) {  
                 clip_table[i + 2048] = i;  
                 if(i < -255)  
                         clip_table[i + 2048] = -255;  
                 if(i > 255)  
                         clip_table[i + 2048] = 255;  
         }  
82    
83          // generate intra/inter vlc lookup table  #ifdef _BIGLUT_
84          for(i = 0; i < 4; i++) {  static VLC coeff_VLC[2][2][4096][64];
85                  intra = i % 2;  VLC *intra_table, *inter_table;
86                  last = i >> 1;  #else
87    static VLC coeff_VLC[2][2][64][64];
88    #endif
89    
90    /*****************************************************************************
91     * Vector Length Coding Initialization
92     ****************************************************************************/
93    
94                  coeff_ptr = coeff_vlc[last + (intra << 1)];  void
95    init_vlc_tables(void)
96    {
97            uint32_t i, j, intra, last, run, offset;
98            int32_t level;
99            VLC coeff_VLC_temp[2][2][64][64];
100    
101                  for(k = -255; k < 256; k++) { // level  #ifdef _BIGLUT_
102                          char *max_level_ptr = max_level[last + (intra << 1)];          intra_table = coeff_VLC[1];
103                          char *max_run_ptr = max_run[last + (intra << 1)];          inter_table = coeff_VLC[0];
104    #endif
105    
                         for(l = 0; l < 64; l++) { // run  
                                 int32_t level = k, run = l;  
106    
107                                  if(abs(level) <= max_level_ptr[run] && run <= max_run_ptr[abs(level)]) {          for (intra = 0; intra < 2; intra++)
108                    for (i = 0; i < 4096; i++)
109                            DCT3D[intra][i].event.level = 0;
110    
111                                          if(level > 0) {          for (intra = 0; intra < 2; intra++)
112                                                  vlc[intra]->code = (coeff_ptr[run][level - 1].code) << 1;                  for (last = 0; last < 2; last++)
113                                                  vlc[intra]->len = coeff_ptr[run][level - 1].len + 1;                  {
114                                          }                          for (run = 0; run < 63 + last; run++)
115                                          else if(level < 0) {                                  for (level = 0; level < 32 << intra; level++)
116                                                  vlc[intra]->code = ((coeff_ptr[run][-level - 1].code) << 1) + 1;                                  {
117                                                  vlc[intra]->len = coeff_ptr[run][-level - 1].len + 1;  #ifdef _BIGLUT_
118                                            offset = LEVELOFFSET;
119    #else
120                                            offset = !intra * LEVELOFFSET;
121    #endif
122                                            coeff_VLC_temp[intra][last][level][run].len             = 128;
123                                            coeff_VLC[intra][last][level + offset][run].len = 128;
124                                          }                                          }
                                         else {  
                                                 vlc[intra]->code = 0;  
                                                 vlc[intra]->len = 0;  
125                                          }                                          }
                                 } else {  
                                         if(level > 0)  
                                                 level -= max_level_ptr[run];  
                                         else  
                                                 level += max_level_ptr[run];  
126    
127                                          if(abs(level) <= max_level_ptr[run] &&          for (intra = 0; intra < 2; intra++)
128                                                  run <= max_run_ptr[abs(level)]) {                  for (i = 0; i < 102; i++)
129                    {
130                                                  if(level > 0) {  #ifdef _BIGLUT_
131                                                          vlc[intra]->code = (0x06 << (coeff_ptr[run][level - 1].len + 1)) |                          offset = LEVELOFFSET;
132                                                                  (coeff_ptr[run][level - 1].code << 1);  #else
133                                                          vlc[intra]->len = (coeff_ptr[run][level - 1].len + 1) + 8;                          offset = !intra * LEVELOFFSET;
134                                                  }  #endif
135                                                  else if(level < 0) {                          for (j = 0; j < 1 << (12 - coeff_tab[intra][i].vlc.len); j++)
136                                                          vlc[intra]->code = (0x06 << (coeff_ptr[run][-level - 1].len + 1)) |                          {
137                                                                  ((coeff_ptr[run][-level - 1].code << 1) + 1);                                  DCT3D[intra][(coeff_tab[intra][i].vlc.code << (12 - coeff_tab[intra][i].vlc.len)) | j].len       = coeff_tab[intra][i].vlc.len;
138                                                          vlc[intra]->len = (coeff_ptr[run][-level - 1].len + 1) + 8;                                  DCT3D[intra][(coeff_tab[intra][i].vlc.code << (12 - coeff_tab[intra][i].vlc.len)) | j].event = coeff_tab[intra][i].event;
                                                 }  
                                                 else {  
                                                         vlc[intra]->code = 0x06;  
                                                         vlc[intra]->len = 8;  
                                                 }  
                                         } else {  
                                                 if(level > 0)  
                                                         level += max_level_ptr[run];  
                                                 else  
                                                         level -= max_level_ptr[run];  
                                                 DEBUG1("1) run:", run);  
                                                 run -= max_run_ptr[abs(level)] + 1;  
                                                 DEBUG1("2) run:", run);  
   
                                                 if(abs(level) <= max_level_ptr[run] &&  
                                                         run <= max_run_ptr[abs(level)]) {  
   
                                                         if(level > 0) {  
                                                                 vlc[intra]->code = (0x0e << (coeff_ptr[run][level - 1].len + 1)) |  
                                                                         (coeff_ptr[run][level - 1].code << 1);  
                                                                 vlc[intra]->len = (coeff_ptr[run][level - 1].len + 1) + 9;  
                                                         }  
                                                         else if(level < 0) {  
                                                                 vlc[intra]->code = (0x0e << (coeff_ptr[run][-level - 1].len + 1)) |  
                                                                         ((coeff_ptr[run][-level - 1].code << 1) + 1);  
                                                                 vlc[intra]->len = (coeff_ptr[run][-level - 1].len + 1) + 9;  
                                                         }  
                                                         else {  
                                                                 vlc[intra]->code = 0x0e;  
                                                                 vlc[intra]->len = 9;  
139                                                          }                                                          }
                                                 } else {  
                                                         if(level != 0)  
                                                                 run += max_run_ptr[abs(level)] + 1;  
                                                         else  
                                                                 run++;  
140    
141                                                          DEBUG1("3) run:", run);                          coeff_VLC_temp[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].code
142                                    = coeff_tab[intra][i].vlc.code << 1;
143                            coeff_VLC_temp[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].len
144                                    = coeff_tab[intra][i].vlc.len + 1;
145    
146                                                          vlc[intra]->code = (uint32_t) ((0x1e + last) << 20) |                          coeff_VLC[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level + offset][coeff_tab[intra][i].event.run].code
147                                                                                  (l << 14) | (1 << 13) | ((k & 0xfff) << 1) | 1;                                  = coeff_tab[intra][i].vlc.code << 1;
148                            coeff_VLC[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level + offset][coeff_tab[intra][i].event.run].len
149                                                          vlc[intra]->len = 30;                                  = coeff_tab[intra][i].vlc.len + 1;
150                                                  }  #ifndef _BIGLUT_
151                                          }                          if (!intra)
152                                  }  #endif
153                                  vlc[intra]++;                          {
154                          }                                  coeff_VLC[intra][coeff_tab[intra][i].event.last][offset - coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].code
155                                            = (coeff_tab[intra][i].vlc.code << 1) | 1;
156                                    coeff_VLC[intra][coeff_tab[intra][i].event.last][offset - coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].len
157                                            = coeff_tab[intra][i].vlc.len + 1;
158                  }                  }
159          }          }
         intra_table += 64*255; // center vlc tables  
         inter_table += 64*255; // center vlc tables  
160    
161          for(i = 0; i < 4096; i++) {          for (intra = 0; intra < 2; intra++)
162                  if(i >= 512) {                  for (last = 0; last < 2; last++)
163                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];                          for (run = 0; run < 63 + last; run++)
164                          *vlc2 = DCT3Dtab0[(i >> 5) - 16];                          {
165                                    for (level = 1; level < 32 << intra; level++)
166                                    {
167    #ifdef _BIGLUT_
168                                            offset = LEVELOFFSET;
169    #else
170                                            offset = !intra * LEVELOFFSET;
171    #endif
172                                            if ((max_level[intra][last][run]) && (level > max_level[intra][last][run]))
173                                                    if (coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len != 128
174                                                            && coeff_VLC[intra][last][level + offset][run].len == 128)
175                                                    {
176                                                            coeff_VLC[intra][last][level + offset][run].code
177                                                                    = (ESCAPE1 << coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len)
178                                                                    |  coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].code;
179                                                            coeff_VLC[intra][last][level + offset][run].len
180                                                                    = coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len + 7 + 1;
181    #ifndef _BIGLUT_
182                                                            if (!intra)
183    #endif
184                                                            {
185                                                                    coeff_VLC[intra][last][offset - level][run].code
186                                                                            = (ESCAPE1 << coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len)
187                                                                            |  coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].code | 1;
188                                                                    coeff_VLC[intra][last][offset - level][run].len
189                                                                            = coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len + 7 + 1;
190                                                            }
191                                                    }
192                                            if (run > max_run[intra][last][level])
193                                                    if (coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len != 128
194                                                            && coeff_VLC[intra][last][level + offset][run].len == 128)
195                                                    /*use the lower test instead of the upper to use shorter escape codes when possible :
196                                                    if (coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2
197                                                            < coeff_VLC[intra][last][level + offset][run].len)*/
198                                                    {
199                                                            coeff_VLC[intra][last][level + offset][run].code
200                                                                    = (ESCAPE2 << coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len)
201                                                                    |  coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].code;
202                                                            coeff_VLC[intra][last][level + offset][run].len
203                                                                    = coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2;
204    #ifndef _BIGLUT_
205                                                            if (!intra)
206    #endif
207                                                            {
208                                                                    coeff_VLC[intra][last][offset - level][run].code
209                                                                            = (ESCAPE2 << coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len)
210                                                                            |  coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].code | 1;
211                                                                    coeff_VLC[intra][last][offset - level][run].len
212                                                                            = coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2;
213                  }                  }
                 else if(i >= 128) {  
                         *vlc1 = DCT3Dtab4[(i >> 2) - 32];  
                         *vlc2 = DCT3Dtab1[(i >> 2) - 32];  
214                  }                  }
215                  else if(i >= 8) {  #ifndef _BIGLUT_
216                          *vlc1 = DCT3Dtab5[i - 8];                                          if (!intra)
217                          *vlc2 = DCT3Dtab2[i - 8];  #endif
218                                                    if (coeff_VLC[intra][last][level + offset][run].len == 128)
219                                                    {
220                                                            coeff_VLC[intra][last][level + offset][run].code
221                                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((level & 0xfff) << 1) | 1;
222                                                            coeff_VLC[intra][last][level + offset][run].len = 30;
223    
224                                                            coeff_VLC[intra][last][offset - level][run].code
225                                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-level & 0xfff) << 1) | 1;
226                                                            coeff_VLC[intra][last][offset - level][run].len = 30;
227                  }                  }
                 else {  
                         *vlc1 = ERRtab[i];  
                         *vlc2 = ERRtab[i];  
228                  }                  }
229    #ifdef _BIGLUT_
230                                    for (level = 32 << intra; level < 2048; level++)
231                                    {
232                                            coeff_VLC[intra][last][level + offset][run].code
233                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((level & 0xfff) << 1) | 1;
234                                            coeff_VLC[intra][last][level + offset][run].len = 30;
235    
236                  vlc1++;                                          coeff_VLC[intra][last][offset - level][run].code
237                  vlc2++;                                                  = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-level & 0xfff) << 1) | 1;
238                                            coeff_VLC[intra][last][offset - level][run].len = 30;
239          }          }
240          DCT3D[0] = DCT3Dinter;  #else
241          DCT3D[1] = DCT3Dintra;                                  if (!intra)
242                                    {
243                                            coeff_VLC[intra][last][0][run].code
244                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-32 & 0xfff) << 1) | 1;
245                                            coeff_VLC[intra][last][0][run].len = 30;
246  }  }
247    #endif
 void destroy_vlc_tables(void) {  
   
         if(intra_table != NULL && inter_table != NULL) {  
                 intra_table -= 64*255; // uncenter vlc tables  
                 inter_table -= 64*255; // uncenter vlc tables  
   
                 free(intra_table);  
                 free(inter_table);  
248          }          }
   
         if(DCT3D[0] != NULL && DCT3D[1] != NULL) {  
                 free(DCT3D[0]);  
                 free(DCT3D[1]);  
249          }          }
250    
251  }  /*****************************************************************************
252     * Local inlined functions for MB coding
253     ****************************************************************************/
254    
255  static __inline void CodeVector(Bitstream *bs, int16_t value, int16_t f_code, Statistics *pStat)  static __inline void
256    CodeVector(Bitstream * bs,
257                       int32_t value,
258                       int32_t f_code,
259                       Statistics * pStat)
260  {  {
261    
262          const int scale_factor = 1 << (f_code - 1);          const int scale_factor = 1 << (f_code - 1);
263          const int cmp = scale_factor << 5;          const int cmp = scale_factor << 5;
264    
# Line 200  Line 271 
271      pStat->iMvSum += value * value;      pStat->iMvSum += value * value;
272      pStat->iMvCount++;      pStat->iMvCount++;
273    
274          if (value == 0)          if (value == 0) {
275                  BitstreamPutBits(bs, mb_motion_table[32].code, mb_motion_table[32].len);                  BitstreamPutBits(bs, mb_motion_table[32].code,
276      else {                                                   mb_motion_table[32].len);
277            } else {
278                  uint16_t length, code, mv_res, sign;                  uint16_t length, code, mv_res, sign;
279    
280                  length = 16 << f_code;                  length = 16 << f_code;
# Line 226  Line 298 
298                          code = -code;                          code = -code;
299    
300                  code += 32;                  code += 32;
301                  BitstreamPutBits(bs, mb_motion_table[code].code, mb_motion_table[code].len);                  BitstreamPutBits(bs, mb_motion_table[code].code,
302                                                     mb_motion_table[code].len);
303    
304                  if(f_code)                  if(f_code)
305                          BitstreamPutBits(bs, mv_res, f_code);                          BitstreamPutBits(bs, mv_res, f_code);
306    }    }
307    
308  }  }
309    
310    #ifdef __BIGLUT_
311    
312    static __inline void
313    CodeCoeff(Bitstream * bs,
314                      const int16_t qcoeff[64],
315                      VLC * table,
316                      const uint16_t * zigzag,
317                      uint16_t intra)
318    {
319    
 static __inline void CodeCoeff(Bitstream *bs, int16_t qcoeff[64], VLC *table,  
                                                            const uint16_t *zigzag, uint16_t intra) {  
320          uint32_t j, last;          uint32_t j, last;
321          short v;          short v;
322          VLC *vlc;          VLC *vlc;
323    
324          j = intra;          j = intra;
325          last = 1 + intra;          last = intra;
326    
327          while((v = qcoeff[zigzag[j++]]) == 0);          while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
328                    j++;
329    
330          do {          do {
331                  // count zeroes                  vlc = table + 64 * 2048 + (v << 6) + j - last;
332                  vlc = table + (clip_table[2048+v] << 6) + j - last;                  last = ++j;
333                  last = j + 1;  
334                  while(j < 64 && (v = qcoeff[zigzag[j++]]) == 0);                  /* count zeroes */
335                    while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
336                            j++;
337    
338                  // write code                  /* write code */
339                  if(j != 64) {                  if(j != 64) {
340                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
341                  } else {                  } else {
342                          vlc += 64*511;                          vlc += 64 * 4096;
343                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
344                          break;                          break;
345                  }                  }
346          } while(1);          } while(1);
347    
348    }
349    
350    #else
351    
352    static __inline void
353    CodeCoeffInter(Bitstream * bs,
354                      const int16_t qcoeff[64],
355                      const uint16_t * zigzag)
356    {
357            uint32_t i, run, prev_run, code, len;
358            int32_t level, prev_level, level_shifted;
359    
360            i       = 0;
361            run = 0;
362    
363            while (!(level = qcoeff[zigzag[i++]]))
364                    run++;
365    
366            prev_level = level;
367            prev_run   = run;
368            run = 0;
369    
370            while (i < 64)
371            {
372                    if ((level = qcoeff[zigzag[i++]]) != 0)
373                    {
374                            level_shifted = prev_level + 32;
375                            if (!(level_shifted & -64))
376                            {
377                                    code = coeff_VLC[0][0][level_shifted][prev_run].code;
378                                    len      = coeff_VLC[0][0][level_shifted][prev_run].len;
379                            }
380                            else
381                            {
382                                    code = (ESCAPE3 << 21) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
383                                    len  = 30;
384  }  }
385                            BitstreamPutBits(bs, code, len);
386                            prev_level = level;
387                            prev_run   = run;
388                            run = 0;
389                    }
390                    else
391                            run++;
392            }
393    
394            level_shifted = prev_level + 32;
395            if (!(level_shifted & -64))
396            {
397                    code = coeff_VLC[0][1][level_shifted][prev_run].code;
398                    len      = coeff_VLC[0][1][level_shifted][prev_run].len;
399            }
400            else
401            {
402                    code = (ESCAPE3 << 21) | (1 << 20) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
403                    len  = 30;
404            }
405            BitstreamPutBits(bs, code, len);
406    }
407    
408    static __inline void
409    CodeCoeffIntra(Bitstream * bs,
410                      const int16_t qcoeff[64],
411                      const uint16_t * zigzag)
412    {
413            uint32_t i, abs_level, run, prev_run, code, len;
414            int32_t level, prev_level;
415    
416            i       = 1;
417            run = 0;
418    
419            while (!(level = qcoeff[zigzag[i++]]))
420                    run++;
421    
422            prev_level = level;
423            prev_run   = run;
424            run = 0;
425    
426            while (i < 64)
427            {
428                    if ((level = qcoeff[zigzag[i++]]) != 0)
429                    {
430                            abs_level = ABS(prev_level);
431                            abs_level = abs_level < 64 ? abs_level : 0;
432                            code      = coeff_VLC[1][0][abs_level][prev_run].code;
433                            len               = coeff_VLC[1][0][abs_level][prev_run].len;
434                            if (len != 128)
435                                    code |= (prev_level < 0);
436                            else
437                            {
438                            code = (ESCAPE3 << 21) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
439                                    len  = 30;
440                            }
441                            BitstreamPutBits(bs, code, len);
442                            prev_level = level;
443                            prev_run   = run;
444                            run = 0;
445                    }
446                    else
447                            run++;
448            }
449    
450  static void CodeBlockIntra(const MBParam * pParam, const MACROBLOCK *pMB,          abs_level = ABS(prev_level);
451                                                                    int16_t qcoeff[][64], Bitstream * bs, Statistics * pStat)          abs_level = abs_level < 64 ? abs_level : 0;
452            code      = coeff_VLC[1][1][abs_level][prev_run].code;
453            len               = coeff_VLC[1][1][abs_level][prev_run].len;
454            if (len != 128)
455                    code |= (prev_level < 0);
456            else
457  {  {
458                    code = (ESCAPE3 << 21) | (1 << 20) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
459                    len  = 30;
460            }
461            BitstreamPutBits(bs, code, len);
462    }
463    
464    #endif
465    
466    /*****************************************************************************
467     * Local functions
468     ****************************************************************************/
469    
470    static void
471    CodeBlockIntra(const FRAMEINFO * frame,
472                               const MACROBLOCK * pMB,
473                               int16_t qcoeff[6 * 64],
474                               Bitstream * bs,
475                               Statistics * pStat)
476    {
477    
478          uint32_t i, mcbpc, cbpy, bits;          uint32_t i, mcbpc, cbpy, bits;
479    
480          cbpy = pMB->cbp >> 2;          cbpy = pMB->cbp >> 2;
481    
482      // write mcbpc          /* write mcbpc */
483          if(pParam->coding_type == I_VOP) {          if (frame->coding_type == I_VOP) {
484              mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);              mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);
485                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code, mcbpc_intra_tab[mcbpc].len);                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,
486          }                                                   mcbpc_intra_tab[mcbpc].len);
487          else {          } else {
488              mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);              mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
489                  BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);                  BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
490                                                     mcbpc_inter_tab[mcbpc].len);
491          }          }
492    
493          // ac prediction flag          /* ac prediction flag */
494          if(pMB->acpred_directions[0])          if(pMB->acpred_directions[0])
495              BitstreamPutBits(bs, 1, 1);              BitstreamPutBits(bs, 1, 1);
496          else          else
497              BitstreamPutBits(bs, 0, 1);              BitstreamPutBits(bs, 0, 1);
498    
499      // write cbpy          /* write cbpy */
500          BitstreamPutBits (bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits (bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
501    
502          // write dquant          /* write dquant */
503      if(pMB->mode == MODE_INTRA_Q)      if(pMB->mode == MODE_INTRA_Q)
504                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
505    
506          // code block coeffs          /* write interlacing */
507          for(i = 0; i < 6; i++)          if (frame->global_flags & XVID_INTERLACING) {
508          {                  BitstreamPutBit(bs, pMB->field_dct);
509            }
510            /* code block coeffs */
511            for (i = 0; i < 6; i++) {
512                  if(i < 4)                  if(i < 4)
513                          BitstreamPutBits(bs, dcy_tab[qcoeff[i][0] + 255].code,                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,
514                                                           dcy_tab[qcoeff[i][0] + 255].len);                                                           dcy_tab[qcoeff[i * 64 + 0] + 255].len);
515                  else                  else
516                          BitstreamPutBits(bs, dcc_tab[qcoeff[i][0] + 255].code,                          BitstreamPutBits(bs, dcc_tab[qcoeff[i * 64 + 0] + 255].code,
517                                           dcc_tab[qcoeff[i][0] + 255].len);                                                           dcc_tab[qcoeff[i * 64 + 0] + 255].len);
518    
519                  if(pMB->cbp & (1 << (5 - i)))                  if (pMB->cbp & (1 << (5 - i))) {
                 {  
520                          bits = BitstreamPos(bs);                          bits = BitstreamPos(bs);
521    
522                          CodeCoeff(bs, qcoeff[i], intra_table, scan_tables[pMB->acpred_directions[i]], 1);  #ifdef _BIGLUT_
523                            CodeCoeff(bs, &qcoeff[i * 64], intra_table,
524                                              scan_tables[pMB->acpred_directions[i]], 1);
525    #else
526                            CodeCoeffIntra(bs, &qcoeff[i * 64], scan_tables[pMB->acpred_directions[i]]);
527    #endif
528                          bits = BitstreamPos(bs) - bits;                          bits = BitstreamPos(bs) - bits;
529                          pStat->iTextBits += bits;                          pStat->iTextBits += bits;
530                  }                  }
531          }          }
532    
533  }  }
534    
535    
536  static void CodeBlockInter(const MBParam * pParam, const MACROBLOCK *pMB,  static void
537                                                                    int16_t qcoeff[][64], Bitstream * bs, Statistics * pStat)  CodeBlockInter(const FRAMEINFO * frame,
538                               const MACROBLOCK * pMB,
539                               int16_t qcoeff[6 * 64],
540                               Bitstream * bs,
541                               Statistics * pStat)
542  {  {
543    
544          int32_t i;          int32_t i;
545          uint32_t bits, mcbpc, cbpy;          uint32_t bits, mcbpc, cbpy;
546    
547      mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);      mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
548          cbpy = 15 - (pMB->cbp >> 2);          cbpy = 15 - (pMB->cbp >> 2);
549    
550          // write mcbpc          /* write mcbpc */
551      BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
552                                             mcbpc_inter_tab[mcbpc].len);
553    
554          // write cbpy          /* write cbpy */
555          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
556    
557          // write dquant          /* write dquant */
558      if(pMB->mode == MODE_INTER_Q)      if(pMB->mode == MODE_INTER_Q)
559                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
560    
561          // code motion vector(s)          /* interlacing */
562          for(i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++)          if (frame->global_flags & XVID_INTERLACING) {
563          {                  if (pMB->cbp) {
564                  CodeVector(bs, pMB->pmvs[i].x, pParam->fixed_code, pStat);                          BitstreamPutBit(bs, pMB->field_dct);
565                  CodeVector(bs, pMB->pmvs[i].y, pParam->fixed_code, pStat);                          DPRINTF(DPRINTF_DEBUG, "codep: field_dct: %d", pMB->field_dct);
566                    }
567    
568                    /* if inter block, write field ME flag */
569                    if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
570                            BitstreamPutBit(bs, pMB->field_pred);
571                            DPRINTF(DPRINTF_DEBUG, "codep: field_pred: %d", pMB->field_pred);
572    
573                            /* write field prediction references */
574                            if (pMB->field_pred) {
575                                    BitstreamPutBit(bs, pMB->field_for_top);
576                                    BitstreamPutBit(bs, pMB->field_for_bot);
577                            }
578                    }
579            }
580            /* code motion vector(s) */
581            for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {
582                    CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);
583                    CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);
584          }          }
585    
586          bits = BitstreamPos(bs);          bits = BitstreamPos(bs);
587    
588          // code block coeffs          /* code block coeffs */
589          for(i = 0; i < 6; i++)          for(i = 0; i < 6; i++)
590                  if(pMB->cbp & (1 << (5 - i)))                  if(pMB->cbp & (1 << (5 - i)))
591                          CodeCoeff(bs, qcoeff[i], inter_table, scan_tables[0], 0);  #ifdef _BIGLUT_
592                            CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);
593    #else
594                            CodeCoeffInter(bs, &qcoeff[i * 64], scan_tables[0]);
595    #endif
596    
597          bits = BitstreamPos(bs) - bits;          bits = BitstreamPos(bs) - bits;
598          pStat->iTextBits += bits;          pStat->iTextBits += bits;
599    
600  }  }
601    
602    /*****************************************************************************
603     * Macro Block bitstream encoding functions
604     ****************************************************************************/
605    
606  void MBCoding(const MBParam * pParam, MACROBLOCK *pMB,  void
607                int16_t qcoeff[][64],  MBCoding(const FRAMEINFO * frame,
608                    Bitstream * bs, Statistics * pStat)                   MACROBLOCK * pMB,
609                     int16_t qcoeff[6 * 64],
610                     Bitstream * bs,
611                     Statistics * pStat)
612  {  {
         int intra = (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q);  
613    
614      if(pParam->coding_type == P_VOP) {          if (frame->coding_type == P_VOP) {
615                  if(pMB->cbp == 0 && pMB->mode == MODE_INTER &&                          BitstreamPutBit(bs, 0); /* coded */
616                          pMB->mvs[0].x == 0 && pMB->mvs[0].y == 0)          }
617    
618            if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
619                    CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);
620            else
621                    CodeBlockInter(frame, pMB, qcoeff, bs, pStat);
622    
623    }
624    
625    
626    void
627    MBSkip(Bitstream * bs)
628                  {                  {
629                          BitstreamPutBit(bs, 1);         // not_coded          BitstreamPutBit(bs, 1); /* not coded */
630                          return;                          return;
631                  }                  }
632                  else  
633                          BitstreamPutBit(bs, 0);         // coded  /*****************************************************************************
634     * decoding stuff starts here
635     ****************************************************************************/
636    
637    /*
638     * For IVOP addbits == 0
639     * For PVOP addbits == fcode - 1
640     * For BVOP addbits == max(fcode,bcode) - 1
641     * returns true or false
642     */
643    
644    int
645    check_resync_marker(Bitstream * bs, int addbits)
646    {
647            uint32_t nbits;
648            uint32_t code;
649            uint32_t nbitsresyncmarker = NUMBITS_VP_RESYNC_MARKER + addbits;
650    
651            nbits = BitstreamNumBitsToByteAlign(bs);
652            code = BitstreamShowBits(bs, nbits);
653    
654            if (code == (((uint32_t)1 << (nbits - 1)) - 1))
655            {
656                    return BitstreamShowBitsFromByteAlign(bs, nbitsresyncmarker) == RESYNC_MARKER;
657          }          }
658    
659          if(intra)          return 0;
                 CodeBlockIntra(pParam, pMB, qcoeff, bs, pStat);  
         else  
                 CodeBlockInter(pParam, pMB, qcoeff, bs, pStat);  
660  }  }
661    
662    
 /***************************************************************  
  * decoding stuff starts here                                  *  
  ***************************************************************/  
663    
664  int get_mcbpc_intra(Bitstream * bs)  int
665    get_mcbpc_intra(Bitstream * bs)
666  {  {
         uint32_t index;  
667    
668          while((index = BitstreamShowBits(bs, 9)) == 1)          uint32_t index;
                 BitstreamSkip(bs, 9);  
669    
670            index = BitstreamShowBits(bs, 9);
671          index >>= 3;          index >>= 3;
672    
673          BitstreamSkip(bs, mcbpc_intra_table[index].len);          BitstreamSkip(bs, mcbpc_intra_table[index].len);
674    
675          return mcbpc_intra_table[index].code;          return mcbpc_intra_table[index].code;
676    
677  }  }
678    
679  int get_mcbpc_inter(Bitstream * bs)  int
680    get_mcbpc_inter(Bitstream * bs)
681  {  {
682    
683          uint32_t index;          uint32_t index;
684    
685          while((index = CLIP(BitstreamShowBits(bs, 9), 256)) == 1)          index = CLIP(BitstreamShowBits(bs, 9), 256);
                 BitstreamSkip(bs, 9);  
686    
687      BitstreamSkip(bs,  mcbpc_inter_table[index].len);      BitstreamSkip(bs,  mcbpc_inter_table[index].len);
688    
689          return mcbpc_inter_table[index].code;          return mcbpc_inter_table[index].code;
690    
691  }  }
692    
693  int get_cbpy(Bitstream * bs, int intra)  int
694    get_cbpy(Bitstream * bs,
695                     int intra)
696  {  {
697    
698          int cbpy;          int cbpy;
699          uint32_t index = BitstreamShowBits(bs, 6);          uint32_t index = BitstreamShowBits(bs, 6);
700    
# Line 418  Line 705 
705                  cbpy = 15 - cbpy;                  cbpy = 15 - cbpy;
706    
707          return cbpy;          return cbpy;
708    
709  }  }
710    
711  int get_mv_data(Bitstream * bs)  int
712    get_mv_data(Bitstream * bs)
713  {  {
714    
715          uint32_t index;          uint32_t index;
716    
717          if(BitstreamGetBit(bs))          if(BitstreamGetBit(bs))
# Line 429  Line 719 
719    
720          index = BitstreamShowBits(bs, 12);          index = BitstreamShowBits(bs, 12);
721    
722          if(index >= 512)          if (index >= 512) {
         {  
723                  index = (index >> 8) - 2;                  index = (index >> 8) - 2;
724                  BitstreamSkip(bs, TMNMVtab0[index].len);                  BitstreamSkip(bs, TMNMVtab0[index].len);
725                  return TMNMVtab0[index].code;                  return TMNMVtab0[index].code;
726          }          }
727    
728          if(index >= 128)          if (index >= 128) {
         {  
729                  index = (index >> 2) - 32;                  index = (index >> 2) - 32;
730                  BitstreamSkip(bs, TMNMVtab1[index].len);                  BitstreamSkip(bs, TMNMVtab1[index].len);
731                  return TMNMVtab1[index].code;                  return TMNMVtab1[index].code;
# Line 447  Line 735 
735    
736          BitstreamSkip(bs, TMNMVtab2[index].len);          BitstreamSkip(bs, TMNMVtab2[index].len);
737          return TMNMVtab2[index].code;          return TMNMVtab2[index].code;
738    
739  }  }
740    
741  int get_mv(Bitstream * bs, int fcode)  int
742    get_mv(Bitstream * bs,
743               int fcode)
744  {  {
745    
746          int data;          int data;
747          int res;          int res;
748          int mv;          int mv;
# Line 465  Line 757 
757          mv = ((ABS(data) - 1) * scale_fac) + res + 1;          mv = ((ABS(data) - 1) * scale_fac) + res + 1;
758    
759          return data < 0 ? -mv : mv;          return data < 0 ? -mv : mv;
760    
761  }  }
762    
763  int get_dc_dif(Bitstream * bs, uint32_t dc_size)  int
764    get_dc_dif(Bitstream * bs,
765                       uint32_t dc_size)
766  {  {
767    
768          int code = BitstreamGetBits(bs, dc_size);          int code = BitstreamGetBits(bs, dc_size);
769          int msb = code >> (dc_size - 1);          int msb = code >> (dc_size - 1);
770    
# Line 476  Line 772 
772                  return (-1 * (code^((1 << dc_size) - 1)));                  return (-1 * (code^((1 << dc_size) - 1)));
773    
774          return code;          return code;
775    
776  }  }
777    
778  int get_dc_size_lum(Bitstream * bs)  int
779    get_dc_size_lum(Bitstream * bs)
780  {  {
781    
782          int code, i;          int code, i;
783    
784          code = BitstreamShowBits(bs, 11);          code = BitstreamShowBits(bs, 11);
785    
786          for(i = 11; i > 3; i--) {          for(i = 11; i > 3; i--) {
# Line 493  Line 793 
793    
794          BitstreamSkip(bs, dc_lum_tab[code].len);          BitstreamSkip(bs, dc_lum_tab[code].len);
795          return dc_lum_tab[code].code;          return dc_lum_tab[code].code;
796    
797  }  }
798    
799    
800  int get_dc_size_chrom(Bitstream * bs)  int
801    get_dc_size_chrom(Bitstream * bs)
802  {  {
803    
804          uint32_t code, i;          uint32_t code, i;
805    
806          code = BitstreamShowBits(bs, 12);          code = BitstreamShowBits(bs, 12);
807    
808          for(i = 12; i > 2; i--) {          for(i = 12; i > 2; i--) {
# Line 510  Line 814 
814          }          }
815    
816          return 3 - BitstreamGetBits(bs, 2);          return 3 - BitstreamGetBits(bs, 2);
817    
818  }  }
819    
820  int get_coeff(Bitstream * bs, int *run, int *last, int intra, int short_video_header)  /*****************************************************************************
821     * Local inlined function to "decode" written vlc codes
822     ****************************************************************************/
823    
824    static __inline int
825    get_coeff(Bitstream * bs,
826                      int *run,
827                      int *last,
828                      int intra,
829                      int short_video_header)
830  {  {
831    
832      uint32_t mode;      uint32_t mode;
     const VLC *tab;  
833          int32_t level;          int32_t level;
834            REVERSE_EVENT *reverse_event;
835    
836          if(short_video_header) // inter-VLCs will be used for both intra and inter blocks          if (short_video_header)         /* inter-VLCs will be used for both intra and inter blocks */
837                  intra = 0;                  intra = 0;
838    
839          tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];          if (BitstreamShowBits(bs, 7) != ESCAPE) {
840                    reverse_event = &DCT3D[intra][BitstreamShowBits(bs, 12)];
841    
842          if(tab->code == -1)                  if ((level = reverse_event->event.level) == 0)
843                  goto error;                  goto error;
844    
845          BitstreamSkip(bs, tab->len);                  *last = reverse_event->event.last;
846                    *run  = reverse_event->event.run;
847    
848          if(tab->code != ESCAPE) {                  BitstreamSkip(bs, reverse_event->len);
849                  if(!intra)  
850                  {                  return BitstreamGetBits(bs, 1) ? -level : level;
                         *run = (tab->code >> 4) & 255;  
                         level = tab->code & 15;  
                         *last = (tab->code >> 12) & 1;  
                 }  
             else  
                 {  
                         *run = (tab->code >> 8) & 255;  
                         level = tab->code & 255;  
                         *last = (tab->code >> 16) & 1;  
                 }  
                 return BitstreamGetBit(bs) ? -level : level;  
851          }          }
852    
853          if(short_video_header)          BitstreamSkip(bs, 7);
854          {  
855                  // escape mode 4 - H.263 type, only used if short_video_header = 1          if (short_video_header) {
856                    /* escape mode 4 - H.263 type, only used if short_video_header = 1  */
857                  *last = BitstreamGetBit(bs);                  *last = BitstreamGetBit(bs);
858                  *run = BitstreamGetBits(bs, 6);                  *run = BitstreamGetBits(bs, 6);
859                  level = BitstreamGetBits(bs, 8);                  level = BitstreamGetBits(bs, 8);
860    
861                  if (level == 0 || level == 128)                  if (level == 0 || level == 128)
862                          DEBUG1("Illegal LEVEL for ESCAPE mode 4:", level);                          DPRINTF(DPRINTF_ERROR, "Illegal LEVEL for ESCAPE mode 4: %d", level);
863    
864                  return (level >= 128 ? -(256 - level) : level);                  return (level << 24) >> 24;
865          }          }
866    
867          mode = BitstreamShowBits(bs, 2);          mode = BitstreamShowBits(bs, 2);
# Line 562  Line 869 
869          if(mode < 3) {          if(mode < 3) {
870                  BitstreamSkip(bs, (mode == 2) ? 2 : 1);                  BitstreamSkip(bs, (mode == 2) ? 2 : 1);
871    
872                  tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];                  reverse_event = &DCT3D[intra][BitstreamShowBits(bs, 12)];
873                  if (tab->code == -1)  
874                    if ((level = reverse_event->event.level) == 0)
875                          goto error;                          goto error;
876    
877                  BitstreamSkip(bs, tab->len);                  *last = reverse_event->event.last;
878                    *run  = reverse_event->event.run;
879    
880                  if (!intra) {                  BitstreamSkip(bs, reverse_event->len);
                         *run = (tab->code >> 4) & 255;  
                         level = tab->code & 15;  
                         *last = (tab->code >> 12) & 1;  
                 }  
                 else  
                 {  
                         *run = (tab->code >> 8) & 255;  
                         level = tab->code & 255;  
                         *last = (tab->code >> 16) & 1;  
                 }  
881    
882                  if(mode < 2) // first escape mode, level is offset                  if (mode < 2)                   /* first escape mode, level is offset */
883                          level += max_level[*last + (!intra<<1)][*run]; // need to add back the max level                          level += max_level[intra][*last][*run];
884                  else if(mode == 2)  // second escape mode, run is offset                  else                                    /* second escape mode, run is offset */
885                          *run += max_run[*last + (!intra<<1)][level] + 1;                          *run += max_run[intra][*last][level] + 1;
886    
887                  return BitstreamGetBit(bs) ? -level : level;                  return BitstreamGetBits(bs, 1) ? -level : level;
888          }          }
889    
890          // third escape mode - fixed length codes          /* third escape mode - fixed length codes */
891          BitstreamSkip(bs, 2);          BitstreamSkip(bs, 2);
892          *last = BitstreamGetBits(bs, 1);          *last = BitstreamGetBits(bs, 1);
893          *run = BitstreamGetBits(bs, 6);          *run = BitstreamGetBits(bs, 6);
894          BitstreamSkip(bs, 1);                           // marker          BitstreamSkip(bs, 1);           /* marker */
895          level = BitstreamGetBits(bs, 12);          level = BitstreamGetBits(bs, 12);
896          BitstreamSkip(bs, 1);                           // marker          BitstreamSkip(bs, 1);           /* marker */
897    
898          return (level & 0x800) ? (level | (-1 ^ 0xfff)) : level;          return (level << 20) >> 20;
899    
900  error:  error:
901          *run = VLC_ERROR;          *run = VLC_ERROR;
902          return 0;          return 0;
903  }  }
904    
905    /*****************************************************************************
906  void get_intra_block(Bitstream * bs, int16_t * block, int direction, int coeff)   * MB reading functions
907     ****************************************************************************/
908    
909    void
910    get_intra_block(Bitstream * bs,
911                                    int16_t * block,
912                                    int direction,
913                                    int coeff)
914  {  {
915    
916          const uint16_t * scan = scan_tables[ direction ];          const uint16_t * scan = scan_tables[ direction ];
917          int level;          int level;
918          int run;          int run;
919          int last;          int last;
920    
921          do          do {
         {  
922                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
923                  if (run == -1)                  if (run == -1) {
924                  {                          DPRINTF(DPRINTF_DEBUG, "fatal: invalid run");
                         DEBUG("fatal: invalid run");  
925                          break;                          break;
926                  }                  }
927                  coeff += run;                  coeff += run;
928                  block[ scan[coeff] ] = level;                  block[ scan[coeff] ] = level;
929                  if (level < -127 || level > 127)  
930                  {                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);
931                          DEBUG1("warning: intra_overflow", level);                  /*DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32)); */
932    
933                    if (level < -2047 || level > 2047) {
934                            DPRINTF(DPRINTF_DEBUG, "warning: intra_overflow: %d", level);
935                  }                  }
936                  coeff++;                  coeff++;
937          } while (!last);          } while (!last);
938    
939  }  }
940    
941  void get_inter_block(Bitstream * bs, int16_t * block)  void
942    get_inter_block(Bitstream * bs,
943                                    int16_t * block)
944  {  {
945    
946          const uint16_t * scan = scan_tables[0];          const uint16_t * scan = scan_tables[0];
947          int p;          int p;
948          int level;          int level;
# Line 638  Line 950 
950          int last;          int last;
951    
952          p = 0;          p = 0;
953          do          do {
         {  
954                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
955                  if (run == -1)                  if (run == -1) {
956                  {                          DPRINTF(DPRINTF_ERROR, "fatal: invalid run");
                         DEBUG("fatal: invalid run");  
957                          break;                          break;
958                  }                  }
959                  p += run;                  p += run;
960    
961                  block[ scan[p] ] = level;                  block[ scan[p] ] = level;
962                  if (level < -127 || level > 127)  
963                  {                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
964                          DEBUG1("warning: inter_overflow", level);  
965                    if (level < -2047 || level > 2047) {
966                            DPRINTF(DPRINTF_DEBUG, "warning: inter_overflow: %d", level);
967                  }                  }
968                  p++;                  p++;
969          } while (!last);          } while (!last);
970    
971  }  }
Legend:
Removed from v.28  
changed lines
  Added in v.764
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4