[svn] / trunk / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 248, Fri Jun 28 15:14:40 2002 UTC revision 764, Sun Jan 5 16:54:36 2003 UTC
# Line 1  Line 1 
1   /******************************************************************************  /*****************************************************************************
2    *                                                                            *   *
3    *  This file is part of XviD, a free MPEG-4 video encoder/decoder            *   *  XVID MPEG-4 VIDEO CODEC
4    *                                                                            *   *  - Macro Block coding functions -
5    *  XviD is an implementation of a part of one or more MPEG-4 Video tools     *   *
6    *  as specified in ISO/IEC 14496-2 standard.  Those intending to use this    *   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7    *  software module in hardware or software products are advised that its     *   *
8    *  use may infringe existing patents or copyrights, and any such use         *   *  This file is part of XviD, a free MPEG-4 video encoder/decoder
9    *  would be at such party's own risk.  The original developer of this        *   *
10    *  software module and his/her company, and subsequent editors and their     *   *  XviD is free software; you can redistribute it and/or modify it
11    *  companies, will have no liability for use of this software or             *   *  under the terms of the GNU General Public License as published by
12    *  modifications or derivatives thereof.                                     *   *  the Free Software Foundation; either version 2 of the License, or
13    *                                                                            *   *  (at your option) any later version.
14    *  XviD is free software; you can redistribute it and/or modify it           *   *
15    *  under the terms of the GNU General Public License as published by         *   *  This program is distributed in the hope that it will be useful,
16    *  the Free Software Foundation; either version 2 of the License, or         *   *  but WITHOUT ANY WARRANTY; without even the implied warranty of
17    *  (at your option) any later version.                                       *   *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18    *                                                                            *   *  GNU General Public License for more details.
19    *  XviD is distributed in the hope that it will be useful, but               *   *
20    *  WITHOUT ANY WARRANTY; without even the implied warranty of                *   *  You should have received a copy of the GNU General Public License
21    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the             *   *  along with this program; if not, write to the Free Software
22    *  GNU General Public License for more details.                              *   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23    *                                                                            *   *
24    *  You should have received a copy of the GNU General Public License         *   *  Under section 8 of the GNU General Public License, the copyright
25    *  along with this program; if not, write to the Free Software               *   *  holders of XVID explicitly forbid distribution in the following
26    *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA  *   *  countries:
27    *                                                                            *   *
28    ******************************************************************************/   *    - Japan
29     *    - United States of America
30   /******************************************************************************   *
31    *                                                                            *   *  Linking XviD statically or dynamically with other modules is making a
32    *  mbcoding.c                                                                *   *  combined work based on XviD.  Thus, the terms and conditions of the
33    *                                                                            *   *  GNU General Public License cover the whole combination.
34    *  Copyright (C) 2002 - Michael Militzer <isibaar@xvid.org>                  *   *
35    *                                                                            *   *  As a special exception, the copyright holders of XviD give you
36    *  For more information visit the XviD homepage: http://www.xvid.org         *   *  permission to link XviD with independent modules that communicate with
37    *                                                                            *   *  XviD solely through the VFW1.1 and DShow interfaces, regardless of the
38    ******************************************************************************/   *  license terms of these independent modules, and to copy and distribute
39     *  the resulting combined work under terms of your choice, provided that
40   /******************************************************************************   *  every copy of the combined work is accompanied by a complete copy of
41    *                                                                                                                                                        *   *  the source code of XviD (the version of XviD used to produce the
42    *  Revision history:                                                         *   *  combined work), being distributed under the terms of the GNU General
43    *                                                                            *   *  Public License plus this exception.  An independent module is a module
44    *  28.06.2002 added check_resync_marker()                                    *   *  which is not derived from or based on XviD.
45    *  14.04.2002 bframe encoding                                                                                            *   *
46    *  08.03.2002 initial version; isibaar                                                           *   *  Note that people who make modified versions of XviD are not obligated
47    *                                                                                                                                                        *   *  to grant this special exception for their modified versions; it is
48    ******************************************************************************/   *  their choice whether to do so.  The GNU General Public License gives
49     *  permission to release a modified version without this exception; this
50     *  exception also makes it possible to release a modified version which
51     *  carries forward this exception.
52     *
53     * $Id: mbcoding.c,v 1.37 2003-01-05 16:54:36 edgomez Exp $
54     *
55     ****************************************************************************/
56    
57  #include <stdlib.h>  #include <stdlib.h>
58  #include "../portab.h"  #include "../portab.h"
# Line 61  Line 66 
66  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
67  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
68    
69  VLC intra_table[524032];  /*#define _BIGLUT_*/
 VLC inter_table[524032];  
70    
71  VLC DCT3Dintra[4096];  #ifdef _BIGLUT_
72  VLC DCT3Dinter[4096];  #define LEVELOFFSET 2048
73    #else
74    #define LEVELOFFSET 32
75    #endif
76    
77    /*****************************************************************************
78     * Local data
79     ****************************************************************************/
80    
81    static REVERSE_EVENT DCT3D[2][4096];
82    
83    #ifdef _BIGLUT_
84    static VLC coeff_VLC[2][2][4096][64];
85    VLC *intra_table, *inter_table;
86    #else
87    static VLC coeff_VLC[2][2][64][64];
88    #endif
89    
90    /*****************************************************************************
91     * Vector Length Coding Initialization
92     ****************************************************************************/
93    
94  void  void
95  init_vlc_tables(void)  init_vlc_tables(void)
96  {  {
97            uint32_t i, j, intra, last, run, offset;
98            int32_t level;
99            VLC coeff_VLC_temp[2][2][64][64];
100    
101          int32_t k, l, i, intra, last;  #ifdef _BIGLUT_
102          VLC *vlc[2];          intra_table = coeff_VLC[1];
103          VLC **coeff_ptr;          inter_table = coeff_VLC[0];
104          VLC *vlc1, *vlc2;  #endif
   
         vlc1 = DCT3Dintra;  
         vlc2 = DCT3Dinter;  
   
         vlc[0] = intra_table;  
         vlc[1] = inter_table;  
   
         // generate encoding vlc lookup tables  
         // the lookup table idea is taken from the excellent fame project by Vivien Chapellier  
         for (i = 0; i < 4; i++) {  
                 intra = i % 2;  
                 last = i / 2;  
   
                 coeff_ptr = coeff_vlc[last + 2 * intra];  
   
                 for (k = -2047; k < 2048; k++) {        // level  
                         int8_t *max_level_ptr = max_level[last + 2 * intra];  
                         int8_t *max_run_ptr = max_run[last + 2 * intra];  
   
                         for (l = 0; l < 64; l++) {      // run  
                                 int32_t level = k;  
                                 ptr_t run = l;  
   
                                 if ((abs(level) <= max_level_ptr[run]) && (run <= (uint32_t) max_run_ptr[abs(level)])) {        // level < max_level and run < max_run  
   
                                         vlc[intra]->code = 0;  
                                         vlc[intra]->len = 0;  
                                         goto loop_end;  
                                 } else {  
                                         if (level > 0)  // correct level  
                                                 level -= max_level_ptr[run];  
                                         else  
                                                 level += max_level_ptr[run];  
   
                                         if ((abs(level) <= max_level_ptr[run]) &&  
                                                 (run <= (uint32_t) max_run_ptr[abs(level)])) {  
   
                                                 vlc[intra]->code = 0x06;  
                                                 vlc[intra]->len = 8;  
                                                 goto loop_end;  
                                         }  
   
                                         if (level > 0)  // still here?  
                                                 level += max_level_ptr[run];    // restore level  
                                         else  
                                                 level -= max_level_ptr[run];  
105    
                                         run -= max_run_ptr[abs(level)] + 1;     // and change run  
106    
107                                          if ((abs(level) <= max_level_ptr[run]) &&          for (intra = 0; intra < 2; intra++)
108                                                  (run <= (uint32_t) max_run_ptr[abs(level)])) {                  for (i = 0; i < 4096; i++)
109                            DCT3D[intra][i].event.level = 0;
110    
111                                                  vlc[intra]->code = 0x0e;          for (intra = 0; intra < 2; intra++)
112                                                  vlc[intra]->len = 9;                  for (last = 0; last < 2; last++)
113                                                  goto loop_end;                  {
114                            for (run = 0; run < 63 + last; run++)
115                                    for (level = 0; level < 32 << intra; level++)
116                                    {
117    #ifdef _BIGLUT_
118                                            offset = LEVELOFFSET;
119    #else
120                                            offset = !intra * LEVELOFFSET;
121    #endif
122                                            coeff_VLC_temp[intra][last][level][run].len             = 128;
123                                            coeff_VLC[intra][last][level + offset][run].len = 128;
124                                          }                                          }
                                         run += max_run_ptr[abs(level)] + 1;  
125                                  }                                  }
126    
127                                  vlc[intra]->code =          for (intra = 0; intra < 2; intra++)
128                                          (uint32_t) ((l << 14) | (0x1e + last) << 20) | (1 << 13) |                  for (i = 0; i < 102; i++)
129                                          ((k & 0xfff) << 1) | 1;                  {
130    #ifdef _BIGLUT_
131                                  vlc[intra]->len = 30;                          offset = LEVELOFFSET;
132                                  vlc[intra]++;  #else
133                                  continue;                          offset = !intra * LEVELOFFSET;
134    #endif
135                            for (j = 0; j < 1 << (12 - coeff_tab[intra][i].vlc.len); j++)
136                            {
137                                    DCT3D[intra][(coeff_tab[intra][i].vlc.code << (12 - coeff_tab[intra][i].vlc.len)) | j].len       = coeff_tab[intra][i].vlc.len;
138                                    DCT3D[intra][(coeff_tab[intra][i].vlc.code << (12 - coeff_tab[intra][i].vlc.len)) | j].event = coeff_tab[intra][i].event;
139                            }
140    
141                            loop_end:                          coeff_VLC_temp[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].code
142                                  if (level != 0) {                                  = coeff_tab[intra][i].vlc.code << 1;
143                                          vlc[intra]->code =                          coeff_VLC_temp[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].len
144                                                  (vlc[intra]->                                  = coeff_tab[intra][i].vlc.len + 1;
                                                  code << (coeff_ptr[run][abs(level) - 1].len +  
                                                                   1)) | (coeff_ptr[run][abs(level) -  
                                                                                                                 1].code << 1);  
                                         vlc[intra]->len =  
                                                 (coeff_ptr[run][abs(level) - 1].len + 1) +  
                                                 vlc[intra]->len;  
145    
146                                          if (level < 0)                          coeff_VLC[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level + offset][coeff_tab[intra][i].event.run].code
147                                                  vlc[intra]->code += 1;                                  = coeff_tab[intra][i].vlc.code << 1;
148                            coeff_VLC[intra][coeff_tab[intra][i].event.last][coeff_tab[intra][i].event.level + offset][coeff_tab[intra][i].event.run].len
149                                    = coeff_tab[intra][i].vlc.len + 1;
150    #ifndef _BIGLUT_
151                            if (!intra)
152    #endif
153                            {
154                                    coeff_VLC[intra][coeff_tab[intra][i].event.last][offset - coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].code
155                                            = (coeff_tab[intra][i].vlc.code << 1) | 1;
156                                    coeff_VLC[intra][coeff_tab[intra][i].event.last][offset - coeff_tab[intra][i].event.level][coeff_tab[intra][i].event.run].len
157                                            = coeff_tab[intra][i].vlc.len + 1;
158                                  }                                  }
   
                                 vlc[intra]++;  
159                          }                          }
160    
161            for (intra = 0; intra < 2; intra++)
162                    for (last = 0; last < 2; last++)
163                            for (run = 0; run < 63 + last; run++)
164                            {
165                                    for (level = 1; level < 32 << intra; level++)
166                                    {
167    #ifdef _BIGLUT_
168                                            offset = LEVELOFFSET;
169    #else
170                                            offset = !intra * LEVELOFFSET;
171    #endif
172                                            if ((max_level[intra][last][run]) && (level > max_level[intra][last][run]))
173                                                    if (coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len != 128
174                                                            && coeff_VLC[intra][last][level + offset][run].len == 128)
175                                                    {
176                                                            coeff_VLC[intra][last][level + offset][run].code
177                                                                    = (ESCAPE1 << coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len)
178                                                                    |  coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].code;
179                                                            coeff_VLC[intra][last][level + offset][run].len
180                                                                    = coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len + 7 + 1;
181    #ifndef _BIGLUT_
182                                                            if (!intra)
183    #endif
184                                                            {
185                                                                    coeff_VLC[intra][last][offset - level][run].code
186                                                                            = (ESCAPE1 << coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len)
187                                                                            |  coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].code | 1;
188                                                                    coeff_VLC[intra][last][offset - level][run].len
189                                                                            = coeff_VLC_temp[intra][last][level - max_level[intra][last][run]][run].len + 7 + 1;
190                                                            }
191                                                    }
192                                            if (run > max_run[intra][last][level])
193                                                    if (coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len != 128
194                                                            && coeff_VLC[intra][last][level + offset][run].len == 128)
195                                                    /*use the lower test instead of the upper to use shorter escape codes when possible :
196                                                    if (coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2
197                                                            < coeff_VLC[intra][last][level + offset][run].len)*/
198                                                    {
199                                                            coeff_VLC[intra][last][level + offset][run].code
200                                                                    = (ESCAPE2 << coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len)
201                                                                    |  coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].code;
202                                                            coeff_VLC[intra][last][level + offset][run].len
203                                                                    = coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2;
204    #ifndef _BIGLUT_
205                                                            if (!intra)
206    #endif
207                                                            {
208                                                                    coeff_VLC[intra][last][offset - level][run].code
209                                                                            = (ESCAPE2 << coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len)
210                                                                            |  coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].code | 1;
211                                                                    coeff_VLC[intra][last][offset - level][run].len
212                                                                            = coeff_VLC_temp[intra][last][level][run - 1 - max_run[intra][last][level]].len + 7 + 2;
213                  }                  }
214          }          }
215    #ifndef _BIGLUT_
216                                            if (!intra)
217    #endif
218                                                    if (coeff_VLC[intra][last][level + offset][run].len == 128)
219                                                    {
220                                                            coeff_VLC[intra][last][level + offset][run].code
221                                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((level & 0xfff) << 1) | 1;
222                                                            coeff_VLC[intra][last][level + offset][run].len = 30;
223    
224          for (i = 0; i < 4096; i++) {                                                          coeff_VLC[intra][last][offset - level][run].code
225                  if (i >= 512) {                                                                  = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-level & 0xfff) << 1) | 1;
226                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];                                                          coeff_VLC[intra][last][offset - level][run].len = 30;
                         *vlc2 = DCT3Dtab0[(i >> 5) - 16];  
                 } else if (i >= 128) {  
                         *vlc1 = DCT3Dtab4[(i >> 2) - 32];  
                         *vlc2 = DCT3Dtab1[(i >> 2) - 32];  
                 } else if (i >= 8) {  
                         *vlc1 = DCT3Dtab5[i - 8];  
                         *vlc2 = DCT3Dtab2[i - 8];  
                 } else {  
                         *vlc1 = ERRtab[i];  
                         *vlc2 = ERRtab[i];  
227                  }                  }
   
                 vlc1++;  
                 vlc2++;  
228          }          }
229          DCT3D[0] = DCT3Dinter;  #ifdef _BIGLUT_
230          DCT3D[1] = DCT3Dintra;                                  for (level = 32 << intra; level < 2048; level++)
231                                    {
232                                            coeff_VLC[intra][last][level + offset][run].code
233                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((level & 0xfff) << 1) | 1;
234                                            coeff_VLC[intra][last][level + offset][run].len = 30;
235    
236                                            coeff_VLC[intra][last][offset - level][run].code
237                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-level & 0xfff) << 1) | 1;
238                                            coeff_VLC[intra][last][offset - level][run].len = 30;
239                                    }
240    #else
241                                    if (!intra)
242                                    {
243                                            coeff_VLC[intra][last][0][run].code
244                                                    = (ESCAPE3 << 21) | (last << 20) | (run << 14) | (1 << 13) | ((-32 & 0xfff) << 1) | 1;
245                                            coeff_VLC[intra][last][0][run].len = 30;
246                                    }
247    #endif
248                            }
249  }  }
250    
251    /*****************************************************************************
252     * Local inlined functions for MB coding
253     ****************************************************************************/
254    
255  static __inline void  static __inline void
256  CodeVector(Bitstream * bs,  CodeVector(Bitstream * bs,
257                     int32_t value,                     int32_t value,
# Line 240  Line 307 
307    
308  }  }
309    
310    #ifdef __BIGLUT_
311    
312  static __inline void  static __inline void
313  CodeCoeff(Bitstream * bs,  CodeCoeff(Bitstream * bs,
# Line 260  Line 328 
328                  j++;                  j++;
329    
330          do {          do {
331                  vlc = table + 64 * 2047 + (v << 6) + j - last;                  vlc = table + 64 * 2048 + (v << 6) + j - last;
332                  last = ++j;                  last = ++j;
333    
334                  // count zeroes                  /* count zeroes */
335                  while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)                  while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
336                          j++;                          j++;
337    
338                  // write code                  /* write code */
339                  if (j != 64) {                  if (j != 64) {
340                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
341                  } else {                  } else {
342                          vlc += 64 * 4095;                          vlc += 64 * 4096;
343                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
344                          break;                          break;
345                  }                  }
# Line 279  Line 347 
347    
348  }  }
349    
350    #else
351    
352    static __inline void
353    CodeCoeffInter(Bitstream * bs,
354                      const int16_t qcoeff[64],
355                      const uint16_t * zigzag)
356    {
357            uint32_t i, run, prev_run, code, len;
358            int32_t level, prev_level, level_shifted;
359    
360            i       = 0;
361            run = 0;
362    
363            while (!(level = qcoeff[zigzag[i++]]))
364                    run++;
365    
366            prev_level = level;
367            prev_run   = run;
368            run = 0;
369    
370            while (i < 64)
371            {
372                    if ((level = qcoeff[zigzag[i++]]) != 0)
373                    {
374                            level_shifted = prev_level + 32;
375                            if (!(level_shifted & -64))
376                            {
377                                    code = coeff_VLC[0][0][level_shifted][prev_run].code;
378                                    len      = coeff_VLC[0][0][level_shifted][prev_run].len;
379                            }
380                            else
381                            {
382                                    code = (ESCAPE3 << 21) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
383                                    len  = 30;
384                            }
385                            BitstreamPutBits(bs, code, len);
386                            prev_level = level;
387                            prev_run   = run;
388                            run = 0;
389                    }
390                    else
391                            run++;
392            }
393    
394            level_shifted = prev_level + 32;
395            if (!(level_shifted & -64))
396            {
397                    code = coeff_VLC[0][1][level_shifted][prev_run].code;
398                    len      = coeff_VLC[0][1][level_shifted][prev_run].len;
399            }
400            else
401            {
402                    code = (ESCAPE3 << 21) | (1 << 20) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
403                    len  = 30;
404            }
405            BitstreamPutBits(bs, code, len);
406    }
407    
408    static __inline void
409    CodeCoeffIntra(Bitstream * bs,
410                      const int16_t qcoeff[64],
411                      const uint16_t * zigzag)
412    {
413            uint32_t i, abs_level, run, prev_run, code, len;
414            int32_t level, prev_level;
415    
416            i       = 1;
417            run = 0;
418    
419            while (!(level = qcoeff[zigzag[i++]]))
420                    run++;
421    
422            prev_level = level;
423            prev_run   = run;
424            run = 0;
425    
426            while (i < 64)
427            {
428                    if ((level = qcoeff[zigzag[i++]]) != 0)
429                    {
430                            abs_level = ABS(prev_level);
431                            abs_level = abs_level < 64 ? abs_level : 0;
432                            code      = coeff_VLC[1][0][abs_level][prev_run].code;
433                            len               = coeff_VLC[1][0][abs_level][prev_run].len;
434                            if (len != 128)
435                                    code |= (prev_level < 0);
436                            else
437                            {
438                            code = (ESCAPE3 << 21) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
439                                    len  = 30;
440                            }
441                            BitstreamPutBits(bs, code, len);
442                            prev_level = level;
443                            prev_run   = run;
444                            run = 0;
445                    }
446                    else
447                            run++;
448            }
449    
450            abs_level = ABS(prev_level);
451            abs_level = abs_level < 64 ? abs_level : 0;
452            code      = coeff_VLC[1][1][abs_level][prev_run].code;
453            len               = coeff_VLC[1][1][abs_level][prev_run].len;
454            if (len != 128)
455                    code |= (prev_level < 0);
456            else
457            {
458                    code = (ESCAPE3 << 21) | (1 << 20) | (prev_run << 14) | (1 << 13) | ((prev_level & 0xfff) << 1) | 1;
459                    len  = 30;
460            }
461            BitstreamPutBits(bs, code, len);
462    }
463    
464    #endif
465    
466    /*****************************************************************************
467     * Local functions
468     ****************************************************************************/
469    
470  static void  static void
471  CodeBlockIntra(const FRAMEINFO * frame,  CodeBlockIntra(const FRAMEINFO * frame,
# Line 292  Line 479 
479    
480          cbpy = pMB->cbp >> 2;          cbpy = pMB->cbp >> 2;
481    
482          // write mcbpc          /* write mcbpc */
483          if (frame->coding_type == I_VOP) {          if (frame->coding_type == I_VOP) {
484                  mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);                  mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);
485                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,
# Line 303  Line 490 
490                                                   mcbpc_inter_tab[mcbpc].len);                                                   mcbpc_inter_tab[mcbpc].len);
491          }          }
492    
493          // ac prediction flag          /* ac prediction flag */
494          if (pMB->acpred_directions[0])          if (pMB->acpred_directions[0])
495                  BitstreamPutBits(bs, 1, 1);                  BitstreamPutBits(bs, 1, 1);
496          else          else
497                  BitstreamPutBits(bs, 0, 1);                  BitstreamPutBits(bs, 0, 1);
498    
499          // write cbpy          /* write cbpy */
500          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
501    
502          // write dquant          /* write dquant */
503          if (pMB->mode == MODE_INTRA_Q)          if (pMB->mode == MODE_INTRA_Q)
504                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
505    
506          // write interlacing          /* write interlacing */
507          if (frame->global_flags & XVID_INTERLACING) {          if (frame->global_flags & XVID_INTERLACING) {
508                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
509          }          }
510          // code block coeffs          /* code block coeffs */
511          for (i = 0; i < 6; i++) {          for (i = 0; i < 6; i++) {
512                  if (i < 4)                  if (i < 4)
513                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,
# Line 332  Line 519 
519                  if (pMB->cbp & (1 << (5 - i))) {                  if (pMB->cbp & (1 << (5 - i))) {
520                          bits = BitstreamPos(bs);                          bits = BitstreamPos(bs);
521    
522    #ifdef _BIGLUT_
523                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,
524                                            scan_tables[pMB->acpred_directions[i]], 1);                                            scan_tables[pMB->acpred_directions[i]], 1);
525    #else
526                            CodeCoeffIntra(bs, &qcoeff[i * 64], scan_tables[pMB->acpred_directions[i]]);
527    #endif
528                          bits = BitstreamPos(bs) - bits;                          bits = BitstreamPos(bs) - bits;
529                          pStat->iTextBits += bits;                          pStat->iTextBits += bits;
530                  }                  }
# Line 357  Line 547 
547          mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);          mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
548          cbpy = 15 - (pMB->cbp >> 2);          cbpy = 15 - (pMB->cbp >> 2);
549    
550          // write mcbpc          /* write mcbpc */
551          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
552                                           mcbpc_inter_tab[mcbpc].len);                                           mcbpc_inter_tab[mcbpc].len);
553    
554          // write cbpy          /* write cbpy */
555          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
556    
557          // write dquant          /* write dquant */
558          if (pMB->mode == MODE_INTER_Q)          if (pMB->mode == MODE_INTER_Q)
559                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
560    
561          // interlacing          /* interlacing */
562          if (frame->global_flags & XVID_INTERLACING) {          if (frame->global_flags & XVID_INTERLACING) {
563                    if (pMB->cbp) {
564                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
565                  DEBUG1("codep: field_dct: ", pMB->field_dct);                          DPRINTF(DPRINTF_DEBUG, "codep: field_dct: %d", pMB->field_dct);
566                    }
567    
568                  // if inter block, write field ME flag                  /* if inter block, write field ME flag */
569                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
570                          BitstreamPutBit(bs, pMB->field_pred);                          BitstreamPutBit(bs, pMB->field_pred);
571                          DEBUG1("codep: field_pred: ", pMB->field_pred);                          DPRINTF(DPRINTF_DEBUG, "codep: field_pred: %d", pMB->field_pred);
572    
573                          // write field prediction references                          /* write field prediction references */
574                          if (pMB->field_pred) {                          if (pMB->field_pred) {
575                                  BitstreamPutBit(bs, pMB->field_for_top);                                  BitstreamPutBit(bs, pMB->field_for_top);
576                                  BitstreamPutBit(bs, pMB->field_for_bot);                                  BitstreamPutBit(bs, pMB->field_for_bot);
577                          }                          }
578                  }                  }
579          }          }
580          // code motion vector(s)          /* code motion vector(s) */
581          for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {          for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {
582                  CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);                  CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);
583                  CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);                  CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);
# Line 393  Line 585 
585    
586          bits = BitstreamPos(bs);          bits = BitstreamPos(bs);
587    
588          // code block coeffs          /* code block coeffs */
589          for (i = 0; i < 6; i++)          for (i = 0; i < 6; i++)
590                  if (pMB->cbp & (1 << (5 - i)))                  if (pMB->cbp & (1 << (5 - i)))
591    #ifdef _BIGLUT_
592                          CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);                          CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);
593    #else
594                            CodeCoeffInter(bs, &qcoeff[i * 64], scan_tables[0]);
595    #endif
596    
597          bits = BitstreamPos(bs) - bits;          bits = BitstreamPos(bs) - bits;
598          pStat->iTextBits += bits;          pStat->iTextBits += bits;
599    
600  }  }
601    
602    /*****************************************************************************
603     * Macro Block bitstream encoding functions
604     ****************************************************************************/
605    
606  void  void
607  MBCoding(const FRAMEINFO * frame,  MBCoding(const FRAMEINFO * frame,
# Line 412  Line 611 
611                   Statistics * pStat)                   Statistics * pStat)
612  {  {
613    
         int intra = (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q);  
   
614          if (frame->coding_type == P_VOP) {          if (frame->coding_type == P_VOP) {
615                  if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&                          BitstreamPutBit(bs, 0); /* coded */
                         pMB->mvs[0].y == 0) {  
                         BitstreamPutBit(bs, 1); // not_coded  
                         return;  
                 } else  
                         BitstreamPutBit(bs, 0); // coded  
616          }          }
617    
618          if (intra)          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
619                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);
620          else          else
621                  CodeBlockInter(frame, pMB, qcoeff, bs, pStat);                  CodeBlockInter(frame, pMB, qcoeff, bs, pStat);
622    
623  }  }
624    
 /***************************************************************  
  * bframe encoding start  
  ***************************************************************/  
   
 /*  
         mbtype  
         0       1b              direct(h263)            mvdb  
         1       01b             interpolate mc+q        dbquant, mvdf, mvdb  
         2       001b    backward mc+q           dbquant, mvdb  
         3       0001b   forward mc+q            dbquant, mvdf  
 */  
625    
626  void  void
627  put_bvop_mbtype(Bitstream * bs,  MBSkip(Bitstream * bs)
                                 int value)  
628  {  {
629          switch (value) {          BitstreamPutBit(bs, 1); /* not coded */
         case 0:  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 1:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
630                  return;                  return;
   
         case 3:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         default:;                                       // invalid!  
   
631          }          }
632    
633  }  /*****************************************************************************
634     * decoding stuff starts here
635     ****************************************************************************/
636    
637  /*  /*
638          dbquant   * For IVOP addbits == 0
639          -2      10b   * For PVOP addbits == fcode - 1
640          0       0b   * For BVOP addbits == max(fcode,bcode) - 1
641          +2      11b   * returns true or false
642  */  */
643    
 void  
 put_bvop_dbquant(Bitstream * bs,  
                                  int value)  
 {  
         switch (value) {  
         case 0:  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case -2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         default:;                                       // invalid  
         }  
 }  
   
   
   
 void  
 MBCodingBVOP(const MACROBLOCK * mb,  
                          const int16_t qcoeff[6 * 64],  
                          const int32_t fcode,  
                          const int32_t bcode,  
                          Bitstream * bs,  
                          Statistics * pStat)  
 {  
         int i;  
   
 /*      ------------------------------------------------------------------  
                 when a block is skipped it is decoded DIRECT(0,)  
                 hence are interpolated from forward & backward frames  
         ------------------------------------------------------------------ */  
   
         if (mb->mode == 5) {  
                 BitstreamPutBit(bs, 1); // skipped  
                 return;  
         }  
   
         BitstreamPutBit(bs, 0);         // not skipped  
   
         if (mb->cbp == 0) {  
                 BitstreamPutBit(bs, 1); // cbp == 0  
         } else {  
                 BitstreamPutBit(bs, 0); // cbp == xxx  
         }  
   
         put_bvop_mbtype(bs, mb->mode);  
   
         if (mb->cbp) {  
                 BitstreamPutBits(bs, mb->cbp, 6);  
         }  
   
         if (mb->mode != MODE_DIRECT && mb->cbp != 0) {  
                 put_bvop_dbquant(bs, 0);        // todo: mb->dquant = 0  
         }  
   
         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {  
                 CodeVector(bs, mb->pmvs[0].x, fcode, pStat);  
                 CodeVector(bs, mb->pmvs[0].y, fcode, pStat);  
         }  
   
         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {  
                 CodeVector(bs, mb->b_pmvs[0].x, bcode, pStat);  
                 CodeVector(bs, mb->b_pmvs[0].y, bcode, pStat);  
         }  
   
         if (mb->mode == MODE_DIRECT) {  
                 // TODO: direct  
         }  
   
         for (i = 0; i < 6; i++) {  
                 if (mb->cbp & (1 << (5 - i))) {  
                         CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);  
                 }  
         }  
 }  
   
   
   
 /***************************************************************  
  * decoding stuff starts here                                  *  
  ***************************************************************/  
   
   
 void  
 skip_stuffing(Bitstream *bs)  
 {  
         while (BitstreamShowBits(bs, 9) == 1)  
                 BitstreamSkip(bs, 9);  
 }  
   
   
   
 // for IVOP addbits == 0  
 // for PVOP addbits == fcode - 1  
 // for BVOP addbits == max(fcode,bcode) - 1  
 // returns true or false  
644  int  int
645  check_resync_marker(Bitstream * bs, int addbits)  check_resync_marker(Bitstream * bs, int addbits)
646  {  {
# Line 762  Line 817 
817    
818  }  }
819    
820    /*****************************************************************************
821     * Local inlined function to "decode" written vlc codes
822     ****************************************************************************/
823    
824    static __inline int
825    get_coeff(Bitstream * bs,
826                      int *run,
827                      int *last,
828                      int intra,
829                      int short_video_header)
830    {
831    
832            uint32_t mode;
833            int32_t level;
834            REVERSE_EVENT *reverse_event;
835    
836            if (short_video_header)         /* inter-VLCs will be used for both intra and inter blocks */
837                    intra = 0;
838    
839            if (BitstreamShowBits(bs, 7) != ESCAPE) {
840                    reverse_event = &DCT3D[intra][BitstreamShowBits(bs, 12)];
841    
842                    if ((level = reverse_event->event.level) == 0)
843                            goto error;
844    
845                    *last = reverse_event->event.last;
846                    *run  = reverse_event->event.run;
847    
848                    BitstreamSkip(bs, reverse_event->len);
849    
850                    return BitstreamGetBits(bs, 1) ? -level : level;
851            }
852    
853            BitstreamSkip(bs, 7);
854    
855            if (short_video_header) {
856                    /* escape mode 4 - H.263 type, only used if short_video_header = 1  */
857                    *last = BitstreamGetBit(bs);
858                    *run = BitstreamGetBits(bs, 6);
859                    level = BitstreamGetBits(bs, 8);
860    
861                    if (level == 0 || level == 128)
862                            DPRINTF(DPRINTF_ERROR, "Illegal LEVEL for ESCAPE mode 4: %d", level);
863    
864                    return (level << 24) >> 24;
865            }
866    
867            mode = BitstreamShowBits(bs, 2);
868    
869            if (mode < 3) {
870                    BitstreamSkip(bs, (mode == 2) ? 2 : 1);
871    
872                    reverse_event = &DCT3D[intra][BitstreamShowBits(bs, 12)];
873    
874                    if ((level = reverse_event->event.level) == 0)
875                            goto error;
876    
877                    *last = reverse_event->event.last;
878                    *run  = reverse_event->event.run;
879    
880                    BitstreamSkip(bs, reverse_event->len);
881    
882                    if (mode < 2)                   /* first escape mode, level is offset */
883                            level += max_level[intra][*last][*run];
884                    else                                    /* second escape mode, run is offset */
885                            *run += max_run[intra][*last][level] + 1;
886    
887                    return BitstreamGetBits(bs, 1) ? -level : level;
888            }
889    
890            /* third escape mode - fixed length codes */
891            BitstreamSkip(bs, 2);
892            *last = BitstreamGetBits(bs, 1);
893            *run = BitstreamGetBits(bs, 6);
894            BitstreamSkip(bs, 1);           /* marker */
895            level = BitstreamGetBits(bs, 12);
896            BitstreamSkip(bs, 1);           /* marker */
897    
898            return (level << 20) >> 20;
899    
900      error:
901            *run = VLC_ERROR;
902            return 0;
903    }
904    
905    /*****************************************************************************
906     * MB reading functions
907     ****************************************************************************/
908    
909  void  void
910  get_intra_block(Bitstream * bs,  get_intra_block(Bitstream * bs,
911                                  int16_t * block,                                  int16_t * block,
# Line 777  Line 921 
921          do {          do {
922                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
923                  if (run == -1) {                  if (run == -1) {
924                          DEBUG("fatal: invalid run");                          DPRINTF(DPRINTF_DEBUG, "fatal: invalid run");
925                          break;                          break;
926                  }                  }
927                  coeff += run;                  coeff += run;
928                  block[scan[coeff]] = level;                  block[scan[coeff]] = level;
929                  if (level < -127 || level > 127) {  
930                          DEBUG1("warning: intra_overflow", level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);
931                    /*DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32)); */
932    
933                    if (level < -2047 || level > 2047) {
934                            DPRINTF(DPRINTF_DEBUG, "warning: intra_overflow: %d", level);
935                  }                  }
936                  coeff++;                  coeff++;
937          } while (!last);          } while (!last);
# Line 805  Line 953 
953          do {          do {
954                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
955                  if (run == -1) {                  if (run == -1) {
956                          DEBUG("fatal: invalid run");                          DPRINTF(DPRINTF_ERROR, "fatal: invalid run");
957                          break;                          break;
958                  }                  }
959                  p += run;                  p += run;
960    
961                  block[scan[p]] = level;                  block[scan[p]] = level;
962                  if (level < -127 || level > 127) {  
963                          DEBUG1("warning: inter_overflow", level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
964    
965                    if (level < -2047 || level > 2047) {
966                            DPRINTF(DPRINTF_DEBUG, "warning: inter_overflow: %d", level);
967                  }                  }
968                  p++;                  p++;
969          } while (!last);          } while (!last);
Legend:
Removed from v.248  
changed lines
  Added in v.764
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4