[svn] / trunk / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 69, Tue Mar 26 11:16:08 2002 UTC revision 454, Sun Sep 8 15:40:02 2002 UTC
# Line 1  Line 1 
1    /*****************************************************************************
2     *
3     *  XVID MPEG-4 VIDEO CODEC
4     *  - Macro Block coding functions -
5     *
6     *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7     *
8     *
9     *  This program is an implementation of a part of one or more MPEG-4
10     *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
11     *  to use this software module in hardware or software products are
12     *  advised that its use may infringe existing patents or copyrights, and
13     *  any such use would be at such party's own risk.  The original
14     *  developer of this software module and his/her company, and subsequent
15     *  editors and their companies, will have no liability for use of this
16     *  software or modifications or derivatives thereof.
17     *
18     *  This program is free software; you can redistribute it and/or modify
19     *  it under the terms of the GNU General Public License as published by
20     *  the Free Software Foundation; either version 2 of the License, or
21     *  (at your option) any later version.
22     *
23     *  This program is distributed in the hope that it will be useful,
24     *  but WITHOUT ANY WARRANTY; without even the implied warranty of
25     *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
26     *  GNU General Public License for more details.
27     *
28     *  You should have received a copy of the GNU General Public License
29     *  along with this program; if not, write to the Free Software
30     *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
31     *
32     * $Id: mbcoding.c,v 1.28 2002-09-08 15:40:02 edgomez Exp $
33     *
34     ****************************************************************************/
35    
36    #include <stdlib.h>
37  #include "../portab.h"  #include "../portab.h"
38  #include "bitstream.h"  #include "bitstream.h"
39  #include "zigzag.h"  #include "zigzag.h"
40  #include "vlc_codes.h"  #include "vlc_codes.h"
41    #include "mbcoding.h"
42    
43  #include "../utils/mbfunctions.h"  #include "../utils/mbfunctions.h"
44    
 #include <stdlib.h> /* malloc, free */  
   
 #define ESCAPE 7167  
45  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
46  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
47    
48  static VLC *DCT3D[2];  /*****************************************************************************
49     * Local data
50  VLC *intra_table, *inter_table;   ****************************************************************************/
51  static short clip_table[4096];  
52    static VLC intra_table[524032];
53    static VLC inter_table[524032];
54    
55    static VLC DCT3Dintra[4096];
56    static VLC DCT3Dinter[4096];
57    
58    /*****************************************************************************
59     * Vector Length Coding Initialization
60     ****************************************************************************/
61    
62  void create_vlc_tables(void)  void
63    init_vlc_tables(void)
64  {  {
65    
66          int32_t k, l, i, intra, last;          int32_t k, l, i, intra, last;
67          VLC *vlc[2];          VLC *vlc[2];
68          VLC **coeff_ptr;          VLC **coeff_ptr;
69          VLC *vlc1, *vlc2;          VLC *vlc1, *vlc2;
70    
         VLC *DCT3Dintra;  
         VLC *DCT3Dinter;  
   
         DCT3Dintra = (VLC *) malloc(sizeof(VLC) * 4096);  
         DCT3Dinter = (VLC *) malloc(sizeof(VLC) * 4096);  
   
71          vlc1 = DCT3Dintra;          vlc1 = DCT3Dintra;
72          vlc2 = DCT3Dinter;          vlc2 = DCT3Dinter;
73    
74          vlc[0] = intra_table = (VLC *) malloc(128 * 511 * sizeof(VLC));          vlc[0] = intra_table;
75          vlc[1] = inter_table = (VLC *) malloc(128 * 511 * sizeof(VLC));          vlc[1] = inter_table;
76    
77          // initialize the clipping table          /*
78          for(i = -2048; i < 2048; i++) {           * Generate encoding vlc lookup tables
79                  clip_table[i + 2048] = i;           * the lookup table idea is taken from the excellent fame project
80                  if(i < -255)           * by Vivien Chapellier
81                          clip_table[i + 2048] = -255;           */
                 if(i > 255)  
                         clip_table[i + 2048] = 255;  
         }  
   
         // generate intra/inter vlc lookup table  
82          for(i = 0; i < 4; i++) {          for(i = 0; i < 4; i++) {
83                  intra = i % 2;                  intra = i % 2;
84                  last = i >> 1;                  last = i / 2;
85    
86                  coeff_ptr = coeff_vlc[last + (intra << 1)];                  coeff_ptr = coeff_vlc[last + 2 * intra];
87    
88                  for(k = -255; k < 256; k++) { // level                  for (k = -2047; k < 2048; k++) {        // level
89                          char *max_level_ptr = max_level[last + (intra << 1)];                          int8_t *max_level_ptr = max_level[last + 2 * intra];
90                          char *max_run_ptr = max_run[last + (intra << 1)];                          int8_t *max_run_ptr = max_run[last + 2 * intra];
91    
92                          for(l = 0; l < 64; l++) { // run                          for(l = 0; l < 64; l++) { // run
93                                  int32_t level = k;                                  int32_t level = k;
94                                  uint32_t run = l;                                  ptr_t run = l;
95    
96                                  if(abs(level) <= max_level_ptr[run] && run <= max_run_ptr[abs(level)]) {                                  if ((abs(level) <= max_level_ptr[run]) && (run <= (uint32_t) max_run_ptr[abs(level)])) {        // level < max_level and run < max_run
97    
                                         if(level > 0) {  
                                                 vlc[intra]->code = (coeff_ptr[run][level - 1].code) << 1;  
                                                 vlc[intra]->len = coeff_ptr[run][level - 1].len + 1;  
                                         }  
                                         else if(level < 0) {  
                                                 vlc[intra]->code = ((coeff_ptr[run][-level - 1].code) << 1) + 1;  
                                                 vlc[intra]->len = coeff_ptr[run][-level - 1].len + 1;  
                                         }  
                                         else {  
98                                                  vlc[intra]->code = 0;                                                  vlc[intra]->code = 0;
99                                                  vlc[intra]->len = 0;                                                  vlc[intra]->len = 0;
100                                          }                                          goto loop_end;
101                                  } else {                                  } else {
102                                          if(level > 0)                                          if (level > 0)  // correct level
103                                                  level -= max_level_ptr[run];                                                  level -= max_level_ptr[run];
104                                          else                                          else
105                                                  level += max_level_ptr[run];                                                  level += max_level_ptr[run];
106    
107                                          if(abs(level) <= max_level_ptr[run] &&                                          if ((abs(level) <= max_level_ptr[run]) &&
108                                                  run <= max_run_ptr[abs(level)]) {                                                  (run <= (uint32_t) max_run_ptr[abs(level)])) {
109    
                                                 if(level > 0) {  
                                                         vlc[intra]->code = (0x06 << (coeff_ptr[run][level - 1].len + 1)) |  
                                                                 (coeff_ptr[run][level - 1].code << 1);  
                                                         vlc[intra]->len = (coeff_ptr[run][level - 1].len + 1) + 8;  
                                                 }  
                                                 else if(level < 0) {  
                                                         vlc[intra]->code = (0x06 << (coeff_ptr[run][-level - 1].len + 1)) |  
                                                                 ((coeff_ptr[run][-level - 1].code << 1) + 1);  
                                                         vlc[intra]->len = (coeff_ptr[run][-level - 1].len + 1) + 8;  
                                                 }  
                                                 else {  
110                                                          vlc[intra]->code = 0x06;                                                          vlc[intra]->code = 0x06;
111                                                          vlc[intra]->len = 8;                                                          vlc[intra]->len = 8;
112                                                    goto loop_end;
113                                                  }                                                  }
114                                          } else {  
115                                                  if(level > 0)                                          if (level > 0)  // still here?
116                                                          level += max_level_ptr[run];                                                  level += max_level_ptr[run];    // restore level
117                                                  else                                                  else
118                                                          level -= max_level_ptr[run];                                                          level -= max_level_ptr[run];
119    
120                                                  run -= max_run_ptr[abs(level)] + 1;                                          run -= max_run_ptr[abs(level)] + 1;     // and change run
121    
122                                                  if(abs(level) <= max_level_ptr[run] &&                                          if ((abs(level) <= max_level_ptr[run]) &&
123                                                          run <= max_run_ptr[abs(level)]) {                                                  (run <= (uint32_t) max_run_ptr[abs(level)])) {
124    
                                                         if(level > 0) {  
                                                                 vlc[intra]->code = (0x0e << (coeff_ptr[run][level - 1].len + 1)) |  
                                                                         (coeff_ptr[run][level - 1].code << 1);  
                                                                 vlc[intra]->len = (coeff_ptr[run][level - 1].len + 1) + 9;  
                                                         }  
                                                         else if(level < 0) {  
                                                                 vlc[intra]->code = (0x0e << (coeff_ptr[run][-level - 1].len + 1)) |  
                                                                         ((coeff_ptr[run][-level - 1].code << 1) + 1);  
                                                                 vlc[intra]->len = (coeff_ptr[run][-level - 1].len + 1) + 9;  
                                                         }  
                                                         else {  
125                                                                  vlc[intra]->code = 0x0e;                                                                  vlc[intra]->code = 0x0e;
126                                                                  vlc[intra]->len = 9;                                                                  vlc[intra]->len = 9;
127                                                    goto loop_end;
128                                                          }                                                          }
                                                 } else {  
                                                         if(level != 0)  
129                                                                  run += max_run_ptr[abs(level)] + 1;                                                                  run += max_run_ptr[abs(level)] + 1;
130                                                          else                                  }
                                                                 run++;  
131    
132                                                          vlc[intra]->code = (uint32_t) ((0x1e + last) << 20) |                                  vlc[intra]->code =
133                                                                                  (l << 14) | (1 << 13) | ((k & 0xfff) << 1) | 1;                                          (uint32_t) ((l << 14) | (0x1e + last) << 20) | (1 << 13) |
134                                            ((k & 0xfff) << 1) | 1;
135    
136                                                          vlc[intra]->len = 30;                                                          vlc[intra]->len = 30;
137                                    vlc[intra]++;
138                                    continue;
139    
140                              loop_end:
141                                    if (level != 0) {
142                                            vlc[intra]->code =
143                                                    (vlc[intra]->
144                                                     code << (coeff_ptr[run][abs(level) - 1].len +
145                                                                      1)) | (coeff_ptr[run][abs(level) -
146                                                                                                                    1].code << 1);
147                                            vlc[intra]->len =
148                                                    (coeff_ptr[run][abs(level) - 1].len + 1) +
149                                                    vlc[intra]->len;
150    
151                                            if (level < 0)
152                                                    vlc[intra]->code += 1;
153                                                  }                                                  }
154                                          }  
                                 }  
155                                  vlc[intra]++;                                  vlc[intra]++;
156                          }                          }
157                  }                  }
158          }          }
         intra_table += 64*255; // center vlc tables  
         inter_table += 64*255; // center vlc tables  
159    
160          for(i = 0; i < 4096; i++) {          for(i = 0; i < 4096; i++) {
161                  if(i >= 512) {                  if(i >= 512) {
162                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];
163                          *vlc2 = DCT3Dtab0[(i >> 5) - 16];                          *vlc2 = DCT3Dtab0[(i >> 5) - 16];
164                  }                  } else if (i >= 128) {
                 else if(i >= 128) {  
165                          *vlc1 = DCT3Dtab4[(i >> 2) - 32];                          *vlc1 = DCT3Dtab4[(i >> 2) - 32];
166                          *vlc2 = DCT3Dtab1[(i >> 2) - 32];                          *vlc2 = DCT3Dtab1[(i >> 2) - 32];
167                  }                  } else if (i >= 8) {
                 else if(i >= 8) {  
168                          *vlc1 = DCT3Dtab5[i - 8];                          *vlc1 = DCT3Dtab5[i - 8];
169                          *vlc2 = DCT3Dtab2[i - 8];                          *vlc2 = DCT3Dtab2[i - 8];
170                  }                  } else {
                 else {  
171                          *vlc1 = ERRtab[i];                          *vlc1 = ERRtab[i];
172                          *vlc2 = ERRtab[i];                          *vlc2 = ERRtab[i];
173                  }                  }
# Line 167  Line 180 
180    
181  }  }
182    
183  void destroy_vlc_tables(void) {  /*****************************************************************************
184     * Local inlined functions for MB coding
185          if(intra_table != NULL && inter_table != NULL) {   ****************************************************************************/
186                  intra_table -= 64*255; // uncenter vlc tables  
187                  inter_table -= 64*255; // uncenter vlc tables  static __inline void
188    CodeVector(Bitstream * bs,
189                  free(intra_table);                     int32_t value,
190                  free(inter_table);                     int32_t f_code,
191          }                     Statistics * pStat)
   
         if(DCT3D[0] != NULL && DCT3D[1] != NULL) {  
                 free(DCT3D[0]);  
                 free(DCT3D[1]);  
         }  
   
 }  
   
 static __inline void CodeVector(Bitstream *bs, int16_t value, int16_t f_code, Statistics *pStat)  
192  {  {
193    
194          const int scale_factor = 1 << (f_code - 1);          const int scale_factor = 1 << (f_code - 1);
195          const int cmp = scale_factor << 5;          const int cmp = scale_factor << 5;
196    
# Line 198  Line 203 
203      pStat->iMvSum += value * value;      pStat->iMvSum += value * value;
204      pStat->iMvCount++;      pStat->iMvCount++;
205    
206          if (value == 0)          if (value == 0) {
207                  BitstreamPutBits(bs, mb_motion_table[32].code, mb_motion_table[32].len);                  BitstreamPutBits(bs, mb_motion_table[32].code,
208      else {                                                   mb_motion_table[32].len);
209            } else {
210                  uint16_t length, code, mv_res, sign;                  uint16_t length, code, mv_res, sign;
211    
212                  length = 16 << f_code;                  length = 16 << f_code;
# Line 224  Line 230 
230                          code = -code;                          code = -code;
231    
232                  code += 32;                  code += 32;
233                  BitstreamPutBits(bs, mb_motion_table[code].code, mb_motion_table[code].len);                  BitstreamPutBits(bs, mb_motion_table[code].code,
234                                                     mb_motion_table[code].len);
235    
236                  if(f_code)                  if(f_code)
237                          BitstreamPutBits(bs, mv_res, f_code);                          BitstreamPutBits(bs, mv_res, f_code);
238    }    }
239    
240  }  }
241    
242    static __inline void
243    CodeCoeff(Bitstream * bs,
244                      const int16_t qcoeff[64],
245                      VLC * table,
246                      const uint16_t * zigzag,
247                      uint16_t intra)
248    {
249    
 static __inline void CodeCoeff(Bitstream *bs, int16_t qcoeff[64], VLC *table,  
                                                            const uint16_t *zigzag, uint16_t intra) {  
250          uint32_t j, last;          uint32_t j, last;
251          short v;          short v;
252          VLC *vlc;          VLC *vlc;
253    
254          j = intra;          j = intra;
255          last = 1 + intra;          last = intra;
256    
257          while((v = qcoeff[zigzag[j++]]) == 0);          while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
258                    j++;
259    
260          do {          do {
261                    vlc = table + 64 * 2047 + (v << 6) + j - last;
262                    last = ++j;
263    
264                  // count zeroes                  // count zeroes
265                  vlc = table + (clip_table[2048+v] << 6) + j - last;                  while (j < 64 && (v = qcoeff[zigzag[j]]) == 0)
266                  last = j + 1;                          j++;
                 while(j < 64 && (v = qcoeff[zigzag[j++]]) == 0);  
267    
268                  // write code                  // write code
269                  if(j != 64) {                  if(j != 64) {
270                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
271                  } else {                  } else {
272                          vlc += 64*511;                          vlc += 64 * 4095;
273                          BitstreamPutBits(bs, vlc->code, vlc->len);                          BitstreamPutBits(bs, vlc->code, vlc->len);
274                          break;                          break;
275                  }                  }
276          } while(1);          } while(1);
 }  
277    
278    }
279    
280  static void CodeBlockIntra(const MBParam * pParam, const MACROBLOCK *pMB,  /*****************************************************************************
281                                                                    int16_t qcoeff[][64], Bitstream * bs, Statistics * pStat)   * Local functions
282     ****************************************************************************/
283    
284    static void
285    CodeBlockIntra(const FRAMEINFO * frame,
286                               const MACROBLOCK * pMB,
287                               int16_t qcoeff[6 * 64],
288                               Bitstream * bs,
289                               Statistics * pStat)
290  {  {
291    
292          uint32_t i, mcbpc, cbpy, bits;          uint32_t i, mcbpc, cbpy, bits;
293    
294          cbpy = pMB->cbp >> 2;          cbpy = pMB->cbp >> 2;
295    
296      // write mcbpc      // write mcbpc
297          if(pParam->coding_type == I_VOP) {          if (frame->coding_type == I_VOP) {
298              mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);              mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);
299                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code, mcbpc_intra_tab[mcbpc].len);                  BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code,
300          }                                                   mcbpc_intra_tab[mcbpc].len);
301          else {          } else {
302              mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);              mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
303                  BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);                  BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
304                                                     mcbpc_inter_tab[mcbpc].len);
305          }          }
306    
307          // ac prediction flag          // ac prediction flag
# Line 292  Line 318 
318                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
319    
320          // write interlacing          // write interlacing
321          if (pParam->global_flags & XVID_INTERLACING)          if (frame->global_flags & XVID_INTERLACING) {
         {  
322                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
323          }          }
   
324          // code block coeffs          // code block coeffs
325          for(i = 0; i < 6; i++)          for (i = 0; i < 6; i++) {
         {  
326                  if(i < 4)                  if(i < 4)
327                          BitstreamPutBits(bs, dcy_tab[qcoeff[i][0] + 255].code,                          BitstreamPutBits(bs, dcy_tab[qcoeff[i * 64 + 0] + 255].code,
328                                                           dcy_tab[qcoeff[i][0] + 255].len);                                                           dcy_tab[qcoeff[i * 64 + 0] + 255].len);
329                  else                  else
330                          BitstreamPutBits(bs, dcc_tab[qcoeff[i][0] + 255].code,                          BitstreamPutBits(bs, dcc_tab[qcoeff[i * 64 + 0] + 255].code,
331                                           dcc_tab[qcoeff[i][0] + 255].len);                                                           dcc_tab[qcoeff[i * 64 + 0] + 255].len);
332    
333                  if(pMB->cbp & (1 << (5 - i)))                  if (pMB->cbp & (1 << (5 - i))) {
                 {  
334                          bits = BitstreamPos(bs);                          bits = BitstreamPos(bs);
335    
336                          CodeCoeff(bs, qcoeff[i], intra_table, scan_tables[pMB->acpred_directions[i]], 1);                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,
337                                              scan_tables[pMB->acpred_directions[i]], 1);
338    
339                          bits = BitstreamPos(bs) - bits;                          bits = BitstreamPos(bs) - bits;
340                          pStat->iTextBits += bits;                          pStat->iTextBits += bits;
341                  }                  }
342          }          }
343    
344  }  }
345    
346    
347  static void CodeBlockInter(const MBParam * pParam, const MACROBLOCK *pMB,  static void
348                                                                    int16_t qcoeff[][64], Bitstream * bs, Statistics * pStat)  CodeBlockInter(const FRAMEINFO * frame,
349                               const MACROBLOCK * pMB,
350                               int16_t qcoeff[6 * 64],
351                               Bitstream * bs,
352                               Statistics * pStat)
353  {  {
354    
355          int32_t i;          int32_t i;
356          uint32_t bits, mcbpc, cbpy;          uint32_t bits, mcbpc, cbpy;
357    
# Line 330  Line 359 
359          cbpy = 15 - (pMB->cbp >> 2);          cbpy = 15 - (pMB->cbp >> 2);
360    
361          // write mcbpc          // write mcbpc
362      BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
363                                             mcbpc_inter_tab[mcbpc].len);
364    
365          // write cbpy          // write cbpy
366          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
# Line 340  Line 370 
370                  BitstreamPutBits(bs, pMB->dquant, 2);                  BitstreamPutBits(bs, pMB->dquant, 2);
371    
372          // interlacing          // interlacing
373          if (pParam->global_flags & XVID_INTERLACING)          if (frame->global_flags & XVID_INTERLACING) {
374          {                  if (pMB->cbp) {
375                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
376                  DEBUG1("codep: field_dct: ", pMB->field_dct);                  DEBUG1("codep: field_dct: ", pMB->field_dct);
377                    }
378    
379                  // if inter block, write field ME flag                  // if inter block, write field ME flag
380                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
                 {  
381                          BitstreamPutBit(bs, pMB->field_pred);                          BitstreamPutBit(bs, pMB->field_pred);
382                          DEBUG1("codep: field_pred: ", pMB->field_pred);                          DEBUG1("codep: field_pred: ", pMB->field_pred);
383    
384                          // write field prediction references                          // write field prediction references
385                          if (pMB->field_pred)                          if (pMB->field_pred) {
                         {  
386                                  BitstreamPutBit(bs, pMB->field_for_top);                                  BitstreamPutBit(bs, pMB->field_for_top);
387                                  BitstreamPutBit(bs, pMB->field_for_bot);                                  BitstreamPutBit(bs, pMB->field_for_bot);
388                          }                          }
389                  }                  }
390          }          }
   
391          // code motion vector(s)          // code motion vector(s)
392          for(i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++)          for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {
393          {                  CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);
394                  CodeVector(bs, pMB->pmvs[i].x, pParam->fixed_code, pStat);                  CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);
                 CodeVector(bs, pMB->pmvs[i].y, pParam->fixed_code, pStat);  
395          }          }
396    
397          bits = BitstreamPos(bs);          bits = BitstreamPos(bs);
# Line 372  Line 399 
399          // code block coeffs          // code block coeffs
400          for(i = 0; i < 6; i++)          for(i = 0; i < 6; i++)
401                  if(pMB->cbp & (1 << (5 - i)))                  if(pMB->cbp & (1 << (5 - i)))
402                          CodeCoeff(bs, qcoeff[i], inter_table, scan_tables[0], 0);                          CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);
403    
404          bits = BitstreamPos(bs) - bits;          bits = BitstreamPos(bs) - bits;
405          pStat->iTextBits += bits;          pStat->iTextBits += bits;
 }  
406    
407    }
408    
409  void MBCoding(const MBParam * pParam, MACROBLOCK *pMB,  /*****************************************************************************
410                int16_t qcoeff[][64],   * Macro Block bitstream encoding functions
411                    Bitstream * bs, Statistics * pStat)   ****************************************************************************/
412    
413    void
414    MBCoding(const FRAMEINFO * frame,
415                     MACROBLOCK * pMB,
416                     int16_t qcoeff[6 * 64],
417                     Bitstream * bs,
418                     Statistics * pStat)
419  {  {
         int intra = (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q);  
420    
421      if(pParam->coding_type == P_VOP) {          if (frame->coding_type == P_VOP) {
                 if(pMB->cbp == 0 && pMB->mode == MODE_INTER &&  
                         pMB->mvs[0].x == 0 && pMB->mvs[0].y == 0)  
                 {  
                         BitstreamPutBit(bs, 1);         // not_coded  
                         return;  
                 }  
                 else  
422                          BitstreamPutBit(bs, 0);         // coded                          BitstreamPutBit(bs, 0);         // coded
423          }          }
424    
425          if(intra)          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
426                  CodeBlockIntra(pParam, pMB, qcoeff, bs, pStat);                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);
427          else          else
428                  CodeBlockInter(pParam, pMB, qcoeff, bs, pStat);                  CodeBlockInter(frame, pMB, qcoeff, bs, pStat);
429    
430  }  }
431    
432    
433    void
434    MBSkip(Bitstream * bs)
435    {
436            BitstreamPutBit(bs, 1); // not coded
437            return;
438    }
439    
440    #if 0
441  /***************************************************************  /***************************************************************
442   * decoding stuff starts here                                  *   * bframe encoding start
443   ***************************************************************/   ***************************************************************/
444    
445  int get_mcbpc_intra(Bitstream * bs)  /*
446            mbtype
447            0       1b              direct(h263)            mvdb
448            1       01b             interpolate mc+q        dbquant, mvdf, mvdb
449            2       001b    backward mc+q           dbquant, mvdb
450            3       0001b   forward mc+q            dbquant, mvdf
451    */
452    
453    void
454    put_bvop_mbtype(Bitstream * bs,
455                                    int value)
456    {
457            switch (value) {
458            case 0:
459                    BitstreamPutBit(bs, 1);
460                    return;
461    
462            case 1:
463                    BitstreamPutBit(bs, 0);
464                    BitstreamPutBit(bs, 1);
465                    return;
466    
467            case 2:
468                    BitstreamPutBit(bs, 0);
469                    BitstreamPutBit(bs, 0);
470                    BitstreamPutBit(bs, 1);
471                    return;
472    
473            case 3:
474                    BitstreamPutBit(bs, 0);
475                    BitstreamPutBit(bs, 0);
476                    BitstreamPutBit(bs, 0);
477                    BitstreamPutBit(bs, 1);
478                    return;
479    
480            default:;                                       // invalid!
481    
482            }
483    
484    }
485    
486    /*
487            dbquant
488            -2      10b
489            0       0b
490            +2      11b
491    */
492    
493    void
494    put_bvop_dbquant(Bitstream * bs,
495                                     int value)
496  {  {
497          uint32_t index;          switch (value) {
498            case 0:
499                    BitstreamPutBit(bs, 0);
500                    return;
501    
502            case -2:
503                    BitstreamPutBit(bs, 1);
504                    BitstreamPutBit(bs, 0);
505                    return;
506    
507          while((index = BitstreamShowBits(bs, 9)) == 1)          case 2:
508                  BitstreamSkip(bs, 9);                  BitstreamPutBit(bs, 1);
509                    BitstreamPutBit(bs, 1);
510                    return;
511    
512            default:;                                       // invalid
513            }
514    }
515    
516    void
517    MBCodingBVOP(const MACROBLOCK * mb,
518                             const int16_t qcoeff[6 * 64],
519                             const int32_t fcode,
520                             const int32_t bcode,
521                             Bitstream * bs,
522                             Statistics * pStat)
523    {
524            int i;
525    
526    /*      ------------------------------------------------------------------
527                    when a block is skipped it is decoded DIRECT(0,0)
528                    hence is interpolated from forward & backward frames
529            ------------------------------------------------------------------ */
530    
531            if (mb->mode == MODE_DIRECT_NONE_MV) {
532                    BitstreamPutBit(bs, 1); // skipped
533                    return;
534            }
535    
536            BitstreamPutBit(bs, 0);         // not skipped
537    
538            if (mb->cbp == 0) {
539                    BitstreamPutBit(bs, 1); // cbp == 0
540            } else {
541                    BitstreamPutBit(bs, 0); // cbp == xxx
542            }
543    
544            put_bvop_mbtype(bs, mb->mode);
545    
546            if (mb->cbp) {
547                    BitstreamPutBits(bs, mb->cbp, 6);
548            }
549    
550            if (mb->mode != MODE_DIRECT && mb->cbp != 0) {
551                    put_bvop_dbquant(bs, 0);        // todo: mb->dquant = 0
552            }
553    
554            if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
555                    CodeVector(bs, mb->pmvs[0].x, fcode, pStat);
556                    CodeVector(bs, mb->pmvs[0].y, fcode, pStat);
557            }
558    
559            if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
560                    CodeVector(bs, mb->b_pmvs[0].x, bcode, pStat);
561                    CodeVector(bs, mb->b_pmvs[0].y, bcode, pStat);
562            }
563    
564            if (mb->mode == MODE_DIRECT) {
565                    CodeVector(bs, mb->deltamv.x, 1, pStat);                /* fcode is always 1 for delta vector */
566                    CodeVector(bs, mb->deltamv.y, 1, pStat);                /* prediction is always (0,0) */
567            }
568    
569            for (i = 0; i < 6; i++) {
570                    if (mb->cbp & (1 << (5 - i))) {
571                            CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);
572                    }
573            }
574    }
575    #endif
576    
577    
578    /*****************************************************************************
579     * decoding stuff starts here
580     ****************************************************************************/
581    
582    /*
583     * For IVOP addbits == 0
584     * For PVOP addbits == fcode - 1
585     * For BVOP addbits == max(fcode,bcode) - 1
586     * returns true or false
587     */
588    
589    int
590    check_resync_marker(Bitstream * bs, int addbits)
591    {
592            uint32_t nbits;
593            uint32_t code;
594            uint32_t nbitsresyncmarker = NUMBITS_VP_RESYNC_MARKER + addbits;
595    
596            nbits = BitstreamNumBitsToByteAlign(bs);
597            code = BitstreamShowBits(bs, nbits);
598    
599            if (code == (((uint32_t)1 << (nbits - 1)) - 1))
600            {
601                    return BitstreamShowBitsFromByteAlign(bs, nbitsresyncmarker) == RESYNC_MARKER;
602            }
603    
604            return 0;
605    }
606    
607    
608    
609    int
610    get_mcbpc_intra(Bitstream * bs)
611    {
612    
613            uint32_t index;
614    
615            index = BitstreamShowBits(bs, 9);
616          index >>= 3;          index >>= 3;
617    
618          BitstreamSkip(bs, mcbpc_intra_table[index].len);          BitstreamSkip(bs, mcbpc_intra_table[index].len);
619    
620          return mcbpc_intra_table[index].code;          return mcbpc_intra_table[index].code;
621    
622  }  }
623    
624  int get_mcbpc_inter(Bitstream * bs)  int
625    get_mcbpc_inter(Bitstream * bs)
626  {  {
627    
628          uint32_t index;          uint32_t index;
629    
630          while((index = CLIP(BitstreamShowBits(bs, 9), 256)) == 1)          index = CLIP(BitstreamShowBits(bs, 9), 256);
                 BitstreamSkip(bs, 9);  
631    
632      BitstreamSkip(bs,  mcbpc_inter_table[index].len);      BitstreamSkip(bs,  mcbpc_inter_table[index].len);
633    
634          return mcbpc_inter_table[index].code;          return mcbpc_inter_table[index].code;
635    
636  }  }
637    
638  int get_cbpy(Bitstream * bs, int intra)  int
639    get_cbpy(Bitstream * bs,
640                     int intra)
641  {  {
642    
643          int cbpy;          int cbpy;
644          uint32_t index = BitstreamShowBits(bs, 6);          uint32_t index = BitstreamShowBits(bs, 6);
645    
# Line 443  Line 650 
650                  cbpy = 15 - cbpy;                  cbpy = 15 - cbpy;
651    
652          return cbpy;          return cbpy;
653    
654  }  }
655    
656  int get_mv_data(Bitstream * bs)  int
657    get_mv_data(Bitstream * bs)
658  {  {
659    
660          uint32_t index;          uint32_t index;
661    
662          if(BitstreamGetBit(bs))          if(BitstreamGetBit(bs))
# Line 454  Line 664 
664    
665          index = BitstreamShowBits(bs, 12);          index = BitstreamShowBits(bs, 12);
666    
667          if(index >= 512)          if (index >= 512) {
         {  
668                  index = (index >> 8) - 2;                  index = (index >> 8) - 2;
669                  BitstreamSkip(bs, TMNMVtab0[index].len);                  BitstreamSkip(bs, TMNMVtab0[index].len);
670                  return TMNMVtab0[index].code;                  return TMNMVtab0[index].code;
671          }          }
672    
673          if(index >= 128)          if (index >= 128) {
         {  
674                  index = (index >> 2) - 32;                  index = (index >> 2) - 32;
675                  BitstreamSkip(bs, TMNMVtab1[index].len);                  BitstreamSkip(bs, TMNMVtab1[index].len);
676                  return TMNMVtab1[index].code;                  return TMNMVtab1[index].code;
# Line 472  Line 680 
680    
681          BitstreamSkip(bs, TMNMVtab2[index].len);          BitstreamSkip(bs, TMNMVtab2[index].len);
682          return TMNMVtab2[index].code;          return TMNMVtab2[index].code;
683    
684  }  }
685    
686  int get_mv(Bitstream * bs, int fcode)  int
687    get_mv(Bitstream * bs,
688               int fcode)
689  {  {
690    
691          int data;          int data;
692          int res;          int res;
693          int mv;          int mv;
# Line 490  Line 702 
702          mv = ((ABS(data) - 1) * scale_fac) + res + 1;          mv = ((ABS(data) - 1) * scale_fac) + res + 1;
703    
704          return data < 0 ? -mv : mv;          return data < 0 ? -mv : mv;
705    
706  }  }
707    
708  int get_dc_dif(Bitstream * bs, uint32_t dc_size)  int
709    get_dc_dif(Bitstream * bs,
710                       uint32_t dc_size)
711  {  {
712    
713          int code = BitstreamGetBits(bs, dc_size);          int code = BitstreamGetBits(bs, dc_size);
714          int msb = code >> (dc_size - 1);          int msb = code >> (dc_size - 1);
715    
# Line 501  Line 717 
717                  return (-1 * (code^((1 << dc_size) - 1)));                  return (-1 * (code^((1 << dc_size) - 1)));
718    
719          return code;          return code;
720    
721  }  }
722    
723  int get_dc_size_lum(Bitstream * bs)  int
724    get_dc_size_lum(Bitstream * bs)
725  {  {
726    
727          int code, i;          int code, i;
728    
729          code = BitstreamShowBits(bs, 11);          code = BitstreamShowBits(bs, 11);
730    
731          for(i = 11; i > 3; i--) {          for(i = 11; i > 3; i--) {
# Line 518  Line 738 
738    
739          BitstreamSkip(bs, dc_lum_tab[code].len);          BitstreamSkip(bs, dc_lum_tab[code].len);
740          return dc_lum_tab[code].code;          return dc_lum_tab[code].code;
741    
742  }  }
743    
744    
745  int get_dc_size_chrom(Bitstream * bs)  int
746    get_dc_size_chrom(Bitstream * bs)
747  {  {
748    
749          uint32_t code, i;          uint32_t code, i;
750    
751          code = BitstreamShowBits(bs, 12);          code = BitstreamShowBits(bs, 12);
752    
753          for(i = 12; i > 2; i--) {          for(i = 12; i > 2; i--) {
# Line 535  Line 759 
759          }          }
760    
761          return 3 - BitstreamGetBits(bs, 2);          return 3 - BitstreamGetBits(bs, 2);
762    
763  }  }
764    
765  int get_coeff(Bitstream * bs, int *run, int *last, int intra, int short_video_header)  /*****************************************************************************
766     * Local inlined function to "decode" written vlc codes
767     ****************************************************************************/
768    
769    static __inline int
770    get_coeff(Bitstream * bs,
771                      int *run,
772                      int *last,
773                      int intra,
774                      int short_video_header)
775  {  {
776    
777      uint32_t mode;      uint32_t mode;
778      const VLC *tab;      const VLC *tab;
779          int32_t level;          int32_t level;
# Line 554  Line 789 
789          BitstreamSkip(bs, tab->len);          BitstreamSkip(bs, tab->len);
790    
791          if(tab->code != ESCAPE) {          if(tab->code != ESCAPE) {
792                  if(!intra)                  if (!intra) {
                 {  
793                          *run = (tab->code >> 4) & 255;                          *run = (tab->code >> 4) & 255;
794                          level = tab->code & 15;                          level = tab->code & 15;
795                          *last = (tab->code >> 12) & 1;                          *last = (tab->code >> 12) & 1;
796                  }                  } else {
             else  
                 {  
797                          *run = (tab->code >> 8) & 255;                          *run = (tab->code >> 8) & 255;
798                          level = tab->code & 255;                          level = tab->code & 255;
799                          *last = (tab->code >> 16) & 1;                          *last = (tab->code >> 16) & 1;
# Line 569  Line 801 
801                  return BitstreamGetBit(bs) ? -level : level;                  return BitstreamGetBit(bs) ? -level : level;
802          }          }
803    
804          if(short_video_header)          if (short_video_header) {
         {  
805                  // escape mode 4 - H.263 type, only used if short_video_header = 1                  // escape mode 4 - H.263 type, only used if short_video_header = 1
806                  *last = BitstreamGetBit(bs);                  *last = BitstreamGetBit(bs);
807                  *run = BitstreamGetBits(bs, 6);                  *run = BitstreamGetBits(bs, 6);
# Line 597  Line 828 
828                          *run = (tab->code >> 4) & 255;                          *run = (tab->code >> 4) & 255;
829                          level = tab->code & 15;                          level = tab->code & 15;
830                          *last = (tab->code >> 12) & 1;                          *last = (tab->code >> 12) & 1;
831                  }                  } else {
                 else  
                 {  
832                          *run = (tab->code >> 8) & 255;                          *run = (tab->code >> 8) & 255;
833                          level = tab->code & 255;                          level = tab->code & 255;
834                          *last = (tab->code >> 16) & 1;                          *last = (tab->code >> 16) & 1;
# Line 612  Line 841 
841    
842                  return BitstreamGetBit(bs) ? -level : level;                  return BitstreamGetBit(bs) ? -level : level;
843          }          }
   
844          // third escape mode - fixed length codes          // third escape mode - fixed length codes
845          BitstreamSkip(bs, 2);          BitstreamSkip(bs, 2);
846          *last = BitstreamGetBits(bs, 1);          *last = BitstreamGetBits(bs, 1);
# Line 626  Line 854 
854  error:  error:
855          *run = VLC_ERROR;          *run = VLC_ERROR;
856          return 0;          return 0;
 }  
857    
858    }
859    
860  void get_intra_block(Bitstream * bs, int16_t * block, int direction, int coeff)  /*****************************************************************************
861     * MB reading functions
862     ****************************************************************************/
863    
864    void
865    get_intra_block(Bitstream * bs,
866                                    int16_t * block,
867                                    int direction,
868                                    int coeff)
869  {  {
870    
871          const uint16_t * scan = scan_tables[ direction ];          const uint16_t * scan = scan_tables[ direction ];
872          int level;          int level;
873          int run;          int run;
874          int last;          int last;
875    
876          do          do {
         {  
877                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
878                  if (run == -1)                  if (run == -1) {
                 {  
879                          DEBUG("fatal: invalid run");                          DEBUG("fatal: invalid run");
880                          break;                          break;
881                  }                  }
882                  coeff += run;                  coeff += run;
883                  block[ scan[coeff] ] = level;                  block[ scan[coeff] ] = level;
884                  if (level < -127 || level > 127)  
885                  {                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);
886                    //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));
887    
888                    if (level < -127 || level > 127) {
889                          DEBUG1("warning: intra_overflow", level);                          DEBUG1("warning: intra_overflow", level);
890                  }                  }
891                  coeff++;                  coeff++;
892          } while (!last);          } while (!last);
893    
894  }  }
895    
896  void get_inter_block(Bitstream * bs, int16_t * block)  void
897    get_inter_block(Bitstream * bs,
898                                    int16_t * block)
899  {  {
900    
901          const uint16_t * scan = scan_tables[0];          const uint16_t * scan = scan_tables[0];
902          int p;          int p;
903          int level;          int level;
# Line 663  Line 905 
905          int last;          int last;
906    
907          p = 0;          p = 0;
908          do          do {
         {  
909                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
910                  if (run == -1)                  if (run == -1) {
                 {  
911                          DEBUG("fatal: invalid run");                          DEBUG("fatal: invalid run");
912                          break;                          break;
913                  }                  }
914                  p += run;                  p += run;
915    
916                  block[ scan[p] ] = level;                  block[ scan[p] ] = level;
917                  if (level < -127 || level > 127)  
918                  {                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
919                    // DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[p], level, BitstreamShowBits(bs, 32));
920    
921                    if (level < -127 || level > 127) {
922                          DEBUG1("warning: inter_overflow", level);                          DEBUG1("warning: inter_overflow", level);
923                  }                  }
924                  p++;                  p++;
925          } while (!last);          } while (!last);
926    
927  }  }

Legend:
Removed from v.69  
changed lines
  Added in v.454

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4