[svn] / branches / dev-api-4 / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-4/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 114 - (view) (download)
Original Path: trunk/xvidcore/src/bitstream/mbcoding.c

1 : Isibaar 100 #include <stdlib.h>
2 : Isibaar 3 #include "../portab.h"
3 :     #include "bitstream.h"
4 :     #include "zigzag.h"
5 :     #include "vlc_codes.h"
6 : Isibaar 100 #include "mbcoding.h"
7 : Isibaar 3
8 :     #include "../utils/mbfunctions.h"
9 :    
10 :     #define ABS(X) (((X)>0)?(X):-(X))
11 :     #define CLIP(X,A) (X > A) ? (A) : (X)
12 :    
13 : Isibaar 100 VLC intra_table[65536];
14 :     VLC inter_table[65536];
15 :    
16 : Isibaar 114 VLC DCT3Dintra[4096];
17 :     VLC DCT3Dinter[4096];
18 : Isibaar 3
19 : Isibaar 114 static int16_t clip_table[4096];
20 :    
21 : Isibaar 100 void init_vlc_tables(void)
22 : Isibaar 3 {
23 : edgomez 78
24 : Isibaar 3 int32_t k, l, i, intra, last;
25 :     VLC *vlc[2];
26 :     VLC **coeff_ptr;
27 :     VLC *vlc1, *vlc2;
28 :    
29 :     vlc1 = DCT3Dintra;
30 :     vlc2 = DCT3Dinter;
31 :    
32 : Isibaar 100 vlc[0] = intra_table;
33 :     vlc[1] = inter_table;
34 : Isibaar 3
35 :     // initialize the clipping table
36 :     for(i = -2048; i < 2048; i++) {
37 :     clip_table[i + 2048] = i;
38 :     if(i < -255)
39 :     clip_table[i + 2048] = -255;
40 :     if(i > 255)
41 :     clip_table[i + 2048] = 255;
42 :     }
43 :    
44 : Isibaar 100 // generate encoding vlc lookup tables
45 : Isibaar 3 for(i = 0; i < 4; i++) {
46 :     intra = i % 2;
47 : Isibaar 100 last = i / 2;
48 : Isibaar 3
49 : Isibaar 100 coeff_ptr = coeff_vlc[last + 2 * intra];
50 : Isibaar 3
51 :     for(k = -255; k < 256; k++) { // level
52 : Isibaar 100 int8_t *max_level_ptr = max_level[last + 2 * intra];
53 :     int8_t *max_run_ptr = max_run[last + 2 * intra];
54 : Isibaar 3
55 :     for(l = 0; l < 64; l++) { // run
56 : Isibaar 35 int32_t level = k;
57 :     uint32_t run = l;
58 : Isibaar 100
59 :     if((abs(level) <= max_level_ptr[run]) &&
60 :     (run <= max_run_ptr[abs(level)])) { // level < max_level and run < max_run
61 :    
62 : Isibaar 3 vlc[intra]->code = 0;
63 :     vlc[intra]->len = 0;
64 : Isibaar 100 goto loop_end;
65 :     }
66 :     else {
67 :     if(level > 0) // correct level
68 : Isibaar 3 level -= max_level_ptr[run];
69 :     else
70 :     level += max_level_ptr[run];
71 : Isibaar 35
72 : Isibaar 100 if((abs(level) <= max_level_ptr[run]) &&
73 :     (run <= max_run_ptr[abs(level)])) {
74 : Isibaar 28
75 : Isibaar 100 vlc[intra]->code = 0x06;
76 :     vlc[intra]->len = 8;
77 :     goto loop_end;
78 :     }
79 : Isibaar 3
80 : Isibaar 100 if(level > 0) // still here?
81 :     level += max_level_ptr[run]; // restore level
82 :     else
83 :     level -= max_level_ptr[run];
84 :    
85 :     run -= max_run_ptr[abs(level)] + 1; // and change run
86 :    
87 :     if((abs(level) <= max_level_ptr[run]) &&
88 :     (run <= max_run_ptr[abs(level)])) {
89 :    
90 :     vlc[intra]->code = 0x0e;
91 :     vlc[intra]->len = 9;
92 :     goto loop_end;
93 : Isibaar 3 }
94 : Isibaar 100 run += max_run_ptr[abs(level)] + 1;
95 : Isibaar 3 }
96 : Isibaar 100
97 :     vlc[intra]->code = (uint32_t) ((l << 14) | (0x1e + last) << 20) |
98 :     (1 << 13) | ((k & 0xfff) << 1) | 1;
99 :    
100 :     vlc[intra]->len = 30;
101 : Isibaar 3 vlc[intra]++;
102 : Isibaar 100 continue;
103 :    
104 :     loop_end:
105 :     if(level != 0) {
106 :     vlc[intra]->code = (vlc[intra]->code << (coeff_ptr[run][abs(level) - 1].len + 1)) |
107 :     (coeff_ptr[run][abs(level) - 1].code << 1);
108 :     vlc[intra]->len = (coeff_ptr[run][abs(level) - 1].len + 1) + vlc[intra]->len;
109 :    
110 :     if(level < 0)
111 :     vlc[intra]->code += 1;
112 :     }
113 :    
114 :     vlc[intra]++;
115 : Isibaar 3 }
116 :     }
117 :     }
118 : edgomez 78
119 : Isibaar 3 for(i = 0; i < 4096; i++) {
120 :     if(i >= 512) {
121 :     *vlc1 = DCT3Dtab3[(i >> 5) - 16];
122 :     *vlc2 = DCT3Dtab0[(i >> 5) - 16];
123 :     }
124 :     else if(i >= 128) {
125 :     *vlc1 = DCT3Dtab4[(i >> 2) - 32];
126 :     *vlc2 = DCT3Dtab1[(i >> 2) - 32];
127 :     }
128 :     else if(i >= 8) {
129 :     *vlc1 = DCT3Dtab5[i - 8];
130 :     *vlc2 = DCT3Dtab2[i - 8];
131 :     }
132 :     else {
133 :     *vlc1 = ERRtab[i];
134 :     *vlc2 = ERRtab[i];
135 :     }
136 :    
137 :     vlc1++;
138 :     vlc2++;
139 :     }
140 :     DCT3D[0] = DCT3Dinter;
141 :     DCT3D[1] = DCT3Dintra;
142 :    
143 :     }
144 :    
145 : edgomez 78 static __inline void CodeVector(Bitstream *bs,
146 :     int16_t value,
147 :     int16_t f_code,
148 :     Statistics *pStat)
149 : Isibaar 3 {
150 : edgomez 78
151 : Isibaar 3 const int scale_factor = 1 << (f_code - 1);
152 :     const int cmp = scale_factor << 5;
153 :    
154 :     if(value < (-1 * cmp))
155 :     value += 64 * scale_factor;
156 :    
157 :     if(value > (cmp - 1))
158 :     value -= 64 * scale_factor;
159 :    
160 : edgomez 78 pStat->iMvSum += value * value;
161 :     pStat->iMvCount++;
162 : Isibaar 3
163 : edgomez 78 if (value == 0) {
164 : Isibaar 3 BitstreamPutBits(bs, mb_motion_table[32].code, mb_motion_table[32].len);
165 : edgomez 78 } else {
166 : Isibaar 3 uint16_t length, code, mv_res, sign;
167 :    
168 :     length = 16 << f_code;
169 :     f_code--;
170 :    
171 :     sign = (value < 0);
172 :    
173 :     if(value >= length)
174 :     value -= 2 * length;
175 :     else if(value < -length)
176 :     value += 2 * length;
177 :    
178 :     if(sign)
179 :     value = -value;
180 :    
181 :     value--;
182 :     mv_res = value & ((1 << f_code) - 1);
183 :     code = ((value - mv_res) >> f_code) + 1;
184 :    
185 :     if(sign)
186 :     code = -code;
187 :    
188 :     code += 32;
189 :     BitstreamPutBits(bs, mb_motion_table[code].code, mb_motion_table[code].len);
190 :    
191 :     if(f_code)
192 :     BitstreamPutBits(bs, mv_res, f_code);
193 : edgomez 78 }
194 :    
195 : Isibaar 3 }
196 :    
197 :    
198 : edgomez 78 static __inline void CodeCoeff(Bitstream *bs,
199 :     int16_t qcoeff[64],
200 :     VLC *table,
201 :     const uint16_t *zigzag,
202 :     uint16_t intra)
203 :     {
204 :    
205 : Isibaar 3 uint32_t j, last;
206 :     short v;
207 :     VLC *vlc;
208 :    
209 :     j = intra;
210 :     last = 1 + intra;
211 :    
212 :     while((v = qcoeff[zigzag[j++]]) == 0);
213 :    
214 :     do {
215 :     // count zeroes
216 : Isibaar 100 vlc = table + 64*255 + (clip_table[2048+v] << 6) + j - last;
217 : Isibaar 3 last = j + 1;
218 :     while(j < 64 && (v = qcoeff[zigzag[j++]]) == 0);
219 :    
220 :     // write code
221 :     if(j != 64) {
222 :     BitstreamPutBits(bs, vlc->code, vlc->len);
223 :     } else {
224 :     vlc += 64*511;
225 :     BitstreamPutBits(bs, vlc->code, vlc->len);
226 :     break;
227 :     }
228 :     } while(1);
229 : edgomez 78
230 : Isibaar 3 }
231 :    
232 :    
233 : edgomez 78 static void CodeBlockIntra(const MBParam * pParam,
234 :     const MACROBLOCK *pMB,
235 :     int16_t qcoeff[6*64],
236 :     Bitstream * bs,
237 :     Statistics * pStat)
238 : Isibaar 3 {
239 : edgomez 78
240 : Isibaar 3 uint32_t i, mcbpc, cbpy, bits;
241 :    
242 :     cbpy = pMB->cbp >> 2;
243 :    
244 : edgomez 78 // write mcbpc
245 : Isibaar 28 if(pParam->coding_type == I_VOP) {
246 : edgomez 78 mcbpc = ((pMB->mode >> 1) & 3) | ((pMB->cbp & 3) << 2);
247 : Isibaar 28 BitstreamPutBits(bs, mcbpc_intra_tab[mcbpc].code, mcbpc_intra_tab[mcbpc].len);
248 :     }
249 :     else {
250 : edgomez 78 mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
251 : Isibaar 28 BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);
252 :     }
253 : Isibaar 3
254 :     // ac prediction flag
255 :     if(pMB->acpred_directions[0])
256 : edgomez 78 BitstreamPutBits(bs, 1, 1);
257 : Isibaar 3 else
258 : edgomez 78 BitstreamPutBits(bs, 0, 1);
259 : Isibaar 3
260 : edgomez 78 // write cbpy
261 : Isibaar 3 BitstreamPutBits (bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
262 :    
263 :     // write dquant
264 : edgomez 78 if(pMB->mode == MODE_INTRA_Q)
265 : Isibaar 3 BitstreamPutBits(bs, pMB->dquant, 2);
266 :    
267 : h 69 // write interlacing
268 :     if (pParam->global_flags & XVID_INTERLACING)
269 :     {
270 :     BitstreamPutBit(bs, pMB->field_dct);
271 :     }
272 :    
273 : Isibaar 3 // code block coeffs
274 :     for(i = 0; i < 6; i++)
275 :     {
276 :     if(i < 4)
277 : edgomez 78 BitstreamPutBits(bs,
278 :     dcy_tab[qcoeff[i*64 + 0] + 255].code,
279 :     dcy_tab[qcoeff[i*64 + 0] + 255].len);
280 : Isibaar 3 else
281 : edgomez 78 BitstreamPutBits(bs,
282 :     dcc_tab[qcoeff[i*64 + 0] + 255].code,
283 :     dcc_tab[qcoeff[i*64 + 0] + 255].len);
284 : Isibaar 3
285 :     if(pMB->cbp & (1 << (5 - i)))
286 :     {
287 :     bits = BitstreamPos(bs);
288 :    
289 : edgomez 78 CodeCoeff(bs,
290 :     &qcoeff[i*64],
291 :     intra_table,
292 :     scan_tables[pMB->acpred_directions[i]],
293 :     1);
294 : Isibaar 3
295 :     bits = BitstreamPos(bs) - bits;
296 :     pStat->iTextBits += bits;
297 :     }
298 :     }
299 : edgomez 78
300 : Isibaar 3 }
301 :    
302 :    
303 : edgomez 78 static void CodeBlockInter(const MBParam * pParam,
304 :     const MACROBLOCK *pMB,
305 :     int16_t qcoeff[6*64],
306 :     Bitstream * bs,
307 :     Statistics * pStat)
308 : Isibaar 3 {
309 : edgomez 78
310 : Isibaar 3 int32_t i;
311 :     uint32_t bits, mcbpc, cbpy;
312 :    
313 : edgomez 78 mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
314 : Isibaar 3 cbpy = 15 - (pMB->cbp >> 2);
315 :    
316 :     // write mcbpc
317 : edgomez 78 BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code, mcbpc_inter_tab[mcbpc].len);
318 : Isibaar 3
319 :     // write cbpy
320 :     BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
321 :    
322 :     // write dquant
323 : edgomez 78 if(pMB->mode == MODE_INTER_Q)
324 : Isibaar 3 BitstreamPutBits(bs, pMB->dquant, 2);
325 :    
326 : h 69 // interlacing
327 :     if (pParam->global_flags & XVID_INTERLACING)
328 :     {
329 :     BitstreamPutBit(bs, pMB->field_dct);
330 :     DEBUG1("codep: field_dct: ", pMB->field_dct);
331 :    
332 :     // if inter block, write field ME flag
333 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
334 :     {
335 :     BitstreamPutBit(bs, pMB->field_pred);
336 :     DEBUG1("codep: field_pred: ", pMB->field_pred);
337 :    
338 :     // write field prediction references
339 :     if (pMB->field_pred)
340 :     {
341 :     BitstreamPutBit(bs, pMB->field_for_top);
342 :     BitstreamPutBit(bs, pMB->field_for_bot);
343 :     }
344 :     }
345 :     }
346 :    
347 : Isibaar 3 // code motion vector(s)
348 :     for(i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++)
349 :     {
350 :     CodeVector(bs, pMB->pmvs[i].x, pParam->fixed_code, pStat);
351 :     CodeVector(bs, pMB->pmvs[i].y, pParam->fixed_code, pStat);
352 :     }
353 :    
354 :     bits = BitstreamPos(bs);
355 :    
356 :     // code block coeffs
357 :     for(i = 0; i < 6; i++)
358 :     if(pMB->cbp & (1 << (5 - i)))
359 : edgomez 78 CodeCoeff(bs, &qcoeff[i*64], inter_table, scan_tables[0], 0);
360 : Isibaar 3
361 :     bits = BitstreamPos(bs) - bits;
362 :     pStat->iTextBits += bits;
363 : edgomez 78
364 : Isibaar 3 }
365 :    
366 :    
367 : edgomez 78 void MBCoding(const MBParam * pParam,
368 :     MACROBLOCK *pMB,
369 :     int16_t qcoeff[6*64],
370 :     Bitstream * bs,
371 :     Statistics * pStat)
372 : Isibaar 3 {
373 : edgomez 78
374 : Isibaar 3 int intra = (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q);
375 :    
376 : edgomez 78 if(pParam->coding_type == P_VOP) {
377 : Isibaar 3 if(pMB->cbp == 0 && pMB->mode == MODE_INTER &&
378 : edgomez 78 pMB->mvs[0].x == 0 && pMB->mvs[0].y == 0)
379 : Isibaar 3 {
380 :     BitstreamPutBit(bs, 1); // not_coded
381 :     return;
382 :     }
383 :     else
384 :     BitstreamPutBit(bs, 0); // coded
385 :     }
386 :    
387 :     if(intra)
388 :     CodeBlockIntra(pParam, pMB, qcoeff, bs, pStat);
389 :     else
390 :     CodeBlockInter(pParam, pMB, qcoeff, bs, pStat);
391 : edgomez 78
392 : Isibaar 3 }
393 :    
394 :    
395 :     /***************************************************************
396 : edgomez 15 * decoding stuff starts here *
397 :     ***************************************************************/
398 : Isibaar 3
399 :     int get_mcbpc_intra(Bitstream * bs)
400 :     {
401 : edgomez 78
402 : Isibaar 3 uint32_t index;
403 :    
404 :     while((index = BitstreamShowBits(bs, 9)) == 1)
405 :     BitstreamSkip(bs, 9);
406 :    
407 :     index >>= 3;
408 :    
409 :     BitstreamSkip(bs, mcbpc_intra_table[index].len);
410 : edgomez 78
411 : Isibaar 3 return mcbpc_intra_table[index].code;
412 : edgomez 78
413 : Isibaar 3 }
414 :    
415 :     int get_mcbpc_inter(Bitstream * bs)
416 :     {
417 : edgomez 78
418 : Isibaar 3 uint32_t index;
419 :    
420 :     while((index = CLIP(BitstreamShowBits(bs, 9), 256)) == 1)
421 :     BitstreamSkip(bs, 9);
422 :    
423 : edgomez 78 BitstreamSkip(bs, mcbpc_inter_table[index].len);
424 :    
425 : Isibaar 3 return mcbpc_inter_table[index].code;
426 : edgomez 78
427 : Isibaar 3 }
428 :    
429 :     int get_cbpy(Bitstream * bs, int intra)
430 :     {
431 : edgomez 78
432 : Isibaar 3 int cbpy;
433 :     uint32_t index = BitstreamShowBits(bs, 6);
434 :    
435 :     BitstreamSkip(bs, cbpy_table[index].len);
436 :     cbpy = cbpy_table[index].code;
437 :    
438 :     if(!intra)
439 :     cbpy = 15 - cbpy;
440 :    
441 :     return cbpy;
442 : edgomez 78
443 : Isibaar 3 }
444 :    
445 :     int get_mv_data(Bitstream * bs)
446 :     {
447 : edgomez 78
448 : Isibaar 3 uint32_t index;
449 :    
450 :     if(BitstreamGetBit(bs))
451 :     return 0;
452 :    
453 :     index = BitstreamShowBits(bs, 12);
454 :    
455 :     if(index >= 512)
456 :     {
457 :     index = (index >> 8) - 2;
458 :     BitstreamSkip(bs, TMNMVtab0[index].len);
459 :     return TMNMVtab0[index].code;
460 :     }
461 :    
462 :     if(index >= 128)
463 :     {
464 :     index = (index >> 2) - 32;
465 :     BitstreamSkip(bs, TMNMVtab1[index].len);
466 :     return TMNMVtab1[index].code;
467 :     }
468 :    
469 :     index -= 4;
470 :    
471 :     BitstreamSkip(bs, TMNMVtab2[index].len);
472 :     return TMNMVtab2[index].code;
473 : edgomez 78
474 : Isibaar 3 }
475 :    
476 :     int get_mv(Bitstream * bs, int fcode)
477 :     {
478 : edgomez 78
479 : Isibaar 3 int data;
480 :     int res;
481 :     int mv;
482 :     int scale_fac = 1 << (fcode - 1);
483 :    
484 :     data = get_mv_data(bs);
485 :    
486 :     if(scale_fac == 1 || data == 0)
487 :     return data;
488 :    
489 :     res = BitstreamGetBits(bs, fcode - 1);
490 :     mv = ((ABS(data) - 1) * scale_fac) + res + 1;
491 :    
492 :     return data < 0 ? -mv : mv;
493 : edgomez 78
494 : Isibaar 3 }
495 :    
496 :     int get_dc_dif(Bitstream * bs, uint32_t dc_size)
497 :     {
498 : edgomez 78
499 : Isibaar 3 int code = BitstreamGetBits(bs, dc_size);
500 :     int msb = code >> (dc_size - 1);
501 :    
502 :     if(msb == 0)
503 :     return (-1 * (code^((1 << dc_size) - 1)));
504 :    
505 :     return code;
506 : edgomez 78
507 : Isibaar 3 }
508 :    
509 :     int get_dc_size_lum(Bitstream * bs)
510 :     {
511 : edgomez 78
512 : Isibaar 3 int code, i;
513 :     code = BitstreamShowBits(bs, 11);
514 :    
515 :     for(i = 11; i > 3; i--) {
516 :     if(code == 1) {
517 :     BitstreamSkip(bs, i);
518 :     return i + 1;
519 :     }
520 :     code >>= 1;
521 :     }
522 :    
523 :     BitstreamSkip(bs, dc_lum_tab[code].len);
524 :     return dc_lum_tab[code].code;
525 : edgomez 78
526 : Isibaar 3 }
527 :    
528 :    
529 :     int get_dc_size_chrom(Bitstream * bs)
530 :     {
531 : edgomez 78
532 : Isibaar 3 uint32_t code, i;
533 :     code = BitstreamShowBits(bs, 12);
534 :    
535 :     for(i = 12; i > 2; i--) {
536 :     if(code == 1) {
537 :     BitstreamSkip(bs, i);
538 :     return i;
539 :     }
540 :     code >>= 1;
541 :     }
542 :    
543 :     return 3 - BitstreamGetBits(bs, 2);
544 : edgomez 78
545 : Isibaar 3 }
546 :    
547 :     void get_intra_block(Bitstream * bs, int16_t * block, int direction, int coeff)
548 :     {
549 : edgomez 78
550 : Isibaar 3 const uint16_t * scan = scan_tables[ direction ];
551 :     int level;
552 :     int run;
553 :     int last;
554 :    
555 :     do
556 :     {
557 :     level = get_coeff(bs, &run, &last, 1, 0);
558 :     if (run == -1)
559 :     {
560 :     DEBUG("fatal: invalid run");
561 :     break;
562 :     }
563 :     coeff += run;
564 :     block[ scan[coeff] ] = level;
565 :     if (level < -127 || level > 127)
566 :     {
567 :     DEBUG1("warning: intra_overflow", level);
568 :     }
569 :     coeff++;
570 :     } while (!last);
571 : edgomez 78
572 : Isibaar 3 }
573 :    
574 :     void get_inter_block(Bitstream * bs, int16_t * block)
575 :     {
576 : edgomez 78
577 : Isibaar 3 const uint16_t * scan = scan_tables[0];
578 :     int p;
579 :     int level;
580 :     int run;
581 :     int last;
582 :    
583 :     p = 0;
584 :     do
585 :     {
586 :     level = get_coeff(bs, &run, &last, 0, 0);
587 :     if (run == -1)
588 :     {
589 :     DEBUG("fatal: invalid run");
590 :     break;
591 :     }
592 :     p += run;
593 :     block[ scan[p] ] = level;
594 :     if (level < -127 || level > 127)
595 :     {
596 :     DEBUG1("warning: inter_overflow", level);
597 :     }
598 :     p++;
599 :     } while (!last);
600 : edgomez 78
601 : Isibaar 3 }

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4