[svn] / trunk / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 252, Sun Jun 30 10:46:29 2002 UTC revision 514, Sun Sep 22 17:01:36 2002 UTC
# Line 1  Line 1 
1   /******************************************************************************  /*****************************************************************************
2    *                                                                            *   *
3    *  This file is part of XviD, a free MPEG-4 video encoder/decoder            *   *  XVID MPEG-4 VIDEO CODEC
4    *                                                                            *   *  - Macro Block coding functions -
5    *  XviD is an implementation of a part of one or more MPEG-4 Video tools     *   *
6    *  as specified in ISO/IEC 14496-2 standard.  Those intending to use this    *   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7    *  software module in hardware or software products are advised that its     *   *
8    *  use may infringe existing patents or copyrights, and any such use         *   *
9    *  would be at such party's own risk.  The original developer of this        *   *  This program is an implementation of a part of one or more MPEG-4
10    *  software module and his/her company, and subsequent editors and their     *   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
11    *  companies, will have no liability for use of this software or             *   *  to use this software module in hardware or software products are
12    *  modifications or derivatives thereof.                                     *   *  advised that its use may infringe existing patents or copyrights, and
13    *                                                                            *   *  any such use would be at such party's own risk.  The original
14    *  XviD is free software; you can redistribute it and/or modify it           *   *  developer of this software module and his/her company, and subsequent
15    *  under the terms of the GNU General Public License as published by         *   *  editors and their companies, will have no liability for use of this
16    *  the Free Software Foundation; either version 2 of the License, or         *   *  software or modifications or derivatives thereof.
17    *  (at your option) any later version.                                       *   *
18    *                                                                            *   *  This program is free software; you can redistribute it and/or modify
19    *  XviD is distributed in the hope that it will be useful, but               *   *  it under the terms of the GNU General Public License as published by
20    *  WITHOUT ANY WARRANTY; without even the implied warranty of                *   *  the Free Software Foundation; either version 2 of the License, or
21    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the             *   *  (at your option) any later version.
22    *  GNU General Public License for more details.                              *   *
23    *                                                                            *   *  This program is distributed in the hope that it will be useful,
24    *  You should have received a copy of the GNU General Public License         *   *  but WITHOUT ANY WARRANTY; without even the implied warranty of
25    *  along with this program; if not, write to the Free Software               *   *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
26    *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA  *   *  GNU General Public License for more details.
27    *                                                                            *   *
28    ******************************************************************************/   *  You should have received a copy of the GNU General Public License
29     *  along with this program; if not, write to the Free Software
30   /******************************************************************************   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
31    *                                                                            *   *
32    *  mbcoding.c                                                                *   * $Id: mbcoding.c,v 1.32 2002-09-22 17:01:36 edgomez Exp $
33    *                                                                            *   *
34    *  Copyright (C) 2002 - Michael Militzer <isibaar@xvid.org>                  *   ****************************************************************************/
   *                                                                            *  
   *  For more information visit the XviD homepage: http://www.xvid.org         *  
   *                                                                            *  
   ******************************************************************************/  
   
  /******************************************************************************  
   *                                                                                                                                                        *  
   *  Revision history:                                                         *  
   *                                                                            *  
   *  28.06.2002 added check_resync_marker()                                    *  
   *  14.04.2002 bframe encoding                                                                                            *  
   *  08.03.2002 initial version; isibaar                                                           *  
   *                                                                                                                                                        *  
   ******************************************************************************/  
   
   
35    
36  #include <stdlib.h>  #include <stdlib.h>
37  #include "../portab.h"  #include "../portab.h"
# Line 61  Line 45 
45  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
46  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
47    
48    /*****************************************************************************
49     * Local data
50     ****************************************************************************/
51    
52    /* msvc sp5+pp gets confused if they globals are made static */
53  VLC intra_table[524032];  VLC intra_table[524032];
54  VLC inter_table[524032];  VLC inter_table[524032];
55    
56  VLC DCT3Dintra[4096];  static VLC DCT3Dintra[4096];
57  VLC DCT3Dinter[4096];  static VLC DCT3Dinter[4096];
58    
59    /*****************************************************************************
60     * Vector Length Coding Initialization
61     ****************************************************************************/
62    
63  void  void
64  init_vlc_tables(void)  init_vlc_tables(void)
# Line 73  Line 66 
66    
67          int32_t k, l, i, intra, last;          int32_t k, l, i, intra, last;
68          VLC *vlc[2];          VLC *vlc[2];
69          VLC **coeff_ptr;          VLC const **coeff_ptr;
70          VLC *vlc1, *vlc2;          VLC *vlc1, *vlc2;
71    
72          vlc1 = DCT3Dintra;          vlc1 = DCT3Dintra;
# Line 82  Line 75 
75          vlc[0] = intra_table;          vlc[0] = intra_table;
76          vlc[1] = inter_table;          vlc[1] = inter_table;
77    
78          // generate encoding vlc lookup tables          /*
79          // the lookup table idea is taken from the excellent fame project by Vivien Chapellier           * Generate encoding vlc lookup tables
80             * the lookup table idea is taken from the excellent fame project
81             * by Vivien Chapellier
82             */
83          for (i = 0; i < 4; i++) {          for (i = 0; i < 4; i++) {
84                  intra = i % 2;                  intra = i % 2;
85                  last = i / 2;                  last = i / 2;
# Line 91  Line 87 
87                  coeff_ptr = coeff_vlc[last + 2 * intra];                  coeff_ptr = coeff_vlc[last + 2 * intra];
88    
89                  for (k = -2047; k < 2048; k++) {        // level                  for (k = -2047; k < 2048; k++) {        // level
90                          int8_t *max_level_ptr = max_level[last + 2 * intra];                          int8_t const *max_level_ptr = max_level[last + 2 * intra];
91                          int8_t *max_run_ptr = max_run[last + 2 * intra];                          int8_t const *max_run_ptr = max_run[last + 2 * intra];
92    
93                          for (l = 0; l < 64; l++) {      // run                          for (l = 0; l < 64; l++) {      // run
94                                  int32_t level = k;                                  int32_t level = k;
# Line 185  Line 181 
181    
182  }  }
183    
184    /*****************************************************************************
185     * Local inlined functions for MB coding
186     ****************************************************************************/
187    
188  static __inline void  static __inline void
189  CodeVector(Bitstream * bs,  CodeVector(Bitstream * bs,
190                     int32_t value,                     int32_t value,
# Line 240  Line 240 
240    
241  }  }
242    
   
243  static __inline void  static __inline void
244  CodeCoeff(Bitstream * bs,  CodeCoeff(Bitstream * bs,
245                    const int16_t qcoeff[64],                    const int16_t qcoeff[64],
# Line 279  Line 278 
278    
279  }  }
280    
281    /*****************************************************************************
282     * Local functions
283     ****************************************************************************/
284    
285  static void  static void
286  CodeBlockIntra(const FRAMEINFO * frame,  CodeBlockIntra(const FRAMEINFO * frame,
# Line 370  Line 372 
372    
373          // interlacing          // interlacing
374          if (frame->global_flags & XVID_INTERLACING) {          if (frame->global_flags & XVID_INTERLACING) {
375                    if (pMB->cbp) {
376                  BitstreamPutBit(bs, pMB->field_dct);                  BitstreamPutBit(bs, pMB->field_dct);
377                  DEBUG1("codep: field_dct: ", pMB->field_dct);                          DPRINTF(DPRINTF_DEBUG, "codep: field_dct: %d", pMB->field_dct);
378                    }
379    
380                  // if inter block, write field ME flag                  // if inter block, write field ME flag
381                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
382                          BitstreamPutBit(bs, pMB->field_pred);                          BitstreamPutBit(bs, pMB->field_pred);
383                          DEBUG1("codep: field_pred: ", pMB->field_pred);                          DPRINTF(DPRINTF_DEBUG, "codep: field_pred: %d", pMB->field_pred);
384    
385                          // write field prediction references                          // write field prediction references
386                          if (pMB->field_pred) {                          if (pMB->field_pred) {
# Line 403  Line 407 
407    
408  }  }
409    
410    /*****************************************************************************
411     * Macro Block bitstream encoding functions
412     ****************************************************************************/
413    
414  void  void
415  MBCoding(const FRAMEINFO * frame,  MBCoding(const FRAMEINFO * frame,
# Line 412  Line 419 
419                   Statistics * pStat)                   Statistics * pStat)
420  {  {
421    
         int intra = (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q);  
   
422          if (frame->coding_type == P_VOP) {          if (frame->coding_type == P_VOP) {
                 if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&  
                         pMB->mvs[0].y == 0) {  
                         BitstreamPutBit(bs, 1); // not_coded  
                         return;  
                 } else  
423                          BitstreamPutBit(bs, 0); // coded                          BitstreamPutBit(bs, 0); // coded
424          }          }
425    
426          if (intra)          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
427                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);
428          else          else
429                  CodeBlockInter(frame, pMB, qcoeff, bs, pStat);                  CodeBlockInter(frame, pMB, qcoeff, bs, pStat);
430    
431  }  }
432    
 /***************************************************************  
  * bframe encoding start  
  ***************************************************************/  
   
 /*  
         mbtype  
         0       1b              direct(h263)            mvdb  
         1       01b             interpolate mc+q        dbquant, mvdf, mvdb  
         2       001b    backward mc+q           dbquant, mvdb  
         3       0001b   forward mc+q            dbquant, mvdf  
 */  
433    
434  void  void
435  put_bvop_mbtype(Bitstream * bs,  MBSkip(Bitstream * bs)
                                 int value)  
436  {  {
437          switch (value) {          BitstreamPutBit(bs, 1); // not coded
         case 0:  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 1:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         case 3:  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 0);  
                 BitstreamPutBit(bs, 1);  
438                  return;                  return;
   
         default:;                                       // invalid!  
   
439          }          }
440    
441  }  /*****************************************************************************
442     * decoding stuff starts here
443     ****************************************************************************/
444    
445  /*  /*
446          dbquant   * For IVOP addbits == 0
447          -2      10b   * For PVOP addbits == fcode - 1
448          0       0b   * For BVOP addbits == max(fcode,bcode) - 1
449          +2      11b   * returns true or false
450  */  */
451    
 void  
 put_bvop_dbquant(Bitstream * bs,  
                                  int value)  
 {  
         switch (value) {  
         case 0:  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case -2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         default:;                                       // invalid  
         }  
 }  
   
   
   
 void  
 MBCodingBVOP(const MACROBLOCK * mb,  
                          const int16_t qcoeff[6 * 64],  
                          const int32_t fcode,  
                          const int32_t bcode,  
                          Bitstream * bs,  
                          Statistics * pStat)  
 {  
         int i;  
   
 /*      ------------------------------------------------------------------  
                 when a block is skipped it is decoded DIRECT(0,)  
                 hence are interpolated from forward & backward frames  
         ------------------------------------------------------------------ */  
   
         if (mb->mode == 5) {  
                 BitstreamPutBit(bs, 1); // skipped  
                 return;  
         }  
   
         BitstreamPutBit(bs, 0);         // not skipped  
   
         if (mb->cbp == 0) {  
                 BitstreamPutBit(bs, 1); // cbp == 0  
         } else {  
                 BitstreamPutBit(bs, 0); // cbp == xxx  
         }  
   
         put_bvop_mbtype(bs, mb->mode);  
   
         if (mb->cbp) {  
                 BitstreamPutBits(bs, mb->cbp, 6);  
         }  
   
         if (mb->mode != MODE_DIRECT && mb->cbp != 0) {  
                 put_bvop_dbquant(bs, 0);        // todo: mb->dquant = 0  
         }  
   
         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {  
                 CodeVector(bs, mb->pmvs[0].x, fcode, pStat);  
                 CodeVector(bs, mb->pmvs[0].y, fcode, pStat);  
         }  
   
         if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {  
                 CodeVector(bs, mb->b_pmvs[0].x, bcode, pStat);  
                 CodeVector(bs, mb->b_pmvs[0].y, bcode, pStat);  
         }  
   
         if (mb->mode == MODE_DIRECT) {  
                 // TODO: direct  
         }  
   
         for (i = 0; i < 6; i++) {  
                 if (mb->cbp & (1 << (5 - i))) {  
                         CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);  
                 }  
         }  
 }  
   
   
   
 /***************************************************************  
  * decoding stuff starts here                                  *  
  ***************************************************************/  
   
   
 // for IVOP addbits == 0  
 // for PVOP addbits == fcode - 1  
 // for BVOP addbits == max(fcode,bcode) - 1  
 // returns true or false  
452  int  int
453  check_resync_marker(Bitstream * bs, int addbits)  check_resync_marker(Bitstream * bs, int addbits)
454  {  {
# Line 753  Line 625 
625    
626  }  }
627    
628    /*****************************************************************************
629     * Local inlined function to "decode" written vlc codes
630     ****************************************************************************/
631    
632    static __inline int
633    get_coeff(Bitstream * bs,
634                      int *run,
635                      int *last,
636                      int intra,
637                      int short_video_header)
638    {
639    
640            uint32_t mode;
641            const VLC *tab;
642            int32_t level;
643    
644            if (short_video_header)         // inter-VLCs will be used for both intra and inter blocks
645                    intra = 0;
646    
647            tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];
648    
649            if (tab->code == -1)
650                    goto error;
651    
652            BitstreamSkip(bs, tab->len);
653    
654            if (tab->code != ESCAPE) {
655                    if (!intra) {
656                            *run = (tab->code >> 4) & 255;
657                            level = tab->code & 15;
658                            *last = (tab->code >> 12) & 1;
659                    } else {
660                            *run = (tab->code >> 8) & 255;
661                            level = tab->code & 255;
662                            *last = (tab->code >> 16) & 1;
663                    }
664                    return BitstreamGetBit(bs) ? -level : level;
665            }
666    
667            if (short_video_header) {
668                    // escape mode 4 - H.263 type, only used if short_video_header = 1
669                    *last = BitstreamGetBit(bs);
670                    *run = BitstreamGetBits(bs, 6);
671                    level = BitstreamGetBits(bs, 8);
672    
673                    if (level == 0 || level == 128)
674                            DPRINTF(DPRINTF_ERROR, "Illegal LEVEL for ESCAPE mode 4: %d", level);
675    
676                    return (level >= 128 ? -(256 - level) : level);
677            }
678    
679            mode = BitstreamShowBits(bs, 2);
680    
681            if (mode < 3) {
682                    BitstreamSkip(bs, (mode == 2) ? 2 : 1);
683    
684                    tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];
685                    if (tab->code == -1)
686                            goto error;
687    
688                    BitstreamSkip(bs, tab->len);
689    
690                    if (!intra) {
691                            *run = (tab->code >> 4) & 255;
692                            level = tab->code & 15;
693                            *last = (tab->code >> 12) & 1;
694                    } else {
695                            *run = (tab->code >> 8) & 255;
696                            level = tab->code & 255;
697                            *last = (tab->code >> 16) & 1;
698                    }
699    
700                    if (mode < 2)                   // first escape mode, level is offset
701                            level += max_level[*last + (!intra << 1)][*run];        // need to add back the max level
702                    else if (mode == 2)             // second escape mode, run is offset
703                            *run += max_run[*last + (!intra << 1)][level] + 1;
704    
705                    return BitstreamGetBit(bs) ? -level : level;
706            }
707            // third escape mode - fixed length codes
708            BitstreamSkip(bs, 2);
709            *last = BitstreamGetBits(bs, 1);
710            *run = BitstreamGetBits(bs, 6);
711            BitstreamSkip(bs, 1);           // marker
712            level = BitstreamGetBits(bs, 12);
713            BitstreamSkip(bs, 1);           // marker
714    
715            return (level & 0x800) ? (level | (-1 ^ 0xfff)) : level;
716    
717      error:
718            *run = VLC_ERROR;
719            return 0;
720    
721    }
722    
723    /*****************************************************************************
724     * MB reading functions
725     ****************************************************************************/
726    
727  void  void
728  get_intra_block(Bitstream * bs,  get_intra_block(Bitstream * bs,
729                                  int16_t * block,                                  int16_t * block,
# Line 768  Line 739 
739          do {          do {
740                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
741                  if (run == -1) {                  if (run == -1) {
742                          DEBUG("fatal: invalid run");                          DPRINTF(DPRINTF_DEBUG, "fatal: invalid run");
743                          break;                          break;
744                  }                  }
745                  coeff += run;                  coeff += run;
# Line 778  Line 749 
749                  //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));                  //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));
750    
751                  if (level < -127 || level > 127) {                  if (level < -127 || level > 127) {
752                          DEBUG1("warning: intra_overflow", level);                          DPRINTF(DPRINTF_DEBUG, "warning: intra_overflow: %d", level);
753                  }                  }
754                  coeff++;                  coeff++;
755          } while (!last);          } while (!last);
# Line 800  Line 771 
771          do {          do {
772                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
773                  if (run == -1) {                  if (run == -1) {
774                          DEBUG("fatal: invalid run");                          DPRINTF(DPRINTF_ERROR, "fatal: invalid run");
775                          break;                          break;
776                  }                  }
777                  p += run;                  p += run;
# Line 808  Line 779 
779                  block[scan[p]] = level;                  block[scan[p]] = level;
780    
781                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
                 // DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[p], level, BitstreamShowBits(bs, 32));  
782    
783                  if (level < -127 || level > 127) {                  if (level < -127 || level > 127) {
784                          DEBUG1("warning: inter_overflow", level);                          DPRINTF(DPRINTF_DEBUG, "warning: inter_overflow: %d", level);
785                  }                  }
786                  p++;                  p++;
787          } while (!last);          } while (!last);
Legend:
Removed from v.252  
changed lines
  Added in v.514
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4