[svn] / branches / dev-api-4 / xvidcore / src / motion / motion_est.h Repository:
ViewVC logotype

Diff of /branches/dev-api-4/xvidcore/src/motion/motion_est.h

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

trunk/xvidcore/src/motion/motion_est.h revision 851, Sat Feb 15 15:22:19 2003 UTC branches/dev-api-4/xvidcore/src/motion/motion_est.h revision 1023, Wed May 14 20:23:02 2003 UTC
# Line 26  Line 26 
26   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
27   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
28   *   *
29   *  $Id: motion_est.h,v 1.2 2003-02-15 15:22:18 edgomez Exp $   *  $Id: motion_est.h,v 1.3.2.7 2003-05-14 20:23:02 edgomez Exp $
30   *   *
31   ***************************************************************************/   ***************************************************************************/
32    
# Line 50  Line 50 
50  #define NEIGH_TEND_8X8          40.0  #define NEIGH_TEND_8X8          40.0
51  #define NEIGH_8X8_BIAS          30  #define NEIGH_8X8_BIAS          30
52    
53    #define BITS_MULT                       16
54    
55  /* Parameters which control inter/inter4v decision */  /* Parameters which control inter/inter4v decision */
56  #define IMV16X16                        2  #define IMV16X16                        2
57    
# Line 90  Line 92 
92          (int)(29.6436*NEIGH_TEND_8X8 + 0.5), (int)(36.4949*NEIGH_TEND_8X8 + 0.5)        };          (int)(29.6436*NEIGH_TEND_8X8 + 0.5), (int)(36.4949*NEIGH_TEND_8X8 + 0.5)        };
93    
94  // mv.length table  // mv.length table
95  static const uint32_t mvtab[33] = {  static const int mvtab[64] = {
96          1, 2, 3, 4, 6, 7, 7, 7,          1, 2, 3, 4, 6, 7, 7, 7,
97          9, 9, 9, 10, 10, 10, 10, 10,          9, 9, 9, 10, 10, 10, 10, 10,
98          10, 10, 10, 10, 10, 10, 10, 10,          10, 10, 10, 10, 10, 10, 10, 10,
99          10, 11, 11, 11, 11, 11, 11, 12, 12                  10, 11, 11, 11, 11, 11, 11, 12,
100  };                  12, 12, 12, 12, 12, 12, 12, 12,
101                    12, 12, 12, 12, 12, 12, 12, 12,
102                    12, 12, 12, 12, 12, 12, 12, 12, 12 };
103    
104  static const int DQtab[4] = {  static const int DQtab[4] = {
105          -1, -2, 1, 2          -1, -2, 1, 2
# Line 103  Line 107 
107    
108  #define RRV_MV_SCALEDOWN(a)     ( (a)>=0 ? (a+1)/2 : (a-1)/2 )  #define RRV_MV_SCALEDOWN(a)     ( (a)>=0 ? (a+1)/2 : (a-1)/2 )
109    
 static const VECTOR zeroMV = {0,0};  
   
110  typedef struct  typedef struct
111  {  {
112  // general fields  // general fields
# Line 114  Line 116 
116          VECTOR * currentMV;          VECTOR * currentMV;
117          VECTOR * currentQMV;          VECTOR * currentQMV;
118          int32_t * iMinSAD;          int32_t * iMinSAD;
119          const uint8_t * Ref;          const uint8_t * RefP[6]; // N, V, H, HV, cU, cV
         const uint8_t * RefH;  
         const uint8_t * RefV;  
         const uint8_t * RefHV;  
         const uint8_t * RefCU;  
         const uint8_t * RefCV;  
120          const uint8_t * CurU;          const uint8_t * CurU;
121          const uint8_t * CurV;          const uint8_t * CurV;
122          uint8_t * RefQ;          uint8_t * RefQ;
# Line 133  Line 130 
130          int chroma;          int chroma;
131          int rrv;          int rrv;
132  //fields for interpolate and direct modes  //fields for interpolate and direct modes
133          const uint8_t * bRef;          const uint8_t * b_RefP[6]; // N, V, H, HV, cU, cV
         const uint8_t * bRefH;  
         const uint8_t * bRefV;  
         const uint8_t * bRefHV;  
         const uint8_t * b_RefCU;  
         const uint8_t * b_RefCV;  
   
134          VECTOR bpredMV;          VECTOR bpredMV;
135          uint32_t bFcode;          uint32_t bFcode;
136  // fields for direct mode  // fields for direct mode
137          VECTOR directmvF[4];          VECTOR directmvF[4];
138          VECTOR directmvB[4];          VECTOR directmvB[4];
139          const VECTOR * referencemv;          const VECTOR * referencemv;
140    // BITS/R-D stuff
141            int16_t * dctSpace;
142            uint32_t iQuant;
143            uint32_t quant_type;
144    
145  } SearchData;  } SearchData;
146    
# Line 226  Line 221 
221                  const int x,                  const int x,
222                  const int y,                  const int y,
223                  const uint32_t MotionFlags,                  const uint32_t MotionFlags,
224                  const uint32_t GlobalFlags,                  const uint32_t VopFlags,
225                  const uint32_t iQuant,                  const uint32_t VolFlags,
226                  SearchData * const Data,                  SearchData * const Data,
227                  const MBParam * const pParam,                  const MBParam * const pParam,
228                  const MACROBLOCK * const pMBs,                  const MACROBLOCK * const pMBs,
229                  const MACROBLOCK * const prevMBs,                  const MACROBLOCK * const prevMBs,
                 int inter4v,  
230                  MACROBLOCK * const pMB);                  MACROBLOCK * const pMB);
231    
   
232  static WARPPOINTS  static WARPPOINTS
233  GlobalMotionEst(const MACROBLOCK * const pMBs,  GlobalMotionEst(const MACROBLOCK * const pMBs,
234                                  const MBParam * const pParam,                                  const MBParam * const pParam,
# Line 248  Line 241 
241  #define iDiamondSize 2  #define iDiamondSize 2
242    
243  static __inline uint32_t  static __inline uint32_t
244  MakeGoodMotionFlags(const uint32_t MotionFlags, const uint32_t GlobalFlags)  MakeGoodMotionFlags(const uint32_t MotionFlags, const uint32_t VopFlags, const uint32_t VolFlags)
245  {  {
246          uint32_t Flags = MotionFlags;          uint32_t Flags = MotionFlags;
247    
248          if (!(GlobalFlags & XVID_MODEDECISION_BITS))          if (!(VopFlags & XVID_VOP_MODEDECISION_BITS))
249                  Flags &= ~(QUARTERPELREFINE16_BITS+QUARTERPELREFINE8_BITS+HALFPELREFINE16_BITS+HALFPELREFINE8_BITS+EXTSEARCH_BITS);                  Flags &= ~(XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS+XVID_ME_EXTSEARCH_BITS);
250    
251          if (Flags & EXTSEARCH_BITS)          if (Flags & XVID_ME_EXTSEARCH_BITS)
252                  Flags |= HALFPELREFINE16_BITS;                  Flags |= XVID_ME_HALFPELREFINE16_BITS;
253    
254          if (Flags & EXTSEARCH_BITS && MotionFlags & PMV_EXTSEARCH8)          if (Flags & XVID_ME_EXTSEARCH_BITS && MotionFlags & XVID_ME_EXTSEARCH8)
255                  Flags |= HALFPELREFINE8_BITS;                  Flags |= XVID_ME_HALFPELREFINE8_BITS;
256    
257          if (Flags & HALFPELREFINE16_BITS)          if (Flags & XVID_ME_HALFPELREFINE16_BITS)
258                  Flags |= QUARTERPELREFINE16_BITS;                  Flags |= XVID_ME_QUARTERPELREFINE16_BITS;
259    
260          if (Flags & HALFPELREFINE8_BITS) {          if (Flags & XVID_ME_HALFPELREFINE8_BITS) {
261                  Flags |= QUARTERPELREFINE8_BITS;                  Flags |= XVID_ME_QUARTERPELREFINE8_BITS;
262                  Flags &= ~PMV_HALFPELREFINE8;                  Flags &= ~XVID_ME_HALFPELREFINE8;
263          }          }
264    
265          if (Flags & QUARTERPELREFINE8_BITS)          if (Flags & XVID_ME_QUARTERPELREFINE8_BITS)
266                  Flags &= ~PMV_QUARTERPELREFINE8;                  Flags &= ~XVID_ME_QUARTERPELREFINE8;
267    
268          if (!(GlobalFlags & XVID_QUARTERPEL))          if (!(VolFlags & XVID_VOL_QUARTERPEL))
269                  Flags &= ~(PMV_QUARTERPELREFINE16+PMV_QUARTERPELREFINE8+QUARTERPELREFINE16_BITS+QUARTERPELREFINE8_BITS);                  Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS);
270    
271          if (!(GlobalFlags & XVID_HALFPEL))          if (!(VopFlags & XVID_VOP_HALFPEL))
272                  Flags &= ~(PMV_EXTSEARCH16+PMV_HALFPELREFINE16+PMV_HALFPELREFINE8+HALFPELREFINE16_BITS+HALFPELREFINE8_BITS);                  Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS);
273    
274          if (GlobalFlags & (XVID_GREYSCALE + XVID_REDUCED))          if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))
275                  Flags &= ~(PMV_CHROMA16 + PMV_CHROMA8);                  Flags &= ~(XVID_ME_CHROMA16 + XVID_ME_CHROMA8);
276    
277          return Flags;          return Flags;
278  }  }
# Line 290  Line 283 
283  #include "../quant/quant_mpeg4.h"  #include "../quant/quant_mpeg4.h"
284  #include "../quant/quant_h263.h"  #include "../quant/quant_h263.h"
285  #include "../bitstream/vlc_codes.h"  #include "../bitstream/vlc_codes.h"
286    #include "../dct/fdct.h"
287    
288  static int  static int
289  CountMBBitsInter(SearchData * const Data,  CountMBBitsInter(SearchData * const Data,
# Line 310  Line 304 
304  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
305  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
306    
307    #define LAMBDA          ( (int)(1.0*BITS_MULT) )
308    
309    static __inline unsigned int
310    Block_CalcBits( int16_t * const coeff,
311                                    int16_t * const data,
312                                    const uint32_t quant, const int quant_type,
313                                    uint32_t * cbp,
314                                    const int block)
315    {
316            int sum;
317            int bits;
318            const int lambda = LAMBDA*quant*quant;
319            int distortion = 0;
320            int i;
321    
322            fdct(data);
323    
324            if (quant_type == 0) sum = quant_inter(coeff, data, quant);
325            else sum = quant4_inter(coeff, data, quant);
326    
327            if (sum > 0) {
328                    *cbp |= 1 << (5 - block);
329                    bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);
330            } else bits = 0;
331    
332            if (quant_type == 0) dequant_inter(coeff, coeff, quant);
333            else dequant4_inter(coeff, coeff, quant);
334    
335            for (i = 0; i < 64; i++) {
336                    distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);
337            }
338            bits += (BITS_MULT*BITS_MULT*distortion)/lambda;
339    
340    
341            return bits;
342    }
343    
344    static __inline unsigned int
345    Block_CalcBitsIntra(int16_t * const coeff,
346                                            int16_t * const data,
347                                            const uint32_t quant, const int quant_type,
348                                            uint32_t * cbp,
349                                            const int block,
350                                            int * dcpred)
351    {
352            int bits, i;
353            const int lambda = LAMBDA*quant*quant;
354            int distortion = 0;
355            uint32_t iDcScaler = get_dc_scaler(quant, block > 3);
356            int b_dc;
357    
358            fdct(data);
359            data[0] -= 1024;
360    
361            if (quant_type == 0) quant_intra(coeff, data, quant, iDcScaler);
362            else quant4_intra(coeff, data, quant, iDcScaler);
363    
364            b_dc = coeff[0];
365            if (block < 4) {
366                    coeff[0] -= *dcpred;
367                    *dcpred = b_dc;
368            }
369    
370            *cbp |= 1 << (5 - block);
371            bits = BITS_MULT*CodeCoeffIntra_CalcBits(coeff, scan_tables[0]);
372            bits += BITS_MULT*dcy_tab[coeff[0] + 255].len;
373            if (bits != 0) *cbp |= 1 << (5 - block);
374    
375            coeff[0] = b_dc;
376            if (quant_type == 0) dequant_intra(coeff, coeff, quant, iDcScaler);
377            else dequant4_intra(coeff, coeff, quant, iDcScaler);
378    
379            for (i = 0; i < 64; i++) {
380                    distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);
381            }
382    
383            bits += (BITS_MULT*BITS_MULT*distortion)/lambda;
384    
385            return bits;
386    }
387    
388  #endif                                                  /* _MOTION_EST_H_ */  #endif                                                  /* _MOTION_EST_H_ */

Legend:
Removed from v.851  
changed lines
  Added in v.1023

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4