[svn] / branches / dev-api-4 / xvidcore / src / motion / motion_est.h Repository:
ViewVC logotype

Diff of /branches/dev-api-4/xvidcore/src/motion/motion_est.h

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1071, Thu Jun 19 09:59:37 2003 UTC revision 1107, Sat Aug 2 15:08:48 2003 UTC
# Line 21  Line 21 
21   *  along with this program ; if not, write to the Free Software   *  along with this program ; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: motion_est.h,v 1.3.2.10 2003-06-19 09:59:37 syskin Exp $   * $Id: motion_est.h,v 1.3.2.14 2003-08-02 15:08:45 edgomez Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 139  Line 139 
139          int16_t * dctSpace;          int16_t * dctSpace;
140          uint32_t iQuant;          uint32_t iQuant;
141          uint32_t quant_type;          uint32_t quant_type;
142            int * cbp;
143    
144  } SearchData;  } SearchData;
145    
# Line 208  Line 209 
209                                  const IMAGE * const pRefH,                                  const IMAGE * const pRefH,
210                                  const IMAGE * const pRefV,                                  const IMAGE * const pRefV,
211                                  const IMAGE * const pRefHV,                                  const IMAGE * const pRefHV,
212                                    const IMAGE * const pGMC,
213                                  const uint32_t iLimit);                                  const uint32_t iLimit);
214    
215  static void  static void
# Line 227  Line 229 
229                  const MACROBLOCK * const prevMBs,                  const MACROBLOCK * const prevMBs,
230                  MACROBLOCK * const pMB);                  MACROBLOCK * const pMB);
231    
232  static WARPPOINTS  static __inline void
233  GlobalMotionEst(const MACROBLOCK * const pMBs,  GMEanalyzeMB (const uint8_t * const pCur,
234                  const uint8_t * const pRef,
235                  const uint8_t * const pRefH,
236                  const uint8_t * const pRefV,
237                  const uint8_t * const pRefHV,
238                  const int x,
239                  const int y,
240                                  const MBParam * const pParam,                                  const MBParam * const pParam,
241                  MACROBLOCK * const pMBs,
242                  SearchData * const Data);
243    
244    void
245    GMEanalysis(const MBParam * const pParam,
246                                  const FRAMEINFO * const current,                                  const FRAMEINFO * const current,
247                                  const FRAMEINFO * const reference,                                  const FRAMEINFO * const reference,
248                                  const IMAGE * const pRefH,                                  const IMAGE * const pRefH,
249                                  const IMAGE * const pRefV,                                  const IMAGE * const pRefV,
250                                  const IMAGE * const pRefHV      );                                  const IMAGE * const pRefHV      );
251    
252    
253    
254    WARPPOINTS
255    GlobalMotionEst(MACROBLOCK * const pMBs,
256                                    const MBParam * const pParam,
257                                    const FRAMEINFO * const current,
258                                    const FRAMEINFO * const reference,
259                                    const IMAGE * const pRefH,
260                                    const IMAGE * const pRefV,
261                                    const IMAGE * const pRefHV      );
262    
263    
264    int
265    GlobalMotionEstRefine(WARPPOINTS *const startwp,
266                          MACROBLOCK * const pMBs,
267                          const MBParam * const pParam,
268                          const FRAMEINFO * const current,
269                          const FRAMEINFO * const reference,
270                          const IMAGE * const pCurr,
271                          const IMAGE * const pRef,
272                          const IMAGE * const pRefH,
273                          const IMAGE * const pRefV,
274                          const IMAGE * const pRefHV);
275    
276    
277    
278    
279    int
280    globalSAD(const WARPPOINTS *const wp,
281                    const MBParam * const pParam,
282                    const MACROBLOCK * const pMBs,
283                    const FRAMEINFO * const current,
284                    const IMAGE * const pRef,
285                    const IMAGE * const pCurr,
286                    uint8_t *const GMCblock);
287    
288  #define iDiamondSize 2  #define iDiamondSize 2
289    
290  static __inline uint32_t  static __inline uint32_t
# Line 243  Line 292 
292  {  {
293          uint32_t Flags = MotionFlags;          uint32_t Flags = MotionFlags;
294    
295          if (!(VopFlags & XVID_VOP_MODEDECISION_BITS))          if (!(VopFlags & XVID_VOP_MODEDECISION_RD))
296                  Flags &= ~(XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS+XVID_ME_EXTSEARCH_BITS);                  Flags &= ~(XVID_ME_QUARTERPELREFINE16_RD+XVID_ME_QUARTERPELREFINE8_RD+XVID_ME_HALFPELREFINE16_RD+XVID_ME_HALFPELREFINE8_RD+XVID_ME_EXTSEARCH_RD);
297    
298          if (Flags & XVID_ME_EXTSEARCH_BITS)          if (Flags & XVID_ME_EXTSEARCH_RD)
299                  Flags |= XVID_ME_HALFPELREFINE16_BITS;                  Flags |= XVID_ME_HALFPELREFINE16_RD;
300    
301          if (Flags & XVID_ME_EXTSEARCH_BITS && MotionFlags & XVID_ME_EXTSEARCH8)          if (Flags & XVID_ME_EXTSEARCH_RD && MotionFlags & XVID_ME_EXTSEARCH8)
302                  Flags |= XVID_ME_HALFPELREFINE8_BITS;                  Flags |= XVID_ME_HALFPELREFINE8_RD;
303    
304          if (Flags & XVID_ME_HALFPELREFINE16_BITS)          if (Flags & XVID_ME_HALFPELREFINE16_RD)
305                  Flags |= XVID_ME_QUARTERPELREFINE16_BITS;                  Flags |= XVID_ME_QUARTERPELREFINE16_RD;
306    
307          if (Flags & XVID_ME_HALFPELREFINE8_BITS) {          if (Flags & XVID_ME_HALFPELREFINE8_RD) {
308                  Flags |= XVID_ME_QUARTERPELREFINE8_BITS;                  Flags |= XVID_ME_QUARTERPELREFINE8_RD;
309                  Flags &= ~XVID_ME_HALFPELREFINE8;                  Flags &= ~XVID_ME_HALFPELREFINE8;
310          }          }
311    
312          if (Flags & XVID_ME_QUARTERPELREFINE8_BITS)          if (Flags & XVID_ME_QUARTERPELREFINE8_RD)
313                  Flags &= ~XVID_ME_QUARTERPELREFINE8;                  Flags &= ~XVID_ME_QUARTERPELREFINE8;
314    
315          if (!(VolFlags & XVID_VOL_QUARTERPEL))          if (!(VolFlags & XVID_VOL_QUARTERPEL))
316                  Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS);                  Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_RD+XVID_ME_QUARTERPELREFINE8_RD);
317    
318          if (!(VopFlags & XVID_VOP_HALFPEL))          if (!(VopFlags & XVID_VOP_HALFPEL))
319                  Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS);                  Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_RD+XVID_ME_HALFPELREFINE8_RD);
320    
321          if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))          if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))
322                  Flags &= ~(XVID_ME_CHROMA16 + XVID_ME_CHROMA8);                  Flags &= ~(XVID_ME_CHROMA_PVOP + XVID_ME_CHROMA_BVOP);
323    
324          return Flags;          return Flags;
325  }  }
326    
327  /* BITS mode decision and search */  /* RD mode decision and search */
328    
329  #include "../bitstream/zigzag.h"  #include "../bitstream/zigzag.h"
330  #include "../quant/quant_mpeg4.h"  #include "../quant/quant_mpeg4.h"
# Line 299  Line 348 
348  static int  static int
349  CountMBBitsIntra(const SearchData * const Data);  CountMBBitsIntra(const SearchData * const Data);
350    
351    static int
352    CountMBBitsGMC(const SearchData * const Data, const IMAGE * const vGMC, const int x, const int y);
353    
354  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
355  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
356    
357  #define LAMBDA          ( (int)(1.0*BITS_MULT) )  /* one over lambda for R-D mode decision and motion search */
358    #define LAMBDA          ( (int)(BITS_MULT/1.0) )
359    
360  static __inline unsigned int  static __inline unsigned int
361  Block_CalcBits( int16_t * const coeff,  Block_CalcBits( int16_t * const coeff,
362                                  int16_t * const data,                                  int16_t * const data,
363                                    int16_t * const dqcoeff,
364                                  const uint32_t quant, const int quant_type,                                  const uint32_t quant, const int quant_type,
365                                  uint32_t * cbp,                                  uint32_t * cbp,
366                                  const int block)                                  const int block)
367  {  {
368          int sum;          int sum;
369          int bits;          int bits;
         const int lambda = LAMBDA*quant*quant;  
370          int distortion = 0;          int distortion = 0;
371          int i;          int i;
372    
373          fdct(data);          fdct(data);
374    
375          if (quant_type == 0) sum = quant_inter(coeff, data, quant);          if (quant_type) sum = quant_inter(coeff, data, quant);
376          else sum = quant4_inter(coeff, data, quant);          else sum = quant4_inter(coeff, data, quant);
377    
378          if (sum > 0) {          if (sum > 0) {
379                  *cbp |= 1 << (5 - block);                  *cbp |= 1 << (5 - block);
380                  bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);                  bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);
         } else bits = 0;  
381    
382          if (quant_type == 0) dequant_inter(coeff, coeff, quant);                  if (quant_type) dequant_inter(dqcoeff, coeff, quant);
383          else dequant4_inter(coeff, coeff, quant);                  else dequant4_inter(dqcoeff, coeff, quant);
384    
385          for (i = 0; i < 64; i++) {                  for (i = 0; i < 64; i++)
386                  distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);                          distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);
387    
388            } else {
389                    bits = 0;
390                    for (i = 0; i < 64; i++)
391                            distortion += data[i]*data[i];
392          }          }
         bits += (BITS_MULT*BITS_MULT*distortion)/lambda;  
393    
394    
395            bits += (LAMBDA*distortion)/(quant*quant);
396    
397          return bits;          return bits;
398  }  }
399    
400  static __inline unsigned int  static __inline unsigned int
401  Block_CalcBitsIntra(int16_t * const coeff,  Block_CalcBitsIntra(int16_t * const coeff,
402                                          int16_t * const data,                                          int16_t * const data,
403                                            int16_t * const dqcoeff,
404                                          const uint32_t quant, const int quant_type,                                          const uint32_t quant, const int quant_type,
405                                          uint32_t * cbp,                                          uint32_t * cbp,
406                                          const int block,                                          const int block,
407                                          int * dcpred)                                          int * dcpred)
408  {  {
409          int bits, i;          int bits, i;
         const int lambda = LAMBDA*quant*quant;  
410          int distortion = 0;          int distortion = 0;
411          uint32_t iDcScaler = get_dc_scaler(quant, block < 4);          uint32_t iDcScaler = get_dc_scaler(quant, block < 4);
412          int b_dc;          int b_dc;
# Line 356  Line 414 
414          fdct(data);          fdct(data);
415          data[0] -= 1024;          data[0] -= 1024;
416    
417          if (quant_type == 0) quant_intra_c(coeff, data, quant, iDcScaler); // MUST BE _C          if (quant_type) quant_intra(coeff, data, quant, iDcScaler);
418          else quant4_intra_c(coeff, data, quant, iDcScaler); // MUST BE _C          else quant4_intra(coeff, data, quant, iDcScaler);
419    
420          b_dc = coeff[0];          b_dc = coeff[0];
421          if (block < 4) {          if (block < 4) {
# Line 372  Line 430 
430          else bits += BITS_MULT*dcc_tab[coeff[0] + 255].len;          else bits += BITS_MULT*dcc_tab[coeff[0] + 255].len;
431    
432          coeff[0] = b_dc;          coeff[0] = b_dc;
433          if (quant_type == 0) dequant_intra(coeff, coeff, quant, iDcScaler);          if (quant_type) dequant_intra(dqcoeff, coeff, quant, iDcScaler);
434          else dequant4_intra(coeff, coeff, quant, iDcScaler);          else dequant4_intra(dqcoeff, coeff, quant, iDcScaler);
435    
436          for (i = 0; i < 64; i++) {          for (i = 0; i < 64; i++) {
437                  distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);                  distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);
438          }          }
439    
440          bits += (BITS_MULT*BITS_MULT*distortion)/lambda;          bits += (LAMBDA*distortion)/(quant*quant);
441    
442          return bits;          return bits;
443  }  }
444    
   
445  #endif                                                  /* _MOTION_EST_H_ */  #endif                                                  /* _MOTION_EST_H_ */
Legend:
Removed from v.1071  
changed lines
  Added in v.1107
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4