[svn] / branches / dev-api-4 / xvidcore / src / motion / motion_est.h Repository:
ViewVC logotype

Diff of /branches/dev-api-4/xvidcore/src/motion/motion_est.h

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1071, Thu Jun 19 09:59:37 2003 UTC revision 1132, Thu Aug 28 11:06:16 2003 UTC
# Line 21  Line 21 
21   *  along with this program ; if not, write to the Free Software   *  along with this program ; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: motion_est.h,v 1.3.2.10 2003-06-19 09:59:37 syskin Exp $   * $Id: motion_est.h,v 1.3.2.18 2003-08-28 11:06:16 syskin Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 121  Line 121 
121          uint32_t iEdgedWidth;          uint32_t iEdgedWidth;
122          uint32_t iFcode;          uint32_t iFcode;
123          int * temp;          int * temp;
124            int * dir;
125          int qpel, qpel_precision;          int qpel, qpel_precision;
126          int chroma;          int chroma;
127          int rrv;          int rrv;
# Line 139  Line 140 
140          int16_t * dctSpace;          int16_t * dctSpace;
141          uint32_t iQuant;          uint32_t iQuant;
142          uint32_t quant_type;          uint32_t quant_type;
143            int * cbp;
144    
145  } SearchData;  } SearchData;
146    
147    
148  typedef void(CheckFunc)(const int x, const int y,  typedef void(CheckFunc)(const int x, const int y,
149                                                  const int Direction, int * const dir,                                                  const SearchData * const Data,
150                                                  const SearchData * const Data);                                                  const int Direction);
 CheckFunc *CheckCandidate;  
151    
152  /*  /*
153   * Calculate the min/max range   * Calculate the min/max range
# Line 159  Line 160 
160                    int32_t * const max_dy,                    int32_t * const max_dy,
161                    const uint32_t x,                    const uint32_t x,
162                    const uint32_t y,                    const uint32_t y,
163                    uint32_t block_sz, /* block dimension, 8 or 16 */                    uint32_t block_sz, /* block dimension, 3(8) or 4(16) */
164                    const uint32_t width,                    const uint32_t width,
165                    const uint32_t height,                    const uint32_t height,
166                    const uint32_t fcode,                    const uint32_t fcode,
167                    const int qpel, /* 1 if the resulting range should be in qpel precision; otherwise 0 */                    const int precision, /* 2 for qpel, 1 for halfpel */
168                    const int rrv)                    const int rrv)
169  {  {
170          int k, m = qpel ? 4 : 2;          int k;
171          const int search_range = 32 << (fcode - 1);          const int search_range = 16 << fcode;
172          int high = search_range - 1;          int high = search_range - 1;
173          int low = -search_range;          int low = -search_range;
174    
175          if (rrv) {          if (rrv) {
176                  high = RRV_MV_SCALEUP(high);                  high = RRV_MV_SCALEUP(high);
177                  low = RRV_MV_SCALEUP(low);                  low = RRV_MV_SCALEUP(low);
178                  block_sz *= 2;                  block_sz++;
179          }          }
180    
181          k = m * (int)(width - x * block_sz);          k = (int)(width - (x<<block_sz))<<precision;
182          *max_dx = MIN(high, k);          *max_dx = MIN(high, k);
183          k = m * (int)(height -  y * block_sz);          k = (int)(height -  (y<<block_sz))<<precision;
184          *max_dy = MIN(high, k);          *max_dy = MIN(high, k);
185    
186          k = -m * (int)((x+1) * block_sz);          k = (-(int)((x+1)<<block_sz))<<precision;
187          *min_dx = MAX(low, k);          *min_dx = MAX(low, k);
188          k = -m * (int)((y+1) * block_sz);          k = (-(int)((y+1)<<block_sz))<<precision;
189          *min_dy = MAX(low, k);          *min_dy = MAX(low, k);
190  }  }
191    
192  typedef void MainSearchFunc(int x, int y, const SearchData * const Data, int bDirection);  typedef void
193    MainSearchFunc(int x, int y, const SearchData * const Data,
194                               int bDirection, CheckFunc * const CheckCandidate);
195    
196  static MainSearchFunc DiamondSearch, AdvDiamondSearch, SquareSearch;  static MainSearchFunc DiamondSearch, AdvDiamondSearch, SquareSearch;
197    
# Line 208  Line 211 
211                                  const IMAGE * const pRefH,                                  const IMAGE * const pRefH,
212                                  const IMAGE * const pRefV,                                  const IMAGE * const pRefV,
213                                  const IMAGE * const pRefHV,                                  const IMAGE * const pRefHV,
214                                    const IMAGE * const pGMC,
215                                  const uint32_t iLimit);                                  const uint32_t iLimit);
216    
217  static void  static void
# Line 227  Line 231 
231                  const MACROBLOCK * const prevMBs,                  const MACROBLOCK * const prevMBs,
232                  MACROBLOCK * const pMB);                  MACROBLOCK * const pMB);
233    
234  static WARPPOINTS  static __inline void
235  GlobalMotionEst(const MACROBLOCK * const pMBs,  GMEanalyzeMB (const uint8_t * const pCur,
236                  const uint8_t * const pRef,
237                  const uint8_t * const pRefH,
238                  const uint8_t * const pRefV,
239                  const uint8_t * const pRefHV,
240                  const int x,
241                  const int y,
242                  const MBParam * const pParam,
243                  MACROBLOCK * const pMBs,
244                  SearchData * const Data);
245    
246    void
247    GMEanalysis(const MBParam * const pParam,
248                const FRAMEINFO * const current,
249                const FRAMEINFO * const reference,
250                const IMAGE * const pRefH,
251                const IMAGE * const pRefV,
252                const IMAGE * const pRefHV);
253    
254    
255    
256    WARPPOINTS
257    GlobalMotionEst(MACROBLOCK * const pMBs,
258                                    const MBParam * const pParam,
259                                    const FRAMEINFO * const current,
260                                    const FRAMEINFO * const reference,
261                                    const IMAGE * const pRefH,
262                                    const IMAGE * const pRefV,
263                                    const IMAGE * const pRefHV      );
264    
265    
266    int
267    GlobalMotionEstRefine(WARPPOINTS *const startwp,
268                          MACROBLOCK * const pMBs,
269                                  const MBParam * const pParam,                                  const MBParam * const pParam,
270                                  const FRAMEINFO * const current,                                  const FRAMEINFO * const current,
271                                  const FRAMEINFO * const reference,                                  const FRAMEINFO * const reference,
272                          const IMAGE * const pCurr,
273                          const IMAGE * const pRef,
274                                  const IMAGE * const pRefH,                                  const IMAGE * const pRefH,
275                                  const IMAGE * const pRefV,                                  const IMAGE * const pRefV,
276                                  const IMAGE * const pRefHV      );                                  const IMAGE * const pRefHV      );
277    
278    
279    
280    
281    int
282    globalSAD(const WARPPOINTS *const wp,
283                    const MBParam * const pParam,
284                    const MACROBLOCK * const pMBs,
285                    const FRAMEINFO * const current,
286                    const IMAGE * const pRef,
287                    const IMAGE * const pCurr,
288                    uint8_t *const GMCblock);
289    
290  #define iDiamondSize 2  #define iDiamondSize 2
291    
292  static __inline uint32_t  static __inline uint32_t
# Line 243  Line 294 
294  {  {
295          uint32_t Flags = MotionFlags;          uint32_t Flags = MotionFlags;
296    
297          if (!(VopFlags & XVID_VOP_MODEDECISION_BITS))          if (!(VopFlags & XVID_VOP_MODEDECISION_RD))
298                  Flags &= ~(XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS+XVID_ME_EXTSEARCH_BITS);                  Flags &= ~(XVID_ME_QUARTERPELREFINE16_RD+XVID_ME_QUARTERPELREFINE8_RD+XVID_ME_HALFPELREFINE16_RD+XVID_ME_HALFPELREFINE8_RD+XVID_ME_EXTSEARCH_RD);
299    
300          if (Flags & XVID_ME_EXTSEARCH_BITS)          if (Flags & XVID_ME_EXTSEARCH_RD)
301                  Flags |= XVID_ME_HALFPELREFINE16_BITS;                  Flags |= XVID_ME_HALFPELREFINE16_RD;
302    
303          if (Flags & XVID_ME_EXTSEARCH_BITS && MotionFlags & XVID_ME_EXTSEARCH8)          if (Flags & XVID_ME_EXTSEARCH_RD && MotionFlags & XVID_ME_EXTSEARCH8)
304                  Flags |= XVID_ME_HALFPELREFINE8_BITS;                  Flags |= XVID_ME_HALFPELREFINE8_RD;
305    
306          if (Flags & XVID_ME_HALFPELREFINE16_BITS)          if (Flags & XVID_ME_HALFPELREFINE16_RD)
307                  Flags |= XVID_ME_QUARTERPELREFINE16_BITS;                  Flags |= XVID_ME_QUARTERPELREFINE16_RD;
308    
309          if (Flags & XVID_ME_HALFPELREFINE8_BITS) {          if (Flags & XVID_ME_HALFPELREFINE8_RD) {
310                  Flags |= XVID_ME_QUARTERPELREFINE8_BITS;                  Flags |= XVID_ME_QUARTERPELREFINE8_RD;
311                  Flags &= ~XVID_ME_HALFPELREFINE8;                  Flags &= ~XVID_ME_HALFPELREFINE8;
312          }          }
313    
314          if (Flags & XVID_ME_QUARTERPELREFINE8_BITS)          if (Flags & XVID_ME_QUARTERPELREFINE8_RD)
315                  Flags &= ~XVID_ME_QUARTERPELREFINE8;                  Flags &= ~XVID_ME_QUARTERPELREFINE8;
316    
317          if (!(VolFlags & XVID_VOL_QUARTERPEL))          if (!(VolFlags & XVID_VOL_QUARTERPEL))
318                  Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS);                  Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_RD+XVID_ME_QUARTERPELREFINE8_RD);
319    
320          if (!(VopFlags & XVID_VOP_HALFPEL))          if (!(VopFlags & XVID_VOP_HALFPEL))
321                  Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS);                  Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_RD+XVID_ME_HALFPELREFINE8_RD);
322    
323          if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))          if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))
324                  Flags &= ~(XVID_ME_CHROMA16 + XVID_ME_CHROMA8);                  Flags &= ~(XVID_ME_CHROMA_PVOP + XVID_ME_CHROMA_BVOP);
325    
326          return Flags;          return Flags;
327  }  }
328    
329  /* BITS mode decision and search */  /* RD mode decision and search */
330    
331  #include "../bitstream/zigzag.h"  #include "../bitstream/zigzag.h"
332  #include "../quant/quant_mpeg4.h"  #include "../quant/quant_mpeg4.h"
# Line 284  Line 335 
335  #include "../dct/fdct.h"  #include "../dct/fdct.h"
336    
337  static int  static int
338  CountMBBitsInter(SearchData * const Data,  findRDinter(SearchData * const Data,
339                                  const MACROBLOCK * const pMBs, const int x, const int y,                                  const MACROBLOCK * const pMBs, const int x, const int y,
340                                  const MBParam * const pParam,                                  const MBParam * const pParam,
341                                  const uint32_t MotionFlags);                                  const uint32_t MotionFlags);
342    
343  static int  static int
344  CountMBBitsInter4v(const SearchData * const Data,  findRDinter4v(const SearchData * const Data,
345                                          MACROBLOCK * const pMB, const MACROBLOCK * const pMBs,                                          MACROBLOCK * const pMB, const MACROBLOCK * const pMBs,
346                                          const int x, const int y,                                          const int x, const int y,
347                                          const MBParam * const pParam, const uint32_t MotionFlags,                                          const MBParam * const pParam, const uint32_t MotionFlags,
348                                          const VECTOR * const backup);                                          const VECTOR * const backup);
349    
350  static int  static int
351  CountMBBitsIntra(const SearchData * const Data);  findRDintra(const SearchData * const Data);
352    
353    static int
354    findRDgmc(const SearchData * const Data, const IMAGE * const vGMC, const int x, const int y);
355    
356  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
357  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
358    
359  #define LAMBDA          ( (int)(1.0*BITS_MULT) )  /* one over lambda for R-D mode decision and motion search */
360    #define LAMBDA          ( (int)(BITS_MULT/1.0) )
361    
362  static __inline unsigned int  static __inline unsigned int
363  Block_CalcBits( int16_t * const coeff,  Block_CalcBits( int16_t * const coeff,
364                                  int16_t * const data,                                  int16_t * const data,
365                                    int16_t * const dqcoeff,
366                                  const uint32_t quant, const int quant_type,                                  const uint32_t quant, const int quant_type,
367                                  uint32_t * cbp,                                  uint32_t * cbp,
368                                  const int block)                                  const int block)
369  {  {
370          int sum;          int sum;
371          int bits;          int bits;
         const int lambda = LAMBDA*quant*quant;  
372          int distortion = 0;          int distortion = 0;
373          int i;          int i;
374    
375          fdct(data);          fdct(data);
376    
377          if (quant_type == 0) sum = quant_inter(coeff, data, quant);          if (quant_type) sum = quant_inter(coeff, data, quant);
378          else sum = quant4_inter(coeff, data, quant);          else sum = quant4_inter(coeff, data, quant);
379    
380          if (sum > 0) {          if (sum > 0) {
381                  *cbp |= 1 << (5 - block);                  *cbp |= 1 << (5 - block);
382                  bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);                  bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);
         } else bits = 0;  
383    
384          if (quant_type == 0) dequant_inter(coeff, coeff, quant);                  if (quant_type) dequant_inter(dqcoeff, coeff, quant);
385          else dequant4_inter(coeff, coeff, quant);                  else dequant4_inter(dqcoeff, coeff, quant);
386    
387          for (i = 0; i < 64; i++) {                  for (i = 0; i < 64; i++)
388                  distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);                          distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);
         }  
         bits += (BITS_MULT*BITS_MULT*distortion)/lambda;  
389    
390            } else {
391                    bits = 0;
392                    for (i = 0; i < 64; i++)
393                            distortion += data[i]*data[i];
394            }
395    
396          return bits;          return bits + (LAMBDA*distortion)/(quant*quant);
397  }  }
398    
399  static __inline unsigned int  static __inline unsigned int
400  Block_CalcBitsIntra(int16_t * const coeff,  Block_CalcBitsIntra(int16_t * const coeff,
401                                          int16_t * const data,                                          int16_t * const data,
402                                            int16_t * const dqcoeff,
403                                          const uint32_t quant, const int quant_type,                                          const uint32_t quant, const int quant_type,
404                                          uint32_t * cbp,                                          uint32_t * cbp,
405                                          const int block,                                          const int block,
406                                          int * dcpred)                                          int * dcpred)
407  {  {
408          int bits, i;          int bits, i;
         const int lambda = LAMBDA*quant*quant;  
409          int distortion = 0;          int distortion = 0;
410          uint32_t iDcScaler = get_dc_scaler(quant, block < 4);          uint32_t iDcScaler = get_dc_scaler(quant, block < 4);
411          int b_dc;          int b_dc;
# Line 356  Line 413 
413          fdct(data);          fdct(data);
414          data[0] -= 1024;          data[0] -= 1024;
415    
416          if (quant_type == 0) quant_intra_c(coeff, data, quant, iDcScaler); // MUST BE _C          if (quant_type) quant_intra(coeff, data, quant, iDcScaler);
417          else quant4_intra_c(coeff, data, quant, iDcScaler); // MUST BE _C          else quant4_intra(coeff, data, quant, iDcScaler);
418    
419          b_dc = coeff[0];          b_dc = coeff[0];
420          if (block < 4) {          if (block < 4) {
# Line 372  Line 429 
429          else bits += BITS_MULT*dcc_tab[coeff[0] + 255].len;          else bits += BITS_MULT*dcc_tab[coeff[0] + 255].len;
430    
431          coeff[0] = b_dc;          coeff[0] = b_dc;
432          if (quant_type == 0) dequant_intra(coeff, coeff, quant, iDcScaler);          if (quant_type) dequant_intra(dqcoeff, coeff, quant, iDcScaler);
433          else dequant4_intra(coeff, coeff, quant, iDcScaler);          else dequant4_intra(dqcoeff, coeff, quant, iDcScaler);
   
         for (i = 0; i < 64; i++) {  
                 distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);  
         }  
434    
435          bits += (BITS_MULT*BITS_MULT*distortion)/lambda;          for (i = 0; i < 64; i++)
436                    distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);
437    
438          return bits;          return bits + (LAMBDA*distortion)/(quant*quant);
439  }  }
440    
   
441  #endif                                                  /* _MOTION_EST_H_ */  #endif                                                  /* _MOTION_EST_H_ */
Legend:
Removed from v.1071  
changed lines
  Added in v.1132
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4