[svn] / branches / release-1_3-branch / xvidcore / src / motion / estimation_bvop.c Repository:
ViewVC logotype

Diff of /branches/release-1_3-branch/xvidcore/src/motion/estimation_bvop.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

trunk/xvidcore/src/motion/estimation_bvop.c revision 1456, Wed May 26 09:15:02 2004 UTC branches/release-1_3-branch/xvidcore/src/motion/estimation_bvop.c revision 2050, Tue Oct 25 10:53:24 2011 UTC
# Line 4  Line 4 
4   *  - Motion Estimation for B-VOPs  -   *  - Motion Estimation for B-VOPs  -
5   *   *
6   *  Copyright(C) 2002 Christoph Lampert <gruel@web.de>   *  Copyright(C) 2002 Christoph Lampert <gruel@web.de>
7   *               2002 Michael Militzer <michael@xvid.org>   *               2002-2010 Michael Militzer <michael@xvid.org>
8   *               2002-2003 Radoslaw Czyz <xvid@syskin.cjb.net>   *               2002-2003 Radoslaw Czyz <xvid@syskin.cjb.net>
9   *   *
10   *  This program is free software ; you can redistribute it and/or modify   *  This program is free software ; you can redistribute it and/or modify
# Line 21  Line 21 
21   *  along with this program ; if not, write to the Free Software   *  along with this program ; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: estimation_bvop.c,v 1.5 2004-05-26 09:15:02 edgomez Exp $   * $Id$
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 63  Line 63 
63          filter = ((fx & 1) << 1) | (fy & 1);          filter = ((fx & 1) << 1) | (fy & 1);
64    
65          if (filter != 0) {          if (filter != 0) {
66                  f_refu = data->RefQ;                  f_refu = data->RefQ + 64;
67                  f_refv = data->RefQ + 8;                  f_refv = data->RefQ + 64 + 8;
68                  if (data->chromaX != fx || data->chromaY != fy) {                  if (data->chromaX != fx || data->chromaY != fy) {
69                          interpolate8x8_halfpel[filter](f_refu, data->RefP[4] + offset, stride, data->rounding);                          interpolate8x8_halfpel[filter](f_refu, data->RefP[4] + offset, stride, data->rounding);
70                          interpolate8x8_halfpel[filter](f_refv, data->RefP[5] + offset, stride, data->rounding);                          interpolate8x8_halfpel[filter](f_refv, data->RefP[5] + offset, stride, data->rounding);
# Line 79  Line 79 
79          filter = ((bx & 1) << 1) | (by & 1);          filter = ((bx & 1) << 1) | (by & 1);
80    
81          if (filter != 0) {          if (filter != 0) {
82                  b_refu = data->RefQ + 16;                  b_refu = data->RefQ + 64 + 16;
83                  b_refv = data->RefQ + 24;                  b_refv = data->RefQ + 64 + 24;
84                  if (data->b_chromaX != bx || data->b_chromaY != by) {                  if (data->b_chromaX != bx || data->b_chromaY != by) {
85                          interpolate8x8_halfpel[filter](b_refu, data->b_RefP[4] + offset, stride, data->rounding);                          interpolate8x8_halfpel[filter](b_refu, data->b_RefP[4] + offset, stride, data->rounding);
86                          interpolate8x8_halfpel[filter](b_refv, data->b_RefP[5] + offset, stride, data->rounding);                          interpolate8x8_halfpel[filter](b_refv, data->b_RefP[5] + offset, stride, data->rounding);
# Line 137  Line 137 
137                  xcb = xb/2; ycb = yb/2;                  xcb = xb/2; ycb = yb/2;
138          }          }
139    
140          t = d_mv_bits(xf, yf, data->predMV, data->iFcode, data->qpel^data->qpel_precision, 0)          t = d_mv_bits(xf, yf, data->predMV, data->iFcode, data->qpel^data->qpel_precision)
141                   + d_mv_bits(xb, yb, data->bpredMV, data->iFcode, data->qpel^data->qpel_precision, 0);                   + d_mv_bits(xb, yb, data->bpredMV, data->iFcode, data->qpel^data->qpel_precision);
142    
143          sad = sad16bi(data->Cur, ReferenceF, ReferenceB, data->iEdgedWidth);          sad = sad16bi(data->Cur, ReferenceF, ReferenceB, data->iEdgedWidth);
144          sad += (data->lambda16 * t * sad)>>10;          sad += (data->lambda16 * t);
145    
146          if (data->chroma && sad < *data->iMinSAD)          if (data->chroma && sad < *data->iMinSAD)
147                  sad += ChromaSAD2((xcf >> 1) + roundtab_79[xcf & 0x3],                  sad += ChromaSAD2((xcf >> 1) + roundtab_79[xcf & 0x3],
# Line 164  Line 164 
164          const uint8_t *ReferenceF;          const uint8_t *ReferenceF;
165          const uint8_t *ReferenceB;          const uint8_t *ReferenceB;
166          VECTOR mvs, b_mvs;          VECTOR mvs, b_mvs;
167            const int blocks[4] = {0, 8, 8*data->iEdgedWidth, 8*data->iEdgedWidth+8};
168    
169          if (( x > 31) || ( x < -32) || ( y > 31) || (y < -32)) return;          if (( x > 31) || ( x < -32) || ( y > 31) || (y < -32)) return;
170    
# Line 187  Line 188 
188                  if (data->qpel) {                  if (data->qpel) {
189                          xcf += mvs.x/2; ycf += mvs.y/2;                          xcf += mvs.x/2; ycf += mvs.y/2;
190                          xcb += b_mvs.x/2; ycb += b_mvs.y/2;                          xcb += b_mvs.x/2; ycb += b_mvs.y/2;
191                            if (data->qpel_precision) {
192                                    ReferenceF = xvid_me_interpolate8x8qpel(mvs.x, mvs.y, k, 0, data);
193                                    ReferenceB = xvid_me_interpolate8x8qpel(b_mvs.x, b_mvs.y, k, 1, data);
194                                    goto done;
195                            }
196                            mvs.x >>=1; mvs.y >>=1; b_mvs.x >>=1; b_mvs.y >>=1; // qpel->hpel
197                  } else {                  } else {
198                          xcf += mvs.x; ycf += mvs.y;                          xcf += mvs.x; ycf += mvs.y;
199                          xcb += b_mvs.x; ycb += b_mvs.y;                          xcb += b_mvs.x; ycb += b_mvs.y;
                         mvs.x *= 2; mvs.y *= 2; /* we move to qpel precision anyway */  
                         b_mvs.x *= 2; b_mvs.y *= 2;  
200                  }                  }
201                    ReferenceF = GetReference(mvs.x, mvs.y, data) + blocks[k];
202                  ReferenceF = xvid_me_interpolate8x8qpel(mvs.x, mvs.y, k, 0, data);                  ReferenceB = GetReferenceB(b_mvs.x, b_mvs.y, 1, data) + blocks[k];
203                  ReferenceB = xvid_me_interpolate8x8qpel(b_mvs.x, b_mvs.y, k, 1, data);  done:
   
204                  sad += data->iMinSAD[k+1] =                  sad += data->iMinSAD[k+1] =
205                          sad8bi(data->Cur + 8*(k&1) + 8*(k>>1)*(data->iEdgedWidth),                          sad8bi(data->Cur + blocks[k],
206                                          ReferenceF, ReferenceB, data->iEdgedWidth);                                          ReferenceF, ReferenceB, data->iEdgedWidth);
207                  if (sad > *(data->iMinSAD)) return;                  if (sad > *(data->iMinSAD)) return;
208          }          }
209    
210          sad += (data->lambda16 * d_mv_bits(x, y, zeroMV, 1, 0, 0) * sad)>>10;          sad += (data->lambda16 * d_mv_bits(x, y, zeroMV, 1, 0));
211    
212          if (data->chroma && sad < *data->iMinSAD)          if (data->chroma && sad < *data->iMinSAD)
213                  sad += ChromaSAD2((xcf >> 3) + roundtab_76[xcf & 0xf],                  sad += ChromaSAD2((xcf >> 3) + roundtab_76[xcf & 0xf],
# Line 246  Line 250 
250          if (data->qpel) {          if (data->qpel) {
251                  xcf = 4*(mvs.x/2); ycf = 4*(mvs.y/2);                  xcf = 4*(mvs.x/2); ycf = 4*(mvs.y/2);
252                  xcb = 4*(b_mvs.x/2); ycb = 4*(b_mvs.y/2);                  xcb = 4*(b_mvs.x/2); ycb = 4*(b_mvs.y/2);
253                    if (data->qpel_precision) {
254                  ReferenceF = xvid_me_interpolate16x16qpel(mvs.x, mvs.y, 0, data);                  ReferenceF = xvid_me_interpolate16x16qpel(mvs.x, mvs.y, 0, data);
255                  ReferenceB = xvid_me_interpolate16x16qpel(b_mvs.x, b_mvs.y, 1, data);                  ReferenceB = xvid_me_interpolate16x16qpel(b_mvs.x, b_mvs.y, 1, data);
256                            goto done;
257                    }
258                    mvs.x >>=1; mvs.y >>=1; b_mvs.x >>=1; b_mvs.y >>=1; // qpel->hpel
259          } else {          } else {
260                  xcf = 4*mvs.x; ycf = 4*mvs.y;                  xcf = 4*mvs.x; ycf = 4*mvs.y;
261                  xcb = 4*b_mvs.x; ycb = 4*b_mvs.y;                  xcb = 4*b_mvs.x; ycb = 4*b_mvs.y;
262            }
263                  ReferenceF = GetReference(mvs.x, mvs.y, data);                  ReferenceF = GetReference(mvs.x, mvs.y, data);
264                  ReferenceB = GetReferenceB(b_mvs.x, b_mvs.y, 1, data);                  ReferenceB = GetReferenceB(b_mvs.x, b_mvs.y, 1, data);
         }  
265    
266    done:
267          sad = sad16bi(data->Cur, ReferenceF, ReferenceB, data->iEdgedWidth);          sad = sad16bi(data->Cur, ReferenceF, ReferenceB, data->iEdgedWidth);
268          sad += (data->lambda16 * d_mv_bits(x, y, zeroMV, 1, 0, 0) * sad)>>10;          sad += (data->lambda16 * d_mv_bits(x, y, zeroMV, 1, 0));
269    
270          if (data->chroma && sad < *data->iMinSAD)          if (data->chroma && sad < *data->iMinSAD)
271                  sad += ChromaSAD2((xcf >> 3) + roundtab_76[xcf & 0xf],                  sad += ChromaSAD2((xcf >> 3) + roundtab_76[xcf & 0xf],
# Line 282  Line 291 
291          if ( (x > data->max_dx) || ( x < data->min_dx)          if ( (x > data->max_dx) || ( x < data->min_dx)
292                  || (y > data->max_dy) || (y < data->min_dy) ) return;                  || (y > data->max_dy) || (y < data->min_dy) ) return;
293    
         if (data->rrv && (!(x&1) && x !=0) | (!(y&1) && y !=0) ) return; /* non-zero even value */  
   
294          if (data->qpel_precision) { /* x and y are in 1/4 precision */          if (data->qpel_precision) { /* x and y are in 1/4 precision */
295                  Reference = xvid_me_interpolate16x16qpel(x, y, 0, data);                  Reference = xvid_me_interpolate16x16qpel(x, y, 0, data);
296                  current = data->currentQMV;                  current = data->currentQMV;
# Line 294  Line 301 
301                  xc = x; yc = y;                  xc = x; yc = y;
302          }          }
303          t = d_mv_bits(x, y, data->predMV, data->iFcode,          t = d_mv_bits(x, y, data->predMV, data->iFcode,
304                                          data->qpel^data->qpel_precision, data->rrv);                                          data->qpel^data->qpel_precision);
305    
306          sad = sad16(data->Cur, Reference, data->iEdgedWidth, 256*4096);          sad = sad16(data->Cur, Reference, data->iEdgedWidth, 256*4096);
307          sad += (data->lambda16 * t * sad)>>10;          sad += (data->lambda16 * t);
308    
309          if (data->chroma && sad < *data->iMinSAD)          if (data->chroma && sad < *data->iMinSAD)
310                  sad += xvid_me_ChromaSAD((xc >> 1) + roundtab_79[xc & 0x3],                  sad += xvid_me_ChromaSAD((xc >> 1) + roundtab_79[xc & 0x3],
# Line 310  Line 317 
317          }          }
318  }  }
319    
320    
321    static void
322    initialize_searchData(SearchData * Data_d,
323                                              SearchData * Data_f,
324                                              SearchData * Data_b,
325                                              SearchData * Data_i,
326                                              int x, int y,
327                                              const IMAGE * const f_Ref,
328                                              const uint8_t * const f_RefH,
329                                              const uint8_t * const f_RefV,
330                                              const uint8_t * const f_RefHV,
331                                              const IMAGE * const b_Ref,
332                                              const uint8_t * const b_RefH,
333                                              const uint8_t * const b_RefV,
334                                              const uint8_t * const b_RefHV,
335                                              const IMAGE * const pCur,
336                                              const MACROBLOCK * const b_mb)
337    {
338    
339            /* per-macroblock SearchData initialization - too many things would be repeated 4 times */
340            const uint8_t * RefP[6], * b_RefP[6], * Cur[3];
341            const uint32_t iEdgedWidth = Data_d->iEdgedWidth;
342            unsigned int lambda;
343            int i;
344    
345            /* luma */
346            int offset = (x + iEdgedWidth*y) * 16;
347            RefP[0] = f_Ref->y + offset;
348            RefP[2] = f_RefH + offset;
349            RefP[1] = f_RefV + offset;
350            RefP[3] = f_RefHV + offset;
351            b_RefP[0] = b_Ref->y + offset;
352            b_RefP[2] = b_RefH + offset;
353            b_RefP[1] = b_RefV + offset;
354            b_RefP[3] = b_RefHV + offset;
355            Cur[0] = pCur->y + offset;
356    
357            /* chroma */
358            offset = (x + (iEdgedWidth/2)*y) * 8;
359            RefP[4] = f_Ref->u + offset;
360            RefP[5] = f_Ref->v + offset;
361            b_RefP[4] = b_Ref->u + offset;
362            b_RefP[5] = b_Ref->v + offset;
363            Cur[1] = pCur->u + offset;
364            Cur[2] = pCur->v + offset;
365    
366            lambda = xvid_me_lambda_vec16[b_mb->quant];
367    
368            for (i = 0; i < 6; i++) {
369                    Data_d->RefP[i] = Data_f->RefP[i] = Data_i->RefP[i] = RefP[i];
370                    Data_d->b_RefP[i] = Data_b->RefP[i] = Data_i->b_RefP[i] = b_RefP[i];
371            }
372            Data_d->Cur = Data_f->Cur = Data_b->Cur = Data_i->Cur = Cur[0];
373            Data_d->CurU = Data_f->CurU = Data_b->CurU = Data_i->CurU = Cur[1];
374            Data_d->CurV = Data_f->CurV = Data_b->CurV = Data_i->CurV = Cur[2];
375    
376            Data_d->lambda16 = Data_f->lambda16 = Data_b->lambda16 = Data_i->lambda16 = lambda;
377    
378            /* reset chroma-sad cache */
379            Data_d->b_chromaX = Data_d->b_chromaY = Data_d->chromaX = Data_d->chromaY = Data_d->chromaSAD = 256*4096;
380            Data_i->b_chromaX = Data_i->b_chromaY = Data_i->chromaX = Data_i->chromaY = Data_i->chromaSAD = 256*4096;
381            Data_f->chromaX = Data_f->chromaY = Data_f->chromaSAD = 256*4096;
382            Data_b->chromaX = Data_b->chromaY = Data_b->chromaSAD = 256*4096;
383    
384            *Data_d->iMinSAD = *Data_b->iMinSAD = *Data_f->iMinSAD = *Data_i->iMinSAD = 4096*256;
385    }
386    
387  static __inline VECTOR  static __inline VECTOR
388  ChoosePred(const MACROBLOCK * const pMB, const uint32_t mode)  ChoosePred(const MACROBLOCK * const pMB, const uint32_t mode)
389  {  {
# Line 321  Line 395 
395  PreparePredictionsBF(VECTOR * const pmv, const int x, const int y,  PreparePredictionsBF(VECTOR * const pmv, const int x, const int y,
396                                                          const uint32_t iWcount,                                                          const uint32_t iWcount,
397                                                          const MACROBLOCK * const pMB,                                                          const MACROBLOCK * const pMB,
398                                                          const uint32_t mode_curr)                                                          const uint32_t mode_curr,
399                                                            const VECTOR hint, const int bound)
400  {  {
401            int lx, ly;             /* left */
402            int tx, ty;             /* top */
403            int rtx, rty;   /* top-right */
404            int ltx, lty;   /* top-left */
405            int lpos, tpos, rtpos, ltpos;
406    
407            lx  = x - 1;    ly  = y;
408            tx  = x;                ty  = y - 1;
409            rtx = x + 1;    rty = y - 1;
410            ltx = x - 1;    lty = y - 1;
411    
412            lpos  =  lx +  ly * iWcount;
413            rtpos = rtx + rty * iWcount;
414            tpos  =  tx +  ty * iWcount;
415            ltpos = ltx + lty * iWcount;
416    
         /* [0] is prediction */  
         pmv[0].x = EVEN(pmv[0].x); pmv[0].y = EVEN(pmv[0].y);  
417    
418          pmv[1].x = pmv[1].y = 0; /* [1] is zero */          /* [0] is prediction */
419            /* [1] is zero */
420            pmv[1].x = pmv[1].y = 0;
421    
422          pmv[2] = ChoosePred(pMB, mode_curr);          pmv[2].x = hint.x; pmv[2].y = hint.y;
         pmv[2].x = EVEN(pmv[2].x); pmv[2].y = EVEN(pmv[2].y);  
423    
424          if ((y != 0)&&(x != (int)(iWcount+1))) {                        /* [3] top-right neighbour */          if (rtpos >= bound && rtx < (int)iWcount) {                     /* [3] top-right neighbour */
425                  pmv[3] = ChoosePred(pMB+1-iWcount, mode_curr);                  pmv[3] = ChoosePred(pMB+1-iWcount, mode_curr);
                 pmv[3].x = EVEN(pmv[3].x); pmv[3].y = EVEN(pmv[3].y);  
426          } else pmv[3].x = pmv[3].y = 0;          } else pmv[3].x = pmv[3].y = 0;
427    
428          if (y != 0) {          if (tpos >= bound) {
429                  pmv[4] = ChoosePred(pMB-iWcount, mode_curr);                  pmv[4] = ChoosePred(pMB-iWcount, mode_curr);    /* [4] top */
                 pmv[4].x = EVEN(pmv[4].x); pmv[4].y = EVEN(pmv[4].y);  
430          } else pmv[4].x = pmv[4].y = 0;          } else pmv[4].x = pmv[4].y = 0;
431    
432          if (x != 0) {          if (lpos >= bound && lx >= 0) {
433                  pmv[5] = ChoosePred(pMB-1, mode_curr);                  pmv[5] = ChoosePred(pMB-1, mode_curr);                  /* [5] left */
                 pmv[5].x = EVEN(pmv[5].x); pmv[5].y = EVEN(pmv[5].y);  
434          } else pmv[5].x = pmv[5].y = 0;          } else pmv[5].x = pmv[5].y = 0;
435    
436          if (x != 0 && y != 0) {          if (ltpos >= bound && ltx >= 0) {
437                  pmv[6] = ChoosePred(pMB-1-iWcount, mode_curr);                  pmv[6] = ChoosePred(pMB-1-iWcount, mode_curr);  /* [6] top-left */
                 pmv[6].x = EVEN(pmv[6].x); pmv[6].y = EVEN(pmv[6].y);  
438          } else pmv[6].x = pmv[6].y = 0;          } else pmv[6].x = pmv[6].y = 0;
439  }  }
440    
   
441  /* search backward or forward */  /* search backward or forward */
442  static void  static void
443  SearchBF(       const IMAGE * const pRef,  SearchBF_initial(const int x, const int y,
                         const uint8_t * const pRefH,  
                         const uint8_t * const pRefV,  
                         const uint8_t * const pRefHV,  
                         const int x, const int y,  
444                          const uint32_t MotionFlags,                          const uint32_t MotionFlags,
445                          const uint32_t iFcode,                          const uint32_t iFcode,
446                          const MBParam * const pParam,                          const MBParam * const pParam,
# Line 368  Line 448 
448                          const VECTOR * const predMV,                          const VECTOR * const predMV,
449                          int32_t * const best_sad,                          int32_t * const best_sad,
450                          const int32_t mode_current,                          const int32_t mode_current,
451                          SearchData * const Data)                          SearchData * const Data,
452                            VECTOR hint, const int bound)
453  {  {
454    
455          int i;          int i;
456          VECTOR pmv[7];          VECTOR pmv[7];
         int threshA = (MotionFlags & XVID_ME_FASTREFINE16) ? 150 : 300;  
457          *Data->iMinSAD = MV_MAX_ERROR;          *Data->iMinSAD = MV_MAX_ERROR;
         Data->iFcode = iFcode;  
458          Data->qpel_precision = 0;          Data->qpel_precision = 0;
         Data->chromaX = Data->chromaY = Data->chromaSAD = 256*4096; /* reset chroma-sad cache */  
   
         Data->RefP[0] = pRef->y + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[2] = pRefH + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[1] = pRefV + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[3] = pRefHV + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[4] = pRef->u + (x + y * (Data->iEdgedWidth/2)) * 8;  
         Data->RefP[5] = pRef->v + (x + y * (Data->iEdgedWidth/2)) * 8;  
459    
460          Data->predMV = *predMV;          Data->predMV = *predMV;
461    
462          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,
463                                  pParam->width, pParam->height, iFcode - Data->qpel, 1, 0);                                  pParam->width, pParam->height, iFcode - Data->qpel, 1);
464    
465          pmv[0] = Data->predMV;          pmv[0] = Data->predMV;
466          if (Data->qpel) { pmv[0].x /= 2; pmv[0].y /= 2; }          if (Data->qpel) {
467                    pmv[0].x /= 2; pmv[0].y /= 2;
468                    hint.x /= 2; hint.y /= 2;
469            }
470    
471          PreparePredictionsBF(pmv, x, y, pParam->mb_width, pMB, mode_current);          PreparePredictionsBF(pmv, x, y, pParam->mb_width, pMB, mode_current, hint, bound);
472    
473          Data->currentMV->x = Data->currentMV->y = 0;          Data->currentMV->x = Data->currentMV->y = 0;
474    
# Line 414  Line 488 
488                  MainSearchPtr(Data->currentMV->x, Data->currentMV->y, Data, mask, CheckCandidate16no4v);                  MainSearchPtr(Data->currentMV->x, Data->currentMV->y, Data, mask, CheckCandidate16no4v);
489          }          }
490    
491            if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
492    }
493    
494    static void
495    SearchBF_final(const int x, const int y,
496                            const uint32_t MotionFlags,
497                            const MBParam * const pParam,
498                            int32_t * const best_sad,
499                            SearchData * const Data)
500    {
501          if(!Data->qpel) {          if(!Data->qpel) {
502                  /* halfpel mode */                  /* halfpel mode */
503                  if (MotionFlags & XVID_ME_HALFPELREFINE16)                  if (MotionFlags & XVID_ME_HALFPELREFINE16)
504                                  xvid_me_SubpelRefine(Data, CheckCandidate16no4v, 0);                                  xvid_me_SubpelRefine(Data->currentMV[0], Data, CheckCandidate16no4v, 0);
505          } else {          } else {
506                  /* qpel mode */                  /* qpel mode */
507                  if(MotionFlags & XVID_ME_FASTREFINE16) {                  if(MotionFlags & XVID_ME_FASTREFINE16) {
508                          /* fast */                          /* fast */
509                          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,                          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,
510                                                  pParam->width, pParam->height, Data->iFcode, 2, 0);                                                  pParam->width, pParam->height, Data->iFcode, 2);
                         if (*Data->iMinSAD < *best_sad + 2*threshA)  
511                                  FullRefine_Fast(Data, CheckCandidate16no4v, 0);                                  FullRefine_Fast(Data, CheckCandidate16no4v, 0);
512    
513                  } else {                  } else {
514    
515                          Data->currentQMV->x = 2*Data->currentMV->x;                          Data->currentQMV->x = 2*Data->currentMV->x;
516                          Data->currentQMV->y = 2*Data->currentMV->y;                          Data->currentQMV->y = 2*Data->currentMV->y;
517                          if(MotionFlags & XVID_ME_QUARTERPELREFINE16) {                          if(MotionFlags & XVID_ME_QUARTERPELREFINE16) {
518                                  /* full */                                  /* full */
519                                  if (MotionFlags & XVID_ME_HALFPELREFINE16) {                                  if (MotionFlags & XVID_ME_HALFPELREFINE16) {
520                                          xvid_me_SubpelRefine(Data, CheckCandidate16no4v, 0); /* hpel part */                                          xvid_me_SubpelRefine(Data->currentMV[0], Data, CheckCandidate16no4v, 0); /* hpel part */
521                                          Data->currentQMV->x = 2*Data->currentMV->x;                                          Data->currentQMV->x = 2*Data->currentMV->x;
522                                          Data->currentQMV->y = 2*Data->currentMV->y;                                          Data->currentQMV->y = 2*Data->currentMV->y;
523                                  }                                  }
524                                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,                                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,
525                                                          pParam->width, pParam->height, Data->iFcode, 2, 0);                                                          pParam->width, pParam->height, Data->iFcode, 2);
526                                  Data->qpel_precision = 1;                                  Data->qpel_precision = 1;
527                                  if (*Data->iMinSAD < *best_sad + threshA)                                  xvid_me_SubpelRefine(Data->currentQMV[0], Data, CheckCandidate16no4v, 0); /* qpel part */
                                         xvid_me_SubpelRefine(Data, CheckCandidate16no4v, 0); /* qpel part */  
                         }  
                 }  
528          }          }
   
         /* three bits are needed to code backward mode. four for forward */  
   
         if (mode_current == MODE_FORWARD) *Data->iMinSAD += 4 * Data->lambda16;  
         else *Data->iMinSAD += 3 * Data->lambda16;  
   
         if (*Data->iMinSAD < *best_sad) {  
                 *best_sad = *Data->iMinSAD;  
                 pMB->mode = mode_current;  
                 if (Data->qpel) {  
                         pMB->pmvs[0].x = Data->currentQMV->x - predMV->x;  
                         pMB->pmvs[0].y = Data->currentQMV->y - predMV->y;  
                         if (mode_current == MODE_FORWARD)  
                                 pMB->qmvs[0] = *Data->currentQMV;  
                         else  
                                 pMB->b_qmvs[0] = *Data->currentQMV;  
                 } else {  
                         pMB->pmvs[0].x = Data->currentMV->x - predMV->x;  
                         pMB->pmvs[0].y = Data->currentMV->y - predMV->y;  
529                  }                  }
                 if (mode_current == MODE_FORWARD) pMB->mvs[0] = *Data->currentMV;  
                 else pMB->b_mvs[0] = *Data->currentMV;  
530          }          }
531            if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
532    
         if (mode_current == MODE_FORWARD) *(Data->currentMV+2) = *Data->currentMV;  
         else *(Data->currentMV+1) = *Data->currentMV; /* we store currmv for interpolate search */  
533  }  }
534    
535  static void  static void
536  SkipDecisionB(const IMAGE * const pCur,  SkipDecisionB(MACROBLOCK * const pMB, const SearchData * const Data)
                                 const IMAGE * const f_Ref,  
                                 const IMAGE * const b_Ref,  
                                 MACROBLOCK * const pMB,  
                                 const uint32_t x, const uint32_t y,  
                                 const SearchData * const Data)  
537  {  {
538          int k;          int k;
539    
# Line 503  Line 555 
555                  b_dy = (b_dy >> 3) + roundtab_76[b_dy & 0xf];                  b_dy = (b_dy >> 3) + roundtab_76[b_dy & 0xf];
556                  b_dx = (b_dx >> 3) + roundtab_76[b_dx & 0xf];                  b_dx = (b_dx >> 3) + roundtab_76[b_dx & 0xf];
557    
558                  sum = sad8bi(pCur->u + 8 * x + 8 * y * stride,                  sum = sad8bi(Data->CurU,
559                                                  f_Ref->u + (y*8 + dy/2) * stride + x*8 + dx/2,                                                  Data->RefP[4] + (dy/2) * (int)stride + dx/2,
560                                                  b_Ref->u + (y*8 + b_dy/2) * stride + x*8 + b_dx/2,                                                  Data->b_RefP[4] + (b_dy/2) * (int)stride + b_dx/2,
561                                                  stride);                                                  stride);
562    
563                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */
564    
565                  sum += sad8bi(pCur->v + 8*x + 8 * y * stride,                  sum += sad8bi(Data->CurV,
566                                                  f_Ref->v + (y*8 + dy/2) * stride + x*8 + dx/2,                                                  Data->RefP[5] + (dy/2) * (int)stride + dx/2,
567                                                  b_Ref->v + (y*8 + b_dy/2) * stride + x*8 + b_dx/2,                                                  Data->b_RefP[5] + (b_dy/2) * (int)stride + b_dx/2,
568                                                  stride);                                                  stride);
569    
570                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */
571            } else {
572                    int sum = Data->chromaSAD; /* chroma-sad SAD caching keeps it there */
573    
574                    if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */
575          }          }
576    
577          /* skip */          /* skip */
# Line 523  Line 579 
579          for (k = 0; k < 4; k++) {          for (k = 0; k < 4; k++) {
580                  pMB->qmvs[k] = pMB->mvs[k] = Data->directmvF[k];                  pMB->qmvs[k] = pMB->mvs[k] = Data->directmvF[k];
581                  pMB->b_qmvs[k] = pMB->b_mvs[k] =  Data->directmvB[k];                  pMB->b_qmvs[k] = pMB->b_mvs[k] =  Data->directmvB[k];
582                    if (Data->qpel) {
583                            pMB->mvs[k].x /= 2; pMB->mvs[k].y /= 2; /* it's a hint for future searches */
584                            pMB->b_mvs[k].x /= 2; pMB->b_mvs[k].y /= 2;
585                    }
586          }          }
587  }  }
588    
589  static uint32_t  static uint32_t
590  SearchDirect(const IMAGE * const f_Ref,  SearchDirect_initial(const int x, const int y,
                                 const uint8_t * const f_RefH,  
                                 const uint8_t * const f_RefV,  
                                 const uint8_t * const f_RefHV,  
                                 const IMAGE * const b_Ref,  
                                 const uint8_t * const b_RefH,  
                                 const uint8_t * const b_RefV,  
                                 const uint8_t * const b_RefHV,  
                                 const IMAGE * const pCur,  
                                 const int x, const int y,  
591                                  const uint32_t MotionFlags,                                  const uint32_t MotionFlags,
592                                  const int32_t TRB, const int32_t TRD,                                  const int32_t TRB, const int32_t TRD,
593                                  const MBParam * const pParam,                                  const MBParam * const pParam,
# Line 548  Line 599 
599  {  {
600          int32_t skip_sad;          int32_t skip_sad;
601          int k = (x + Data->iEdgedWidth*y) * 16;          int k = (x + Data->iEdgedWidth*y) * 16;
         MainSearchFunc *MainSearchPtr;  
         CheckFunc * CheckCandidate;  
   
         *Data->iMinSAD = 256*4096;  
         Data->RefP[0] = f_Ref->y + k;  
         Data->RefP[2] = f_RefH + k;  
         Data->RefP[1] = f_RefV + k;  
         Data->RefP[3] = f_RefHV + k;  
         Data->b_RefP[0] = b_Ref->y + k;  
         Data->b_RefP[2] = b_RefH + k;  
         Data->b_RefP[1] = b_RefV + k;  
         Data->b_RefP[3] = b_RefHV + k;  
         Data->RefP[4] = f_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->RefP[5] = f_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[4] = b_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[5] = b_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
602    
603          k = Data->qpel ? 4 : 2;          k = Data->qpel ? 4 : 2;
604          Data->max_dx = k * (pParam->width - x * 16);          Data->max_dx = k * (pParam->width - x * 16);
605          Data->max_dy = k * (pParam->height - y * 16);          Data->max_dy = k * (pParam->height - y * 16);
606          Data->min_dx = -k * (16 + x * 16);          Data->min_dx = -k * (16 + x * 16);
607          Data->min_dy = -k * (16 + y * 16);          Data->min_dy = -k * (16 + y * 16);
         Data->chromaX = Data->chromaY = Data->b_chromaX = Data->b_chromaY = 256*4096;  
608    
609          Data->referencemv = Data->qpel ? b_mb->qmvs : b_mb->mvs;          Data->referencemv = Data->qpel ? b_mb->qmvs : b_mb->mvs;
         Data->qpel_precision = 0;  
610    
611          for (k = 0; k < 4; k++) {          for (k = 0; k < 4; k++) {
612                  pMB->mvs[k].x = Data->directmvF[k].x = ((TRB * Data->referencemv[k].x) / TRD);                  Data->directmvF[k].x = ((TRB * Data->referencemv[k].x) / TRD);
613                  pMB->b_mvs[k].x = Data->directmvB[k].x = ((TRB - TRD) * Data->referencemv[k].x) / TRD;                  Data->directmvB[k].x = ((TRB - TRD) * Data->referencemv[k].x) / TRD;
614                  pMB->mvs[k].y = Data->directmvF[k].y = ((TRB * Data->referencemv[k].y) / TRD);                  Data->directmvF[k].y = ((TRB * Data->referencemv[k].y) / TRD);
615                  pMB->b_mvs[k].y = Data->directmvB[k].y = ((TRB - TRD) * Data->referencemv[k].y) / TRD;                  Data->directmvB[k].y = ((TRB - TRD) * Data->referencemv[k].y) / TRD;
616    
617                  if ( (pMB->b_mvs[k].x > Data->max_dx) | (pMB->b_mvs[k].x < Data->min_dx)                  if ( (Data->directmvB[k].x > Data->max_dx) | (Data->directmvB[k].x < Data->min_dx)
618                          | (pMB->b_mvs[k].y > Data->max_dy) | (pMB->b_mvs[k].y < Data->min_dy) ) {                          | (Data->directmvB[k].y > Data->max_dy) | (Data->directmvB[k].y < Data->min_dy) ) {
619    
620                          *best_sad = 256*4096; /* in that case, we won't use direct mode */                          Data->iMinSAD[0] = *best_sad = 256*4096; /* in that case, we won't use direct mode */
                         pMB->mode = MODE_DIRECT; /* just to make sure it doesn't say "MODE_DIRECT_NONE_MV" */  
                         pMB->b_mvs[0].x = pMB->b_mvs[0].y = 0;  
621                          return 256*4096;                          return 256*4096;
622                  }                  }
623                  if (b_mb->mode != MODE_INTER4V) {                  if (b_mb->mode != MODE_INTER4V) {
                         pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->mvs[0];  
                         pMB->b_mvs[1] = pMB->b_mvs[2] = pMB->b_mvs[3] = pMB->b_mvs[0];  
624                          Data->directmvF[1] = Data->directmvF[2] = Data->directmvF[3] = Data->directmvF[0];                          Data->directmvF[1] = Data->directmvF[2] = Data->directmvF[3] = Data->directmvF[0];
625                          Data->directmvB[1] = Data->directmvB[2] = Data->directmvB[3] = Data->directmvB[0];                          Data->directmvB[1] = Data->directmvB[2] = Data->directmvB[3] = Data->directmvB[0];
626                          break;                          break;
627                  }                  }
628          }          }
629            Data->qpel_precision = Data->qpel; /* this initial check is done with full precision, to find real
630                                                                                            SKIP sad */
631    
632          CheckCandidateDirect(0, 0, Data, 255);  /* will also fill iMinSAD[1..4] with 8x8 SADs */          CheckCandidateDirect(0, 0, Data, 255);  /* will also fill iMinSAD[1..4] with 8x8 SADs */
633    
# Line 606  Line 637 
637                  && Data->iMinSAD[3] < (int)Data->iQuant * INITIAL_SKIP_THRESH                  && Data->iMinSAD[3] < (int)Data->iQuant * INITIAL_SKIP_THRESH
638                  && Data->iMinSAD[4] < (int)Data->iQuant * INITIAL_SKIP_THRESH) {                  && Data->iMinSAD[4] < (int)Data->iQuant * INITIAL_SKIP_THRESH) {
639                  /* possible skip */                  /* possible skip */
640                  SkipDecisionB(pCur, f_Ref, b_Ref, pMB, x, y, Data);                  SkipDecisionB(pMB, Data);
641                  if (pMB->mode == MODE_DIRECT_NONE_MV)                  if (pMB->mode == MODE_DIRECT_NONE_MV)
642                          return *Data->iMinSAD; /* skipped */                          return *Data->iMinSAD; /* skipped */
643          }          }
644    
645            if (Data->chroma && Data->chromaSAD >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) /* chroma doesn't allow skip */
646                    skip_sad = 256*4096;
647            else
648          skip_sad = 4*MAX(MAX(Data->iMinSAD[1],Data->iMinSAD[2]), MAX(Data->iMinSAD[3],Data->iMinSAD[4]));          skip_sad = 4*MAX(MAX(Data->iMinSAD[1],Data->iMinSAD[2]), MAX(Data->iMinSAD[3],Data->iMinSAD[4]));
         if (Data->chroma) skip_sad += Data->chromaSAD;  
649    
650          CheckCandidate = b_mb->mode == MODE_INTER4V ? CheckCandidateDirect : CheckCandidateDirectno4v;          Data->currentMV[1].x = Data->directmvF[0].x + Data->currentMV->x; /* hints for forward and backward searches */
651            Data->currentMV[1].y = Data->directmvF[0].y + Data->currentMV->y;
652    
653          if (!(MotionFlags & XVID_ME_SKIP_DELTASEARCH)) {          Data->currentMV[2].x = ((Data->currentMV->x == 0) ?
654                  if (MotionFlags & XVID_ME_USESQUARES16) MainSearchPtr = xvid_me_SquareSearch;                          Data->directmvB[0].x
655                          else if (MotionFlags & XVID_ME_ADVANCEDDIAMOND16) MainSearchPtr = xvid_me_AdvDiamondSearch;                          : Data->currentMV[1].x - Data->referencemv[0].x);
656                                  else MainSearchPtr = xvid_me_DiamondSearch;  
657            Data->currentMV[2].y = ((Data->currentMV->y == 0) ?
658                            Data->directmvB[0].y
659                            : Data->currentMV[1].y - Data->referencemv[0].y);
660    
661                  MainSearchPtr(0, 0, Data, 255, CheckCandidate);          *best_sad = Data->iMinSAD[0];
662    
663                  xvid_me_SubpelRefine(Data, CheckCandidate, 0);          return skip_sad;
664          }          }
665    
666          *Data->iMinSAD += Data->lambda16;  static void
667          *best_sad = *Data->iMinSAD;  SearchDirect_final( const uint32_t MotionFlags,
668                                            const MACROBLOCK * const b_mb,
669                                            int32_t * const best_sad,
670                                            SearchData * const Data)
671    
672    {
673            CheckFunc * CheckCandidate = b_mb->mode == MODE_INTER4V ?
674                                                                            CheckCandidateDirect : CheckCandidateDirectno4v;
675            MainSearchFunc *MainSearchPtr;
676    
677          if (Data->qpel || b_mb->mode == MODE_INTER4V) pMB->mode = MODE_DIRECT;          if (MotionFlags & XVID_ME_USESQUARES16) MainSearchPtr = xvid_me_SquareSearch;
678          else pMB->mode = MODE_DIRECT_NO4V; /* for faster compensation */          else if (MotionFlags & XVID_ME_ADVANCEDDIAMOND16) MainSearchPtr = xvid_me_AdvDiamondSearch;
679            else MainSearchPtr = xvid_me_DiamondSearch;
680    
681          pMB->pmvs[3] = *Data->currentMV;          Data->qpel_precision = 0;
682            MainSearchPtr(0, 0, Data, 255, CheckCandidate);
683    
684          for (k = 0; k < 4; k++) {          Data->qpel_precision = Data->qpel;
                 pMB->mvs[k].x = Data->directmvF[k].x + Data->currentMV->x;  
                 pMB->b_mvs[k].x = (     (Data->currentMV->x == 0)  
                                                         ? Data->directmvB[k].x  
                                                         :pMB->mvs[k].x - Data->referencemv[k].x);  
                 pMB->mvs[k].y = (Data->directmvF[k].y + Data->currentMV->y);  
                 pMB->b_mvs[k].y = ((Data->currentMV->y == 0)  
                                                         ? Data->directmvB[k].y  
                                                         : pMB->mvs[k].y - Data->referencemv[k].y);  
685                  if (Data->qpel) {                  if (Data->qpel) {
686                          pMB->qmvs[k].x = pMB->mvs[k].x; pMB->mvs[k].x /= 2;                  *Data->iMinSAD = 256*4096; /* this old SAD was not real, it was in hpel precision */
687                          pMB->b_qmvs[k].x = pMB->b_mvs[k].x; pMB->b_mvs[k].x /= 2;                  CheckCandidate(Data->currentMV->x, Data->currentMV->y, Data, 255);
                         pMB->qmvs[k].y = pMB->mvs[k].y; pMB->mvs[k].y /= 2;  
                         pMB->b_qmvs[k].y = pMB->b_mvs[k].y; pMB->b_mvs[k].y /= 2;  
688                  }                  }
689    
690                  if (b_mb->mode != MODE_INTER4V) {          xvid_me_SubpelRefine(Data->currentMV[0], Data, CheckCandidate, 0);
691                          pMB->mvs[3] = pMB->mvs[2] = pMB->mvs[1] = pMB->mvs[0];  
692                          pMB->b_mvs[3] = pMB->b_mvs[2] = pMB->b_mvs[1] = pMB->b_mvs[0];          if (Data->iMinSAD[0] < *best_sad) {
693                          pMB->qmvs[3] = pMB->qmvs[2] = pMB->qmvs[1] = pMB->qmvs[0];                  *best_sad = Data->iMinSAD[0];
                         pMB->b_qmvs[3] = pMB->b_qmvs[2] = pMB->b_qmvs[1] = pMB->b_qmvs[0];  
                         break;  
                 }  
694          }          }
695          return skip_sad;  
696  }  }
697    
698    
699  static void set_range(int * range, SearchData * Data)  static __inline void
700    set_range(int * range, SearchData * Data)
701  {  {
702          Data->min_dx = range[0];          Data->min_dx = range[0];
703          Data->max_dx = range[1];          Data->max_dx = range[1];
# Line 671  Line 706 
706  }  }
707    
708  static void  static void
709  SearchInterpolate(const IMAGE * const f_Ref,  SearchInterpolate_initial(
                                 const uint8_t * const f_RefH,  
                                 const uint8_t * const f_RefV,  
                                 const uint8_t * const f_RefHV,  
                                 const IMAGE * const b_Ref,  
                                 const uint8_t * const b_RefH,  
                                 const uint8_t * const b_RefV,  
                                 const uint8_t * const b_RefHV,  
710                                  const int x, const int y,                                  const int x, const int y,
                                 const uint32_t fcode,  
                                 const uint32_t bcode,  
711                                  const uint32_t MotionFlags,                                  const uint32_t MotionFlags,
712                                  const MBParam * const pParam,                                  const MBParam * const pParam,
713                                  const VECTOR * const f_predMV,                                  const VECTOR * const f_predMV,
714                                  const VECTOR * const b_predMV,                                  const VECTOR * const b_predMV,
                                 MACROBLOCK * const pMB,  
715                                  int32_t * const best_sad,                                  int32_t * const best_sad,
716                                  SearchData * const Data)                                  SearchData * const Data,
717                                    const VECTOR startF,
718                                    const VECTOR startB)
719    
720  {  {
         int i, j;  
721          int b_range[4], f_range[4];          int b_range[4], f_range[4];
         int threshA = (MotionFlags & XVID_ME_FAST_MODEINTERPOLATE) ? 250 : 500;  
         int threshB = (MotionFlags & XVID_ME_FAST_MODEINTERPOLATE) ? 150 : 300;  
722    
723          Data->qpel_precision = 0;          Data->qpel_precision = 0;
         *Data->iMinSAD = 4096*256;  
         Data->iFcode = fcode; Data->bFcode = bcode;  
   
         i = (x + y * Data->iEdgedWidth) * 16;  
   
         Data->RefP[0] = f_Ref->y + i;  
         Data->RefP[2] = f_RefH + i;  
         Data->RefP[1] = f_RefV + i;  
         Data->RefP[3] = f_RefHV + i;  
         Data->b_RefP[0] = b_Ref->y + i;  
         Data->b_RefP[2] = b_RefH + i;  
         Data->b_RefP[1] = b_RefV + i;  
         Data->b_RefP[3] = b_RefHV + i;  
         Data->RefP[4] = f_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->RefP[5] = f_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[4] = b_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[5] = b_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
   
         Data->chromaX = Data->chromaY = 256*4096;  
724    
725          Data->predMV = *f_predMV;          Data->predMV = *f_predMV;
726          Data->bpredMV = *b_predMV;          Data->bpredMV = *b_predMV;
727    
728          Data->currentMV[0] = Data->currentMV[2]; /* forward search left its vector here */          Data->currentMV[0] = startF;
729            Data->currentMV[1] = startB;
730    
731          get_range(f_range, f_range+1, f_range+2, f_range+3, x, y, 4, pParam->width, pParam->height, fcode - Data->qpel, 1, 0);          get_range(f_range, f_range+1, f_range+2, f_range+3, x, y, 4, pParam->width, pParam->height, Data->iFcode - Data->qpel, 1);
732          get_range(b_range, b_range+1, b_range+2, b_range+3, x, y, 4, pParam->width, pParam->height, bcode - Data->qpel, 1, 0);          get_range(b_range, b_range+1, b_range+2, b_range+3, x, y, 4, pParam->width, pParam->height, Data->bFcode - Data->qpel, 1);
733    
734          if (Data->currentMV[0].x > f_range[1]) Data->currentMV[0].x = f_range[1];          if (Data->currentMV[0].x > f_range[1]) Data->currentMV[0].x = f_range[1];
735          if (Data->currentMV[0].x < f_range[0]) Data->currentMV[0].x = f_range[0];          if (Data->currentMV[0].x < f_range[0]) Data->currentMV[0].x = f_range[0];
# Line 739  Line 745 
745    
746          CheckCandidateInt(Data->currentMV[0].x, Data->currentMV[0].y, Data, 1);          CheckCandidateInt(Data->currentMV[0].x, Data->currentMV[0].y, Data, 1);
747    
748            if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
749    }
750    
751    static void
752    SearchInterpolate_final(const int x, const int y,
753                                                    const uint32_t MotionFlags,
754                                                    const MBParam * const pParam,
755                                                    int32_t * const best_sad,
756                                                    SearchData * const Data)
757    {
758            int i, j;
759            int b_range[4], f_range[4];
760    
761            get_range(f_range, f_range+1, f_range+2, f_range+3, x, y, 4, pParam->width, pParam->height, Data->iFcode - Data->qpel, 1);
762            get_range(b_range, b_range+1, b_range+2, b_range+3, x, y, 4, pParam->width, pParam->height, Data->bFcode - Data->qpel, 1);
763    
764          /* diamond */          /* diamond */
765          do {          do {
766                  Data->dir = 0;                  Data->dir = 0;
# Line 765  Line 787 
787    
788          /* qpel refinement */          /* qpel refinement */
789          if (Data->qpel) {          if (Data->qpel) {
                 if (*Data->iMinSAD > *best_sad + threshA) return;  
790                  Data->qpel_precision = 1;                  Data->qpel_precision = 1;
791                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4, pParam->width, pParam->height, fcode, 2, 0);                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy,
792                            x, y, 4, pParam->width, pParam->height, Data->iFcode, 2);
793    
794                  Data->currentQMV[0].x = 2 * Data->currentMV[0].x;                  Data->currentQMV[0].x = 2 * Data->currentMV[0].x;
795                  Data->currentQMV[0].y = 2 * Data->currentMV[0].y;                  Data->currentQMV[0].y = 2 * Data->currentMV[0].y;
796                  Data->currentQMV[1].x = 2 * Data->currentMV[1].x;                  Data->currentQMV[1].x = 2 * Data->currentMV[1].x;
797                  Data->currentQMV[1].y = 2 * Data->currentMV[1].y;                  Data->currentQMV[1].y = 2 * Data->currentMV[1].y;
798    
799                  if (MotionFlags & XVID_ME_QUARTERPELREFINE16)                  if (MotionFlags & XVID_ME_QUARTERPELREFINE16) {
800                          xvid_me_SubpelRefine(Data, CheckCandidateInt, 1);                          xvid_me_SubpelRefine(Data->currentQMV[0], Data, CheckCandidateInt, 1);
801    
802                  if (*Data->iMinSAD > *best_sad + threshB) return;                          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy,
803                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4, pParam->width, pParam->height, bcode, 2, 0);                                  x, y, 4, pParam->width, pParam->height, Data->bFcode, 2);
804    
805                  if (MotionFlags & XVID_ME_QUARTERPELREFINE16)                          xvid_me_SubpelRefine(Data->currentQMV[1], Data, CheckCandidateInt, 2);
806                          xvid_me_SubpelRefine(Data, CheckCandidateInt, 2);                  }
807          }          }
808    
809          *Data->iMinSAD += 2 * Data->lambda16; /* two bits are needed to code interpolate mode. */          if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
810    }
811    
812          if (*Data->iMinSAD < *best_sad) {  static void
813                  *best_sad = *Data->iMinSAD;  SearchInterpolate_final_fast(const int x, const int y,
814                  pMB->mvs[0] = Data->currentMV[0];                                                           const uint32_t MotionFlags,
815                  pMB->b_mvs[0] = Data->currentMV[1];                                                           const MBParam * const pParam,
816                  pMB->mode = MODE_INTERPOLATE;                                                           int32_t * const best_sad,
817                                                             SearchData * const Data)
818    {
819            /* qpel refinement */
820                  if (Data->qpel) {                  if (Data->qpel) {
821                          pMB->qmvs[0] = Data->currentQMV[0];                  Data->qpel_precision = 1;
822                          pMB->b_qmvs[0] = Data->currentQMV[1];                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy,
823                            x, y, 4, pParam->width, pParam->height, Data->iFcode, 2);
824    
825                    Data->currentQMV[0].x = 2 * Data->currentMV[0].x;
826                    Data->currentQMV[0].y = 2 * Data->currentMV[0].y;
827                    Data->currentQMV[1].x = 2 * Data->currentMV[1].x;
828                    Data->currentQMV[1].y = 2 * Data->currentMV[1].y;
829            }
830    }
831    
832    static void
833    ModeDecision_BVOP_SAD(const SearchData * const Data_d,
834                                              const SearchData * const Data_b,
835                                              const SearchData * const Data_f,
836                                              const SearchData * const Data_i,
837                                              MACROBLOCK * const pMB,
838                                              const MACROBLOCK * const b_mb,
839                                              VECTOR * f_predMV,
840                                              VECTOR * b_predMV,
841                                              int force_direct)
842    {
843            int mode = MODE_DIRECT, k;
844            int best_sad, f_sad, b_sad, i_sad;
845            const int qpel = Data_d->qpel;
846    
847            /* evaluate cost of all modes - quite simple in SAD */
848            best_sad = Data_d->iMinSAD[0] + 1*Data_d->lambda16;
849            b_sad = Data_b->iMinSAD[0] + 3*Data_d->lambda16;
850            f_sad = Data_f->iMinSAD[0] + 4*Data_d->lambda16;
851            i_sad = Data_i->iMinSAD[0] + 2*Data_d->lambda16;
852    
853            if (force_direct)
854                    goto set_mode; /* bypass checks for non-direct modes */
855    
856            if (b_sad < best_sad) {
857                    mode = MODE_BACKWARD;
858                    best_sad = b_sad;
859            }
860    
861            if (f_sad < best_sad) {
862                    mode = MODE_FORWARD;
863                    best_sad = f_sad;
864            }
865    
866            if (i_sad < best_sad) {
867                    mode = MODE_INTERPOLATE;
868                    best_sad = i_sad;
869            }
870    
871    set_mode:
872            pMB->sad16 = best_sad;
873            pMB->mode = mode;
874            pMB->cbp = 63;
875    
876            switch (mode) {
877    
878            case MODE_DIRECT:
879                    if (!qpel && b_mb->mode != MODE_INTER4V) pMB->mode = MODE_DIRECT_NO4V; /* for faster compensation */
880    
881                    pMB->pmvs[3] = Data_d->currentMV[0];
882    
883                    for (k = 0; k < 4; k++) {
884                            pMB->mvs[k].x = Data_d->directmvF[k].x + Data_d->currentMV->x;
885                            pMB->b_mvs[k].x = (     (Data_d->currentMV->x == 0)
886                                                                    ? Data_d->directmvB[k].x
887                                                                    :pMB->mvs[k].x - Data_d->referencemv[k].x);
888                            pMB->mvs[k].y = (Data_d->directmvF[k].y + Data_d->currentMV->y);
889                            pMB->b_mvs[k].y = ((Data_d->currentMV->y == 0)
890                                                                    ? Data_d->directmvB[k].y
891                                                                    : pMB->mvs[k].y - Data_d->referencemv[k].y);
892                            if (qpel) {
893                                    pMB->qmvs[k].x = pMB->mvs[k].x; pMB->mvs[k].x /= 2;
894                                    pMB->b_qmvs[k].x = pMB->b_mvs[k].x; pMB->b_mvs[k].x /= 2;
895                                    pMB->qmvs[k].y = pMB->mvs[k].y; pMB->mvs[k].y /= 2;
896                                    pMB->b_qmvs[k].y = pMB->b_mvs[k].y; pMB->b_mvs[k].y /= 2;
897                            }
898    
899                            if (b_mb->mode != MODE_INTER4V) {
900                                    pMB->mvs[3] = pMB->mvs[2] = pMB->mvs[1] = pMB->mvs[0];
901                                    pMB->b_mvs[3] = pMB->b_mvs[2] = pMB->b_mvs[1] = pMB->b_mvs[0];
902                                    pMB->qmvs[3] = pMB->qmvs[2] = pMB->qmvs[1] = pMB->qmvs[0];
903                                    pMB->b_qmvs[3] = pMB->b_qmvs[2] = pMB->b_qmvs[1] = pMB->b_qmvs[0];
904                                    break;
905                            }
906                    }
907                    break;
908    
909            case MODE_FORWARD:
910                    if (qpel) {
911                            pMB->pmvs[0].x = Data_f->currentQMV->x - f_predMV->x;
912                            pMB->pmvs[0].y = Data_f->currentQMV->y - f_predMV->y;
913                            pMB->qmvs[0] = *Data_f->currentQMV;
914                            *f_predMV = Data_f->currentQMV[0];
915                    } else {
916                            pMB->pmvs[0].x = Data_f->currentMV->x - f_predMV->x;
917                            pMB->pmvs[0].y = Data_f->currentMV->y - f_predMV->y;
918                            *f_predMV = Data_f->currentMV[0];
919                    }
920                    pMB->mvs[0] = *Data_f->currentMV;
921                    pMB->b_mvs[0] = *Data_b->currentMV; /* hint for future searches */
922                    break;
923    
924            case MODE_BACKWARD:
925                    if (qpel) {
926                            pMB->pmvs[0].x = Data_b->currentQMV->x - b_predMV->x;
927                            pMB->pmvs[0].y = Data_b->currentQMV->y - b_predMV->y;
928                            pMB->b_qmvs[0] = *Data_b->currentQMV;
929                            *b_predMV = Data_b->currentQMV[0];
930                    } else {
931                            pMB->pmvs[0].x = Data_b->currentMV->x - b_predMV->x;
932                            pMB->pmvs[0].y = Data_b->currentMV->y - b_predMV->y;
933                            *b_predMV = Data_b->currentMV[0];
934                    }
935                    pMB->b_mvs[0] = *Data_b->currentMV;
936                    pMB->mvs[0] = *Data_f->currentMV; /* hint for future searches */
937                    break;
938    
939    
940            case MODE_INTERPOLATE:
941                    pMB->mvs[0] = Data_i->currentMV[0];
942                    pMB->b_mvs[0] = Data_i->currentMV[1];
943                    if (qpel) {
944                            pMB->qmvs[0] = Data_i->currentQMV[0];
945                            pMB->b_qmvs[0] = Data_i->currentQMV[1];
946                          pMB->pmvs[1].x = pMB->qmvs[0].x - f_predMV->x;                          pMB->pmvs[1].x = pMB->qmvs[0].x - f_predMV->x;
947                          pMB->pmvs[1].y = pMB->qmvs[0].y - f_predMV->y;                          pMB->pmvs[1].y = pMB->qmvs[0].y - f_predMV->y;
948                          pMB->pmvs[0].x = pMB->b_qmvs[0].x - b_predMV->x;                          pMB->pmvs[0].x = pMB->b_qmvs[0].x - b_predMV->x;
949                          pMB->pmvs[0].y = pMB->b_qmvs[0].y - b_predMV->y;                          pMB->pmvs[0].y = pMB->b_qmvs[0].y - b_predMV->y;
950                            *f_predMV = Data_i->currentQMV[0];
951                            *b_predMV = Data_i->currentQMV[1];
952                  } else {                  } else {
953                          pMB->pmvs[1].x = pMB->mvs[0].x - f_predMV->x;                          pMB->pmvs[1].x = pMB->mvs[0].x - f_predMV->x;
954                          pMB->pmvs[1].y = pMB->mvs[0].y - f_predMV->y;                          pMB->pmvs[1].y = pMB->mvs[0].y - f_predMV->y;
955                          pMB->pmvs[0].x = pMB->b_mvs[0].x - b_predMV->x;                          pMB->pmvs[0].x = pMB->b_mvs[0].x - b_predMV->x;
956                          pMB->pmvs[0].y = pMB->b_mvs[0].y - b_predMV->y;                          pMB->pmvs[0].y = pMB->b_mvs[0].y - b_predMV->y;
957                            *f_predMV = Data_i->currentMV[0];
958                            *b_predMV = Data_i->currentMV[1];
959                    }
960                    break;
961                  }                  }
962          }          }
963    
964    static __inline void
965    maxMotionBVOP(int * const MVmaxF, int * const MVmaxB, const MACROBLOCK * const pMB, const int qpel)
966    {
967            if (pMB->mode == MODE_FORWARD || pMB->mode == MODE_INTERPOLATE) {
968                    const VECTOR * const mv = qpel ? pMB->qmvs : pMB->mvs;
969                    int max = *MVmaxF;
970                    if (mv[0].x > max) max = mv[0].x;
971                    else if (-mv[0].x - 1 > max) max = -mv[0].x - 1;
972                    if (mv[0].y > max) max = mv[0].y;
973                    else if (-mv[0].y - 1 > max) max = -mv[0].y - 1;
974    
975                    *MVmaxF = max;
976            }
977    
978            if (pMB->mode == MODE_BACKWARD || pMB->mode == MODE_INTERPOLATE) {
979                    const VECTOR * const mv = qpel ? pMB->b_qmvs : pMB->b_mvs;
980                    int max = *MVmaxB;
981                    if (mv[0].x > max) max = mv[0].x;
982                    else if (-mv[0].x - 1 > max) max = -mv[0].x - 1;
983                    if (mv[0].y > max) max = mv[0].y;
984                    else if (-mv[0].y - 1 > max) max = -mv[0].y - 1;
985                    *MVmaxB = max;
986            }
987  }  }
988    
989    
990  void  void
991  MotionEstimationBVOP(MBParam * const pParam,  MotionEstimationBVOP(MBParam * const pParam,
992                                           FRAMEINFO * const frame,                                           FRAMEINFO * const frame,
# Line 823  Line 1003 
1003                                           const IMAGE * const b_ref,                                           const IMAGE * const b_ref,
1004                                           const IMAGE * const b_refH,                                           const IMAGE * const b_refH,
1005                                           const IMAGE * const b_refV,                                           const IMAGE * const b_refV,
1006                                           const IMAGE * const b_refHV)                                           const IMAGE * const b_refHV,
1007                                             const int num_slices)
1008  {  {
1009          uint32_t i, j;          uint32_t i, j;
1010          int32_t best_sad;          int32_t best_sad = 256*4096;
1011          uint32_t skip_sad;          uint32_t skip_sad;
1012            int fb_thresh;
1013          const MACROBLOCK * const b_mbs = b_reference->mbs;          const MACROBLOCK * const b_mbs = b_reference->mbs;
         MACROBLOCK *const pMBs = frame->mbs;  
1014    
1015          VECTOR f_predMV, b_predMV;          VECTOR f_predMV, b_predMV;
1016    
1017            int mb_width = pParam->mb_width;
1018            int mb_height = pParam->mb_height;
1019            int MVmaxF = 0, MVmaxB = 0;
1020          const int32_t TRB = time_pp - time_bp;          const int32_t TRB = time_pp - time_bp;
1021          const int32_t TRD = time_pp;          const int32_t TRD = time_pp;
1022            DECLARE_ALIGNED_MATRIX(dct_space, 3, 64, int16_t, CACHE_LINE);
1023    
1024          /* some pre-inintialized data for the rest of the search */          /* some pre-inintialized data for the rest of the search */
1025            SearchData Data_d, Data_f, Data_b, Data_i;
1026            memset(&Data_d, 0, sizeof(SearchData));
1027    
1028          SearchData Data;          Data_d.iEdgedWidth = pParam->edged_width;
1029          memset(&Data, 0, sizeof(SearchData));          Data_d.qpel = pParam->vol_flags & XVID_VOL_QUARTERPEL ? 1 : 0;
1030            Data_d.rounding = 0;
1031            Data_d.chroma = frame->motion_flags & XVID_ME_CHROMA_BVOP;
1032            Data_d.iQuant = frame->quant;
1033            Data_d.quant_sq = frame->quant*frame->quant;
1034            Data_d.dctSpace = dct_space;
1035            Data_d.quant_type = !(pParam->vol_flags & XVID_VOL_MPEGQUANT);
1036            Data_d.mpeg_quant_matrices = pParam->mpeg_quant_matrices;
1037    
1038            Data_d.RefQ = f_refV->u; /* a good place, also used in MC (for similar purpose) */
1039    
1040            memcpy(&Data_f, &Data_d, sizeof(SearchData));
1041            memcpy(&Data_b, &Data_d, sizeof(SearchData));
1042            memcpy(&Data_i, &Data_d, sizeof(SearchData));
1043    
1044          Data.iEdgedWidth = pParam->edged_width;          Data_f.iFcode = Data_i.iFcode = frame->fcode = b_reference->fcode;
1045          Data.qpel = pParam->vol_flags & XVID_VOL_QUARTERPEL ? 1 : 0;          Data_b.iFcode = Data_i.bFcode = frame->bcode = b_reference->fcode;
         Data.rounding = 0;  
         Data.chroma = frame->motion_flags & XVID_ME_CHROMA_BVOP;  
         Data.iQuant = frame->quant;  
1046    
         Data.RefQ = f_refV->u; /* a good place, also used in MC (for similar purpose) */  
   
         /* note: i==horizontal, j==vertical */  
1047          for (j = 0; j < pParam->mb_height; j++) {          for (j = 0; j < pParam->mb_height; j++) {
1048                    int new_bound = mb_width * ((((j*num_slices) / mb_height) * mb_height + (num_slices-1)) / num_slices);
1049    
1050                  f_predMV = b_predMV = zeroMV;   /* prediction is reset at left boundary */                  f_predMV = b_predMV = zeroMV;   /* prediction is reset at left boundary */
1051    
1052                  for (i = 0; i < pParam->mb_width; i++) {                  for (i = 0; i < pParam->mb_width; i++) {
1053                          MACROBLOCK * const pMB = frame->mbs + i + j * pParam->mb_width;                          MACROBLOCK * const pMB = frame->mbs + i + j * pParam->mb_width;
1054                          const MACROBLOCK * const b_mb = b_mbs + i + j * pParam->mb_width;                          const MACROBLOCK * const b_mb = b_mbs + i + j * pParam->mb_width;
1055                          int interpol_search = 0;                          int force_direct = (((j*mb_width+i)==new_bound) && (j > 0)) ? 1 : 0; /* MTK decoder chipsets do NOT reset predMVs upon resync marker in BVOPs. We workaround this problem
1056                          int bf_search = 0;                                                                                                                                                                      by placing the slice border on second MB in a row and then force the first MB to be direct mode */
1057                          int bf_thresh = 0;  
1058                            pMB->mode = -1;
1059    
1060                            initialize_searchData(&Data_d, &Data_f, &Data_b, &Data_i,
1061                                              i, j, f_ref, f_refH->y, f_refV->y, f_refHV->y,
1062                                              b_ref, b_refH->y, b_refV->y, b_refHV->y,
1063                                              &frame->image, b_mb);
1064    
1065  /* special case, if collocated block is SKIPed in P-VOP: encoding is forward (0,0), cpb=0 without further ado */  /* special case, if collocated block is SKIPed in P-VOP: encoding is forward (0,0), cpb=0 without further ado */
1066                          if (b_reference->coding_type != S_VOP)                          if (b_reference->coding_type != S_VOP)
# Line 871  Line 1071 
1071                                          continue;                                          continue;
1072                                  }                                  }
1073    
                         Data.lambda16 = xvid_me_lambda_vec16[b_mb->quant];  
                         Data.Cur = frame->image.y + (j * Data.iEdgedWidth + i) * 16;  
                         Data.CurU = frame->image.u + (j * Data.iEdgedWidth/2 + i) * 8;  
                         Data.CurV = frame->image.v + (j * Data.iEdgedWidth/2 + i) * 8;  
   
1074  /* direct search comes first, because it (1) checks for SKIP-mode  /* direct search comes first, because it (1) checks for SKIP-mode
1075          and (2) sets very good predictions for forward and backward search */          and (2) sets very good predictions for forward and backward search */
1076                          skip_sad = SearchDirect(f_ref, f_refH->y, f_refV->y, f_refHV->y,                          skip_sad = SearchDirect_initial(i, j, frame->motion_flags, TRB, TRD, pParam, pMB,
1077                                                                          b_ref, b_refH->y, b_refV->y, b_refHV->y,                                                                                          b_mb, &best_sad, &Data_d);
                                                                         &frame->image,  
                                                                         i, j,  
                                                                         frame->motion_flags,  
                                                                         TRB, TRD,  
                                                                         pParam,  
                                                                         pMB, b_mb,  
                                                                         &best_sad,  
                                                                         &Data);  
1078    
1079                          if (pMB->mode == MODE_DIRECT_NONE_MV) {                          if (pMB->mode == MODE_DIRECT_NONE_MV) {
1080                                  pMB->sad16 = best_sad;                                  pMB->sad16 = best_sad;
1081                                    pMB->cbp = 0;
1082                                  continue;                                  continue;
1083                          }                          }
1084    
1085                          if (frame->motion_flags & XVID_ME_BFRAME_EARLYSTOP) {                          SearchBF_initial(i, j, frame->motion_flags, frame->fcode, pParam, pMB,
1086                                  if(i > 0 && j > 0 && i < pParam->mb_width) {                                                  &f_predMV, &best_sad, MODE_FORWARD, &Data_f, Data_d.currentMV[1], new_bound);
1087                                          bf_thresh = MIN((&pMBs[(i-1) + j * pParam->mb_width])->sad16,  
1088                                                                       MIN((&pMBs[i + (j-1) * pParam->mb_width])->sad16,                          SearchBF_initial(i, j, frame->motion_flags, frame->bcode, pParam, pMB,
1089                                                                       (&pMBs[(i+1) + (j-1) * pParam->mb_width])->sad16));                                                  &b_predMV, &best_sad, MODE_BACKWARD, &Data_b, Data_d.currentMV[2], new_bound);
1090    
1091                                          if (((&pMBs[(i-1) + j * pParam->mb_width])->mode != MODE_FORWARD) &&                          if (frame->motion_flags&XVID_ME_BFRAME_EARLYSTOP)
1092                                                  ((&pMBs[(i-1) + j * pParam->mb_width])->mode != MODE_BACKWARD) &&                                  fb_thresh = best_sad;
1093                                                  ((&pMBs[(i-1) + j * pParam->mb_width])->mode != MODE_INTERPOLATE))                          else
1094                                                          bf_search++;                                  fb_thresh = best_sad + (best_sad>>1);
1095    
1096                                          if (((&pMBs[i + (j - 1) * pParam->mb_width])->mode != MODE_FORWARD) &&                          if (Data_f.iMinSAD[0] <= fb_thresh)
1097                                                  ((&pMBs[i + (j - 1) * pParam->mb_width])->mode != MODE_BACKWARD) &&                                  SearchBF_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_f);
1098                                                  ((&pMBs[i + (j - 1) * pParam->mb_width])->mode != MODE_INTERPOLATE))  
1099                                                          bf_search++;                          if (Data_b.iMinSAD[0] <= fb_thresh)
1100                                    SearchBF_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_b);
1101                                          if (((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode != MODE_FORWARD) &&  
1102                                                  ((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode != MODE_BACKWARD) &&                          SearchInterpolate_initial(i, j, frame->motion_flags, pParam, &f_predMV, &b_predMV, &best_sad,
1103                                                  ((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode != MODE_INTERPOLATE))                                                                    &Data_i, Data_f.currentMV[0], Data_b.currentMV[0]);
1104                                                  bf_search++;  
1105                            if (((Data_i.iMinSAD[0] < best_sad +(best_sad>>3)) && !(frame->motion_flags&XVID_ME_FAST_MODEINTERPOLATE))
1106                                    || Data_i.iMinSAD[0] <= best_sad) {
1107    
1108                                    SearchInterpolate_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_i);
1109                            }
1110                            else {
1111                                    SearchInterpolate_final_fast(i, j, frame->motion_flags, pParam, &best_sad, &Data_i);
1112                                  }                                  }
1113    
1114                                  if ((best_sad < bf_thresh) && (bf_search == 3))                          if (Data_d.iMinSAD[0] <= 2*best_sad)
1115                                    if ((!(frame->motion_flags&XVID_ME_SKIP_DELTASEARCH) && (best_sad > 750))
1116                                            || (best_sad > 1000))
1117    
1118                                            SearchDirect_final(frame->motion_flags, b_mb, &best_sad, &Data_d);
1119    
1120                            /* final skip decision */
1121                            if ( (skip_sad < 2 * Data_d.iQuant * MAX_SAD00_FOR_SKIP )
1122                                    && ((100*best_sad)/(skip_sad+1) > FINAL_SKIP_THRESH) ) {
1123    
1124                                    Data_d.chromaSAD = 0; /* green light for chroma check */
1125    
1126                                    SkipDecisionB(pMB, &Data_d);
1127    
1128                                    if (pMB->mode == MODE_DIRECT_NONE_MV) { /* skipped? */
1129                                            pMB->sad16 = skip_sad;
1130                                            pMB->cbp = 0;
1131                                          continue;                                          continue;
1132                          }                          }
   
                         /* forward search */  
                         SearchBF(f_ref, f_refH->y, f_refV->y, f_refHV->y,  
                                                 i, j,  
                                                 frame->motion_flags,  
                                                 frame->fcode, pParam,  
                                                 pMB, &f_predMV, &best_sad,  
                                                 MODE_FORWARD, &Data);  
   
                         /* backward search */  
                         SearchBF(b_ref, b_refH->y, b_refV->y, b_refHV->y,  
                                                 i, j,  
                                                 frame->motion_flags,  
                                                 frame->bcode, pParam,  
                                                 pMB, &b_predMV, &best_sad,  
                                                 MODE_BACKWARD, &Data);  
   
                         /* interpolate search comes last, because it uses data from forward and backward as prediction */  
                         if (frame->motion_flags & XVID_ME_FAST_MODEINTERPOLATE) {  
   
                                 if(i > 0 && j > 0 && i < pParam->mb_width) {  
                                         if ((&pMBs[(i-1) + j * pParam->mb_width])->mode == MODE_INTERPOLATE)  
                                                 interpol_search++;  
                                         if ((&pMBs[i + (j - 1) * pParam->mb_width])->mode == MODE_INTERPOLATE)  
                                                 interpol_search++;  
                                         if ((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode == MODE_INTERPOLATE)  
                                                 interpol_search++;  
1133                                  }                                  }
1134    
1135                            if (frame->vop_flags & XVID_VOP_RD_BVOP)
1136                                    ModeDecision_BVOP_RD(&Data_d, &Data_b, &Data_f, &Data_i,
1137                                            pMB, b_mb, &f_predMV, &b_predMV, frame->motion_flags, frame->vop_flags, pParam, i, j, best_sad, force_direct);
1138                                  else                                  else
1139                                          interpol_search = 1;                                  ModeDecision_BVOP_SAD(&Data_d, &Data_b, &Data_f, &Data_i, pMB, b_mb, &f_predMV, &b_predMV, force_direct);
1140    
1141                            maxMotionBVOP(&MVmaxF, &MVmaxB, pMB, Data_d.qpel);
1142    
                                 interpol_search |= !(best_sad < 3 * Data.iQuant * MAX_SAD00_FOR_SKIP * (Data.chroma ? 3:2));  
1143                          }                          }
1144                          else          }
1145                                  interpol_search = 1;  
1146            frame->fcode = getMinFcode(MVmaxF);
1147            frame->bcode = getMinFcode(MVmaxB);
1148    }
1149    
1150    
1151                          if (interpol_search) {  
1152                                  SearchInterpolate(f_ref, f_refH->y, f_refV->y, f_refHV->y,  void
1153    SMPMotionEstimationBVOP(SMPData * h)
1154    {
1155            Encoder *pEnc = (Encoder *) h->pEnc;
1156    
1157            const MBParam * const pParam = &pEnc->mbParam;
1158            const FRAMEINFO * const frame = h->current;
1159            const int32_t time_bp = (int32_t)(pEnc->current->stamp - frame->stamp);
1160            const int32_t time_pp = (int32_t)(pEnc->current->stamp - pEnc->reference->stamp);
1161            /* forward (past) reference */
1162            const IMAGE * const f_ref = &pEnc->reference->image;
1163            const IMAGE * const f_refH = &pEnc->f_refh;
1164            const IMAGE * const f_refV = &pEnc->f_refv;
1165            const IMAGE * const f_refHV = &pEnc->f_refhv;
1166            /* backward (future) reference */
1167            const FRAMEINFO * const b_reference = pEnc->current;
1168            const IMAGE * const b_ref = &pEnc->current->image;
1169            const IMAGE * const b_refH = &pEnc->vInterH;
1170            const IMAGE * const b_refV = &pEnc->vInterV;
1171            const IMAGE * const b_refHV = &pEnc->vInterHV;
1172    
1173            int mb_width = pParam->mb_width;
1174            int mb_height = pParam->mb_height;
1175            int num_slices = pEnc->num_slices;
1176            int y_row = h->y_row;
1177            int y_step = h->y_step;
1178            int start_y = h->start_y;
1179            int stop_y = h->stop_y;
1180            int * complete_count_self = h->complete_count_self;
1181            const int * complete_count_above = h->complete_count_above;
1182            int max_mbs;
1183            int current_mb = 0;
1184    
1185            int32_t i, j;
1186            int32_t best_sad = 256*4096;
1187            uint32_t skip_sad;
1188            int fb_thresh;
1189            const MACROBLOCK * const b_mbs = b_reference->mbs;
1190    
1191            VECTOR f_predMV, b_predMV;
1192    
1193            int MVmaxF = 0, MVmaxB = 0;
1194            const int32_t TRB = time_pp - time_bp;
1195            const int32_t TRD = time_pp;
1196            DECLARE_ALIGNED_MATRIX(dct_space, 3, 64, int16_t, CACHE_LINE);
1197    
1198            /* some pre-inintialized data for the rest of the search */
1199            SearchData Data_d, Data_f, Data_b, Data_i;
1200            memset(&Data_d, 0, sizeof(SearchData));
1201    
1202            Data_d.iEdgedWidth = pParam->edged_width;
1203            Data_d.qpel = pParam->vol_flags & XVID_VOL_QUARTERPEL ? 1 : 0;
1204            Data_d.rounding = 0;
1205            Data_d.chroma = frame->motion_flags & XVID_ME_CHROMA_BVOP;
1206            Data_d.iQuant = frame->quant;
1207            Data_d.quant_sq = frame->quant*frame->quant;
1208            Data_d.dctSpace = dct_space;
1209            Data_d.quant_type = !(pParam->vol_flags & XVID_VOL_MPEGQUANT);
1210            Data_d.mpeg_quant_matrices = pParam->mpeg_quant_matrices;
1211    
1212            Data_d.RefQ = h->RefQ;
1213    
1214            memcpy(&Data_f, &Data_d, sizeof(SearchData));
1215            memcpy(&Data_b, &Data_d, sizeof(SearchData));
1216            memcpy(&Data_i, &Data_d, sizeof(SearchData));
1217    
1218            Data_f.iFcode = Data_i.iFcode = frame->fcode;
1219            Data_b.iFcode = Data_i.bFcode = frame->bcode;
1220    
1221            max_mbs = 0;
1222    
1223            for (j = (start_y+y_row); j < stop_y; j += y_step) {
1224                    int new_bound = mb_width * ((((j*num_slices) / mb_height) * mb_height + (num_slices-1)) / num_slices);
1225    
1226                    if (j == start_y) max_mbs = pParam->mb_width; /* we can process all blocks of the first row */
1227    
1228                    f_predMV = b_predMV = zeroMV;   /* prediction is reset at left boundary */
1229    
1230                    for (i = 0; i < (int) pParam->mb_width; i++) {
1231                            MACROBLOCK * const pMB = frame->mbs + i + j * pParam->mb_width;
1232                            const MACROBLOCK * const b_mb = b_mbs + i + j * pParam->mb_width;
1233                            int force_direct = (((j*mb_width+i)==new_bound) && (j > 0)) ? 1 : 0; /* MTK decoder chipsets do NOT reset predMVs upon resync marker in BVOPs. We workaround this problem
1234                                                                                                                                                                        by placing the slice border on second MB in a row and then force the first MB to be direct mode */
1235                            pMB->mode = -1;
1236    
1237                            initialize_searchData(&Data_d, &Data_f, &Data_b, &Data_i,
1238                                              i, j, f_ref, f_refH->y, f_refV->y, f_refHV->y,
1239                                                                    b_ref, b_refH->y, b_refV->y, b_refHV->y,                                                                    b_ref, b_refH->y, b_refV->y, b_refHV->y,
1240                                                                    i, j,                                            &frame->image, b_mb);
1241                                                                    frame->fcode, frame->bcode,  
1242                                                                    frame->motion_flags,                          if (current_mb >= max_mbs) {
1243                                                                    pParam,                                  /* we ME-ed all macroblocks we safely could. grab next portion */
1244                                                                    &f_predMV, &b_predMV,                                  int above_count = *complete_count_above; /* sync point */
1245                                                                    pMB, &best_sad,                                  if (above_count == pParam->mb_width) {
1246                                                                    &Data);                                          /* full line above is ready */
1247                                            above_count = pParam->mb_width+1;
1248                                            if (j < stop_y-y_step) {
1249                                                    /* this is not last line, grab a portion of MBs from the next line too */
1250                                                    above_count += MAX(0, complete_count_above[1] - 1);
1251                                            }
1252                          }                          }
1253    
1254                          /* final skip decision */                                  max_mbs = current_mb + above_count - i - 1;
1255                          if ( (skip_sad < Data.iQuant * MAX_SAD00_FOR_SKIP )  
1256                                  && ((100*best_sad)/(skip_sad+1) > FINAL_SKIP_THRESH) )                                  if (current_mb >= max_mbs) {
1257                                            /* current workload is zero */
1258                                            i--;
1259                                            sched_yield();
1260                                            continue;
1261                                    }
1262                            }
1263    
1264                                  SkipDecisionB(&frame->image, f_ref, b_ref, pMB, i, j, &Data);  /* special case, if collocated block is SKIPed in P-VOP: encoding is forward (0,0), cpb=0 without further ado */
1265                            if (b_reference->coding_type != S_VOP)
1266                                    if (b_mb->mode == MODE_NOT_CODED) {
1267                                            pMB->mode = MODE_NOT_CODED;
1268                                            pMB->mvs[0] = pMB->b_mvs[0] = zeroMV;
1269                                            pMB->sad16 = 0;
1270                                            *complete_count_self = i+1;
1271                                            current_mb++;
1272                                            continue;
1273                                    }
1274    
1275                          switch (pMB->mode) {  /* direct search comes first, because it (1) checks for SKIP-mode
1276                                  case MODE_FORWARD:          and (2) sets very good predictions for forward and backward search */
1277                                          f_predMV = Data.qpel ? pMB->qmvs[0] : pMB->mvs[0];                          skip_sad = SearchDirect_initial(i, j, frame->motion_flags, TRB, TRD, pParam, pMB,
1278                                          pMB->sad16 = best_sad;                                                                                          b_mb, &best_sad, &Data_d);
1279                                          break;  
1280                                  case MODE_BACKWARD:                          if (pMB->mode == MODE_DIRECT_NONE_MV) {
                                         b_predMV = Data.qpel ? pMB->b_qmvs[0] : pMB->b_mvs[0];  
                                         pMB->sad16 = best_sad;  
                                         break;  
                                 case MODE_INTERPOLATE:  
                                         f_predMV = Data.qpel ? pMB->qmvs[0] : pMB->mvs[0];  
                                         b_predMV = Data.qpel ? pMB->b_qmvs[0] : pMB->b_mvs[0];  
                                         pMB->sad16 = best_sad;  
                                         break;  
                                 default:  
1281                                          pMB->sad16 = best_sad;                                          pMB->sad16 = best_sad;
1282                                          break;                                  pMB->cbp = 0;
1283                                    *complete_count_self = i+1;
1284                                    current_mb++;
1285                                    continue;
1286                          }                          }
1287    
1288                            SearchBF_initial(i, j, frame->motion_flags, frame->fcode, pParam, pMB,
1289                                                    &f_predMV, &best_sad, MODE_FORWARD, &Data_f, Data_d.currentMV[1], new_bound);
1290    
1291                            SearchBF_initial(i, j, frame->motion_flags, frame->bcode, pParam, pMB,
1292                                                    &b_predMV, &best_sad, MODE_BACKWARD, &Data_b, Data_d.currentMV[2], new_bound);
1293    
1294                            if (frame->motion_flags&XVID_ME_BFRAME_EARLYSTOP)
1295                                    fb_thresh = best_sad;
1296                            else
1297                                    fb_thresh = best_sad + (best_sad>>1);
1298    
1299                            if (Data_f.iMinSAD[0] <= fb_thresh)
1300                                    SearchBF_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_f);
1301    
1302                            if (Data_b.iMinSAD[0] <= fb_thresh)
1303                                    SearchBF_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_b);
1304    
1305                            SearchInterpolate_initial(i, j, frame->motion_flags, pParam, &f_predMV, &b_predMV, &best_sad,
1306                                                                      &Data_i, Data_f.currentMV[0], Data_b.currentMV[0]);
1307    
1308                            if (((Data_i.iMinSAD[0] < best_sad +(best_sad>>3)) && !(frame->motion_flags&XVID_ME_FAST_MODEINTERPOLATE))
1309                                    || Data_i.iMinSAD[0] <= best_sad)
1310    
1311                                    SearchInterpolate_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_i);
1312    
1313                            if (Data_d.iMinSAD[0] <= 2*best_sad)
1314                                    if ((!(frame->motion_flags&XVID_ME_SKIP_DELTASEARCH) && (best_sad > 750))
1315                                            || (best_sad > 1000))
1316    
1317                                            SearchDirect_final(frame->motion_flags, b_mb, &best_sad, &Data_d);
1318    
1319                            /* final skip decision */
1320                            if ( (skip_sad < 2 * Data_d.iQuant * MAX_SAD00_FOR_SKIP )
1321                                    && ((100*best_sad)/(skip_sad+1) > FINAL_SKIP_THRESH) ) {
1322    
1323                                    Data_d.chromaSAD = 0; /* green light for chroma check */
1324    
1325                                    SkipDecisionB(pMB, &Data_d);
1326    
1327                                    if (pMB->mode == MODE_DIRECT_NONE_MV) { /* skipped? */
1328                                            pMB->sad16 = skip_sad;
1329                                            pMB->cbp = 0;
1330                                            *complete_count_self = i+1;
1331                                            current_mb++;
1332                                            continue;
1333                  }                  }
1334          }          }
1335    
1336                            if (frame->vop_flags & XVID_VOP_RD_BVOP)
1337                                    ModeDecision_BVOP_RD(&Data_d, &Data_b, &Data_f, &Data_i,
1338                                            pMB, b_mb, &f_predMV, &b_predMV, frame->motion_flags, frame->vop_flags, pParam, i, j, best_sad, force_direct);
1339                            else
1340                                    ModeDecision_BVOP_SAD(&Data_d, &Data_b, &Data_f, &Data_i, pMB, b_mb, &f_predMV, &b_predMV, force_direct);
1341    
1342                            *complete_count_self = i+1;
1343                            current_mb++;
1344                            maxMotionBVOP(&MVmaxF, &MVmaxB, pMB, Data_d.qpel);
1345                    }
1346    
1347                    complete_count_self++;
1348                    complete_count_above++;
1349            }
1350    
1351            h->minfcode = getMinFcode(MVmaxF);
1352            h->minbcode = getMinFcode(MVmaxB);
1353  }  }
Legend:
Removed from v.1456  
changed lines
  Added in v.2050
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4