[svn] / trunk / xvidcore / src / motion / estimation_bvop.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/motion/estimation_bvop.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1475, Sat Jul 3 08:46:39 2004 UTC revision 1517, Wed Jul 21 15:47:51 2004 UTC
# Line 21  Line 21 
21   *  along with this program ; if not, write to the Free Software   *  along with this program ; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: estimation_bvop.c,v 1.6 2004-07-03 08:46:39 syskin Exp $   * $Id: estimation_bvop.c,v 1.13 2004-07-21 15:47:51 syskin Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 164  Line 164 
164          const uint8_t *ReferenceF;          const uint8_t *ReferenceF;
165          const uint8_t *ReferenceB;          const uint8_t *ReferenceB;
166          VECTOR mvs, b_mvs;          VECTOR mvs, b_mvs;
167            const int blocks[4] = {0, 8, 8*data->iEdgedWidth, 8*data->iEdgedWidth+8};
168    
169          if (( x > 31) || ( x < -32) || ( y > 31) || (y < -32)) return;          if (( x > 31) || ( x < -32) || ( y > 31) || (y < -32)) return;
170    
# Line 187  Line 188 
188                  if (data->qpel) {                  if (data->qpel) {
189                          xcf += mvs.x/2; ycf += mvs.y/2;                          xcf += mvs.x/2; ycf += mvs.y/2;
190                          xcb += b_mvs.x/2; ycb += b_mvs.y/2;                          xcb += b_mvs.x/2; ycb += b_mvs.y/2;
191                            if (data->qpel_precision) {
192                                    ReferenceF = xvid_me_interpolate8x8qpel(mvs.x, mvs.y, k, 0, data);
193                                    ReferenceB = xvid_me_interpolate8x8qpel(b_mvs.x, b_mvs.y, k, 1, data);
194                                    goto done;
195                            }
196                            mvs.x >>=1; mvs.y >>=1; b_mvs.x >>=1; b_mvs.y >>=1; // qpel->hpel
197                  } else {                  } else {
198                          xcf += mvs.x; ycf += mvs.y;                          xcf += mvs.x; ycf += mvs.y;
199                          xcb += b_mvs.x; ycb += b_mvs.y;                          xcb += b_mvs.x; ycb += b_mvs.y;
                         mvs.x *= 2; mvs.y *= 2; /* we move to qpel precision anyway */  
                         b_mvs.x *= 2; b_mvs.y *= 2;  
200                  }                  }
201                    ReferenceF = GetReference(mvs.x, mvs.y, data) + blocks[k];
202                  ReferenceF = xvid_me_interpolate8x8qpel(mvs.x, mvs.y, k, 0, data);                  ReferenceB = GetReferenceB(b_mvs.x, b_mvs.y, 1, data) + blocks[k];
203                  ReferenceB = xvid_me_interpolate8x8qpel(b_mvs.x, b_mvs.y, k, 1, data);  done:
   
204                  sad += data->iMinSAD[k+1] =                  sad += data->iMinSAD[k+1] =
205                          sad8bi(data->Cur + 8*(k&1) + 8*(k>>1)*(data->iEdgedWidth),                          sad8bi(data->Cur + blocks[k],
206                                          ReferenceF, ReferenceB, data->iEdgedWidth);                                          ReferenceF, ReferenceB, data->iEdgedWidth);
207                  if (sad > *(data->iMinSAD)) return;                  if (sad > *(data->iMinSAD)) return;
208          }          }
# Line 246  Line 250 
250          if (data->qpel) {          if (data->qpel) {
251                  xcf = 4*(mvs.x/2); ycf = 4*(mvs.y/2);                  xcf = 4*(mvs.x/2); ycf = 4*(mvs.y/2);
252                  xcb = 4*(b_mvs.x/2); ycb = 4*(b_mvs.y/2);                  xcb = 4*(b_mvs.x/2); ycb = 4*(b_mvs.y/2);
253                    if (data->qpel_precision) {
254                  ReferenceF = xvid_me_interpolate16x16qpel(mvs.x, mvs.y, 0, data);                  ReferenceF = xvid_me_interpolate16x16qpel(mvs.x, mvs.y, 0, data);
255                  ReferenceB = xvid_me_interpolate16x16qpel(b_mvs.x, b_mvs.y, 1, data);                  ReferenceB = xvid_me_interpolate16x16qpel(b_mvs.x, b_mvs.y, 1, data);
256                            goto done;
257                    }
258                    mvs.x >>=1; mvs.y >>=1; b_mvs.x >>=1; b_mvs.y >>=1; // qpel->hpel
259          } else {          } else {
260                  xcf = 4*mvs.x; ycf = 4*mvs.y;                  xcf = 4*mvs.x; ycf = 4*mvs.y;
261                  xcb = 4*b_mvs.x; ycb = 4*b_mvs.y;                  xcb = 4*b_mvs.x; ycb = 4*b_mvs.y;
262            }
263                  ReferenceF = GetReference(mvs.x, mvs.y, data);                  ReferenceF = GetReference(mvs.x, mvs.y, data);
264                  ReferenceB = GetReferenceB(b_mvs.x, b_mvs.y, 1, data);                  ReferenceB = GetReferenceB(b_mvs.x, b_mvs.y, 1, data);
         }  
265    
266    done:
267          sad = sad16bi(data->Cur, ReferenceF, ReferenceB, data->iEdgedWidth);          sad = sad16bi(data->Cur, ReferenceF, ReferenceB, data->iEdgedWidth);
268          sad += (data->lambda16 * d_mv_bits(x, y, zeroMV, 1, 0, 0) * sad)>>10;          sad += (data->lambda16 * d_mv_bits(x, y, zeroMV, 1, 0, 0) * sad)>>10;
269    
# Line 310  Line 319 
319          }          }
320  }  }
321    
322    
323    static void
324    initialize_searchData(SearchData * Data_d,
325                                              SearchData * Data_f,
326                                              SearchData * Data_b,
327                                              SearchData * Data_i,
328                                              int x, int y,
329                                              const IMAGE * const f_Ref,
330                                              const uint8_t * const f_RefH,
331                                              const uint8_t * const f_RefV,
332                                              const uint8_t * const f_RefHV,
333                                              const IMAGE * const b_Ref,
334                                              const uint8_t * const b_RefH,
335                                              const uint8_t * const b_RefV,
336                                              const uint8_t * const b_RefHV,
337                                              const IMAGE * const pCur,
338                                              const MACROBLOCK * const b_mb)
339    {
340    
341            /* per-macroblock SearchData initialization - too many things would be repeated 4 times */
342            const uint8_t * RefP[6], * b_RefP[6], * Cur[3];
343            const uint32_t iEdgedWidth = Data_d->iEdgedWidth;
344            unsigned int lambda;
345            int i;
346    
347            /* luma */
348            int offset = (x + iEdgedWidth*y) * 16;
349            RefP[0] = f_Ref->y + offset;
350            RefP[2] = f_RefH + offset;
351            RefP[1] = f_RefV + offset;
352            RefP[3] = f_RefHV + offset;
353            b_RefP[0] = b_Ref->y + offset;
354            b_RefP[2] = b_RefH + offset;
355            b_RefP[1] = b_RefV + offset;
356            b_RefP[3] = b_RefHV + offset;
357            Cur[0] = pCur->y + offset;
358    
359            /* chroma */
360            offset = (x + (iEdgedWidth/2)*y) * 8;
361            RefP[4] = f_Ref->u + offset;
362            RefP[5] = f_Ref->v + offset;
363            b_RefP[4] = b_Ref->u + offset;
364            b_RefP[5] = b_Ref->v + offset;
365            Cur[1] = pCur->u + offset;
366            Cur[2] = pCur->v + offset;
367    
368            lambda = xvid_me_lambda_vec16[b_mb->quant];
369    
370            for (i = 0; i < 6; i++) {
371                    Data_d->RefP[i] = Data_f->RefP[i] = Data_i->RefP[i] = RefP[i];
372                    Data_d->b_RefP[i] = Data_b->RefP[i] = Data_i->b_RefP[i] = b_RefP[i];
373            }
374            Data_d->Cur = Data_f->Cur = Data_b->Cur = Data_i->Cur = Cur[0];
375            Data_d->CurU = Data_f->CurU = Data_b->CurU = Data_i->CurU = Cur[1];
376            Data_d->CurV = Data_f->CurV = Data_b->CurV = Data_i->CurV = Cur[2];
377    
378            Data_d->lambda16 = Data_f->lambda16 = Data_b->lambda16 = Data_i->lambda16 = lambda;
379    
380            /* reset chroma-sad cache */
381            Data_d->b_chromaX = Data_d->b_chromaY = Data_d->chromaX = Data_d->chromaY = Data_d->chromaSAD = 256*4096;
382            Data_i->b_chromaX = Data_i->b_chromaY = Data_i->chromaX = Data_i->chromaY = Data_i->chromaSAD = 256*4096;
383            Data_f->chromaX = Data_f->chromaY = Data_f->chromaSAD = 256*4096;
384            Data_b->chromaX = Data_b->chromaY = Data_b->chromaSAD = 256*4096;
385    
386            *Data_d->iMinSAD = *Data_b->iMinSAD = *Data_f->iMinSAD = *Data_i->iMinSAD = 4096*256;
387    }
388    
389  static __inline VECTOR  static __inline VECTOR
390  ChoosePred(const MACROBLOCK * const pMB, const uint32_t mode)  ChoosePred(const MACROBLOCK * const pMB, const uint32_t mode)
391  {  {
# Line 321  Line 397 
397  PreparePredictionsBF(VECTOR * const pmv, const int x, const int y,  PreparePredictionsBF(VECTOR * const pmv, const int x, const int y,
398                                                          const uint32_t iWcount,                                                          const uint32_t iWcount,
399                                                          const MACROBLOCK * const pMB,                                                          const MACROBLOCK * const pMB,
400                                                          const uint32_t mode_curr)                                                          const uint32_t mode_curr,
401                                                            const VECTOR hint)
402  {  {
   
403          /* [0] is prediction */          /* [0] is prediction */
404          pmv[0].x = EVEN(pmv[0].x); pmv[0].y = EVEN(pmv[0].y);          /* [1] is zero */
405            pmv[1].x = pmv[1].y = 0;
         pmv[1].x = pmv[1].y = 0; /* [1] is zero */  
406    
407          pmv[2] = ChoosePred(pMB, mode_curr);          pmv[2].x = hint.x; pmv[2].y = hint.y;
         pmv[2].x = EVEN(pmv[2].x); pmv[2].y = EVEN(pmv[2].y);  
408    
409          if ((y != 0)&&(x != (int)(iWcount+1))) {                        /* [3] top-right neighbour */          if ((y != 0)&&(x != (int)(iWcount+1))) {                        /* [3] top-right neighbour */
410                  pmv[3] = ChoosePred(pMB+1-iWcount, mode_curr);                  pmv[3] = ChoosePred(pMB+1-iWcount, mode_curr);
                 pmv[3].x = EVEN(pmv[3].x); pmv[3].y = EVEN(pmv[3].y);  
411          } else pmv[3].x = pmv[3].y = 0;          } else pmv[3].x = pmv[3].y = 0;
412    
413          if (y != 0) {          if (y != 0) {
414                  pmv[4] = ChoosePred(pMB-iWcount, mode_curr);                  pmv[4] = ChoosePred(pMB-iWcount, mode_curr);
                 pmv[4].x = EVEN(pmv[4].x); pmv[4].y = EVEN(pmv[4].y);  
415          } else pmv[4].x = pmv[4].y = 0;          } else pmv[4].x = pmv[4].y = 0;
416    
417          if (x != 0) {          if (x != 0) {
418                  pmv[5] = ChoosePred(pMB-1, mode_curr);                  pmv[5] = ChoosePred(pMB-1, mode_curr);
                 pmv[5].x = EVEN(pmv[5].x); pmv[5].y = EVEN(pmv[5].y);  
419          } else pmv[5].x = pmv[5].y = 0;          } else pmv[5].x = pmv[5].y = 0;
420    
421          if (x != 0 && y != 0) {          if (x != 0 && y != 0) {
422                  pmv[6] = ChoosePred(pMB-1-iWcount, mode_curr);                  pmv[6] = ChoosePred(pMB-1-iWcount, mode_curr);
                 pmv[6].x = EVEN(pmv[6].x); pmv[6].y = EVEN(pmv[6].y);  
423          } else pmv[6].x = pmv[6].y = 0;          } else pmv[6].x = pmv[6].y = 0;
424  }  }
425    
   
426  /* search backward or forward */  /* search backward or forward */
427  static void  static void
428  SearchBF(       const IMAGE * const pRef,  SearchBF_initial(const int x, const int y,
                         const uint8_t * const pRefH,  
                         const uint8_t * const pRefV,  
                         const uint8_t * const pRefHV,  
                         const int x, const int y,  
429                          const uint32_t MotionFlags,                          const uint32_t MotionFlags,
430                          const uint32_t iFcode,                          const uint32_t iFcode,
431                          const MBParam * const pParam,                          const MBParam * const pParam,
# Line 368  Line 433 
433                          const VECTOR * const predMV,                          const VECTOR * const predMV,
434                          int32_t * const best_sad,                          int32_t * const best_sad,
435                          const int32_t mode_current,                          const int32_t mode_current,
436                          SearchData * const Data)                          SearchData * const Data,
437                            VECTOR hint)
438  {  {
439    
440          int i;          int i;
441          VECTOR pmv[7];          VECTOR pmv[7];
         int threshA = (MotionFlags & XVID_ME_FASTREFINE16) ? 150 : 300;  
442          *Data->iMinSAD = MV_MAX_ERROR;          *Data->iMinSAD = MV_MAX_ERROR;
         Data->iFcode = iFcode;  
443          Data->qpel_precision = 0;          Data->qpel_precision = 0;
         Data->chromaX = Data->chromaY = Data->chromaSAD = 256*4096; /* reset chroma-sad cache */  
   
         Data->RefP[0] = pRef->y + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[2] = pRefH + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[1] = pRefV + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[3] = pRefHV + (x + Data->iEdgedWidth*y) * 16;  
         Data->RefP[4] = pRef->u + (x + y * (Data->iEdgedWidth/2)) * 8;  
         Data->RefP[5] = pRef->v + (x + y * (Data->iEdgedWidth/2)) * 8;  
444    
445          Data->predMV = *predMV;          Data->predMV = *predMV;
446    
# Line 392  Line 448 
448                                  pParam->width, pParam->height, iFcode - Data->qpel, 1, 0);                                  pParam->width, pParam->height, iFcode - Data->qpel, 1, 0);
449    
450          pmv[0] = Data->predMV;          pmv[0] = Data->predMV;
451          if (Data->qpel) { pmv[0].x /= 2; pmv[0].y /= 2; }          if (Data->qpel) {
452                    pmv[0].x /= 2; pmv[0].y /= 2;
453                    hint.x /= 2; hint.y /= 2;
454            }
455    
456          PreparePredictionsBF(pmv, x, y, pParam->mb_width, pMB, mode_current);          PreparePredictionsBF(pmv, x, y, pParam->mb_width, pMB, mode_current, hint);
457    
458          Data->currentMV->x = Data->currentMV->y = 0;          Data->currentMV->x = Data->currentMV->y = 0;
459    
# Line 414  Line 473 
473                  MainSearchPtr(Data->currentMV->x, Data->currentMV->y, Data, mask, CheckCandidate16no4v);                  MainSearchPtr(Data->currentMV->x, Data->currentMV->y, Data, mask, CheckCandidate16no4v);
474          }          }
475    
476            if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
477    }
478    
479    static void
480    SearchBF_final(const int x, const int y,
481                            const uint32_t MotionFlags,
482                            const MBParam * const pParam,
483                            int32_t * const best_sad,
484                            SearchData * const Data)
485    {
486          if(!Data->qpel) {          if(!Data->qpel) {
487                  /* halfpel mode */                  /* halfpel mode */
488                  if (MotionFlags & XVID_ME_HALFPELREFINE16)                  if (MotionFlags & XVID_ME_HALFPELREFINE16)
489                                  xvid_me_SubpelRefine(Data, CheckCandidate16no4v, 0);                                  xvid_me_SubpelRefine(Data->currentMV[0], Data, CheckCandidate16no4v, 0);
490          } else {          } else {
491                  /* qpel mode */                  /* qpel mode */
492                  if(MotionFlags & XVID_ME_FASTREFINE16) {                  if(MotionFlags & XVID_ME_FASTREFINE16) {
493                          /* fast */                          /* fast */
494                          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,                          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,
495                                                  pParam->width, pParam->height, Data->iFcode, 2, 0);                                                  pParam->width, pParam->height, Data->iFcode, 2, 0);
                         if (*Data->iMinSAD < *best_sad + 2*threshA)  
496                                  FullRefine_Fast(Data, CheckCandidate16no4v, 0);                                  FullRefine_Fast(Data, CheckCandidate16no4v, 0);
497    
498                  } else {                  } else {
499    
500                          Data->currentQMV->x = 2*Data->currentMV->x;                          Data->currentQMV->x = 2*Data->currentMV->x;
501                          Data->currentQMV->y = 2*Data->currentMV->y;                          Data->currentQMV->y = 2*Data->currentMV->y;
502                          if(MotionFlags & XVID_ME_QUARTERPELREFINE16) {                          if(MotionFlags & XVID_ME_QUARTERPELREFINE16) {
503                                  /* full */                                  /* full */
504                                  if (MotionFlags & XVID_ME_HALFPELREFINE16) {                                  if (MotionFlags & XVID_ME_HALFPELREFINE16) {
505                                          xvid_me_SubpelRefine(Data, CheckCandidate16no4v, 0); /* hpel part */                                          xvid_me_SubpelRefine(Data->currentMV[0], Data, CheckCandidate16no4v, 0); /* hpel part */
506                                          Data->currentQMV->x = 2*Data->currentMV->x;                                          Data->currentQMV->x = 2*Data->currentMV->x;
507                                          Data->currentQMV->y = 2*Data->currentMV->y;                                          Data->currentQMV->y = 2*Data->currentMV->y;
508                                  }                                  }
509                                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,                                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4,
510                                                          pParam->width, pParam->height, Data->iFcode, 2, 0);                                                          pParam->width, pParam->height, Data->iFcode, 2, 0);
511                                  Data->qpel_precision = 1;                                  Data->qpel_precision = 1;
512                                  if (*Data->iMinSAD < *best_sad + threshA)                                  xvid_me_SubpelRefine(Data->currentQMV[0], Data, CheckCandidate16no4v, 0); /* qpel part */
                                         xvid_me_SubpelRefine(Data, CheckCandidate16no4v, 0); /* qpel part */  
                         }  
                 }  
513          }          }
   
         /* three bits are needed to code backward mode. four for forward */  
   
         if (mode_current == MODE_FORWARD) *Data->iMinSAD += 4 * Data->lambda16;  
         else *Data->iMinSAD += 3 * Data->lambda16;  
   
         if (*Data->iMinSAD < *best_sad) {  
                 *best_sad = *Data->iMinSAD;  
                 pMB->mode = mode_current;  
                 if (Data->qpel) {  
                         pMB->pmvs[0].x = Data->currentQMV->x - predMV->x;  
                         pMB->pmvs[0].y = Data->currentQMV->y - predMV->y;  
                         if (mode_current == MODE_FORWARD)  
                                 pMB->qmvs[0] = *Data->currentQMV;  
                         else  
                                 pMB->b_qmvs[0] = *Data->currentQMV;  
                 } else {  
                         pMB->pmvs[0].x = Data->currentMV->x - predMV->x;  
                         pMB->pmvs[0].y = Data->currentMV->y - predMV->y;  
514                  }                  }
                 if (mode_current == MODE_FORWARD) pMB->mvs[0] = *Data->currentMV;  
                 else pMB->b_mvs[0] = *Data->currentMV;  
515          }          }
516            if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
517    
         if (mode_current == MODE_FORWARD) *(Data->currentMV+2) = *Data->currentMV;  
         else *(Data->currentMV+1) = *Data->currentMV; /* we store currmv for interpolate search */  
518  }  }
519    
520  static void  static void
521  SkipDecisionB(const IMAGE * const pCur,  SkipDecisionB(MACROBLOCK * const pMB, const SearchData * const Data)
                                 const IMAGE * const f_Ref,  
                                 const IMAGE * const b_Ref,  
                                 MACROBLOCK * const pMB,  
                                 const uint32_t x, const uint32_t y,  
                                 const SearchData * const Data)  
522  {  {
523          int k;          int k;
524    
# Line 503  Line 540 
540                  b_dy = (b_dy >> 3) + roundtab_76[b_dy & 0xf];                  b_dy = (b_dy >> 3) + roundtab_76[b_dy & 0xf];
541                  b_dx = (b_dx >> 3) + roundtab_76[b_dx & 0xf];                  b_dx = (b_dx >> 3) + roundtab_76[b_dx & 0xf];
542    
543                  sum = sad8bi(pCur->u + 8 * x + 8 * y * stride,                  sum = sad8bi(Data->CurU,
544                                                  f_Ref->u + (y*8 + dy/2) * stride + x*8 + dx/2,                                                  Data->RefP[4] + (dy/2) * stride + dx/2,
545                                                  b_Ref->u + (y*8 + b_dy/2) * stride + x*8 + b_dx/2,                                                  Data->b_RefP[4] + (b_dy/2) * stride + b_dx/2,
546                                                  stride);                                                  stride);
547    
548                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */
549    
550                  sum += sad8bi(pCur->v + 8*x + 8 * y * stride,                  sum += sad8bi(Data->CurV,
551                                                  f_Ref->v + (y*8 + dy/2) * stride + x*8 + dx/2,                                                  Data->RefP[5] + (dy/2) * stride + dx/2,
552                                                  b_Ref->v + (y*8 + b_dy/2) * stride + x*8 + b_dx/2,                                                  Data->b_RefP[5] + (b_dy/2) * stride + b_dx/2,
553                                                  stride);                                                  stride);
554    
555                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */                  if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */
556            } else {
557                    int sum = Data->chromaSAD; /* chroma-sad SAD caching keeps it there */
558    
559                    if (sum >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) return; /* no skip */
560          }          }
561    
562          /* skip */          /* skip */
# Line 523  Line 564 
564          for (k = 0; k < 4; k++) {          for (k = 0; k < 4; k++) {
565                  pMB->qmvs[k] = pMB->mvs[k] = Data->directmvF[k];                  pMB->qmvs[k] = pMB->mvs[k] = Data->directmvF[k];
566                  pMB->b_qmvs[k] = pMB->b_mvs[k] =  Data->directmvB[k];                  pMB->b_qmvs[k] = pMB->b_mvs[k] =  Data->directmvB[k];
567                    if (Data->qpel) {
568                            pMB->mvs[k].x /= 2; pMB->mvs[k].y /= 2; /* it's a hint for future searches */
569                            pMB->b_mvs[k].x /= 2; pMB->b_mvs[k].y /= 2;
570                    }
571          }          }
572  }  }
573    
574  static uint32_t  static uint32_t
575  SearchDirect(const IMAGE * const f_Ref,  SearchDirect_initial(const int x, const int y,
                                 const uint8_t * const f_RefH,  
                                 const uint8_t * const f_RefV,  
                                 const uint8_t * const f_RefHV,  
                                 const IMAGE * const b_Ref,  
                                 const uint8_t * const b_RefH,  
                                 const uint8_t * const b_RefV,  
                                 const uint8_t * const b_RefHV,  
                                 const IMAGE * const pCur,  
                                 const int x, const int y,  
576                                  const uint32_t MotionFlags,                                  const uint32_t MotionFlags,
577                                  const int32_t TRB, const int32_t TRD,                                  const int32_t TRB, const int32_t TRD,
578                                  const MBParam * const pParam,                                  const MBParam * const pParam,
# Line 548  Line 584 
584  {  {
585          int32_t skip_sad;          int32_t skip_sad;
586          int k = (x + Data->iEdgedWidth*y) * 16;          int k = (x + Data->iEdgedWidth*y) * 16;
         MainSearchFunc *MainSearchPtr;  
         CheckFunc * CheckCandidate;  
   
         *Data->iMinSAD = 256*4096;  
         Data->RefP[0] = f_Ref->y + k;  
         Data->RefP[2] = f_RefH + k;  
         Data->RefP[1] = f_RefV + k;  
         Data->RefP[3] = f_RefHV + k;  
         Data->b_RefP[0] = b_Ref->y + k;  
         Data->b_RefP[2] = b_RefH + k;  
         Data->b_RefP[1] = b_RefV + k;  
         Data->b_RefP[3] = b_RefHV + k;  
         Data->RefP[4] = f_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->RefP[5] = f_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[4] = b_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[5] = b_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
587    
588          k = Data->qpel ? 4 : 2;          k = Data->qpel ? 4 : 2;
589          Data->max_dx = k * (pParam->width - x * 16);          Data->max_dx = k * (pParam->width - x * 16);
590          Data->max_dy = k * (pParam->height - y * 16);          Data->max_dy = k * (pParam->height - y * 16);
591          Data->min_dx = -k * (16 + x * 16);          Data->min_dx = -k * (16 + x * 16);
592          Data->min_dy = -k * (16 + y * 16);          Data->min_dy = -k * (16 + y * 16);
         Data->chromaX = Data->chromaY = Data->b_chromaX = Data->b_chromaY = 256*4096;  
593    
594          Data->referencemv = Data->qpel ? b_mb->qmvs : b_mb->mvs;          Data->referencemv = Data->qpel ? b_mb->qmvs : b_mb->mvs;
         Data->qpel_precision = 0;  
595    
596          for (k = 0; k < 4; k++) {          for (k = 0; k < 4; k++) {
597                  pMB->mvs[k].x = Data->directmvF[k].x = ((TRB * Data->referencemv[k].x) / TRD);                  Data->directmvF[k].x = ((TRB * Data->referencemv[k].x) / TRD);
598                  pMB->b_mvs[k].x = Data->directmvB[k].x = ((TRB - TRD) * Data->referencemv[k].x) / TRD;                  Data->directmvB[k].x = ((TRB - TRD) * Data->referencemv[k].x) / TRD;
599                  pMB->mvs[k].y = Data->directmvF[k].y = ((TRB * Data->referencemv[k].y) / TRD);                  Data->directmvF[k].y = ((TRB * Data->referencemv[k].y) / TRD);
600                  pMB->b_mvs[k].y = Data->directmvB[k].y = ((TRB - TRD) * Data->referencemv[k].y) / TRD;                  Data->directmvB[k].y = ((TRB - TRD) * Data->referencemv[k].y) / TRD;
601    
602                  if ( (pMB->b_mvs[k].x > Data->max_dx) | (pMB->b_mvs[k].x < Data->min_dx)                  if ( (Data->directmvB[k].x > Data->max_dx) | (Data->directmvB[k].x < Data->min_dx)
603                          | (pMB->b_mvs[k].y > Data->max_dy) | (pMB->b_mvs[k].y < Data->min_dy) ) {                          | (Data->directmvB[k].y > Data->max_dy) | (Data->directmvB[k].y < Data->min_dy) ) {
604    
605                          *best_sad = 256*4096; /* in that case, we won't use direct mode */                          Data->iMinSAD[0] = *best_sad = 256*4096; /* in that case, we won't use direct mode */
                         pMB->mode = MODE_DIRECT; /* just to make sure it doesn't say "MODE_DIRECT_NONE_MV" */  
                         pMB->b_mvs[0].x = pMB->b_mvs[0].y = 0;  
606                          return 256*4096;                          return 256*4096;
607                  }                  }
608                  if (b_mb->mode != MODE_INTER4V) {                  if (b_mb->mode != MODE_INTER4V) {
                         pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->mvs[0];  
                         pMB->b_mvs[1] = pMB->b_mvs[2] = pMB->b_mvs[3] = pMB->b_mvs[0];  
609                          Data->directmvF[1] = Data->directmvF[2] = Data->directmvF[3] = Data->directmvF[0];                          Data->directmvF[1] = Data->directmvF[2] = Data->directmvF[3] = Data->directmvF[0];
610                          Data->directmvB[1] = Data->directmvB[2] = Data->directmvB[3] = Data->directmvB[0];                          Data->directmvB[1] = Data->directmvB[2] = Data->directmvB[3] = Data->directmvB[0];
611                          break;                          break;
612                  }                  }
613          }          }
614            Data->qpel_precision = Data->qpel; /* this initial check is done with full precision, to find real
615                                                                                            SKIP sad */
616    
617          CheckCandidateDirect(0, 0, Data, 255);  /* will also fill iMinSAD[1..4] with 8x8 SADs */          CheckCandidateDirect(0, 0, Data, 255);  /* will also fill iMinSAD[1..4] with 8x8 SADs */
618    
# Line 606  Line 622 
622                  && Data->iMinSAD[3] < (int)Data->iQuant * INITIAL_SKIP_THRESH                  && Data->iMinSAD[3] < (int)Data->iQuant * INITIAL_SKIP_THRESH
623                  && Data->iMinSAD[4] < (int)Data->iQuant * INITIAL_SKIP_THRESH) {                  && Data->iMinSAD[4] < (int)Data->iQuant * INITIAL_SKIP_THRESH) {
624                  /* possible skip */                  /* possible skip */
625                  SkipDecisionB(pCur, f_Ref, b_Ref, pMB, x, y, Data);                  SkipDecisionB(pMB, Data);
626                  if (pMB->mode == MODE_DIRECT_NONE_MV)                  if (pMB->mode == MODE_DIRECT_NONE_MV)
627                          return *Data->iMinSAD; /* skipped */                          return *Data->iMinSAD; /* skipped */
628          }          }
629    
630            if (Data->chroma && Data->chromaSAD >= MAX_CHROMA_SAD_FOR_SKIP * (int)Data->iQuant) /* chroma doesn't allow skip */
631                    skip_sad = 256*4096;
632            else
633          skip_sad = 4*MAX(MAX(Data->iMinSAD[1],Data->iMinSAD[2]), MAX(Data->iMinSAD[3],Data->iMinSAD[4]));          skip_sad = 4*MAX(MAX(Data->iMinSAD[1],Data->iMinSAD[2]), MAX(Data->iMinSAD[3],Data->iMinSAD[4]));
         if (Data->chroma) skip_sad += Data->chromaSAD;  
634    
635          CheckCandidate = b_mb->mode == MODE_INTER4V ? CheckCandidateDirect : CheckCandidateDirectno4v;          Data->currentMV[1].x = Data->directmvF[0].x + Data->currentMV->x; /* hints for forward and backward searches */
636            Data->currentMV[1].y = Data->directmvF[0].y + Data->currentMV->y;
637    
638            Data->currentMV[2].x = ((Data->currentMV->x == 0) ?
639                            Data->directmvB[0].x
640                            : Data->currentMV[1].x - Data->referencemv[0].x);
641    
642            Data->currentMV[2].y = ((Data->currentMV->y == 0) ?
643                            Data->directmvB[0].y
644                            : Data->currentMV[1].y - Data->referencemv[0].y);
645    
646            return skip_sad;
647    }
648    
649    static void
650    SearchDirect_final( const uint32_t MotionFlags,
651                                            const MACROBLOCK * const b_mb,
652                                            int32_t * const best_sad,
653                                            SearchData * const Data)
654    
655    {
656            CheckFunc * CheckCandidate = b_mb->mode == MODE_INTER4V ?
657                                                                            CheckCandidateDirect : CheckCandidateDirectno4v;
658            MainSearchFunc *MainSearchPtr;
659    
         if (!(MotionFlags & XVID_ME_SKIP_DELTASEARCH)) {  
660                  if (MotionFlags & XVID_ME_USESQUARES16) MainSearchPtr = xvid_me_SquareSearch;                  if (MotionFlags & XVID_ME_USESQUARES16) MainSearchPtr = xvid_me_SquareSearch;
661                          else if (MotionFlags & XVID_ME_ADVANCEDDIAMOND16) MainSearchPtr = xvid_me_AdvDiamondSearch;                          else if (MotionFlags & XVID_ME_ADVANCEDDIAMOND16) MainSearchPtr = xvid_me_AdvDiamondSearch;
662                                  else MainSearchPtr = xvid_me_DiamondSearch;                                  else MainSearchPtr = xvid_me_DiamondSearch;
663    
664            Data->qpel_precision = 0;
665                  MainSearchPtr(0, 0, Data, 255, CheckCandidate);                  MainSearchPtr(0, 0, Data, 255, CheckCandidate);
666    
667                  xvid_me_SubpelRefine(Data, CheckCandidate, 0);          Data->qpel_precision = Data->qpel;
668            if(Data->qpel) {
669                    *Data->iMinSAD = 256*4096; /* this old SAD was not real, it was in hpel precision */
670                    CheckCandidate(Data->currentMV->x, Data->currentMV->y, Data, 255);
671          }          }
672    
673          *Data->iMinSAD += Data->lambda16;          xvid_me_SubpelRefine(Data->currentMV[0], Data, CheckCandidate, 0);
         *best_sad = *Data->iMinSAD;  
   
         if (Data->qpel || b_mb->mode == MODE_INTER4V) pMB->mode = MODE_DIRECT;  
         else pMB->mode = MODE_DIRECT_NO4V; /* for faster compensation */  
   
         pMB->pmvs[3] = *Data->currentMV;  
674    
675          for (k = 0; k < 4; k++) {          if (Data->iMinSAD[0] < *best_sad) {
676                  pMB->mvs[k].x = Data->directmvF[k].x + Data->currentMV->x;                  *best_sad = Data->iMinSAD[0];
                 pMB->b_mvs[k].x = (     (Data->currentMV->x == 0)  
                                                         ? Data->directmvB[k].x  
                                                         :pMB->mvs[k].x - Data->referencemv[k].x);  
                 pMB->mvs[k].y = (Data->directmvF[k].y + Data->currentMV->y);  
                 pMB->b_mvs[k].y = ((Data->currentMV->y == 0)  
                                                         ? Data->directmvB[k].y  
                                                         : pMB->mvs[k].y - Data->referencemv[k].y);  
                 if (Data->qpel) {  
                         pMB->qmvs[k].x = pMB->mvs[k].x; pMB->mvs[k].x /= 2;  
                         pMB->b_qmvs[k].x = pMB->b_mvs[k].x; pMB->b_mvs[k].x /= 2;  
                         pMB->qmvs[k].y = pMB->mvs[k].y; pMB->mvs[k].y /= 2;  
                         pMB->b_qmvs[k].y = pMB->b_mvs[k].y; pMB->b_mvs[k].y /= 2;  
677                  }                  }
678    
                 if (b_mb->mode != MODE_INTER4V) {  
                         pMB->mvs[3] = pMB->mvs[2] = pMB->mvs[1] = pMB->mvs[0];  
                         pMB->b_mvs[3] = pMB->b_mvs[2] = pMB->b_mvs[1] = pMB->b_mvs[0];  
                         pMB->qmvs[3] = pMB->qmvs[2] = pMB->qmvs[1] = pMB->qmvs[0];  
                         pMB->b_qmvs[3] = pMB->b_qmvs[2] = pMB->b_qmvs[1] = pMB->b_qmvs[0];  
                         break;  
                 }  
         }  
         return skip_sad;  
679  }  }
680    
681    
682  static void set_range(int * range, SearchData * Data)  static __inline void
683    set_range(int * range, SearchData * Data)
684  {  {
685          Data->min_dx = range[0];          Data->min_dx = range[0];
686          Data->max_dx = range[1];          Data->max_dx = range[1];
# Line 671  Line 689 
689  }  }
690    
691  static void  static void
692  SearchInterpolate(const IMAGE * const f_Ref,  SearchInterpolate_initial(
                                 const uint8_t * const f_RefH,  
                                 const uint8_t * const f_RefV,  
                                 const uint8_t * const f_RefHV,  
                                 const IMAGE * const b_Ref,  
                                 const uint8_t * const b_RefH,  
                                 const uint8_t * const b_RefV,  
                                 const uint8_t * const b_RefHV,  
693                                  const int x, const int y,                                  const int x, const int y,
                                 const uint32_t fcode,  
                                 const uint32_t bcode,  
694                                  const uint32_t MotionFlags,                                  const uint32_t MotionFlags,
695                                  const MBParam * const pParam,                                  const MBParam * const pParam,
696                                  const VECTOR * const f_predMV,                                  const VECTOR * const f_predMV,
697                                  const VECTOR * const b_predMV,                                  const VECTOR * const b_predMV,
                                 MACROBLOCK * const pMB,  
698                                  int32_t * const best_sad,                                  int32_t * const best_sad,
699                                  SearchData * const Data)                                  SearchData * const Data,
700                                    const VECTOR startF,
701                                    const VECTOR startB)
702    
703  {  {
         int i, j;  
704          int b_range[4], f_range[4];          int b_range[4], f_range[4];
         int threshA = (MotionFlags & XVID_ME_FAST_MODEINTERPOLATE) ? 250 : 500;  
         int threshB = (MotionFlags & XVID_ME_FAST_MODEINTERPOLATE) ? 150 : 300;  
705    
706          Data->qpel_precision = 0;          Data->qpel_precision = 0;
         *Data->iMinSAD = 4096*256;  
         Data->iFcode = fcode; Data->bFcode = bcode;  
   
         i = (x + y * Data->iEdgedWidth) * 16;  
   
         Data->RefP[0] = f_Ref->y + i;  
         Data->RefP[2] = f_RefH + i;  
         Data->RefP[1] = f_RefV + i;  
         Data->RefP[3] = f_RefHV + i;  
         Data->b_RefP[0] = b_Ref->y + i;  
         Data->b_RefP[2] = b_RefH + i;  
         Data->b_RefP[1] = b_RefV + i;  
         Data->b_RefP[3] = b_RefHV + i;  
         Data->RefP[4] = f_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->RefP[5] = f_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[4] = b_Ref->u + (x + (Data->iEdgedWidth/2) * y) * 8;  
         Data->b_RefP[5] = b_Ref->v + (x + (Data->iEdgedWidth/2) * y) * 8;  
   
         Data->chromaX = Data->chromaY = 256*4096;  
707    
708          Data->predMV = *f_predMV;          Data->predMV = *f_predMV;
709          Data->bpredMV = *b_predMV;          Data->bpredMV = *b_predMV;
710    
711          Data->currentMV[0] = Data->currentMV[2]; /* forward search left its vector here */          Data->currentMV[0] = startF;
712            Data->currentMV[1] = startB;
713    
714          get_range(f_range, f_range+1, f_range+2, f_range+3, x, y, 4, pParam->width, pParam->height, fcode - Data->qpel, 1, 0);          get_range(f_range, f_range+1, f_range+2, f_range+3, x, y, 4, pParam->width, pParam->height, Data->iFcode - Data->qpel, 1, 0);
715          get_range(b_range, b_range+1, b_range+2, b_range+3, x, y, 4, pParam->width, pParam->height, bcode - Data->qpel, 1, 0);          get_range(b_range, b_range+1, b_range+2, b_range+3, x, y, 4, pParam->width, pParam->height, Data->bFcode - Data->qpel, 1, 0);
716    
717          if (Data->currentMV[0].x > f_range[1]) Data->currentMV[0].x = f_range[1];          if (Data->currentMV[0].x > f_range[1]) Data->currentMV[0].x = f_range[1];
718          if (Data->currentMV[0].x < f_range[0]) Data->currentMV[0].x = f_range[0];          if (Data->currentMV[0].x < f_range[0]) Data->currentMV[0].x = f_range[0];
# Line 739  Line 728 
728    
729          CheckCandidateInt(Data->currentMV[0].x, Data->currentMV[0].y, Data, 1);          CheckCandidateInt(Data->currentMV[0].x, Data->currentMV[0].y, Data, 1);
730    
731            if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
732    }
733    
734    static void
735    SearchInterpolate_final(const int x, const int y,
736                                                    const uint32_t MotionFlags,
737                                                    const MBParam * const pParam,
738                                                    int32_t * const best_sad,
739                                                    SearchData * const Data)
740    {
741            int i, j;
742            int b_range[4], f_range[4];
743    
744            get_range(f_range, f_range+1, f_range+2, f_range+3, x, y, 4, pParam->width, pParam->height, Data->iFcode - Data->qpel, 1, 0);
745            get_range(b_range, b_range+1, b_range+2, b_range+3, x, y, 4, pParam->width, pParam->height, Data->bFcode - Data->qpel, 1, 0);
746    
747          /* diamond */          /* diamond */
748          do {          do {
749                  Data->dir = 0;                  Data->dir = 0;
# Line 765  Line 770 
770    
771          /* qpel refinement */          /* qpel refinement */
772          if (Data->qpel) {          if (Data->qpel) {
                 if (*Data->iMinSAD > *best_sad + threshA) return;  
773                  Data->qpel_precision = 1;                  Data->qpel_precision = 1;
774                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4, pParam->width, pParam->height, fcode, 2, 0);                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy,
775                            x, y, 4, pParam->width, pParam->height, Data->iFcode, 2, 0);
776    
777                  Data->currentQMV[0].x = 2 * Data->currentMV[0].x;                  Data->currentQMV[0].x = 2 * Data->currentMV[0].x;
778                  Data->currentQMV[0].y = 2 * Data->currentMV[0].y;                  Data->currentQMV[0].y = 2 * Data->currentMV[0].y;
779                  Data->currentQMV[1].x = 2 * Data->currentMV[1].x;                  Data->currentQMV[1].x = 2 * Data->currentMV[1].x;
780                  Data->currentQMV[1].y = 2 * Data->currentMV[1].y;                  Data->currentQMV[1].y = 2 * Data->currentMV[1].y;
781    
782                  if (MotionFlags & XVID_ME_QUARTERPELREFINE16)                  if (MotionFlags & XVID_ME_QUARTERPELREFINE16) {
783                          xvid_me_SubpelRefine(Data, CheckCandidateInt, 1);                          xvid_me_SubpelRefine(Data->currentQMV[0], Data, CheckCandidateInt, 1);
784    
785                  if (*Data->iMinSAD > *best_sad + threshB) return;                          get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy,
786                  get_range(&Data->min_dx, &Data->max_dx, &Data->min_dy, &Data->max_dy, x, y, 4, pParam->width, pParam->height, bcode, 2, 0);                                  x, y, 4, pParam->width, pParam->height, Data->bFcode, 2, 0);
787    
788                  if (MotionFlags & XVID_ME_QUARTERPELREFINE16)                          xvid_me_SubpelRefine(Data->currentQMV[1], Data, CheckCandidateInt, 2);
789                          xvid_me_SubpelRefine(Data, CheckCandidateInt, 2);                  }
790          }          }
791    
792          *Data->iMinSAD += 2 * Data->lambda16; /* two bits are needed to code interpolate mode. */          if (Data->iMinSAD[0] < *best_sad) *best_sad = Data->iMinSAD[0];
793    }
794    
795          if (*Data->iMinSAD < *best_sad) {  static void
796                  *best_sad = *Data->iMinSAD;  ModeDecision_BVOP_SAD(const SearchData * const Data_d,
797                  pMB->mvs[0] = Data->currentMV[0];                                            const SearchData * const Data_b,
798                  pMB->b_mvs[0] = Data->currentMV[1];                                            const SearchData * const Data_f,
799                  pMB->mode = MODE_INTERPOLATE;                                            const SearchData * const Data_i,
800                  if (Data->qpel) {                                            MACROBLOCK * const pMB,
801                          pMB->qmvs[0] = Data->currentQMV[0];                                            const MACROBLOCK * const b_mb,
802                          pMB->b_qmvs[0] = Data->currentQMV[1];                                            VECTOR * f_predMV,
803                                              VECTOR * b_predMV)
804    {
805            int mode = MODE_DIRECT, k;
806            int best_sad, f_sad, b_sad, i_sad;
807            const int qpel = Data_d->qpel;
808    
809            /* evaluate cost of all modes - quite simple in SAD */
810            best_sad = Data_d->iMinSAD[0] + 1*Data_d->lambda16;
811            b_sad = Data_b->iMinSAD[0] + 3*Data_d->lambda16;
812            f_sad = Data_f->iMinSAD[0] + 4*Data_d->lambda16;
813            i_sad = Data_i->iMinSAD[0] + 2*Data_d->lambda16;
814    
815            if (b_sad < best_sad) {
816                    mode = MODE_BACKWARD;
817                    best_sad = b_sad;
818            }
819    
820            if (f_sad < best_sad) {
821                    mode = MODE_FORWARD;
822                    best_sad = f_sad;
823            }
824    
825            if (i_sad < best_sad) {
826                    mode = MODE_INTERPOLATE;
827                    best_sad = i_sad;
828            }
829    
830            pMB->sad16 = best_sad;
831            pMB->mode = mode;
832    
833            switch (mode) {
834    
835            case MODE_DIRECT:
836                    if (!qpel && b_mb->mode != MODE_INTER4V) pMB->mode = MODE_DIRECT_NO4V; /* for faster compensation */
837    
838                    pMB->pmvs[3] = Data_d->currentMV[0];
839    
840                    for (k = 0; k < 4; k++) {
841                            pMB->mvs[k].x = Data_d->directmvF[k].x + Data_d->currentMV->x;
842                            pMB->b_mvs[k].x = (     (Data_d->currentMV->x == 0)
843                                                                    ? Data_d->directmvB[k].x
844                                                                    :pMB->mvs[k].x - Data_d->referencemv[k].x);
845                            pMB->mvs[k].y = (Data_d->directmvF[k].y + Data_d->currentMV->y);
846                            pMB->b_mvs[k].y = ((Data_d->currentMV->y == 0)
847                                                                    ? Data_d->directmvB[k].y
848                                                                    : pMB->mvs[k].y - Data_d->referencemv[k].y);
849                            if (qpel) {
850                                    pMB->qmvs[k].x = pMB->mvs[k].x; pMB->mvs[k].x /= 2;
851                                    pMB->b_qmvs[k].x = pMB->b_mvs[k].x; pMB->b_mvs[k].x /= 2;
852                                    pMB->qmvs[k].y = pMB->mvs[k].y; pMB->mvs[k].y /= 2;
853                                    pMB->b_qmvs[k].y = pMB->b_mvs[k].y; pMB->b_mvs[k].y /= 2;
854                            }
855    
856                            if (b_mb->mode != MODE_INTER4V) {
857                                    pMB->mvs[3] = pMB->mvs[2] = pMB->mvs[1] = pMB->mvs[0];
858                                    pMB->b_mvs[3] = pMB->b_mvs[2] = pMB->b_mvs[1] = pMB->b_mvs[0];
859                                    pMB->qmvs[3] = pMB->qmvs[2] = pMB->qmvs[1] = pMB->qmvs[0];
860                                    pMB->b_qmvs[3] = pMB->b_qmvs[2] = pMB->b_qmvs[1] = pMB->b_qmvs[0];
861                                    break;
862                            }
863                    }
864                    break;
865    
866            case MODE_FORWARD:
867                    if (qpel) {
868                            pMB->pmvs[0].x = Data_f->currentQMV->x - f_predMV->x;
869                            pMB->pmvs[0].y = Data_f->currentQMV->y - f_predMV->y;
870                            pMB->qmvs[0] = *Data_f->currentQMV;
871                            *f_predMV = Data_f->currentQMV[0];
872                    } else {
873                            pMB->pmvs[0].x = Data_f->currentMV->x - f_predMV->x;
874                            pMB->pmvs[0].y = Data_f->currentMV->y - f_predMV->y;
875                            *f_predMV = Data_f->currentMV[0];
876                    }
877                    pMB->mvs[0] = *Data_f->currentMV;
878                    pMB->b_mvs[0] = *Data_b->currentMV; /* hint for future searches */
879                    break;
880    
881            case MODE_BACKWARD:
882                    if (qpel) {
883                            pMB->pmvs[0].x = Data_b->currentQMV->x - b_predMV->x;
884                            pMB->pmvs[0].y = Data_b->currentQMV->y - b_predMV->y;
885                            pMB->b_qmvs[0] = *Data_b->currentQMV;
886                            *b_predMV = Data_b->currentQMV[0];
887                    } else {
888                            pMB->pmvs[0].x = Data_b->currentMV->x - b_predMV->x;
889                            pMB->pmvs[0].y = Data_b->currentMV->y - b_predMV->y;
890                            *b_predMV = Data_b->currentMV[0];
891                    }
892                    pMB->b_mvs[0] = *Data_b->currentMV;
893                    pMB->mvs[0] = *Data_f->currentMV; /* hint for future searches */
894                    break;
895    
896    
897            case MODE_INTERPOLATE:
898                    pMB->mvs[0] = Data_i->currentMV[0];
899                    pMB->b_mvs[0] = Data_i->currentMV[1];
900                    if (qpel) {
901                            pMB->qmvs[0] = Data_i->currentQMV[0];
902                            pMB->b_qmvs[0] = Data_i->currentQMV[1];
903                          pMB->pmvs[1].x = pMB->qmvs[0].x - f_predMV->x;                          pMB->pmvs[1].x = pMB->qmvs[0].x - f_predMV->x;
904                          pMB->pmvs[1].y = pMB->qmvs[0].y - f_predMV->y;                          pMB->pmvs[1].y = pMB->qmvs[0].y - f_predMV->y;
905                          pMB->pmvs[0].x = pMB->b_qmvs[0].x - b_predMV->x;                          pMB->pmvs[0].x = pMB->b_qmvs[0].x - b_predMV->x;
906                          pMB->pmvs[0].y = pMB->b_qmvs[0].y - b_predMV->y;                          pMB->pmvs[0].y = pMB->b_qmvs[0].y - b_predMV->y;
907                            *f_predMV = Data_i->currentQMV[0];
908                            *b_predMV = Data_i->currentQMV[1];
909                  } else {                  } else {
910                          pMB->pmvs[1].x = pMB->mvs[0].x - f_predMV->x;                          pMB->pmvs[1].x = pMB->mvs[0].x - f_predMV->x;
911                          pMB->pmvs[1].y = pMB->mvs[0].y - f_predMV->y;                          pMB->pmvs[1].y = pMB->mvs[0].y - f_predMV->y;
912                          pMB->pmvs[0].x = pMB->b_mvs[0].x - b_predMV->x;                          pMB->pmvs[0].x = pMB->b_mvs[0].x - b_predMV->x;
913                          pMB->pmvs[0].y = pMB->b_mvs[0].y - b_predMV->y;                          pMB->pmvs[0].y = pMB->b_mvs[0].y - b_predMV->y;
914                            *f_predMV = Data_i->currentMV[0];
915                            *b_predMV = Data_i->currentMV[1];
916                  }                  }
917                    break;
918          }          }
919  }  }
920    
# Line 826  Line 937 
937                                           const IMAGE * const b_refHV)                                           const IMAGE * const b_refHV)
938  {  {
939          uint32_t i, j;          uint32_t i, j;
940          int32_t best_sad;          int32_t best_sad, sad2;
941          uint32_t skip_sad;          uint32_t skip_sad;
942    
943          const MACROBLOCK * const b_mbs = b_reference->mbs;          const MACROBLOCK * const b_mbs = b_reference->mbs;
         MACROBLOCK *const pMBs = frame->mbs;  
944    
945          VECTOR f_predMV, b_predMV;          VECTOR f_predMV, b_predMV;
946    
947          const int32_t TRB = time_pp - time_bp;          const int32_t TRB = time_pp - time_bp;
948          const int32_t TRD = time_pp;          const int32_t TRD = time_pp;
949            DECLARE_ALIGNED_MATRIX(dct_space, 3, 64, int16_t, CACHE_LINE);
950    
951          /* some pre-inintialized data for the rest of the search */          /* some pre-inintialized data for the rest of the search */
952            SearchData Data_d, Data_f, Data_b, Data_i;
953            memset(&Data_d, 0, sizeof(SearchData));
954    
955          SearchData Data;          Data_d.iEdgedWidth = pParam->edged_width;
956          memset(&Data, 0, sizeof(SearchData));          Data_d.qpel = pParam->vol_flags & XVID_VOL_QUARTERPEL ? 1 : 0;
957            Data_d.rounding = 0;
958            Data_d.chroma = frame->motion_flags & XVID_ME_CHROMA_BVOP;
959            Data_d.iQuant = frame->quant;
960            Data_d.dctSpace = dct_space;
961            Data_d.quant_type = !(pParam->vol_flags & XVID_VOL_MPEGQUANT);
962            Data_d.mpeg_quant_matrices = pParam->mpeg_quant_matrices;
963    
964            Data_d.RefQ = f_refV->u; /* a good place, also used in MC (for similar purpose) */
965    
966            memcpy(&Data_f, &Data_d, sizeof(SearchData));
967            memcpy(&Data_b, &Data_d, sizeof(SearchData));
968            memcpy(&Data_i, &Data_d, sizeof(SearchData));
969    
970          Data.iEdgedWidth = pParam->edged_width;          Data_f.iFcode = Data_i.iFcode = frame->fcode;
971          Data.qpel = pParam->vol_flags & XVID_VOL_QUARTERPEL ? 1 : 0;          Data_b.iFcode = Data_i.bFcode = frame->bcode;
         Data.rounding = 0;  
         Data.chroma = frame->motion_flags & XVID_ME_CHROMA_BVOP;  
         Data.iQuant = frame->quant;  
972    
         Data.RefQ = f_refV->u; /* a good place, also used in MC (for similar purpose) */  
973    
         /* note: i==horizontal, j==vertical */  
974          for (j = 0; j < pParam->mb_height; j++) {          for (j = 0; j < pParam->mb_height; j++) {
975    
976                  f_predMV = b_predMV = zeroMV;   /* prediction is reset at left boundary */                  f_predMV = b_predMV = zeroMV;   /* prediction is reset at left boundary */
# Line 858  Line 978 
978                  for (i = 0; i < pParam->mb_width; i++) {                  for (i = 0; i < pParam->mb_width; i++) {
979                          MACROBLOCK * const pMB = frame->mbs + i + j * pParam->mb_width;                          MACROBLOCK * const pMB = frame->mbs + i + j * pParam->mb_width;
980                          const MACROBLOCK * const b_mb = b_mbs + i + j * pParam->mb_width;                          const MACROBLOCK * const b_mb = b_mbs + i + j * pParam->mb_width;
981                          int interpol_search = 0;                          pMB->mode = -1;
982                          int bf_search = 0;  
983                          int bf_thresh = 0;                          initialize_searchData(&Data_d, &Data_f, &Data_b, &Data_i,
984                                              i, j, f_ref, f_refH->y, f_refV->y, f_refHV->y,
985                                              b_ref, b_refH->y, b_refV->y, b_refHV->y,
986                                              &frame->image, b_mb);
987    
988  /* special case, if collocated block is SKIPed in P-VOP: encoding is forward (0,0), cpb=0 without further ado */  /* special case, if collocated block is SKIPed in P-VOP: encoding is forward (0,0), cpb=0 without further ado */
989                          if (b_reference->coding_type != S_VOP)                          if (b_reference->coding_type != S_VOP)
# Line 871  Line 994 
994                                          continue;                                          continue;
995                                  }                                  }
996    
                         Data.lambda16 = xvid_me_lambda_vec16[b_mb->quant];  
                         Data.Cur = frame->image.y + (j * Data.iEdgedWidth + i) * 16;  
                         Data.CurU = frame->image.u + (j * Data.iEdgedWidth/2 + i) * 8;  
                         Data.CurV = frame->image.v + (j * Data.iEdgedWidth/2 + i) * 8;  
   
997  /* direct search comes first, because it (1) checks for SKIP-mode  /* direct search comes first, because it (1) checks for SKIP-mode
998          and (2) sets very good predictions for forward and backward search */          and (2) sets very good predictions for forward and backward search */
999                          skip_sad = SearchDirect(f_ref, f_refH->y, f_refV->y, f_refHV->y,                          skip_sad = SearchDirect_initial(i, j, frame->motion_flags, TRB, TRD, pParam, pMB,
1000                                                                          b_ref, b_refH->y, b_refV->y, b_refHV->y,                                                                                          b_mb, &best_sad, &Data_d);
                                                                         &frame->image,  
                                                                         i, j,  
                                                                         frame->motion_flags,  
                                                                         TRB, TRD,  
                                                                         pParam,  
                                                                         pMB, b_mb,  
                                                                         &best_sad,  
                                                                         &Data);  
1001    
1002                          if (pMB->mode == MODE_DIRECT_NONE_MV) {                          if (pMB->mode == MODE_DIRECT_NONE_MV) {
1003                                  pMB->sad16 = best_sad;                                  pMB->sad16 = best_sad;
1004                                  continue;                                  continue;
1005                          }                          }
1006    
1007                          if (frame->motion_flags & XVID_ME_BFRAME_EARLYSTOP) {                          SearchBF_initial(i, j, frame->motion_flags, frame->fcode, pParam, pMB,
1008                                  if(i > 0 && j > 0 && i < pParam->mb_width) {                                                  &f_predMV, &best_sad, MODE_FORWARD, &Data_f, Data_d.currentMV[1]);
                                         bf_thresh = MIN((&pMBs[(i-1) + j * pParam->mb_width])->sad16,  
                                                                      MIN((&pMBs[i + (j-1) * pParam->mb_width])->sad16,  
                                                                      (&pMBs[(i+1) + (j-1) * pParam->mb_width])->sad16));  
   
                                         if (((&pMBs[(i-1) + j * pParam->mb_width])->mode != MODE_FORWARD) &&  
                                                 ((&pMBs[(i-1) + j * pParam->mb_width])->mode != MODE_BACKWARD) &&  
                                                 ((&pMBs[(i-1) + j * pParam->mb_width])->mode != MODE_INTERPOLATE))  
                                                         bf_search++;  
   
                                         if (((&pMBs[i + (j - 1) * pParam->mb_width])->mode != MODE_FORWARD) &&  
                                                 ((&pMBs[i + (j - 1) * pParam->mb_width])->mode != MODE_BACKWARD) &&  
                                                 ((&pMBs[i + (j - 1) * pParam->mb_width])->mode != MODE_INTERPOLATE))  
                                                         bf_search++;  
   
                                         if (((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode != MODE_FORWARD) &&  
                                                 ((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode != MODE_BACKWARD) &&  
                                                 ((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode != MODE_INTERPOLATE))  
                                                 bf_search++;  
                                 }  
1009    
1010                                  if ((best_sad < bf_thresh) && (bf_search == 3))                          SearchBF_initial(i, j, frame->motion_flags, frame->bcode, pParam, pMB,
1011                                          continue;                                                  &b_predMV, &best_sad, MODE_BACKWARD, &Data_b, Data_d.currentMV[2]);
                         }  
1012    
1013                          /* forward search */                          sad2 = best_sad;
                         SearchBF(f_ref, f_refH->y, f_refV->y, f_refHV->y,  
                                                 i, j,  
                                                 frame->motion_flags,  
                                                 frame->fcode, pParam,  
                                                 pMB, &f_predMV, &best_sad,  
                                                 MODE_FORWARD, &Data);  
   
                         /* backward search */  
                         SearchBF(b_ref, b_refH->y, b_refV->y, b_refHV->y,  
                                                 i, j,  
                                                 frame->motion_flags,  
                                                 frame->bcode, pParam,  
                                                 pMB, &b_predMV, &best_sad,  
                                                 MODE_BACKWARD, &Data);  
   
                         /* interpolate search comes last, because it uses data from forward and backward as prediction */  
                         if (frame->motion_flags & XVID_ME_FAST_MODEINTERPOLATE) {  
   
                                 if(i > 0 && j > 0 && i < pParam->mb_width) {  
                                         if ((&pMBs[(i-1) + j * pParam->mb_width])->mode == MODE_INTERPOLATE)  
                                                 interpol_search++;  
                                         if ((&pMBs[i + (j - 1) * pParam->mb_width])->mode == MODE_INTERPOLATE)  
                                                 interpol_search++;  
                                         if ((&pMBs[(i + 1) + (j - 1) * pParam->mb_width])->mode == MODE_INTERPOLATE)  
                                                 interpol_search++;  
                                 }  
                                 else  
                                         interpol_search = 1;  
1014    
1015                                  interpol_search |= !(best_sad < 3 * Data.iQuant * MAX_SAD00_FOR_SKIP * (Data.chroma ? 3:2));                          if (Data_f.iMinSAD[0] < 2*sad2+2000)
1016                          }                                  SearchBF_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_f);
                         else  
                                 interpol_search = 1;  
1017    
1018                          if (interpol_search) {                          if (Data_b.iMinSAD[0] < 2*sad2+2000)
1019                                  SearchInterpolate(f_ref, f_refH->y, f_refV->y, f_refHV->y,                                  SearchBF_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_b);
1020                                                                    b_ref, b_refH->y, b_refV->y, b_refHV->y,  
1021                                                                    i, j,                          SearchInterpolate_initial(i, j, frame->motion_flags, pParam, &f_predMV, &b_predMV, &best_sad,
1022                                                                    frame->fcode, frame->bcode,                                                                    &Data_i, Data_f.currentMV[0], Data_b.currentMV[0]);
1023                                                                    frame->motion_flags,  
1024                                                                    pParam,                          if (((Data_i.iMinSAD[0] < 2*best_sad+2000) && !(frame->motion_flags&XVID_ME_FAST_MODEINTERPOLATE))
1025                                                                    &f_predMV, &b_predMV,                                  || Data_i.iMinSAD[0] <= best_sad)
1026                                                                    pMB, &best_sad,  
1027                                                                    &Data);                                  SearchInterpolate_final(i, j, frame->motion_flags, pParam, &best_sad, &Data_i);
1028                          }  
1029                            if ((Data_d.iMinSAD[0] <= 2*best_sad) && (!frame->motion_flags&XVID_ME_SKIP_DELTASEARCH))
1030                                    SearchDirect_final(frame->motion_flags, b_mb, &best_sad, &Data_d);
1031    
1032                          /* final skip decision */                          /* final skip decision */
1033                          if ( (skip_sad < Data.iQuant * MAX_SAD00_FOR_SKIP )                          if ( (skip_sad < 2 * Data_d.iQuant * MAX_SAD00_FOR_SKIP )
1034                                  && ((100*best_sad)/(skip_sad+1) > FINAL_SKIP_THRESH) )                                  && ((100*best_sad)/(skip_sad+1) > FINAL_SKIP_THRESH) ) {
1035    
1036                                  SkipDecisionB(&frame->image, f_ref, b_ref, pMB, i, j, &Data);                                  Data_d.chromaSAD = 0; /* green light for chroma check */
1037    
1038                          switch (pMB->mode) {                                  SkipDecisionB(pMB, &Data_d);
1039                                  case MODE_FORWARD:  
1040                                          f_predMV = Data.qpel ? pMB->qmvs[0] : pMB->mvs[0];                                  if (pMB->mode == MODE_DIRECT_NONE_MV) { /* skipped? */
1041                                          pMB->sad16 = best_sad;                                          pMB->sad16 = skip_sad;
1042                                          break;                                          continue;
1043                                  case MODE_BACKWARD:                                  }
                                         b_predMV = Data.qpel ? pMB->b_qmvs[0] : pMB->b_mvs[0];  
                                         pMB->sad16 = best_sad;  
                                         break;  
                                 case MODE_INTERPOLATE:  
                                         f_predMV = Data.qpel ? pMB->qmvs[0] : pMB->mvs[0];  
                                         b_predMV = Data.qpel ? pMB->b_qmvs[0] : pMB->b_mvs[0];  
                                         pMB->sad16 = best_sad;  
                                         break;  
                                 default:  
                                         pMB->sad16 = best_sad;  
                                         break;  
1044                          }                          }
1045    
1046                            if (frame->vop_flags & XVID_VOP_RD_BVOP)
1047                                    ModeDecision_BVOP_RD(&Data_d, &Data_b, &Data_f, &Data_i,
1048                                            pMB, b_mb, &f_predMV, &b_predMV, frame->motion_flags, pParam, i, j);
1049                            else
1050                                    ModeDecision_BVOP_SAD(&Data_d, &Data_b, &Data_f, &Data_i, pMB, b_mb, &f_predMV, &b_predMV);
1051    
1052                  }                  }
1053          }          }
1054  }  }
Legend:
Removed from v.1475  
changed lines
  Added in v.1517
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4