[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1391, Tue Mar 30 12:31:52 2004 UTC revision 1568, Thu Dec 9 04:20:44 2004 UTC
# Line 21  Line 21 
21   *  along with this program ; if not, write to the Free Software   *  along with this program ; if not, write to the Free Software
22   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
23   *   *
24   * $Id: encoder.c,v 1.103 2004-03-30 12:31:52 syskin Exp $   * $Id: encoder.c,v 1.112 2004-12-09 04:20:44 syskin Exp $
25   *   *
26   ****************************************************************************/   ****************************************************************************/
27    
# Line 57  Line 57 
57                                            Bitstream * bs);                                            Bitstream * bs);
58    
59  static int FrameCodeP(Encoder * pEnc,  static int FrameCodeP(Encoder * pEnc,
60                                            Bitstream * bs,                                            Bitstream * bs);
                                           bool force_inter,  
                                           bool vol_header);  
61    
62  static void FrameCodeB(Encoder * pEnc,  static void FrameCodeB(Encoder * pEnc,
63                                             FRAMEINFO * frame,                                             FRAMEINFO * frame,
# Line 102  Line 100 
100                  i--;                  i--;
101          }          }
102    
103          /* if neccessary, round to 65535 accuracy */          if (*base > 65535 || *inc > 65535) {
104          if (*base > 65535) {                  int *biggest;
105                  float div = (float) *base / 65535;                  int *other;
106                  *base = (int) (*base / div);                  float div;
107                  *inc = (int) (*inc / div);  
108                    if (*base > *inc) {
109                            biggest = base;
110                            other = inc;
111                    } else {
112                            biggest = inc;
113                            other = base;
114                    }
115    
116                    div = ((float)*biggest)/((float)65535);
117                    *biggest = (int)(((float)*biggest)/div);
118                    *other = (int)(((float)*other)/div);
119          }          }
120  }  }
121    
# Line 1091  Line 1100 
1100                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1101                                  pEnc->mbParam.frame_drop_ratio = -1; /* it must be a coded vop */                                  pEnc->mbParam.frame_drop_ratio = -1; /* it must be a coded vop */
1102    
1103                                  FrameCodeP(pEnc, &bs, 1, 0);                                  FrameCodeP(pEnc, &bs);
1104    
1105    
1106                                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {                                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {
# Line 1308  Line 1317 
1317    
1318                  /* prevent vol/vop misuse */                  /* prevent vol/vop misuse */
1319    
                 if (!(pEnc->current->vol_flags & XVID_VOL_REDUCED_ENABLE))  
                         pEnc->current->vop_flags &= ~XVID_VOP_REDUCED;  
   
1320                  if (!(pEnc->current->vol_flags & XVID_VOL_INTERLACING))                  if (!(pEnc->current->vol_flags & XVID_VOL_INTERLACING))
1321                          pEnc->current->vop_flags &= ~(XVID_VOP_TOPFIELDFIRST|XVID_VOP_ALTERNATESCAN);                          pEnc->current->vop_flags &= ~(XVID_VOP_TOPFIELDFIRST|XVID_VOP_ALTERNATESCAN);
1322    
# Line 1343  Line 1349 
1349                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1350                  }                  }
1351    
1352                  if ( FrameCodeP(pEnc, &bs, 1, 0) == 0 ) {                  if ( FrameCodeP(pEnc, &bs) == 0 ) {
1353                          /* N-VOP, we mustn't code b-frames yet */                          /* N-VOP, we mustn't code b-frames yet */
1354                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1355                          goto done;                          goto done;
# Line 1438  Line 1444 
1444    
1445          uint16_t x, y;          uint16_t x, y;
1446    
         if ((pEnc->current->vol_flags & XVID_VOL_REDUCED_ENABLE))  
         {  
                 mb_width = (pEnc->mbParam.width + 31) / 32;  
                 mb_height = (pEnc->mbParam.height + 31) / 32;  
   
                 /* 16x16->8x8 downsample requires 1 additional edge pixel*/  
                 /* XXX: setedges is overkill */  
                 start_timer();  
                 image_setedges(&pEnc->current->image,  
                         pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,  
                         pEnc->mbParam.width, pEnc->mbParam.height, 0);  
                 stop_edges_timer();  
         }  
   
1447          pEnc->mbParam.m_rounding_type = 1;          pEnc->mbParam.m_rounding_type = 1;
1448          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1449          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
# Line 1496  Line 1488 
1488                          stop_coding_timer();                          stop_coding_timer();
1489                  }                  }
1490    
         if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))  
         {  
                 image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,  
                         pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,  
                         16, 0);  
         }  
1491          emms();          emms();
1492    
1493          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
# Line 1525  Line 1511 
1511  /* FrameCodeP also handles S(GMC)-VOPs */  /* FrameCodeP also handles S(GMC)-VOPs */
1512  static int  static int
1513  FrameCodeP(Encoder * pEnc,  FrameCodeP(Encoder * pEnc,
1514                     Bitstream * bs,                     Bitstream * bs)
                    bool force_inter,  
                    bool vol_header)  
1515  {  {
1516          float fSigma;          float fSigma;
1517          int bits = BitstreamPos(bs);          int bits = BitstreamPos(bs);
# Line 1535  Line 1519 
1519          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1520          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1521    
         int iLimit;  
1522          int x, y, k;          int x, y, k;
1523          int iSearchRange;          int iSearchRange;
1524          int bIntra=0, skip_possible;          int skip_possible;
1525          FRAMEINFO *const current = pEnc->current;          FRAMEINFO *const current = pEnc->current;
1526          FRAMEINFO *const reference = pEnc->reference;          FRAMEINFO *const reference = pEnc->reference;
1527          MBParam * const pParam = &pEnc->mbParam;          MBParam * const pParam = &pEnc->mbParam;
# Line 1550  Line 1533 
1533          /* IMAGE *pCurrent = &current->image; */          /* IMAGE *pCurrent = &current->image; */
1534          IMAGE *pRef = &reference->image;          IMAGE *pRef = &reference->image;
1535    
         if ((current->vop_flags & XVID_VOP_REDUCED))  
         {  
                 mb_width = (pParam->width + 31) / 32;  
                 mb_height = (pParam->height + 31) / 32;  
         }  
   
   
1536          if (!reference->is_edged) {          if (!reference->is_edged) {
1537                  start_timer();                  start_timer();
1538                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,
# Line 1569  Line 1545 
1545          current->rounding_type = pParam->m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
1546          current->fcode = pParam->m_fcode;          current->fcode = pParam->m_fcode;
1547    
         if (!force_inter)  
                 iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);  
         else  
                 iLimit = mb_width * mb_height + 1;  
   
1548          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1549                  if (reference->is_interpolated != current->rounding_type) {                  if (reference->is_interpolated != current->rounding_type) {
1550                          start_timer();                          start_timer();
# Line 1587  Line 1558 
1558                  }                  }
1559          }          }
1560    
1561            current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =
1562                    current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;
1563    
1564          current->coding_type = P_VOP;          current->coding_type = P_VOP;
1565    
1566          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
# Line 1644  Line 1618 
1618                  }                  }
1619          }          }
1620    
         bIntra =  
1621                  MotionEstimation(&pEnc->mbParam, current, reference,                  MotionEstimation(&pEnc->mbParam, current, reference,
1622                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1623                                           &pEnc->vGMC, iLimit);                                           &pEnc->vGMC, 256*4096);
1624    
1625    
1626          stop_motion_timer();          stop_motion_timer();
1627    
         if (bIntra == 1) return FrameCodeI(pEnc, bs);  
   
1628          set_timecodes(current,reference,pParam->fbase);          set_timecodes(current,reference,pParam->fbase);
         if (vol_header)  
         {       BitstreamWriteVolHeader(bs, &pEnc->mbParam, current);  
                 BitstreamPad(bs);  
         }  
1629    
1630          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);
1631    
         current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =  
                 current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;  
   
   
1632          for (y = 0; y < mb_height; y++) {          for (y = 0; y < mb_height; y++) {
1633                  for (x = 0; x < mb_width; x++) {                  for (x = 0; x < mb_width; x++) {
1634                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1635                                  &current->mbs[x + y * pParam->mb_width];                                  &current->mbs[x + y * pParam->mb_width];
1636    
1637                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          int bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1638    
1639                          if (bIntra) {                          if (bIntra) {
1640                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
# Line 1684  Line 1647 
1647    
1648                                  current->sStat.kblks++;                                  current->sStat.kblks++;
1649    
1650                                  if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)                                  if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE) {
1651                                  {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                                          pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1652                                          qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */                                          qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
1653                                          qcoeff[5*64+0]=0;                                          qcoeff[5*64+0]=0;
1654                                  }                                  }
# Line 1703  Line 1666 
1666                                                                   pParam->height,                                                                   pParam->height,
1667                                                                   pParam->edged_width,                                                                   pParam->edged_width,
1668                                                                   (current->vol_flags & XVID_VOL_QUARTERPEL),                                                                   (current->vol_flags & XVID_VOL_QUARTERPEL),
                                                                  (current->vop_flags & XVID_VOP_REDUCED),  
1669                                                                   current->rounding_type);                                                                   current->rounding_type);
1670    
1671                          stop_comp_timer();                          stop_comp_timer();
1672    
1673                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1674    
1675                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->cbp != 0) {
                         {       pMB->cbp =  
1676                                          MBTransQuantInter(&pEnc->mbParam, current, pMB, x, y,                                          MBTransQuantInter(&pEnc->mbParam, current, pMB, x, y,
1677                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1678                          }                          }
# Line 1836  Line 1797 
1797                  }                  }
1798          }          }
1799    
         if ((current->vop_flags & XVID_VOP_REDUCED))  
         {  
                 image_deblock_rrv(&current->image, pParam->edged_width,  
                         current->mbs, mb_width, mb_height, pParam->mb_width,  
                         16, 0);  
         }  
   
1800          emms();          emms();
1801    
1802          if (current->sStat.iMvCount == 0)          if (current->sStat.iMvCount == 0)
# Line 1850  Line 1804 
1804    
1805          fSigma = (float) sqrt((float) current->sStat.iMvSum / current->sStat.iMvCount);          fSigma = (float) sqrt((float) current->sStat.iMvSum / current->sStat.iMvCount);
1806    
1807          iSearchRange = 1 << (3 + pParam->m_fcode);          iSearchRange = 16 << pParam->m_fcode;
1808    
1809          if ((fSigma > iSearchRange / 3)          if ((3.0 * fSigma > iSearchRange) && (pParam->m_fcode <= 5) )
                 && (pParam->m_fcode <= (3 +  (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0)  ))) /* maximum search range 128 */  
         {  
1810                  pParam->m_fcode++;                  pParam->m_fcode++;
1811                  iSearchRange *= 2;  
1812          } else if ((fSigma < iSearchRange / 6)          else if ((5.0 * fSigma < iSearchRange)
1813                             && (pEnc->fMvPrevSigma >= 0)                             && (4.0 * pEnc->fMvPrevSigma < iSearchRange)
1814                             && (pEnc->fMvPrevSigma < iSearchRange / 6)                             && (pParam->m_fcode >= 2) )  /* minimum search range 32 */
                            && (pParam->m_fcode >= (2 + (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0) )))        /* minimum search range 16 */  
         {  
1815                  pParam->m_fcode--;                  pParam->m_fcode--;
                 iSearchRange /= 2;  
         }  
1816    
1817          pEnc->fMvPrevSigma = fSigma;          pEnc->fMvPrevSigma = fSigma;
1818    
# Line 1873  Line 1821 
1821          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);
1822  #endif  #endif
1823          if (current->sStat.kblks + current->sStat.mblks <=          if (current->sStat.kblks + current->sStat.mblks <=
1824                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100)                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100 &&
1825                    ( (pEnc->bframenum_head >= pEnc->bframenum_tail) || !(pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP)) )
1826          {          {
1827                  current->sStat.kblks = current->sStat.mblks = 0;                  current->sStat.kblks = current->sStat.mblks = 0;
1828                  current->sStat.ublks = mb_width * mb_height;                  current->sStat.ublks = mb_width * mb_height;
# Line 1950  Line 1899 
1899                  fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \                  fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \
1900          }          }
1901    
         /* XXX: pEnc->current->global_flags &= ~XVID_VOP_REDUCED;  reduced resoltion not yet supported */  
   
1902          if (!first){          if (!first){
1903                  fp=fopen("C:\\XVIDDBGE.TXT","w");                  fp=fopen("C:\\XVIDDBGE.TXT","w");
1904          }          }
# Line 2022  Line 1969 
1969                          if (mb->mode == MODE_NOT_CODED) {                          if (mb->mode == MODE_NOT_CODED) {
1970                                  if (pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {                                  if (pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {
1971                                          MBMotionCompensation(mb, x, y, f_ref, NULL, f_ref, NULL, NULL, &frame->image,                                          MBMotionCompensation(mb, x, y, f_ref, NULL, f_ref, NULL, NULL, &frame->image,
1972                                                                                          NULL, 0, 0, pEnc->mbParam.edged_width, 0, 0, 0);                                                                                          NULL, 0, 0, pEnc->mbParam.edged_width, 0, 0);
1973                                  }                                  }
   
1974                                  continue;                                  continue;
1975                          }                          }
1976    
1977                          if (mb->mode != MODE_DIRECT_NONE_MV || pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {                          mb->quant = frame->quant;
1978    
1979                            if (mb->cbp != 0 || pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {
1980                                    /* we have to motion-compensate, transfer etc,
1981                                            because there might be blocks to code */
1982    
1983                                  MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,                                  MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1984                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,
1985                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1986                                                                           &pEnc->vInterV, &pEnc->vInterHV,                                                                           &pEnc->vInterV, &pEnc->vInterHV,
1987                                                                           dct_codes);                                                                           dct_codes);
1988    
                                 if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;  
                                 mb->quant = frame->quant;  
   
                                 if (mb->mode != MODE_DIRECT_NONE_MV)  
1989                                          mb->cbp = MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, x, y,  dct_codes, qcoeff);                                          mb->cbp = MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, x, y,  dct_codes, qcoeff);
1990                            }
1991    
1992                                  if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)                          if (mb->mode == MODE_DIRECT_NO4V)
1993                                          && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {                                  mb->mode = MODE_DIRECT;
1994    
1995                            if (mb->mode == MODE_DIRECT && (mb->cbp | mb->pmvs[3].x | mb->pmvs[3].y) == 0)
1996                                          mb->mode = MODE_DIRECT_NONE_MV; /* skipped */                                          mb->mode = MODE_DIRECT_NONE_MV; /* skipped */
                                 }  
                         }  
1997    
1998                          /* keep only bits 5-2 -- Chroma blocks will just be skipped by the                          /* keep only bits 5-2 -- Chroma blocks will just be skipped by the
1999                           * coding function for BFrames, that's why we don't zero teh DC                           * coding function for BFrames, that's why we don't zero teh DC
2000                           * coeffs */                           * coeffs */
2001                          if ((frame->vop_flags & XVID_VOP_GREYSCALE))                          if (frame->vop_flags & XVID_VOP_GREYSCALE)
2002                                  mb->cbp &= 0x3C;                                  mb->cbp &= 0x3C;
2003    
2004                          start_timer();                          start_timer();

Legend:
Removed from v.1391  
changed lines
  Added in v.1568

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4