[svn] / trunk / xvidcore / src / image / image.c Repository:
ViewVC logotype

Diff of /trunk/xvidcore/src/image/image.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 851, Sat Feb 15 15:22:19 2003 UTC revision 1795, Wed Nov 26 01:04:34 2008 UTC
# Line 1  Line 1 
1  /**************************************************************************  /**************************************************************************
2   *   *
3   *      XVID MPEG-4 VIDEO CODEC   *      XVID MPEG-4 VIDEO CODEC
4   *      image stuff   *  - Image management functions -
5   *   *
6   *      This program is an implementation of a part of one or more MPEG-4   *  Copyright(C) 2001-2004 Peter Ross <pross@xvid.org>
  *      Video tools as specified in ISO/IEC 14496-2 standard.  Those intending  
  *      to use this software module in hardware or software products are  
  *      advised that its use may infringe existing patents or copyrights, and  
  *      any such use would be at such party's own risk.  The original  
  *      developer of this software module and his/her company, and subsequent  
  *      editors and their companies, will have no liability for use of this  
  *      software or modifications or derivatives thereof.  
7   *   *
8   *      This program is free software; you can redistribute it and/or modify   *      This program is free software; you can redistribute it and/or modify
9   *      it under the terms of the GNU General Public License as published by   *      it under the terms of the GNU General Public License as published by
# Line 24  Line 17 
17   *   *
18   *      You should have received a copy of the GNU General Public License   *      You should have received a copy of the GNU General Public License
19   *      along with this program; if not, write to the Free Software   *      along with this program; if not, write to the Free Software
20   *      Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
21   *   *
22   *************************************************************************/   * $Id: image.c,v 1.42 2008-11-26 01:04:34 Isibaar Exp $
   
 /**************************************************************************  
  *  
  *      History:  
23   *   *
24   *  05.10.2002  support for interpolated images in qpel mode - Isibaar   ****************************************************************************/
  *      01.05.2002      BFRAME image-based u,v interpolation  
  *  22.04.2002  added some B-frame support  
  *      14.04.2002      added image_dump_yuvpgm(), added image_mad()  
  *              XVID_CSP_USER input support  
  *  09.04.2002  PSNR calculations - Isibaar  
  *      06.04.2002      removed interlaced edging from U,V blocks (as per spec)  
  *  26.03.2002  interlacing support (field-based edging in set_edges)  
  *      26.01.2002      rgb555, rgb565  
  *      07.01.2001      commented u,v interpolation (not required for uv-block-based)  
  *  23.12.2001  removed #ifdefs, added function pointers + init_common()  
  *      22.12.2001      cpu #ifdefs  
  *  19.12.2001  image_dump(); useful for debugging  
  *       6.12.2001      inital version; (c)2001 peter ross <pross@cs.rmit.edu.au>  
  *  
  *************************************************************************/  
25    
26  #include <stdlib.h>  #include <stdlib.h>
27  #include <string.h>                             // memcpy, memset  #include <string.h>                             /* memcpy, memset */
28  #include <math.h>  #include <math.h>
   
29  #include "../portab.h"  #include "../portab.h"
30  #include "../global.h"                  // XVID_CSP_XXX's  #include "../global.h"                  /* XVID_CSP_XXX's */
31  #include "../xvid.h"                    // XVID_CSP_XXX's  #include "../xvid.h"                    /* XVID_CSP_XXX's */
32  #include "image.h"  #include "image.h"
33  #include "colorspace.h"  #include "colorspace.h"
34  #include "interpolate8x8.h"  #include "interpolate8x8.h"
 #include "reduced.h"  
 #include "../divx4.h"  
35  #include "../utils/mem_align.h"  #include "../utils/mem_align.h"
36    #include "../motion/sad.h"
37    #include "../utils/emms.h"
38    
39  #include "font.h"               // XXX: remove later  #include "font.h"               /* XXX: remove later */
40    
41  #define SAFETY  64  #define SAFETY  64
42  #define EDGE_SIZE2  (EDGE_SIZE/2)  #define EDGE_SIZE2  (EDGE_SIZE/2)
# Line 76  Line 49 
49  {  {
50          const uint32_t edged_width2 = edged_width / 2;          const uint32_t edged_width2 = edged_width / 2;
51          const uint32_t edged_height2 = edged_height / 2;          const uint32_t edged_height2 = edged_height / 2;
         uint32_t i;  
52    
53          image->y =          image->y =
54                  xvid_malloc(edged_width * (edged_height + 1) + SAFETY, CACHE_LINE);                  xvid_malloc(edged_width * (edged_height + 1) + SAFETY, CACHE_LINE);
55          if (image->y == NULL) {          if (image->y == NULL) {
56                  return -1;                  return -1;
57          }          }
58            memset(image->y, 0, edged_width * (edged_height + 1) + SAFETY);
         for (i = 0; i < edged_width * edged_height + SAFETY; i++) {  
                 image->y[i] = 0;  
         }  
59    
60          image->u = xvid_malloc(edged_width2 * edged_height2 + SAFETY, CACHE_LINE);          image->u = xvid_malloc(edged_width2 * edged_height2 + SAFETY, CACHE_LINE);
61          if (image->u == NULL) {          if (image->u == NULL) {
62                  xvid_free(image->y);                  xvid_free(image->y);
63                    image->y = NULL;
64                  return -1;                  return -1;
65          }          }
66            memset(image->u, 0, edged_width2 * edged_height2 + SAFETY);
67    
68          image->v = xvid_malloc(edged_width2 * edged_height2 + SAFETY, CACHE_LINE);          image->v = xvid_malloc(edged_width2 * edged_height2 + SAFETY, CACHE_LINE);
69          if (image->v == NULL) {          if (image->v == NULL) {
70                  xvid_free(image->u);                  xvid_free(image->u);
71                    image->u = NULL;
72                  xvid_free(image->y);                  xvid_free(image->y);
73                    image->y = NULL;
74                  return -1;                  return -1;
75          }          }
76            memset(image->v, 0, edged_width2 * edged_height2 + SAFETY);
77    
78          image->y += EDGE_SIZE * edged_width + EDGE_SIZE;          image->y += EDGE_SIZE * edged_width + EDGE_SIZE;
79          image->u += EDGE_SIZE2 * edged_width2 + EDGE_SIZE2;          image->u += EDGE_SIZE2 * edged_width2 + EDGE_SIZE2;
# Line 118  Line 93 
93    
94          if (image->y) {          if (image->y) {
95                  xvid_free(image->y - (EDGE_SIZE * edged_width + EDGE_SIZE));                  xvid_free(image->y - (EDGE_SIZE * edged_width + EDGE_SIZE));
96                    image->y = NULL;
97          }          }
98          if (image->u) {          if (image->u) {
99                  xvid_free(image->u - (EDGE_SIZE2 * edged_width2 + EDGE_SIZE2));                  xvid_free(image->u - (EDGE_SIZE2 * edged_width2 + EDGE_SIZE2));
100                    image->u = NULL;
101          }          }
102          if (image->v) {          if (image->v) {
103                  xvid_free(image->v - (EDGE_SIZE2 * edged_width2 + EDGE_SIZE2));                  xvid_free(image->v - (EDGE_SIZE2 * edged_width2 + EDGE_SIZE2));
104                    image->v = NULL;
105          }          }
106  }  }
107    
# Line 132  Line 110 
110  image_swap(IMAGE * image1,  image_swap(IMAGE * image1,
111                     IMAGE * image2)                     IMAGE * image2)
112  {  {
113          uint8_t *tmp;      SWAP(uint8_t*, image1->y, image2->y);
114        SWAP(uint8_t*, image1->u, image2->u);
115          tmp = image1->y;      SWAP(uint8_t*, image1->v, image2->v);
         image1->y = image2->y;  
         image2->y = tmp;  
   
         tmp = image1->u;  
         image1->u = image2->u;  
         image2->u = tmp;  
   
         tmp = image1->v;  
         image1->v = image2->v;  
         image2->v = tmp;  
116  }  }
117    
118    
# Line 159  Line 127 
127          memcpy(image1->v, image2->v, edged_width * height / 4);          memcpy(image1->v, image2->v, edged_width * height / 4);
128  }  }
129    
130    /* setedges bug was fixed in this BS version */
131    #define SETEDGES_BUG_BEFORE             18
132    
133  void  void
134  image_setedges(IMAGE * image,  image_setedges(IMAGE * image,
135                             uint32_t edged_width,                             uint32_t edged_width,
136                             uint32_t edged_height,                             uint32_t edged_height,
137                             uint32_t width,                             uint32_t width,
138                             uint32_t height)                             uint32_t height,
139                               int bs_version)
140  {  {
141          const uint32_t edged_width2 = edged_width / 2;          const uint32_t edged_width2 = edged_width / 2;
142          const uint32_t width2 = width / 2;          uint32_t width2;
143          uint32_t i;          uint32_t i;
144          uint8_t *dst;          uint8_t *dst;
145          uint8_t *src;          uint8_t *src;
146    
   
147          dst = image->y - (EDGE_SIZE + EDGE_SIZE * edged_width);          dst = image->y - (EDGE_SIZE + EDGE_SIZE * edged_width);
148          src = image->y;          src = image->y;
149    
150            /* According to the Standard Clause 7.6.4, padding is done starting at 16
151             * pixel width and height multiples. This was not respected in old xvids */
152            if (bs_version == 0 || bs_version >= SETEDGES_BUG_BEFORE) {
153                    width  = (width+15)&~15;
154                    height = (height+15)&~15;
155            }
156    
157            width2 = width/2;
158    
159          for (i = 0; i < EDGE_SIZE; i++) {          for (i = 0; i < EDGE_SIZE; i++) {
160                  memset(dst, *src, EDGE_SIZE);                  memset(dst, *src, EDGE_SIZE);
161                  memcpy(dst + EDGE_SIZE, src, width);                  memcpy(dst + EDGE_SIZE, src, width);
# Line 202  Line 181 
181          }          }
182    
183    
184  //U          /* U */
185          dst = image->u - (EDGE_SIZE2 + EDGE_SIZE2 * edged_width2);          dst = image->u - (EDGE_SIZE2 + EDGE_SIZE2 * edged_width2);
186          src = image->u;          src = image->u;
187    
# Line 230  Line 209 
209          }          }
210    
211    
212  // V          /* V */
213          dst = image->v - (EDGE_SIZE2 + EDGE_SIZE2 * edged_width2);          dst = image->v - (EDGE_SIZE2 + EDGE_SIZE2 * edged_width2);
214          src = image->v;          src = image->v;
215    
# Line 258  Line 237 
237          }          }
238  }  }
239    
 // bframe encoding requires image-based u,v interpolation  
240  void  void
241  image_interpolate(const IMAGE * refn,  image_interpolate(const uint8_t * refn,
242                                    IMAGE * refh,                                    uint8_t * refh,
243                                    IMAGE * refv,                                    uint8_t * refv,
244                                    IMAGE * refhv,                                    uint8_t * refhv,
245                                    uint32_t edged_width,                                    uint32_t edged_width,
246                                    uint32_t edged_height,                                    uint32_t edged_height,
247                                    uint32_t quarterpel,                                    uint32_t quarterpel,
248                                    uint32_t rounding)                                    uint32_t rounding)
249  {  {
250          const uint32_t offset = EDGE_SIZE2 * (edged_width + 1); // we only interpolate half of the edge area          const uint32_t offset = EDGE_SIZE2 * (edged_width + 1); /* we only interpolate half of the edge area */
251          const uint32_t stride_add = 7 * edged_width;          const uint32_t stride_add = 7 * edged_width;
 /*  
 #ifdef BFRAMES  
         const uint32_t edged_width2 = edged_width / 2;  
         const uint32_t edged_height2 = edged_height / 2;  
         const uint32_t offset2 = EDGE_SIZE2 * (edged_width2 + 1);  
         const uint32_t stride_add2 = 7 * edged_width2;  
 #endif  
 */  
         uint8_t *n_ptr, *h_ptr, *v_ptr, *hv_ptr;  
         uint32_t x, y;  
252    
253            uint8_t *n_ptr;
254            uint8_t *h_ptr, *v_ptr, *hv_ptr;
255            uint32_t x, y;
256    
257          n_ptr = refn->y;          n_ptr = (uint8_t*)refn;
258          h_ptr = refh->y;          h_ptr = refh;
259          v_ptr = refv->y;          v_ptr = refv;
         hv_ptr = refhv->y;  
260    
261          n_ptr -= offset;          n_ptr -= offset;
262          h_ptr -= offset;          h_ptr -= offset;
263          v_ptr -= offset;          v_ptr -= offset;
         hv_ptr -= offset;  
264    
265            /* Note we initialize the hv pointer later, as we can optimize code a bit
266             * doing it down to up in quarterpel and up to down in halfpel */
267          if(quarterpel) {          if(quarterpel) {
268    
269                  for (y = 0; y < (edged_height - EDGE_SIZE); y += 8) {                  for (y = 0; y < (edged_height - EDGE_SIZE); y += 8) {
# Line 314  Line 285 
285                          n_ptr += stride_add;                          n_ptr += stride_add;
286                  }                  }
287    
288                  h_ptr = refh->y;                  h_ptr = refh + (edged_height - EDGE_SIZE - EDGE_SIZE2)*edged_width - EDGE_SIZE2;
289                  h_ptr -= offset;                  hv_ptr = refhv + (edged_height - EDGE_SIZE - EDGE_SIZE2)*edged_width - EDGE_SIZE2;
290    
291                  for (y = 0; y < (edged_height - EDGE_SIZE); y = y + 8) {                  for (y = 0; y < (edged_height - EDGE_SIZE); y = y + 8) {
292                            hv_ptr -= stride_add;
293                            h_ptr -= stride_add;
294                            hv_ptr -= EDGE_SIZE;
295                            h_ptr -= EDGE_SIZE;
296    
297                          for (x = 0; x < (edged_width - EDGE_SIZE); x = x + 8) {                          for (x = 0; x < (edged_width - EDGE_SIZE); x = x + 8) {
298                                    hv_ptr -= 8;
299                                    h_ptr -= 8;
300                                  interpolate8x8_6tap_lowpass_v(hv_ptr, h_ptr, edged_width, rounding);                                  interpolate8x8_6tap_lowpass_v(hv_ptr, h_ptr, edged_width, rounding);
                                 hv_ptr += 8;  
                                 h_ptr += 8;  
                         }  
   
                         hv_ptr += EDGE_SIZE;  
                         h_ptr += EDGE_SIZE;  
   
                         hv_ptr += stride_add;  
                         h_ptr += stride_add;  
301                  }                  }
302          }          }
303          else {          } else {
304    
305                    hv_ptr = refhv;
306                    hv_ptr -= offset;
307    
308                  for (y = 0; y < (edged_height - EDGE_SIZE); y += 8) {                  for (y = 0; y < (edged_height - EDGE_SIZE); y += 8) {
309                          for (x = 0; x < (edged_width - EDGE_SIZE); x += 8) {                          for (x = 0; x < (edged_width - EDGE_SIZE); x += 8) {
# Line 356  Line 328 
328                          n_ptr += stride_add;                          n_ptr += stride_add;
329                  }                  }
330          }          }
 /*  
 #ifdef BFRAMES  
         n_ptr = refn->u;  
         h_ptr = refh->u;  
         v_ptr = refv->u;  
         hv_ptr = refhv->u;  
   
         n_ptr -= offset2;  
         h_ptr -= offset2;  
         v_ptr -= offset2;  
         hv_ptr -= offset2;  
   
         for (y = 0; y < edged_height2; y += 8) {  
                 for (x = 0; x < edged_width2; x += 8) {  
                         interpolate8x8_halfpel_h(h_ptr, n_ptr, edged_width2, rounding);  
                         interpolate8x8_halfpel_v(v_ptr, n_ptr, edged_width2, rounding);  
                         interpolate8x8_halfpel_hv(hv_ptr, n_ptr, edged_width2, rounding);  
   
                         n_ptr += 8;  
                         h_ptr += 8;  
                         v_ptr += 8;  
                         hv_ptr += 8;  
                 }  
                 h_ptr += stride_add2;  
                 v_ptr += stride_add2;  
                 hv_ptr += stride_add2;  
                 n_ptr += stride_add2;  
         }  
   
         n_ptr = refn->v;  
         h_ptr = refh->v;  
         v_ptr = refv->v;  
         hv_ptr = refhv->v;  
   
         n_ptr -= offset2;  
         h_ptr -= offset2;  
         v_ptr -= offset2;  
         hv_ptr -= offset2;  
   
         for (y = 0; y < edged_height2; y = y + 8) {  
                 for (x = 0; x < edged_width2; x = x + 8) {  
                         interpolate8x8_halfpel_h(h_ptr, n_ptr, edged_width2, rounding);  
                         interpolate8x8_halfpel_v(v_ptr, n_ptr, edged_width2, rounding);  
                         interpolate8x8_halfpel_hv(hv_ptr, n_ptr, edged_width2, rounding);  
   
                         n_ptr += 8;  
                         h_ptr += 8;  
                         v_ptr += 8;  
                         hv_ptr += 8;  
                 }  
                 h_ptr += stride_add2;  
                 v_ptr += stride_add2;  
                 hv_ptr += stride_add2;  
                 n_ptr += stride_add2;  
         }  
 #endif  
 */  
         /*  
            interpolate_halfpel_h(  
            refh->y - offset,  
            refn->y - offset,  
            edged_width, edged_height,  
            rounding);  
   
            interpolate_halfpel_v(  
            refv->y - offset,  
            refn->y - offset,  
            edged_width, edged_height,  
            rounding);  
   
            interpolate_halfpel_hv(  
            refhv->y - offset,  
            refn->y - offset,  
            edged_width, edged_height,  
            rounding);  
          */  
   
         /* uv-image-based compensation  
            offset = EDGE_SIZE2 * (edged_width / 2 + 1);  
   
            interpolate_halfpel_h(  
            refh->u - offset,  
            refn->u - offset,  
            edged_width / 2, edged_height / 2,  
            rounding);  
   
            interpolate_halfpel_v(  
            refv->u - offset,  
            refn->u - offset,  
            edged_width / 2, edged_height / 2,  
            rounding);  
   
            interpolate_halfpel_hv(  
            refhv->u - offset,  
            refn->u - offset,  
            edged_width / 2, edged_height / 2,  
            rounding);  
   
   
            interpolate_halfpel_h(  
            refh->v - offset,  
            refn->v - offset,  
            edged_width / 2, edged_height / 2,  
            rounding);  
   
            interpolate_halfpel_v(  
            refv->v - offset,  
            refn->v - offset,  
            edged_width / 2, edged_height / 2,  
            rounding);  
   
            interpolate_halfpel_hv(  
            refhv->v - offset,  
            refn->v - offset,  
            edged_width / 2, edged_height / 2,  
            rounding);  
          */  
331  }  }
332    
333    
# Line 512  Line 367 
367  #undef IMG_V  #undef IMG_V
368          }          }
369    
370          DPRINTF(DPRINTF_DEBUG,"chroma_optimized_pixels = %i/%i", pixels, width*height/4);          DPRINTF(XVID_DEBUG_DEBUG,"chroma_optimized_pixels = %i/%i\n", pixels, width*height/4);
371  }  }
372    
373    
# Line 564  Line 419 
419                          uint32_t width,                          uint32_t width,
420                          int height,                          int height,
421                          uint32_t edged_width,                          uint32_t edged_width,
422                          uint8_t * src,                          uint8_t * src[4],
423                          int src_stride,                          int src_stride[4],
424                          int csp,                          int csp,
425                          int interlacing)                          int interlacing)
426  {  {
427          const int edged_width2 = edged_width/2;          const int edged_width2 = edged_width/2;
428          const int width2 = width/2;          const int width2 = width/2;
429          const int height2 = height/2;          const int height2 = height/2;
430          //const int height_signed = (csp & XVID_CSP_VFLIP) ? -height : height;  #if 0
431            const int height_signed = (csp & XVID_CSP_VFLIP) ? -height : height;
432    #endif
         //      int src_stride = width;  
   
         // --- xvid 2.1 compatiblity patch ---  
         // --- remove when xvid_dec_frame->stride equals real stride  
         /*  
         if ((csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB555 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB565 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_YUY2 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_YVYU ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_UYVY)  
         {  
                 src_stride *= 2;  
         }  
         else if ((csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB24)  
         {  
                 src_stride *= 3;  
         }  
         else if ((csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB32 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_ABGR ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGBA)  
         {  
                 src_stride *= 4;  
         }  
         */  
         // ^--- xvid 2.1 compatiblity fix ---^  
433    
434          switch (csp & ~XVID_CSP_VFLIP) {          switch (csp & ~XVID_CSP_VFLIP) {
435          case XVID_CSP_RGB555:          case XVID_CSP_RGB555:
436                  safe_packed_conv(                  safe_packed_conv(
437                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
438                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
439                          interlacing?rgb555i_to_yv12  :rgb555_to_yv12,                          interlacing?rgb555i_to_yv12  :rgb555_to_yv12,
440                          interlacing?rgb555i_to_yv12_c:rgb555_to_yv12_c, 2);                          interlacing?rgb555i_to_yv12_c:rgb555_to_yv12_c, 2);
# Line 612  Line 442 
442    
443          case XVID_CSP_RGB565:          case XVID_CSP_RGB565:
444                  safe_packed_conv(                  safe_packed_conv(
445                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
446                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
447                          interlacing?rgb565i_to_yv12  :rgb565_to_yv12,                          interlacing?rgb565i_to_yv12  :rgb565_to_yv12,
448                          interlacing?rgb565i_to_yv12_c:rgb565_to_yv12_c, 2);                          interlacing?rgb565i_to_yv12_c:rgb565_to_yv12_c, 2);
449                  break;                  break;
450    
451    
452          case XVID_CSP_RGB24:          case XVID_CSP_BGR:
453                  safe_packed_conv(                  safe_packed_conv(
454                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
455                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
456                          interlacing?bgri_to_yv12  :bgr_to_yv12,                          interlacing?bgri_to_yv12  :bgr_to_yv12,
457                          interlacing?bgri_to_yv12_c:bgr_to_yv12_c, 3);                          interlacing?bgri_to_yv12_c:bgr_to_yv12_c, 3);
458                  break;                  break;
459    
460          case XVID_CSP_RGB32:          case XVID_CSP_BGRA:
461                  safe_packed_conv(                  safe_packed_conv(
462                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
463                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
464                          interlacing?bgrai_to_yv12  :bgra_to_yv12,                          interlacing?bgrai_to_yv12  :bgra_to_yv12,
465                          interlacing?bgrai_to_yv12_c:bgra_to_yv12_c, 4);                          interlacing?bgrai_to_yv12_c:bgra_to_yv12_c, 4);
# Line 637  Line 467 
467    
468          case XVID_CSP_ABGR :          case XVID_CSP_ABGR :
469                  safe_packed_conv(                  safe_packed_conv(
470                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
471                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
472                          interlacing?abgri_to_yv12  :abgr_to_yv12,                          interlacing?abgri_to_yv12  :abgr_to_yv12,
473                          interlacing?abgri_to_yv12_c:abgr_to_yv12_c, 4);                          interlacing?abgri_to_yv12_c:abgr_to_yv12_c, 4);
474                  break;                  break;
475    
476            case XVID_CSP_RGB:
477                    safe_packed_conv(
478                            src[0], src_stride[0], image->y, image->u, image->v,
479                            edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
480                            interlacing?rgbi_to_yv12  :rgb_to_yv12,
481                            interlacing?rgbi_to_yv12_c:rgb_to_yv12_c, 3);
482                    break;
483    
484          case XVID_CSP_RGBA :          case XVID_CSP_RGBA :
485                  safe_packed_conv(                  safe_packed_conv(
486                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
487                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
488                          interlacing?rgbai_to_yv12  :rgba_to_yv12,                          interlacing?rgbai_to_yv12  :rgba_to_yv12,
489                          interlacing?rgbai_to_yv12_c:rgba_to_yv12_c, 4);                          interlacing?rgbai_to_yv12_c:rgba_to_yv12_c, 4);
490                  break;                  break;
491    
492            case XVID_CSP_ARGB:
493                    safe_packed_conv(
494                            src[0], src_stride[0], image->y, image->u, image->v,
495                            edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
496                            interlacing?argbi_to_yv12  : argb_to_yv12,
497                            interlacing?argbi_to_yv12_c: argb_to_yv12_c, 4);
498                    break;
499    
500          case XVID_CSP_YUY2:          case XVID_CSP_YUY2:
501                  safe_packed_conv(                  safe_packed_conv(
502                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
503                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
504                          interlacing?yuyvi_to_yv12  :yuyv_to_yv12,                          interlacing?yuyvi_to_yv12  :yuyv_to_yv12,
505                          interlacing?yuyvi_to_yv12_c:yuyv_to_yv12_c, 2);                          interlacing?yuyvi_to_yv12_c:yuyv_to_yv12_c, 2);
# Line 661  Line 507 
507    
508          case XVID_CSP_YVYU:             /* u/v swapped */          case XVID_CSP_YVYU:             /* u/v swapped */
509                  safe_packed_conv(                  safe_packed_conv(
510                          src, src_stride, image->y, image->v, image->y,                          src[0], src_stride[0], image->y, image->v, image->u,
511                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
512                          interlacing?yuyvi_to_yv12  :yuyv_to_yv12,                          interlacing?yuyvi_to_yv12  :yuyv_to_yv12,
513                          interlacing?yuyvi_to_yv12_c:yuyv_to_yv12_c, 2);                          interlacing?yuyvi_to_yv12_c:yuyv_to_yv12_c, 2);
# Line 669  Line 515 
515    
516          case XVID_CSP_UYVY:          case XVID_CSP_UYVY:
517                  safe_packed_conv(                  safe_packed_conv(
518                          src, src_stride, image->y, image->u, image->v,                          src[0], src_stride[0], image->y, image->u, image->v,
519                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
520                          interlacing?uyvyi_to_yv12  :uyvy_to_yv12,                          interlacing?uyvyi_to_yv12  :uyvy_to_yv12,
521                          interlacing?uyvyi_to_yv12_c:uyvy_to_yv12_c, 2);                          interlacing?uyvyi_to_yv12_c:uyvy_to_yv12_c, 2);
522                  break;                  break;
523    
524          case XVID_CSP_I420:          case XVID_CSP_I420:     /* YCbCr == YUV == internal colorspace for MPEG */
525                  yv12_to_yv12(image->y, image->u, image->v, edged_width, edged_width2,                  yv12_to_yv12(image->y, image->u, image->v, edged_width, edged_width2,
526                          src, src + src_stride*height, src + src_stride*height + (src_stride/2)*height2,                          src[0], src[0] + src_stride[0]*height, src[0] + src_stride[0]*height + (src_stride[0]/2)*height2,
527                          src_stride, src_stride/2, width, height, (csp & XVID_CSP_VFLIP));                          src_stride[0], src_stride[0]/2, width, height, (csp & XVID_CSP_VFLIP));
528                  break                  break;
529                          ;  
530          case XVID_CSP_YV12:             /* u/v swapped */          case XVID_CSP_YV12: /* YCrCb == YVA == U and V plane swapped */
531                  yv12_to_yv12(image->y, image->v, image->u, edged_width, edged_width2,                  yv12_to_yv12(image->y, image->v, image->u, edged_width, edged_width2,
532                          src, src + src_stride*height, src + src_stride*height + (src_stride/2)*height2,                          src[0], src[0] + src_stride[0]*height, src[0] + src_stride[0]*height + (src_stride[0]/2)*height2,
533                          src_stride, src_stride/2, width, height, (csp & XVID_CSP_VFLIP));                          src_stride[0], src_stride[0]/2, width, height, (csp & XVID_CSP_VFLIP));
534                  break;                  break;
535    
536          case XVID_CSP_USER:          case XVID_CSP_PLANAR:  /* YCbCr with arbitrary pointers and different strides for Y and UV */
                 {  
                         DEC_PICTURE * pic = (DEC_PICTURE*)src;  
537                          yv12_to_yv12(image->y, image->u, image->v, edged_width, edged_width2,                          yv12_to_yv12(image->y, image->u, image->v, edged_width, edged_width2,
538                                  pic->y, pic->u, pic->v, pic->stride_y, pic->stride_y,                          src[0], src[1], src[2], src_stride[0], src_stride[1],  /* v: dst_stride[2] not yet supported */
539                                  width, height, (csp & XVID_CSP_VFLIP));                                  width, height, (csp & XVID_CSP_VFLIP));
                 }  
540                  break;                  break;
541    
542          case XVID_CSP_NULL:          case XVID_CSP_NULL:
# Line 759  Line 602 
602                           uint32_t width,                           uint32_t width,
603                           int height,                           int height,
604                           uint32_t edged_width,                           uint32_t edged_width,
605                           uint8_t * dst,                           uint8_t * dst[4],
606                           uint32_t dst_stride,                           int dst_stride[4],
607                           int csp,                           int csp,
608                           int interlacing)                           int interlacing)
609  {  {
# Line 773  Line 616 
616          image_dump_yuvpgm(image, edged_width, width, height, "\\decode.pgm");          image_dump_yuvpgm(image, edged_width, width, height, "\\decode.pgm");
617  */  */
618    
   
         // --- xvid 2.1 compatiblity patch ---  
         // --- remove when xvid_dec_frame->stride equals real stride  
         /*  
         if ((csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB555 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB565 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_YUY2 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_YVYU ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_UYVY)  
         {  
                 dst_stride *= 2;  
         }  
         else if ((csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB24)  
         {  
                 dst_stride *= 3;  
         }  
         else if ((csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGB32 ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_ABGR ||  
                 (csp & ~XVID_CSP_VFLIP) == XVID_CSP_RGBA)  
         {  
                 dst_stride *= 4;  
         }  
         */  
         // ^--- xvid 2.1 compatiblity fix ---^  
   
   
619          switch (csp & ~XVID_CSP_VFLIP) {          switch (csp & ~XVID_CSP_VFLIP) {
620          case XVID_CSP_RGB555:          case XVID_CSP_RGB555:
621                  safe_packed_conv(                  safe_packed_conv(
622                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
623                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
624                          interlacing?yv12_to_rgb555i  :yv12_to_rgb555,                          interlacing?yv12_to_rgb555i  :yv12_to_rgb555,
625                          interlacing?yv12_to_rgb555i_c:yv12_to_rgb555_c, 2);                          interlacing?yv12_to_rgb555i_c:yv12_to_rgb555_c, 2);
# Line 810  Line 627 
627    
628          case XVID_CSP_RGB565:          case XVID_CSP_RGB565:
629                  safe_packed_conv(                  safe_packed_conv(
630                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
631                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
632                          interlacing?yv12_to_rgb565i  :yv12_to_rgb565,                          interlacing?yv12_to_rgb565i  :yv12_to_rgb565,
633                          interlacing?yv12_to_rgb565i_c:yv12_to_rgb565_c, 2);                          interlacing?yv12_to_rgb565i_c:yv12_to_rgb565_c, 2);
634                  return 0;                  return 0;
635    
636          case XVID_CSP_RGB24:      case XVID_CSP_BGR:
637                  safe_packed_conv(                  safe_packed_conv(
638                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
639                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
640                          interlacing?yv12_to_bgri  :yv12_to_bgr,                          interlacing?yv12_to_bgri  :yv12_to_bgr,
641                          interlacing?yv12_to_bgri_c:yv12_to_bgr_c, 3);                          interlacing?yv12_to_bgri_c:yv12_to_bgr_c, 3);
642                  return 0;                  return 0;
643    
644          case XVID_CSP_RGB32:          case XVID_CSP_BGRA:
645                  safe_packed_conv(                  safe_packed_conv(
646                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
647                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
648                          interlacing?yv12_to_bgrai  :yv12_to_bgra,                          interlacing?yv12_to_bgrai  :yv12_to_bgra,
649                          interlacing?yv12_to_bgrai_c:yv12_to_bgra_c, 4);                          interlacing?yv12_to_bgrai_c:yv12_to_bgra_c, 4);
# Line 834  Line 651 
651    
652          case XVID_CSP_ABGR:          case XVID_CSP_ABGR:
653                  safe_packed_conv(                  safe_packed_conv(
654                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
655                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
656                          interlacing?yv12_to_abgri  :yv12_to_abgr,                          interlacing?yv12_to_abgri  :yv12_to_abgr,
657                          interlacing?yv12_to_abgri_c:yv12_to_abgr_c, 4);                          interlacing?yv12_to_abgri_c:yv12_to_abgr_c, 4);
658                  return 0;                  return 0;
659    
660            case XVID_CSP_RGB:
661                    safe_packed_conv(
662                            dst[0], dst_stride[0], image->y, image->u, image->v,
663                            edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
664                            interlacing?yv12_to_rgbi  :yv12_to_rgb,
665                            interlacing?yv12_to_rgbi_c:yv12_to_rgb_c, 3);
666                    return 0;
667    
668          case XVID_CSP_RGBA:          case XVID_CSP_RGBA:
669                  safe_packed_conv(                  safe_packed_conv(
670                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
671                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
672                          interlacing?yv12_to_rgbai  :yv12_to_rgba,                          interlacing?yv12_to_rgbai  :yv12_to_rgba,
673                          interlacing?yv12_to_rgbai_c:yv12_to_rgba_c, 4);                          interlacing?yv12_to_rgbai_c:yv12_to_rgba_c, 4);
674                  return 0;                  return 0;
675    
676            case XVID_CSP_ARGB:
677                    safe_packed_conv(
678                            dst[0], dst_stride[0], image->y, image->u, image->v,
679                            edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
680                            interlacing?yv12_to_argbi  :yv12_to_argb,
681                            interlacing?yv12_to_argbi_c:yv12_to_argb_c, 4);
682                    return 0;
683    
684          case XVID_CSP_YUY2:          case XVID_CSP_YUY2:
685                  safe_packed_conv(                  safe_packed_conv(
686                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
687                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
688                          interlacing?yv12_to_yuyvi  :yv12_to_yuyv,                          interlacing?yv12_to_yuyvi  :yv12_to_yuyv,
689                          interlacing?yv12_to_yuyvi_c:yv12_to_yuyv_c, 2);                          interlacing?yv12_to_yuyvi_c:yv12_to_yuyv_c, 2);
690                  return 0;                  return 0;
691    
692          case XVID_CSP_YVYU:             // u,v swapped          case XVID_CSP_YVYU:             /* u,v swapped */
693                  safe_packed_conv(                  safe_packed_conv(
694                          dst, dst_stride, image->y, image->v, image->u,                          dst[0], dst_stride[0], image->y, image->v, image->u,
695                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
696                          interlacing?yv12_to_yuyvi  :yv12_to_yuyv,                          interlacing?yv12_to_yuyvi  :yv12_to_yuyv,
697                          interlacing?yv12_to_yuyvi_c:yv12_to_yuyv_c, 2);                          interlacing?yv12_to_yuyvi_c:yv12_to_yuyv_c, 2);
# Line 866  Line 699 
699    
700          case XVID_CSP_UYVY:          case XVID_CSP_UYVY:
701                  safe_packed_conv(                  safe_packed_conv(
702                          dst, dst_stride, image->y, image->u, image->v,                          dst[0], dst_stride[0], image->y, image->u, image->v,
703                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),                          edged_width, edged_width2, width, height, (csp & XVID_CSP_VFLIP),
704                          interlacing?yv12_to_uyvyi  :yv12_to_uyvy,                          interlacing?yv12_to_uyvyi  :yv12_to_uyvy,
705                          interlacing?yv12_to_uyvyi_c:yv12_to_uyvy_c, 2);                          interlacing?yv12_to_uyvyi_c:yv12_to_uyvy_c, 2);
706                  return 0;                  return 0;
707    
708          case XVID_CSP_I420:          case XVID_CSP_I420: /* YCbCr == YUV == internal colorspace for MPEG */
709                  yv12_to_yv12(dst, dst + dst_stride*height, dst + dst_stride*height + (dst_stride/2)*height2,                  yv12_to_yv12(dst[0], dst[0] + dst_stride[0]*height, dst[0] + dst_stride[0]*height + (dst_stride[0]/2)*height2,
710                          dst_stride, dst_stride/2,                          dst_stride[0], dst_stride[0]/2,
711                          image->y, image->u, image->v, edged_width, edged_width2,                          image->y, image->u, image->v, edged_width, edged_width2,
712                          width, height, (csp & XVID_CSP_VFLIP));                          width, height, (csp & XVID_CSP_VFLIP));
713                  return 0;                  return 0;
714    
715          case XVID_CSP_YV12:             // u,v swapped          case XVID_CSP_YV12:     /* YCrCb == YVU == U and V plane swapped */
716                  yv12_to_yv12(dst, dst + dst_stride*height, dst + dst_stride*height + (dst_stride/2)*height2,                  yv12_to_yv12(dst[0], dst[0] + dst_stride[0]*height, dst[0] + dst_stride[0]*height + (dst_stride[0]/2)*height2,
717                          dst_stride, dst_stride/2,                          dst_stride[0], dst_stride[0]/2,
718                          image->y, image->v, image->u, edged_width, edged_width2,                          image->y, image->v, image->u, edged_width, edged_width2,
719                          width, height, (csp & XVID_CSP_VFLIP));                          width, height, (csp & XVID_CSP_VFLIP));
720                  return 0;                  return 0;
721    
722          case XVID_CSP_USER:          case XVID_CSP_PLANAR:  /* YCbCr with arbitrary pointers and different strides for Y and UV */
723                  {                  yv12_to_yv12(dst[0], dst[1], dst[2],
724                          DEC_PICTURE * pic = (DEC_PICTURE*)dst;                          dst_stride[0], dst_stride[1],   /* v: dst_stride[2] not yet supported */
725                          pic->y = image->y;                          image->y, image->u, image->v, edged_width, edged_width2,
726                          pic->u = image->u;                          width, height, (csp & XVID_CSP_VFLIP));
727                          pic->v = image->v;                  return 0;
728                          pic->stride_y = edged_width;  
729                          pic->stride_uv = edged_width / 2;          case XVID_CSP_INTERNAL :
730                  }                  dst[0] = image->y;
731                    dst[1] = image->u;
732                    dst[2] = image->v;
733                    dst_stride[0] = edged_width;
734                    dst_stride[1] = edged_width/2;
735                    dst_stride[2] = edged_width/2;
736                  return 0;                  return 0;
737    
738          case XVID_CSP_NULL:          case XVID_CSP_NULL:
739          case XVID_CSP_EXTERN:          case XVID_CSP_SLICE:
740                  return 0;                  return 0;
741    
742          }          }
# Line 944  Line 782 
782          if (sse==0)          if (sse==0)
783                  return 99.99F;                  return 99.99F;
784    
785          return 48.131F - 10*(float)log10((float)sse/(float)(pixels));   // log10(255*255)=4.8131          return 48.131F - 10*(float)log10((float)sse/(float)(pixels));   /* log10(255*255)=4.8131 */
786    
787  }  }
788    
# Line 954  Line 792 
792                     uint16_t width,                     uint16_t width,
793                     uint16_t height)                     uint16_t height)
794  {  {
795          int diff, x, y;          int y, bwidth, bheight;
796          long sse=0;          long sse=0;
797    
798          for (y = 0; y < height; y++) {          bwidth  = width  & (~0x07);
799            bheight = height & (~0x07);
800    
801            /* Compute the 8x8 integer part */
802            for (y = 0; y<bheight; y += 8) {
803                    int x;
804    
805                    /* Compute sse for the band */
806                    for (x = 0; x<bwidth; x += 8)
807                            sse += sse8_8bit(orig  + x, recon + x, stride);
808    
809                    /* remaining pixels of the 8 pixels high band */
810                    for (x = bwidth; x < width; x++) {
811                            int diff;
812                            diff = *(orig + 0*stride + x) - *(recon + 0*stride + x);
813                            sse += diff * diff;
814                            diff = *(orig + 1*stride + x) - *(recon + 1*stride + x);
815                            sse += diff * diff;
816                            diff = *(orig + 2*stride + x) - *(recon + 2*stride + x);
817                            sse += diff * diff;
818                            diff = *(orig + 3*stride + x) - *(recon + 3*stride + x);
819                            sse += diff * diff;
820                            diff = *(orig + 4*stride + x) - *(recon + 4*stride + x);
821                            sse += diff * diff;
822                            diff = *(orig + 5*stride + x) - *(recon + 5*stride + x);
823                            sse += diff * diff;
824                            diff = *(orig + 6*stride + x) - *(recon + 6*stride + x);
825                            sse += diff * diff;
826                            diff = *(orig + 7*stride + x) - *(recon + 7*stride + x);
827                            sse += diff * diff;
828                    }
829    
830                    orig  += 8*stride;
831                    recon += 8*stride;
832            }
833    
834            /* Compute the down rectangle sse */
835            for (y = bheight; y < height; y++) {
836                    int x;
837                  for (x = 0; x < width; x++) {                  for (x = 0; x < width; x++) {
838                            int diff;
839                          diff = *(orig + x) - *(recon + x);                          diff = *(orig + x) - *(recon + x);
840                          sse += diff * diff;                          sse += diff * diff;
841                  }                  }
842                  orig += stride;                  orig += stride;
843                  recon += stride;                  recon += stride;
844          }          }
845          return sse;  
846            return (sse);
847  }  }
848    
849  /*  #if 0
850    
851  #include <stdio.h>  #include <stdio.h>
852  #include <string.h>  #include <string.h>
# Line 992  Line 870 
870  }  }
871    
872    
873  // dump image+edges to yuv pgm files  /* dump image+edges to yuv pgm files */
874    
875  int image_dump(IMAGE * image, uint32_t edged_width, uint32_t edged_height, char * path, int number)  int image_dump(IMAGE * image, uint32_t edged_width, uint32_t edged_height, char * path, int number)
876  {  {
# Line 1015  Line 893 
893    
894          return 0;          return 0;
895  }  }
896  */  #endif
897    
898    
899    
# Line 1080  Line 958 
958    
959          for (y = 0; y < height; y++)          for (y = 0; y < height; y++)
960                  for (x = 0; x < width; x++)                  for (x = 0; x < width; x++)
961                          sum += ABS(img1->y[x + y * stride] - img2->y[x + y * stride]);                          sum += abs(img1->y[x + y * stride] - img2->y[x + y * stride]);
962    
963          for (y = 0; y < height2; y++)          for (y = 0; y < height2; y++)
964                  for (x = 0; x < width2; x++)                  for (x = 0; x < width2; x++)
965                          sum += ABS(img1->u[x + y * stride2] - img2->u[x + y * stride2]);                          sum += abs(img1->u[x + y * stride2] - img2->u[x + y * stride2]);
966    
967          for (y = 0; y < height2; y++)          for (y = 0; y < height2; y++)
968                  for (x = 0; x < width2; x++)                  for (x = 0; x < width2; x++)
969                          sum += ABS(img1->v[x + y * stride2] - img2->v[x + y * stride2]);                          sum += abs(img1->v[x + y * stride2] - img2->v[x + y * stride2]);
970    
971          return (float) sum / (width * height * 3 / 2);          return (float) sum / (width * height * 3 / 2);
972  }  }
973    
974  void  void
975  output_slice(IMAGE * cur, int std, int width, XVID_DEC_PICTURE* out_frm, int mbx, int mby,int mbl) {  output_slice(IMAGE * cur, int stride, int width, xvid_image_t* out_frm, int mbx, int mby,int mbl) {
976    uint8_t *dY,*dU,*dV,*sY,*sU,*sV;    uint8_t *dY,*dU,*dV,*sY,*sU,*sV;
977    int std2 = std >> 1;    int stride2 = stride >> 1;
978    int w = mbl << 4, w2,i;    int w = mbl << 4, w2,i;
979    
980    if(w > width)    if(w > width)
981      w = width;      w = width;
982    w2 = w >> 1;    w2 = w >> 1;
983    
984    dY = (uint8_t*)out_frm->y + (mby << 4) * out_frm->stride_y + (mbx << 4);    dY = (uint8_t*)out_frm->plane[0] + (mby << 4) * out_frm->stride[0] + (mbx << 4);
985    dU = (uint8_t*)out_frm->u + (mby << 3) * out_frm->stride_u + (mbx << 3);    dU = (uint8_t*)out_frm->plane[1] + (mby << 3) * out_frm->stride[1] + (mbx << 3);
986    dV = (uint8_t*)out_frm->v + (mby << 3) * out_frm->stride_v + (mbx << 3);    dV = (uint8_t*)out_frm->plane[2] + (mby << 3) * out_frm->stride[2] + (mbx << 3);
987    sY = cur->y + (mby << 4) * std + (mbx << 4);    sY = cur->y + (mby << 4) * stride + (mbx << 4);
988    sU = cur->u + (mby << 3) * std2 + (mbx << 3);    sU = cur->u + (mby << 3) * stride2 + (mbx << 3);
989    sV = cur->v + (mby << 3) * std2 + (mbx << 3);    sV = cur->v + (mby << 3) * stride2 + (mbx << 3);
990    
991    for(i = 0 ; i < 16 ; i++) {    for(i = 0 ; i < 16 ; i++) {
992      memcpy(dY,sY,w);      memcpy(dY,sY,w);
993      dY += out_frm->stride_y;      dY += out_frm->stride[0];
994      sY += std;      sY += stride;
995    }    }
996    for(i = 0 ; i < 8 ; i++) {    for(i = 0 ; i < 8 ; i++) {
997      memcpy(dU,sU,w2);      memcpy(dU,sU,w2);
998      dU += out_frm->stride_u;      dU += out_frm->stride[1];
999      sU += std2;      sU += stride2;
1000    }    }
1001    for(i = 0 ; i < 8 ; i++) {    for(i = 0 ; i < 8 ; i++) {
1002      memcpy(dV,sV,w2);      memcpy(dV,sV,w2);
1003      dV += out_frm->stride_v;      dV += out_frm->stride[2];
1004      sV += std2;      sV += stride2;
1005    }    }
1006  }  }
1007    
# Line 1154  Line 1032 
1032          }          }
1033  }  }
1034    
1035    /****************************************************************************/
1036    
1037  /* reduced resolution deblocking filter  static void (*deintl_core)(uint8_t *, int width, int height, const int stride) = 0;
1038          block = block size (16=rrv, 8=full resolution)  extern void xvid_deinterlace_sse(uint8_t *, int width, int height, const int stride);
         flags = XVID_DEC_YDEBLOCK|XVID_DEC_UVDEBLOCK  
 */  
 void  
 image_deblock_rrv(IMAGE * img, int edged_width,  
                                 const MACROBLOCK * mbs, int mb_width, int mb_height, int mb_stride,  
                                 int block, int flags)  
 {  
         const int edged_width2 = edged_width /2;  
         const int nblocks = block / 8;  /* skals code uses 8pixel block uints */  
         int i,j;  
1039    
1040          /* luma: j,i in block units */  #define CLIP_255(x)   ( ((x)&~255) ? ((-(x)) >> (8*sizeof((x))-1))&0xff : (x) )
         if ((flags & XVID_DEC_DEBLOCKY))  
         {  
                 for (j = 1; j < mb_height*2; j++)               /* horizontal deblocking */  
                 for (i = 0; i < mb_width*2; i++)  
                 {  
                         if (mbs[(j-1)/2*mb_stride + (i/2)].mode != MODE_NOT_CODED ||  
                                 mbs[(j+0)/2*mb_stride + (i/2)].mode != MODE_NOT_CODED)  
                         {  
                                 hfilter_31(img->y + (j*block - 1)*edged_width + i*block,  
                                                                   img->y + (j*block + 0)*edged_width + i*block, nblocks);  
                         }  
                 }  
1041    
1042                  for (j = 0; j < mb_height*2; j++)               /* vertical deblocking */  static void deinterlace_c(uint8_t *pix, int width, int height, const int bps)
                 for (i = 1; i < mb_width*2; i++)  
1043                  {                  {
1044                          if (mbs[(j/2)*mb_stride + (i-1)/2].mode != MODE_NOT_CODED ||    pix += bps;
1045                                  mbs[(j/2)*mb_stride + (i+0)/2].mode != MODE_NOT_CODED)    while(width-->0)
1046                          {                          {
1047                                  vfilter_31(img->y + (j*block)*edged_width + i*block - 1,      int p1 = pix[-bps];
1048                                                     img->y + (j*block)*edged_width + i*block + 0,      int p2 = pix[0];
1049                                                     edged_width, nblocks);      int p0 = p2;
1050        int j = (height>>1) - 1;
1051        int V;
1052        unsigned char *P = pix++;
1053        while(j-->0)
1054        {
1055          const int  p3 = P[  bps];
1056          const int  p4 = P[2*bps];
1057          V =  ((p1+p3+1)>>1) + ((p2 - ((p0+p4+1)>>1)) >> 2);
1058          P[0] = CLIP_255( V );
1059          p0 = p2;
1060          p1 = p3;
1061          p2 = p4;
1062          P += 2*bps;
1063                          }                          }
1064        V =  ((p1+p1+1)>>1) + ((p2 - ((p0+p2+1)>>1)) >> 2);
1065        P[0] = CLIP_255( V );
1066                  }                  }
1067          }          }
1068    #undef CLIP_255
1069    
1070    int xvid_image_deinterlace(xvid_image_t* img, int width, int height, int bottom_first)
         /* chroma */  
         if ((flags & XVID_DEC_DEBLOCKUV))  
1071          {          {
1072                  for (j = 1; j < mb_height; j++)         /* horizontal deblocking */          if (height&1)
1073                  for (i = 0; i < mb_width; i++)                  return 0;
1074                  {          if (img->csp!=XVID_CSP_PLANAR && img->csp!=XVID_CSP_I420 && img->csp!=XVID_CSP_YV12)
1075                          if (mbs[(j-1)*mb_stride + i].mode != MODE_NOT_CODED ||                  return 0;       /* not yet supported */
1076                                  mbs[(j+0)*mb_stride + i].mode != MODE_NOT_CODED)          if (deintl_core==0) {
1077                          {                  deintl_core = deinterlace_c;
1078                                  hfilter_31(img->u + (j*block - 1)*edged_width2 + i*block,  #if defined(ARCH_IS_IA32) || defined(ARCH_IS_X86_64)
1079                                                     img->u + (j*block + 0)*edged_width2 + i*block, nblocks);                  {
1080                                  hfilter_31(img->v + (j*block - 1)*edged_width2 + i*block,                          int cpu_flags = check_cpu_features();
1081                                                     img->v + (j*block + 0)*edged_width2 + i*block, nblocks);                          if (cpu_flags & XVID_CPU_MMX)
1082                          }                                  deintl_core = xvid_deinterlace_sse;
1083                  }                  }
1084    #endif
                 for (j = 0; j < mb_height; j++)         /* vertical deblocking */  
                 for (i = 1; i < mb_width; i++)  
                 {  
                         if (mbs[j*mb_stride + i - 1].mode != MODE_NOT_CODED ||  
                                 mbs[j*mb_stride + i + 0].mode != MODE_NOT_CODED)  
                         {  
                                 vfilter_31(img->u + (j*block)*edged_width2 + i*block - 1,  
                                                    img->u + (j*block)*edged_width2 + i*block + 0,  
                                                    edged_width2, nblocks);  
                                 vfilter_31(img->v + (j*block)*edged_width2 + i*block - 1,  
                                                    img->v + (j*block)*edged_width2 + i*block + 0,  
                                                    edged_width2, nblocks);  
1085                          }                          }
1086            if (!bottom_first) {
1087                    deintl_core(img->plane[0], width,    height,    img->stride[0]);
1088                    deintl_core(img->plane[1], width>>1, height>>1, img->stride[1]);
1089                    deintl_core(img->plane[2], width>>1, height>>1, img->stride[2]);
1090                  }                  }
1091            else {
1092                    deintl_core((uint8_t *)img->plane[0] + ( height    -1)*img->stride[0], width,    height,    -img->stride[0]);
1093                    deintl_core((uint8_t *)img->plane[1] + ((height>>1)-1)*img->stride[1], width>>1, height>>1, -img->stride[1]);
1094                    deintl_core((uint8_t *)img->plane[2] + ((height>>1)-1)*img->stride[2], width>>1, height>>1, -img->stride[2]);
1095          }          }
1096            emms();
1097    
1098            return 1;
1099  }  }
1100    
Legend:
Removed from v.851  
changed lines
  Added in v.1795
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4