[svn] / branches / dev-api-3 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-3/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 128 - (view) (download)
Original Path: trunk/xvidcore/src/encoder.c

1 : suxen_drol 118 // 14.04.2002 added FrameCodeB()
2 :    
3 : Isibaar 3 #include <stdlib.h>
4 :     #include <stdio.h>
5 :     #include <math.h>
6 :    
7 :     #include "encoder.h"
8 :     #include "prediction/mbprediction.h"
9 :     #include "global.h"
10 :     #include "utils/timer.h"
11 :     #include "image/image.h"
12 :     #include "bitstream/cbp.h"
13 :     #include "utils/mbfunctions.h"
14 :     #include "bitstream/bitstream.h"
15 :     #include "bitstream/mbcoding.h"
16 :     #include "utils/ratecontrol.h"
17 :     #include "utils/emms.h"
18 :     #include "bitstream/mbcoding.h"
19 :     #include "quant/adapt_quant.h"
20 : Isibaar 4 #include "quant/quant_matrix.h"
21 : Isibaar 41 #include "utils/mem_align.h"
22 : Isibaar 3
23 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
24 :    
25 :    
26 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
27 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
28 :    
29 :     static int DQtab[4] =
30 :     {
31 :     -1, -2, 1, 2
32 :     };
33 :    
34 :     static int iDQtab[5] =
35 :     {
36 :     1, 0, NO_CHANGE, 2, 3
37 :     };
38 :    
39 :    
40 :     int encoder_create(XVID_ENC_PARAM * pParam)
41 :     {
42 : edgomez 13 Encoder *pEnc;
43 : Isibaar 3 uint32_t i;
44 :    
45 : edgomez 13 pParam->handle = NULL;
46 : Isibaar 3
47 : edgomez 13 ENC_CHECK(pParam);
48 : Isibaar 3
49 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
50 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
51 :     ENC_CHECK(!(pParam->width % 2));
52 :     ENC_CHECK(!(pParam->height % 2));
53 : Isibaar 3
54 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
55 :     {
56 :     pParam->fincr = 1;
57 :     pParam->fbase = 25;
58 :     }
59 :    
60 :     // simplify the "fincr/fbase" fraction
61 :     // (neccessary, since windows supplies us with huge numbers)
62 :    
63 :     i = pParam->fincr;
64 :     while (i > 1)
65 :     {
66 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
67 :     {
68 :     pParam->fincr /= i;
69 :     pParam->fbase /= i;
70 :     i = pParam->fincr;
71 :     continue;
72 :     }
73 :     i--;
74 :     }
75 :    
76 :     if (pParam->fbase > 65535)
77 :     {
78 :     float div = (float)pParam->fbase / 65535;
79 :     pParam->fbase = (int)(pParam->fbase / div);
80 :     pParam->fincr = (int)(pParam->fincr / div);
81 :     }
82 :    
83 : h 121 if (pParam->rc_bitrate <= 0)
84 :     pParam->rc_bitrate = 900000;
85 : Isibaar 3
86 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
87 :     pParam->rc_reaction_delay_factor = 16;
88 : Isibaar 3
89 : h 121 if (pParam->rc_averaging_period <= 0)
90 :     pParam->rc_averaging_period = 100;
91 :    
92 :     if (pParam->rc_buffer <= 0)
93 :     pParam->rc_buffer = 100;
94 :    
95 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
96 : Isibaar 3 pParam->min_quantizer = 1;
97 :    
98 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
99 : Isibaar 3 pParam->max_quantizer = 31;
100 :    
101 : edgomez 13 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
102 : Isibaar 3 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
103 :    
104 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
105 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
106 :    
107 : canard 66 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
108 : Isibaar 3 return XVID_ERR_MEMORY;
109 :    
110 :     /* Fill members of Encoder structure */
111 :    
112 : edgomez 13 pEnc->mbParam.width = pParam->width;
113 :     pEnc->mbParam.height = pParam->height;
114 : Isibaar 3
115 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
116 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
117 :    
118 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
119 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
120 :    
121 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
122 : Isibaar 3
123 :     /* Fill rate control parameters */
124 :    
125 : edgomez 13 pEnc->mbParam.quant = 4;
126 : Isibaar 3
127 : h 121 pEnc->bitrate = pParam->rc_bitrate;
128 : Isibaar 3
129 : edgomez 13 pEnc->iFrameNum = 0;
130 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
131 : Isibaar 3
132 : h 86 /* try to allocate memory */
133 : Isibaar 3
134 : h 86 pEnc->sCurrent.y = pEnc->sCurrent.u = pEnc->sCurrent.v = NULL;
135 :     pEnc->sReference.y = pEnc->sReference.u = pEnc->sReference.v = NULL;
136 :     pEnc->vInterH.y = pEnc->vInterH.u = pEnc->vInterH.v = NULL;
137 :     pEnc->vInterV.y = pEnc->vInterV.u = pEnc->vInterV.v = NULL;
138 :     pEnc->vInterVf.y = pEnc->vInterVf.u = pEnc->vInterVf.v = NULL;
139 :     pEnc->vInterHV.y = pEnc->vInterHV.u = pEnc->vInterHV.v = NULL;
140 :     pEnc->vInterHVf.y = pEnc->vInterHVf.u = pEnc->vInterHVf.v = NULL;
141 : Isibaar 3
142 : h 86 pEnc->pMBs = NULL;
143 : Isibaar 3
144 : h 86 if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
145 :     image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
146 :     image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
147 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
148 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
149 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
150 :     image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
151 : Isibaar 113 #ifdef _DEBUG
152 :     image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
153 :     #endif
154 : h 86 (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
155 : edgomez 13 {
156 : Isibaar 3 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
157 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
158 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
159 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
160 : h 86 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
161 : Isibaar 3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
162 : h 86 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
163 : Isibaar 113 #ifdef _DEBUG
164 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
165 :     #endif
166 : h 86 if (pEnc)
167 :     {
168 :     xvid_free(pEnc);
169 :     }
170 : Isibaar 3 return XVID_ERR_MEMORY;
171 :     }
172 :    
173 :     // init macroblock array
174 :     for (i = 0; i < pEnc->mbParam.mb_width * pEnc->mbParam.mb_height; i++)
175 :     {
176 :     pEnc->pMBs[i].dquant = NO_CHANGE;
177 :     }
178 :    
179 : edgomez 13 pParam->handle = (void *)pEnc;
180 : Isibaar 3
181 : h 121 if (pParam->rc_bitrate)
182 : Isibaar 3 {
183 : h 121 RateControlInit(pParam->rc_bitrate, pParam->rc_reaction_delay_factor,
184 :     pParam->rc_averaging_period, pParam->rc_buffer, pParam->fbase * 1000 / pParam->fincr,
185 :     pParam->max_quantizer, pParam->min_quantizer);
186 : Isibaar 3 }
187 :    
188 : Isibaar 36 init_timer();
189 : Isibaar 3
190 :     return XVID_ERR_OK;
191 :     }
192 :    
193 :    
194 :     int encoder_destroy(Encoder * pEnc)
195 :     {
196 : edgomez 13 ENC_CHECK(pEnc);
197 :     ENC_CHECK(pEnc->sCurrent.y);
198 :     ENC_CHECK(pEnc->sReference.y);
199 : Isibaar 3
200 : Isibaar 41 xvid_free(pEnc->pMBs);
201 : edgomez 13 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
202 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
203 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
204 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
205 : h 87 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
206 : edgomez 13 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
207 : h 87 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
208 : Isibaar 113 #ifdef _DEBUG
209 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
210 :     #endif
211 : Isibaar 41 xvid_free(pEnc);
212 : Isibaar 3
213 : edgomez 13 return XVID_ERR_OK;
214 : Isibaar 3 }
215 :    
216 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
217 :     {
218 : edgomez 13 uint16_t x, y;
219 :     Bitstream bs;
220 :     uint32_t bits;
221 : Isibaar 4 uint16_t write_vol_header = 0;
222 : Isibaar 113 #ifdef _DEBUG
223 :     float psnr;
224 :     uint8_t temp[100];
225 :     #endif
226 : Isibaar 3
227 :     start_global_timer();
228 :    
229 : edgomez 13 ENC_CHECK(pEnc);
230 :     ENC_CHECK(pFrame);
231 :     ENC_CHECK(pFrame->bitstream);
232 :     ENC_CHECK(pFrame->image);
233 : Isibaar 3
234 :     pEnc->mbParam.global_flags = pFrame->general;
235 :     pEnc->mbParam.motion_flags = pFrame->motion;
236 : h 101 pEnc->mbParam.hint = &pFrame->hint;
237 : Isibaar 3
238 :     start_timer();
239 :     if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
240 : edgomez 13 pFrame->image, pFrame->colorspace))
241 : Isibaar 3 {
242 :     return XVID_ERR_FORMAT;
243 :     }
244 :     stop_conv_timer();
245 :    
246 : Isibaar 41 EMMS();
247 :    
248 : Isibaar 113 #ifdef _DEBUG
249 :     image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);
250 :     #endif
251 :    
252 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
253 : Isibaar 3
254 :     if (pFrame->quant == 0)
255 :     {
256 :     pEnc->mbParam.quant = RateControlGetQ(0);
257 :     }
258 :     else
259 :     {
260 :     pEnc->mbParam.quant = pFrame->quant;
261 :     }
262 :    
263 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
264 :     {
265 : canard 66 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
266 : Isibaar 3
267 : edgomez 78 pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
268 :     pEnc->mbParam.width,
269 :     temp_dquants,
270 : h 84 pEnc->mbParam.quant,
271 :     pEnc->mbParam.quant,
272 :     2*pEnc->mbParam.quant,
273 : edgomez 78 pEnc->mbParam.mb_width,
274 :     pEnc->mbParam.mb_height);
275 : Isibaar 3
276 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
277 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
278 :     {
279 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
280 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
281 :     }
282 : Isibaar 41 xvid_free(temp_dquants);
283 : Isibaar 3 }
284 :    
285 : Isibaar 20 if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
286 :     if(pEnc->mbParam.quant_type != H263_QUANT)
287 :     write_vol_header = 1;
288 :     pEnc->mbParam.quant_type = H263_QUANT;
289 : Isibaar 3 }
290 : Isibaar 20 else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
291 :     int ret1, ret2;
292 : Isibaar 3
293 : edgomez 78 ret1 = ret2 = 0;
294 :    
295 : Isibaar 20 if(pEnc->mbParam.quant_type != MPEG4_QUANT)
296 :     write_vol_header = 1;
297 :    
298 :     pEnc->mbParam.quant_type = MPEG4_QUANT;
299 :    
300 :     if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
301 :     if(pFrame->quant_intra_matrix != NULL)
302 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
303 :     if(pFrame->quant_inter_matrix != NULL)
304 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
305 :     }
306 :     else {
307 :     ret1 = set_intra_matrix(get_default_intra_matrix());
308 :     ret2 = set_inter_matrix(get_default_inter_matrix());
309 :     }
310 : Isibaar 4 if(write_vol_header == 0)
311 :     write_vol_header = ret1 | ret2;
312 :     }
313 : Isibaar 3
314 :     if (pFrame->intra < 0)
315 : edgomez 13 {
316 : Isibaar 3 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
317 : edgomez 13 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
318 : Isibaar 3
319 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
320 :     else
321 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
322 : edgomez 13 }
323 :     else
324 :     {
325 : Isibaar 3 if (pFrame->intra == 1)
326 : edgomez 13 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
327 : Isibaar 3 else
328 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
329 : edgomez 13 }
330 : Isibaar 3
331 :     BitstreamPutBits(&bs, 0xFFFF, 16);
332 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
333 :     BitstreamPad(&bs);
334 :     pFrame->length = BitstreamLength(&bs);
335 : h 29
336 : Isibaar 3 if (pResult)
337 : edgomez 13 {
338 : Isibaar 3 pResult->quant = pEnc->mbParam.quant;
339 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
340 :     pResult->kblks = pEnc->sStat.kblks;
341 :     pResult->mblks = pEnc->sStat.mblks;
342 :     pResult->ublks = pEnc->sStat.ublks;
343 : edgomez 13 }
344 : Isibaar 3
345 : Isibaar 41 EMMS();
346 :    
347 : h 29 if (pFrame->quant == 0)
348 : Isibaar 3 {
349 :     RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
350 :     }
351 :    
352 : Isibaar 113 #ifdef _DEBUG
353 :     psnr = image_psnr(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width,
354 :     pEnc->mbParam.width, pEnc->mbParam.height);
355 :    
356 :     sprintf(temp, "PSNR: %f\n", psnr);
357 :     DEBUG(temp);
358 :     #endif
359 :    
360 : Isibaar 3 pEnc->iFrameNum++;
361 : edgomez 13 image_swap(&pEnc->sCurrent, &pEnc->sReference);
362 : Isibaar 3
363 :     stop_global_timer();
364 :     write_timer();
365 :    
366 :     return XVID_ERR_OK;
367 :     }
368 :    
369 :    
370 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
371 :    
372 :     pMB->mode = MODE_INTRA;
373 :    
374 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
375 :     if(pMB->dquant != NO_CHANGE)
376 :     {
377 :     pMB->mode = MODE_INTRA_Q;
378 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
379 :    
380 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
381 :     if (pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
382 :     }
383 :     }
384 :    
385 :     pMB->quant = pEnc->mbParam.quant;
386 :     }
387 :    
388 :    
389 : h 101 #define FCODEBITS 3
390 :     #define MODEBITS 5
391 :    
392 :     void HintedMESet(Encoder * pEnc, int * intra)
393 :     {
394 :     HINTINFO * hint;
395 :     Bitstream bs;
396 :     int length, high;
397 :     uint32_t x, y;
398 :    
399 :     hint = pEnc->mbParam.hint;
400 :    
401 :     if (hint->rawhints)
402 :     {
403 :     *intra = hint->mvhint.intra;
404 :     }
405 :     else
406 :     {
407 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
408 :     *intra = BitstreamGetBit(&bs);
409 :     }
410 :    
411 :     if (*intra)
412 :     {
413 :     return;
414 :     }
415 :    
416 :     pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
417 :    
418 :     length = pEnc->mbParam.fixed_code + 5;
419 :     high = 1 << (length - 1);
420 :    
421 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
422 :     {
423 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
424 :     {
425 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
426 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
427 :     VECTOR pred[4];
428 :     VECTOR tmp;
429 :     int dummy[4];
430 :     int vec;
431 :    
432 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
433 :    
434 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
435 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
436 :    
437 :     if (pMB->mode == MODE_INTER)
438 : h 101 {
439 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
440 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
441 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
442 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
443 :    
444 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
445 :    
446 :     for (vec=0 ; vec<4 ; ++vec)
447 :     {
448 :     pMB->mvs[vec].x = tmp.x;
449 :     pMB->mvs[vec].y = tmp.y;
450 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
451 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
452 :     }
453 :     }
454 :     else if (pMB->mode == MODE_INTER4V)
455 :     {
456 :     for (vec=0 ; vec<4 ; ++vec)
457 :     {
458 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
459 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
460 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
461 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
462 :    
463 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
464 :    
465 :     pMB->mvs[vec].x = tmp.x;
466 :     pMB->mvs[vec].y = tmp.y;
467 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
468 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
469 :     }
470 :     }
471 : h 128 else // intra / stuffing / not_coded
472 : h 101 {
473 :     for (vec=0 ; vec<4 ; ++vec)
474 :     {
475 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
476 :     }
477 :     }
478 : h 128
479 :     if (pMB->dquant != NO_CHANGE && pMB->mode == MODE_INTER4V)
480 :     {
481 :     pMB->mode = MODE_INTRA;
482 :    
483 :     for (vec=0 ; vec<4 ; ++vec)
484 :     {
485 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
486 :     }
487 :     }
488 : h 101 }
489 :     }
490 :     }
491 :    
492 :    
493 :     void HintedMEGet(Encoder * pEnc, int intra)
494 :     {
495 :     HINTINFO * hint;
496 :     Bitstream bs;
497 :     uint32_t x, y;
498 :     int length, high;
499 :    
500 :     hint = pEnc->mbParam.hint;
501 :    
502 :     if (hint->rawhints)
503 :     {
504 :     hint->mvhint.intra = intra;
505 :     }
506 :     else
507 :     {
508 :     BitstreamInit(&bs, hint->hintstream, 0);
509 :     BitstreamPutBit(&bs, intra);
510 :     }
511 :    
512 :     if (intra)
513 :     {
514 :     if (!hint->rawhints)
515 :     {
516 :     BitstreamPad(&bs);
517 :     hint->hintlength = BitstreamLength(&bs);
518 :     }
519 :     return;
520 :     }
521 :    
522 :     length = pEnc->mbParam.fixed_code + 5;
523 :     high = 1 << (length - 1);
524 :    
525 :     if (hint->rawhints)
526 :     {
527 :     hint->mvhint.fcode = pEnc->mbParam.fixed_code;
528 :     }
529 :     else
530 :     {
531 :     BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
532 :     }
533 :    
534 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
535 :     {
536 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
537 :     {
538 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
539 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
540 :     VECTOR tmp;
541 :    
542 :     if (hint->rawhints)
543 :     {
544 :     bhint->mode = pMB->mode;
545 :     }
546 :     else
547 :     {
548 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
549 :     }
550 :    
551 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
552 :     {
553 :     tmp.x = pMB->mvs[0].x;
554 :     tmp.y = pMB->mvs[0].y;
555 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
556 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
557 :    
558 :     if (hint->rawhints)
559 :     {
560 :     bhint->mvs[0].x = tmp.x;
561 :     bhint->mvs[0].y = tmp.y;
562 :     }
563 :     else
564 :     {
565 :     BitstreamPutBits(&bs, tmp.x, length);
566 :     BitstreamPutBits(&bs, tmp.y, length);
567 :     }
568 :     }
569 :     else if (pMB->mode == MODE_INTER4V)
570 :     {
571 :     int vec;
572 :    
573 :     for (vec=0 ; vec<4 ; ++vec)
574 :     {
575 :     tmp.x = pMB->mvs[vec].x;
576 :     tmp.y = pMB->mvs[vec].y;
577 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
578 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
579 :    
580 :     if (hint->rawhints)
581 :     {
582 :     bhint->mvs[vec].x = tmp.x;
583 :     bhint->mvs[vec].y = tmp.y;
584 :     }
585 :     else
586 :     {
587 :     BitstreamPutBits(&bs, tmp.x, length);
588 :     BitstreamPutBits(&bs, tmp.y, length);
589 :     }
590 :     }
591 :     }
592 :     }
593 :     }
594 :    
595 :     if (!hint->rawhints)
596 :     {
597 :     BitstreamPad(&bs);
598 :     hint->hintlength = BitstreamLength(&bs);
599 :     }
600 :     }
601 :    
602 :    
603 : h 104 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
604 :     {
605 :    
606 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
607 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
608 :    
609 :     uint16_t x, y;
610 :    
611 :     pEnc->iFrameNum = 0;
612 :     pEnc->mbParam.rounding_type = 1;
613 :     pEnc->mbParam.coding_type = I_VOP;
614 :    
615 :     BitstreamWriteVolHeader(bs, &pEnc->mbParam);
616 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam);
617 :    
618 :     *pBits = BitstreamPos(bs);
619 :    
620 :     pEnc->sStat.iTextBits = 0;
621 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
622 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
623 :    
624 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
625 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
626 :     {
627 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
628 :    
629 :     CodeIntraMB(pEnc, pMB);
630 :    
631 :     MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
632 :    
633 :     start_timer();
634 :     MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
635 :     stop_prediction_timer();
636 :    
637 :     start_timer();
638 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
639 :     stop_coding_timer();
640 :     }
641 :    
642 :     emms();
643 :    
644 :     *pBits = BitstreamPos(bs) - *pBits;
645 :     pEnc->sStat.fMvPrevSigma = -1;
646 :     pEnc->sStat.iMvSum = 0;
647 :     pEnc->sStat.iMvCount = 0;
648 :     pEnc->mbParam.fixed_code = 2;
649 :    
650 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
651 :     {
652 :     HintedMEGet(pEnc, 1);
653 :     }
654 :    
655 :     return 1; // intra
656 :     }
657 :    
658 :    
659 : Isibaar 3 #define INTRA_THRESHOLD 0.5
660 :    
661 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
662 :     {
663 : edgomez 13 float fSigma;
664 : Isibaar 42
665 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
666 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
667 :    
668 : Isibaar 3 int iLimit;
669 : edgomez 13 uint32_t x, y;
670 :     int iSearchRange;
671 : Isibaar 3 bool bIntra;
672 :    
673 : edgomez 13 IMAGE *pCurrent = &pEnc->sCurrent;
674 :     IMAGE *pRef = &pEnc->sReference;
675 : Isibaar 3
676 : h 69 start_timer();
677 : edgomez 78 image_setedges(pRef,
678 : h 85 pEnc->mbParam.edged_width,
679 :     pEnc->mbParam.edged_height,
680 :     pEnc->mbParam.width,
681 :     pEnc->mbParam.height,
682 :     pEnc->mbParam.global_flags & XVID_INTERLACING);
683 : h 69 stop_edges_timer();
684 : Isibaar 3
685 : edgomez 13 pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
686 : Isibaar 3
687 :     if (!force_inter)
688 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
689 : edgomez 13 else
690 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
691 :    
692 : h 85 if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {
693 : Isibaar 3 start_timer();
694 : h 85 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
695 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
696 :     pEnc->mbParam.rounding_type);
697 : Isibaar 3 stop_inter_timer();
698 :     }
699 :    
700 :     start_timer();
701 : h 101 if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
702 :     {
703 :     HintedMESet(pEnc, &bIntra);
704 :     }
705 :     else
706 :     {
707 :     bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
708 :     &pEnc->vInterH, &pEnc->vInterV,
709 :     &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
710 :     }
711 : Isibaar 3 stop_motion_timer();
712 :    
713 :     if (bIntra == 1)
714 : h 101 {
715 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
716 : h 101 }
717 : Isibaar 3
718 : edgomez 13 pEnc->mbParam.coding_type = P_VOP;
719 : Isibaar 3
720 :     if(vol_header)
721 : h 69 BitstreamWriteVolHeader(bs, &pEnc->mbParam);
722 : Isibaar 3
723 : h 69 BitstreamWriteVopHeader(bs, &pEnc->mbParam);
724 : Isibaar 3
725 : edgomez 13 *pBits = BitstreamPos(bs);
726 : Isibaar 3
727 : edgomez 13 pEnc->sStat.iTextBits = 0;
728 :     pEnc->sStat.iMvSum = 0;
729 :     pEnc->sStat.iMvCount = 0;
730 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
731 :    
732 : edgomez 13 for(y = 0; y < pEnc->mbParam.mb_height; y++)
733 : Isibaar 3 {
734 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
735 :     {
736 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
737 :    
738 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
739 : Isibaar 3
740 :     if (!bIntra)
741 : edgomez 13 {
742 : Isibaar 3 start_timer();
743 : edgomez 78 MBMotionCompensation(pMB,
744 :     x, y,
745 :     &pEnc->sReference,
746 :     &pEnc->vInterH,
747 : h 85 &pEnc->vInterV,
748 :     &pEnc->vInterHV,
749 : edgomez 78 &pEnc->sCurrent,
750 :     dct_codes,
751 : edgomez 13 pEnc->mbParam.width,
752 :     pEnc->mbParam.height,
753 :     pEnc->mbParam.edged_width,
754 :     pEnc->mbParam.rounding_type);
755 : Isibaar 3 stop_comp_timer();
756 :    
757 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
758 :     if(pMB->dquant != NO_CHANGE) {
759 :     pMB->mode = MODE_INTER_Q;
760 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
761 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
762 :     else if(pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
763 :     }
764 :     }
765 :     pMB->quant = pEnc->mbParam.quant;
766 :    
767 : h 69 pMB->field_pred = 0;
768 :    
769 :     pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
770 : edgomez 13 }
771 : Isibaar 3 else
772 :     {
773 :     CodeIntraMB(pEnc, pMB);
774 : h 69 MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
775 : Isibaar 3 }
776 :    
777 : edgomez 13 start_timer();
778 : Isibaar 3 MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
779 :     stop_prediction_timer();
780 :    
781 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
782 :     {
783 :     pEnc->sStat.kblks++;
784 :     }
785 :     else if (pMB->cbp ||
786 : edgomez 13 pMB->mvs[0].x || pMB->mvs[0].y ||
787 :     pMB->mvs[1].x || pMB->mvs[1].y ||
788 :     pMB->mvs[2].x || pMB->mvs[2].y ||
789 :     pMB->mvs[3].x || pMB->mvs[3].y)
790 : Isibaar 3 {
791 :     pEnc->sStat.mblks++;
792 :     }
793 :     else
794 :     {
795 :     pEnc->sStat.ublks++;
796 :     }
797 :    
798 :     start_timer();
799 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
800 :     stop_coding_timer();
801 :     }
802 :     }
803 :    
804 :     emms();
805 :    
806 : h 101 if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
807 :     {
808 :     HintedMEGet(pEnc, 0);
809 :     }
810 :    
811 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
812 :     pEnc->sStat.iMvCount = 1;
813 :    
814 : edgomez 13 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
815 : Isibaar 3
816 : edgomez 13 iSearchRange = 1 << (3 + pEnc->mbParam.fixed_code);
817 : Isibaar 3
818 : edgomez 13 if ((fSigma > iSearchRange / 3)
819 :     && (pEnc->mbParam.fixed_code <= 3)) // maximum search range 128
820 :     {
821 : Isibaar 3 pEnc->mbParam.fixed_code++;
822 :     iSearchRange *= 2;
823 : edgomez 13 }
824 :     else if ((fSigma < iSearchRange / 6)
825 :     && (pEnc->sStat.fMvPrevSigma >= 0)
826 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
827 :     && (pEnc->mbParam.fixed_code >= 2)) // minimum search range 16
828 :     {
829 : Isibaar 3 pEnc->mbParam.fixed_code--;
830 :     iSearchRange /= 2;
831 : edgomez 13 }
832 : Isibaar 3
833 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
834 : Isibaar 3
835 :     *pBits = BitstreamPos(bs) - *pBits;
836 :    
837 : edgomez 13 return 0; // inter
838 : Isibaar 3 }
839 : suxen_drol 118
840 :    
841 :    
842 :     /*
843 :     static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)
844 :     {
845 :     int16_t dct_codes[6][64];
846 :     int16_t qcoeff[6][64];
847 :     uint32_t x, y;
848 :     VECTOR forward;
849 :     VECTOR backward;
850 :    
851 :     IMAGE *f_ref = &pEnc->reference->image;
852 :     IMAGE *b_ref = &pEnc->current->image;
853 :    
854 :     // forward
855 :     image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
856 :     start_timer();
857 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
858 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
859 :     stop_inter_timer();
860 :    
861 :     // backward
862 :     image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
863 :     start_timer();
864 :     image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
865 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
866 :     stop_inter_timer();
867 :    
868 :     start_timer();
869 :     MotionEstimationBVOP(&pEnc->mbParam, frame,
870 :     pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
871 :     pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
872 :    
873 :     stop_motion_timer();
874 :    
875 :     if (test_quant_type(&pEnc->mbParam, pEnc->current))
876 :     {
877 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
878 :     }
879 :    
880 :     frame->coding_type = B_VOP;
881 :     BitstreamWriteVopHeader(bs, B_VOP, frame->tick, 0,
882 :     frame->quant, frame->fcode, frame->bcode);
883 :    
884 :     *pBits = BitstreamPos(bs);
885 :    
886 :     pEnc->sStat.iTextBits = 0;
887 :     pEnc->sStat.iMvSum = 0;
888 :     pEnc->sStat.iMvCount = 0;
889 :     pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
890 :    
891 :    
892 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
893 :     {
894 :     // reset prediction
895 :    
896 :     forward.x = 0;
897 :     forward.y = 0;
898 :     backward.x = 0;
899 :     backward.y = 0;
900 :    
901 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
902 :     {
903 :     MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
904 :     MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
905 :     MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
906 :    
907 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
908 :     if (mb->mode == MODE_NOT_CODED)
909 :     {
910 :     mb->mvs[0].x = 0;
911 :     mb->mvs[0].y = 0;
912 :     continue;
913 :     }
914 :    
915 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
916 :     f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
917 :     b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
918 :     dct_codes);
919 :    
920 :     mb->quant = frame->quant;
921 :     mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, x, y, dct_codes, qcoeff);
922 :     //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
923 :    
924 :    
925 :     if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&
926 :     mb->cbp == 0 &&
927 :     mb->mvs[0].x == 0 &&
928 :     mb->mvs[0].y == 0)
929 :     {
930 :     mb->mode = 5; // skipped
931 :     }
932 :    
933 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)
934 :     {
935 :     mb->pmvs[0].x = mb->mvs[0].x - forward.x;
936 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
937 :     forward.x = mb->mvs[0].x;
938 :     forward.y = mb->mvs[0].y;
939 :     }
940 :    
941 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)
942 :     {
943 :     mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
944 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
945 :     backward.x = mb->b_mvs[0].x;
946 :     backward.y = mb->b_mvs[0].y;
947 :     }
948 :    
949 :     // printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
950 :    
951 :     start_timer();
952 :     MBCodingBVOP(frame, mb, qcoeff, bs, &pEnc->sStat);
953 :     stop_coding_timer();
954 :     }
955 :     }
956 :    
957 :     emms();
958 :    
959 :     // TODO: dynamic fcode/bcode ???
960 :    
961 :     *pBits = BitstreamPos(bs) - *pBits;
962 :    
963 :     }
964 :    
965 :     */

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4