[svn] / branches / dev-api-3 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-3/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 108 - (view) (download)
Original Path: trunk/xvidcore/src/encoder.c

1 : Isibaar 3 #include <stdlib.h>
2 :     #include <stdio.h>
3 :     #include <math.h>
4 :    
5 :     #include "encoder.h"
6 :     #include "prediction/mbprediction.h"
7 :     #include "global.h"
8 :     #include "utils/timer.h"
9 :     #include "image/image.h"
10 :     #include "bitstream/cbp.h"
11 :     #include "utils/mbfunctions.h"
12 :     #include "bitstream/bitstream.h"
13 :     #include "bitstream/mbcoding.h"
14 :     #include "utils/ratecontrol.h"
15 :     #include "utils/emms.h"
16 :     #include "bitstream/mbcoding.h"
17 :     #include "quant/adapt_quant.h"
18 : Isibaar 4 #include "quant/quant_matrix.h"
19 : Isibaar 41 #include "utils/mem_align.h"
20 : Isibaar 3
21 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
22 :    
23 :    
24 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
25 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
26 :    
27 :     static int DQtab[4] =
28 :     {
29 :     -1, -2, 1, 2
30 :     };
31 :    
32 :     static int iDQtab[5] =
33 :     {
34 :     1, 0, NO_CHANGE, 2, 3
35 :     };
36 :    
37 :    
38 :     int encoder_create(XVID_ENC_PARAM * pParam)
39 :     {
40 : edgomez 13 Encoder *pEnc;
41 : Isibaar 3 uint32_t i;
42 :    
43 : edgomez 13 pParam->handle = NULL;
44 : Isibaar 3
45 : edgomez 13 ENC_CHECK(pParam);
46 : Isibaar 3
47 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
48 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
49 :     ENC_CHECK(!(pParam->width % 2));
50 :     ENC_CHECK(!(pParam->height % 2));
51 : Isibaar 3
52 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
53 :     {
54 :     pParam->fincr = 1;
55 :     pParam->fbase = 25;
56 :     }
57 :    
58 :     // simplify the "fincr/fbase" fraction
59 :     // (neccessary, since windows supplies us with huge numbers)
60 :    
61 :     i = pParam->fincr;
62 :     while (i > 1)
63 :     {
64 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
65 :     {
66 :     pParam->fincr /= i;
67 :     pParam->fbase /= i;
68 :     i = pParam->fincr;
69 :     continue;
70 :     }
71 :     i--;
72 :     }
73 :    
74 :     if (pParam->fbase > 65535)
75 :     {
76 :     float div = (float)pParam->fbase / 65535;
77 :     pParam->fbase = (int)(pParam->fbase / div);
78 :     pParam->fincr = (int)(pParam->fincr / div);
79 :     }
80 :    
81 :     if (pParam->bitrate <= 0)
82 :     pParam->bitrate = 900000;
83 :    
84 : edgomez 13 if (pParam->rc_buffersize <= 0)
85 : h 64 pParam->rc_buffersize = 16;
86 : Isibaar 3
87 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88 : Isibaar 3 pParam->min_quantizer = 1;
89 :    
90 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
91 : Isibaar 3 pParam->max_quantizer = 31;
92 :    
93 : edgomez 13 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
94 : Isibaar 3 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
95 :    
96 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
97 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
98 :    
99 : canard 66 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100 : Isibaar 3 return XVID_ERR_MEMORY;
101 :    
102 :     /* Fill members of Encoder structure */
103 :    
104 : edgomez 13 pEnc->mbParam.width = pParam->width;
105 :     pEnc->mbParam.height = pParam->height;
106 : Isibaar 3
107 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
108 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
109 :    
110 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
111 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
112 :    
113 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
114 : Isibaar 3
115 :     /* Fill rate control parameters */
116 :    
117 : edgomez 13 pEnc->mbParam.quant = 4;
118 : Isibaar 3
119 :     pEnc->bitrate = pParam->bitrate;
120 :    
121 : edgomez 13 pEnc->iFrameNum = 0;
122 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
123 : Isibaar 3
124 : h 86 /* try to allocate memory */
125 : Isibaar 3
126 : h 86 pEnc->sCurrent.y = pEnc->sCurrent.u = pEnc->sCurrent.v = NULL;
127 :     pEnc->sReference.y = pEnc->sReference.u = pEnc->sReference.v = NULL;
128 :     pEnc->vInterH.y = pEnc->vInterH.u = pEnc->vInterH.v = NULL;
129 :     pEnc->vInterV.y = pEnc->vInterV.u = pEnc->vInterV.v = NULL;
130 :     pEnc->vInterVf.y = pEnc->vInterVf.u = pEnc->vInterVf.v = NULL;
131 :     pEnc->vInterHV.y = pEnc->vInterHV.u = pEnc->vInterHV.v = NULL;
132 :     pEnc->vInterHVf.y = pEnc->vInterHVf.u = pEnc->vInterHVf.v = NULL;
133 : Isibaar 3
134 : h 86 pEnc->pMBs = NULL;
135 : Isibaar 3
136 : h 86 if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
137 :     image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
138 :     image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142 :     image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143 :     (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
144 : edgomez 13 {
145 : Isibaar 3 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
146 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
147 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
148 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149 : h 86 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150 : Isibaar 3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151 : h 86 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152 :     if (pEnc)
153 :     {
154 :     xvid_free(pEnc);
155 :     }
156 : Isibaar 3 return XVID_ERR_MEMORY;
157 :     }
158 :    
159 :     // init macroblock array
160 :     for (i = 0; i < pEnc->mbParam.mb_width * pEnc->mbParam.mb_height; i++)
161 :     {
162 :     pEnc->pMBs[i].dquant = NO_CHANGE;
163 :     }
164 :    
165 : edgomez 13 pParam->handle = (void *)pEnc;
166 : Isibaar 3
167 :     if (pParam->bitrate)
168 :     {
169 : h 108 RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 1000 / pParam->fincr,
170 : h 64 pParam->max_quantizer, pParam->min_quantizer);
171 : Isibaar 3 }
172 :    
173 : Isibaar 36 init_timer();
174 : Isibaar 3
175 :     return XVID_ERR_OK;
176 :     }
177 :    
178 :    
179 :     int encoder_destroy(Encoder * pEnc)
180 :     {
181 : edgomez 13 ENC_CHECK(pEnc);
182 :     ENC_CHECK(pEnc->sCurrent.y);
183 :     ENC_CHECK(pEnc->sReference.y);
184 : Isibaar 3
185 : Isibaar 41 xvid_free(pEnc->pMBs);
186 : edgomez 13 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
187 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
188 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
189 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
190 : h 87 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
191 : edgomez 13 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
192 : h 87 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
193 : Isibaar 41 xvid_free(pEnc);
194 : Isibaar 3
195 : edgomez 13 return XVID_ERR_OK;
196 : Isibaar 3 }
197 :    
198 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
199 :     {
200 : edgomez 13 uint16_t x, y;
201 :     Bitstream bs;
202 :     uint32_t bits;
203 : Isibaar 4 uint16_t write_vol_header = 0;
204 : Isibaar 3
205 :     start_global_timer();
206 :    
207 : edgomez 13 ENC_CHECK(pEnc);
208 :     ENC_CHECK(pFrame);
209 :     ENC_CHECK(pFrame->bitstream);
210 :     ENC_CHECK(pFrame->image);
211 : Isibaar 3
212 :     pEnc->mbParam.global_flags = pFrame->general;
213 :     pEnc->mbParam.motion_flags = pFrame->motion;
214 : h 101 pEnc->mbParam.hint = &pFrame->hint;
215 : Isibaar 3
216 :     start_timer();
217 :     if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
218 : edgomez 13 pFrame->image, pFrame->colorspace))
219 : Isibaar 3 {
220 :     return XVID_ERR_FORMAT;
221 :     }
222 :     stop_conv_timer();
223 :    
224 : Isibaar 41 EMMS();
225 :    
226 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
227 : Isibaar 3
228 :     if (pFrame->quant == 0)
229 :     {
230 :     pEnc->mbParam.quant = RateControlGetQ(0);
231 :     }
232 :     else
233 :     {
234 :     pEnc->mbParam.quant = pFrame->quant;
235 :     }
236 :    
237 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
238 :     {
239 : canard 66 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
240 : Isibaar 3
241 : edgomez 78 pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
242 :     pEnc->mbParam.width,
243 :     temp_dquants,
244 : h 84 pEnc->mbParam.quant,
245 :     pEnc->mbParam.quant,
246 :     2*pEnc->mbParam.quant,
247 : edgomez 78 pEnc->mbParam.mb_width,
248 :     pEnc->mbParam.mb_height);
249 : Isibaar 3
250 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
251 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
252 :     {
253 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
254 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
255 :     }
256 : Isibaar 41 xvid_free(temp_dquants);
257 : Isibaar 3 }
258 :    
259 : Isibaar 20 if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
260 :     if(pEnc->mbParam.quant_type != H263_QUANT)
261 :     write_vol_header = 1;
262 :     pEnc->mbParam.quant_type = H263_QUANT;
263 : Isibaar 3 }
264 : Isibaar 20 else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
265 :     int ret1, ret2;
266 : Isibaar 3
267 : edgomez 78 ret1 = ret2 = 0;
268 :    
269 : Isibaar 20 if(pEnc->mbParam.quant_type != MPEG4_QUANT)
270 :     write_vol_header = 1;
271 :    
272 :     pEnc->mbParam.quant_type = MPEG4_QUANT;
273 :    
274 :     if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
275 :     if(pFrame->quant_intra_matrix != NULL)
276 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
277 :     if(pFrame->quant_inter_matrix != NULL)
278 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
279 :     }
280 :     else {
281 :     ret1 = set_intra_matrix(get_default_intra_matrix());
282 :     ret2 = set_inter_matrix(get_default_inter_matrix());
283 :     }
284 : Isibaar 4 if(write_vol_header == 0)
285 :     write_vol_header = ret1 | ret2;
286 :     }
287 : Isibaar 3
288 :     if (pFrame->intra < 0)
289 : edgomez 13 {
290 : Isibaar 3 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
291 : edgomez 13 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
292 : Isibaar 3
293 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
294 :     else
295 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
296 : edgomez 13 }
297 :     else
298 :     {
299 : Isibaar 3 if (pFrame->intra == 1)
300 : edgomez 13 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
301 : Isibaar 3 else
302 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
303 : edgomez 13 }
304 : Isibaar 3
305 :     BitstreamPutBits(&bs, 0xFFFF, 16);
306 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
307 :     BitstreamPad(&bs);
308 :     pFrame->length = BitstreamLength(&bs);
309 : h 29
310 : Isibaar 3 if (pResult)
311 : edgomez 13 {
312 : Isibaar 3 pResult->quant = pEnc->mbParam.quant;
313 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
314 :     pResult->kblks = pEnc->sStat.kblks;
315 :     pResult->mblks = pEnc->sStat.mblks;
316 :     pResult->ublks = pEnc->sStat.ublks;
317 : edgomez 13 }
318 : Isibaar 3
319 : Isibaar 41 EMMS();
320 :    
321 : h 29 if (pFrame->quant == 0)
322 : Isibaar 3 {
323 :     RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
324 :     }
325 :    
326 :     pEnc->iFrameNum++;
327 : edgomez 13 image_swap(&pEnc->sCurrent, &pEnc->sReference);
328 : Isibaar 3
329 :     stop_global_timer();
330 :     write_timer();
331 :    
332 :     return XVID_ERR_OK;
333 :     }
334 :    
335 :    
336 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
337 :    
338 :     pMB->mode = MODE_INTRA;
339 :    
340 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
341 :     if(pMB->dquant != NO_CHANGE)
342 :     {
343 :     pMB->mode = MODE_INTRA_Q;
344 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
345 :    
346 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
347 :     if (pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
348 :     }
349 :     }
350 :    
351 :     pMB->quant = pEnc->mbParam.quant;
352 :     }
353 :    
354 :    
355 : h 101 #define FCODEBITS 3
356 :     #define MODEBITS 5
357 :    
358 :     void HintedMESet(Encoder * pEnc, int * intra)
359 :     {
360 :     HINTINFO * hint;
361 :     Bitstream bs;
362 :     int length, high;
363 :     uint32_t x, y;
364 :    
365 :     hint = pEnc->mbParam.hint;
366 :    
367 :     if (hint->rawhints)
368 :     {
369 :     *intra = hint->mvhint.intra;
370 :     }
371 :     else
372 :     {
373 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
374 :     *intra = BitstreamGetBit(&bs);
375 :     }
376 :    
377 :     if (*intra)
378 :     {
379 :     return;
380 :     }
381 :    
382 :     pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
383 :    
384 :     length = pEnc->mbParam.fixed_code + 5;
385 :     high = 1 << (length - 1);
386 :    
387 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
388 :     {
389 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
390 :     {
391 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
392 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
393 :     VECTOR pred[4];
394 :     VECTOR tmp;
395 :     int dummy[4];
396 :     int vec;
397 :    
398 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
399 :    
400 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
401 :     {
402 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
403 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
404 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
405 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
406 :    
407 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
408 :    
409 :     for (vec=0 ; vec<4 ; ++vec)
410 :     {
411 :     pMB->mvs[vec].x = tmp.x;
412 :     pMB->mvs[vec].y = tmp.y;
413 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
414 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
415 :     }
416 :     }
417 :     else if (pMB->mode == MODE_INTER4V)
418 :     {
419 :     for (vec=0 ; vec<4 ; ++vec)
420 :     {
421 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
422 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
423 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
424 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
425 :    
426 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
427 :    
428 :     pMB->mvs[vec].x = tmp.x;
429 :     pMB->mvs[vec].y = tmp.y;
430 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
431 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
432 :     }
433 :     }
434 :     else // intra / intra_q / stuffing / not_coded
435 :     {
436 :     for (vec=0 ; vec<4 ; ++vec)
437 :     {
438 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
439 :     }
440 :     }
441 :     }
442 :     }
443 :     }
444 :    
445 :    
446 :     void HintedMEGet(Encoder * pEnc, int intra)
447 :     {
448 :     HINTINFO * hint;
449 :     Bitstream bs;
450 :     uint32_t x, y;
451 :     int length, high;
452 :    
453 :     hint = pEnc->mbParam.hint;
454 :    
455 :     if (hint->rawhints)
456 :     {
457 :     hint->mvhint.intra = intra;
458 :     }
459 :     else
460 :     {
461 :     BitstreamInit(&bs, hint->hintstream, 0);
462 :     BitstreamPutBit(&bs, intra);
463 :     }
464 :    
465 :     if (intra)
466 :     {
467 :     if (!hint->rawhints)
468 :     {
469 :     BitstreamPad(&bs);
470 :     hint->hintlength = BitstreamLength(&bs);
471 :     }
472 :     return;
473 :     }
474 :    
475 :     length = pEnc->mbParam.fixed_code + 5;
476 :     high = 1 << (length - 1);
477 :    
478 :     if (hint->rawhints)
479 :     {
480 :     hint->mvhint.fcode = pEnc->mbParam.fixed_code;
481 :     }
482 :     else
483 :     {
484 :     BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
485 :     }
486 :    
487 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
488 :     {
489 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
490 :     {
491 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
492 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
493 :     VECTOR tmp;
494 :    
495 :     if (hint->rawhints)
496 :     {
497 :     bhint->mode = pMB->mode;
498 :     }
499 :     else
500 :     {
501 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
502 :     }
503 :    
504 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
505 :     {
506 :     tmp.x = pMB->mvs[0].x;
507 :     tmp.y = pMB->mvs[0].y;
508 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
509 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
510 :    
511 :     if (hint->rawhints)
512 :     {
513 :     bhint->mvs[0].x = tmp.x;
514 :     bhint->mvs[0].y = tmp.y;
515 :     }
516 :     else
517 :     {
518 :     BitstreamPutBits(&bs, tmp.x, length);
519 :     BitstreamPutBits(&bs, tmp.y, length);
520 :     }
521 :     }
522 :     else if (pMB->mode == MODE_INTER4V)
523 :     {
524 :     int vec;
525 :    
526 :     for (vec=0 ; vec<4 ; ++vec)
527 :     {
528 :     tmp.x = pMB->mvs[vec].x;
529 :     tmp.y = pMB->mvs[vec].y;
530 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
531 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
532 :    
533 :     if (hint->rawhints)
534 :     {
535 :     bhint->mvs[vec].x = tmp.x;
536 :     bhint->mvs[vec].y = tmp.y;
537 :     }
538 :     else
539 :     {
540 :     BitstreamPutBits(&bs, tmp.x, length);
541 :     BitstreamPutBits(&bs, tmp.y, length);
542 :     }
543 :     }
544 :     }
545 :     }
546 :     }
547 :    
548 :     if (!hint->rawhints)
549 :     {
550 :     BitstreamPad(&bs);
551 :     hint->hintlength = BitstreamLength(&bs);
552 :     }
553 :     }
554 :    
555 :    
556 : h 104 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
557 :     {
558 :    
559 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
560 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
561 :    
562 :     uint16_t x, y;
563 :    
564 :     pEnc->iFrameNum = 0;
565 :     pEnc->mbParam.rounding_type = 1;
566 :     pEnc->mbParam.coding_type = I_VOP;
567 :    
568 :     BitstreamWriteVolHeader(bs, &pEnc->mbParam);
569 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam);
570 :    
571 :     *pBits = BitstreamPos(bs);
572 :    
573 :     pEnc->sStat.iTextBits = 0;
574 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
575 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
576 :    
577 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
578 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
579 :     {
580 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
581 :    
582 :     CodeIntraMB(pEnc, pMB);
583 :    
584 :     MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
585 :    
586 :     start_timer();
587 :     MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
588 :     stop_prediction_timer();
589 :    
590 :     start_timer();
591 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
592 :     stop_coding_timer();
593 :     }
594 :    
595 :     emms();
596 :    
597 :     *pBits = BitstreamPos(bs) - *pBits;
598 :     pEnc->sStat.fMvPrevSigma = -1;
599 :     pEnc->sStat.iMvSum = 0;
600 :     pEnc->sStat.iMvCount = 0;
601 :     pEnc->mbParam.fixed_code = 2;
602 :    
603 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
604 :     {
605 :     HintedMEGet(pEnc, 1);
606 :     }
607 :    
608 :     return 1; // intra
609 :     }
610 :    
611 :    
612 : Isibaar 3 #define INTRA_THRESHOLD 0.5
613 :    
614 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
615 :     {
616 : edgomez 13 float fSigma;
617 : Isibaar 42
618 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
619 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
620 :    
621 : Isibaar 3 int iLimit;
622 : edgomez 13 uint32_t x, y;
623 :     int iSearchRange;
624 : Isibaar 3 bool bIntra;
625 :    
626 : edgomez 13 IMAGE *pCurrent = &pEnc->sCurrent;
627 :     IMAGE *pRef = &pEnc->sReference;
628 : Isibaar 3
629 : h 69 start_timer();
630 : edgomez 78 image_setedges(pRef,
631 : h 85 pEnc->mbParam.edged_width,
632 :     pEnc->mbParam.edged_height,
633 :     pEnc->mbParam.width,
634 :     pEnc->mbParam.height,
635 :     pEnc->mbParam.global_flags & XVID_INTERLACING);
636 : h 69 stop_edges_timer();
637 : Isibaar 3
638 : edgomez 13 pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
639 : Isibaar 3
640 :     if (!force_inter)
641 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
642 : edgomez 13 else
643 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
644 :    
645 : h 85 if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {
646 : Isibaar 3 start_timer();
647 : h 85 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
648 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
649 :     pEnc->mbParam.rounding_type);
650 : Isibaar 3 stop_inter_timer();
651 :     }
652 :    
653 :     start_timer();
654 : h 101 if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
655 :     {
656 :     HintedMESet(pEnc, &bIntra);
657 :     }
658 :     else
659 :     {
660 :     bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
661 :     &pEnc->vInterH, &pEnc->vInterV,
662 :     &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
663 :     }
664 : Isibaar 3 stop_motion_timer();
665 :    
666 :     if (bIntra == 1)
667 : h 101 {
668 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
669 : h 101 }
670 : Isibaar 3
671 : edgomez 13 pEnc->mbParam.coding_type = P_VOP;
672 : Isibaar 3
673 :     if(vol_header)
674 : h 69 BitstreamWriteVolHeader(bs, &pEnc->mbParam);
675 : Isibaar 3
676 : h 69 BitstreamWriteVopHeader(bs, &pEnc->mbParam);
677 : Isibaar 3
678 : edgomez 13 *pBits = BitstreamPos(bs);
679 : Isibaar 3
680 : edgomez 13 pEnc->sStat.iTextBits = 0;
681 :     pEnc->sStat.iMvSum = 0;
682 :     pEnc->sStat.iMvCount = 0;
683 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
684 :    
685 : edgomez 13 for(y = 0; y < pEnc->mbParam.mb_height; y++)
686 : Isibaar 3 {
687 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
688 :     {
689 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
690 :    
691 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
692 : Isibaar 3
693 :     if (!bIntra)
694 : edgomez 13 {
695 : Isibaar 3 start_timer();
696 : edgomez 78 MBMotionCompensation(pMB,
697 :     x, y,
698 :     &pEnc->sReference,
699 :     &pEnc->vInterH,
700 : h 85 &pEnc->vInterV,
701 :     &pEnc->vInterHV,
702 : edgomez 78 &pEnc->sCurrent,
703 :     dct_codes,
704 : edgomez 13 pEnc->mbParam.width,
705 :     pEnc->mbParam.height,
706 :     pEnc->mbParam.edged_width,
707 :     pEnc->mbParam.rounding_type);
708 : Isibaar 3 stop_comp_timer();
709 :    
710 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
711 :     if(pMB->dquant != NO_CHANGE) {
712 :     pMB->mode = MODE_INTER_Q;
713 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
714 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
715 :     else if(pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
716 :     }
717 :     }
718 :     pMB->quant = pEnc->mbParam.quant;
719 :    
720 : h 69 pMB->field_pred = 0;
721 :    
722 :     pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
723 : edgomez 13 }
724 : Isibaar 3 else
725 :     {
726 :     CodeIntraMB(pEnc, pMB);
727 : h 69 MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
728 : Isibaar 3 }
729 :    
730 : edgomez 13 start_timer();
731 : Isibaar 3 MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
732 :     stop_prediction_timer();
733 :    
734 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
735 :     {
736 :     pEnc->sStat.kblks++;
737 :     }
738 :     else if (pMB->cbp ||
739 : edgomez 13 pMB->mvs[0].x || pMB->mvs[0].y ||
740 :     pMB->mvs[1].x || pMB->mvs[1].y ||
741 :     pMB->mvs[2].x || pMB->mvs[2].y ||
742 :     pMB->mvs[3].x || pMB->mvs[3].y)
743 : Isibaar 3 {
744 :     pEnc->sStat.mblks++;
745 :     }
746 :     else
747 :     {
748 :     pEnc->sStat.ublks++;
749 :     }
750 :    
751 :     start_timer();
752 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
753 :     stop_coding_timer();
754 :     }
755 :     }
756 :    
757 :     emms();
758 :    
759 : h 101 if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
760 :     {
761 :     HintedMEGet(pEnc, 0);
762 :     }
763 :    
764 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
765 :     pEnc->sStat.iMvCount = 1;
766 :    
767 : edgomez 13 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
768 : Isibaar 3
769 : edgomez 13 iSearchRange = 1 << (3 + pEnc->mbParam.fixed_code);
770 : Isibaar 3
771 : edgomez 13 if ((fSigma > iSearchRange / 3)
772 :     && (pEnc->mbParam.fixed_code <= 3)) // maximum search range 128
773 :     {
774 : Isibaar 3 pEnc->mbParam.fixed_code++;
775 :     iSearchRange *= 2;
776 : edgomez 13 }
777 :     else if ((fSigma < iSearchRange / 6)
778 :     && (pEnc->sStat.fMvPrevSigma >= 0)
779 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
780 :     && (pEnc->mbParam.fixed_code >= 2)) // minimum search range 16
781 :     {
782 : Isibaar 3 pEnc->mbParam.fixed_code--;
783 :     iSearchRange /= 2;
784 : edgomez 13 }
785 : Isibaar 3
786 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
787 : Isibaar 3
788 :     *pBits = BitstreamPos(bs) - *pBits;
789 :    
790 : edgomez 13 return 0; // inter
791 : Isibaar 3 }

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4