[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 118 - (view) (download)

1 : suxen_drol 118 // 14.04.2002 added FrameCodeB()
2 :    
3 : Isibaar 3 #include <stdlib.h>
4 :     #include <stdio.h>
5 :     #include <math.h>
6 :    
7 :     #include "encoder.h"
8 :     #include "prediction/mbprediction.h"
9 :     #include "global.h"
10 :     #include "utils/timer.h"
11 :     #include "image/image.h"
12 :     #include "bitstream/cbp.h"
13 :     #include "utils/mbfunctions.h"
14 :     #include "bitstream/bitstream.h"
15 :     #include "bitstream/mbcoding.h"
16 :     #include "utils/ratecontrol.h"
17 :     #include "utils/emms.h"
18 :     #include "bitstream/mbcoding.h"
19 :     #include "quant/adapt_quant.h"
20 : Isibaar 4 #include "quant/quant_matrix.h"
21 : Isibaar 41 #include "utils/mem_align.h"
22 : Isibaar 3
23 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
24 :    
25 :    
26 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
27 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
28 :    
29 :     static int DQtab[4] =
30 :     {
31 :     -1, -2, 1, 2
32 :     };
33 :    
34 :     static int iDQtab[5] =
35 :     {
36 :     1, 0, NO_CHANGE, 2, 3
37 :     };
38 :    
39 :    
40 :     int encoder_create(XVID_ENC_PARAM * pParam)
41 :     {
42 : edgomez 13 Encoder *pEnc;
43 : Isibaar 3 uint32_t i;
44 :    
45 : edgomez 13 pParam->handle = NULL;
46 : Isibaar 3
47 : edgomez 13 ENC_CHECK(pParam);
48 : Isibaar 3
49 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
50 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
51 :     ENC_CHECK(!(pParam->width % 2));
52 :     ENC_CHECK(!(pParam->height % 2));
53 : Isibaar 3
54 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
55 :     {
56 :     pParam->fincr = 1;
57 :     pParam->fbase = 25;
58 :     }
59 :    
60 :     // simplify the "fincr/fbase" fraction
61 :     // (neccessary, since windows supplies us with huge numbers)
62 :    
63 :     i = pParam->fincr;
64 :     while (i > 1)
65 :     {
66 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
67 :     {
68 :     pParam->fincr /= i;
69 :     pParam->fbase /= i;
70 :     i = pParam->fincr;
71 :     continue;
72 :     }
73 :     i--;
74 :     }
75 :    
76 :     if (pParam->fbase > 65535)
77 :     {
78 :     float div = (float)pParam->fbase / 65535;
79 :     pParam->fbase = (int)(pParam->fbase / div);
80 :     pParam->fincr = (int)(pParam->fincr / div);
81 :     }
82 :    
83 :     if (pParam->bitrate <= 0)
84 :     pParam->bitrate = 900000;
85 :    
86 : edgomez 13 if (pParam->rc_buffersize <= 0)
87 : h 64 pParam->rc_buffersize = 16;
88 : Isibaar 3
89 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
90 : Isibaar 3 pParam->min_quantizer = 1;
91 :    
92 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
93 : Isibaar 3 pParam->max_quantizer = 31;
94 :    
95 : edgomez 13 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
96 : Isibaar 3 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
97 :    
98 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
99 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
100 :    
101 : canard 66 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
102 : Isibaar 3 return XVID_ERR_MEMORY;
103 :    
104 :     /* Fill members of Encoder structure */
105 :    
106 : edgomez 13 pEnc->mbParam.width = pParam->width;
107 :     pEnc->mbParam.height = pParam->height;
108 : Isibaar 3
109 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
110 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
111 :    
112 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
113 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
114 :    
115 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
116 : Isibaar 3
117 :     /* Fill rate control parameters */
118 :    
119 : edgomez 13 pEnc->mbParam.quant = 4;
120 : Isibaar 3
121 :     pEnc->bitrate = pParam->bitrate;
122 :    
123 : edgomez 13 pEnc->iFrameNum = 0;
124 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
125 : Isibaar 3
126 : h 86 /* try to allocate memory */
127 : Isibaar 3
128 : h 86 pEnc->sCurrent.y = pEnc->sCurrent.u = pEnc->sCurrent.v = NULL;
129 :     pEnc->sReference.y = pEnc->sReference.u = pEnc->sReference.v = NULL;
130 :     pEnc->vInterH.y = pEnc->vInterH.u = pEnc->vInterH.v = NULL;
131 :     pEnc->vInterV.y = pEnc->vInterV.u = pEnc->vInterV.v = NULL;
132 :     pEnc->vInterVf.y = pEnc->vInterVf.u = pEnc->vInterVf.v = NULL;
133 :     pEnc->vInterHV.y = pEnc->vInterHV.u = pEnc->vInterHV.v = NULL;
134 :     pEnc->vInterHVf.y = pEnc->vInterHVf.u = pEnc->vInterHVf.v = NULL;
135 : Isibaar 3
136 : h 86 pEnc->pMBs = NULL;
137 : Isibaar 3
138 : h 86 if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139 :     image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140 :     image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
144 :     image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
145 : Isibaar 113 #ifdef _DEBUG
146 :     image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
147 :     #endif
148 : h 86 (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
149 : edgomez 13 {
150 : Isibaar 3 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
153 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
154 : h 86 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
155 : Isibaar 3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
156 : h 86 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
157 : Isibaar 113 #ifdef _DEBUG
158 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
159 :     #endif
160 : h 86 if (pEnc)
161 :     {
162 :     xvid_free(pEnc);
163 :     }
164 : Isibaar 3 return XVID_ERR_MEMORY;
165 :     }
166 :    
167 :     // init macroblock array
168 :     for (i = 0; i < pEnc->mbParam.mb_width * pEnc->mbParam.mb_height; i++)
169 :     {
170 :     pEnc->pMBs[i].dquant = NO_CHANGE;
171 :     }
172 :    
173 : edgomez 13 pParam->handle = (void *)pEnc;
174 : Isibaar 3
175 :     if (pParam->bitrate)
176 :     {
177 : h 108 RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 1000 / pParam->fincr,
178 : h 64 pParam->max_quantizer, pParam->min_quantizer);
179 : Isibaar 3 }
180 :    
181 : Isibaar 36 init_timer();
182 : Isibaar 3
183 :     return XVID_ERR_OK;
184 :     }
185 :    
186 :    
187 :     int encoder_destroy(Encoder * pEnc)
188 :     {
189 : edgomez 13 ENC_CHECK(pEnc);
190 :     ENC_CHECK(pEnc->sCurrent.y);
191 :     ENC_CHECK(pEnc->sReference.y);
192 : Isibaar 3
193 : Isibaar 41 xvid_free(pEnc->pMBs);
194 : edgomez 13 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
195 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
196 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
197 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
198 : h 87 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
199 : edgomez 13 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
200 : h 87 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
201 : Isibaar 113 #ifdef _DEBUG
202 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
203 :     #endif
204 : Isibaar 41 xvid_free(pEnc);
205 : Isibaar 3
206 : edgomez 13 return XVID_ERR_OK;
207 : Isibaar 3 }
208 :    
209 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
210 :     {
211 : edgomez 13 uint16_t x, y;
212 :     Bitstream bs;
213 :     uint32_t bits;
214 : Isibaar 4 uint16_t write_vol_header = 0;
215 : Isibaar 113 #ifdef _DEBUG
216 :     float psnr;
217 :     uint8_t temp[100];
218 :     #endif
219 : Isibaar 3
220 :     start_global_timer();
221 :    
222 : edgomez 13 ENC_CHECK(pEnc);
223 :     ENC_CHECK(pFrame);
224 :     ENC_CHECK(pFrame->bitstream);
225 :     ENC_CHECK(pFrame->image);
226 : Isibaar 3
227 :     pEnc->mbParam.global_flags = pFrame->general;
228 :     pEnc->mbParam.motion_flags = pFrame->motion;
229 : h 101 pEnc->mbParam.hint = &pFrame->hint;
230 : Isibaar 3
231 :     start_timer();
232 :     if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
233 : edgomez 13 pFrame->image, pFrame->colorspace))
234 : Isibaar 3 {
235 :     return XVID_ERR_FORMAT;
236 :     }
237 :     stop_conv_timer();
238 :    
239 : Isibaar 41 EMMS();
240 :    
241 : Isibaar 113 #ifdef _DEBUG
242 :     image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);
243 :     #endif
244 :    
245 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
246 : Isibaar 3
247 :     if (pFrame->quant == 0)
248 :     {
249 :     pEnc->mbParam.quant = RateControlGetQ(0);
250 :     }
251 :     else
252 :     {
253 :     pEnc->mbParam.quant = pFrame->quant;
254 :     }
255 :    
256 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
257 :     {
258 : canard 66 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
259 : Isibaar 3
260 : edgomez 78 pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
261 :     pEnc->mbParam.width,
262 :     temp_dquants,
263 : h 84 pEnc->mbParam.quant,
264 :     pEnc->mbParam.quant,
265 :     2*pEnc->mbParam.quant,
266 : edgomez 78 pEnc->mbParam.mb_width,
267 :     pEnc->mbParam.mb_height);
268 : Isibaar 3
269 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
270 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
271 :     {
272 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
273 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
274 :     }
275 : Isibaar 41 xvid_free(temp_dquants);
276 : Isibaar 3 }
277 :    
278 : Isibaar 20 if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
279 :     if(pEnc->mbParam.quant_type != H263_QUANT)
280 :     write_vol_header = 1;
281 :     pEnc->mbParam.quant_type = H263_QUANT;
282 : Isibaar 3 }
283 : Isibaar 20 else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
284 :     int ret1, ret2;
285 : Isibaar 3
286 : edgomez 78 ret1 = ret2 = 0;
287 :    
288 : Isibaar 20 if(pEnc->mbParam.quant_type != MPEG4_QUANT)
289 :     write_vol_header = 1;
290 :    
291 :     pEnc->mbParam.quant_type = MPEG4_QUANT;
292 :    
293 :     if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
294 :     if(pFrame->quant_intra_matrix != NULL)
295 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
296 :     if(pFrame->quant_inter_matrix != NULL)
297 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
298 :     }
299 :     else {
300 :     ret1 = set_intra_matrix(get_default_intra_matrix());
301 :     ret2 = set_inter_matrix(get_default_inter_matrix());
302 :     }
303 : Isibaar 4 if(write_vol_header == 0)
304 :     write_vol_header = ret1 | ret2;
305 :     }
306 : Isibaar 3
307 :     if (pFrame->intra < 0)
308 : edgomez 13 {
309 : Isibaar 3 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
310 : edgomez 13 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
311 : Isibaar 3
312 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
313 :     else
314 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
315 : edgomez 13 }
316 :     else
317 :     {
318 : Isibaar 3 if (pFrame->intra == 1)
319 : edgomez 13 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
320 : Isibaar 3 else
321 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
322 : edgomez 13 }
323 : Isibaar 3
324 :     BitstreamPutBits(&bs, 0xFFFF, 16);
325 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
326 :     BitstreamPad(&bs);
327 :     pFrame->length = BitstreamLength(&bs);
328 : h 29
329 : Isibaar 3 if (pResult)
330 : edgomez 13 {
331 : Isibaar 3 pResult->quant = pEnc->mbParam.quant;
332 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
333 :     pResult->kblks = pEnc->sStat.kblks;
334 :     pResult->mblks = pEnc->sStat.mblks;
335 :     pResult->ublks = pEnc->sStat.ublks;
336 : edgomez 13 }
337 : Isibaar 3
338 : Isibaar 41 EMMS();
339 :    
340 : h 29 if (pFrame->quant == 0)
341 : Isibaar 3 {
342 :     RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
343 :     }
344 :    
345 : Isibaar 113 #ifdef _DEBUG
346 :     psnr = image_psnr(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width,
347 :     pEnc->mbParam.width, pEnc->mbParam.height);
348 :    
349 :     sprintf(temp, "PSNR: %f\n", psnr);
350 :     DEBUG(temp);
351 :     #endif
352 :    
353 : Isibaar 3 pEnc->iFrameNum++;
354 : edgomez 13 image_swap(&pEnc->sCurrent, &pEnc->sReference);
355 : Isibaar 3
356 :     stop_global_timer();
357 :     write_timer();
358 :    
359 :     return XVID_ERR_OK;
360 :     }
361 :    
362 :    
363 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
364 :    
365 :     pMB->mode = MODE_INTRA;
366 :    
367 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
368 :     if(pMB->dquant != NO_CHANGE)
369 :     {
370 :     pMB->mode = MODE_INTRA_Q;
371 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
372 :    
373 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
374 :     if (pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
375 :     }
376 :     }
377 :    
378 :     pMB->quant = pEnc->mbParam.quant;
379 :     }
380 :    
381 :    
382 : h 101 #define FCODEBITS 3
383 :     #define MODEBITS 5
384 :    
385 :     void HintedMESet(Encoder * pEnc, int * intra)
386 :     {
387 :     HINTINFO * hint;
388 :     Bitstream bs;
389 :     int length, high;
390 :     uint32_t x, y;
391 :    
392 :     hint = pEnc->mbParam.hint;
393 :    
394 :     if (hint->rawhints)
395 :     {
396 :     *intra = hint->mvhint.intra;
397 :     }
398 :     else
399 :     {
400 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
401 :     *intra = BitstreamGetBit(&bs);
402 :     }
403 :    
404 :     if (*intra)
405 :     {
406 :     return;
407 :     }
408 :    
409 :     pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
410 :    
411 :     length = pEnc->mbParam.fixed_code + 5;
412 :     high = 1 << (length - 1);
413 :    
414 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
415 :     {
416 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
417 :     {
418 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
419 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
420 :     VECTOR pred[4];
421 :     VECTOR tmp;
422 :     int dummy[4];
423 :     int vec;
424 :    
425 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
426 :    
427 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
428 :     {
429 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
430 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
431 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
432 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
433 :    
434 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
435 :    
436 :     for (vec=0 ; vec<4 ; ++vec)
437 :     {
438 :     pMB->mvs[vec].x = tmp.x;
439 :     pMB->mvs[vec].y = tmp.y;
440 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
441 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
442 :     }
443 :     }
444 :     else if (pMB->mode == MODE_INTER4V)
445 :     {
446 :     for (vec=0 ; vec<4 ; ++vec)
447 :     {
448 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
449 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
450 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
451 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
452 :    
453 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
454 :    
455 :     pMB->mvs[vec].x = tmp.x;
456 :     pMB->mvs[vec].y = tmp.y;
457 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
458 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
459 :     }
460 :     }
461 :     else // intra / intra_q / stuffing / not_coded
462 :     {
463 :     for (vec=0 ; vec<4 ; ++vec)
464 :     {
465 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
466 :     }
467 :     }
468 :     }
469 :     }
470 :     }
471 :    
472 :    
473 :     void HintedMEGet(Encoder * pEnc, int intra)
474 :     {
475 :     HINTINFO * hint;
476 :     Bitstream bs;
477 :     uint32_t x, y;
478 :     int length, high;
479 :    
480 :     hint = pEnc->mbParam.hint;
481 :    
482 :     if (hint->rawhints)
483 :     {
484 :     hint->mvhint.intra = intra;
485 :     }
486 :     else
487 :     {
488 :     BitstreamInit(&bs, hint->hintstream, 0);
489 :     BitstreamPutBit(&bs, intra);
490 :     }
491 :    
492 :     if (intra)
493 :     {
494 :     if (!hint->rawhints)
495 :     {
496 :     BitstreamPad(&bs);
497 :     hint->hintlength = BitstreamLength(&bs);
498 :     }
499 :     return;
500 :     }
501 :    
502 :     length = pEnc->mbParam.fixed_code + 5;
503 :     high = 1 << (length - 1);
504 :    
505 :     if (hint->rawhints)
506 :     {
507 :     hint->mvhint.fcode = pEnc->mbParam.fixed_code;
508 :     }
509 :     else
510 :     {
511 :     BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
512 :     }
513 :    
514 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
515 :     {
516 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
517 :     {
518 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
519 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
520 :     VECTOR tmp;
521 :    
522 :     if (hint->rawhints)
523 :     {
524 :     bhint->mode = pMB->mode;
525 :     }
526 :     else
527 :     {
528 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
529 :     }
530 :    
531 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
532 :     {
533 :     tmp.x = pMB->mvs[0].x;
534 :     tmp.y = pMB->mvs[0].y;
535 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
536 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
537 :    
538 :     if (hint->rawhints)
539 :     {
540 :     bhint->mvs[0].x = tmp.x;
541 :     bhint->mvs[0].y = tmp.y;
542 :     }
543 :     else
544 :     {
545 :     BitstreamPutBits(&bs, tmp.x, length);
546 :     BitstreamPutBits(&bs, tmp.y, length);
547 :     }
548 :     }
549 :     else if (pMB->mode == MODE_INTER4V)
550 :     {
551 :     int vec;
552 :    
553 :     for (vec=0 ; vec<4 ; ++vec)
554 :     {
555 :     tmp.x = pMB->mvs[vec].x;
556 :     tmp.y = pMB->mvs[vec].y;
557 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
558 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
559 :    
560 :     if (hint->rawhints)
561 :     {
562 :     bhint->mvs[vec].x = tmp.x;
563 :     bhint->mvs[vec].y = tmp.y;
564 :     }
565 :     else
566 :     {
567 :     BitstreamPutBits(&bs, tmp.x, length);
568 :     BitstreamPutBits(&bs, tmp.y, length);
569 :     }
570 :     }
571 :     }
572 :     }
573 :     }
574 :    
575 :     if (!hint->rawhints)
576 :     {
577 :     BitstreamPad(&bs);
578 :     hint->hintlength = BitstreamLength(&bs);
579 :     }
580 :     }
581 :    
582 :    
583 : h 104 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
584 :     {
585 :    
586 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
587 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
588 :    
589 :     uint16_t x, y;
590 :    
591 :     pEnc->iFrameNum = 0;
592 :     pEnc->mbParam.rounding_type = 1;
593 :     pEnc->mbParam.coding_type = I_VOP;
594 :    
595 :     BitstreamWriteVolHeader(bs, &pEnc->mbParam);
596 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam);
597 :    
598 :     *pBits = BitstreamPos(bs);
599 :    
600 :     pEnc->sStat.iTextBits = 0;
601 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
602 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
603 :    
604 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
605 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
606 :     {
607 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
608 :    
609 :     CodeIntraMB(pEnc, pMB);
610 :    
611 :     MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
612 :    
613 :     start_timer();
614 :     MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
615 :     stop_prediction_timer();
616 :    
617 :     start_timer();
618 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
619 :     stop_coding_timer();
620 :     }
621 :    
622 :     emms();
623 :    
624 :     *pBits = BitstreamPos(bs) - *pBits;
625 :     pEnc->sStat.fMvPrevSigma = -1;
626 :     pEnc->sStat.iMvSum = 0;
627 :     pEnc->sStat.iMvCount = 0;
628 :     pEnc->mbParam.fixed_code = 2;
629 :    
630 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
631 :     {
632 :     HintedMEGet(pEnc, 1);
633 :     }
634 :    
635 :     return 1; // intra
636 :     }
637 :    
638 :    
639 : Isibaar 3 #define INTRA_THRESHOLD 0.5
640 :    
641 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
642 :     {
643 : edgomez 13 float fSigma;
644 : Isibaar 42
645 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
646 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
647 :    
648 : Isibaar 3 int iLimit;
649 : edgomez 13 uint32_t x, y;
650 :     int iSearchRange;
651 : Isibaar 3 bool bIntra;
652 :    
653 : edgomez 13 IMAGE *pCurrent = &pEnc->sCurrent;
654 :     IMAGE *pRef = &pEnc->sReference;
655 : Isibaar 3
656 : h 69 start_timer();
657 : edgomez 78 image_setedges(pRef,
658 : h 85 pEnc->mbParam.edged_width,
659 :     pEnc->mbParam.edged_height,
660 :     pEnc->mbParam.width,
661 :     pEnc->mbParam.height,
662 :     pEnc->mbParam.global_flags & XVID_INTERLACING);
663 : h 69 stop_edges_timer();
664 : Isibaar 3
665 : edgomez 13 pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
666 : Isibaar 3
667 :     if (!force_inter)
668 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
669 : edgomez 13 else
670 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
671 :    
672 : h 85 if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {
673 : Isibaar 3 start_timer();
674 : h 85 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
675 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
676 :     pEnc->mbParam.rounding_type);
677 : Isibaar 3 stop_inter_timer();
678 :     }
679 :    
680 :     start_timer();
681 : h 101 if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
682 :     {
683 :     HintedMESet(pEnc, &bIntra);
684 :     }
685 :     else
686 :     {
687 :     bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
688 :     &pEnc->vInterH, &pEnc->vInterV,
689 :     &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
690 :     }
691 : Isibaar 3 stop_motion_timer();
692 :    
693 :     if (bIntra == 1)
694 : h 101 {
695 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
696 : h 101 }
697 : Isibaar 3
698 : edgomez 13 pEnc->mbParam.coding_type = P_VOP;
699 : Isibaar 3
700 :     if(vol_header)
701 : h 69 BitstreamWriteVolHeader(bs, &pEnc->mbParam);
702 : Isibaar 3
703 : h 69 BitstreamWriteVopHeader(bs, &pEnc->mbParam);
704 : Isibaar 3
705 : edgomez 13 *pBits = BitstreamPos(bs);
706 : Isibaar 3
707 : edgomez 13 pEnc->sStat.iTextBits = 0;
708 :     pEnc->sStat.iMvSum = 0;
709 :     pEnc->sStat.iMvCount = 0;
710 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
711 :    
712 : edgomez 13 for(y = 0; y < pEnc->mbParam.mb_height; y++)
713 : Isibaar 3 {
714 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
715 :     {
716 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
717 :    
718 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
719 : Isibaar 3
720 :     if (!bIntra)
721 : edgomez 13 {
722 : Isibaar 3 start_timer();
723 : edgomez 78 MBMotionCompensation(pMB,
724 :     x, y,
725 :     &pEnc->sReference,
726 :     &pEnc->vInterH,
727 : h 85 &pEnc->vInterV,
728 :     &pEnc->vInterHV,
729 : edgomez 78 &pEnc->sCurrent,
730 :     dct_codes,
731 : edgomez 13 pEnc->mbParam.width,
732 :     pEnc->mbParam.height,
733 :     pEnc->mbParam.edged_width,
734 :     pEnc->mbParam.rounding_type);
735 : Isibaar 3 stop_comp_timer();
736 :    
737 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
738 :     if(pMB->dquant != NO_CHANGE) {
739 :     pMB->mode = MODE_INTER_Q;
740 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
741 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
742 :     else if(pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
743 :     }
744 :     }
745 :     pMB->quant = pEnc->mbParam.quant;
746 :    
747 : h 69 pMB->field_pred = 0;
748 :    
749 :     pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
750 : edgomez 13 }
751 : Isibaar 3 else
752 :     {
753 :     CodeIntraMB(pEnc, pMB);
754 : h 69 MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
755 : Isibaar 3 }
756 :    
757 : edgomez 13 start_timer();
758 : Isibaar 3 MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
759 :     stop_prediction_timer();
760 :    
761 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
762 :     {
763 :     pEnc->sStat.kblks++;
764 :     }
765 :     else if (pMB->cbp ||
766 : edgomez 13 pMB->mvs[0].x || pMB->mvs[0].y ||
767 :     pMB->mvs[1].x || pMB->mvs[1].y ||
768 :     pMB->mvs[2].x || pMB->mvs[2].y ||
769 :     pMB->mvs[3].x || pMB->mvs[3].y)
770 : Isibaar 3 {
771 :     pEnc->sStat.mblks++;
772 :     }
773 :     else
774 :     {
775 :     pEnc->sStat.ublks++;
776 :     }
777 :    
778 :     start_timer();
779 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
780 :     stop_coding_timer();
781 :     }
782 :     }
783 :    
784 :     emms();
785 :    
786 : h 101 if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
787 :     {
788 :     HintedMEGet(pEnc, 0);
789 :     }
790 :    
791 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
792 :     pEnc->sStat.iMvCount = 1;
793 :    
794 : edgomez 13 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
795 : Isibaar 3
796 : edgomez 13 iSearchRange = 1 << (3 + pEnc->mbParam.fixed_code);
797 : Isibaar 3
798 : edgomez 13 if ((fSigma > iSearchRange / 3)
799 :     && (pEnc->mbParam.fixed_code <= 3)) // maximum search range 128
800 :     {
801 : Isibaar 3 pEnc->mbParam.fixed_code++;
802 :     iSearchRange *= 2;
803 : edgomez 13 }
804 :     else if ((fSigma < iSearchRange / 6)
805 :     && (pEnc->sStat.fMvPrevSigma >= 0)
806 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
807 :     && (pEnc->mbParam.fixed_code >= 2)) // minimum search range 16
808 :     {
809 : Isibaar 3 pEnc->mbParam.fixed_code--;
810 :     iSearchRange /= 2;
811 : edgomez 13 }
812 : Isibaar 3
813 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
814 : Isibaar 3
815 :     *pBits = BitstreamPos(bs) - *pBits;
816 :    
817 : edgomez 13 return 0; // inter
818 : Isibaar 3 }
819 : suxen_drol 118
820 :    
821 :    
822 :     /*
823 :     static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)
824 :     {
825 :     int16_t dct_codes[6][64];
826 :     int16_t qcoeff[6][64];
827 :     uint32_t x, y;
828 :     VECTOR forward;
829 :     VECTOR backward;
830 :    
831 :     IMAGE *f_ref = &pEnc->reference->image;
832 :     IMAGE *b_ref = &pEnc->current->image;
833 :    
834 :     // forward
835 :     image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
836 :     start_timer();
837 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
838 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
839 :     stop_inter_timer();
840 :    
841 :     // backward
842 :     image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
843 :     start_timer();
844 :     image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
845 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
846 :     stop_inter_timer();
847 :    
848 :     start_timer();
849 :     MotionEstimationBVOP(&pEnc->mbParam, frame,
850 :     pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
851 :     pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
852 :    
853 :     stop_motion_timer();
854 :    
855 :     if (test_quant_type(&pEnc->mbParam, pEnc->current))
856 :     {
857 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
858 :     }
859 :    
860 :     frame->coding_type = B_VOP;
861 :     BitstreamWriteVopHeader(bs, B_VOP, frame->tick, 0,
862 :     frame->quant, frame->fcode, frame->bcode);
863 :    
864 :     *pBits = BitstreamPos(bs);
865 :    
866 :     pEnc->sStat.iTextBits = 0;
867 :     pEnc->sStat.iMvSum = 0;
868 :     pEnc->sStat.iMvCount = 0;
869 :     pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
870 :    
871 :    
872 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
873 :     {
874 :     // reset prediction
875 :    
876 :     forward.x = 0;
877 :     forward.y = 0;
878 :     backward.x = 0;
879 :     backward.y = 0;
880 :    
881 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
882 :     {
883 :     MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
884 :     MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
885 :     MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
886 :    
887 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
888 :     if (mb->mode == MODE_NOT_CODED)
889 :     {
890 :     mb->mvs[0].x = 0;
891 :     mb->mvs[0].y = 0;
892 :     continue;
893 :     }
894 :    
895 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
896 :     f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
897 :     b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
898 :     dct_codes);
899 :    
900 :     mb->quant = frame->quant;
901 :     mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, x, y, dct_codes, qcoeff);
902 :     //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
903 :    
904 :    
905 :     if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&
906 :     mb->cbp == 0 &&
907 :     mb->mvs[0].x == 0 &&
908 :     mb->mvs[0].y == 0)
909 :     {
910 :     mb->mode = 5; // skipped
911 :     }
912 :    
913 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)
914 :     {
915 :     mb->pmvs[0].x = mb->mvs[0].x - forward.x;
916 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
917 :     forward.x = mb->mvs[0].x;
918 :     forward.y = mb->mvs[0].y;
919 :     }
920 :    
921 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)
922 :     {
923 :     mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
924 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
925 :     backward.x = mb->b_mvs[0].x;
926 :     backward.y = mb->b_mvs[0].y;
927 :     }
928 :    
929 :     // printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
930 :    
931 :     start_timer();
932 :     MBCodingBVOP(frame, mb, qcoeff, bs, &pEnc->sStat);
933 :     stop_coding_timer();
934 :     }
935 :     }
936 :    
937 :     emms();
938 :    
939 :     // TODO: dynamic fcode/bcode ???
940 :    
941 :     *pBits = BitstreamPos(bs) - *pBits;
942 :    
943 :     }
944 :    
945 :     */

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4