[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 189 - (view) (download)

1 : edgomez 145 /**************************************************************************
2 :     *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 :     ***************************************************************************/
30 : suxen_drol 118
31 : edgomez 145 /****************************************************************************
32 :     *
33 :     * History
34 :     *
35 : chenm001 168 * 08.05.2002 fix some problem in DEBUG mode;
36 :     * MinChen <chenm001@163.com>
37 : edgomez 145 * 14.04.2002 added FrameCodeB()
38 :     *
39 : edgomez 189 * $Id: encoder.c,v 1.38 2002-06-07 10:36:08 edgomez Exp $
40 : edgomez 145 *
41 :     ***************************************************************************/
42 :    
43 : Isibaar 3 #include <stdlib.h>
44 :     #include <stdio.h>
45 :     #include <math.h>
46 :    
47 :     #include "encoder.h"
48 :     #include "prediction/mbprediction.h"
49 :     #include "global.h"
50 :     #include "utils/timer.h"
51 :     #include "image/image.h"
52 : suxen_drol 152 #include "motion/motion.h"
53 : Isibaar 3 #include "bitstream/cbp.h"
54 :     #include "utils/mbfunctions.h"
55 :     #include "bitstream/bitstream.h"
56 :     #include "bitstream/mbcoding.h"
57 :     #include "utils/ratecontrol.h"
58 :     #include "utils/emms.h"
59 :     #include "bitstream/mbcoding.h"
60 :     #include "quant/adapt_quant.h"
61 : Isibaar 4 #include "quant/quant_matrix.h"
62 : Isibaar 41 #include "utils/mem_align.h"
63 : Isibaar 3
64 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
65 : suxen_drol 136 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
66 : Isibaar 3
67 :    
68 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
69 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
70 : suxen_drol 152 static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits);
71 : Isibaar 3
72 :     static int DQtab[4] =
73 :     {
74 :     -1, -2, 1, 2
75 :     };
76 :    
77 :     static int iDQtab[5] =
78 :     {
79 :     1, 0, NO_CHANGE, 2, 3
80 :     };
81 :    
82 :    
83 : suxen_drol 136 void static image_null(IMAGE * image)
84 :     {
85 :     image->y = image->u = image->v = NULL;
86 :     }
87 :    
88 :    
89 : Isibaar 3 int encoder_create(XVID_ENC_PARAM * pParam)
90 :     {
91 : edgomez 13 Encoder *pEnc;
92 : Isibaar 3 uint32_t i;
93 :    
94 : edgomez 13 pParam->handle = NULL;
95 : Isibaar 3
96 : edgomez 13 ENC_CHECK(pParam);
97 : Isibaar 3
98 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
99 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
100 :     ENC_CHECK(!(pParam->width % 2));
101 :     ENC_CHECK(!(pParam->height % 2));
102 : Isibaar 3
103 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
104 :     {
105 :     pParam->fincr = 1;
106 :     pParam->fbase = 25;
107 :     }
108 :    
109 :     // simplify the "fincr/fbase" fraction
110 :     // (neccessary, since windows supplies us with huge numbers)
111 :    
112 :     i = pParam->fincr;
113 :     while (i > 1)
114 :     {
115 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
116 :     {
117 :     pParam->fincr /= i;
118 :     pParam->fbase /= i;
119 :     i = pParam->fincr;
120 :     continue;
121 :     }
122 :     i--;
123 :     }
124 :    
125 :     if (pParam->fbase > 65535)
126 :     {
127 :     float div = (float)pParam->fbase / 65535;
128 :     pParam->fbase = (int)(pParam->fbase / div);
129 :     pParam->fincr = (int)(pParam->fincr / div);
130 :     }
131 :    
132 : h 121 if (pParam->rc_bitrate <= 0)
133 :     pParam->rc_bitrate = 900000;
134 : Isibaar 3
135 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
136 :     pParam->rc_reaction_delay_factor = 16;
137 : Isibaar 3
138 : h 121 if (pParam->rc_averaging_period <= 0)
139 :     pParam->rc_averaging_period = 100;
140 :    
141 :     if (pParam->rc_buffer <= 0)
142 :     pParam->rc_buffer = 100;
143 :    
144 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
145 : Isibaar 3 pParam->min_quantizer = 1;
146 :    
147 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
148 : Isibaar 3 pParam->max_quantizer = 31;
149 :    
150 : edgomez 13 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
151 : Isibaar 3 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
152 :    
153 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
154 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
155 :    
156 : canard 66 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
157 : Isibaar 3 return XVID_ERR_MEMORY;
158 :    
159 :     /* Fill members of Encoder structure */
160 :    
161 : edgomez 13 pEnc->mbParam.width = pParam->width;
162 :     pEnc->mbParam.height = pParam->height;
163 : Isibaar 3
164 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
165 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
166 :    
167 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
168 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
169 :    
170 : suxen_drol 152 pEnc->mbParam.fbase = pParam->fbase;
171 :     pEnc->mbParam.fincr = pParam->fincr;
172 :    
173 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
174 : Isibaar 3
175 :     /* Fill rate control parameters */
176 :    
177 : h 121 pEnc->bitrate = pParam->rc_bitrate;
178 : Isibaar 3
179 : edgomez 13 pEnc->iFrameNum = 0;
180 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
181 : Isibaar 3
182 : suxen_drol 136 /* try to allocate frame memory */
183 : Isibaar 3
184 : suxen_drol 136 pEnc->current = NULL;
185 :     pEnc->reference = NULL;
186 :     if ( (pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE)) == NULL ||
187 :     (pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE)) == NULL)
188 :     {
189 :     if (pEnc->current) xvid_free(pEnc->current);
190 :     xvid_free(pEnc);
191 :     return XVID_ERR_MEMORY;
192 :     }
193 : Isibaar 3
194 : suxen_drol 136 /* try to allocate mb memory */
195 : Isibaar 3
196 : suxen_drol 136 pEnc->current->mbs = NULL;
197 :     pEnc->reference->mbs = NULL;
198 :    
199 :     if ((pEnc->current->mbs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL ||
200 :     (pEnc->reference->mbs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
201 :     {
202 :     if (pEnc->current->mbs) xvid_free(pEnc->current->mbs);
203 :     xvid_free(pEnc->current);
204 :     xvid_free(pEnc->reference);
205 :     xvid_free(pEnc);
206 :     }
207 :    
208 :     /* try to allocate image memory */
209 :    
210 :     #ifdef _DEBUG
211 :     image_null(&pEnc->sOriginal);
212 :     #endif
213 : suxen_drol 152 #ifdef BFRAMES
214 :     image_null(&pEnc->f_refh);
215 :     image_null(&pEnc->f_refv);
216 :     image_null(&pEnc->f_refhv);
217 :     #endif
218 : suxen_drol 136 image_null(&pEnc->current->image);
219 :     image_null(&pEnc->reference->image);
220 :     image_null(&pEnc->vInterH);
221 :     image_null(&pEnc->vInterV);
222 :     image_null(&pEnc->vInterVf);
223 :     image_null(&pEnc->vInterHV);
224 :     image_null(&pEnc->vInterHVf);
225 :    
226 :     if (
227 :     #ifdef _DEBUG
228 :     image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
229 :     #endif
230 : suxen_drol 152 #ifdef BFRAMES
231 :     image_create(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
232 :     image_create(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
233 :     image_create(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
234 :     #endif
235 : suxen_drol 136 image_create(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
236 :     image_create(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
237 : h 86 image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
238 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
239 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
240 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
241 : suxen_drol 136 image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
242 :     {
243 : Isibaar 113 #ifdef _DEBUG
244 : suxen_drol 136 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
245 : Isibaar 113 #endif
246 : suxen_drol 152 #ifdef BFRAMES
247 :     image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
248 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
249 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
250 :     #endif
251 : suxen_drol 136 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
252 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
253 : Isibaar 3 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
254 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
255 : h 86 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
256 : Isibaar 3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
257 : h 86 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
258 : suxen_drol 136
259 :     xvid_free(pEnc->current);
260 :     xvid_free(pEnc->reference);
261 :     xvid_free(pEnc);
262 : Isibaar 3 return XVID_ERR_MEMORY;
263 :     }
264 :    
265 : suxen_drol 152 // ==============================================================================
266 :     #ifdef BFRAMES
267 :    
268 :     // TODO: handle malloc() == NULL
269 : suxen_drol 164 pEnc->mbParam.max_bframes = pParam->max_bframes;
270 : suxen_drol 152 pEnc->bquant_ratio = pParam->bquant_ratio;
271 : suxen_drol 164 if (pEnc->mbParam.max_bframes > 0)
272 : suxen_drol 152 {
273 :     int n;
274 :    
275 : suxen_drol 164 pEnc->bframes = malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *));
276 : suxen_drol 152
277 : suxen_drol 164 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
278 : suxen_drol 152 {
279 :     pEnc->bframes[n] = malloc(sizeof(FRAMEINFO));
280 :     pEnc->bframes[n]->mbs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);
281 :    
282 :     if (image_create(&pEnc->bframes[n]->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
283 :     {
284 :     return XVID_ERR_MEMORY;
285 :     }
286 :     }
287 :     }
288 :     pEnc->bframenum_head = 0;
289 :     pEnc->bframenum_tail = 0;
290 :     pEnc->flush_bframes = 0;
291 :    
292 :     pEnc->mbParam.m_seconds = 0;
293 :     pEnc->mbParam.m_ticks = 0;
294 :     #endif
295 :    
296 :    
297 :     // ==============================================================================
298 :    
299 :    
300 : edgomez 13 pParam->handle = (void *)pEnc;
301 : Isibaar 3
302 : h 121 if (pParam->rc_bitrate)
303 : Isibaar 3 {
304 : edgomez 188 RateControlInit(&pEnc->rate_control,
305 :     pParam->rc_bitrate,
306 :     pParam->rc_reaction_delay_factor,
307 :     pParam->rc_averaging_period,
308 :     pParam->rc_buffer,
309 :     pParam->fbase * 1000 / pParam->fincr,
310 :     pParam->max_quantizer,
311 :     pParam->min_quantizer);
312 : Isibaar 3 }
313 :    
314 : Isibaar 36 init_timer();
315 : Isibaar 3
316 :     return XVID_ERR_OK;
317 :     }
318 :    
319 :    
320 :     int encoder_destroy(Encoder * pEnc)
321 :     {
322 : edgomez 13 ENC_CHECK(pEnc);
323 : Isibaar 3
324 : suxen_drol 152 // =================================================================
325 :     #ifdef BFRAMES
326 : suxen_drol 164 if (pEnc->mbParam.max_bframes > 0)
327 : suxen_drol 152 {
328 :     int n;
329 : suxen_drol 164 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
330 : suxen_drol 152 {
331 :     image_destroy(&pEnc->bframes[n]->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
332 :     free(pEnc->bframes[n]->mbs);
333 :     free(pEnc->bframes[n]);
334 :     }
335 :     free(pEnc->bframes);
336 :     }
337 : edgomez 158 #endif
338 : suxen_drol 152 //====================================================================
339 :    
340 : suxen_drol 136 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
341 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
342 : edgomez 13 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
343 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
344 : h 87 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
345 : edgomez 13 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
346 : h 87 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
347 : suxen_drol 152 #ifdef BFRAMES
348 :     image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
349 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
350 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
351 :     #endif
352 : Isibaar 113 #ifdef _DEBUG
353 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
354 :     #endif
355 : suxen_drol 136 xvid_free(pEnc->current->mbs);
356 :     xvid_free(pEnc->current);
357 :    
358 :     xvid_free(pEnc->reference->mbs);
359 :     xvid_free(pEnc->reference);
360 :    
361 : Isibaar 41 xvid_free(pEnc);
362 : edgomez 13 return XVID_ERR_OK;
363 : Isibaar 3 }
364 :    
365 : suxen_drol 152
366 :    
367 :     // ==================================================================
368 :     #ifdef BFRAMES
369 : Isibaar 3 int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
370 :     {
371 : edgomez 13 uint16_t x, y;
372 :     Bitstream bs;
373 :     uint32_t bits;
374 : suxen_drol 152
375 : chenm001 168 #ifdef _DEBUG
376 :     float psnr;
377 :     char temp[128];
378 :     #endif
379 :    
380 : suxen_drol 152 ENC_CHECK(pEnc);
381 :     ENC_CHECK(pFrame);
382 :    
383 :     start_global_timer();
384 :    
385 :     BitstreamInit(&bs, pFrame->bitstream, 0);
386 :    
387 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
388 :     // bframe "flush" code
389 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
390 :    
391 :     if ((pFrame->image == NULL || pEnc->flush_bframes) &&
392 :     pEnc->bframenum_head < pEnc->bframenum_tail)
393 :     {
394 :    
395 :     if (pEnc->flush_bframes == 0)
396 :     {
397 :     // we have reached end of stream without getting a future reference
398 :     // .. so encode last final frame a pframe
399 :     dprintf("--- PFRAME (final frame correction) --- ");
400 :     pEnc->bframenum_tail--;
401 :     SWAP(pEnc->current, pEnc->reference);
402 :    
403 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
404 :    
405 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
406 :    
407 :     BitstreamPad(&bs);
408 :     pFrame->length = BitstreamLength(&bs);
409 :     pFrame->input_consumed = 0;
410 :     pFrame->intra = 0;
411 :     return XVID_ERR_OK;
412 :     }
413 :    
414 :     dprintf("--- BFRAME (flush) --- ");
415 :     FrameCodeB(pEnc,
416 :     pEnc->bframes[pEnc->bframenum_head],
417 :     &bs, &bits);
418 :     pEnc->bframenum_head++;
419 :    
420 :    
421 :     BitstreamPad(&bs);
422 :     pFrame->length = BitstreamLength(&bs);
423 :     pFrame->input_consumed = 0;
424 :     pFrame->intra = 0;
425 :     return XVID_ERR_OK;
426 :     }
427 :    
428 :     if (pFrame->image == NULL)
429 :     {
430 :     pFrame->length = 0;
431 :     pFrame->input_consumed = 1;
432 :     pFrame->intra = 0;
433 :     return XVID_ERR_OK;
434 :     }
435 :    
436 :     if (pEnc->bframenum_head > 0)
437 :     {
438 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
439 :     }
440 :    
441 :     pEnc->flush_bframes = 0;
442 :    
443 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
444 :    
445 :     SWAP(pEnc->current, pEnc->reference);
446 :    
447 : edgomez 189 pEnc->current->quant = (pFrame->quant == 0) ? RateControlGetQ(&pEnc->rate_control, 0) : pFrame->quant;
448 : Isibaar 157
449 :     if(pEnc->current->quant < 1)
450 :     pEnc->current->quant = 1;
451 :    
452 :     if(pEnc->current->quant > 31)
453 :     pEnc->current->quant = 31;
454 :    
455 : suxen_drol 152 pEnc->current->global_flags = pFrame->general;
456 :     pEnc->current->motion_flags = pFrame->motion;
457 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
458 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
459 :     //@@@ TODO: dyanmic fcode (in both directions)
460 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
461 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
462 :    
463 :     start_timer();
464 :     if (image_input(&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
465 :     pFrame->image, pFrame->colorspace))
466 :     {
467 :     return XVID_ERR_FORMAT;
468 :     }
469 :     stop_conv_timer();
470 :    
471 :     #ifdef _DEBUG
472 : chenm001 168 image_copy(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
473 : suxen_drol 152 #endif
474 :    
475 :    
476 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
477 :     // lumi masking
478 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
479 :    
480 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING))
481 :     {
482 :     int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
483 :    
484 :     pEnc->current->quant = adaptive_quantization(pEnc->current->image.y,
485 :     pEnc->mbParam.edged_width, // stride
486 :     temp_dquants,
487 :     pEnc->current->quant,
488 :     pEnc->current->quant, // min_quant
489 :     2*pEnc->current->quant, // max_quant
490 :     pEnc->mbParam.mb_width,
491 :     pEnc->mbParam.mb_height);
492 :    
493 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
494 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
495 :     {
496 :     MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
497 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
498 :     }
499 :     xvid_free(temp_dquants);
500 :     }
501 :    
502 :    
503 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
504 :     // ivop/pvop/bvop selection
505 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
506 :    
507 :     if (pEnc->iFrameNum == 0 ||
508 :     pFrame->intra == 1 ||
509 :     (pFrame->intra < 0 && (pEnc->iMaxKeyInterval > 0 && pEnc->iFrameNum >= pEnc->iMaxKeyInterval)) ||
510 :     image_mad(&pEnc->reference->image, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.width, pEnc->mbParam.height) > 30)
511 :     {
512 :     dprintf("--- IFRAME ---");
513 :    
514 :     FrameCodeI(pEnc, &bs, &bits);
515 :    
516 :     pFrame->intra = 1;
517 :     pEnc->flush_bframes = 1;
518 :    
519 :     /* note: sequences like "IIBB" decode fine with msfdam but,
520 :     go screwy with divx5.00 */
521 :     }
522 : suxen_drol 164 else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes)
523 : suxen_drol 152 {
524 :     dprintf("--- PFRAME ---");
525 :    
526 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
527 :     pFrame->intra = 0;
528 :     pEnc->flush_bframes = 1;
529 :     }
530 :     else
531 :     {
532 :     dprintf("--- BFRAME (store) --- head=%i tail=%i", pEnc->bframenum_head, pEnc->bframenum_tail);
533 :    
534 :     if (pFrame->bquant < 1)
535 :     {
536 :     pEnc->current->quant = ((pEnc->reference->quant + pEnc->current->quant) * pEnc->bquant_ratio) / 200;
537 :     }
538 :     else
539 :     {
540 :     pEnc->current->quant = pFrame->bquant;
541 :     }
542 :    
543 :     // store frame into bframe buffer & swap ref back to current
544 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
545 :     SWAP(pEnc->current, pEnc->reference);
546 :    
547 :     pEnc->bframenum_tail++;
548 :    
549 :     pFrame->intra = 0;
550 :     pFrame->length = 0;
551 :     pFrame->input_consumed = 1;
552 :    
553 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
554 :     if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)
555 :     {
556 :     pEnc->mbParam.m_seconds++;
557 :     pEnc->mbParam.m_ticks = 0;
558 :     }
559 :     return XVID_ERR_OK;
560 :     }
561 :    
562 :     BitstreamPad(&bs);
563 :     pFrame->length = BitstreamLength(&bs);
564 :    
565 :     if (pResult)
566 :     {
567 :     pResult->quant = pEnc->current->quant;
568 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
569 :     pResult->kblks = pEnc->sStat.kblks;
570 :     pResult->mblks = pEnc->sStat.mblks;
571 :     pResult->ublks = pEnc->sStat.ublks;
572 :     }
573 :    
574 :     #ifdef _DEBUG
575 :     psnr = image_psnr(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width,
576 :     pEnc->mbParam.width, pEnc->mbParam.height);
577 :    
578 :     sprintf(temp, "PSNR: %f\n", psnr);
579 :     DEBUG(temp);
580 :     #endif
581 :    
582 :     if (pFrame->quant == 0)
583 :     {
584 : edgomez 189 RateControlUpdate(&pEnc->rate_control,
585 :     pEnc->current->quant,
586 :     pFrame->length,
587 :     pFrame->intra);
588 : suxen_drol 152 }
589 :    
590 :     pEnc->iFrameNum++;
591 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
592 :     if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)
593 :     {
594 :     pEnc->mbParam.m_seconds++;
595 :     pEnc->mbParam.m_ticks = 0;
596 :     }
597 :     pFrame->input_consumed = 1;
598 :    
599 :     stop_global_timer();
600 :     write_timer();
601 :    
602 :     return XVID_ERR_OK;
603 :     }
604 :     // ==================================================================
605 :     #else
606 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
607 :     {
608 :     uint16_t x, y;
609 :     Bitstream bs;
610 :     uint32_t bits;
611 : Isibaar 4 uint16_t write_vol_header = 0;
612 : Isibaar 113 #ifdef _DEBUG
613 :     float psnr;
614 :     uint8_t temp[100];
615 :     #endif
616 : Isibaar 3
617 :     start_global_timer();
618 :    
619 : edgomez 13 ENC_CHECK(pEnc);
620 :     ENC_CHECK(pFrame);
621 :     ENC_CHECK(pFrame->bitstream);
622 :     ENC_CHECK(pFrame->image);
623 : Isibaar 3
624 : suxen_drol 136 SWAP(pEnc->current, pEnc->reference);
625 :    
626 :     pEnc->current->global_flags = pFrame->general;
627 :     pEnc->current->motion_flags = pFrame->motion;
628 : h 101 pEnc->mbParam.hint = &pFrame->hint;
629 : Isibaar 3
630 :     start_timer();
631 : suxen_drol 136 if (image_input(&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
632 : edgomez 13 pFrame->image, pFrame->colorspace))
633 : Isibaar 3 {
634 :     return XVID_ERR_FORMAT;
635 :     }
636 :     stop_conv_timer();
637 :    
638 : Isibaar 113 #ifdef _DEBUG
639 : chenm001 150 image_copy(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
640 : Isibaar 113 #endif
641 :    
642 : suxen_drol 136 EMMS();
643 :    
644 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
645 : Isibaar 3
646 :     if (pFrame->quant == 0)
647 :     {
648 : edgomez 188 pEnc->current->quant = RateControlGetQ(&pEnc->rate_control,0);
649 : Isibaar 3 }
650 :     else
651 :     {
652 : suxen_drol 136 pEnc->current->quant = pFrame->quant;
653 : Isibaar 3 }
654 :    
655 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING))
656 : Isibaar 3 {
657 : canard 66 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
658 : Isibaar 3
659 : suxen_drol 136 pEnc->current->quant = adaptive_quantization(pEnc->current->image.y,
660 :     pEnc->mbParam.edged_width, // stride
661 : edgomez 78 temp_dquants,
662 : suxen_drol 136 pEnc->current->quant,
663 :     pEnc->current->quant, // min_quant
664 :     2*pEnc->current->quant, // max_quant
665 : edgomez 78 pEnc->mbParam.mb_width,
666 :     pEnc->mbParam.mb_height);
667 : Isibaar 3
668 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
669 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
670 :     {
671 : suxen_drol 136 MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
672 : Isibaar 3 pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
673 :     }
674 : Isibaar 41 xvid_free(temp_dquants);
675 : Isibaar 3 }
676 :    
677 : suxen_drol 136 if (pEnc->current->global_flags & XVID_H263QUANT) {
678 :     if(pEnc->mbParam.m_quant_type != H263_QUANT)
679 : Isibaar 20 write_vol_header = 1;
680 : suxen_drol 136 pEnc->mbParam.m_quant_type = H263_QUANT;
681 : Isibaar 3 }
682 : suxen_drol 136 else if(pEnc->current->global_flags & XVID_MPEGQUANT) {
683 : Isibaar 20 int ret1, ret2;
684 : Isibaar 3
685 : edgomez 78 ret1 = ret2 = 0;
686 :    
687 : suxen_drol 136 if(pEnc->mbParam.m_quant_type != MPEG4_QUANT)
688 : Isibaar 20 write_vol_header = 1;
689 :    
690 : suxen_drol 136 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
691 : Isibaar 20
692 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
693 : Isibaar 20 if(pFrame->quant_intra_matrix != NULL)
694 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
695 :     if(pFrame->quant_inter_matrix != NULL)
696 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
697 :     }
698 :     else {
699 :     ret1 = set_intra_matrix(get_default_intra_matrix());
700 :     ret2 = set_inter_matrix(get_default_inter_matrix());
701 :     }
702 : Isibaar 4 if(write_vol_header == 0)
703 :     write_vol_header = ret1 | ret2;
704 :     }
705 : Isibaar 3
706 :     if (pFrame->intra < 0)
707 : edgomez 13 {
708 : Isibaar 3 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
709 : edgomez 13 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
710 : Isibaar 3
711 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
712 :     else
713 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
714 : edgomez 13 }
715 :     else
716 :     {
717 : Isibaar 3 if (pFrame->intra == 1)
718 : edgomez 13 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
719 : Isibaar 3 else
720 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
721 : edgomez 13 }
722 : Isibaar 3
723 :     BitstreamPutBits(&bs, 0xFFFF, 16);
724 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
725 :     BitstreamPad(&bs);
726 :     pFrame->length = BitstreamLength(&bs);
727 : h 29
728 : Isibaar 3 if (pResult)
729 : edgomez 13 {
730 : suxen_drol 136 pResult->quant = pEnc->current->quant;
731 : Isibaar 3 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
732 :     pResult->kblks = pEnc->sStat.kblks;
733 :     pResult->mblks = pEnc->sStat.mblks;
734 :     pResult->ublks = pEnc->sStat.ublks;
735 : edgomez 13 }
736 : Isibaar 3
737 : Isibaar 41 EMMS();
738 :    
739 : h 29 if (pFrame->quant == 0)
740 : Isibaar 3 {
741 : edgomez 188 RateControlUpdate(&pEnc->rate_control,
742 :     pEnc->current->quant,
743 :     pFrame->length,
744 :     pFrame->intra);
745 : Isibaar 3 }
746 :    
747 : Isibaar 113 #ifdef _DEBUG
748 : suxen_drol 136 psnr = image_psnr(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width,
749 : Isibaar 113 pEnc->mbParam.width, pEnc->mbParam.height);
750 :    
751 :     sprintf(temp, "PSNR: %f\n", psnr);
752 :     DEBUG(temp);
753 :     #endif
754 :    
755 : Isibaar 3 pEnc->iFrameNum++;
756 :    
757 :     stop_global_timer();
758 :     write_timer();
759 :    
760 :     return XVID_ERR_OK;
761 :     }
762 : suxen_drol 152 #endif
763 : Isibaar 3
764 :    
765 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
766 :    
767 :     pMB->mode = MODE_INTRA;
768 :    
769 : suxen_drol 136 /* zero mv statistics */
770 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
771 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
772 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
773 :     pMB->sad16 = 0;
774 :    
775 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
776 : Isibaar 3 if(pMB->dquant != NO_CHANGE)
777 :     {
778 :     pMB->mode = MODE_INTRA_Q;
779 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
780 : Isibaar 3
781 : suxen_drol 136 if (pEnc->current->quant > 31) pEnc->current->quant = 31;
782 :     if (pEnc->current->quant < 1) pEnc->current->quant = 1;
783 : Isibaar 3 }
784 :     }
785 :    
786 : suxen_drol 136 pMB->quant = pEnc->current->quant;
787 : Isibaar 3 }
788 :    
789 :    
790 : h 101 #define FCODEBITS 3
791 :     #define MODEBITS 5
792 :    
793 :     void HintedMESet(Encoder * pEnc, int * intra)
794 :     {
795 :     HINTINFO * hint;
796 :     Bitstream bs;
797 :     int length, high;
798 :     uint32_t x, y;
799 :    
800 :     hint = pEnc->mbParam.hint;
801 :    
802 :     if (hint->rawhints)
803 :     {
804 :     *intra = hint->mvhint.intra;
805 :     }
806 :     else
807 :     {
808 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
809 :     *intra = BitstreamGetBit(&bs);
810 :     }
811 :    
812 :     if (*intra)
813 :     {
814 :     return;
815 :     }
816 :    
817 : suxen_drol 136 pEnc->current->fcode = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
818 : h 101
819 : suxen_drol 136 length = pEnc->current->fcode + 5;
820 : h 101 high = 1 << (length - 1);
821 :    
822 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
823 :     {
824 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
825 :     {
826 : suxen_drol 136 MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
827 : h 101 MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
828 :     VECTOR pred[4];
829 :     VECTOR tmp;
830 : edgomez 147 int32_t dummy[4];
831 : h 101 int vec;
832 :    
833 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
834 :    
835 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
836 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
837 :    
838 :     if (pMB->mode == MODE_INTER)
839 : h 101 {
840 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
841 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
842 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
843 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
844 :    
845 : suxen_drol 136 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
846 : h 101
847 :     for (vec=0 ; vec<4 ; ++vec)
848 :     {
849 :     pMB->mvs[vec].x = tmp.x;
850 :     pMB->mvs[vec].y = tmp.y;
851 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
852 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
853 :     }
854 :     }
855 :     else if (pMB->mode == MODE_INTER4V)
856 :     {
857 :     for (vec=0 ; vec<4 ; ++vec)
858 :     {
859 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
860 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
861 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
862 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
863 :    
864 : suxen_drol 136 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
865 : h 101
866 :     pMB->mvs[vec].x = tmp.x;
867 :     pMB->mvs[vec].y = tmp.y;
868 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
869 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
870 :     }
871 :     }
872 : h 128 else // intra / stuffing / not_coded
873 : h 101 {
874 :     for (vec=0 ; vec<4 ; ++vec)
875 :     {
876 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
877 :     }
878 :     }
879 : h 128
880 : suxen_drol 136 if (pMB->mode == MODE_INTER4V &&
881 :     (pEnc->current->global_flags & XVID_LUMIMASKING) && pMB->dquant != NO_CHANGE)
882 : h 128 {
883 :     pMB->mode = MODE_INTRA;
884 :    
885 :     for (vec=0 ; vec<4 ; ++vec)
886 :     {
887 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
888 :     }
889 :     }
890 : h 101 }
891 :     }
892 :     }
893 :    
894 :    
895 :     void HintedMEGet(Encoder * pEnc, int intra)
896 :     {
897 :     HINTINFO * hint;
898 :     Bitstream bs;
899 :     uint32_t x, y;
900 :     int length, high;
901 :    
902 :     hint = pEnc->mbParam.hint;
903 :    
904 :     if (hint->rawhints)
905 :     {
906 :     hint->mvhint.intra = intra;
907 :     }
908 :     else
909 :     {
910 :     BitstreamInit(&bs, hint->hintstream, 0);
911 :     BitstreamPutBit(&bs, intra);
912 :     }
913 :    
914 :     if (intra)
915 :     {
916 :     if (!hint->rawhints)
917 :     {
918 :     BitstreamPad(&bs);
919 :     hint->hintlength = BitstreamLength(&bs);
920 :     }
921 :     return;
922 :     }
923 :    
924 : suxen_drol 136 length = pEnc->current->fcode + 5;
925 : h 101 high = 1 << (length - 1);
926 :    
927 :     if (hint->rawhints)
928 :     {
929 : suxen_drol 136 hint->mvhint.fcode = pEnc->current->fcode;
930 : h 101 }
931 :     else
932 :     {
933 : suxen_drol 136 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
934 : h 101 }
935 :    
936 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
937 :     {
938 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
939 :     {
940 : suxen_drol 136 MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
941 : h 101 MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
942 :     VECTOR tmp;
943 :    
944 :     if (hint->rawhints)
945 :     {
946 :     bhint->mode = pMB->mode;
947 :     }
948 :     else
949 :     {
950 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
951 :     }
952 :    
953 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
954 :     {
955 :     tmp.x = pMB->mvs[0].x;
956 :     tmp.y = pMB->mvs[0].y;
957 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
958 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
959 :    
960 :     if (hint->rawhints)
961 :     {
962 :     bhint->mvs[0].x = tmp.x;
963 :     bhint->mvs[0].y = tmp.y;
964 :     }
965 :     else
966 :     {
967 :     BitstreamPutBits(&bs, tmp.x, length);
968 :     BitstreamPutBits(&bs, tmp.y, length);
969 :     }
970 :     }
971 :     else if (pMB->mode == MODE_INTER4V)
972 :     {
973 :     int vec;
974 :    
975 :     for (vec=0 ; vec<4 ; ++vec)
976 :     {
977 :     tmp.x = pMB->mvs[vec].x;
978 :     tmp.y = pMB->mvs[vec].y;
979 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
980 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
981 :    
982 :     if (hint->rawhints)
983 :     {
984 :     bhint->mvs[vec].x = tmp.x;
985 :     bhint->mvs[vec].y = tmp.y;
986 :     }
987 :     else
988 :     {
989 :     BitstreamPutBits(&bs, tmp.x, length);
990 :     BitstreamPutBits(&bs, tmp.y, length);
991 :     }
992 :     }
993 :     }
994 :     }
995 :     }
996 :    
997 :     if (!hint->rawhints)
998 :     {
999 :     BitstreamPad(&bs);
1000 :     hint->hintlength = BitstreamLength(&bs);
1001 :     }
1002 :     }
1003 :    
1004 :    
1005 : h 104 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
1006 :     {
1007 :    
1008 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1009 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1010 :    
1011 :     uint16_t x, y;
1012 :    
1013 :     pEnc->iFrameNum = 0;
1014 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1;
1015 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1016 :     pEnc->current->coding_type = I_VOP;
1017 : h 104
1018 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1019 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);
1020 : h 104
1021 :     *pBits = BitstreamPos(bs);
1022 :    
1023 :     pEnc->sStat.iTextBits = 0;
1024 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1025 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1026 :    
1027 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1028 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
1029 :     {
1030 : suxen_drol 136 MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1031 : h 104
1032 :     CodeIntraMB(pEnc, pMB);
1033 :    
1034 : suxen_drol 136 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);
1035 : h 104
1036 :     start_timer();
1037 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1038 : h 104 stop_prediction_timer();
1039 :    
1040 :     start_timer();
1041 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1042 : h 104 stop_coding_timer();
1043 :     }
1044 :    
1045 :     emms();
1046 :    
1047 :     *pBits = BitstreamPos(bs) - *pBits;
1048 :     pEnc->sStat.fMvPrevSigma = -1;
1049 :     pEnc->sStat.iMvSum = 0;
1050 :     pEnc->sStat.iMvCount = 0;
1051 : suxen_drol 136 pEnc->mbParam.m_fcode = 2;
1052 : h 104
1053 : suxen_drol 136 if (pEnc->current->global_flags & XVID_HINTEDME_GET)
1054 : h 104 {
1055 :     HintedMEGet(pEnc, 1);
1056 :     }
1057 :    
1058 :     return 1; // intra
1059 :     }
1060 :    
1061 :    
1062 : Isibaar 3 #define INTRA_THRESHOLD 0.5
1063 :    
1064 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
1065 :     {
1066 : edgomez 13 float fSigma;
1067 : Isibaar 42
1068 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1069 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1070 :    
1071 : Isibaar 3 int iLimit;
1072 : edgomez 13 uint32_t x, y;
1073 :     int iSearchRange;
1074 : edgomez 145 int bIntra;
1075 : Isibaar 3
1076 : edgomez 145 /* IMAGE *pCurrent = &pEnc->current->image; */
1077 : suxen_drol 136 IMAGE *pRef = &pEnc->reference->image;
1078 : Isibaar 3
1079 : h 69 start_timer();
1080 : edgomez 78 image_setedges(pRef,
1081 : h 85 pEnc->mbParam.edged_width,
1082 :     pEnc->mbParam.edged_height,
1083 :     pEnc->mbParam.width,
1084 :     pEnc->mbParam.height,
1085 : suxen_drol 136 pEnc->current->global_flags & XVID_INTERLACING);
1086 : h 69 stop_edges_timer();
1087 : Isibaar 3
1088 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1089 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1090 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1091 : Isibaar 3
1092 :     if (!force_inter)
1093 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
1094 : edgomez 13 else
1095 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1096 :    
1097 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1098 : Isibaar 3 start_timer();
1099 : h 85 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1100 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1101 : suxen_drol 136 pEnc->current->rounding_type);
1102 : Isibaar 3 stop_inter_timer();
1103 :     }
1104 :    
1105 :     start_timer();
1106 : suxen_drol 136 if (pEnc->current->global_flags & XVID_HINTEDME_SET)
1107 : h 101 {
1108 :     HintedMESet(pEnc, &bIntra);
1109 :     }
1110 :     else
1111 :     {
1112 : suxen_drol 136 bIntra = MotionEstimation(
1113 :     &pEnc->mbParam,
1114 :     pEnc->current,
1115 :     pEnc->reference,
1116 :     &pEnc->vInterH,
1117 :     &pEnc->vInterV,
1118 :     &pEnc->vInterHV,
1119 :     iLimit);
1120 : h 101 }
1121 : Isibaar 3 stop_motion_timer();
1122 :    
1123 :     if (bIntra == 1)
1124 : h 101 {
1125 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
1126 : h 101 }
1127 : Isibaar 3
1128 : suxen_drol 136 pEnc->current->coding_type = P_VOP;
1129 : Isibaar 3
1130 :     if(vol_header)
1131 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1132 : Isibaar 3
1133 : suxen_drol 136 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);
1134 : Isibaar 3
1135 : edgomez 13 *pBits = BitstreamPos(bs);
1136 : Isibaar 3
1137 : edgomez 13 pEnc->sStat.iTextBits = 0;
1138 :     pEnc->sStat.iMvSum = 0;
1139 :     pEnc->sStat.iMvCount = 0;
1140 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1141 :    
1142 : edgomez 13 for(y = 0; y < pEnc->mbParam.mb_height; y++)
1143 : Isibaar 3 {
1144 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
1145 :     {
1146 : suxen_drol 136 MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1147 : Isibaar 3
1148 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1149 : Isibaar 3
1150 :     if (!bIntra)
1151 : edgomez 13 {
1152 : Isibaar 3 start_timer();
1153 : edgomez 78 MBMotionCompensation(pMB,
1154 :     x, y,
1155 : suxen_drol 136 &pEnc->reference->image,
1156 : edgomez 78 &pEnc->vInterH,
1157 : h 85 &pEnc->vInterV,
1158 :     &pEnc->vInterHV,
1159 : suxen_drol 136 &pEnc->current->image,
1160 : edgomez 78 dct_codes,
1161 : edgomez 13 pEnc->mbParam.width,
1162 :     pEnc->mbParam.height,
1163 :     pEnc->mbParam.edged_width,
1164 : suxen_drol 136 pEnc->current->rounding_type);
1165 : Isibaar 3 stop_comp_timer();
1166 :    
1167 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1168 : Isibaar 3 if(pMB->dquant != NO_CHANGE) {
1169 :     pMB->mode = MODE_INTER_Q;
1170 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1171 :     if (pEnc->current->quant > 31) pEnc->current->quant = 31;
1172 :     else if(pEnc->current->quant < 1) pEnc->current->quant = 1;
1173 : Isibaar 3 }
1174 :     }
1175 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1176 : Isibaar 3
1177 : h 69 pMB->field_pred = 0;
1178 :    
1179 : suxen_drol 136 pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);
1180 : edgomez 13 }
1181 : Isibaar 3 else
1182 :     {
1183 :     CodeIntraMB(pEnc, pMB);
1184 : suxen_drol 136 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);
1185 : Isibaar 3 }
1186 :    
1187 : edgomez 13 start_timer();
1188 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1189 : Isibaar 3 stop_prediction_timer();
1190 :    
1191 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
1192 :     {
1193 :     pEnc->sStat.kblks++;
1194 :     }
1195 :     else if (pMB->cbp ||
1196 : edgomez 13 pMB->mvs[0].x || pMB->mvs[0].y ||
1197 :     pMB->mvs[1].x || pMB->mvs[1].y ||
1198 :     pMB->mvs[2].x || pMB->mvs[2].y ||
1199 :     pMB->mvs[3].x || pMB->mvs[3].y)
1200 : Isibaar 3 {
1201 :     pEnc->sStat.mblks++;
1202 :     }
1203 :     else
1204 :     {
1205 :     pEnc->sStat.ublks++;
1206 :     }
1207 :    
1208 :     start_timer();
1209 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1210 : Isibaar 3 stop_coding_timer();
1211 :     }
1212 :     }
1213 :    
1214 :     emms();
1215 :    
1216 : suxen_drol 136 if (pEnc->current->global_flags & XVID_HINTEDME_GET)
1217 : h 101 {
1218 :     HintedMEGet(pEnc, 0);
1219 :     }
1220 :    
1221 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
1222 :     pEnc->sStat.iMvCount = 1;
1223 :    
1224 : edgomez 13 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1225 : Isibaar 3
1226 : suxen_drol 136 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1227 : Isibaar 3
1228 : edgomez 13 if ((fSigma > iSearchRange / 3)
1229 : suxen_drol 136 && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1230 : edgomez 13 {
1231 : suxen_drol 136 pEnc->mbParam.m_fcode++;
1232 : Isibaar 3 iSearchRange *= 2;
1233 : edgomez 13 }
1234 :     else if ((fSigma < iSearchRange / 6)
1235 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1236 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1237 : suxen_drol 136 && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1238 : edgomez 13 {
1239 : suxen_drol 136 pEnc->mbParam.m_fcode--;
1240 : Isibaar 3 iSearchRange /= 2;
1241 : edgomez 13 }
1242 : Isibaar 3
1243 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
1244 : Isibaar 3
1245 :     *pBits = BitstreamPos(bs) - *pBits;
1246 :    
1247 : edgomez 13 return 0; // inter
1248 : Isibaar 3 }
1249 : suxen_drol 118
1250 :    
1251 : suxen_drol 152 #ifdef BFRAMES
1252 : suxen_drol 118 static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)
1253 :     {
1254 : suxen_drol 152 int16_t dct_codes[6*64];
1255 :     int16_t qcoeff[6*64];
1256 :     uint32_t x, y;
1257 : suxen_drol 118 VECTOR forward;
1258 :     VECTOR backward;
1259 :    
1260 : suxen_drol 152 IMAGE *f_ref = &pEnc->reference->image;
1261 : suxen_drol 118 IMAGE *b_ref = &pEnc->current->image;
1262 :    
1263 : suxen_drol 152 // forward
1264 :     image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);
1265 : suxen_drol 118 start_timer();
1266 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1267 : suxen_drol 152 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
1268 : suxen_drol 118 stop_inter_timer();
1269 :    
1270 : suxen_drol 152 // backward
1271 :     image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);
1272 :     start_timer();
1273 : suxen_drol 118 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1274 : suxen_drol 152 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
1275 : suxen_drol 118 stop_inter_timer();
1276 :    
1277 :     start_timer();
1278 :     MotionEstimationBVOP(&pEnc->mbParam, frame,
1279 : suxen_drol 152 pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1280 :     pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
1281 :    
1282 : suxen_drol 118
1283 :     stop_motion_timer();
1284 :    
1285 : suxen_drol 152 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1286 : suxen_drol 118 {
1287 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1288 : suxen_drol 152 }*/
1289 : suxen_drol 118
1290 : suxen_drol 152 frame->coding_type = B_VOP;
1291 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame);
1292 : suxen_drol 118
1293 : suxen_drol 152 *pBits = BitstreamPos(bs);
1294 : suxen_drol 118
1295 : suxen_drol 152 pEnc->sStat.iTextBits = 0;
1296 :     pEnc->sStat.iMvSum = 0;
1297 :     pEnc->sStat.iMvCount = 0;
1298 : suxen_drol 118 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1299 :    
1300 :    
1301 : suxen_drol 152 for (y = 0; y < pEnc->mbParam.mb_height; y++)
1302 : suxen_drol 118 {
1303 :     // reset prediction
1304 :    
1305 :     forward.x = 0;
1306 :     forward.y = 0;
1307 :     backward.x = 0;
1308 :     backward.y = 0;
1309 :    
1310 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
1311 :     {
1312 :     MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1313 :     MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1314 :     MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1315 :    
1316 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1317 :     if (mb->mode == MODE_NOT_CODED)
1318 :     {
1319 :     mb->mvs[0].x = 0;
1320 :     mb->mvs[0].y = 0;
1321 :     continue;
1322 :     }
1323 :    
1324 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1325 : suxen_drol 152 f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1326 :     b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1327 :     dct_codes);
1328 : suxen_drol 118
1329 :     mb->quant = frame->quant;
1330 : suxen_drol 152 mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes, qcoeff);
1331 : suxen_drol 118 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1332 :    
1333 :    
1334 :     if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&
1335 : suxen_drol 152 mb->cbp == 0 &&
1336 :     mb->mvs[0].x == 0 &&
1337 :     mb->mvs[0].y == 0)
1338 : suxen_drol 118 {
1339 :     mb->mode = 5; // skipped
1340 :     }
1341 :    
1342 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)
1343 :     {
1344 :     mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1345 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1346 :     forward.x = mb->mvs[0].x;
1347 :     forward.y = mb->mvs[0].y;
1348 :     }
1349 :    
1350 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)
1351 :     {
1352 :     mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1353 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1354 :     backward.x = mb->b_mvs[0].x;
1355 :     backward.y = mb->b_mvs[0].y;
1356 :     }
1357 :    
1358 : suxen_drol 152 // printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
1359 : suxen_drol 118
1360 :     start_timer();
1361 : suxen_drol 152 MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs, &pEnc->sStat);
1362 : suxen_drol 118 stop_coding_timer();
1363 :     }
1364 :     }
1365 :    
1366 :     emms();
1367 :    
1368 :     // TODO: dynamic fcode/bcode ???
1369 :    
1370 :     *pBits = BitstreamPos(bs) - *pBits;
1371 :     }
1372 : edgomez 188 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4