[svn] / branches / dev-api-3 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-3/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 188 - (view) (download)
Original Path: trunk/xvidcore/src/encoder.c

1 : edgomez 145 /**************************************************************************
2 :     *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 :     ***************************************************************************/
30 : suxen_drol 118
31 : edgomez 145 /****************************************************************************
32 :     *
33 :     * History
34 :     *
35 : chenm001 168 * 08.05.2002 fix some problem in DEBUG mode;
36 :     * MinChen <chenm001@163.com>
37 : edgomez 145 * 14.04.2002 added FrameCodeB()
38 :     *
39 : edgomez 188 * $Id: encoder.c,v 1.37 2002-06-07 10:21:48 edgomez Exp $
40 : edgomez 145 *
41 :     ***************************************************************************/
42 :    
43 : Isibaar 3 #include <stdlib.h>
44 :     #include <stdio.h>
45 :     #include <math.h>
46 :    
47 :     #include "encoder.h"
48 :     #include "prediction/mbprediction.h"
49 :     #include "global.h"
50 :     #include "utils/timer.h"
51 :     #include "image/image.h"
52 : suxen_drol 152 #include "motion/motion.h"
53 : Isibaar 3 #include "bitstream/cbp.h"
54 :     #include "utils/mbfunctions.h"
55 :     #include "bitstream/bitstream.h"
56 :     #include "bitstream/mbcoding.h"
57 :     #include "utils/ratecontrol.h"
58 :     #include "utils/emms.h"
59 :     #include "bitstream/mbcoding.h"
60 :     #include "quant/adapt_quant.h"
61 : Isibaar 4 #include "quant/quant_matrix.h"
62 : Isibaar 41 #include "utils/mem_align.h"
63 : Isibaar 3
64 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
65 : suxen_drol 136 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
66 : Isibaar 3
67 :    
68 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
69 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
70 : suxen_drol 152 static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits);
71 : Isibaar 3
72 :     static int DQtab[4] =
73 :     {
74 :     -1, -2, 1, 2
75 :     };
76 :    
77 :     static int iDQtab[5] =
78 :     {
79 :     1, 0, NO_CHANGE, 2, 3
80 :     };
81 :    
82 :    
83 : suxen_drol 136 void static image_null(IMAGE * image)
84 :     {
85 :     image->y = image->u = image->v = NULL;
86 :     }
87 :    
88 :    
89 : Isibaar 3 int encoder_create(XVID_ENC_PARAM * pParam)
90 :     {
91 : edgomez 13 Encoder *pEnc;
92 : Isibaar 3 uint32_t i;
93 :    
94 : edgomez 13 pParam->handle = NULL;
95 : Isibaar 3
96 : edgomez 13 ENC_CHECK(pParam);
97 : Isibaar 3
98 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
99 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
100 :     ENC_CHECK(!(pParam->width % 2));
101 :     ENC_CHECK(!(pParam->height % 2));
102 : Isibaar 3
103 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
104 :     {
105 :     pParam->fincr = 1;
106 :     pParam->fbase = 25;
107 :     }
108 :    
109 :     // simplify the "fincr/fbase" fraction
110 :     // (neccessary, since windows supplies us with huge numbers)
111 :    
112 :     i = pParam->fincr;
113 :     while (i > 1)
114 :     {
115 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
116 :     {
117 :     pParam->fincr /= i;
118 :     pParam->fbase /= i;
119 :     i = pParam->fincr;
120 :     continue;
121 :     }
122 :     i--;
123 :     }
124 :    
125 :     if (pParam->fbase > 65535)
126 :     {
127 :     float div = (float)pParam->fbase / 65535;
128 :     pParam->fbase = (int)(pParam->fbase / div);
129 :     pParam->fincr = (int)(pParam->fincr / div);
130 :     }
131 :    
132 : h 121 if (pParam->rc_bitrate <= 0)
133 :     pParam->rc_bitrate = 900000;
134 : Isibaar 3
135 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
136 :     pParam->rc_reaction_delay_factor = 16;
137 : Isibaar 3
138 : h 121 if (pParam->rc_averaging_period <= 0)
139 :     pParam->rc_averaging_period = 100;
140 :    
141 :     if (pParam->rc_buffer <= 0)
142 :     pParam->rc_buffer = 100;
143 :    
144 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
145 : Isibaar 3 pParam->min_quantizer = 1;
146 :    
147 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
148 : Isibaar 3 pParam->max_quantizer = 31;
149 :    
150 : edgomez 13 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
151 : Isibaar 3 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
152 :    
153 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
154 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
155 :    
156 : canard 66 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
157 : Isibaar 3 return XVID_ERR_MEMORY;
158 :    
159 :     /* Fill members of Encoder structure */
160 :    
161 : edgomez 13 pEnc->mbParam.width = pParam->width;
162 :     pEnc->mbParam.height = pParam->height;
163 : Isibaar 3
164 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
165 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
166 :    
167 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
168 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
169 :    
170 : suxen_drol 152 pEnc->mbParam.fbase = pParam->fbase;
171 :     pEnc->mbParam.fincr = pParam->fincr;
172 :    
173 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
174 : Isibaar 3
175 :     /* Fill rate control parameters */
176 :    
177 : h 121 pEnc->bitrate = pParam->rc_bitrate;
178 : Isibaar 3
179 : edgomez 13 pEnc->iFrameNum = 0;
180 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
181 : Isibaar 3
182 : suxen_drol 136 /* try to allocate frame memory */
183 : Isibaar 3
184 : suxen_drol 136 pEnc->current = NULL;
185 :     pEnc->reference = NULL;
186 :     if ( (pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE)) == NULL ||
187 :     (pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE)) == NULL)
188 :     {
189 :     if (pEnc->current) xvid_free(pEnc->current);
190 :     xvid_free(pEnc);
191 :     return XVID_ERR_MEMORY;
192 :     }
193 : Isibaar 3
194 : suxen_drol 136 /* try to allocate mb memory */
195 : Isibaar 3
196 : suxen_drol 136 pEnc->current->mbs = NULL;
197 :     pEnc->reference->mbs = NULL;
198 :    
199 :     if ((pEnc->current->mbs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL ||
200 :     (pEnc->reference->mbs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
201 :     {
202 :     if (pEnc->current->mbs) xvid_free(pEnc->current->mbs);
203 :     xvid_free(pEnc->current);
204 :     xvid_free(pEnc->reference);
205 :     xvid_free(pEnc);
206 :     }
207 :    
208 :     /* try to allocate image memory */
209 :    
210 :     #ifdef _DEBUG
211 :     image_null(&pEnc->sOriginal);
212 :     #endif
213 : suxen_drol 152 #ifdef BFRAMES
214 :     image_null(&pEnc->f_refh);
215 :     image_null(&pEnc->f_refv);
216 :     image_null(&pEnc->f_refhv);
217 :     #endif
218 : suxen_drol 136 image_null(&pEnc->current->image);
219 :     image_null(&pEnc->reference->image);
220 :     image_null(&pEnc->vInterH);
221 :     image_null(&pEnc->vInterV);
222 :     image_null(&pEnc->vInterVf);
223 :     image_null(&pEnc->vInterHV);
224 :     image_null(&pEnc->vInterHVf);
225 :    
226 :     if (
227 :     #ifdef _DEBUG
228 :     image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
229 :     #endif
230 : suxen_drol 152 #ifdef BFRAMES
231 :     image_create(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
232 :     image_create(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
233 :     image_create(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
234 :     #endif
235 : suxen_drol 136 image_create(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
236 :     image_create(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
237 : h 86 image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
238 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
239 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
240 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
241 : suxen_drol 136 image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
242 :     {
243 : Isibaar 113 #ifdef _DEBUG
244 : suxen_drol 136 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
245 : Isibaar 113 #endif
246 : suxen_drol 152 #ifdef BFRAMES
247 :     image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
248 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
249 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
250 :     #endif
251 : suxen_drol 136 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
252 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
253 : Isibaar 3 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
254 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
255 : h 86 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
256 : Isibaar 3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
257 : h 86 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
258 : suxen_drol 136
259 :     xvid_free(pEnc->current);
260 :     xvid_free(pEnc->reference);
261 :     xvid_free(pEnc);
262 : Isibaar 3 return XVID_ERR_MEMORY;
263 :     }
264 :    
265 : suxen_drol 152 // ==============================================================================
266 :     #ifdef BFRAMES
267 :    
268 :     // TODO: handle malloc() == NULL
269 : suxen_drol 164 pEnc->mbParam.max_bframes = pParam->max_bframes;
270 : suxen_drol 152 pEnc->bquant_ratio = pParam->bquant_ratio;
271 : suxen_drol 164 if (pEnc->mbParam.max_bframes > 0)
272 : suxen_drol 152 {
273 :     int n;
274 :    
275 : suxen_drol 164 pEnc->bframes = malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *));
276 : suxen_drol 152
277 : suxen_drol 164 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
278 : suxen_drol 152 {
279 :     pEnc->bframes[n] = malloc(sizeof(FRAMEINFO));
280 :     pEnc->bframes[n]->mbs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);
281 :    
282 :     if (image_create(&pEnc->bframes[n]->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
283 :     {
284 :     return XVID_ERR_MEMORY;
285 :     }
286 :     }
287 :     }
288 :     pEnc->bframenum_head = 0;
289 :     pEnc->bframenum_tail = 0;
290 :     pEnc->flush_bframes = 0;
291 :    
292 :     pEnc->mbParam.m_seconds = 0;
293 :     pEnc->mbParam.m_ticks = 0;
294 :     #endif
295 :    
296 :    
297 :     // ==============================================================================
298 :    
299 :    
300 : edgomez 13 pParam->handle = (void *)pEnc;
301 : Isibaar 3
302 : h 121 if (pParam->rc_bitrate)
303 : Isibaar 3 {
304 : edgomez 188 RateControlInit(&pEnc->rate_control,
305 :     pParam->rc_bitrate,
306 :     pParam->rc_reaction_delay_factor,
307 :     pParam->rc_averaging_period,
308 :     pParam->rc_buffer,
309 :     pParam->fbase * 1000 / pParam->fincr,
310 :     pParam->max_quantizer,
311 :     pParam->min_quantizer);
312 : Isibaar 3 }
313 :    
314 : Isibaar 36 init_timer();
315 : Isibaar 3
316 :     return XVID_ERR_OK;
317 :     }
318 :    
319 :    
320 :     int encoder_destroy(Encoder * pEnc)
321 :     {
322 : edgomez 13 ENC_CHECK(pEnc);
323 : Isibaar 3
324 : suxen_drol 152 // =================================================================
325 :     #ifdef BFRAMES
326 : suxen_drol 164 if (pEnc->mbParam.max_bframes > 0)
327 : suxen_drol 152 {
328 :     int n;
329 : suxen_drol 164 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
330 : suxen_drol 152 {
331 :     image_destroy(&pEnc->bframes[n]->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
332 :     free(pEnc->bframes[n]->mbs);
333 :     free(pEnc->bframes[n]);
334 :     }
335 :     free(pEnc->bframes);
336 :     }
337 : edgomez 158 #endif
338 : suxen_drol 152 //====================================================================
339 :    
340 : suxen_drol 136 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
341 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
342 : edgomez 13 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
343 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
344 : h 87 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
345 : edgomez 13 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
346 : h 87 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
347 : suxen_drol 152 #ifdef BFRAMES
348 :     image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
349 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
350 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
351 :     #endif
352 : Isibaar 113 #ifdef _DEBUG
353 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
354 :     #endif
355 : suxen_drol 136 xvid_free(pEnc->current->mbs);
356 :     xvid_free(pEnc->current);
357 :    
358 :     xvid_free(pEnc->reference->mbs);
359 :     xvid_free(pEnc->reference);
360 :    
361 : Isibaar 41 xvid_free(pEnc);
362 : edgomez 13 return XVID_ERR_OK;
363 : Isibaar 3 }
364 :    
365 : suxen_drol 152
366 :    
367 :     // ==================================================================
368 :     #ifdef BFRAMES
369 : Isibaar 3 int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
370 :     {
371 : edgomez 13 uint16_t x, y;
372 :     Bitstream bs;
373 :     uint32_t bits;
374 : suxen_drol 152
375 : chenm001 168 #ifdef _DEBUG
376 :     float psnr;
377 :     char temp[128];
378 :     #endif
379 :    
380 : suxen_drol 152 ENC_CHECK(pEnc);
381 :     ENC_CHECK(pFrame);
382 :    
383 :     start_global_timer();
384 :    
385 :     BitstreamInit(&bs, pFrame->bitstream, 0);
386 :    
387 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
388 :     // bframe "flush" code
389 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
390 :    
391 :     if ((pFrame->image == NULL || pEnc->flush_bframes) &&
392 :     pEnc->bframenum_head < pEnc->bframenum_tail)
393 :     {
394 :    
395 :     if (pEnc->flush_bframes == 0)
396 :     {
397 :     // we have reached end of stream without getting a future reference
398 :     // .. so encode last final frame a pframe
399 :     dprintf("--- PFRAME (final frame correction) --- ");
400 :     pEnc->bframenum_tail--;
401 :     SWAP(pEnc->current, pEnc->reference);
402 :    
403 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
404 :    
405 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
406 :    
407 :     BitstreamPad(&bs);
408 :     pFrame->length = BitstreamLength(&bs);
409 :     pFrame->input_consumed = 0;
410 :     pFrame->intra = 0;
411 :     return XVID_ERR_OK;
412 :     }
413 :    
414 :     dprintf("--- BFRAME (flush) --- ");
415 :     FrameCodeB(pEnc,
416 :     pEnc->bframes[pEnc->bframenum_head],
417 :     &bs, &bits);
418 :     pEnc->bframenum_head++;
419 :    
420 :    
421 :     BitstreamPad(&bs);
422 :     pFrame->length = BitstreamLength(&bs);
423 :     pFrame->input_consumed = 0;
424 :     pFrame->intra = 0;
425 :     return XVID_ERR_OK;
426 :     }
427 :    
428 :     if (pFrame->image == NULL)
429 :     {
430 :     pFrame->length = 0;
431 :     pFrame->input_consumed = 1;
432 :     pFrame->intra = 0;
433 :     return XVID_ERR_OK;
434 :     }
435 :    
436 :     if (pEnc->bframenum_head > 0)
437 :     {
438 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
439 :     }
440 :    
441 :     pEnc->flush_bframes = 0;
442 :    
443 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
444 :    
445 :     SWAP(pEnc->current, pEnc->reference);
446 :    
447 :     pEnc->current->quant = (pFrame->quant == 0) ? RateControlGetQ(0) : pFrame->quant;
448 : Isibaar 157
449 :     if(pEnc->current->quant < 1)
450 :     pEnc->current->quant = 1;
451 :    
452 :     if(pEnc->current->quant > 31)
453 :     pEnc->current->quant = 31;
454 :    
455 : suxen_drol 152 pEnc->current->global_flags = pFrame->general;
456 :     pEnc->current->motion_flags = pFrame->motion;
457 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
458 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
459 :     //@@@ TODO: dyanmic fcode (in both directions)
460 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
461 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
462 :    
463 :     start_timer();
464 :     if (image_input(&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
465 :     pFrame->image, pFrame->colorspace))
466 :     {
467 :     return XVID_ERR_FORMAT;
468 :     }
469 :     stop_conv_timer();
470 :    
471 :     #ifdef _DEBUG
472 : chenm001 168 image_copy(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
473 : suxen_drol 152 #endif
474 :    
475 :    
476 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
477 :     // lumi masking
478 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
479 :    
480 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING))
481 :     {
482 :     int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
483 :    
484 :     pEnc->current->quant = adaptive_quantization(pEnc->current->image.y,
485 :     pEnc->mbParam.edged_width, // stride
486 :     temp_dquants,
487 :     pEnc->current->quant,
488 :     pEnc->current->quant, // min_quant
489 :     2*pEnc->current->quant, // max_quant
490 :     pEnc->mbParam.mb_width,
491 :     pEnc->mbParam.mb_height);
492 :    
493 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
494 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
495 :     {
496 :     MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
497 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
498 :     }
499 :     xvid_free(temp_dquants);
500 :     }
501 :    
502 :    
503 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
504 :     // ivop/pvop/bvop selection
505 :     // %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
506 :    
507 :     if (pEnc->iFrameNum == 0 ||
508 :     pFrame->intra == 1 ||
509 :     (pFrame->intra < 0 && (pEnc->iMaxKeyInterval > 0 && pEnc->iFrameNum >= pEnc->iMaxKeyInterval)) ||
510 :     image_mad(&pEnc->reference->image, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.width, pEnc->mbParam.height) > 30)
511 :     {
512 :     dprintf("--- IFRAME ---");
513 :    
514 :     FrameCodeI(pEnc, &bs, &bits);
515 :    
516 :     pFrame->intra = 1;
517 :     pEnc->flush_bframes = 1;
518 :    
519 :     /* note: sequences like "IIBB" decode fine with msfdam but,
520 :     go screwy with divx5.00 */
521 :     }
522 : suxen_drol 164 else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes)
523 : suxen_drol 152 {
524 :     dprintf("--- PFRAME ---");
525 :    
526 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
527 :     pFrame->intra = 0;
528 :     pEnc->flush_bframes = 1;
529 :     }
530 :     else
531 :     {
532 :     dprintf("--- BFRAME (store) --- head=%i tail=%i", pEnc->bframenum_head, pEnc->bframenum_tail);
533 :    
534 :     if (pFrame->bquant < 1)
535 :     {
536 :     pEnc->current->quant = ((pEnc->reference->quant + pEnc->current->quant) * pEnc->bquant_ratio) / 200;
537 :     }
538 :     else
539 :     {
540 :     pEnc->current->quant = pFrame->bquant;
541 :     }
542 :    
543 :     // store frame into bframe buffer & swap ref back to current
544 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
545 :     SWAP(pEnc->current, pEnc->reference);
546 :    
547 :     pEnc->bframenum_tail++;
548 :    
549 :     pFrame->intra = 0;
550 :     pFrame->length = 0;
551 :     pFrame->input_consumed = 1;
552 :    
553 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
554 :     if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)
555 :     {
556 :     pEnc->mbParam.m_seconds++;
557 :     pEnc->mbParam.m_ticks = 0;
558 :     }
559 :     return XVID_ERR_OK;
560 :     }
561 :    
562 :     BitstreamPad(&bs);
563 :     pFrame->length = BitstreamLength(&bs);
564 :    
565 :     if (pResult)
566 :     {
567 :     pResult->quant = pEnc->current->quant;
568 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
569 :     pResult->kblks = pEnc->sStat.kblks;
570 :     pResult->mblks = pEnc->sStat.mblks;
571 :     pResult->ublks = pEnc->sStat.ublks;
572 :     }
573 :    
574 :     #ifdef _DEBUG
575 :     psnr = image_psnr(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width,
576 :     pEnc->mbParam.width, pEnc->mbParam.height);
577 :    
578 :     sprintf(temp, "PSNR: %f\n", psnr);
579 :     DEBUG(temp);
580 :     #endif
581 :    
582 :     if (pFrame->quant == 0)
583 :     {
584 :     RateControlUpdate(pEnc->current->quant, pFrame->length, pFrame->intra);
585 :     }
586 :    
587 :     pEnc->iFrameNum++;
588 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
589 :     if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase)
590 :     {
591 :     pEnc->mbParam.m_seconds++;
592 :     pEnc->mbParam.m_ticks = 0;
593 :     }
594 :     pFrame->input_consumed = 1;
595 :    
596 :     stop_global_timer();
597 :     write_timer();
598 :    
599 :     return XVID_ERR_OK;
600 :     }
601 :     // ==================================================================
602 :     #else
603 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
604 :     {
605 :     uint16_t x, y;
606 :     Bitstream bs;
607 :     uint32_t bits;
608 : Isibaar 4 uint16_t write_vol_header = 0;
609 : Isibaar 113 #ifdef _DEBUG
610 :     float psnr;
611 :     uint8_t temp[100];
612 :     #endif
613 : Isibaar 3
614 :     start_global_timer();
615 :    
616 : edgomez 13 ENC_CHECK(pEnc);
617 :     ENC_CHECK(pFrame);
618 :     ENC_CHECK(pFrame->bitstream);
619 :     ENC_CHECK(pFrame->image);
620 : Isibaar 3
621 : suxen_drol 136 SWAP(pEnc->current, pEnc->reference);
622 :    
623 :     pEnc->current->global_flags = pFrame->general;
624 :     pEnc->current->motion_flags = pFrame->motion;
625 : h 101 pEnc->mbParam.hint = &pFrame->hint;
626 : Isibaar 3
627 :     start_timer();
628 : suxen_drol 136 if (image_input(&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
629 : edgomez 13 pFrame->image, pFrame->colorspace))
630 : Isibaar 3 {
631 :     return XVID_ERR_FORMAT;
632 :     }
633 :     stop_conv_timer();
634 :    
635 : Isibaar 113 #ifdef _DEBUG
636 : chenm001 150 image_copy(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
637 : Isibaar 113 #endif
638 :    
639 : suxen_drol 136 EMMS();
640 :    
641 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
642 : Isibaar 3
643 :     if (pFrame->quant == 0)
644 :     {
645 : edgomez 188 pEnc->current->quant = RateControlGetQ(&pEnc->rate_control,0);
646 : Isibaar 3 }
647 :     else
648 :     {
649 : suxen_drol 136 pEnc->current->quant = pFrame->quant;
650 : Isibaar 3 }
651 :    
652 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING))
653 : Isibaar 3 {
654 : canard 66 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
655 : Isibaar 3
656 : suxen_drol 136 pEnc->current->quant = adaptive_quantization(pEnc->current->image.y,
657 :     pEnc->mbParam.edged_width, // stride
658 : edgomez 78 temp_dquants,
659 : suxen_drol 136 pEnc->current->quant,
660 :     pEnc->current->quant, // min_quant
661 :     2*pEnc->current->quant, // max_quant
662 : edgomez 78 pEnc->mbParam.mb_width,
663 :     pEnc->mbParam.mb_height);
664 : Isibaar 3
665 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
666 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
667 :     {
668 : suxen_drol 136 MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
669 : Isibaar 3 pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
670 :     }
671 : Isibaar 41 xvid_free(temp_dquants);
672 : Isibaar 3 }
673 :    
674 : suxen_drol 136 if (pEnc->current->global_flags & XVID_H263QUANT) {
675 :     if(pEnc->mbParam.m_quant_type != H263_QUANT)
676 : Isibaar 20 write_vol_header = 1;
677 : suxen_drol 136 pEnc->mbParam.m_quant_type = H263_QUANT;
678 : Isibaar 3 }
679 : suxen_drol 136 else if(pEnc->current->global_flags & XVID_MPEGQUANT) {
680 : Isibaar 20 int ret1, ret2;
681 : Isibaar 3
682 : edgomez 78 ret1 = ret2 = 0;
683 :    
684 : suxen_drol 136 if(pEnc->mbParam.m_quant_type != MPEG4_QUANT)
685 : Isibaar 20 write_vol_header = 1;
686 :    
687 : suxen_drol 136 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
688 : Isibaar 20
689 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
690 : Isibaar 20 if(pFrame->quant_intra_matrix != NULL)
691 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
692 :     if(pFrame->quant_inter_matrix != NULL)
693 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
694 :     }
695 :     else {
696 :     ret1 = set_intra_matrix(get_default_intra_matrix());
697 :     ret2 = set_inter_matrix(get_default_inter_matrix());
698 :     }
699 : Isibaar 4 if(write_vol_header == 0)
700 :     write_vol_header = ret1 | ret2;
701 :     }
702 : Isibaar 3
703 :     if (pFrame->intra < 0)
704 : edgomez 13 {
705 : Isibaar 3 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
706 : edgomez 13 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
707 : Isibaar 3
708 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
709 :     else
710 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
711 : edgomez 13 }
712 :     else
713 :     {
714 : Isibaar 3 if (pFrame->intra == 1)
715 : edgomez 13 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
716 : Isibaar 3 else
717 : Isibaar 4 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
718 : edgomez 13 }
719 : Isibaar 3
720 :     BitstreamPutBits(&bs, 0xFFFF, 16);
721 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
722 :     BitstreamPad(&bs);
723 :     pFrame->length = BitstreamLength(&bs);
724 : h 29
725 : Isibaar 3 if (pResult)
726 : edgomez 13 {
727 : suxen_drol 136 pResult->quant = pEnc->current->quant;
728 : Isibaar 3 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
729 :     pResult->kblks = pEnc->sStat.kblks;
730 :     pResult->mblks = pEnc->sStat.mblks;
731 :     pResult->ublks = pEnc->sStat.ublks;
732 : edgomez 13 }
733 : Isibaar 3
734 : Isibaar 41 EMMS();
735 :    
736 : h 29 if (pFrame->quant == 0)
737 : Isibaar 3 {
738 : edgomez 188 RateControlUpdate(&pEnc->rate_control,
739 :     pEnc->current->quant,
740 :     pFrame->length,
741 :     pFrame->intra);
742 : Isibaar 3 }
743 :    
744 : Isibaar 113 #ifdef _DEBUG
745 : suxen_drol 136 psnr = image_psnr(&pEnc->sOriginal, &pEnc->current->image, pEnc->mbParam.edged_width,
746 : Isibaar 113 pEnc->mbParam.width, pEnc->mbParam.height);
747 :    
748 :     sprintf(temp, "PSNR: %f\n", psnr);
749 :     DEBUG(temp);
750 :     #endif
751 :    
752 : Isibaar 3 pEnc->iFrameNum++;
753 :    
754 :     stop_global_timer();
755 :     write_timer();
756 :    
757 :     return XVID_ERR_OK;
758 :     }
759 : suxen_drol 152 #endif
760 : Isibaar 3
761 :    
762 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
763 :    
764 :     pMB->mode = MODE_INTRA;
765 :    
766 : suxen_drol 136 /* zero mv statistics */
767 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
768 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
769 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
770 :     pMB->sad16 = 0;
771 :    
772 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
773 : Isibaar 3 if(pMB->dquant != NO_CHANGE)
774 :     {
775 :     pMB->mode = MODE_INTRA_Q;
776 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
777 : Isibaar 3
778 : suxen_drol 136 if (pEnc->current->quant > 31) pEnc->current->quant = 31;
779 :     if (pEnc->current->quant < 1) pEnc->current->quant = 1;
780 : Isibaar 3 }
781 :     }
782 :    
783 : suxen_drol 136 pMB->quant = pEnc->current->quant;
784 : Isibaar 3 }
785 :    
786 :    
787 : h 101 #define FCODEBITS 3
788 :     #define MODEBITS 5
789 :    
790 :     void HintedMESet(Encoder * pEnc, int * intra)
791 :     {
792 :     HINTINFO * hint;
793 :     Bitstream bs;
794 :     int length, high;
795 :     uint32_t x, y;
796 :    
797 :     hint = pEnc->mbParam.hint;
798 :    
799 :     if (hint->rawhints)
800 :     {
801 :     *intra = hint->mvhint.intra;
802 :     }
803 :     else
804 :     {
805 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
806 :     *intra = BitstreamGetBit(&bs);
807 :     }
808 :    
809 :     if (*intra)
810 :     {
811 :     return;
812 :     }
813 :    
814 : suxen_drol 136 pEnc->current->fcode = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
815 : h 101
816 : suxen_drol 136 length = pEnc->current->fcode + 5;
817 : h 101 high = 1 << (length - 1);
818 :    
819 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
820 :     {
821 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
822 :     {
823 : suxen_drol 136 MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
824 : h 101 MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
825 :     VECTOR pred[4];
826 :     VECTOR tmp;
827 : edgomez 147 int32_t dummy[4];
828 : h 101 int vec;
829 :    
830 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
831 :    
832 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
833 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
834 :    
835 :     if (pMB->mode == MODE_INTER)
836 : h 101 {
837 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
838 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
839 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
840 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
841 :    
842 : suxen_drol 136 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
843 : h 101
844 :     for (vec=0 ; vec<4 ; ++vec)
845 :     {
846 :     pMB->mvs[vec].x = tmp.x;
847 :     pMB->mvs[vec].y = tmp.y;
848 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
849 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
850 :     }
851 :     }
852 :     else if (pMB->mode == MODE_INTER4V)
853 :     {
854 :     for (vec=0 ; vec<4 ; ++vec)
855 :     {
856 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
857 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
858 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
859 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
860 :    
861 : suxen_drol 136 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
862 : h 101
863 :     pMB->mvs[vec].x = tmp.x;
864 :     pMB->mvs[vec].y = tmp.y;
865 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
866 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
867 :     }
868 :     }
869 : h 128 else // intra / stuffing / not_coded
870 : h 101 {
871 :     for (vec=0 ; vec<4 ; ++vec)
872 :     {
873 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
874 :     }
875 :     }
876 : h 128
877 : suxen_drol 136 if (pMB->mode == MODE_INTER4V &&
878 :     (pEnc->current->global_flags & XVID_LUMIMASKING) && pMB->dquant != NO_CHANGE)
879 : h 128 {
880 :     pMB->mode = MODE_INTRA;
881 :    
882 :     for (vec=0 ; vec<4 ; ++vec)
883 :     {
884 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
885 :     }
886 :     }
887 : h 101 }
888 :     }
889 :     }
890 :    
891 :    
892 :     void HintedMEGet(Encoder * pEnc, int intra)
893 :     {
894 :     HINTINFO * hint;
895 :     Bitstream bs;
896 :     uint32_t x, y;
897 :     int length, high;
898 :    
899 :     hint = pEnc->mbParam.hint;
900 :    
901 :     if (hint->rawhints)
902 :     {
903 :     hint->mvhint.intra = intra;
904 :     }
905 :     else
906 :     {
907 :     BitstreamInit(&bs, hint->hintstream, 0);
908 :     BitstreamPutBit(&bs, intra);
909 :     }
910 :    
911 :     if (intra)
912 :     {
913 :     if (!hint->rawhints)
914 :     {
915 :     BitstreamPad(&bs);
916 :     hint->hintlength = BitstreamLength(&bs);
917 :     }
918 :     return;
919 :     }
920 :    
921 : suxen_drol 136 length = pEnc->current->fcode + 5;
922 : h 101 high = 1 << (length - 1);
923 :    
924 :     if (hint->rawhints)
925 :     {
926 : suxen_drol 136 hint->mvhint.fcode = pEnc->current->fcode;
927 : h 101 }
928 :     else
929 :     {
930 : suxen_drol 136 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
931 : h 101 }
932 :    
933 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
934 :     {
935 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
936 :     {
937 : suxen_drol 136 MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
938 : h 101 MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
939 :     VECTOR tmp;
940 :    
941 :     if (hint->rawhints)
942 :     {
943 :     bhint->mode = pMB->mode;
944 :     }
945 :     else
946 :     {
947 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
948 :     }
949 :    
950 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
951 :     {
952 :     tmp.x = pMB->mvs[0].x;
953 :     tmp.y = pMB->mvs[0].y;
954 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
955 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
956 :    
957 :     if (hint->rawhints)
958 :     {
959 :     bhint->mvs[0].x = tmp.x;
960 :     bhint->mvs[0].y = tmp.y;
961 :     }
962 :     else
963 :     {
964 :     BitstreamPutBits(&bs, tmp.x, length);
965 :     BitstreamPutBits(&bs, tmp.y, length);
966 :     }
967 :     }
968 :     else if (pMB->mode == MODE_INTER4V)
969 :     {
970 :     int vec;
971 :    
972 :     for (vec=0 ; vec<4 ; ++vec)
973 :     {
974 :     tmp.x = pMB->mvs[vec].x;
975 :     tmp.y = pMB->mvs[vec].y;
976 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
977 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
978 :    
979 :     if (hint->rawhints)
980 :     {
981 :     bhint->mvs[vec].x = tmp.x;
982 :     bhint->mvs[vec].y = tmp.y;
983 :     }
984 :     else
985 :     {
986 :     BitstreamPutBits(&bs, tmp.x, length);
987 :     BitstreamPutBits(&bs, tmp.y, length);
988 :     }
989 :     }
990 :     }
991 :     }
992 :     }
993 :    
994 :     if (!hint->rawhints)
995 :     {
996 :     BitstreamPad(&bs);
997 :     hint->hintlength = BitstreamLength(&bs);
998 :     }
999 :     }
1000 :    
1001 :    
1002 : h 104 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
1003 :     {
1004 :    
1005 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1006 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1007 :    
1008 :     uint16_t x, y;
1009 :    
1010 :     pEnc->iFrameNum = 0;
1011 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1;
1012 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1013 :     pEnc->current->coding_type = I_VOP;
1014 : h 104
1015 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1016 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);
1017 : h 104
1018 :     *pBits = BitstreamPos(bs);
1019 :    
1020 :     pEnc->sStat.iTextBits = 0;
1021 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1022 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1023 :    
1024 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1025 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
1026 :     {
1027 : suxen_drol 136 MACROBLOCK *pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1028 : h 104
1029 :     CodeIntraMB(pEnc, pMB);
1030 :    
1031 : suxen_drol 136 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);
1032 : h 104
1033 :     start_timer();
1034 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1035 : h 104 stop_prediction_timer();
1036 :    
1037 :     start_timer();
1038 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1039 : h 104 stop_coding_timer();
1040 :     }
1041 :    
1042 :     emms();
1043 :    
1044 :     *pBits = BitstreamPos(bs) - *pBits;
1045 :     pEnc->sStat.fMvPrevSigma = -1;
1046 :     pEnc->sStat.iMvSum = 0;
1047 :     pEnc->sStat.iMvCount = 0;
1048 : suxen_drol 136 pEnc->mbParam.m_fcode = 2;
1049 : h 104
1050 : suxen_drol 136 if (pEnc->current->global_flags & XVID_HINTEDME_GET)
1051 : h 104 {
1052 :     HintedMEGet(pEnc, 1);
1053 :     }
1054 :    
1055 :     return 1; // intra
1056 :     }
1057 :    
1058 :    
1059 : Isibaar 3 #define INTRA_THRESHOLD 0.5
1060 :    
1061 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
1062 :     {
1063 : edgomez 13 float fSigma;
1064 : Isibaar 42
1065 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1066 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1067 :    
1068 : Isibaar 3 int iLimit;
1069 : edgomez 13 uint32_t x, y;
1070 :     int iSearchRange;
1071 : edgomez 145 int bIntra;
1072 : Isibaar 3
1073 : edgomez 145 /* IMAGE *pCurrent = &pEnc->current->image; */
1074 : suxen_drol 136 IMAGE *pRef = &pEnc->reference->image;
1075 : Isibaar 3
1076 : h 69 start_timer();
1077 : edgomez 78 image_setedges(pRef,
1078 : h 85 pEnc->mbParam.edged_width,
1079 :     pEnc->mbParam.edged_height,
1080 :     pEnc->mbParam.width,
1081 :     pEnc->mbParam.height,
1082 : suxen_drol 136 pEnc->current->global_flags & XVID_INTERLACING);
1083 : h 69 stop_edges_timer();
1084 : Isibaar 3
1085 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1086 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1087 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1088 : Isibaar 3
1089 :     if (!force_inter)
1090 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
1091 : edgomez 13 else
1092 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1093 :    
1094 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1095 : Isibaar 3 start_timer();
1096 : h 85 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1097 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1098 : suxen_drol 136 pEnc->current->rounding_type);
1099 : Isibaar 3 stop_inter_timer();
1100 :     }
1101 :    
1102 :     start_timer();
1103 : suxen_drol 136 if (pEnc->current->global_flags & XVID_HINTEDME_SET)
1104 : h 101 {
1105 :     HintedMESet(pEnc, &bIntra);
1106 :     }
1107 :     else
1108 :     {
1109 : suxen_drol 136 bIntra = MotionEstimation(
1110 :     &pEnc->mbParam,
1111 :     pEnc->current,
1112 :     pEnc->reference,
1113 :     &pEnc->vInterH,
1114 :     &pEnc->vInterV,
1115 :     &pEnc->vInterHV,
1116 :     iLimit);
1117 : h 101 }
1118 : Isibaar 3 stop_motion_timer();
1119 :    
1120 :     if (bIntra == 1)
1121 : h 101 {
1122 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
1123 : h 101 }
1124 : Isibaar 3
1125 : suxen_drol 136 pEnc->current->coding_type = P_VOP;
1126 : Isibaar 3
1127 :     if(vol_header)
1128 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1129 : Isibaar 3
1130 : suxen_drol 136 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);
1131 : Isibaar 3
1132 : edgomez 13 *pBits = BitstreamPos(bs);
1133 : Isibaar 3
1134 : edgomez 13 pEnc->sStat.iTextBits = 0;
1135 :     pEnc->sStat.iMvSum = 0;
1136 :     pEnc->sStat.iMvCount = 0;
1137 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1138 :    
1139 : edgomez 13 for(y = 0; y < pEnc->mbParam.mb_height; y++)
1140 : Isibaar 3 {
1141 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
1142 :     {
1143 : suxen_drol 136 MACROBLOCK * pMB = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1144 : Isibaar 3
1145 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1146 : Isibaar 3
1147 :     if (!bIntra)
1148 : edgomez 13 {
1149 : Isibaar 3 start_timer();
1150 : edgomez 78 MBMotionCompensation(pMB,
1151 :     x, y,
1152 : suxen_drol 136 &pEnc->reference->image,
1153 : edgomez 78 &pEnc->vInterH,
1154 : h 85 &pEnc->vInterV,
1155 :     &pEnc->vInterHV,
1156 : suxen_drol 136 &pEnc->current->image,
1157 : edgomez 78 dct_codes,
1158 : edgomez 13 pEnc->mbParam.width,
1159 :     pEnc->mbParam.height,
1160 :     pEnc->mbParam.edged_width,
1161 : suxen_drol 136 pEnc->current->rounding_type);
1162 : Isibaar 3 stop_comp_timer();
1163 :    
1164 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1165 : Isibaar 3 if(pMB->dquant != NO_CHANGE) {
1166 :     pMB->mode = MODE_INTER_Q;
1167 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1168 :     if (pEnc->current->quant > 31) pEnc->current->quant = 31;
1169 :     else if(pEnc->current->quant < 1) pEnc->current->quant = 1;
1170 : Isibaar 3 }
1171 :     }
1172 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1173 : Isibaar 3
1174 : h 69 pMB->field_pred = 0;
1175 :    
1176 : suxen_drol 136 pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);
1177 : edgomez 13 }
1178 : Isibaar 3 else
1179 :     {
1180 :     CodeIntraMB(pEnc, pMB);
1181 : suxen_drol 136 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y, dct_codes, qcoeff);
1182 : Isibaar 3 }
1183 :    
1184 : edgomez 13 start_timer();
1185 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1186 : Isibaar 3 stop_prediction_timer();
1187 :    
1188 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
1189 :     {
1190 :     pEnc->sStat.kblks++;
1191 :     }
1192 :     else if (pMB->cbp ||
1193 : edgomez 13 pMB->mvs[0].x || pMB->mvs[0].y ||
1194 :     pMB->mvs[1].x || pMB->mvs[1].y ||
1195 :     pMB->mvs[2].x || pMB->mvs[2].y ||
1196 :     pMB->mvs[3].x || pMB->mvs[3].y)
1197 : Isibaar 3 {
1198 :     pEnc->sStat.mblks++;
1199 :     }
1200 :     else
1201 :     {
1202 :     pEnc->sStat.ublks++;
1203 :     }
1204 :    
1205 :     start_timer();
1206 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1207 : Isibaar 3 stop_coding_timer();
1208 :     }
1209 :     }
1210 :    
1211 :     emms();
1212 :    
1213 : suxen_drol 136 if (pEnc->current->global_flags & XVID_HINTEDME_GET)
1214 : h 101 {
1215 :     HintedMEGet(pEnc, 0);
1216 :     }
1217 :    
1218 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
1219 :     pEnc->sStat.iMvCount = 1;
1220 :    
1221 : edgomez 13 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1222 : Isibaar 3
1223 : suxen_drol 136 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1224 : Isibaar 3
1225 : edgomez 13 if ((fSigma > iSearchRange / 3)
1226 : suxen_drol 136 && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1227 : edgomez 13 {
1228 : suxen_drol 136 pEnc->mbParam.m_fcode++;
1229 : Isibaar 3 iSearchRange *= 2;
1230 : edgomez 13 }
1231 :     else if ((fSigma < iSearchRange / 6)
1232 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1233 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1234 : suxen_drol 136 && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1235 : edgomez 13 {
1236 : suxen_drol 136 pEnc->mbParam.m_fcode--;
1237 : Isibaar 3 iSearchRange /= 2;
1238 : edgomez 13 }
1239 : Isibaar 3
1240 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
1241 : Isibaar 3
1242 :     *pBits = BitstreamPos(bs) - *pBits;
1243 :    
1244 : edgomez 13 return 0; // inter
1245 : Isibaar 3 }
1246 : suxen_drol 118
1247 :    
1248 : suxen_drol 152 #ifdef BFRAMES
1249 : suxen_drol 118 static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)
1250 :     {
1251 : suxen_drol 152 int16_t dct_codes[6*64];
1252 :     int16_t qcoeff[6*64];
1253 :     uint32_t x, y;
1254 : suxen_drol 118 VECTOR forward;
1255 :     VECTOR backward;
1256 :    
1257 : suxen_drol 152 IMAGE *f_ref = &pEnc->reference->image;
1258 : suxen_drol 118 IMAGE *b_ref = &pEnc->current->image;
1259 :    
1260 : suxen_drol 152 // forward
1261 :     image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);
1262 : suxen_drol 118 start_timer();
1263 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1264 : suxen_drol 152 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
1265 : suxen_drol 118 stop_inter_timer();
1266 :    
1267 : suxen_drol 152 // backward
1268 :     image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height, frame->global_flags & XVID_INTERLACING);
1269 :     start_timer();
1270 : suxen_drol 118 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1271 : suxen_drol 152 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
1272 : suxen_drol 118 stop_inter_timer();
1273 :    
1274 :     start_timer();
1275 :     MotionEstimationBVOP(&pEnc->mbParam, frame,
1276 : suxen_drol 152 pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1277 :     pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
1278 :    
1279 : suxen_drol 118
1280 :     stop_motion_timer();
1281 :    
1282 : suxen_drol 152 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1283 : suxen_drol 118 {
1284 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1285 : suxen_drol 152 }*/
1286 : suxen_drol 118
1287 : suxen_drol 152 frame->coding_type = B_VOP;
1288 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame);
1289 : suxen_drol 118
1290 : suxen_drol 152 *pBits = BitstreamPos(bs);
1291 : suxen_drol 118
1292 : suxen_drol 152 pEnc->sStat.iTextBits = 0;
1293 :     pEnc->sStat.iMvSum = 0;
1294 :     pEnc->sStat.iMvCount = 0;
1295 : suxen_drol 118 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1296 :    
1297 :    
1298 : suxen_drol 152 for (y = 0; y < pEnc->mbParam.mb_height; y++)
1299 : suxen_drol 118 {
1300 :     // reset prediction
1301 :    
1302 :     forward.x = 0;
1303 :     forward.y = 0;
1304 :     backward.x = 0;
1305 :     backward.y = 0;
1306 :    
1307 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
1308 :     {
1309 :     MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1310 :     MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1311 :     MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1312 :    
1313 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1314 :     if (mb->mode == MODE_NOT_CODED)
1315 :     {
1316 :     mb->mvs[0].x = 0;
1317 :     mb->mvs[0].y = 0;
1318 :     continue;
1319 :     }
1320 :    
1321 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1322 : suxen_drol 152 f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1323 :     b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1324 :     dct_codes);
1325 : suxen_drol 118
1326 :     mb->quant = frame->quant;
1327 : suxen_drol 152 mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes, qcoeff);
1328 : suxen_drol 118 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1329 :    
1330 :    
1331 :     if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&
1332 : suxen_drol 152 mb->cbp == 0 &&
1333 :     mb->mvs[0].x == 0 &&
1334 :     mb->mvs[0].y == 0)
1335 : suxen_drol 118 {
1336 :     mb->mode = 5; // skipped
1337 :     }
1338 :    
1339 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)
1340 :     {
1341 :     mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1342 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1343 :     forward.x = mb->mvs[0].x;
1344 :     forward.y = mb->mvs[0].y;
1345 :     }
1346 :    
1347 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)
1348 :     {
1349 :     mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1350 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1351 :     backward.x = mb->b_mvs[0].x;
1352 :     backward.y = mb->b_mvs[0].y;
1353 :     }
1354 :    
1355 : suxen_drol 152 // printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
1356 : suxen_drol 118
1357 :     start_timer();
1358 : suxen_drol 152 MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs, &pEnc->sStat);
1359 : suxen_drol 118 stop_coding_timer();
1360 :     }
1361 :     }
1362 :    
1363 :     emms();
1364 :    
1365 :     // TODO: dynamic fcode/bcode ???
1366 :    
1367 :     *pBits = BitstreamPos(bs) - *pBits;
1368 :     }
1369 : edgomez 188 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4