[svn] / branches / dev-api-3 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-3/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 259 - (view) (download)
Original Path: trunk/xvidcore/src/encoder.c

1 : edgomez 194 /*****************************************************************************
2 : edgomez 145 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 194 ****************************************************************************/
30 : suxen_drol 118
31 : edgomez 194 /*****************************************************************************
32 : edgomez 145 *
33 :     * History
34 :     *
35 : suxen_drol 229 * 20.06.2002 bframe patch
36 : chenm001 168 * 08.05.2002 fix some problem in DEBUG mode;
37 :     * MinChen <chenm001@163.com>
38 : edgomez 145 * 14.04.2002 added FrameCodeB()
39 :     *
40 : chl 259 * $Id: encoder.c,v 1.52 2002-07-06 17:04:57 chl Exp $
41 : edgomez 145 *
42 : edgomez 194 ****************************************************************************/
43 : edgomez 145
44 : Isibaar 3 #include <stdlib.h>
45 :     #include <stdio.h>
46 :     #include <math.h>
47 : edgomez 198 #include <string.h>
48 : Isibaar 3
49 :     #include "encoder.h"
50 :     #include "prediction/mbprediction.h"
51 :     #include "global.h"
52 :     #include "utils/timer.h"
53 :     #include "image/image.h"
54 : suxen_drol 238 #ifdef BFRAMES
55 :     #include "image/font.h"
56 :     #endif
57 : suxen_drol 152 #include "motion/motion.h"
58 : Isibaar 3 #include "bitstream/cbp.h"
59 :     #include "utils/mbfunctions.h"
60 :     #include "bitstream/bitstream.h"
61 :     #include "bitstream/mbcoding.h"
62 :     #include "utils/ratecontrol.h"
63 :     #include "utils/emms.h"
64 :     #include "bitstream/mbcoding.h"
65 :     #include "quant/adapt_quant.h"
66 : Isibaar 4 #include "quant/quant_matrix.h"
67 : Isibaar 41 #include "utils/mem_align.h"
68 : Isibaar 3
69 : chl 259 #ifdef _SMP
70 :     #include "motion/smp_motion_est.h"
71 :     #endif
72 : edgomez 194 /*****************************************************************************
73 :     * Local macros
74 :     ****************************************************************************/
75 :    
76 : Isibaar 3 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
77 : suxen_drol 136 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
78 : Isibaar 3
79 : edgomez 194 /*****************************************************************************
80 :     * Local function prototypes
81 :     ****************************************************************************/
82 :    
83 : edgomez 192 static int FrameCodeI(Encoder * pEnc,
84 : edgomez 195 Bitstream * bs,
85 :     uint32_t * pBits);
86 : Isibaar 3
87 : edgomez 192 static int FrameCodeP(Encoder * pEnc,
88 : edgomez 195 Bitstream * bs,
89 :     uint32_t * pBits,
90 :     bool force_inter,
91 :     bool vol_header);
92 : Isibaar 3
93 : edgomez 192 #ifdef BFRAMES
94 :     static void FrameCodeB(Encoder * pEnc,
95 : edgomez 195 FRAMEINFO * frame,
96 :     Bitstream * bs,
97 :     uint32_t * pBits);
98 : edgomez 192 #endif
99 :    
100 : edgomez 194 /*****************************************************************************
101 :     * Local data
102 :     ****************************************************************************/
103 :    
104 : edgomez 195 static int DQtab[4] = {
105 : Isibaar 3 -1, -2, 1, 2
106 :     };
107 :    
108 : edgomez 195 static int iDQtab[5] = {
109 : Isibaar 3 1, 0, NO_CHANGE, 2, 3
110 :     };
111 :    
112 :    
113 : edgomez 195 static void __inline
114 :     image_null(IMAGE * image)
115 : suxen_drol 136 {
116 :     image->y = image->u = image->v = NULL;
117 :     }
118 :    
119 :    
120 : edgomez 194 /*****************************************************************************
121 :     * Encoder creation
122 :     *
123 :     * This function creates an Encoder instance, it allocates all necessary
124 :     * image buffers (reference, current and bframes) and initialize the internal
125 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
126 :     *
127 :     * The code seems to be very long but is very basic, mainly memory allocation
128 :     * and cleaning code.
129 :     *
130 :     * Returned values :
131 :     * - XVID_ERR_OK - no errors
132 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
133 :     * cleans the structure before exiting.
134 :     * pParam->handle is also set to NULL.
135 :     *
136 :     ****************************************************************************/
137 :    
138 :     int
139 :     encoder_create(XVID_ENC_PARAM * pParam)
140 : Isibaar 3 {
141 : edgomez 13 Encoder *pEnc;
142 : suxen_drol 229 int i;
143 : Isibaar 3
144 : edgomez 13 pParam->handle = NULL;
145 : Isibaar 3
146 : edgomez 13 ENC_CHECK(pParam);
147 : Isibaar 3
148 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
149 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
150 :     ENC_CHECK(!(pParam->width % 2));
151 :     ENC_CHECK(!(pParam->height % 2));
152 : Isibaar 3
153 : edgomez 192 /* Fps */
154 :    
155 : edgomez 195 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
156 : Isibaar 3 pParam->fincr = 1;
157 :     pParam->fbase = 25;
158 :     }
159 :    
160 : edgomez 192 /*
161 :     * Simplify the "fincr/fbase" fraction
162 :     * (neccessary, since windows supplies us with huge numbers)
163 :     */
164 : Isibaar 3
165 :     i = pParam->fincr;
166 : edgomez 195 while (i > 1) {
167 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
168 : Isibaar 3 pParam->fincr /= i;
169 :     pParam->fbase /= i;
170 :     i = pParam->fincr;
171 :     continue;
172 :     }
173 :     i--;
174 :     }
175 :    
176 : edgomez 195 if (pParam->fbase > 65535) {
177 :     float div = (float) pParam->fbase / 65535;
178 :    
179 :     pParam->fbase = (int) (pParam->fbase / div);
180 :     pParam->fincr = (int) (pParam->fincr / div);
181 : Isibaar 3 }
182 :    
183 : edgomez 192 /* Bitrate allocator defaults */
184 :    
185 : h 121 if (pParam->rc_bitrate <= 0)
186 :     pParam->rc_bitrate = 900000;
187 : Isibaar 3
188 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
189 :     pParam->rc_reaction_delay_factor = 16;
190 : Isibaar 3
191 : h 121 if (pParam->rc_averaging_period <= 0)
192 :     pParam->rc_averaging_period = 100;
193 :    
194 :     if (pParam->rc_buffer <= 0)
195 :     pParam->rc_buffer = 100;
196 :    
197 : edgomez 192 /* Max and min quantizers */
198 :    
199 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
200 : Isibaar 3 pParam->min_quantizer = 1;
201 :    
202 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
203 : Isibaar 3 pParam->max_quantizer = 31;
204 :    
205 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
206 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
207 :    
208 : edgomez 195 /* 1 keyframe each 10 seconds */
209 : edgomez 192
210 :     if (pParam->max_key_interval == 0)
211 :     pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
212 :    
213 : edgomez 195
214 : edgomez 192 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
215 :     if (pEnc == NULL)
216 : Isibaar 3 return XVID_ERR_MEMORY;
217 :    
218 : edgomez 198 /* Zero the Encoder Structure */
219 :    
220 :     memset(pEnc, 0, sizeof(Encoder));
221 :    
222 : Isibaar 3 /* Fill members of Encoder structure */
223 :    
224 : edgomez 13 pEnc->mbParam.width = pParam->width;
225 :     pEnc->mbParam.height = pParam->height;
226 : Isibaar 3
227 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
228 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
229 :    
230 : edgomez 195 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
231 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
232 : Isibaar 3
233 : suxen_drol 152 pEnc->mbParam.fbase = pParam->fbase;
234 :     pEnc->mbParam.fincr = pParam->fincr;
235 :    
236 : Isibaar 208 pEnc->mbParam.m_quant_type = H263_QUANT;
237 :    
238 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
239 : Isibaar 3
240 :     /* Fill rate control parameters */
241 :    
242 : h 121 pEnc->bitrate = pParam->rc_bitrate;
243 : Isibaar 3
244 : edgomez 13 pEnc->iFrameNum = 0;
245 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
246 : Isibaar 3
247 : suxen_drol 136 /* try to allocate frame memory */
248 : Isibaar 3
249 : edgomez 192 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
250 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
251 : Isibaar 3
252 : edgomez 195 if (pEnc->current == NULL || pEnc->reference == NULL)
253 : edgomez 192 goto xvid_err_memory1;
254 :    
255 : suxen_drol 136 /* try to allocate mb memory */
256 : Isibaar 3
257 : edgomez 195 pEnc->current->mbs =
258 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
259 :     pEnc->mbParam.mb_height, CACHE_LINE);
260 :     pEnc->reference->mbs =
261 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
262 :     pEnc->mbParam.mb_height, CACHE_LINE);
263 : suxen_drol 136
264 : edgomez 192 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
265 :     goto xvid_err_memory2;
266 : suxen_drol 136
267 :     /* try to allocate image memory */
268 :    
269 : suxen_drol 229 #ifdef _DEBUG_PSNR
270 : suxen_drol 136 image_null(&pEnc->sOriginal);
271 :     #endif
272 : suxen_drol 152 #ifdef BFRAMES
273 :     image_null(&pEnc->f_refh);
274 :     image_null(&pEnc->f_refv);
275 :     image_null(&pEnc->f_refhv);
276 :     #endif
277 : suxen_drol 136 image_null(&pEnc->current->image);
278 :     image_null(&pEnc->reference->image);
279 :     image_null(&pEnc->vInterH);
280 :     image_null(&pEnc->vInterV);
281 :     image_null(&pEnc->vInterVf);
282 :     image_null(&pEnc->vInterHV);
283 :     image_null(&pEnc->vInterHVf);
284 : edgomez 192
285 : suxen_drol 229 #ifdef _DEBUG_PSNR
286 : edgomez 195 if (image_create
287 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
288 :     pEnc->mbParam.edged_height) < 0)
289 : edgomez 192 goto xvid_err_memory3;
290 : suxen_drol 136 #endif
291 : suxen_drol 152 #ifdef BFRAMES
292 : edgomez 195 if (image_create
293 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
294 :     pEnc->mbParam.edged_height) < 0)
295 : edgomez 192 goto xvid_err_memory3;
296 : edgomez 195 if (image_create
297 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
298 :     pEnc->mbParam.edged_height) < 0)
299 : edgomez 192 goto xvid_err_memory3;
300 : edgomez 195 if (image_create
301 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
302 :     pEnc->mbParam.edged_height) < 0)
303 : edgomez 192 goto xvid_err_memory3;
304 : suxen_drol 152 #endif
305 : edgomez 195 if (image_create
306 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
307 :     pEnc->mbParam.edged_height) < 0)
308 : edgomez 192 goto xvid_err_memory3;
309 : edgomez 195 if (image_create
310 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
311 :     pEnc->mbParam.edged_height) < 0)
312 : edgomez 192 goto xvid_err_memory3;
313 : edgomez 195 if (image_create
314 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
315 :     pEnc->mbParam.edged_height) < 0)
316 : edgomez 192 goto xvid_err_memory3;
317 : edgomez 195 if (image_create
318 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
319 :     pEnc->mbParam.edged_height) < 0)
320 : edgomez 192 goto xvid_err_memory3;
321 : edgomez 195 if (image_create
322 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
323 :     pEnc->mbParam.edged_height) < 0)
324 : edgomez 192 goto xvid_err_memory3;
325 : edgomez 195 if (image_create
326 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
327 :     pEnc->mbParam.edged_height) < 0)
328 : edgomez 192 goto xvid_err_memory3;
329 : edgomez 195 if (image_create
330 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
331 :     pEnc->mbParam.edged_height) < 0)
332 : edgomez 192 goto xvid_err_memory3;
333 : suxen_drol 136
334 : Isibaar 3
335 : edgomez 192
336 :     /* B Frames specific init */
337 : suxen_drol 152 #ifdef BFRAMES
338 : edgomez 195
339 : suxen_drol 234 pEnc->global = pParam->global;
340 : suxen_drol 164 pEnc->mbParam.max_bframes = pParam->max_bframes;
341 : suxen_drol 152 pEnc->bquant_ratio = pParam->bquant_ratio;
342 : edgomez 192 pEnc->bframes = NULL;
343 :    
344 : edgomez 195 if (pEnc->mbParam.max_bframes > 0) {
345 : suxen_drol 152 int n;
346 :    
347 : edgomez 195 pEnc->bframes =
348 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
349 :     CACHE_LINE);
350 : suxen_drol 152
351 : edgomez 192 if (pEnc->bframes == NULL)
352 :     goto xvid_err_memory3;
353 :    
354 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
355 : edgomez 192 pEnc->bframes[n] = NULL;
356 :    
357 : suxen_drol 152
358 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
359 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
360 :    
361 : edgomez 192 if (pEnc->bframes[n] == NULL)
362 :     goto xvid_err_memory4;
363 :    
364 : edgomez 195 pEnc->bframes[n]->mbs =
365 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
366 :     pEnc->mbParam.mb_height, CACHE_LINE);
367 : edgomez 192
368 :     if (pEnc->bframes[n]->mbs == NULL)
369 :     goto xvid_err_memory4;
370 :    
371 :     image_null(&pEnc->bframes[n]->image);
372 :    
373 : edgomez 195 if (image_create
374 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
375 :     pEnc->mbParam.edged_height) < 0)
376 : edgomez 192 goto xvid_err_memory4;
377 :    
378 : suxen_drol 152 }
379 :     }
380 : edgomez 192
381 : suxen_drol 152 pEnc->bframenum_head = 0;
382 :     pEnc->bframenum_tail = 0;
383 :     pEnc->flush_bframes = 0;
384 : suxen_drol 238 pEnc->bframenum_dx50bvop = -1;
385 : suxen_drol 152
386 : suxen_drol 229 pEnc->queue = NULL;
387 :    
388 :    
389 :     if (pEnc->mbParam.max_bframes > 0) {
390 :     int n;
391 :    
392 :     pEnc->queue =
393 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
394 :     CACHE_LINE);
395 :    
396 :     if (pEnc->queue == NULL)
397 :     goto xvid_err_memory4;
398 :    
399 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
400 :     image_null(&pEnc->queue[n]);
401 :    
402 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
403 :     if (image_create
404 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
405 :     pEnc->mbParam.edged_height) < 0)
406 :     goto xvid_err_memory5;
407 :    
408 :     }
409 :     }
410 :    
411 :     pEnc->queue_head = 0;
412 :     pEnc->queue_tail = 0;
413 :     pEnc->queue_size = 0;
414 :    
415 :    
416 : suxen_drol 152 pEnc->mbParam.m_seconds = 0;
417 :     pEnc->mbParam.m_ticks = 0;
418 : suxen_drol 234 pEnc->m_framenum = 0;
419 : suxen_drol 152 #endif
420 :    
421 : edgomez 195 pParam->handle = (void *) pEnc;
422 : Isibaar 3
423 : edgomez 195 if (pParam->rc_bitrate) {
424 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
425 :     pParam->rc_reaction_delay_factor,
426 :     pParam->rc_averaging_period, pParam->rc_buffer,
427 :     pParam->fbase * 1000 / pParam->fincr,
428 :     pParam->max_quantizer, pParam->min_quantizer);
429 : Isibaar 3 }
430 :    
431 : Isibaar 36 init_timer();
432 : Isibaar 3
433 :     return XVID_ERR_OK;
434 : edgomez 192
435 :     /*
436 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
437 :     */
438 :     #ifdef BFRAMES
439 : suxen_drol 229 xvid_err_memory5:
440 :    
441 :    
442 :     if (pEnc->mbParam.max_bframes > 0) {
443 :    
444 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
445 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
446 :     pEnc->mbParam.edged_height);
447 :     }
448 :     xvid_free(pEnc->queue);
449 :     }
450 :    
451 : edgomez 195 xvid_err_memory4:
452 : edgomez 192
453 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
454 : edgomez 192
455 : suxen_drol 229 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
456 : edgomez 192
457 : suxen_drol 229 if (pEnc->bframes[i] == NULL)
458 :     continue;
459 : edgomez 192
460 : suxen_drol 229 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
461 :     pEnc->mbParam.edged_height);
462 :    
463 :     xvid_free(pEnc->bframes[i]->mbs);
464 :    
465 :     xvid_free(pEnc->bframes[i]);
466 : edgomez 192
467 : suxen_drol 229 }
468 :    
469 :     xvid_free(pEnc->bframes);
470 : edgomez 192 }
471 :    
472 :     #endif
473 :    
474 : edgomez 195 xvid_err_memory3:
475 : suxen_drol 229 #ifdef _DEBUG_PSNR
476 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
477 :     pEnc->mbParam.edged_height);
478 : edgomez 192 #endif
479 :    
480 :     #ifdef BFRAMES
481 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
482 :     pEnc->mbParam.edged_height);
483 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
484 :     pEnc->mbParam.edged_height);
485 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
486 :     pEnc->mbParam.edged_height);
487 : edgomez 192 #endif
488 :    
489 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
490 :     pEnc->mbParam.edged_height);
491 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
492 :     pEnc->mbParam.edged_height);
493 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
494 :     pEnc->mbParam.edged_height);
495 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
496 :     pEnc->mbParam.edged_height);
497 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
498 :     pEnc->mbParam.edged_height);
499 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
500 :     pEnc->mbParam.edged_height);
501 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
502 :     pEnc->mbParam.edged_height);
503 : edgomez 192
504 : edgomez 195 xvid_err_memory2:
505 : edgomez 192 xvid_free(pEnc->current->mbs);
506 :     xvid_free(pEnc->reference->mbs);
507 :    
508 : edgomez 195 xvid_err_memory1:
509 : edgomez 192 xvid_free(pEnc->current);
510 :     xvid_free(pEnc->reference);
511 :     xvid_free(pEnc);
512 :    
513 : edgomez 194 pParam->handle = NULL;
514 :    
515 : edgomez 192 return XVID_ERR_MEMORY;
516 : Isibaar 3 }
517 :    
518 : edgomez 194 /*****************************************************************************
519 :     * Encoder destruction
520 :     *
521 :     * This function destroy the entire encoder structure created by a previous
522 :     * successful encoder_create call.
523 :     *
524 :     * Returned values (for now only one returned value) :
525 :     * - XVID_ERR_OK - no errors
526 :     *
527 :     ****************************************************************************/
528 :    
529 :     int
530 :     encoder_destroy(Encoder * pEnc)
531 : Isibaar 3 {
532 : suxen_drol 229 #ifdef BFRAMES
533 :     int i;
534 :     #endif
535 :    
536 : edgomez 13 ENC_CHECK(pEnc);
537 : Isibaar 3
538 : edgomez 192 /* B Frames specific */
539 : suxen_drol 152 #ifdef BFRAMES
540 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
541 : edgomez 192
542 : suxen_drol 229 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
543 :    
544 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
545 :     pEnc->mbParam.edged_height);
546 :     }
547 :     xvid_free(pEnc->queue);
548 :     }
549 : edgomez 192
550 :    
551 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
552 :    
553 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
554 :    
555 :     if (pEnc->bframes[i] == NULL)
556 :     continue;
557 :    
558 :     image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
559 : edgomez 195 pEnc->mbParam.edged_height);
560 : edgomez 192
561 : suxen_drol 229 xvid_free(pEnc->bframes[i]->mbs);
562 : edgomez 192
563 : suxen_drol 229 xvid_free(pEnc->bframes[i]);
564 :     }
565 : edgomez 192
566 : suxen_drol 229 xvid_free(pEnc->bframes);
567 :    
568 : suxen_drol 152 }
569 : edgomez 158 #endif
570 : suxen_drol 152
571 : edgomez 192 /* All images, reference, current etc ... */
572 :    
573 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
574 :     pEnc->mbParam.edged_height);
575 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
576 :     pEnc->mbParam.edged_height);
577 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
578 :     pEnc->mbParam.edged_height);
579 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
580 :     pEnc->mbParam.edged_height);
581 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
582 :     pEnc->mbParam.edged_height);
583 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
584 :     pEnc->mbParam.edged_height);
585 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
586 :     pEnc->mbParam.edged_height);
587 : suxen_drol 152 #ifdef BFRAMES
588 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
589 :     pEnc->mbParam.edged_height);
590 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
591 :     pEnc->mbParam.edged_height);
592 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
593 :     pEnc->mbParam.edged_height);
594 : suxen_drol 152 #endif
595 : suxen_drol 229 #ifdef _DEBUG_PSNR
596 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
597 :     pEnc->mbParam.edged_height);
598 : Isibaar 113 #endif
599 : edgomez 192
600 :     /* Encoder structure */
601 : edgomez 195
602 : suxen_drol 136 xvid_free(pEnc->current->mbs);
603 :     xvid_free(pEnc->current);
604 :    
605 :     xvid_free(pEnc->reference->mbs);
606 :     xvid_free(pEnc->reference);
607 :    
608 : Isibaar 41 xvid_free(pEnc);
609 : edgomez 192
610 : edgomez 13 return XVID_ERR_OK;
611 : Isibaar 3 }
612 :    
613 : suxen_drol 229
614 :     #ifdef BFRAMES
615 :     void inc_frame_num(Encoder * pEnc)
616 :     {
617 :     pEnc->iFrameNum++;
618 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
619 : suxen_drol 234
620 :     pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
621 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
622 : suxen_drol 229 }
623 :     #endif
624 :    
625 :    
626 :     #ifdef BFRAMES
627 :     void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
628 :     {
629 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
630 :     {
631 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");
632 : suxen_drol 229 return;
633 :     }
634 :    
635 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
636 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
637 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
638 :    
639 :    
640 :     start_timer();
641 :     if (image_input
642 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
643 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
644 :     return;
645 :     stop_conv_timer();
646 :    
647 :     pEnc->queue_size++;
648 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
649 :     }
650 :     #endif
651 :    
652 :    
653 :     #ifdef BFRAMES
654 : edgomez 194 /*****************************************************************************
655 : suxen_drol 229 * IPB frame encoder entry point
656 : edgomez 194 *
657 :     * Returned values :
658 :     * - XVID_ERR_OK - no errors
659 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
660 :     * format
661 :     ****************************************************************************/
662 : suxen_drol 152
663 : edgomez 194 int
664 : suxen_drol 229 encoder_encode_bframes(Encoder * pEnc,
665 : edgomez 195 XVID_ENC_FRAME * pFrame,
666 :     XVID_ENC_STATS * pResult)
667 : Isibaar 3 {
668 : edgomez 13 uint16_t x, y;
669 :     Bitstream bs;
670 :     uint32_t bits;
671 : suxen_drol 152
672 : suxen_drol 229 int input_valid = 1;
673 :    
674 :     #ifdef _DEBUG_PSNR
675 : chenm001 168 float psnr;
676 :     char temp[128];
677 :     #endif
678 :    
679 : suxen_drol 152 ENC_CHECK(pEnc);
680 :     ENC_CHECK(pFrame);
681 : suxen_drol 229 ENC_CHECK(pFrame->image);
682 : suxen_drol 152
683 :     start_global_timer();
684 : edgomez 195
685 : suxen_drol 152 BitstreamInit(&bs, pFrame->bitstream, 0);
686 :    
687 : suxen_drol 229 ipvop_loop:
688 :    
689 : edgomez 194 /*
690 :     * bframe "flush" code
691 :     */
692 : suxen_drol 152
693 : edgomez 195 if ((pFrame->image == NULL || pEnc->flush_bframes)
694 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
695 :    
696 :     if (pEnc->flush_bframes == 0) {
697 : edgomez 194 /*
698 :     * we have reached the end of stream without getting
699 :     * a future reference frame... so encode last final
700 :     * frame as a pframe
701 :     */
702 :    
703 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
704 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
705 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
706 :    
707 : suxen_drol 152 pEnc->bframenum_tail--;
708 :     SWAP(pEnc->current, pEnc->reference);
709 :    
710 : edgomez 195 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
711 : suxen_drol 152
712 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
713 :    
714 :     BitstreamPad(&bs);
715 :     pFrame->length = BitstreamLength(&bs);
716 :     pFrame->intra = 0;
717 : edgomez 194
718 : suxen_drol 152 return XVID_ERR_OK;
719 :     }
720 :    
721 : suxen_drol 229
722 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
723 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
724 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
725 :    
726 : edgomez 195 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
727 : suxen_drol 152 pEnc->bframenum_head++;
728 :    
729 :     BitstreamPad(&bs);
730 :     pFrame->length = BitstreamLength(&bs);
731 :     pFrame->intra = 0;
732 : edgomez 194
733 : suxen_drol 229 if (input_valid)
734 :     queue_image(pEnc, pFrame);
735 :    
736 : suxen_drol 152 return XVID_ERR_OK;
737 :     }
738 :    
739 : suxen_drol 229 if (pEnc->bframenum_head > 0) {
740 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
741 :    
742 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
743 : suxen_drol 229
744 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
745 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
746 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
747 :    
748 :     BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
749 :     BitstreamPad(&bs);
750 :     BitstreamPutBits(&bs, 0x7f, 8);
751 :    
752 :     pFrame->length = BitstreamLength(&bs);
753 :     pFrame->intra = 0;
754 :    
755 :     if (input_valid)
756 :     queue_image(pEnc, pFrame);
757 :    
758 :     return XVID_ERR_OK;
759 :     }
760 :     }
761 :    
762 :    
763 :     bvop_loop:
764 :    
765 : suxen_drol 238 if (pEnc->bframenum_dx50bvop != -1)
766 :     {
767 : suxen_drol 229
768 :     SWAP(pEnc->current, pEnc->reference);
769 : suxen_drol 238 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
770 : suxen_drol 229
771 : suxen_drol 238 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
772 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
773 :     }
774 :    
775 :     if (input_valid)
776 :     {
777 :     queue_image(pEnc, pFrame);
778 :     input_valid = 0;
779 :     }
780 :    
781 :     } else if (input_valid) {
782 :    
783 :     SWAP(pEnc->current, pEnc->reference);
784 :    
785 : suxen_drol 229 start_timer();
786 :     if (image_input
787 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
788 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
789 :     return XVID_ERR_FORMAT;
790 :     stop_conv_timer();
791 :    
792 :     // queue input frame, and dequue next image
793 :     if (pEnc->queue_size > 0)
794 :     {
795 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
796 :     if (pEnc->queue_head != pEnc->queue_tail)
797 :     {
798 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
799 :     }
800 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
801 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
802 :     }
803 :    
804 :     } else if (pEnc->queue_size > 0) {
805 :    
806 :     SWAP(pEnc->current, pEnc->reference);
807 :    
808 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
809 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
810 :     pEnc->queue_size--;
811 :    
812 :     } else if (BitstreamPos(&bs) == 0) {
813 :    
814 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
815 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
816 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
817 :    
818 : suxen_drol 152 pFrame->intra = 0;
819 : edgomez 194
820 : suxen_drol 229 BitstreamPutBits(&bs, 0x7f, 8);
821 :     BitstreamPad(&bs);
822 :     pFrame->length = BitstreamLength(&bs);
823 :    
824 : suxen_drol 152 return XVID_ERR_OK;
825 :    
826 : suxen_drol 229 } else {
827 :    
828 :     pFrame->length = BitstreamLength(&bs);
829 :     return XVID_ERR_OK;
830 : suxen_drol 152 }
831 :    
832 :     pEnc->flush_bframes = 0;
833 :    
834 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
835 :     * Well there was a separation here so i put it in ANSI C
836 :     * comment style :-)
837 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
838 : suxen_drol 152
839 : edgomez 198 emms();
840 : edgomez 194
841 : suxen_drol 238 // only inc frame num, adapt quant, etc. if we havent seen it before
842 :     if (pEnc->bframenum_dx50bvop < 0 )
843 :     {
844 :     if (pFrame->quant == 0)
845 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
846 :     else
847 :     pEnc->current->quant = pFrame->quant;
848 : edgomez 194
849 : suxen_drol 238 if (pEnc->current->quant < 1)
850 :     pEnc->current->quant = 1;
851 : edgomez 195
852 : suxen_drol 238 if (pEnc->current->quant > 31)
853 :     pEnc->current->quant = 31;
854 : Isibaar 157
855 : suxen_drol 238 pEnc->current->global_flags = pFrame->general;
856 :     pEnc->current->motion_flags = pFrame->motion;
857 : suxen_drol 152
858 : suxen_drol 238 /* ToDo : dynamic fcode (in both directions) */
859 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
860 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
861 : suxen_drol 152
862 : suxen_drol 238 pEnc->current->seconds = pEnc->mbParam.m_seconds;
863 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
864 :    
865 :     inc_frame_num(pEnc);
866 :    
867 : suxen_drol 229 #ifdef _DEBUG_PSNR
868 : suxen_drol 238 image_copy(&pEnc->sOriginal, &pEnc->current->image,
869 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.height);
870 : suxen_drol 152 #endif
871 :    
872 : suxen_drol 238 emms();
873 : suxen_drol 152
874 : suxen_drol 238 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
875 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
876 :     "%i if:%i st:%i:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->seconds, pEnc->current->ticks);
877 :     }
878 : suxen_drol 234
879 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
880 :     * Luminance masking
881 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
882 : suxen_drol 152
883 : suxen_drol 238 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
884 :     int *temp_dquants =
885 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
886 : edgomez 195 pEnc->mbParam.mb_height * sizeof(int),
887 :     CACHE_LINE);
888 :    
889 : suxen_drol 238 pEnc->current->quant =
890 :     adaptive_quantization(pEnc->current->image.y,
891 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
892 :     pEnc->current->quant, pEnc->current->quant,
893 :     2 * pEnc->current->quant,
894 :     pEnc->mbParam.mb_width,
895 :     pEnc->mbParam.mb_height);
896 : edgomez 194
897 : suxen_drol 238 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
898 : edgomez 194
899 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
900 :    
901 : suxen_drol 238 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
902 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
903 : edgomez 195
904 : suxen_drol 238 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
905 :     }
906 : edgomez 194
907 : edgomez 195 #undef OFFSET
908 : suxen_drol 238 }
909 : edgomez 194
910 : suxen_drol 238 xvid_free(temp_dquants);
911 : edgomez 194 }
912 :    
913 : suxen_drol 152 }
914 :    
915 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
916 :     * ivop/pvop/bvop selection
917 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
918 : suxen_drol 152
919 :    
920 : suxen_drol 240 if (pEnc->iFrameNum == 0 || pFrame->intra == 1 || pEnc->bframenum_dx50bvop >= 0 ||
921 : edgomez 195 (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
922 :     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
923 :     || image_mad(&pEnc->reference->image, &pEnc->current->image,
924 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
925 :     pEnc->mbParam.height) > 30) {
926 : edgomez 194 /*
927 :     * This will be coded as an Intra Frame
928 :     */
929 : suxen_drol 152
930 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
931 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
932 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
933 : suxen_drol 234
934 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
935 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
936 :     }
937 : edgomez 194
938 : suxen_drol 238 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe
939 : suxen_drol 152
940 : suxen_drol 238 if ((pEnc->global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
941 :    
942 :     pEnc->bframenum_tail--;
943 :     pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
944 :    
945 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
946 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
947 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
948 :     }
949 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
950 :    
951 :     pFrame->intra = 0;
952 :    
953 :     } else {
954 : suxen_drol 240
955 : suxen_drol 238 FrameCodeI(pEnc, &bs, &bits);
956 :     pFrame->intra = 1;
957 : suxen_drol 240
958 :     pEnc->bframenum_dx50bvop = -1;
959 : suxen_drol 238 }
960 :    
961 : suxen_drol 152 pEnc->flush_bframes = 1;
962 :    
963 : suxen_drol 240 if ((pEnc->global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
964 : suxen_drol 229 BitstreamPad(&bs);
965 :     input_valid = 0;
966 :     goto ipvop_loop;
967 :     }
968 :    
969 : edgomez 194 /*
970 :     * NB : sequences like "IIBB" decode fine with msfdam but,
971 :     * go screwy with divx 5.00
972 :     */
973 : edgomez 195 } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
974 : edgomez 194 /*
975 :     * This will be coded as a Predicted Frame
976 :     */
977 : suxen_drol 152
978 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
979 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
980 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
981 : suxen_drol 234
982 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
983 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
984 :     }
985 : edgomez 194
986 : suxen_drol 152 FrameCodeP(pEnc, &bs, &bits, 1, 0);
987 :     pFrame->intra = 0;
988 :     pEnc->flush_bframes = 1;
989 : suxen_drol 229
990 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
991 : suxen_drol 229 BitstreamPad(&bs);
992 :     input_valid = 0;
993 :     goto ipvop_loop;
994 :     }
995 :    
996 : edgomez 195 } else {
997 : edgomez 194 /*
998 :     * This will be coded as a Bidirectional Frame
999 :     */
1000 : suxen_drol 152
1001 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
1002 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
1003 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1004 : edgomez 194
1005 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
1006 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1007 :     }
1008 :    
1009 : edgomez 195 if (pFrame->bquant < 1) {
1010 : edgomez 194 pEnc->current->quant =
1011 : edgomez 195 ((pEnc->reference->quant +
1012 :     pEnc->current->quant) * pEnc->bquant_ratio) / 200;
1013 :     } else {
1014 : suxen_drol 152 pEnc->current->quant = pFrame->bquant;
1015 :     }
1016 : edgomez 195
1017 : edgomez 194 /* store frame into bframe buffer & swap ref back to current */
1018 : suxen_drol 152 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1019 :     SWAP(pEnc->current, pEnc->reference);
1020 :    
1021 :     pEnc->bframenum_tail++;
1022 :    
1023 :     pFrame->intra = 0;
1024 :     pFrame->length = 0;
1025 :    
1026 : suxen_drol 229 input_valid = 0;
1027 :     goto bvop_loop;
1028 : suxen_drol 152 }
1029 :    
1030 :     BitstreamPad(&bs);
1031 :     pFrame->length = BitstreamLength(&bs);
1032 :    
1033 : edgomez 195 if (pResult) {
1034 : suxen_drol 152 pResult->quant = pEnc->current->quant;
1035 : edgomez 195 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1036 : suxen_drol 152 pResult->kblks = pEnc->sStat.kblks;
1037 :     pResult->mblks = pEnc->sStat.mblks;
1038 :     pResult->ublks = pEnc->sStat.ublks;
1039 :     }
1040 :    
1041 : edgomez 198 emms();
1042 : edgomez 194
1043 : suxen_drol 229 #ifdef _DEBUG_PSNR
1044 : edgomez 195 psnr =
1045 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1046 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1047 :     pEnc->mbParam.height);
1048 : suxen_drol 152
1049 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
1050 : suxen_drol 152 DEBUG(temp);
1051 :     #endif
1052 :    
1053 : edgomez 195 if (pFrame->quant == 0) {
1054 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1055 :     pFrame->length, pFrame->intra);
1056 : suxen_drol 152 }
1057 :    
1058 : edgomez 195
1059 : suxen_drol 152 stop_global_timer();
1060 :     write_timer();
1061 :    
1062 :     return XVID_ERR_OK;
1063 :     }
1064 : suxen_drol 229
1065 :     #endif
1066 :    
1067 :    
1068 :    
1069 : edgomez 194 /*****************************************************************************
1070 : suxen_drol 229 * "original" IP frame encoder entry point
1071 :     *
1072 :     * Returned values :
1073 :     * - XVID_ERR_OK - no errors
1074 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1075 :     * format
1076 : edgomez 194 ****************************************************************************/
1077 : suxen_drol 229
1078 : edgomez 194 int
1079 :     encoder_encode(Encoder * pEnc,
1080 : edgomez 195 XVID_ENC_FRAME * pFrame,
1081 :     XVID_ENC_STATS * pResult)
1082 : suxen_drol 152 {
1083 :     uint16_t x, y;
1084 :     Bitstream bs;
1085 :     uint32_t bits;
1086 : Isibaar 4 uint16_t write_vol_header = 0;
1087 : edgomez 195
1088 : suxen_drol 229 #ifdef _DEBUG_PSNR
1089 : Isibaar 113 float psnr;
1090 : edgomez 194 uint8_t temp[128];
1091 : Isibaar 113 #endif
1092 : Isibaar 3
1093 :     start_global_timer();
1094 :    
1095 : edgomez 13 ENC_CHECK(pEnc);
1096 :     ENC_CHECK(pFrame);
1097 :     ENC_CHECK(pFrame->bitstream);
1098 :     ENC_CHECK(pFrame->image);
1099 : Isibaar 3
1100 : suxen_drol 136 SWAP(pEnc->current, pEnc->reference);
1101 :    
1102 :     pEnc->current->global_flags = pFrame->general;
1103 :     pEnc->current->motion_flags = pFrame->motion;
1104 : suxen_drol 229 #ifdef BFRAMES
1105 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
1106 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
1107 :     #endif
1108 : h 101 pEnc->mbParam.hint = &pFrame->hint;
1109 : Isibaar 3
1110 :     start_timer();
1111 : edgomez 195 if (image_input
1112 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1113 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1114 : Isibaar 3 return XVID_ERR_FORMAT;
1115 :     stop_conv_timer();
1116 :    
1117 : suxen_drol 229 #ifdef _DEBUG_PSNR
1118 : edgomez 195 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1119 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1120 : Isibaar 113 #endif
1121 :    
1122 : edgomez 198 emms();
1123 : suxen_drol 136
1124 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
1125 : Isibaar 3
1126 : edgomez 195 if (pFrame->quant == 0) {
1127 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1128 :     } else {
1129 : suxen_drol 136 pEnc->current->quant = pFrame->quant;
1130 : Isibaar 3 }
1131 :    
1132 : edgomez 195 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1133 :     int *temp_dquants =
1134 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1135 :     pEnc->mbParam.mb_height * sizeof(int),
1136 :     CACHE_LINE);
1137 :    
1138 : edgomez 194 pEnc->current->quant =
1139 :     adaptive_quantization(pEnc->current->image.y,
1140 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
1141 :     pEnc->current->quant, pEnc->current->quant,
1142 :     2 * pEnc->current->quant,
1143 :     pEnc->mbParam.mb_width,
1144 :     pEnc->mbParam.mb_height);
1145 : edgomez 194
1146 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1147 : edgomez 194
1148 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1149 : edgomez 194
1150 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1151 : edgomez 194
1152 : edgomez 195
1153 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1154 :    
1155 :     pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1156 : Isibaar 3 }
1157 : edgomez 194
1158 : edgomez 195 #undef OFFSET
1159 : edgomez 194 }
1160 :    
1161 : Isibaar 41 xvid_free(temp_dquants);
1162 : Isibaar 3 }
1163 :    
1164 : edgomez 195 if (pEnc->current->global_flags & XVID_H263QUANT) {
1165 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1166 : Isibaar 20 write_vol_header = 1;
1167 : suxen_drol 136 pEnc->mbParam.m_quant_type = H263_QUANT;
1168 : edgomez 195 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1169 : edgomez 194 int matrix1_changed, matrix2_changed;
1170 : Isibaar 3
1171 : edgomez 194 matrix1_changed = matrix2_changed = 0;
1172 : edgomez 78
1173 : edgomez 195 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1174 : Isibaar 20 write_vol_header = 1;
1175 : edgomez 195
1176 : suxen_drol 136 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1177 : edgomez 195
1178 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1179 : edgomez 195 if (pFrame->quant_intra_matrix != NULL)
1180 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1181 :     if (pFrame->quant_inter_matrix != NULL)
1182 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1183 :     } else {
1184 : edgomez 194 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1185 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1186 : Isibaar 20 }
1187 : edgomez 195 if (write_vol_header == 0)
1188 : edgomez 194 write_vol_header = matrix1_changed | matrix2_changed;
1189 : Isibaar 4 }
1190 : Isibaar 3
1191 : edgomez 195 if (pFrame->intra < 0) {
1192 :     if ((pEnc->iFrameNum == 0)
1193 :     || ((pEnc->iMaxKeyInterval > 0)
1194 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
1195 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1196 :     } else {
1197 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1198 : edgomez 194 }
1199 : edgomez 195 } else {
1200 :     if (pFrame->intra == 1) {
1201 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1202 :     } else {
1203 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1204 : edgomez 194 }
1205 :    
1206 : edgomez 13 }
1207 : Isibaar 3
1208 :     BitstreamPutBits(&bs, 0xFFFF, 16);
1209 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
1210 :     BitstreamPad(&bs);
1211 :     pFrame->length = BitstreamLength(&bs);
1212 : h 29
1213 : edgomez 195 if (pResult) {
1214 : suxen_drol 136 pResult->quant = pEnc->current->quant;
1215 : Isibaar 3 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1216 :     pResult->kblks = pEnc->sStat.kblks;
1217 :     pResult->mblks = pEnc->sStat.mblks;
1218 :     pResult->ublks = pEnc->sStat.ublks;
1219 : edgomez 13 }
1220 : edgomez 195
1221 : edgomez 198 emms();
1222 : Isibaar 41
1223 : edgomez 195 if (pFrame->quant == 0) {
1224 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1225 :     pFrame->length, pFrame->intra);
1226 : Isibaar 3 }
1227 : suxen_drol 229 #ifdef _DEBUG_PSNR
1228 : edgomez 195 psnr =
1229 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1230 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1231 :     pEnc->mbParam.height);
1232 : Isibaar 113
1233 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
1234 : Isibaar 113 DEBUG(temp);
1235 :     #endif
1236 :    
1237 : suxen_drol 229 #ifdef BFRAMES
1238 :     inc_frame_num(pEnc);
1239 :     #else
1240 : Isibaar 3 pEnc->iFrameNum++;
1241 : suxen_drol 229 #endif
1242 : edgomez 195
1243 : suxen_drol 229
1244 : Isibaar 3 stop_global_timer();
1245 :     write_timer();
1246 :    
1247 :     return XVID_ERR_OK;
1248 :     }
1249 :    
1250 :    
1251 : edgomez 195 static __inline void
1252 :     CodeIntraMB(Encoder * pEnc,
1253 :     MACROBLOCK * pMB)
1254 :     {
1255 : Isibaar 3
1256 :     pMB->mode = MODE_INTRA;
1257 :    
1258 : suxen_drol 136 /* zero mv statistics */
1259 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1260 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1261 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1262 :     pMB->sad16 = 0;
1263 :    
1264 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1265 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1266 : Isibaar 3 pMB->mode = MODE_INTRA_Q;
1267 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1268 : edgomez 195
1269 :     if (pEnc->current->quant > 31)
1270 :     pEnc->current->quant = 31;
1271 :     if (pEnc->current->quant < 1)
1272 :     pEnc->current->quant = 1;
1273 : Isibaar 3 }
1274 :     }
1275 :    
1276 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1277 : Isibaar 3 }
1278 :    
1279 :    
1280 : h 101 #define FCODEBITS 3
1281 :     #define MODEBITS 5
1282 :    
1283 : edgomez 195 void
1284 :     HintedMESet(Encoder * pEnc,
1285 :     int *intra)
1286 : h 101 {
1287 : edgomez 195 HINTINFO *hint;
1288 : h 101 Bitstream bs;
1289 :     int length, high;
1290 :     uint32_t x, y;
1291 :    
1292 :     hint = pEnc->mbParam.hint;
1293 :    
1294 : edgomez 195 if (hint->rawhints) {
1295 : h 101 *intra = hint->mvhint.intra;
1296 : edgomez 195 } else {
1297 : h 101 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1298 :     *intra = BitstreamGetBit(&bs);
1299 :     }
1300 :    
1301 : edgomez 195 if (*intra) {
1302 : h 101 return;
1303 :     }
1304 :    
1305 : edgomez 195 pEnc->current->fcode =
1306 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1307 :     FCODEBITS);
1308 : h 101
1309 : edgomez 195 length = pEnc->current->fcode + 5;
1310 :     high = 1 << (length - 1);
1311 : h 101
1312 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1313 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1314 :     MACROBLOCK *pMB =
1315 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1316 :     MVBLOCKHINT *bhint =
1317 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1318 : h 101 VECTOR pred[4];
1319 :     VECTOR tmp;
1320 : edgomez 147 int32_t dummy[4];
1321 : h 101 int vec;
1322 :    
1323 : edgomez 195 pMB->mode =
1324 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1325 :     MODEBITS);
1326 : h 101
1327 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1328 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1329 :    
1330 : edgomez 195 if (pMB->mode == MODE_INTER) {
1331 :     tmp.x =
1332 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1333 :     length);
1334 :     tmp.y =
1335 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1336 :     length);
1337 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1338 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1339 : h 101
1340 : edgomez 195 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width,
1341 : suxen_drol 252 0, pred, dummy);
1342 : h 101
1343 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1344 :     pMB->mvs[vec].x = tmp.x;
1345 :     pMB->mvs[vec].y = tmp.y;
1346 : h 101 pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
1347 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
1348 :     }
1349 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1350 :     for (vec = 0; vec < 4; ++vec) {
1351 :     tmp.x =
1352 :     (hint->rawhints) ? bhint->mvs[vec].
1353 :     x : BitstreamGetBits(&bs, length);
1354 :     tmp.y =
1355 :     (hint->rawhints) ? bhint->mvs[vec].
1356 :     y : BitstreamGetBits(&bs, length);
1357 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1358 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1359 : h 101
1360 : edgomez 195 get_pmvdata(pEnc->current->mbs, x, y,
1361 : suxen_drol 252 pEnc->mbParam.mb_width, vec, pred, dummy);
1362 : h 101
1363 : edgomez 195 pMB->mvs[vec].x = tmp.x;
1364 :     pMB->mvs[vec].y = tmp.y;
1365 : h 101 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
1366 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
1367 :     }
1368 : edgomez 195 } else // intra / stuffing / not_coded
1369 : h 101 {
1370 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1371 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1372 : h 101 }
1373 :     }
1374 : h 128
1375 : suxen_drol 136 if (pMB->mode == MODE_INTER4V &&
1376 : edgomez 195 (pEnc->current->global_flags & XVID_LUMIMASKING)
1377 :     && pMB->dquant != NO_CHANGE) {
1378 : h 128 pMB->mode = MODE_INTRA;
1379 :    
1380 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1381 : h 128 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1382 :     }
1383 :     }
1384 : h 101 }
1385 :     }
1386 :     }
1387 :    
1388 :    
1389 : edgomez 195 void
1390 :     HintedMEGet(Encoder * pEnc,
1391 :     int intra)
1392 : h 101 {
1393 : edgomez 195 HINTINFO *hint;
1394 : h 101 Bitstream bs;
1395 :     uint32_t x, y;
1396 :     int length, high;
1397 :    
1398 :     hint = pEnc->mbParam.hint;
1399 :    
1400 : edgomez 195 if (hint->rawhints) {
1401 : h 101 hint->mvhint.intra = intra;
1402 : edgomez 195 } else {
1403 : h 101 BitstreamInit(&bs, hint->hintstream, 0);
1404 :     BitstreamPutBit(&bs, intra);
1405 :     }
1406 :    
1407 : edgomez 195 if (intra) {
1408 :     if (!hint->rawhints) {
1409 : h 101 BitstreamPad(&bs);
1410 :     hint->hintlength = BitstreamLength(&bs);
1411 :     }
1412 :     return;
1413 :     }
1414 :    
1415 : edgomez 195 length = pEnc->current->fcode + 5;
1416 :     high = 1 << (length - 1);
1417 : h 101
1418 : edgomez 195 if (hint->rawhints) {
1419 : suxen_drol 136 hint->mvhint.fcode = pEnc->current->fcode;
1420 : edgomez 195 } else {
1421 : suxen_drol 136 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1422 : h 101 }
1423 :    
1424 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1425 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1426 :     MACROBLOCK *pMB =
1427 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1428 :     MVBLOCKHINT *bhint =
1429 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1430 : h 101 VECTOR tmp;
1431 :    
1432 : edgomez 195 if (hint->rawhints) {
1433 : h 101 bhint->mode = pMB->mode;
1434 : edgomez 195 } else {
1435 : h 101 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1436 :     }
1437 :    
1438 : edgomez 195 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1439 :     tmp.x = pMB->mvs[0].x;
1440 :     tmp.y = pMB->mvs[0].y;
1441 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1442 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1443 : h 101
1444 : edgomez 195 if (hint->rawhints) {
1445 : h 101 bhint->mvs[0].x = tmp.x;
1446 :     bhint->mvs[0].y = tmp.y;
1447 : edgomez 195 } else {
1448 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1449 :     BitstreamPutBits(&bs, tmp.y, length);
1450 :     }
1451 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1452 : h 101 int vec;
1453 :    
1454 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1455 :     tmp.x = pMB->mvs[vec].x;
1456 :     tmp.y = pMB->mvs[vec].y;
1457 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1458 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1459 : h 101
1460 : edgomez 195 if (hint->rawhints) {
1461 : h 101 bhint->mvs[vec].x = tmp.x;
1462 :     bhint->mvs[vec].y = tmp.y;
1463 : edgomez 195 } else {
1464 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1465 :     BitstreamPutBits(&bs, tmp.y, length);
1466 :     }
1467 :     }
1468 :     }
1469 :     }
1470 :     }
1471 :    
1472 : edgomez 195 if (!hint->rawhints) {
1473 : h 101 BitstreamPad(&bs);
1474 :     hint->hintlength = BitstreamLength(&bs);
1475 :     }
1476 :     }
1477 :    
1478 :    
1479 : edgomez 195 static int
1480 :     FrameCodeI(Encoder * pEnc,
1481 :     Bitstream * bs,
1482 :     uint32_t * pBits)
1483 : h 104 {
1484 :    
1485 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1486 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1487 : h 104
1488 :     uint16_t x, y;
1489 :    
1490 :     pEnc->iFrameNum = 0;
1491 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1;
1492 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1493 :     pEnc->current->coding_type = I_VOP;
1494 : h 104
1495 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1496 : suxen_drol 229 #ifdef BFRAMES
1497 :     #define DIVX501B481P "DivX501b481p"
1498 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1499 : suxen_drol 229 BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1500 :     }
1501 :     #endif
1502 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1503 : h 104
1504 :     *pBits = BitstreamPos(bs);
1505 :    
1506 :     pEnc->sStat.iTextBits = 0;
1507 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1508 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1509 :    
1510 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1511 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1512 :     MACROBLOCK *pMB =
1513 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1514 : h 104
1515 :     CodeIntraMB(pEnc, pMB);
1516 :    
1517 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1518 :     dct_codes, qcoeff);
1519 : h 104
1520 :     start_timer();
1521 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1522 : h 104 stop_prediction_timer();
1523 :    
1524 :     start_timer();
1525 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1526 : h 104 stop_coding_timer();
1527 :     }
1528 :    
1529 :     emms();
1530 :    
1531 :     *pBits = BitstreamPos(bs) - *pBits;
1532 :     pEnc->sStat.fMvPrevSigma = -1;
1533 :     pEnc->sStat.iMvSum = 0;
1534 :     pEnc->sStat.iMvCount = 0;
1535 : suxen_drol 136 pEnc->mbParam.m_fcode = 2;
1536 : h 104
1537 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1538 : h 104 HintedMEGet(pEnc, 1);
1539 :     }
1540 :    
1541 : edgomez 195 return 1; // intra
1542 : h 104 }
1543 :    
1544 :    
1545 : Isibaar 3 #define INTRA_THRESHOLD 0.5
1546 :    
1547 : edgomez 195 static int
1548 :     FrameCodeP(Encoder * pEnc,
1549 :     Bitstream * bs,
1550 :     uint32_t * pBits,
1551 :     bool force_inter,
1552 :     bool vol_header)
1553 : Isibaar 3 {
1554 : edgomez 13 float fSigma;
1555 : Isibaar 42
1556 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1557 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1558 : edgomez 78
1559 : Isibaar 3 int iLimit;
1560 : edgomez 13 uint32_t x, y;
1561 :     int iSearchRange;
1562 : edgomez 145 int bIntra;
1563 : suxen_drol 240
1564 : edgomez 145 /* IMAGE *pCurrent = &pEnc->current->image; */
1565 : suxen_drol 136 IMAGE *pRef = &pEnc->reference->image;
1566 : Isibaar 3
1567 : h 69 start_timer();
1568 : edgomez 195 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1569 :     pEnc->mbParam.width, pEnc->mbParam.height,
1570 :     pEnc->current->global_flags & XVID_INTERLACING);
1571 : h 69 stop_edges_timer();
1572 : Isibaar 3
1573 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1574 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1575 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1576 : Isibaar 3
1577 :     if (!force_inter)
1578 : edgomez 195 iLimit =
1579 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1580 :     INTRA_THRESHOLD);
1581 : edgomez 13 else
1582 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1583 :    
1584 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1585 : Isibaar 3 start_timer();
1586 : edgomez 195 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1587 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1588 :     pEnc->mbParam.edged_height,
1589 :     pEnc->current->rounding_type);
1590 : Isibaar 3 stop_inter_timer();
1591 :     }
1592 :    
1593 :     start_timer();
1594 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1595 : h 101 HintedMESet(pEnc, &bIntra);
1596 : edgomez 195 } else {
1597 : chl 259
1598 :     #ifdef _SMP
1599 :     if (NUMTHREADS > 1)
1600 :     bIntra =
1601 :     SMP_MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1602 : edgomez 195 &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1603 :     iLimit);
1604 : chl 259 else
1605 :     #endif
1606 :    
1607 :     bIntra =
1608 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1609 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1610 :     iLimit);
1611 :    
1612 :    
1613 : h 101 }
1614 : Isibaar 3 stop_motion_timer();
1615 :    
1616 : edgomez 195 if (bIntra == 1) {
1617 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
1618 : h 101 }
1619 : Isibaar 3
1620 : suxen_drol 136 pEnc->current->coding_type = P_VOP;
1621 : Isibaar 3
1622 : edgomez 195 if (vol_header)
1623 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1624 : Isibaar 3
1625 : suxen_drol 229 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1626 : Isibaar 3
1627 : edgomez 13 *pBits = BitstreamPos(bs);
1628 : Isibaar 3
1629 : edgomez 13 pEnc->sStat.iTextBits = 0;
1630 :     pEnc->sStat.iMvSum = 0;
1631 :     pEnc->sStat.iMvCount = 0;
1632 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1633 :    
1634 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1635 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1636 :     MACROBLOCK *pMB =
1637 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1638 : Isibaar 3
1639 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1640 : Isibaar 3
1641 : edgomez 195 if (!bIntra) {
1642 : Isibaar 3 start_timer();
1643 : edgomez 195 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1644 :     &pEnc->vInterH, &pEnc->vInterV,
1645 :     &pEnc->vInterHV, &pEnc->current->image,
1646 :     dct_codes, pEnc->mbParam.width,
1647 :     pEnc->mbParam.height,
1648 :     pEnc->mbParam.edged_width,
1649 :     pEnc->current->rounding_type);
1650 : Isibaar 3 stop_comp_timer();
1651 :    
1652 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1653 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1654 : Isibaar 3 pMB->mode = MODE_INTER_Q;
1655 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1656 : edgomez 195 if (pEnc->current->quant > 31)
1657 :     pEnc->current->quant = 31;
1658 :     else if (pEnc->current->quant < 1)
1659 :     pEnc->current->quant = 1;
1660 : Isibaar 3 }
1661 :     }
1662 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1663 : Isibaar 3
1664 : h 69 pMB->field_pred = 0;
1665 :    
1666 : edgomez 195 pMB->cbp =
1667 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1668 :     dct_codes, qcoeff);
1669 :     } else {
1670 : Isibaar 3 CodeIntraMB(pEnc, pMB);
1671 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1672 :     dct_codes, qcoeff);
1673 : Isibaar 3 }
1674 :    
1675 : edgomez 13 start_timer();
1676 : edgomez 195 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1677 : Isibaar 3 stop_prediction_timer();
1678 :    
1679 : edgomez 195 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1680 : Isibaar 3 pEnc->sStat.kblks++;
1681 : edgomez 195 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1682 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1683 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1684 : Isibaar 3 pEnc->sStat.mblks++;
1685 : edgomez 195 } else {
1686 : Isibaar 3 pEnc->sStat.ublks++;
1687 :     }
1688 :    
1689 :     start_timer();
1690 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1691 : Isibaar 3 stop_coding_timer();
1692 :     }
1693 :     }
1694 :    
1695 :     emms();
1696 :    
1697 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1698 : h 101 HintedMEGet(pEnc, 0);
1699 :     }
1700 :    
1701 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
1702 :     pEnc->sStat.iMvCount = 1;
1703 :    
1704 : edgomez 195 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1705 : Isibaar 3
1706 : suxen_drol 136 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1707 : Isibaar 3
1708 : edgomez 195 if ((fSigma > iSearchRange / 3)
1709 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1710 : edgomez 13 {
1711 : suxen_drol 136 pEnc->mbParam.m_fcode++;
1712 : Isibaar 3 iSearchRange *= 2;
1713 : edgomez 195 } else if ((fSigma < iSearchRange / 6)
1714 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1715 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1716 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1717 : edgomez 13 {
1718 : suxen_drol 136 pEnc->mbParam.m_fcode--;
1719 : Isibaar 3 iSearchRange /= 2;
1720 : edgomez 13 }
1721 : Isibaar 3
1722 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
1723 : edgomez 195
1724 : Isibaar 3 *pBits = BitstreamPos(bs) - *pBits;
1725 :    
1726 : edgomez 195 return 0; // inter
1727 : Isibaar 3 }
1728 : suxen_drol 118
1729 :    
1730 : suxen_drol 152 #ifdef BFRAMES
1731 : edgomez 195 static void
1732 :     FrameCodeB(Encoder * pEnc,
1733 :     FRAMEINFO * frame,
1734 :     Bitstream * bs,
1735 :     uint32_t * pBits)
1736 : suxen_drol 118 {
1737 : edgomez 195 int16_t dct_codes[6 * 64];
1738 :     int16_t qcoeff[6 * 64];
1739 :     uint32_t x, y;
1740 : suxen_drol 118 VECTOR forward;
1741 :     VECTOR backward;
1742 :    
1743 : edgomez 195 IMAGE *f_ref = &pEnc->reference->image;
1744 : suxen_drol 118 IMAGE *b_ref = &pEnc->current->image;
1745 :    
1746 : suxen_drol 152 // forward
1747 : edgomez 195 image_setedges(f_ref, pEnc->mbParam.edged_width,
1748 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1749 :     pEnc->mbParam.height,
1750 :     frame->global_flags & XVID_INTERLACING);
1751 : suxen_drol 118 start_timer();
1752 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1753 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1754 :     0);
1755 : suxen_drol 118 stop_inter_timer();
1756 :    
1757 : suxen_drol 152 // backward
1758 : edgomez 195 image_setedges(b_ref, pEnc->mbParam.edged_width,
1759 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1760 :     pEnc->mbParam.height,
1761 :     frame->global_flags & XVID_INTERLACING);
1762 :     start_timer();
1763 : suxen_drol 118 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1764 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1765 :     0);
1766 : suxen_drol 118 stop_inter_timer();
1767 :    
1768 :     start_timer();
1769 : edgomez 195 MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1770 :     &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1771 :     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1772 :     &pEnc->vInterV, &pEnc->vInterHV);
1773 : suxen_drol 118
1774 : edgomez 195
1775 : suxen_drol 118 stop_motion_timer();
1776 : edgomez 195
1777 : suxen_drol 152 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1778 : edgomez 195 {
1779 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1780 :     } */
1781 : suxen_drol 118
1782 : edgomez 195 frame->coding_type = B_VOP;
1783 : suxen_drol 229 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1784 : suxen_drol 118
1785 : edgomez 195 *pBits = BitstreamPos(bs);
1786 : suxen_drol 118
1787 : edgomez 195 pEnc->sStat.iTextBits = 0;
1788 :     pEnc->sStat.iMvSum = 0;
1789 :     pEnc->sStat.iMvCount = 0;
1790 : suxen_drol 118 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1791 :    
1792 :    
1793 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1794 : suxen_drol 118 // reset prediction
1795 :    
1796 :     forward.x = 0;
1797 :     forward.y = 0;
1798 :     backward.x = 0;
1799 :     backward.y = 0;
1800 :    
1801 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1802 :     MACROBLOCK *f_mb =
1803 :     &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1804 :     MACROBLOCK *b_mb =
1805 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1806 :     MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1807 : suxen_drol 118
1808 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1809 : edgomez 195 if (mb->mode == MODE_NOT_CODED) {
1810 : suxen_drol 118 mb->mvs[0].x = 0;
1811 :     mb->mvs[0].y = 0;
1812 :     continue;
1813 :     }
1814 :    
1815 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1816 : edgomez 195 f_ref, &pEnc->f_refh, &pEnc->f_refv,
1817 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1818 :     &pEnc->vInterV, &pEnc->vInterHV,
1819 :     dct_codes);
1820 :    
1821 : suxen_drol 118 mb->quant = frame->quant;
1822 : edgomez 195 mb->cbp =
1823 :     MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1824 :     qcoeff);
1825 : suxen_drol 118 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1826 :    
1827 :    
1828 : edgomez 195 if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1829 :     && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
1830 :     mb->mode = 5; // skipped
1831 : suxen_drol 118 }
1832 :    
1833 : edgomez 195 if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1834 : suxen_drol 118 mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1835 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1836 :     forward.x = mb->mvs[0].x;
1837 :     forward.y = mb->mvs[0].y;
1838 :     }
1839 : edgomez 195
1840 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1841 : suxen_drol 118 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1842 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1843 :     backward.x = mb->b_mvs[0].x;
1844 :     backward.y = mb->b_mvs[0].y;
1845 :     }
1846 : suxen_drol 234 // DPRINTF("%05i : [%i %i] M=%i CBP=%i MVS=%i,%i forward=%i,%i", pEnc->m_framenum, x, y, mb->mode, mb->cbp, mb->mvs[0].x, mb->mvs[0].y, forward.x, forward.y);
1847 : suxen_drol 118
1848 : edgomez 195 start_timer();
1849 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1850 :     &pEnc->sStat);
1851 : suxen_drol 118 stop_coding_timer();
1852 :     }
1853 :     }
1854 :    
1855 :     emms();
1856 :    
1857 :     // TODO: dynamic fcode/bcode ???
1858 :    
1859 :     *pBits = BitstreamPos(bs) - *pBits;
1860 :     }
1861 : edgomez 188 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4