[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 290 - (view) (download)

1 : edgomez 194 /*****************************************************************************
2 : edgomez 145 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 194 ****************************************************************************/
30 : suxen_drol 118
31 : edgomez 194 /*****************************************************************************
32 : edgomez 145 *
33 :     * History
34 :     *
35 : chenm001 290 * 10.07.2002 added BFRAMES_DEC_DEBUG support
36 :     * MinChen <chenm001@163.com>
37 :     * 20.06.2002 bframe patch
38 : chenm001 168 * 08.05.2002 fix some problem in DEBUG mode;
39 :     * MinChen <chenm001@163.com>
40 : edgomez 145 * 14.04.2002 added FrameCodeB()
41 :     *
42 : chenm001 290 * $Id: encoder.c,v 1.54 2002-07-11 00:15:59 chenm001 Exp $
43 : edgomez 145 *
44 : edgomez 194 ****************************************************************************/
45 : edgomez 145
46 : Isibaar 3 #include <stdlib.h>
47 :     #include <stdio.h>
48 :     #include <math.h>
49 : edgomez 198 #include <string.h>
50 : Isibaar 3
51 :     #include "encoder.h"
52 :     #include "prediction/mbprediction.h"
53 :     #include "global.h"
54 :     #include "utils/timer.h"
55 :     #include "image/image.h"
56 : suxen_drol 238 #ifdef BFRAMES
57 :     #include "image/font.h"
58 :     #endif
59 : suxen_drol 152 #include "motion/motion.h"
60 : Isibaar 3 #include "bitstream/cbp.h"
61 :     #include "utils/mbfunctions.h"
62 :     #include "bitstream/bitstream.h"
63 :     #include "bitstream/mbcoding.h"
64 :     #include "utils/ratecontrol.h"
65 :     #include "utils/emms.h"
66 :     #include "bitstream/mbcoding.h"
67 :     #include "quant/adapt_quant.h"
68 : Isibaar 4 #include "quant/quant_matrix.h"
69 : Isibaar 41 #include "utils/mem_align.h"
70 : Isibaar 3
71 : chl 259 #ifdef _SMP
72 :     #include "motion/smp_motion_est.h"
73 :     #endif
74 : edgomez 194 /*****************************************************************************
75 :     * Local macros
76 :     ****************************************************************************/
77 :    
78 : Isibaar 3 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
79 : suxen_drol 136 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
80 : Isibaar 3
81 : edgomez 194 /*****************************************************************************
82 :     * Local function prototypes
83 :     ****************************************************************************/
84 :    
85 : edgomez 192 static int FrameCodeI(Encoder * pEnc,
86 : edgomez 195 Bitstream * bs,
87 :     uint32_t * pBits);
88 : Isibaar 3
89 : edgomez 192 static int FrameCodeP(Encoder * pEnc,
90 : edgomez 195 Bitstream * bs,
91 :     uint32_t * pBits,
92 :     bool force_inter,
93 :     bool vol_header);
94 : Isibaar 3
95 : edgomez 192 #ifdef BFRAMES
96 :     static void FrameCodeB(Encoder * pEnc,
97 : edgomez 195 FRAMEINFO * frame,
98 :     Bitstream * bs,
99 :     uint32_t * pBits);
100 : edgomez 192 #endif
101 :    
102 : edgomez 194 /*****************************************************************************
103 :     * Local data
104 :     ****************************************************************************/
105 :    
106 : edgomez 195 static int DQtab[4] = {
107 : Isibaar 3 -1, -2, 1, 2
108 :     };
109 :    
110 : edgomez 195 static int iDQtab[5] = {
111 : Isibaar 3 1, 0, NO_CHANGE, 2, 3
112 :     };
113 :    
114 :    
115 : edgomez 195 static void __inline
116 :     image_null(IMAGE * image)
117 : suxen_drol 136 {
118 :     image->y = image->u = image->v = NULL;
119 :     }
120 :    
121 :    
122 : edgomez 194 /*****************************************************************************
123 :     * Encoder creation
124 :     *
125 :     * This function creates an Encoder instance, it allocates all necessary
126 :     * image buffers (reference, current and bframes) and initialize the internal
127 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
128 :     *
129 :     * The code seems to be very long but is very basic, mainly memory allocation
130 :     * and cleaning code.
131 :     *
132 :     * Returned values :
133 :     * - XVID_ERR_OK - no errors
134 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
135 :     * cleans the structure before exiting.
136 :     * pParam->handle is also set to NULL.
137 :     *
138 :     ****************************************************************************/
139 :    
140 :     int
141 :     encoder_create(XVID_ENC_PARAM * pParam)
142 : Isibaar 3 {
143 : edgomez 13 Encoder *pEnc;
144 : suxen_drol 229 int i;
145 : Isibaar 3
146 : edgomez 13 pParam->handle = NULL;
147 : Isibaar 3
148 : edgomez 13 ENC_CHECK(pParam);
149 : Isibaar 3
150 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
151 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
152 :     ENC_CHECK(!(pParam->width % 2));
153 :     ENC_CHECK(!(pParam->height % 2));
154 : Isibaar 3
155 : edgomez 192 /* Fps */
156 :    
157 : edgomez 195 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
158 : Isibaar 3 pParam->fincr = 1;
159 :     pParam->fbase = 25;
160 :     }
161 :    
162 : edgomez 192 /*
163 :     * Simplify the "fincr/fbase" fraction
164 :     * (neccessary, since windows supplies us with huge numbers)
165 :     */
166 : Isibaar 3
167 :     i = pParam->fincr;
168 : edgomez 195 while (i > 1) {
169 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
170 : Isibaar 3 pParam->fincr /= i;
171 :     pParam->fbase /= i;
172 :     i = pParam->fincr;
173 :     continue;
174 :     }
175 :     i--;
176 :     }
177 :    
178 : edgomez 195 if (pParam->fbase > 65535) {
179 :     float div = (float) pParam->fbase / 65535;
180 :    
181 :     pParam->fbase = (int) (pParam->fbase / div);
182 :     pParam->fincr = (int) (pParam->fincr / div);
183 : Isibaar 3 }
184 :    
185 : edgomez 192 /* Bitrate allocator defaults */
186 :    
187 : h 121 if (pParam->rc_bitrate <= 0)
188 :     pParam->rc_bitrate = 900000;
189 : Isibaar 3
190 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
191 :     pParam->rc_reaction_delay_factor = 16;
192 : Isibaar 3
193 : h 121 if (pParam->rc_averaging_period <= 0)
194 :     pParam->rc_averaging_period = 100;
195 :    
196 :     if (pParam->rc_buffer <= 0)
197 :     pParam->rc_buffer = 100;
198 :    
199 : edgomez 192 /* Max and min quantizers */
200 :    
201 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
202 : Isibaar 3 pParam->min_quantizer = 1;
203 :    
204 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
205 : Isibaar 3 pParam->max_quantizer = 31;
206 :    
207 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
208 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
209 :    
210 : edgomez 195 /* 1 keyframe each 10 seconds */
211 : edgomez 192
212 :     if (pParam->max_key_interval == 0)
213 :     pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
214 :    
215 : edgomez 195
216 : edgomez 192 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
217 :     if (pEnc == NULL)
218 : Isibaar 3 return XVID_ERR_MEMORY;
219 :    
220 : edgomez 198 /* Zero the Encoder Structure */
221 :    
222 :     memset(pEnc, 0, sizeof(Encoder));
223 :    
224 : Isibaar 3 /* Fill members of Encoder structure */
225 :    
226 : edgomez 13 pEnc->mbParam.width = pParam->width;
227 :     pEnc->mbParam.height = pParam->height;
228 : Isibaar 3
229 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
230 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
231 :    
232 : edgomez 195 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
233 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
234 : Isibaar 3
235 : suxen_drol 152 pEnc->mbParam.fbase = pParam->fbase;
236 :     pEnc->mbParam.fincr = pParam->fincr;
237 :    
238 : Isibaar 208 pEnc->mbParam.m_quant_type = H263_QUANT;
239 :    
240 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
241 : Isibaar 3
242 :     /* Fill rate control parameters */
243 :    
244 : h 121 pEnc->bitrate = pParam->rc_bitrate;
245 : Isibaar 3
246 : edgomez 13 pEnc->iFrameNum = 0;
247 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
248 : Isibaar 3
249 : suxen_drol 136 /* try to allocate frame memory */
250 : Isibaar 3
251 : edgomez 192 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
252 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
253 : Isibaar 3
254 : edgomez 195 if (pEnc->current == NULL || pEnc->reference == NULL)
255 : edgomez 192 goto xvid_err_memory1;
256 :    
257 : suxen_drol 136 /* try to allocate mb memory */
258 : Isibaar 3
259 : edgomez 195 pEnc->current->mbs =
260 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
261 :     pEnc->mbParam.mb_height, CACHE_LINE);
262 :     pEnc->reference->mbs =
263 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
264 :     pEnc->mbParam.mb_height, CACHE_LINE);
265 : suxen_drol 136
266 : edgomez 192 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
267 :     goto xvid_err_memory2;
268 : suxen_drol 136
269 :     /* try to allocate image memory */
270 :    
271 : suxen_drol 229 #ifdef _DEBUG_PSNR
272 : suxen_drol 136 image_null(&pEnc->sOriginal);
273 :     #endif
274 : suxen_drol 152 #ifdef BFRAMES
275 :     image_null(&pEnc->f_refh);
276 :     image_null(&pEnc->f_refv);
277 :     image_null(&pEnc->f_refhv);
278 :     #endif
279 : suxen_drol 136 image_null(&pEnc->current->image);
280 :     image_null(&pEnc->reference->image);
281 :     image_null(&pEnc->vInterH);
282 :     image_null(&pEnc->vInterV);
283 :     image_null(&pEnc->vInterVf);
284 :     image_null(&pEnc->vInterHV);
285 :     image_null(&pEnc->vInterHVf);
286 : edgomez 192
287 : suxen_drol 229 #ifdef _DEBUG_PSNR
288 : edgomez 195 if (image_create
289 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
290 :     pEnc->mbParam.edged_height) < 0)
291 : edgomez 192 goto xvid_err_memory3;
292 : suxen_drol 136 #endif
293 : suxen_drol 152 #ifdef BFRAMES
294 : edgomez 195 if (image_create
295 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
296 :     pEnc->mbParam.edged_height) < 0)
297 : edgomez 192 goto xvid_err_memory3;
298 : edgomez 195 if (image_create
299 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
300 :     pEnc->mbParam.edged_height) < 0)
301 : edgomez 192 goto xvid_err_memory3;
302 : edgomez 195 if (image_create
303 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
304 :     pEnc->mbParam.edged_height) < 0)
305 : edgomez 192 goto xvid_err_memory3;
306 : suxen_drol 152 #endif
307 : edgomez 195 if (image_create
308 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
309 :     pEnc->mbParam.edged_height) < 0)
310 : edgomez 192 goto xvid_err_memory3;
311 : edgomez 195 if (image_create
312 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
313 :     pEnc->mbParam.edged_height) < 0)
314 : edgomez 192 goto xvid_err_memory3;
315 : edgomez 195 if (image_create
316 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
317 :     pEnc->mbParam.edged_height) < 0)
318 : edgomez 192 goto xvid_err_memory3;
319 : edgomez 195 if (image_create
320 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
321 :     pEnc->mbParam.edged_height) < 0)
322 : edgomez 192 goto xvid_err_memory3;
323 : edgomez 195 if (image_create
324 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
325 :     pEnc->mbParam.edged_height) < 0)
326 : edgomez 192 goto xvid_err_memory3;
327 : edgomez 195 if (image_create
328 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
329 :     pEnc->mbParam.edged_height) < 0)
330 : edgomez 192 goto xvid_err_memory3;
331 : edgomez 195 if (image_create
332 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
333 :     pEnc->mbParam.edged_height) < 0)
334 : edgomez 192 goto xvid_err_memory3;
335 : suxen_drol 136
336 : Isibaar 3
337 : edgomez 192
338 :     /* B Frames specific init */
339 : suxen_drol 152 #ifdef BFRAMES
340 : edgomez 195
341 : suxen_drol 234 pEnc->global = pParam->global;
342 : suxen_drol 164 pEnc->mbParam.max_bframes = pParam->max_bframes;
343 : suxen_drol 152 pEnc->bquant_ratio = pParam->bquant_ratio;
344 : edgomez 192 pEnc->bframes = NULL;
345 :    
346 : edgomez 195 if (pEnc->mbParam.max_bframes > 0) {
347 : suxen_drol 152 int n;
348 :    
349 : edgomez 195 pEnc->bframes =
350 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
351 :     CACHE_LINE);
352 : suxen_drol 152
353 : edgomez 192 if (pEnc->bframes == NULL)
354 :     goto xvid_err_memory3;
355 :    
356 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
357 : edgomez 192 pEnc->bframes[n] = NULL;
358 :    
359 : suxen_drol 152
360 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
361 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
362 :    
363 : edgomez 192 if (pEnc->bframes[n] == NULL)
364 :     goto xvid_err_memory4;
365 :    
366 : edgomez 195 pEnc->bframes[n]->mbs =
367 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
368 :     pEnc->mbParam.mb_height, CACHE_LINE);
369 : edgomez 192
370 :     if (pEnc->bframes[n]->mbs == NULL)
371 :     goto xvid_err_memory4;
372 :    
373 :     image_null(&pEnc->bframes[n]->image);
374 :    
375 : edgomez 195 if (image_create
376 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
377 :     pEnc->mbParam.edged_height) < 0)
378 : edgomez 192 goto xvid_err_memory4;
379 :    
380 : suxen_drol 152 }
381 :     }
382 : edgomez 192
383 : suxen_drol 152 pEnc->bframenum_head = 0;
384 :     pEnc->bframenum_tail = 0;
385 :     pEnc->flush_bframes = 0;
386 : suxen_drol 238 pEnc->bframenum_dx50bvop = -1;
387 : suxen_drol 152
388 : suxen_drol 229 pEnc->queue = NULL;
389 :    
390 :    
391 :     if (pEnc->mbParam.max_bframes > 0) {
392 :     int n;
393 :    
394 :     pEnc->queue =
395 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
396 :     CACHE_LINE);
397 :    
398 :     if (pEnc->queue == NULL)
399 :     goto xvid_err_memory4;
400 :    
401 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
402 :     image_null(&pEnc->queue[n]);
403 :    
404 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
405 :     if (image_create
406 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
407 :     pEnc->mbParam.edged_height) < 0)
408 :     goto xvid_err_memory5;
409 :    
410 :     }
411 :     }
412 :    
413 :     pEnc->queue_head = 0;
414 :     pEnc->queue_tail = 0;
415 :     pEnc->queue_size = 0;
416 :    
417 :    
418 : suxen_drol 152 pEnc->mbParam.m_seconds = 0;
419 :     pEnc->mbParam.m_ticks = 0;
420 : suxen_drol 234 pEnc->m_framenum = 0;
421 : suxen_drol 152 #endif
422 :    
423 : edgomez 195 pParam->handle = (void *) pEnc;
424 : Isibaar 3
425 : edgomez 195 if (pParam->rc_bitrate) {
426 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
427 :     pParam->rc_reaction_delay_factor,
428 :     pParam->rc_averaging_period, pParam->rc_buffer,
429 :     pParam->fbase * 1000 / pParam->fincr,
430 :     pParam->max_quantizer, pParam->min_quantizer);
431 : Isibaar 3 }
432 :    
433 : Isibaar 36 init_timer();
434 : Isibaar 3
435 :     return XVID_ERR_OK;
436 : edgomez 192
437 :     /*
438 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
439 :     */
440 :     #ifdef BFRAMES
441 : suxen_drol 229 xvid_err_memory5:
442 :    
443 :    
444 :     if (pEnc->mbParam.max_bframes > 0) {
445 :    
446 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
447 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
448 :     pEnc->mbParam.edged_height);
449 :     }
450 :     xvid_free(pEnc->queue);
451 :     }
452 :    
453 : edgomez 195 xvid_err_memory4:
454 : edgomez 192
455 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
456 : edgomez 192
457 : suxen_drol 229 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
458 : edgomez 192
459 : suxen_drol 229 if (pEnc->bframes[i] == NULL)
460 :     continue;
461 : edgomez 192
462 : suxen_drol 229 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
463 :     pEnc->mbParam.edged_height);
464 :    
465 :     xvid_free(pEnc->bframes[i]->mbs);
466 :    
467 :     xvid_free(pEnc->bframes[i]);
468 : edgomez 192
469 : suxen_drol 229 }
470 :    
471 :     xvid_free(pEnc->bframes);
472 : edgomez 192 }
473 :    
474 :     #endif
475 :    
476 : edgomez 195 xvid_err_memory3:
477 : suxen_drol 229 #ifdef _DEBUG_PSNR
478 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
479 :     pEnc->mbParam.edged_height);
480 : edgomez 192 #endif
481 :    
482 :     #ifdef BFRAMES
483 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
484 :     pEnc->mbParam.edged_height);
485 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
486 :     pEnc->mbParam.edged_height);
487 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
488 :     pEnc->mbParam.edged_height);
489 : edgomez 192 #endif
490 :    
491 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
492 :     pEnc->mbParam.edged_height);
493 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
494 :     pEnc->mbParam.edged_height);
495 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
496 :     pEnc->mbParam.edged_height);
497 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
498 :     pEnc->mbParam.edged_height);
499 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
500 :     pEnc->mbParam.edged_height);
501 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
502 :     pEnc->mbParam.edged_height);
503 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
504 :     pEnc->mbParam.edged_height);
505 : edgomez 192
506 : edgomez 195 xvid_err_memory2:
507 : edgomez 192 xvid_free(pEnc->current->mbs);
508 :     xvid_free(pEnc->reference->mbs);
509 :    
510 : edgomez 195 xvid_err_memory1:
511 : edgomez 192 xvid_free(pEnc->current);
512 :     xvid_free(pEnc->reference);
513 :     xvid_free(pEnc);
514 :    
515 : edgomez 194 pParam->handle = NULL;
516 :    
517 : edgomez 192 return XVID_ERR_MEMORY;
518 : Isibaar 3 }
519 :    
520 : edgomez 194 /*****************************************************************************
521 :     * Encoder destruction
522 :     *
523 :     * This function destroy the entire encoder structure created by a previous
524 :     * successful encoder_create call.
525 :     *
526 :     * Returned values (for now only one returned value) :
527 :     * - XVID_ERR_OK - no errors
528 :     *
529 :     ****************************************************************************/
530 :    
531 :     int
532 :     encoder_destroy(Encoder * pEnc)
533 : Isibaar 3 {
534 : suxen_drol 229 #ifdef BFRAMES
535 :     int i;
536 :     #endif
537 :    
538 : edgomez 13 ENC_CHECK(pEnc);
539 : Isibaar 3
540 : edgomez 192 /* B Frames specific */
541 : suxen_drol 152 #ifdef BFRAMES
542 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
543 : edgomez 192
544 : suxen_drol 229 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
545 :    
546 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
547 :     pEnc->mbParam.edged_height);
548 :     }
549 :     xvid_free(pEnc->queue);
550 :     }
551 : edgomez 192
552 :    
553 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
554 :    
555 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
556 :    
557 :     if (pEnc->bframes[i] == NULL)
558 :     continue;
559 :    
560 :     image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
561 : edgomez 195 pEnc->mbParam.edged_height);
562 : edgomez 192
563 : suxen_drol 229 xvid_free(pEnc->bframes[i]->mbs);
564 : edgomez 192
565 : suxen_drol 229 xvid_free(pEnc->bframes[i]);
566 :     }
567 : edgomez 192
568 : suxen_drol 229 xvid_free(pEnc->bframes);
569 :    
570 : suxen_drol 152 }
571 : edgomez 158 #endif
572 : suxen_drol 152
573 : edgomez 192 /* All images, reference, current etc ... */
574 :    
575 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
576 :     pEnc->mbParam.edged_height);
577 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
578 :     pEnc->mbParam.edged_height);
579 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
580 :     pEnc->mbParam.edged_height);
581 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
582 :     pEnc->mbParam.edged_height);
583 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
584 :     pEnc->mbParam.edged_height);
585 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
586 :     pEnc->mbParam.edged_height);
587 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
588 :     pEnc->mbParam.edged_height);
589 : suxen_drol 152 #ifdef BFRAMES
590 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
591 :     pEnc->mbParam.edged_height);
592 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
593 :     pEnc->mbParam.edged_height);
594 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
595 :     pEnc->mbParam.edged_height);
596 : suxen_drol 152 #endif
597 : suxen_drol 229 #ifdef _DEBUG_PSNR
598 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
599 :     pEnc->mbParam.edged_height);
600 : Isibaar 113 #endif
601 : edgomez 192
602 :     /* Encoder structure */
603 : edgomez 195
604 : suxen_drol 136 xvid_free(pEnc->current->mbs);
605 :     xvid_free(pEnc->current);
606 :    
607 :     xvid_free(pEnc->reference->mbs);
608 :     xvid_free(pEnc->reference);
609 :    
610 : Isibaar 41 xvid_free(pEnc);
611 : edgomez 192
612 : edgomez 13 return XVID_ERR_OK;
613 : Isibaar 3 }
614 :    
615 : suxen_drol 229
616 :     #ifdef BFRAMES
617 :     void inc_frame_num(Encoder * pEnc)
618 :     {
619 :     pEnc->iFrameNum++;
620 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
621 : suxen_drol 234
622 :     pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
623 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
624 : suxen_drol 229 }
625 :     #endif
626 :    
627 :    
628 :     #ifdef BFRAMES
629 :     void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
630 :     {
631 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
632 :     {
633 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");
634 : suxen_drol 229 return;
635 :     }
636 :    
637 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
638 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
639 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
640 :    
641 :    
642 :     start_timer();
643 :     if (image_input
644 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
645 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
646 :     return;
647 :     stop_conv_timer();
648 :    
649 :     pEnc->queue_size++;
650 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
651 :     }
652 :     #endif
653 :    
654 :    
655 :     #ifdef BFRAMES
656 : edgomez 194 /*****************************************************************************
657 : suxen_drol 229 * IPB frame encoder entry point
658 : edgomez 194 *
659 :     * Returned values :
660 :     * - XVID_ERR_OK - no errors
661 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
662 :     * format
663 :     ****************************************************************************/
664 : suxen_drol 152
665 : edgomez 194 int
666 : suxen_drol 229 encoder_encode_bframes(Encoder * pEnc,
667 : edgomez 195 XVID_ENC_FRAME * pFrame,
668 :     XVID_ENC_STATS * pResult)
669 : Isibaar 3 {
670 : edgomez 13 uint16_t x, y;
671 :     Bitstream bs;
672 :     uint32_t bits;
673 : suxen_drol 152
674 : suxen_drol 229 int input_valid = 1;
675 :    
676 :     #ifdef _DEBUG_PSNR
677 : chenm001 168 float psnr;
678 :     char temp[128];
679 :     #endif
680 :    
681 : suxen_drol 152 ENC_CHECK(pEnc);
682 :     ENC_CHECK(pFrame);
683 : suxen_drol 229 ENC_CHECK(pFrame->image);
684 : suxen_drol 152
685 :     start_global_timer();
686 : edgomez 195
687 : suxen_drol 152 BitstreamInit(&bs, pFrame->bitstream, 0);
688 :    
689 : suxen_drol 229 ipvop_loop:
690 :    
691 : edgomez 194 /*
692 :     * bframe "flush" code
693 :     */
694 : suxen_drol 152
695 : edgomez 195 if ((pFrame->image == NULL || pEnc->flush_bframes)
696 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
697 :    
698 :     if (pEnc->flush_bframes == 0) {
699 : edgomez 194 /*
700 :     * we have reached the end of stream without getting
701 :     * a future reference frame... so encode last final
702 :     * frame as a pframe
703 :     */
704 :    
705 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
706 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
707 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
708 :    
709 : suxen_drol 152 pEnc->bframenum_tail--;
710 :     SWAP(pEnc->current, pEnc->reference);
711 :    
712 : edgomez 195 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
713 : suxen_drol 152
714 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
715 :    
716 :     BitstreamPad(&bs);
717 :     pFrame->length = BitstreamLength(&bs);
718 :     pFrame->intra = 0;
719 : edgomez 194
720 : suxen_drol 152 return XVID_ERR_OK;
721 :     }
722 :    
723 : suxen_drol 229
724 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
725 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
726 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
727 :    
728 : edgomez 195 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
729 : suxen_drol 152 pEnc->bframenum_head++;
730 :    
731 :     BitstreamPad(&bs);
732 :     pFrame->length = BitstreamLength(&bs);
733 :     pFrame->intra = 0;
734 : edgomez 194
735 : suxen_drol 229 if (input_valid)
736 :     queue_image(pEnc, pFrame);
737 :    
738 : suxen_drol 152 return XVID_ERR_OK;
739 :     }
740 :    
741 : suxen_drol 229 if (pEnc->bframenum_head > 0) {
742 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
743 :    
744 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
745 : suxen_drol 229
746 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
747 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
748 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
749 :    
750 :     BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
751 :     BitstreamPad(&bs);
752 :     BitstreamPutBits(&bs, 0x7f, 8);
753 :    
754 :     pFrame->length = BitstreamLength(&bs);
755 :     pFrame->intra = 0;
756 :    
757 :     if (input_valid)
758 :     queue_image(pEnc, pFrame);
759 :    
760 :     return XVID_ERR_OK;
761 :     }
762 :     }
763 :    
764 :    
765 :     bvop_loop:
766 :    
767 : suxen_drol 238 if (pEnc->bframenum_dx50bvop != -1)
768 :     {
769 : suxen_drol 229
770 :     SWAP(pEnc->current, pEnc->reference);
771 : suxen_drol 238 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
772 : suxen_drol 229
773 : suxen_drol 238 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
774 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
775 :     }
776 :    
777 :     if (input_valid)
778 :     {
779 :     queue_image(pEnc, pFrame);
780 :     input_valid = 0;
781 :     }
782 :    
783 :     } else if (input_valid) {
784 :    
785 :     SWAP(pEnc->current, pEnc->reference);
786 :    
787 : suxen_drol 229 start_timer();
788 :     if (image_input
789 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
790 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
791 :     return XVID_ERR_FORMAT;
792 :     stop_conv_timer();
793 :    
794 :     // queue input frame, and dequue next image
795 :     if (pEnc->queue_size > 0)
796 :     {
797 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
798 :     if (pEnc->queue_head != pEnc->queue_tail)
799 :     {
800 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
801 :     }
802 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
803 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
804 :     }
805 :    
806 :     } else if (pEnc->queue_size > 0) {
807 :    
808 :     SWAP(pEnc->current, pEnc->reference);
809 :    
810 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
811 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
812 :     pEnc->queue_size--;
813 :    
814 :     } else if (BitstreamPos(&bs) == 0) {
815 :    
816 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
817 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
818 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
819 :    
820 : suxen_drol 152 pFrame->intra = 0;
821 : edgomez 194
822 : suxen_drol 229 BitstreamPutBits(&bs, 0x7f, 8);
823 :     BitstreamPad(&bs);
824 :     pFrame->length = BitstreamLength(&bs);
825 :    
826 : suxen_drol 152 return XVID_ERR_OK;
827 :    
828 : suxen_drol 229 } else {
829 :    
830 :     pFrame->length = BitstreamLength(&bs);
831 :     return XVID_ERR_OK;
832 : suxen_drol 152 }
833 :    
834 :     pEnc->flush_bframes = 0;
835 :    
836 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
837 :     * Well there was a separation here so i put it in ANSI C
838 :     * comment style :-)
839 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
840 : suxen_drol 152
841 : edgomez 198 emms();
842 : edgomez 194
843 : suxen_drol 238 // only inc frame num, adapt quant, etc. if we havent seen it before
844 :     if (pEnc->bframenum_dx50bvop < 0 )
845 :     {
846 :     if (pFrame->quant == 0)
847 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
848 :     else
849 :     pEnc->current->quant = pFrame->quant;
850 : edgomez 194
851 : suxen_drol 238 if (pEnc->current->quant < 1)
852 :     pEnc->current->quant = 1;
853 : edgomez 195
854 : suxen_drol 238 if (pEnc->current->quant > 31)
855 :     pEnc->current->quant = 31;
856 : Isibaar 157
857 : suxen_drol 238 pEnc->current->global_flags = pFrame->general;
858 :     pEnc->current->motion_flags = pFrame->motion;
859 : suxen_drol 152
860 : suxen_drol 238 /* ToDo : dynamic fcode (in both directions) */
861 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
862 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
863 : suxen_drol 152
864 : suxen_drol 238 pEnc->current->seconds = pEnc->mbParam.m_seconds;
865 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
866 :    
867 :     inc_frame_num(pEnc);
868 :    
869 : suxen_drol 229 #ifdef _DEBUG_PSNR
870 : suxen_drol 238 image_copy(&pEnc->sOriginal, &pEnc->current->image,
871 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.height);
872 : suxen_drol 152 #endif
873 :    
874 : suxen_drol 238 emms();
875 : suxen_drol 152
876 : suxen_drol 238 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
877 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
878 :     "%i if:%i st:%i:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->seconds, pEnc->current->ticks);
879 :     }
880 : suxen_drol 234
881 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
882 :     * Luminance masking
883 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
884 : suxen_drol 152
885 : suxen_drol 238 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
886 :     int *temp_dquants =
887 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
888 : edgomez 195 pEnc->mbParam.mb_height * sizeof(int),
889 :     CACHE_LINE);
890 :    
891 : suxen_drol 238 pEnc->current->quant =
892 :     adaptive_quantization(pEnc->current->image.y,
893 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
894 :     pEnc->current->quant, pEnc->current->quant,
895 :     2 * pEnc->current->quant,
896 :     pEnc->mbParam.mb_width,
897 :     pEnc->mbParam.mb_height);
898 : edgomez 194
899 : suxen_drol 238 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
900 : edgomez 194
901 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
902 :    
903 : suxen_drol 238 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
904 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
905 : edgomez 195
906 : suxen_drol 238 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
907 :     }
908 : edgomez 194
909 : edgomez 195 #undef OFFSET
910 : suxen_drol 238 }
911 : edgomez 194
912 : suxen_drol 238 xvid_free(temp_dquants);
913 : edgomez 194 }
914 :    
915 : suxen_drol 152 }
916 :    
917 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
918 :     * ivop/pvop/bvop selection
919 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
920 : suxen_drol 152
921 :    
922 : suxen_drol 240 if (pEnc->iFrameNum == 0 || pFrame->intra == 1 || pEnc->bframenum_dx50bvop >= 0 ||
923 : edgomez 195 (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
924 :     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
925 :     || image_mad(&pEnc->reference->image, &pEnc->current->image,
926 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
927 :     pEnc->mbParam.height) > 30) {
928 : edgomez 194 /*
929 :     * This will be coded as an Intra Frame
930 :     */
931 : suxen_drol 152
932 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
933 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
934 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
935 : suxen_drol 234
936 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
937 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
938 :     }
939 : edgomez 194
940 : suxen_drol 238 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe
941 : suxen_drol 152
942 : suxen_drol 238 if ((pEnc->global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
943 :    
944 :     pEnc->bframenum_tail--;
945 :     pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
946 :    
947 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
948 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
949 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
950 :     }
951 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
952 :    
953 :     pFrame->intra = 0;
954 :    
955 :     } else {
956 : suxen_drol 240
957 : suxen_drol 238 FrameCodeI(pEnc, &bs, &bits);
958 :     pFrame->intra = 1;
959 : suxen_drol 240
960 :     pEnc->bframenum_dx50bvop = -1;
961 : suxen_drol 238 }
962 :    
963 : suxen_drol 152 pEnc->flush_bframes = 1;
964 :    
965 : suxen_drol 240 if ((pEnc->global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
966 : suxen_drol 229 BitstreamPad(&bs);
967 :     input_valid = 0;
968 :     goto ipvop_loop;
969 :     }
970 :    
971 : edgomez 194 /*
972 :     * NB : sequences like "IIBB" decode fine with msfdam but,
973 :     * go screwy with divx 5.00
974 :     */
975 : edgomez 195 } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
976 : edgomez 194 /*
977 :     * This will be coded as a Predicted Frame
978 :     */
979 : suxen_drol 152
980 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
981 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
982 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
983 : suxen_drol 234
984 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
985 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
986 :     }
987 : edgomez 194
988 : suxen_drol 152 FrameCodeP(pEnc, &bs, &bits, 1, 0);
989 :     pFrame->intra = 0;
990 :     pEnc->flush_bframes = 1;
991 : suxen_drol 229
992 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
993 : suxen_drol 229 BitstreamPad(&bs);
994 :     input_valid = 0;
995 :     goto ipvop_loop;
996 :     }
997 :    
998 : edgomez 195 } else {
999 : edgomez 194 /*
1000 :     * This will be coded as a Bidirectional Frame
1001 :     */
1002 : suxen_drol 152
1003 : suxen_drol 252 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
1004 : suxen_drol 229 pEnc->bframenum_head, pEnc->bframenum_tail,
1005 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1006 : edgomez 194
1007 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
1008 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1009 :     }
1010 :    
1011 : edgomez 195 if (pFrame->bquant < 1) {
1012 : edgomez 194 pEnc->current->quant =
1013 : edgomez 195 ((pEnc->reference->quant +
1014 :     pEnc->current->quant) * pEnc->bquant_ratio) / 200;
1015 :     } else {
1016 : suxen_drol 152 pEnc->current->quant = pFrame->bquant;
1017 :     }
1018 : edgomez 195
1019 : edgomez 194 /* store frame into bframe buffer & swap ref back to current */
1020 : suxen_drol 152 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1021 :     SWAP(pEnc->current, pEnc->reference);
1022 :    
1023 :     pEnc->bframenum_tail++;
1024 :    
1025 :     pFrame->intra = 0;
1026 :     pFrame->length = 0;
1027 :    
1028 : suxen_drol 229 input_valid = 0;
1029 :     goto bvop_loop;
1030 : suxen_drol 152 }
1031 :    
1032 :     BitstreamPad(&bs);
1033 :     pFrame->length = BitstreamLength(&bs);
1034 :    
1035 : edgomez 195 if (pResult) {
1036 : suxen_drol 152 pResult->quant = pEnc->current->quant;
1037 : edgomez 195 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1038 : suxen_drol 152 pResult->kblks = pEnc->sStat.kblks;
1039 :     pResult->mblks = pEnc->sStat.mblks;
1040 :     pResult->ublks = pEnc->sStat.ublks;
1041 :     }
1042 :    
1043 : edgomez 198 emms();
1044 : edgomez 194
1045 : suxen_drol 229 #ifdef _DEBUG_PSNR
1046 : edgomez 195 psnr =
1047 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1048 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1049 :     pEnc->mbParam.height);
1050 : suxen_drol 152
1051 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
1052 : suxen_drol 152 DEBUG(temp);
1053 :     #endif
1054 :    
1055 : edgomez 195 if (pFrame->quant == 0) {
1056 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1057 :     pFrame->length, pFrame->intra);
1058 : suxen_drol 152 }
1059 :    
1060 : edgomez 195
1061 : suxen_drol 152 stop_global_timer();
1062 :     write_timer();
1063 :    
1064 :     return XVID_ERR_OK;
1065 :     }
1066 : suxen_drol 229
1067 :     #endif
1068 :    
1069 :    
1070 :    
1071 : edgomez 194 /*****************************************************************************
1072 : suxen_drol 229 * "original" IP frame encoder entry point
1073 :     *
1074 :     * Returned values :
1075 :     * - XVID_ERR_OK - no errors
1076 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1077 :     * format
1078 : edgomez 194 ****************************************************************************/
1079 : suxen_drol 229
1080 : edgomez 194 int
1081 :     encoder_encode(Encoder * pEnc,
1082 : edgomez 195 XVID_ENC_FRAME * pFrame,
1083 :     XVID_ENC_STATS * pResult)
1084 : suxen_drol 152 {
1085 :     uint16_t x, y;
1086 :     Bitstream bs;
1087 :     uint32_t bits;
1088 : Isibaar 4 uint16_t write_vol_header = 0;
1089 : edgomez 195
1090 : suxen_drol 229 #ifdef _DEBUG_PSNR
1091 : Isibaar 113 float psnr;
1092 : edgomez 194 uint8_t temp[128];
1093 : Isibaar 113 #endif
1094 : Isibaar 3
1095 :     start_global_timer();
1096 :    
1097 : edgomez 13 ENC_CHECK(pEnc);
1098 :     ENC_CHECK(pFrame);
1099 :     ENC_CHECK(pFrame->bitstream);
1100 :     ENC_CHECK(pFrame->image);
1101 : Isibaar 3
1102 : suxen_drol 136 SWAP(pEnc->current, pEnc->reference);
1103 :    
1104 :     pEnc->current->global_flags = pFrame->general;
1105 :     pEnc->current->motion_flags = pFrame->motion;
1106 : suxen_drol 229 #ifdef BFRAMES
1107 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
1108 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
1109 :     #endif
1110 : h 101 pEnc->mbParam.hint = &pFrame->hint;
1111 : Isibaar 3
1112 :     start_timer();
1113 : edgomez 195 if (image_input
1114 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1115 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1116 : Isibaar 3 return XVID_ERR_FORMAT;
1117 :     stop_conv_timer();
1118 :    
1119 : suxen_drol 229 #ifdef _DEBUG_PSNR
1120 : edgomez 195 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1121 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1122 : Isibaar 113 #endif
1123 :    
1124 : edgomez 198 emms();
1125 : suxen_drol 136
1126 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
1127 : Isibaar 3
1128 : edgomez 195 if (pFrame->quant == 0) {
1129 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1130 :     } else {
1131 : suxen_drol 136 pEnc->current->quant = pFrame->quant;
1132 : Isibaar 3 }
1133 :    
1134 : edgomez 195 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1135 :     int *temp_dquants =
1136 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1137 :     pEnc->mbParam.mb_height * sizeof(int),
1138 :     CACHE_LINE);
1139 :    
1140 : edgomez 194 pEnc->current->quant =
1141 :     adaptive_quantization(pEnc->current->image.y,
1142 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
1143 :     pEnc->current->quant, pEnc->current->quant,
1144 :     2 * pEnc->current->quant,
1145 :     pEnc->mbParam.mb_width,
1146 :     pEnc->mbParam.mb_height);
1147 : edgomez 194
1148 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1149 : edgomez 194
1150 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1151 : edgomez 194
1152 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1153 : edgomez 194
1154 : edgomez 195
1155 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1156 :    
1157 :     pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1158 : Isibaar 3 }
1159 : edgomez 194
1160 : edgomez 195 #undef OFFSET
1161 : edgomez 194 }
1162 :    
1163 : Isibaar 41 xvid_free(temp_dquants);
1164 : Isibaar 3 }
1165 :    
1166 : edgomez 195 if (pEnc->current->global_flags & XVID_H263QUANT) {
1167 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1168 : Isibaar 20 write_vol_header = 1;
1169 : suxen_drol 136 pEnc->mbParam.m_quant_type = H263_QUANT;
1170 : edgomez 195 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1171 : edgomez 194 int matrix1_changed, matrix2_changed;
1172 : Isibaar 3
1173 : edgomez 194 matrix1_changed = matrix2_changed = 0;
1174 : edgomez 78
1175 : edgomez 195 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1176 : Isibaar 20 write_vol_header = 1;
1177 : edgomez 195
1178 : suxen_drol 136 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1179 : edgomez 195
1180 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1181 : edgomez 195 if (pFrame->quant_intra_matrix != NULL)
1182 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1183 :     if (pFrame->quant_inter_matrix != NULL)
1184 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1185 :     } else {
1186 : edgomez 194 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1187 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1188 : Isibaar 20 }
1189 : edgomez 195 if (write_vol_header == 0)
1190 : edgomez 194 write_vol_header = matrix1_changed | matrix2_changed;
1191 : Isibaar 4 }
1192 : Isibaar 3
1193 : edgomez 195 if (pFrame->intra < 0) {
1194 :     if ((pEnc->iFrameNum == 0)
1195 :     || ((pEnc->iMaxKeyInterval > 0)
1196 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
1197 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1198 :     } else {
1199 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1200 : edgomez 194 }
1201 : edgomez 195 } else {
1202 :     if (pFrame->intra == 1) {
1203 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1204 :     } else {
1205 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1206 : edgomez 194 }
1207 :    
1208 : edgomez 13 }
1209 : Isibaar 3
1210 :     BitstreamPutBits(&bs, 0xFFFF, 16);
1211 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
1212 :     BitstreamPad(&bs);
1213 :     pFrame->length = BitstreamLength(&bs);
1214 : h 29
1215 : edgomez 195 if (pResult) {
1216 : suxen_drol 136 pResult->quant = pEnc->current->quant;
1217 : Isibaar 3 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1218 :     pResult->kblks = pEnc->sStat.kblks;
1219 :     pResult->mblks = pEnc->sStat.mblks;
1220 :     pResult->ublks = pEnc->sStat.ublks;
1221 : edgomez 13 }
1222 : edgomez 195
1223 : edgomez 198 emms();
1224 : Isibaar 41
1225 : edgomez 195 if (pFrame->quant == 0) {
1226 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1227 :     pFrame->length, pFrame->intra);
1228 : Isibaar 3 }
1229 : suxen_drol 229 #ifdef _DEBUG_PSNR
1230 : edgomez 195 psnr =
1231 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1232 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1233 :     pEnc->mbParam.height);
1234 : Isibaar 113
1235 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
1236 : Isibaar 113 DEBUG(temp);
1237 :     #endif
1238 :    
1239 : suxen_drol 229 #ifdef BFRAMES
1240 :     inc_frame_num(pEnc);
1241 :     #else
1242 : Isibaar 3 pEnc->iFrameNum++;
1243 : suxen_drol 229 #endif
1244 : edgomez 195
1245 : suxen_drol 229
1246 : Isibaar 3 stop_global_timer();
1247 :     write_timer();
1248 :    
1249 :     return XVID_ERR_OK;
1250 :     }
1251 :    
1252 :    
1253 : edgomez 195 static __inline void
1254 :     CodeIntraMB(Encoder * pEnc,
1255 :     MACROBLOCK * pMB)
1256 :     {
1257 : Isibaar 3
1258 :     pMB->mode = MODE_INTRA;
1259 :    
1260 : suxen_drol 136 /* zero mv statistics */
1261 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1262 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1263 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1264 :     pMB->sad16 = 0;
1265 :    
1266 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1267 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1268 : Isibaar 3 pMB->mode = MODE_INTRA_Q;
1269 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1270 : edgomez 195
1271 :     if (pEnc->current->quant > 31)
1272 :     pEnc->current->quant = 31;
1273 :     if (pEnc->current->quant < 1)
1274 :     pEnc->current->quant = 1;
1275 : Isibaar 3 }
1276 :     }
1277 :    
1278 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1279 : Isibaar 3 }
1280 :    
1281 :    
1282 : h 101 #define FCODEBITS 3
1283 :     #define MODEBITS 5
1284 :    
1285 : edgomez 195 void
1286 :     HintedMESet(Encoder * pEnc,
1287 :     int *intra)
1288 : h 101 {
1289 : edgomez 195 HINTINFO *hint;
1290 : h 101 Bitstream bs;
1291 :     int length, high;
1292 :     uint32_t x, y;
1293 :    
1294 :     hint = pEnc->mbParam.hint;
1295 :    
1296 : edgomez 195 if (hint->rawhints) {
1297 : h 101 *intra = hint->mvhint.intra;
1298 : edgomez 195 } else {
1299 : h 101 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1300 :     *intra = BitstreamGetBit(&bs);
1301 :     }
1302 :    
1303 : edgomez 195 if (*intra) {
1304 : h 101 return;
1305 :     }
1306 :    
1307 : edgomez 195 pEnc->current->fcode =
1308 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1309 :     FCODEBITS);
1310 : h 101
1311 : edgomez 195 length = pEnc->current->fcode + 5;
1312 :     high = 1 << (length - 1);
1313 : h 101
1314 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1315 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1316 :     MACROBLOCK *pMB =
1317 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1318 :     MVBLOCKHINT *bhint =
1319 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1320 : chl 284 VECTOR pred;
1321 : h 101 VECTOR tmp;
1322 :     int vec;
1323 :    
1324 : edgomez 195 pMB->mode =
1325 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1326 :     MODEBITS);
1327 : h 101
1328 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1329 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1330 :    
1331 : edgomez 195 if (pMB->mode == MODE_INTER) {
1332 :     tmp.x =
1333 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1334 :     length);
1335 :     tmp.y =
1336 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1337 :     length);
1338 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1339 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1340 : h 101
1341 : chl 284 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
1342 : h 101
1343 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1344 :     pMB->mvs[vec].x = tmp.x;
1345 :     pMB->mvs[vec].y = tmp.y;
1346 : chl 284 pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
1347 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
1348 : h 101 }
1349 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1350 :     for (vec = 0; vec < 4; ++vec) {
1351 :     tmp.x =
1352 :     (hint->rawhints) ? bhint->mvs[vec].
1353 :     x : BitstreamGetBits(&bs, length);
1354 :     tmp.y =
1355 :     (hint->rawhints) ? bhint->mvs[vec].
1356 :     y : BitstreamGetBits(&bs, length);
1357 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1358 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1359 : h 101
1360 : chl 284 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
1361 : h 101
1362 : edgomez 195 pMB->mvs[vec].x = tmp.x;
1363 :     pMB->mvs[vec].y = tmp.y;
1364 : chl 284 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
1365 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
1366 : h 101 }
1367 : edgomez 195 } else // intra / stuffing / not_coded
1368 : h 101 {
1369 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1370 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1371 : h 101 }
1372 :     }
1373 : h 128
1374 : suxen_drol 136 if (pMB->mode == MODE_INTER4V &&
1375 : edgomez 195 (pEnc->current->global_flags & XVID_LUMIMASKING)
1376 :     && pMB->dquant != NO_CHANGE) {
1377 : h 128 pMB->mode = MODE_INTRA;
1378 :    
1379 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1380 : h 128 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1381 :     }
1382 :     }
1383 : h 101 }
1384 :     }
1385 :     }
1386 :    
1387 :    
1388 : edgomez 195 void
1389 :     HintedMEGet(Encoder * pEnc,
1390 :     int intra)
1391 : h 101 {
1392 : edgomez 195 HINTINFO *hint;
1393 : h 101 Bitstream bs;
1394 :     uint32_t x, y;
1395 :     int length, high;
1396 :    
1397 :     hint = pEnc->mbParam.hint;
1398 :    
1399 : edgomez 195 if (hint->rawhints) {
1400 : h 101 hint->mvhint.intra = intra;
1401 : edgomez 195 } else {
1402 : h 101 BitstreamInit(&bs, hint->hintstream, 0);
1403 :     BitstreamPutBit(&bs, intra);
1404 :     }
1405 :    
1406 : edgomez 195 if (intra) {
1407 :     if (!hint->rawhints) {
1408 : h 101 BitstreamPad(&bs);
1409 :     hint->hintlength = BitstreamLength(&bs);
1410 :     }
1411 :     return;
1412 :     }
1413 :    
1414 : edgomez 195 length = pEnc->current->fcode + 5;
1415 :     high = 1 << (length - 1);
1416 : h 101
1417 : edgomez 195 if (hint->rawhints) {
1418 : suxen_drol 136 hint->mvhint.fcode = pEnc->current->fcode;
1419 : edgomez 195 } else {
1420 : suxen_drol 136 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1421 : h 101 }
1422 :    
1423 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1424 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1425 :     MACROBLOCK *pMB =
1426 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1427 :     MVBLOCKHINT *bhint =
1428 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1429 : h 101 VECTOR tmp;
1430 :    
1431 : edgomez 195 if (hint->rawhints) {
1432 : h 101 bhint->mode = pMB->mode;
1433 : edgomez 195 } else {
1434 : h 101 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1435 :     }
1436 :    
1437 : edgomez 195 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1438 :     tmp.x = pMB->mvs[0].x;
1439 :     tmp.y = pMB->mvs[0].y;
1440 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1441 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1442 : h 101
1443 : edgomez 195 if (hint->rawhints) {
1444 : h 101 bhint->mvs[0].x = tmp.x;
1445 :     bhint->mvs[0].y = tmp.y;
1446 : edgomez 195 } else {
1447 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1448 :     BitstreamPutBits(&bs, tmp.y, length);
1449 :     }
1450 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1451 : h 101 int vec;
1452 :    
1453 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1454 :     tmp.x = pMB->mvs[vec].x;
1455 :     tmp.y = pMB->mvs[vec].y;
1456 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1457 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1458 : h 101
1459 : edgomez 195 if (hint->rawhints) {
1460 : h 101 bhint->mvs[vec].x = tmp.x;
1461 :     bhint->mvs[vec].y = tmp.y;
1462 : edgomez 195 } else {
1463 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1464 :     BitstreamPutBits(&bs, tmp.y, length);
1465 :     }
1466 :     }
1467 :     }
1468 :     }
1469 :     }
1470 :    
1471 : edgomez 195 if (!hint->rawhints) {
1472 : h 101 BitstreamPad(&bs);
1473 :     hint->hintlength = BitstreamLength(&bs);
1474 :     }
1475 :     }
1476 :    
1477 :    
1478 : edgomez 195 static int
1479 :     FrameCodeI(Encoder * pEnc,
1480 :     Bitstream * bs,
1481 :     uint32_t * pBits)
1482 : h 104 {
1483 :    
1484 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1485 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1486 : h 104
1487 :     uint16_t x, y;
1488 :    
1489 :     pEnc->iFrameNum = 0;
1490 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1;
1491 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1492 :     pEnc->current->coding_type = I_VOP;
1493 : h 104
1494 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1495 : suxen_drol 229 #ifdef BFRAMES
1496 :     #define DIVX501B481P "DivX501b481p"
1497 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1498 : suxen_drol 229 BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1499 :     }
1500 :     #endif
1501 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1502 : h 104
1503 :     *pBits = BitstreamPos(bs);
1504 :    
1505 :     pEnc->sStat.iTextBits = 0;
1506 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1507 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1508 :    
1509 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1510 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1511 :     MACROBLOCK *pMB =
1512 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1513 : h 104
1514 :     CodeIntraMB(pEnc, pMB);
1515 :    
1516 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1517 :     dct_codes, qcoeff);
1518 : h 104
1519 :     start_timer();
1520 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1521 : h 104 stop_prediction_timer();
1522 :    
1523 :     start_timer();
1524 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1525 : h 104 stop_coding_timer();
1526 :     }
1527 :    
1528 :     emms();
1529 :    
1530 :     *pBits = BitstreamPos(bs) - *pBits;
1531 :     pEnc->sStat.fMvPrevSigma = -1;
1532 :     pEnc->sStat.iMvSum = 0;
1533 :     pEnc->sStat.iMvCount = 0;
1534 : suxen_drol 136 pEnc->mbParam.m_fcode = 2;
1535 : h 104
1536 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1537 : h 104 HintedMEGet(pEnc, 1);
1538 :     }
1539 :    
1540 : edgomez 195 return 1; // intra
1541 : h 104 }
1542 :    
1543 :    
1544 : Isibaar 3 #define INTRA_THRESHOLD 0.5
1545 :    
1546 : edgomez 195 static int
1547 :     FrameCodeP(Encoder * pEnc,
1548 :     Bitstream * bs,
1549 :     uint32_t * pBits,
1550 :     bool force_inter,
1551 :     bool vol_header)
1552 : Isibaar 3 {
1553 : edgomez 13 float fSigma;
1554 : Isibaar 42
1555 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1556 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1557 : edgomez 78
1558 : Isibaar 3 int iLimit;
1559 : edgomez 13 uint32_t x, y;
1560 :     int iSearchRange;
1561 : edgomez 145 int bIntra;
1562 : suxen_drol 240
1563 : edgomez 145 /* IMAGE *pCurrent = &pEnc->current->image; */
1564 : suxen_drol 136 IMAGE *pRef = &pEnc->reference->image;
1565 : Isibaar 3
1566 : h 69 start_timer();
1567 : edgomez 195 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1568 :     pEnc->mbParam.width, pEnc->mbParam.height,
1569 :     pEnc->current->global_flags & XVID_INTERLACING);
1570 : h 69 stop_edges_timer();
1571 : Isibaar 3
1572 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1573 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1574 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1575 : Isibaar 3
1576 :     if (!force_inter)
1577 : edgomez 195 iLimit =
1578 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1579 :     INTRA_THRESHOLD);
1580 : edgomez 13 else
1581 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1582 :    
1583 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1584 : Isibaar 3 start_timer();
1585 : edgomez 195 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1586 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1587 :     pEnc->mbParam.edged_height,
1588 :     pEnc->current->rounding_type);
1589 : Isibaar 3 stop_inter_timer();
1590 :     }
1591 :    
1592 :     start_timer();
1593 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1594 : h 101 HintedMESet(pEnc, &bIntra);
1595 : edgomez 195 } else {
1596 : chl 259
1597 :     #ifdef _SMP
1598 :     if (NUMTHREADS > 1)
1599 :     bIntra =
1600 :     SMP_MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1601 : edgomez 195 &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1602 :     iLimit);
1603 : chl 259 else
1604 :     #endif
1605 :    
1606 :     bIntra =
1607 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1608 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1609 :     iLimit);
1610 :    
1611 :    
1612 : h 101 }
1613 : Isibaar 3 stop_motion_timer();
1614 :    
1615 : edgomez 195 if (bIntra == 1) {
1616 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
1617 : h 101 }
1618 : Isibaar 3
1619 : suxen_drol 136 pEnc->current->coding_type = P_VOP;
1620 : Isibaar 3
1621 : edgomez 195 if (vol_header)
1622 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1623 : Isibaar 3
1624 : suxen_drol 229 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1625 : Isibaar 3
1626 : edgomez 13 *pBits = BitstreamPos(bs);
1627 : Isibaar 3
1628 : edgomez 13 pEnc->sStat.iTextBits = 0;
1629 :     pEnc->sStat.iMvSum = 0;
1630 :     pEnc->sStat.iMvCount = 0;
1631 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1632 :    
1633 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1634 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1635 :     MACROBLOCK *pMB =
1636 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1637 : Isibaar 3
1638 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1639 : Isibaar 3
1640 : edgomez 195 if (!bIntra) {
1641 : Isibaar 3 start_timer();
1642 : edgomez 195 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1643 :     &pEnc->vInterH, &pEnc->vInterV,
1644 :     &pEnc->vInterHV, &pEnc->current->image,
1645 :     dct_codes, pEnc->mbParam.width,
1646 :     pEnc->mbParam.height,
1647 :     pEnc->mbParam.edged_width,
1648 :     pEnc->current->rounding_type);
1649 : Isibaar 3 stop_comp_timer();
1650 :    
1651 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1652 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1653 : Isibaar 3 pMB->mode = MODE_INTER_Q;
1654 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1655 : edgomez 195 if (pEnc->current->quant > 31)
1656 :     pEnc->current->quant = 31;
1657 :     else if (pEnc->current->quant < 1)
1658 :     pEnc->current->quant = 1;
1659 : Isibaar 3 }
1660 :     }
1661 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1662 : Isibaar 3
1663 : h 69 pMB->field_pred = 0;
1664 :    
1665 : edgomez 195 pMB->cbp =
1666 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1667 :     dct_codes, qcoeff);
1668 :     } else {
1669 : Isibaar 3 CodeIntraMB(pEnc, pMB);
1670 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1671 :     dct_codes, qcoeff);
1672 : Isibaar 3 }
1673 :    
1674 : edgomez 13 start_timer();
1675 : edgomez 195 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1676 : Isibaar 3 stop_prediction_timer();
1677 :    
1678 : edgomez 195 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1679 : Isibaar 3 pEnc->sStat.kblks++;
1680 : edgomez 195 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1681 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1682 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1683 : Isibaar 3 pEnc->sStat.mblks++;
1684 : edgomez 195 } else {
1685 : Isibaar 3 pEnc->sStat.ublks++;
1686 :     }
1687 :    
1688 :     start_timer();
1689 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1690 : Isibaar 3 stop_coding_timer();
1691 :     }
1692 :     }
1693 :    
1694 :     emms();
1695 :    
1696 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1697 : h 101 HintedMEGet(pEnc, 0);
1698 :     }
1699 :    
1700 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
1701 :     pEnc->sStat.iMvCount = 1;
1702 :    
1703 : edgomez 195 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1704 : Isibaar 3
1705 : suxen_drol 136 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1706 : Isibaar 3
1707 : edgomez 195 if ((fSigma > iSearchRange / 3)
1708 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1709 : edgomez 13 {
1710 : suxen_drol 136 pEnc->mbParam.m_fcode++;
1711 : Isibaar 3 iSearchRange *= 2;
1712 : edgomez 195 } else if ((fSigma < iSearchRange / 6)
1713 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1714 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1715 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1716 : edgomez 13 {
1717 : suxen_drol 136 pEnc->mbParam.m_fcode--;
1718 : Isibaar 3 iSearchRange /= 2;
1719 : edgomez 13 }
1720 : Isibaar 3
1721 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
1722 : edgomez 195
1723 : Isibaar 3 *pBits = BitstreamPos(bs) - *pBits;
1724 :    
1725 : edgomez 195 return 0; // inter
1726 : Isibaar 3 }
1727 : suxen_drol 118
1728 :    
1729 : suxen_drol 152 #ifdef BFRAMES
1730 : edgomez 195 static void
1731 :     FrameCodeB(Encoder * pEnc,
1732 :     FRAMEINFO * frame,
1733 :     Bitstream * bs,
1734 :     uint32_t * pBits)
1735 : suxen_drol 118 {
1736 : edgomez 195 int16_t dct_codes[6 * 64];
1737 :     int16_t qcoeff[6 * 64];
1738 :     uint32_t x, y;
1739 : suxen_drol 118 VECTOR forward;
1740 :     VECTOR backward;
1741 :    
1742 : edgomez 195 IMAGE *f_ref = &pEnc->reference->image;
1743 : suxen_drol 118 IMAGE *b_ref = &pEnc->current->image;
1744 :    
1745 : chenm001 290 #ifdef BFRAMES_DEC_DEBUG
1746 :     FILE *fp;
1747 :     static char first=0;
1748 :     #define BFRAME_DEBUG if (!first && fp){ \
1749 :     fprintf(fp,"Y=%3d X=%3d MB=%2d CBP=%02X\n",y,x,mb->mode,mb->cbp); \
1750 :     }
1751 :    
1752 :     if (!first){
1753 :     fp=fopen("C:\\XVIDDBGE.TXT","w");
1754 :     }
1755 :     #endif
1756 :    
1757 : suxen_drol 152 // forward
1758 : edgomez 195 image_setedges(f_ref, pEnc->mbParam.edged_width,
1759 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1760 :     pEnc->mbParam.height,
1761 :     frame->global_flags & XVID_INTERLACING);
1762 : suxen_drol 118 start_timer();
1763 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1764 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1765 :     0);
1766 : suxen_drol 118 stop_inter_timer();
1767 :    
1768 : suxen_drol 152 // backward
1769 : edgomez 195 image_setedges(b_ref, pEnc->mbParam.edged_width,
1770 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1771 :     pEnc->mbParam.height,
1772 :     frame->global_flags & XVID_INTERLACING);
1773 :     start_timer();
1774 : suxen_drol 118 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1775 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1776 :     0);
1777 : suxen_drol 118 stop_inter_timer();
1778 :    
1779 :     start_timer();
1780 : edgomez 195 MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1781 :     &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1782 :     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1783 :     &pEnc->vInterV, &pEnc->vInterHV);
1784 : suxen_drol 118
1785 : edgomez 195
1786 : suxen_drol 118 stop_motion_timer();
1787 : edgomez 195
1788 : suxen_drol 152 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1789 : edgomez 195 {
1790 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1791 :     } */
1792 : suxen_drol 118
1793 : edgomez 195 frame->coding_type = B_VOP;
1794 : suxen_drol 229 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1795 : suxen_drol 118
1796 : edgomez 195 *pBits = BitstreamPos(bs);
1797 : suxen_drol 118
1798 : edgomez 195 pEnc->sStat.iTextBits = 0;
1799 :     pEnc->sStat.iMvSum = 0;
1800 :     pEnc->sStat.iMvCount = 0;
1801 : suxen_drol 118 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1802 :    
1803 :    
1804 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1805 : suxen_drol 118 // reset prediction
1806 :    
1807 :     forward.x = 0;
1808 :     forward.y = 0;
1809 :     backward.x = 0;
1810 :     backward.y = 0;
1811 :    
1812 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1813 :     MACROBLOCK *f_mb =
1814 :     &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1815 :     MACROBLOCK *b_mb =
1816 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1817 :     MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1818 : suxen_drol 118
1819 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1820 : edgomez 195 if (mb->mode == MODE_NOT_CODED) {
1821 : suxen_drol 118 mb->mvs[0].x = 0;
1822 :     mb->mvs[0].y = 0;
1823 : chenm001 290
1824 :     mb->cbp = 0;
1825 :     #ifdef BFRAMES_DEC_DEBUG
1826 :     BFRAME_DEBUG
1827 :     #endif
1828 : suxen_drol 118 continue;
1829 :     }
1830 :    
1831 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1832 : edgomez 195 f_ref, &pEnc->f_refh, &pEnc->f_refv,
1833 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1834 :     &pEnc->vInterV, &pEnc->vInterHV,
1835 :     dct_codes);
1836 :    
1837 : suxen_drol 118 mb->quant = frame->quant;
1838 : edgomez 195 mb->cbp =
1839 :     MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1840 :     qcoeff);
1841 : suxen_drol 118 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1842 :    
1843 :    
1844 : edgomez 195 if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1845 :     && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
1846 :     mb->mode = 5; // skipped
1847 : suxen_drol 118 }
1848 :    
1849 : edgomez 195 if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1850 : suxen_drol 118 mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1851 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1852 :     forward.x = mb->mvs[0].x;
1853 :     forward.y = mb->mvs[0].y;
1854 :     }
1855 : edgomez 195
1856 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1857 : suxen_drol 118 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1858 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1859 :     backward.x = mb->b_mvs[0].x;
1860 :     backward.y = mb->b_mvs[0].y;
1861 :     }
1862 : suxen_drol 234 // DPRINTF("%05i : [%i %i] M=%i CBP=%i MVS=%i,%i forward=%i,%i", pEnc->m_framenum, x, y, mb->mode, mb->cbp, mb->mvs[0].x, mb->mvs[0].y, forward.x, forward.y);
1863 : suxen_drol 118
1864 : chenm001 290 #ifdef BFRAMES_DEC_DEBUG
1865 :     BFRAME_DEBUG
1866 :     #endif
1867 : edgomez 195 start_timer();
1868 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1869 :     &pEnc->sStat);
1870 : suxen_drol 118 stop_coding_timer();
1871 :     }
1872 :     }
1873 :    
1874 :     emms();
1875 :    
1876 :     // TODO: dynamic fcode/bcode ???
1877 :    
1878 :     *pBits = BitstreamPos(bs) - *pBits;
1879 : chenm001 290
1880 :     #ifdef BFRAMES_DEC_DEBUG
1881 :     if (!first){
1882 :     first=1;
1883 :     if (fp)
1884 :     fclose(fp);
1885 :     }
1886 :     #endif
1887 : suxen_drol 118 }
1888 : edgomez 188 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4