[svn] / branches / dev-api-3 / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-3/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 236 - (view) (download)
Original Path: trunk/xvidcore/src/encoder.c

1 : edgomez 194 /*****************************************************************************
2 : edgomez 145 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 194 ****************************************************************************/
30 : suxen_drol 118
31 : edgomez 194 /*****************************************************************************
32 : edgomez 145 *
33 :     * History
34 :     *
35 : suxen_drol 229 * 20.06.2002 bframe patch
36 : chenm001 168 * 08.05.2002 fix some problem in DEBUG mode;
37 :     * MinChen <chenm001@163.com>
38 : edgomez 145 * 14.04.2002 added FrameCodeB()
39 :     *
40 : edgomez 236 * $Id: encoder.c,v 1.47 2002-06-23 19:48:06 edgomez Exp $
41 : edgomez 145 *
42 : edgomez 194 ****************************************************************************/
43 : edgomez 145
44 : Isibaar 3 #include <stdlib.h>
45 :     #include <stdio.h>
46 :     #include <math.h>
47 : edgomez 198 #include <string.h>
48 : Isibaar 3
49 :     #include "encoder.h"
50 :     #include "prediction/mbprediction.h"
51 :     #include "global.h"
52 :     #include "utils/timer.h"
53 :     #include "image/image.h"
54 : suxen_drol 152 #include "motion/motion.h"
55 : Isibaar 3 #include "bitstream/cbp.h"
56 :     #include "utils/mbfunctions.h"
57 :     #include "bitstream/bitstream.h"
58 :     #include "bitstream/mbcoding.h"
59 :     #include "utils/ratecontrol.h"
60 :     #include "utils/emms.h"
61 :     #include "bitstream/mbcoding.h"
62 :     #include "quant/adapt_quant.h"
63 : Isibaar 4 #include "quant/quant_matrix.h"
64 : Isibaar 41 #include "utils/mem_align.h"
65 : Isibaar 3
66 : edgomez 194 /*****************************************************************************
67 :     * Local macros
68 :     ****************************************************************************/
69 :    
70 : Isibaar 3 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
71 : suxen_drol 136 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
72 : Isibaar 3
73 : edgomez 194 /*****************************************************************************
74 :     * Local function prototypes
75 :     ****************************************************************************/
76 :    
77 : edgomez 192 static int FrameCodeI(Encoder * pEnc,
78 : edgomez 195 Bitstream * bs,
79 :     uint32_t * pBits);
80 : Isibaar 3
81 : edgomez 192 static int FrameCodeP(Encoder * pEnc,
82 : edgomez 195 Bitstream * bs,
83 :     uint32_t * pBits,
84 :     bool force_inter,
85 :     bool vol_header);
86 : Isibaar 3
87 : edgomez 192 #ifdef BFRAMES
88 :     static void FrameCodeB(Encoder * pEnc,
89 : edgomez 195 FRAMEINFO * frame,
90 :     Bitstream * bs,
91 :     uint32_t * pBits);
92 : edgomez 192 #endif
93 :    
94 : edgomez 194 /*****************************************************************************
95 :     * Local data
96 :     ****************************************************************************/
97 :    
98 : edgomez 195 static int DQtab[4] = {
99 : Isibaar 3 -1, -2, 1, 2
100 :     };
101 :    
102 : edgomez 195 static int iDQtab[5] = {
103 : Isibaar 3 1, 0, NO_CHANGE, 2, 3
104 :     };
105 :    
106 :    
107 : edgomez 195 static void __inline
108 :     image_null(IMAGE * image)
109 : suxen_drol 136 {
110 :     image->y = image->u = image->v = NULL;
111 :     }
112 :    
113 :    
114 : edgomez 194 /*****************************************************************************
115 :     * Encoder creation
116 :     *
117 :     * This function creates an Encoder instance, it allocates all necessary
118 :     * image buffers (reference, current and bframes) and initialize the internal
119 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
120 :     *
121 :     * The code seems to be very long but is very basic, mainly memory allocation
122 :     * and cleaning code.
123 :     *
124 :     * Returned values :
125 :     * - XVID_ERR_OK - no errors
126 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
127 :     * cleans the structure before exiting.
128 :     * pParam->handle is also set to NULL.
129 :     *
130 :     ****************************************************************************/
131 :    
132 :     int
133 :     encoder_create(XVID_ENC_PARAM * pParam)
134 : Isibaar 3 {
135 : edgomez 13 Encoder *pEnc;
136 : suxen_drol 229 int i;
137 : Isibaar 3
138 : edgomez 13 pParam->handle = NULL;
139 : Isibaar 3
140 : edgomez 13 ENC_CHECK(pParam);
141 : Isibaar 3
142 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
143 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
144 :     ENC_CHECK(!(pParam->width % 2));
145 :     ENC_CHECK(!(pParam->height % 2));
146 : Isibaar 3
147 : edgomez 192 /* Fps */
148 :    
149 : edgomez 195 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
150 : Isibaar 3 pParam->fincr = 1;
151 :     pParam->fbase = 25;
152 :     }
153 :    
154 : edgomez 192 /*
155 :     * Simplify the "fincr/fbase" fraction
156 :     * (neccessary, since windows supplies us with huge numbers)
157 :     */
158 : Isibaar 3
159 :     i = pParam->fincr;
160 : edgomez 195 while (i > 1) {
161 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
162 : Isibaar 3 pParam->fincr /= i;
163 :     pParam->fbase /= i;
164 :     i = pParam->fincr;
165 :     continue;
166 :     }
167 :     i--;
168 :     }
169 :    
170 : edgomez 195 if (pParam->fbase > 65535) {
171 :     float div = (float) pParam->fbase / 65535;
172 :    
173 :     pParam->fbase = (int) (pParam->fbase / div);
174 :     pParam->fincr = (int) (pParam->fincr / div);
175 : Isibaar 3 }
176 :    
177 : edgomez 192 /* Bitrate allocator defaults */
178 :    
179 : h 121 if (pParam->rc_bitrate <= 0)
180 :     pParam->rc_bitrate = 900000;
181 : Isibaar 3
182 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
183 :     pParam->rc_reaction_delay_factor = 16;
184 : Isibaar 3
185 : h 121 if (pParam->rc_averaging_period <= 0)
186 :     pParam->rc_averaging_period = 100;
187 :    
188 :     if (pParam->rc_buffer <= 0)
189 :     pParam->rc_buffer = 100;
190 :    
191 : edgomez 192 /* Max and min quantizers */
192 :    
193 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
194 : Isibaar 3 pParam->min_quantizer = 1;
195 :    
196 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
197 : Isibaar 3 pParam->max_quantizer = 31;
198 :    
199 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
200 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
201 :    
202 : edgomez 195 /* 1 keyframe each 10 seconds */
203 : edgomez 192
204 :     if (pParam->max_key_interval == 0)
205 :     pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
206 :    
207 : edgomez 195
208 : edgomez 192 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
209 :     if (pEnc == NULL)
210 : Isibaar 3 return XVID_ERR_MEMORY;
211 :    
212 : edgomez 198 /* Zero the Encoder Structure */
213 :    
214 :     memset(pEnc, 0, sizeof(Encoder));
215 :    
216 : Isibaar 3 /* Fill members of Encoder structure */
217 :    
218 : edgomez 13 pEnc->mbParam.width = pParam->width;
219 :     pEnc->mbParam.height = pParam->height;
220 : Isibaar 3
221 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
222 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
223 :    
224 : edgomez 195 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
225 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
226 : Isibaar 3
227 : suxen_drol 152 pEnc->mbParam.fbase = pParam->fbase;
228 :     pEnc->mbParam.fincr = pParam->fincr;
229 :    
230 : Isibaar 208 pEnc->mbParam.m_quant_type = H263_QUANT;
231 :    
232 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
233 : Isibaar 3
234 :     /* Fill rate control parameters */
235 :    
236 : h 121 pEnc->bitrate = pParam->rc_bitrate;
237 : Isibaar 3
238 : edgomez 13 pEnc->iFrameNum = 0;
239 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
240 : Isibaar 3
241 : suxen_drol 136 /* try to allocate frame memory */
242 : Isibaar 3
243 : edgomez 192 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
244 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
245 : Isibaar 3
246 : edgomez 195 if (pEnc->current == NULL || pEnc->reference == NULL)
247 : edgomez 192 goto xvid_err_memory1;
248 :    
249 : suxen_drol 136 /* try to allocate mb memory */
250 : Isibaar 3
251 : edgomez 195 pEnc->current->mbs =
252 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
253 :     pEnc->mbParam.mb_height, CACHE_LINE);
254 :     pEnc->reference->mbs =
255 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
256 :     pEnc->mbParam.mb_height, CACHE_LINE);
257 : suxen_drol 136
258 : edgomez 192 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
259 :     goto xvid_err_memory2;
260 : suxen_drol 136
261 :     /* try to allocate image memory */
262 :    
263 : suxen_drol 229 #ifdef _DEBUG_PSNR
264 : suxen_drol 136 image_null(&pEnc->sOriginal);
265 :     #endif
266 : suxen_drol 152 #ifdef BFRAMES
267 :     image_null(&pEnc->f_refh);
268 :     image_null(&pEnc->f_refv);
269 :     image_null(&pEnc->f_refhv);
270 :     #endif
271 : suxen_drol 136 image_null(&pEnc->current->image);
272 :     image_null(&pEnc->reference->image);
273 :     image_null(&pEnc->vInterH);
274 :     image_null(&pEnc->vInterV);
275 :     image_null(&pEnc->vInterVf);
276 :     image_null(&pEnc->vInterHV);
277 :     image_null(&pEnc->vInterHVf);
278 : edgomez 192
279 : suxen_drol 229 #ifdef _DEBUG_PSNR
280 : edgomez 195 if (image_create
281 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
282 :     pEnc->mbParam.edged_height) < 0)
283 : edgomez 192 goto xvid_err_memory3;
284 : suxen_drol 136 #endif
285 : suxen_drol 152 #ifdef BFRAMES
286 : edgomez 195 if (image_create
287 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
288 :     pEnc->mbParam.edged_height) < 0)
289 : edgomez 192 goto xvid_err_memory3;
290 : edgomez 195 if (image_create
291 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
292 :     pEnc->mbParam.edged_height) < 0)
293 : edgomez 192 goto xvid_err_memory3;
294 : edgomez 195 if (image_create
295 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
296 :     pEnc->mbParam.edged_height) < 0)
297 : edgomez 192 goto xvid_err_memory3;
298 : suxen_drol 152 #endif
299 : edgomez 195 if (image_create
300 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
301 :     pEnc->mbParam.edged_height) < 0)
302 : edgomez 192 goto xvid_err_memory3;
303 : edgomez 195 if (image_create
304 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
305 :     pEnc->mbParam.edged_height) < 0)
306 : edgomez 192 goto xvid_err_memory3;
307 : edgomez 195 if (image_create
308 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
309 :     pEnc->mbParam.edged_height) < 0)
310 : edgomez 192 goto xvid_err_memory3;
311 : edgomez 195 if (image_create
312 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
313 :     pEnc->mbParam.edged_height) < 0)
314 : edgomez 192 goto xvid_err_memory3;
315 : edgomez 195 if (image_create
316 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
317 :     pEnc->mbParam.edged_height) < 0)
318 : edgomez 192 goto xvid_err_memory3;
319 : edgomez 195 if (image_create
320 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
321 :     pEnc->mbParam.edged_height) < 0)
322 : edgomez 192 goto xvid_err_memory3;
323 : edgomez 195 if (image_create
324 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
325 :     pEnc->mbParam.edged_height) < 0)
326 : edgomez 192 goto xvid_err_memory3;
327 : suxen_drol 136
328 : Isibaar 3
329 : edgomez 192
330 :     /* B Frames specific init */
331 : suxen_drol 152 #ifdef BFRAMES
332 : edgomez 195
333 : suxen_drol 234 pEnc->global = pParam->global;
334 : suxen_drol 164 pEnc->mbParam.max_bframes = pParam->max_bframes;
335 : suxen_drol 152 pEnc->bquant_ratio = pParam->bquant_ratio;
336 : edgomez 192 pEnc->bframes = NULL;
337 :    
338 : edgomez 195 if (pEnc->mbParam.max_bframes > 0) {
339 : suxen_drol 152 int n;
340 :    
341 : edgomez 195 pEnc->bframes =
342 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
343 :     CACHE_LINE);
344 : suxen_drol 152
345 : edgomez 192 if (pEnc->bframes == NULL)
346 :     goto xvid_err_memory3;
347 :    
348 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
349 : edgomez 192 pEnc->bframes[n] = NULL;
350 :    
351 : suxen_drol 152
352 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
353 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
354 :    
355 : edgomez 192 if (pEnc->bframes[n] == NULL)
356 :     goto xvid_err_memory4;
357 :    
358 : edgomez 195 pEnc->bframes[n]->mbs =
359 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
360 :     pEnc->mbParam.mb_height, CACHE_LINE);
361 : edgomez 192
362 :     if (pEnc->bframes[n]->mbs == NULL)
363 :     goto xvid_err_memory4;
364 :    
365 :     image_null(&pEnc->bframes[n]->image);
366 :    
367 : edgomez 195 if (image_create
368 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
369 :     pEnc->mbParam.edged_height) < 0)
370 : edgomez 192 goto xvid_err_memory4;
371 :    
372 : suxen_drol 152 }
373 :     }
374 : edgomez 192
375 : suxen_drol 152 pEnc->bframenum_head = 0;
376 :     pEnc->bframenum_tail = 0;
377 :     pEnc->flush_bframes = 0;
378 :    
379 : suxen_drol 229 pEnc->queue = NULL;
380 :    
381 :    
382 :     if (pEnc->mbParam.max_bframes > 0) {
383 :     int n;
384 :    
385 :     pEnc->queue =
386 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
387 :     CACHE_LINE);
388 :    
389 :     if (pEnc->queue == NULL)
390 :     goto xvid_err_memory4;
391 :    
392 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
393 :     image_null(&pEnc->queue[n]);
394 :    
395 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
396 :     if (image_create
397 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
398 :     pEnc->mbParam.edged_height) < 0)
399 :     goto xvid_err_memory5;
400 :    
401 :     }
402 :     }
403 :    
404 :     pEnc->queue_head = 0;
405 :     pEnc->queue_tail = 0;
406 :     pEnc->queue_size = 0;
407 :    
408 :    
409 : suxen_drol 152 pEnc->mbParam.m_seconds = 0;
410 :     pEnc->mbParam.m_ticks = 0;
411 : suxen_drol 234 pEnc->m_framenum = 0;
412 : suxen_drol 152 #endif
413 :    
414 : edgomez 195 pParam->handle = (void *) pEnc;
415 : Isibaar 3
416 : edgomez 195 if (pParam->rc_bitrate) {
417 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
418 :     pParam->rc_reaction_delay_factor,
419 :     pParam->rc_averaging_period, pParam->rc_buffer,
420 :     pParam->fbase * 1000 / pParam->fincr,
421 :     pParam->max_quantizer, pParam->min_quantizer);
422 : Isibaar 3 }
423 :    
424 : Isibaar 36 init_timer();
425 : Isibaar 3
426 :     return XVID_ERR_OK;
427 : edgomez 192
428 :     /*
429 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
430 :     */
431 :     #ifdef BFRAMES
432 : suxen_drol 229 xvid_err_memory5:
433 :    
434 :    
435 :     if (pEnc->mbParam.max_bframes > 0) {
436 :    
437 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
438 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
439 :     pEnc->mbParam.edged_height);
440 :     }
441 :     xvid_free(pEnc->queue);
442 :     }
443 :    
444 : edgomez 195 xvid_err_memory4:
445 : edgomez 192
446 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
447 : edgomez 192
448 : suxen_drol 229 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
449 : edgomez 192
450 : suxen_drol 229 if (pEnc->bframes[i] == NULL)
451 :     continue;
452 : edgomez 192
453 : suxen_drol 229 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
454 :     pEnc->mbParam.edged_height);
455 :    
456 :     xvid_free(pEnc->bframes[i]->mbs);
457 :    
458 :     xvid_free(pEnc->bframes[i]);
459 : edgomez 192
460 : suxen_drol 229 }
461 :    
462 :     xvid_free(pEnc->bframes);
463 : edgomez 192 }
464 :    
465 :     #endif
466 :    
467 : edgomez 195 xvid_err_memory3:
468 : suxen_drol 229 #ifdef _DEBUG_PSNR
469 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
470 :     pEnc->mbParam.edged_height);
471 : edgomez 192 #endif
472 :    
473 :     #ifdef BFRAMES
474 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
475 :     pEnc->mbParam.edged_height);
476 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
477 :     pEnc->mbParam.edged_height);
478 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
479 :     pEnc->mbParam.edged_height);
480 : edgomez 192 #endif
481 :    
482 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
483 :     pEnc->mbParam.edged_height);
484 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
485 :     pEnc->mbParam.edged_height);
486 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
487 :     pEnc->mbParam.edged_height);
488 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
489 :     pEnc->mbParam.edged_height);
490 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
491 :     pEnc->mbParam.edged_height);
492 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
493 :     pEnc->mbParam.edged_height);
494 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
495 :     pEnc->mbParam.edged_height);
496 : edgomez 192
497 : edgomez 195 xvid_err_memory2:
498 : edgomez 192 xvid_free(pEnc->current->mbs);
499 :     xvid_free(pEnc->reference->mbs);
500 :    
501 : edgomez 195 xvid_err_memory1:
502 : edgomez 192 xvid_free(pEnc->current);
503 :     xvid_free(pEnc->reference);
504 :     xvid_free(pEnc);
505 :    
506 : edgomez 194 pParam->handle = NULL;
507 :    
508 : edgomez 192 return XVID_ERR_MEMORY;
509 : Isibaar 3 }
510 :    
511 : edgomez 194 /*****************************************************************************
512 :     * Encoder destruction
513 :     *
514 :     * This function destroy the entire encoder structure created by a previous
515 :     * successful encoder_create call.
516 :     *
517 :     * Returned values (for now only one returned value) :
518 :     * - XVID_ERR_OK - no errors
519 :     *
520 :     ****************************************************************************/
521 :    
522 :     int
523 :     encoder_destroy(Encoder * pEnc)
524 : Isibaar 3 {
525 : suxen_drol 229 #ifdef BFRAMES
526 :     int i;
527 :     #endif
528 :    
529 : edgomez 13 ENC_CHECK(pEnc);
530 : Isibaar 3
531 : edgomez 192 /* B Frames specific */
532 : suxen_drol 152 #ifdef BFRAMES
533 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
534 : edgomez 192
535 : suxen_drol 229 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
536 :    
537 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
538 :     pEnc->mbParam.edged_height);
539 :     }
540 :     xvid_free(pEnc->queue);
541 :     }
542 : edgomez 192
543 :    
544 : suxen_drol 229 if (pEnc->mbParam.max_bframes > 0) {
545 :    
546 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
547 :    
548 :     if (pEnc->bframes[i] == NULL)
549 :     continue;
550 :    
551 :     image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
552 : edgomez 195 pEnc->mbParam.edged_height);
553 : edgomez 192
554 : suxen_drol 229 xvid_free(pEnc->bframes[i]->mbs);
555 : edgomez 192
556 : suxen_drol 229 xvid_free(pEnc->bframes[i]);
557 :     }
558 : edgomez 192
559 : suxen_drol 229 xvid_free(pEnc->bframes);
560 :    
561 : suxen_drol 152 }
562 : edgomez 158 #endif
563 : suxen_drol 152
564 : edgomez 192 /* All images, reference, current etc ... */
565 :    
566 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
567 :     pEnc->mbParam.edged_height);
568 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
569 :     pEnc->mbParam.edged_height);
570 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
571 :     pEnc->mbParam.edged_height);
572 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
573 :     pEnc->mbParam.edged_height);
574 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
575 :     pEnc->mbParam.edged_height);
576 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
577 :     pEnc->mbParam.edged_height);
578 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
579 :     pEnc->mbParam.edged_height);
580 : suxen_drol 152 #ifdef BFRAMES
581 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
582 :     pEnc->mbParam.edged_height);
583 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
584 :     pEnc->mbParam.edged_height);
585 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
586 :     pEnc->mbParam.edged_height);
587 : suxen_drol 152 #endif
588 : suxen_drol 229 #ifdef _DEBUG_PSNR
589 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
590 :     pEnc->mbParam.edged_height);
591 : Isibaar 113 #endif
592 : edgomez 192
593 :     /* Encoder structure */
594 : edgomez 195
595 : suxen_drol 136 xvid_free(pEnc->current->mbs);
596 :     xvid_free(pEnc->current);
597 :    
598 :     xvid_free(pEnc->reference->mbs);
599 :     xvid_free(pEnc->reference);
600 :    
601 : Isibaar 41 xvid_free(pEnc);
602 : edgomez 192
603 : edgomez 13 return XVID_ERR_OK;
604 : Isibaar 3 }
605 :    
606 : suxen_drol 229
607 :     #ifdef BFRAMES
608 :     void inc_frame_num(Encoder * pEnc)
609 :     {
610 :     pEnc->iFrameNum++;
611 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
612 : suxen_drol 234
613 :     pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
614 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
615 : suxen_drol 229 }
616 :     #endif
617 :    
618 :    
619 :     #ifdef BFRAMES
620 :     void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
621 :     {
622 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
623 :     {
624 :     DPRINTF("FATAL: QUEUE FULL");
625 :     return;
626 :     }
627 :    
628 :     DPRINTF("*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
629 :     pEnc->bframenum_head, pEnc->bframenum_tail,
630 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
631 :    
632 :    
633 :     start_timer();
634 :     if (image_input
635 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
636 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
637 :     return;
638 :     stop_conv_timer();
639 :    
640 :     pEnc->queue_size++;
641 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
642 :     }
643 :     #endif
644 :    
645 :    
646 :     #ifdef BFRAMES
647 : edgomez 194 /*****************************************************************************
648 : suxen_drol 229 * IPB frame encoder entry point
649 : edgomez 194 *
650 :     * Returned values :
651 :     * - XVID_ERR_OK - no errors
652 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
653 :     * format
654 :     ****************************************************************************/
655 : suxen_drol 152
656 : edgomez 194 int
657 : suxen_drol 229 encoder_encode_bframes(Encoder * pEnc,
658 : edgomez 195 XVID_ENC_FRAME * pFrame,
659 :     XVID_ENC_STATS * pResult)
660 : Isibaar 3 {
661 : edgomez 13 uint16_t x, y;
662 :     Bitstream bs;
663 :     uint32_t bits;
664 : suxen_drol 152
665 : suxen_drol 229 int input_valid = 1;
666 :    
667 :     #ifdef _DEBUG_PSNR
668 : chenm001 168 float psnr;
669 :     char temp[128];
670 :     #endif
671 :    
672 : suxen_drol 152 ENC_CHECK(pEnc);
673 :     ENC_CHECK(pFrame);
674 : suxen_drol 229 ENC_CHECK(pFrame->image);
675 : suxen_drol 152
676 :     start_global_timer();
677 : edgomez 195
678 : suxen_drol 152 BitstreamInit(&bs, pFrame->bitstream, 0);
679 :    
680 : suxen_drol 229 ipvop_loop:
681 :    
682 : edgomez 194 /*
683 :     * bframe "flush" code
684 :     */
685 : suxen_drol 152
686 : edgomez 195 if ((pFrame->image == NULL || pEnc->flush_bframes)
687 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
688 :    
689 :     if (pEnc->flush_bframes == 0) {
690 : edgomez 194 /*
691 :     * we have reached the end of stream without getting
692 :     * a future reference frame... so encode last final
693 :     * frame as a pframe
694 :     */
695 :    
696 : suxen_drol 229 DPRINTF("*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
697 :     pEnc->bframenum_head, pEnc->bframenum_tail,
698 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
699 :    
700 : suxen_drol 152 pEnc->bframenum_tail--;
701 :     SWAP(pEnc->current, pEnc->reference);
702 :    
703 : edgomez 195 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
704 : suxen_drol 152
705 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
706 :    
707 :     BitstreamPad(&bs);
708 :     pFrame->length = BitstreamLength(&bs);
709 :     pFrame->intra = 0;
710 : edgomez 194
711 : suxen_drol 152 return XVID_ERR_OK;
712 :     }
713 :    
714 : suxen_drol 229
715 :     DPRINTF("*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
716 :     pEnc->bframenum_head, pEnc->bframenum_tail,
717 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
718 :    
719 : edgomez 195 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
720 : suxen_drol 152 pEnc->bframenum_head++;
721 :    
722 :     BitstreamPad(&bs);
723 :     pFrame->length = BitstreamLength(&bs);
724 :     pFrame->intra = 0;
725 : edgomez 194
726 : suxen_drol 229 if (input_valid)
727 :     queue_image(pEnc, pFrame);
728 :    
729 : suxen_drol 152 return XVID_ERR_OK;
730 :     }
731 :    
732 : suxen_drol 229 if (pEnc->bframenum_head > 0) {
733 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
734 :    
735 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
736 : suxen_drol 229
737 :     DPRINTF("*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
738 :     pEnc->bframenum_head, pEnc->bframenum_tail,
739 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
740 :    
741 :    
742 :     BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
743 :     BitstreamPad(&bs);
744 :     BitstreamPutBits(&bs, 0x7f, 8);
745 :    
746 :     pFrame->length = BitstreamLength(&bs);
747 :     pFrame->intra = 0;
748 :    
749 :     if (input_valid)
750 :     queue_image(pEnc, pFrame);
751 :    
752 :     return XVID_ERR_OK;
753 :     }
754 :     }
755 :    
756 :    
757 :     bvop_loop:
758 :    
759 :     if (input_valid) {
760 :    
761 :     SWAP(pEnc->current, pEnc->reference);
762 :    
763 :     start_timer();
764 :     if (image_input
765 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
766 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
767 :     return XVID_ERR_FORMAT;
768 :     stop_conv_timer();
769 :    
770 :     // queue input frame, and dequue next image
771 :     if (pEnc->queue_size > 0)
772 :     {
773 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
774 :     if (pEnc->queue_head != pEnc->queue_tail)
775 :     {
776 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
777 :     }
778 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
779 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
780 :     }
781 :    
782 :     } else if (pEnc->queue_size > 0) {
783 :    
784 :     SWAP(pEnc->current, pEnc->reference);
785 :    
786 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
787 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
788 :     pEnc->queue_size--;
789 :    
790 :     } else if (BitstreamPos(&bs) == 0) {
791 :    
792 :     DPRINTF("*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
793 :     pEnc->bframenum_head, pEnc->bframenum_tail,
794 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
795 :    
796 :    
797 : suxen_drol 152 pFrame->intra = 0;
798 : edgomez 194
799 : suxen_drol 229 BitstreamPutBits(&bs, 0x7f, 8);
800 :     BitstreamPad(&bs);
801 :     pFrame->length = BitstreamLength(&bs);
802 :    
803 : suxen_drol 152 return XVID_ERR_OK;
804 :    
805 : suxen_drol 229 } else {
806 :    
807 :     pFrame->length = BitstreamLength(&bs);
808 :     return XVID_ERR_OK;
809 : suxen_drol 152 }
810 :    
811 :     pEnc->flush_bframes = 0;
812 :    
813 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
814 :     * Well there was a separation here so i put it in ANSI C
815 :     * comment style :-)
816 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
817 : suxen_drol 152
818 : suxen_drol 229 //$$ SWAP(pEnc->current, pEnc->reference);
819 : suxen_drol 152
820 : edgomez 198 emms();
821 : edgomez 194
822 :     if (pFrame->quant == 0)
823 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
824 :     else
825 :     pEnc->current->quant = pFrame->quant;
826 :    
827 : edgomez 195 if (pEnc->current->quant < 1)
828 : Isibaar 157 pEnc->current->quant = 1;
829 : edgomez 195
830 :     if (pEnc->current->quant > 31)
831 : Isibaar 157 pEnc->current->quant = 31;
832 :    
833 : suxen_drol 152 pEnc->current->global_flags = pFrame->general;
834 :     pEnc->current->motion_flags = pFrame->motion;
835 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
836 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
837 : edgomez 194 /* ToDo : dynamic fcode (in both directions) */
838 : suxen_drol 152 pEnc->current->fcode = pEnc->mbParam.m_fcode;
839 : edgomez 195 pEnc->current->bcode = pEnc->mbParam.m_fcode;
840 : suxen_drol 152
841 : suxen_drol 229 //$$$ start_timer();
842 :     //$$$ if (image_input
843 :     //$$$ (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
844 :     //$$$ pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
845 :     //$$$ return XVID_ERR_FORMAT;
846 :     //$$$ stop_conv_timer();
847 : suxen_drol 152
848 : suxen_drol 229 #ifdef _DEBUG_PSNR
849 : edgomez 195 image_copy(&pEnc->sOriginal, &pEnc->current->image,
850 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
851 : suxen_drol 152 #endif
852 :    
853 : edgomez 198 emms();
854 : suxen_drol 152
855 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
856 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
857 :     "%i if:%i st:%i:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->seconds, pEnc->current->ticks);
858 :     }
859 :    
860 :    
861 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
862 :     * Luminance masking
863 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
864 : suxen_drol 152
865 : edgomez 195 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
866 :     int *temp_dquants =
867 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
868 :     pEnc->mbParam.mb_height * sizeof(int),
869 :     CACHE_LINE);
870 :    
871 : edgomez 194 pEnc->current->quant =
872 :     adaptive_quantization(pEnc->current->image.y,
873 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
874 :     pEnc->current->quant, pEnc->current->quant,
875 :     2 * pEnc->current->quant,
876 :     pEnc->mbParam.mb_width,
877 :     pEnc->mbParam.mb_height);
878 : edgomez 194
879 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
880 : edgomez 194
881 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
882 :    
883 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
884 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
885 :    
886 :     pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
887 : suxen_drol 152 }
888 : edgomez 194
889 : edgomez 195 #undef OFFSET
890 : edgomez 194
891 :     }
892 :    
893 : suxen_drol 152 xvid_free(temp_dquants);
894 :     }
895 :    
896 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
897 :     * ivop/pvop/bvop selection
898 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
899 : suxen_drol 152
900 :    
901 : edgomez 195 if (pEnc->iFrameNum == 0 || pFrame->intra == 1 ||
902 :     (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
903 :     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
904 :     || image_mad(&pEnc->reference->image, &pEnc->current->image,
905 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
906 :     pEnc->mbParam.height) > 30) {
907 : edgomez 194 /*
908 :     * This will be coded as an Intra Frame
909 :     */
910 : suxen_drol 152
911 : suxen_drol 229 DPRINTF("*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
912 :     pEnc->bframenum_head, pEnc->bframenum_tail,
913 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
914 : suxen_drol 234
915 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
916 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
917 :     }
918 : edgomez 194
919 : suxen_drol 152 FrameCodeI(pEnc, &bs, &bits);
920 :    
921 :     pFrame->intra = 1;
922 :     pEnc->flush_bframes = 1;
923 :    
924 : suxen_drol 229 inc_frame_num(pEnc);
925 :    
926 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
927 : suxen_drol 229 BitstreamPad(&bs);
928 :     input_valid = 0;
929 :     goto ipvop_loop;
930 :     }
931 :    
932 : edgomez 194 /*
933 :     * NB : sequences like "IIBB" decode fine with msfdam but,
934 :     * go screwy with divx 5.00
935 :     */
936 : edgomez 195 } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
937 : edgomez 194 /*
938 :     * This will be coded as a Predicted Frame
939 :     */
940 : suxen_drol 152
941 : suxen_drol 229 DPRINTF("*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
942 :     pEnc->bframenum_head, pEnc->bframenum_tail,
943 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
944 : suxen_drol 234
945 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
946 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
947 :     }
948 : edgomez 194
949 : suxen_drol 152 FrameCodeP(pEnc, &bs, &bits, 1, 0);
950 :     pFrame->intra = 0;
951 :     pEnc->flush_bframes = 1;
952 : suxen_drol 229
953 :     inc_frame_num(pEnc);
954 :    
955 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
956 : suxen_drol 229 BitstreamPad(&bs);
957 :     input_valid = 0;
958 :     goto ipvop_loop;
959 :     }
960 :    
961 : edgomez 195 } else {
962 : edgomez 194 /*
963 :     * This will be coded as a Bidirectional Frame
964 :     */
965 : suxen_drol 152
966 : suxen_drol 229 DPRINTF("*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
967 :     pEnc->bframenum_head, pEnc->bframenum_tail,
968 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
969 : edgomez 194
970 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
971 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
972 :     }
973 :    
974 : edgomez 195 if (pFrame->bquant < 1) {
975 : edgomez 194 pEnc->current->quant =
976 : edgomez 195 ((pEnc->reference->quant +
977 :     pEnc->current->quant) * pEnc->bquant_ratio) / 200;
978 :     } else {
979 : suxen_drol 152 pEnc->current->quant = pFrame->bquant;
980 :     }
981 : edgomez 195
982 : edgomez 194 /* store frame into bframe buffer & swap ref back to current */
983 : suxen_drol 152 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
984 :     SWAP(pEnc->current, pEnc->reference);
985 :    
986 :     pEnc->bframenum_tail++;
987 :    
988 :     pFrame->intra = 0;
989 :     pFrame->length = 0;
990 :    
991 : suxen_drol 229 inc_frame_num(pEnc);
992 : edgomez 194
993 : suxen_drol 229 input_valid = 0;
994 :     goto bvop_loop;
995 : suxen_drol 152 }
996 :    
997 :     BitstreamPad(&bs);
998 :     pFrame->length = BitstreamLength(&bs);
999 :    
1000 : edgomez 195 if (pResult) {
1001 : suxen_drol 152 pResult->quant = pEnc->current->quant;
1002 : edgomez 195 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1003 : suxen_drol 152 pResult->kblks = pEnc->sStat.kblks;
1004 :     pResult->mblks = pEnc->sStat.mblks;
1005 :     pResult->ublks = pEnc->sStat.ublks;
1006 :     }
1007 :    
1008 : edgomez 198 emms();
1009 : edgomez 194
1010 : suxen_drol 229 #ifdef _DEBUG_PSNR
1011 : edgomez 195 psnr =
1012 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1013 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1014 :     pEnc->mbParam.height);
1015 : suxen_drol 152
1016 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
1017 : suxen_drol 152 DEBUG(temp);
1018 :     #endif
1019 :    
1020 : edgomez 195 if (pFrame->quant == 0) {
1021 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1022 :     pFrame->length, pFrame->intra);
1023 : suxen_drol 152 }
1024 :    
1025 : edgomez 195
1026 : suxen_drol 152 stop_global_timer();
1027 :     write_timer();
1028 :    
1029 :     return XVID_ERR_OK;
1030 :     }
1031 : suxen_drol 229
1032 :     #endif
1033 :    
1034 :    
1035 :    
1036 : edgomez 194 /*****************************************************************************
1037 : suxen_drol 229 * "original" IP frame encoder entry point
1038 :     *
1039 :     * Returned values :
1040 :     * - XVID_ERR_OK - no errors
1041 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1042 :     * format
1043 : edgomez 194 ****************************************************************************/
1044 : suxen_drol 229
1045 : edgomez 194 int
1046 :     encoder_encode(Encoder * pEnc,
1047 : edgomez 195 XVID_ENC_FRAME * pFrame,
1048 :     XVID_ENC_STATS * pResult)
1049 : suxen_drol 152 {
1050 :     uint16_t x, y;
1051 :     Bitstream bs;
1052 :     uint32_t bits;
1053 : Isibaar 4 uint16_t write_vol_header = 0;
1054 : edgomez 195
1055 : suxen_drol 229 #ifdef _DEBUG_PSNR
1056 : Isibaar 113 float psnr;
1057 : edgomez 194 uint8_t temp[128];
1058 : Isibaar 113 #endif
1059 : Isibaar 3
1060 :     start_global_timer();
1061 :    
1062 : edgomez 13 ENC_CHECK(pEnc);
1063 :     ENC_CHECK(pFrame);
1064 :     ENC_CHECK(pFrame->bitstream);
1065 :     ENC_CHECK(pFrame->image);
1066 : Isibaar 3
1067 : suxen_drol 136 SWAP(pEnc->current, pEnc->reference);
1068 :    
1069 :     pEnc->current->global_flags = pFrame->general;
1070 :     pEnc->current->motion_flags = pFrame->motion;
1071 : suxen_drol 229 #ifdef BFRAMES
1072 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
1073 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
1074 :     #endif
1075 : h 101 pEnc->mbParam.hint = &pFrame->hint;
1076 : Isibaar 3
1077 :     start_timer();
1078 : edgomez 195 if (image_input
1079 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1080 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1081 : Isibaar 3 return XVID_ERR_FORMAT;
1082 :     stop_conv_timer();
1083 :    
1084 : suxen_drol 229 #ifdef _DEBUG_PSNR
1085 : edgomez 195 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1086 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1087 : Isibaar 113 #endif
1088 :    
1089 : edgomez 198 emms();
1090 : suxen_drol 136
1091 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
1092 : Isibaar 3
1093 : edgomez 195 if (pFrame->quant == 0) {
1094 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1095 :     } else {
1096 : suxen_drol 136 pEnc->current->quant = pFrame->quant;
1097 : Isibaar 3 }
1098 :    
1099 : edgomez 195 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1100 :     int *temp_dquants =
1101 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1102 :     pEnc->mbParam.mb_height * sizeof(int),
1103 :     CACHE_LINE);
1104 :    
1105 : edgomez 194 pEnc->current->quant =
1106 :     adaptive_quantization(pEnc->current->image.y,
1107 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
1108 :     pEnc->current->quant, pEnc->current->quant,
1109 :     2 * pEnc->current->quant,
1110 :     pEnc->mbParam.mb_width,
1111 :     pEnc->mbParam.mb_height);
1112 : edgomez 194
1113 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1114 : edgomez 194
1115 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1116 : edgomez 194
1117 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1118 : edgomez 194
1119 : edgomez 195
1120 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1121 :    
1122 :     pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1123 : Isibaar 3 }
1124 : edgomez 194
1125 : edgomez 195 #undef OFFSET
1126 : edgomez 194 }
1127 :    
1128 : Isibaar 41 xvid_free(temp_dquants);
1129 : Isibaar 3 }
1130 :    
1131 : edgomez 195 if (pEnc->current->global_flags & XVID_H263QUANT) {
1132 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1133 : Isibaar 20 write_vol_header = 1;
1134 : suxen_drol 136 pEnc->mbParam.m_quant_type = H263_QUANT;
1135 : edgomez 195 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1136 : edgomez 194 int matrix1_changed, matrix2_changed;
1137 : Isibaar 3
1138 : edgomez 194 matrix1_changed = matrix2_changed = 0;
1139 : edgomez 78
1140 : edgomez 195 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1141 : Isibaar 20 write_vol_header = 1;
1142 : edgomez 195
1143 : suxen_drol 136 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1144 : edgomez 195
1145 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1146 : edgomez 195 if (pFrame->quant_intra_matrix != NULL)
1147 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1148 :     if (pFrame->quant_inter_matrix != NULL)
1149 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1150 :     } else {
1151 : edgomez 194 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1152 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1153 : Isibaar 20 }
1154 : edgomez 195 if (write_vol_header == 0)
1155 : edgomez 194 write_vol_header = matrix1_changed | matrix2_changed;
1156 : Isibaar 4 }
1157 : Isibaar 3
1158 : edgomez 195 if (pFrame->intra < 0) {
1159 :     if ((pEnc->iFrameNum == 0)
1160 :     || ((pEnc->iMaxKeyInterval > 0)
1161 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
1162 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1163 :     } else {
1164 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1165 : edgomez 194 }
1166 : edgomez 195 } else {
1167 :     if (pFrame->intra == 1) {
1168 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1169 :     } else {
1170 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1171 : edgomez 194 }
1172 :    
1173 : edgomez 13 }
1174 : Isibaar 3
1175 :     BitstreamPutBits(&bs, 0xFFFF, 16);
1176 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
1177 :     BitstreamPad(&bs);
1178 :     pFrame->length = BitstreamLength(&bs);
1179 : h 29
1180 : edgomez 195 if (pResult) {
1181 : suxen_drol 136 pResult->quant = pEnc->current->quant;
1182 : Isibaar 3 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1183 :     pResult->kblks = pEnc->sStat.kblks;
1184 :     pResult->mblks = pEnc->sStat.mblks;
1185 :     pResult->ublks = pEnc->sStat.ublks;
1186 : edgomez 13 }
1187 : edgomez 195
1188 : edgomez 198 emms();
1189 : Isibaar 41
1190 : edgomez 195 if (pFrame->quant == 0) {
1191 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1192 :     pFrame->length, pFrame->intra);
1193 : Isibaar 3 }
1194 : suxen_drol 229 #ifdef _DEBUG_PSNR
1195 : edgomez 195 psnr =
1196 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1197 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1198 :     pEnc->mbParam.height);
1199 : Isibaar 113
1200 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
1201 : Isibaar 113 DEBUG(temp);
1202 :     #endif
1203 :    
1204 : suxen_drol 229 #ifdef BFRAMES
1205 :     inc_frame_num(pEnc);
1206 :     #else
1207 : Isibaar 3 pEnc->iFrameNum++;
1208 : suxen_drol 229 #endif
1209 : edgomez 195
1210 : suxen_drol 229
1211 : Isibaar 3 stop_global_timer();
1212 :     write_timer();
1213 :    
1214 :     return XVID_ERR_OK;
1215 :     }
1216 :    
1217 :    
1218 : edgomez 195 static __inline void
1219 :     CodeIntraMB(Encoder * pEnc,
1220 :     MACROBLOCK * pMB)
1221 :     {
1222 : Isibaar 3
1223 :     pMB->mode = MODE_INTRA;
1224 :    
1225 : suxen_drol 136 /* zero mv statistics */
1226 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1227 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1228 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1229 :     pMB->sad16 = 0;
1230 :    
1231 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1232 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1233 : Isibaar 3 pMB->mode = MODE_INTRA_Q;
1234 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1235 : edgomez 195
1236 :     if (pEnc->current->quant > 31)
1237 :     pEnc->current->quant = 31;
1238 :     if (pEnc->current->quant < 1)
1239 :     pEnc->current->quant = 1;
1240 : Isibaar 3 }
1241 :     }
1242 :    
1243 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1244 : Isibaar 3 }
1245 :    
1246 :    
1247 : h 101 #define FCODEBITS 3
1248 :     #define MODEBITS 5
1249 :    
1250 : edgomez 195 void
1251 :     HintedMESet(Encoder * pEnc,
1252 :     int *intra)
1253 : h 101 {
1254 : edgomez 195 HINTINFO *hint;
1255 : h 101 Bitstream bs;
1256 :     int length, high;
1257 :     uint32_t x, y;
1258 :    
1259 :     hint = pEnc->mbParam.hint;
1260 :    
1261 : edgomez 195 if (hint->rawhints) {
1262 : h 101 *intra = hint->mvhint.intra;
1263 : edgomez 195 } else {
1264 : h 101 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1265 :     *intra = BitstreamGetBit(&bs);
1266 :     }
1267 :    
1268 : edgomez 195 if (*intra) {
1269 : h 101 return;
1270 :     }
1271 :    
1272 : edgomez 195 pEnc->current->fcode =
1273 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1274 :     FCODEBITS);
1275 : h 101
1276 : edgomez 195 length = pEnc->current->fcode + 5;
1277 :     high = 1 << (length - 1);
1278 : h 101
1279 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1280 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1281 :     MACROBLOCK *pMB =
1282 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1283 :     MVBLOCKHINT *bhint =
1284 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1285 : h 101 VECTOR pred[4];
1286 :     VECTOR tmp;
1287 : edgomez 147 int32_t dummy[4];
1288 : h 101 int vec;
1289 :    
1290 : edgomez 195 pMB->mode =
1291 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1292 :     MODEBITS);
1293 : h 101
1294 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1295 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1296 :    
1297 : edgomez 195 if (pMB->mode == MODE_INTER) {
1298 :     tmp.x =
1299 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1300 :     length);
1301 :     tmp.y =
1302 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1303 :     length);
1304 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1305 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1306 : h 101
1307 : edgomez 195 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width,
1308 :     0, pred, dummy);
1309 : h 101
1310 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1311 :     pMB->mvs[vec].x = tmp.x;
1312 :     pMB->mvs[vec].y = tmp.y;
1313 : h 101 pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
1314 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
1315 :     }
1316 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1317 :     for (vec = 0; vec < 4; ++vec) {
1318 :     tmp.x =
1319 :     (hint->rawhints) ? bhint->mvs[vec].
1320 :     x : BitstreamGetBits(&bs, length);
1321 :     tmp.y =
1322 :     (hint->rawhints) ? bhint->mvs[vec].
1323 :     y : BitstreamGetBits(&bs, length);
1324 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1325 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1326 : h 101
1327 : edgomez 195 get_pmvdata(pEnc->current->mbs, x, y,
1328 :     pEnc->mbParam.mb_width, vec, pred, dummy);
1329 : h 101
1330 : edgomez 195 pMB->mvs[vec].x = tmp.x;
1331 :     pMB->mvs[vec].y = tmp.y;
1332 : h 101 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
1333 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
1334 :     }
1335 : edgomez 195 } else // intra / stuffing / not_coded
1336 : h 101 {
1337 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1338 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1339 : h 101 }
1340 :     }
1341 : h 128
1342 : suxen_drol 136 if (pMB->mode == MODE_INTER4V &&
1343 : edgomez 195 (pEnc->current->global_flags & XVID_LUMIMASKING)
1344 :     && pMB->dquant != NO_CHANGE) {
1345 : h 128 pMB->mode = MODE_INTRA;
1346 :    
1347 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1348 : h 128 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1349 :     }
1350 :     }
1351 : h 101 }
1352 :     }
1353 :     }
1354 :    
1355 :    
1356 : edgomez 195 void
1357 :     HintedMEGet(Encoder * pEnc,
1358 :     int intra)
1359 : h 101 {
1360 : edgomez 195 HINTINFO *hint;
1361 : h 101 Bitstream bs;
1362 :     uint32_t x, y;
1363 :     int length, high;
1364 :    
1365 :     hint = pEnc->mbParam.hint;
1366 :    
1367 : edgomez 195 if (hint->rawhints) {
1368 : h 101 hint->mvhint.intra = intra;
1369 : edgomez 195 } else {
1370 : h 101 BitstreamInit(&bs, hint->hintstream, 0);
1371 :     BitstreamPutBit(&bs, intra);
1372 :     }
1373 :    
1374 : edgomez 195 if (intra) {
1375 :     if (!hint->rawhints) {
1376 : h 101 BitstreamPad(&bs);
1377 :     hint->hintlength = BitstreamLength(&bs);
1378 :     }
1379 :     return;
1380 :     }
1381 :    
1382 : edgomez 195 length = pEnc->current->fcode + 5;
1383 :     high = 1 << (length - 1);
1384 : h 101
1385 : edgomez 195 if (hint->rawhints) {
1386 : suxen_drol 136 hint->mvhint.fcode = pEnc->current->fcode;
1387 : edgomez 195 } else {
1388 : suxen_drol 136 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1389 : h 101 }
1390 :    
1391 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1392 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1393 :     MACROBLOCK *pMB =
1394 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1395 :     MVBLOCKHINT *bhint =
1396 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1397 : h 101 VECTOR tmp;
1398 :    
1399 : edgomez 195 if (hint->rawhints) {
1400 : h 101 bhint->mode = pMB->mode;
1401 : edgomez 195 } else {
1402 : h 101 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1403 :     }
1404 :    
1405 : edgomez 195 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1406 :     tmp.x = pMB->mvs[0].x;
1407 :     tmp.y = pMB->mvs[0].y;
1408 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1409 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1410 : h 101
1411 : edgomez 195 if (hint->rawhints) {
1412 : h 101 bhint->mvs[0].x = tmp.x;
1413 :     bhint->mvs[0].y = tmp.y;
1414 : edgomez 195 } else {
1415 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1416 :     BitstreamPutBits(&bs, tmp.y, length);
1417 :     }
1418 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1419 : h 101 int vec;
1420 :    
1421 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1422 :     tmp.x = pMB->mvs[vec].x;
1423 :     tmp.y = pMB->mvs[vec].y;
1424 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1425 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1426 : h 101
1427 : edgomez 195 if (hint->rawhints) {
1428 : h 101 bhint->mvs[vec].x = tmp.x;
1429 :     bhint->mvs[vec].y = tmp.y;
1430 : edgomez 195 } else {
1431 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1432 :     BitstreamPutBits(&bs, tmp.y, length);
1433 :     }
1434 :     }
1435 :     }
1436 :     }
1437 :     }
1438 :    
1439 : edgomez 195 if (!hint->rawhints) {
1440 : h 101 BitstreamPad(&bs);
1441 :     hint->hintlength = BitstreamLength(&bs);
1442 :     }
1443 :     }
1444 :    
1445 :    
1446 : edgomez 195 static int
1447 :     FrameCodeI(Encoder * pEnc,
1448 :     Bitstream * bs,
1449 :     uint32_t * pBits)
1450 : h 104 {
1451 :    
1452 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1453 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1454 : h 104
1455 :     uint16_t x, y;
1456 :    
1457 :     pEnc->iFrameNum = 0;
1458 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1;
1459 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1460 :     pEnc->current->coding_type = I_VOP;
1461 : h 104
1462 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1463 : suxen_drol 229 #ifdef BFRAMES
1464 :     #define DIVX501B481P "DivX501b481p"
1465 : suxen_drol 234 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1466 : suxen_drol 229 BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1467 :     }
1468 :     #endif
1469 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1470 : h 104
1471 :     *pBits = BitstreamPos(bs);
1472 :    
1473 :     pEnc->sStat.iTextBits = 0;
1474 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1475 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1476 :    
1477 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1478 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1479 :     MACROBLOCK *pMB =
1480 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1481 : h 104
1482 :     CodeIntraMB(pEnc, pMB);
1483 :    
1484 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1485 :     dct_codes, qcoeff);
1486 : h 104
1487 :     start_timer();
1488 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1489 : h 104 stop_prediction_timer();
1490 :    
1491 :     start_timer();
1492 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1493 : h 104 stop_coding_timer();
1494 :     }
1495 :    
1496 :     emms();
1497 :    
1498 :     *pBits = BitstreamPos(bs) - *pBits;
1499 :     pEnc->sStat.fMvPrevSigma = -1;
1500 :     pEnc->sStat.iMvSum = 0;
1501 :     pEnc->sStat.iMvCount = 0;
1502 : suxen_drol 136 pEnc->mbParam.m_fcode = 2;
1503 : h 104
1504 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1505 : h 104 HintedMEGet(pEnc, 1);
1506 :     }
1507 :    
1508 : edgomez 195 return 1; // intra
1509 : h 104 }
1510 :    
1511 :    
1512 : Isibaar 3 #define INTRA_THRESHOLD 0.5
1513 :    
1514 : edgomez 195 static int
1515 :     FrameCodeP(Encoder * pEnc,
1516 :     Bitstream * bs,
1517 :     uint32_t * pBits,
1518 :     bool force_inter,
1519 :     bool vol_header)
1520 : Isibaar 3 {
1521 : edgomez 13 float fSigma;
1522 : Isibaar 42
1523 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1524 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1525 : edgomez 78
1526 : Isibaar 3 int iLimit;
1527 : edgomez 13 uint32_t x, y;
1528 :     int iSearchRange;
1529 : edgomez 145 int bIntra;
1530 : Isibaar 3
1531 : edgomez 145 /* IMAGE *pCurrent = &pEnc->current->image; */
1532 : suxen_drol 136 IMAGE *pRef = &pEnc->reference->image;
1533 : Isibaar 3
1534 : h 69 start_timer();
1535 : edgomez 195 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1536 :     pEnc->mbParam.width, pEnc->mbParam.height,
1537 :     pEnc->current->global_flags & XVID_INTERLACING);
1538 : h 69 stop_edges_timer();
1539 : Isibaar 3
1540 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1541 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1542 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1543 : Isibaar 3
1544 :     if (!force_inter)
1545 : edgomez 195 iLimit =
1546 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1547 :     INTRA_THRESHOLD);
1548 : edgomez 13 else
1549 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1550 :    
1551 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1552 : Isibaar 3 start_timer();
1553 : edgomez 195 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1554 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1555 :     pEnc->mbParam.edged_height,
1556 :     pEnc->current->rounding_type);
1557 : Isibaar 3 stop_inter_timer();
1558 :     }
1559 :    
1560 :     start_timer();
1561 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1562 : h 101 HintedMESet(pEnc, &bIntra);
1563 : edgomez 195 } else {
1564 :     bIntra =
1565 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1566 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1567 :     iLimit);
1568 : h 101 }
1569 : Isibaar 3 stop_motion_timer();
1570 :    
1571 : edgomez 195 if (bIntra == 1) {
1572 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
1573 : h 101 }
1574 : Isibaar 3
1575 : suxen_drol 136 pEnc->current->coding_type = P_VOP;
1576 : Isibaar 3
1577 : edgomez 195 if (vol_header)
1578 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1579 : Isibaar 3
1580 : suxen_drol 229 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1581 : Isibaar 3
1582 : edgomez 13 *pBits = BitstreamPos(bs);
1583 : Isibaar 3
1584 : edgomez 13 pEnc->sStat.iTextBits = 0;
1585 :     pEnc->sStat.iMvSum = 0;
1586 :     pEnc->sStat.iMvCount = 0;
1587 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1588 :    
1589 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1590 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1591 :     MACROBLOCK *pMB =
1592 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1593 : Isibaar 3
1594 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1595 : Isibaar 3
1596 : edgomez 195 if (!bIntra) {
1597 : Isibaar 3 start_timer();
1598 : edgomez 195 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1599 :     &pEnc->vInterH, &pEnc->vInterV,
1600 :     &pEnc->vInterHV, &pEnc->current->image,
1601 :     dct_codes, pEnc->mbParam.width,
1602 :     pEnc->mbParam.height,
1603 :     pEnc->mbParam.edged_width,
1604 :     pEnc->current->rounding_type);
1605 : Isibaar 3 stop_comp_timer();
1606 :    
1607 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1608 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1609 : Isibaar 3 pMB->mode = MODE_INTER_Q;
1610 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1611 : edgomez 195 if (pEnc->current->quant > 31)
1612 :     pEnc->current->quant = 31;
1613 :     else if (pEnc->current->quant < 1)
1614 :     pEnc->current->quant = 1;
1615 : Isibaar 3 }
1616 :     }
1617 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1618 : Isibaar 3
1619 : h 69 pMB->field_pred = 0;
1620 :    
1621 : edgomez 195 pMB->cbp =
1622 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1623 :     dct_codes, qcoeff);
1624 :     } else {
1625 : Isibaar 3 CodeIntraMB(pEnc, pMB);
1626 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1627 :     dct_codes, qcoeff);
1628 : Isibaar 3 }
1629 :    
1630 : edgomez 13 start_timer();
1631 : edgomez 195 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1632 : Isibaar 3 stop_prediction_timer();
1633 :    
1634 : edgomez 195 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1635 : Isibaar 3 pEnc->sStat.kblks++;
1636 : edgomez 195 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1637 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1638 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1639 : Isibaar 3 pEnc->sStat.mblks++;
1640 : edgomez 195 } else {
1641 : Isibaar 3 pEnc->sStat.ublks++;
1642 :     }
1643 :    
1644 :     start_timer();
1645 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1646 : Isibaar 3 stop_coding_timer();
1647 :     }
1648 :     }
1649 :    
1650 :     emms();
1651 :    
1652 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1653 : h 101 HintedMEGet(pEnc, 0);
1654 :     }
1655 :    
1656 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
1657 :     pEnc->sStat.iMvCount = 1;
1658 :    
1659 : edgomez 195 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1660 : Isibaar 3
1661 : suxen_drol 136 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1662 : Isibaar 3
1663 : edgomez 195 if ((fSigma > iSearchRange / 3)
1664 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1665 : edgomez 13 {
1666 : suxen_drol 136 pEnc->mbParam.m_fcode++;
1667 : Isibaar 3 iSearchRange *= 2;
1668 : edgomez 195 } else if ((fSigma < iSearchRange / 6)
1669 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1670 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1671 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1672 : edgomez 13 {
1673 : suxen_drol 136 pEnc->mbParam.m_fcode--;
1674 : Isibaar 3 iSearchRange /= 2;
1675 : edgomez 13 }
1676 : Isibaar 3
1677 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
1678 : edgomez 195
1679 : Isibaar 3 *pBits = BitstreamPos(bs) - *pBits;
1680 :    
1681 : edgomez 195 return 0; // inter
1682 : Isibaar 3 }
1683 : suxen_drol 118
1684 :    
1685 : suxen_drol 152 #ifdef BFRAMES
1686 : edgomez 195 static void
1687 :     FrameCodeB(Encoder * pEnc,
1688 :     FRAMEINFO * frame,
1689 :     Bitstream * bs,
1690 :     uint32_t * pBits)
1691 : suxen_drol 118 {
1692 : edgomez 195 int16_t dct_codes[6 * 64];
1693 :     int16_t qcoeff[6 * 64];
1694 :     uint32_t x, y;
1695 : suxen_drol 118 VECTOR forward;
1696 :     VECTOR backward;
1697 :    
1698 : edgomez 195 IMAGE *f_ref = &pEnc->reference->image;
1699 : suxen_drol 118 IMAGE *b_ref = &pEnc->current->image;
1700 :    
1701 : suxen_drol 152 // forward
1702 : edgomez 195 image_setedges(f_ref, pEnc->mbParam.edged_width,
1703 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1704 :     pEnc->mbParam.height,
1705 :     frame->global_flags & XVID_INTERLACING);
1706 : suxen_drol 118 start_timer();
1707 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1708 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1709 :     0);
1710 : suxen_drol 118 stop_inter_timer();
1711 :    
1712 : suxen_drol 152 // backward
1713 : edgomez 195 image_setedges(b_ref, pEnc->mbParam.edged_width,
1714 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1715 :     pEnc->mbParam.height,
1716 :     frame->global_flags & XVID_INTERLACING);
1717 :     start_timer();
1718 : suxen_drol 118 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1719 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1720 :     0);
1721 : suxen_drol 118 stop_inter_timer();
1722 :    
1723 :     start_timer();
1724 : edgomez 195 MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1725 :     &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1726 :     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1727 :     &pEnc->vInterV, &pEnc->vInterHV);
1728 : suxen_drol 118
1729 : edgomez 195
1730 : suxen_drol 118 stop_motion_timer();
1731 : edgomez 195
1732 : suxen_drol 152 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1733 : edgomez 195 {
1734 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1735 :     } */
1736 : suxen_drol 118
1737 : edgomez 195 frame->coding_type = B_VOP;
1738 : suxen_drol 229 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1739 : suxen_drol 118
1740 : edgomez 195 *pBits = BitstreamPos(bs);
1741 : suxen_drol 118
1742 : edgomez 195 pEnc->sStat.iTextBits = 0;
1743 :     pEnc->sStat.iMvSum = 0;
1744 :     pEnc->sStat.iMvCount = 0;
1745 : suxen_drol 118 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1746 :    
1747 :    
1748 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1749 : suxen_drol 118 // reset prediction
1750 :    
1751 :     forward.x = 0;
1752 :     forward.y = 0;
1753 :     backward.x = 0;
1754 :     backward.y = 0;
1755 :    
1756 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1757 :     MACROBLOCK *f_mb =
1758 :     &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1759 :     MACROBLOCK *b_mb =
1760 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1761 :     MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1762 : suxen_drol 118
1763 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1764 : edgomez 195 if (mb->mode == MODE_NOT_CODED) {
1765 : suxen_drol 118 mb->mvs[0].x = 0;
1766 :     mb->mvs[0].y = 0;
1767 :     continue;
1768 :     }
1769 :    
1770 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1771 : edgomez 195 f_ref, &pEnc->f_refh, &pEnc->f_refv,
1772 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1773 :     &pEnc->vInterV, &pEnc->vInterHV,
1774 :     dct_codes);
1775 :    
1776 : suxen_drol 118 mb->quant = frame->quant;
1777 : edgomez 195 mb->cbp =
1778 :     MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1779 :     qcoeff);
1780 : suxen_drol 118 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1781 :    
1782 :    
1783 : edgomez 195 if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1784 :     && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
1785 :     mb->mode = 5; // skipped
1786 : suxen_drol 118 }
1787 :    
1788 : edgomez 195 if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1789 : suxen_drol 118 mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1790 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1791 :     forward.x = mb->mvs[0].x;
1792 :     forward.y = mb->mvs[0].y;
1793 :     }
1794 : edgomez 195
1795 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1796 : suxen_drol 118 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1797 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1798 :     backward.x = mb->b_mvs[0].x;
1799 :     backward.y = mb->b_mvs[0].y;
1800 :     }
1801 : suxen_drol 234 // DPRINTF("%05i : [%i %i] M=%i CBP=%i MVS=%i,%i forward=%i,%i", pEnc->m_framenum, x, y, mb->mode, mb->cbp, mb->mvs[0].x, mb->mvs[0].y, forward.x, forward.y);
1802 : suxen_drol 118
1803 : edgomez 195 start_timer();
1804 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1805 :     &pEnc->sStat);
1806 : suxen_drol 118 stop_coding_timer();
1807 :     }
1808 :     }
1809 :    
1810 :     emms();
1811 :    
1812 :     // TODO: dynamic fcode/bcode ???
1813 :    
1814 :     *pBits = BitstreamPos(bs) - *pBits;
1815 :     }
1816 : edgomez 188 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4