[svn] / trunk / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /trunk/xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 208 - (view) (download)

1 : edgomez 194 /*****************************************************************************
2 : edgomez 145 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 194 ****************************************************************************/
30 : suxen_drol 118
31 : edgomez 194 /*****************************************************************************
32 : edgomez 145 *
33 :     * History
34 :     *
35 : chenm001 168 * 08.05.2002 fix some problem in DEBUG mode;
36 :     * MinChen <chenm001@163.com>
37 : edgomez 145 * 14.04.2002 added FrameCodeB()
38 :     *
39 : Isibaar 208 * $Id: encoder.c,v 1.43 2002-06-14 13:21:35 Isibaar Exp $
40 : edgomez 145 *
41 : edgomez 194 ****************************************************************************/
42 : edgomez 145
43 : Isibaar 3 #include <stdlib.h>
44 :     #include <stdio.h>
45 :     #include <math.h>
46 : edgomez 198 #include <string.h>
47 : Isibaar 3
48 :     #include "encoder.h"
49 :     #include "prediction/mbprediction.h"
50 :     #include "global.h"
51 :     #include "utils/timer.h"
52 :     #include "image/image.h"
53 : suxen_drol 152 #include "motion/motion.h"
54 : Isibaar 3 #include "bitstream/cbp.h"
55 :     #include "utils/mbfunctions.h"
56 :     #include "bitstream/bitstream.h"
57 :     #include "bitstream/mbcoding.h"
58 :     #include "utils/ratecontrol.h"
59 :     #include "utils/emms.h"
60 :     #include "bitstream/mbcoding.h"
61 :     #include "quant/adapt_quant.h"
62 : Isibaar 4 #include "quant/quant_matrix.h"
63 : Isibaar 41 #include "utils/mem_align.h"
64 : Isibaar 3
65 : edgomez 194 /*****************************************************************************
66 :     * Local macros
67 :     ****************************************************************************/
68 :    
69 : Isibaar 3 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
70 : suxen_drol 136 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
71 : Isibaar 3
72 : edgomez 194 /*****************************************************************************
73 :     * Local function prototypes
74 :     ****************************************************************************/
75 :    
76 : edgomez 192 static int FrameCodeI(Encoder * pEnc,
77 : edgomez 195 Bitstream * bs,
78 :     uint32_t * pBits);
79 : Isibaar 3
80 : edgomez 192 static int FrameCodeP(Encoder * pEnc,
81 : edgomez 195 Bitstream * bs,
82 :     uint32_t * pBits,
83 :     bool force_inter,
84 :     bool vol_header);
85 : Isibaar 3
86 : edgomez 192 #ifdef BFRAMES
87 :     static void FrameCodeB(Encoder * pEnc,
88 : edgomez 195 FRAMEINFO * frame,
89 :     Bitstream * bs,
90 :     uint32_t * pBits);
91 : edgomez 192 #endif
92 :    
93 : edgomez 194 /*****************************************************************************
94 :     * Local data
95 :     ****************************************************************************/
96 :    
97 : edgomez 195 static int DQtab[4] = {
98 : Isibaar 3 -1, -2, 1, 2
99 :     };
100 :    
101 : edgomez 195 static int iDQtab[5] = {
102 : Isibaar 3 1, 0, NO_CHANGE, 2, 3
103 :     };
104 :    
105 :    
106 : edgomez 195 static void __inline
107 :     image_null(IMAGE * image)
108 : suxen_drol 136 {
109 :     image->y = image->u = image->v = NULL;
110 :     }
111 :    
112 :    
113 : edgomez 194 /*****************************************************************************
114 :     * Encoder creation
115 :     *
116 :     * This function creates an Encoder instance, it allocates all necessary
117 :     * image buffers (reference, current and bframes) and initialize the internal
118 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
119 :     *
120 :     * The code seems to be very long but is very basic, mainly memory allocation
121 :     * and cleaning code.
122 :     *
123 :     * Returned values :
124 :     * - XVID_ERR_OK - no errors
125 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
126 :     * cleans the structure before exiting.
127 :     * pParam->handle is also set to NULL.
128 :     *
129 :     ****************************************************************************/
130 :    
131 :     int
132 :     encoder_create(XVID_ENC_PARAM * pParam)
133 : Isibaar 3 {
134 : edgomez 13 Encoder *pEnc;
135 : Isibaar 3 uint32_t i;
136 :    
137 : edgomez 13 pParam->handle = NULL;
138 : Isibaar 3
139 : edgomez 13 ENC_CHECK(pParam);
140 : Isibaar 3
141 : edgomez 13 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
142 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
143 :     ENC_CHECK(!(pParam->width % 2));
144 :     ENC_CHECK(!(pParam->height % 2));
145 : Isibaar 3
146 : edgomez 192 /* Fps */
147 :    
148 : edgomez 195 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
149 : Isibaar 3 pParam->fincr = 1;
150 :     pParam->fbase = 25;
151 :     }
152 :    
153 : edgomez 192 /*
154 :     * Simplify the "fincr/fbase" fraction
155 :     * (neccessary, since windows supplies us with huge numbers)
156 :     */
157 : Isibaar 3
158 :     i = pParam->fincr;
159 : edgomez 195 while (i > 1) {
160 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
161 : Isibaar 3 pParam->fincr /= i;
162 :     pParam->fbase /= i;
163 :     i = pParam->fincr;
164 :     continue;
165 :     }
166 :     i--;
167 :     }
168 :    
169 : edgomez 195 if (pParam->fbase > 65535) {
170 :     float div = (float) pParam->fbase / 65535;
171 :    
172 :     pParam->fbase = (int) (pParam->fbase / div);
173 :     pParam->fincr = (int) (pParam->fincr / div);
174 : Isibaar 3 }
175 :    
176 : edgomez 192 /* Bitrate allocator defaults */
177 :    
178 : h 121 if (pParam->rc_bitrate <= 0)
179 :     pParam->rc_bitrate = 900000;
180 : Isibaar 3
181 : h 121 if (pParam->rc_reaction_delay_factor <= 0)
182 :     pParam->rc_reaction_delay_factor = 16;
183 : Isibaar 3
184 : h 121 if (pParam->rc_averaging_period <= 0)
185 :     pParam->rc_averaging_period = 100;
186 :    
187 :     if (pParam->rc_buffer <= 0)
188 :     pParam->rc_buffer = 100;
189 :    
190 : edgomez 192 /* Max and min quantizers */
191 :    
192 : edgomez 13 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
193 : Isibaar 3 pParam->min_quantizer = 1;
194 :    
195 : edgomez 13 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
196 : Isibaar 3 pParam->max_quantizer = 31;
197 :    
198 : edgomez 13 if (pParam->max_quantizer < pParam->min_quantizer)
199 : Isibaar 3 pParam->max_quantizer = pParam->min_quantizer;
200 :    
201 : edgomez 195 /* 1 keyframe each 10 seconds */
202 : edgomez 192
203 :     if (pParam->max_key_interval == 0)
204 :     pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
205 :    
206 : edgomez 195
207 : edgomez 192 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
208 :     if (pEnc == NULL)
209 : Isibaar 3 return XVID_ERR_MEMORY;
210 :    
211 : edgomez 198 /* Zero the Encoder Structure */
212 :    
213 :     memset(pEnc, 0, sizeof(Encoder));
214 :    
215 : Isibaar 3 /* Fill members of Encoder structure */
216 :    
217 : edgomez 13 pEnc->mbParam.width = pParam->width;
218 :     pEnc->mbParam.height = pParam->height;
219 : Isibaar 3
220 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
221 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
222 :    
223 : edgomez 195 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
224 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
225 : Isibaar 3
226 : suxen_drol 152 pEnc->mbParam.fbase = pParam->fbase;
227 :     pEnc->mbParam.fincr = pParam->fincr;
228 :    
229 : Isibaar 208 pEnc->mbParam.m_quant_type = H263_QUANT;
230 :    
231 : edgomez 13 pEnc->sStat.fMvPrevSigma = -1;
232 : Isibaar 3
233 :     /* Fill rate control parameters */
234 :    
235 : h 121 pEnc->bitrate = pParam->rc_bitrate;
236 : Isibaar 3
237 : edgomez 13 pEnc->iFrameNum = 0;
238 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
239 : Isibaar 3
240 : suxen_drol 136 /* try to allocate frame memory */
241 : Isibaar 3
242 : edgomez 192 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
243 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
244 : Isibaar 3
245 : edgomez 195 if (pEnc->current == NULL || pEnc->reference == NULL)
246 : edgomez 192 goto xvid_err_memory1;
247 :    
248 : suxen_drol 136 /* try to allocate mb memory */
249 : Isibaar 3
250 : edgomez 195 pEnc->current->mbs =
251 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
252 :     pEnc->mbParam.mb_height, CACHE_LINE);
253 :     pEnc->reference->mbs =
254 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
255 :     pEnc->mbParam.mb_height, CACHE_LINE);
256 : suxen_drol 136
257 : edgomez 192 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
258 :     goto xvid_err_memory2;
259 : suxen_drol 136
260 :     /* try to allocate image memory */
261 :    
262 :     #ifdef _DEBUG
263 :     image_null(&pEnc->sOriginal);
264 :     #endif
265 : suxen_drol 152 #ifdef BFRAMES
266 :     image_null(&pEnc->f_refh);
267 :     image_null(&pEnc->f_refv);
268 :     image_null(&pEnc->f_refhv);
269 :     #endif
270 : suxen_drol 136 image_null(&pEnc->current->image);
271 :     image_null(&pEnc->reference->image);
272 :     image_null(&pEnc->vInterH);
273 :     image_null(&pEnc->vInterV);
274 :     image_null(&pEnc->vInterVf);
275 :     image_null(&pEnc->vInterHV);
276 :     image_null(&pEnc->vInterHVf);
277 : edgomez 192
278 : suxen_drol 136 #ifdef _DEBUG
279 : edgomez 195 if (image_create
280 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
281 :     pEnc->mbParam.edged_height) < 0)
282 : edgomez 192 goto xvid_err_memory3;
283 : suxen_drol 136 #endif
284 : suxen_drol 152 #ifdef BFRAMES
285 : edgomez 195 if (image_create
286 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
287 :     pEnc->mbParam.edged_height) < 0)
288 : edgomez 192 goto xvid_err_memory3;
289 : edgomez 195 if (image_create
290 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
291 :     pEnc->mbParam.edged_height) < 0)
292 : edgomez 192 goto xvid_err_memory3;
293 : edgomez 195 if (image_create
294 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
295 :     pEnc->mbParam.edged_height) < 0)
296 : edgomez 192 goto xvid_err_memory3;
297 : suxen_drol 152 #endif
298 : edgomez 195 if (image_create
299 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
300 :     pEnc->mbParam.edged_height) < 0)
301 : edgomez 192 goto xvid_err_memory3;
302 : edgomez 195 if (image_create
303 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
304 :     pEnc->mbParam.edged_height) < 0)
305 : edgomez 192 goto xvid_err_memory3;
306 : edgomez 195 if (image_create
307 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
308 :     pEnc->mbParam.edged_height) < 0)
309 : edgomez 192 goto xvid_err_memory3;
310 : edgomez 195 if (image_create
311 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
312 :     pEnc->mbParam.edged_height) < 0)
313 : edgomez 192 goto xvid_err_memory3;
314 : edgomez 195 if (image_create
315 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
316 :     pEnc->mbParam.edged_height) < 0)
317 : edgomez 192 goto xvid_err_memory3;
318 : edgomez 195 if (image_create
319 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
320 :     pEnc->mbParam.edged_height) < 0)
321 : edgomez 192 goto xvid_err_memory3;
322 : edgomez 195 if (image_create
323 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
324 :     pEnc->mbParam.edged_height) < 0)
325 : edgomez 192 goto xvid_err_memory3;
326 : suxen_drol 136
327 : Isibaar 3
328 : edgomez 192
329 :     /* B Frames specific init */
330 : suxen_drol 152 #ifdef BFRAMES
331 : edgomez 195
332 : suxen_drol 164 pEnc->mbParam.max_bframes = pParam->max_bframes;
333 : suxen_drol 152 pEnc->bquant_ratio = pParam->bquant_ratio;
334 : edgomez 192 pEnc->bframes = NULL;
335 :    
336 : edgomez 195 if (pEnc->mbParam.max_bframes > 0) {
337 : suxen_drol 152 int n;
338 :    
339 : edgomez 195 pEnc->bframes =
340 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
341 :     CACHE_LINE);
342 : suxen_drol 152
343 : edgomez 192 if (pEnc->bframes == NULL)
344 :     goto xvid_err_memory3;
345 :    
346 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
347 : edgomez 192 pEnc->bframes[n] = NULL;
348 :    
349 : suxen_drol 152
350 : edgomez 195 for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
351 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
352 :    
353 : edgomez 192 if (pEnc->bframes[n] == NULL)
354 :     goto xvid_err_memory4;
355 :    
356 : edgomez 195 pEnc->bframes[n]->mbs =
357 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
358 :     pEnc->mbParam.mb_height, CACHE_LINE);
359 : edgomez 192
360 :     if (pEnc->bframes[n]->mbs == NULL)
361 :     goto xvid_err_memory4;
362 :    
363 :     image_null(&pEnc->bframes[n]->image);
364 :    
365 : edgomez 195 if (image_create
366 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
367 :     pEnc->mbParam.edged_height) < 0)
368 : edgomez 192 goto xvid_err_memory4;
369 :    
370 : suxen_drol 152 }
371 :     }
372 : edgomez 192
373 : suxen_drol 152 pEnc->bframenum_head = 0;
374 :     pEnc->bframenum_tail = 0;
375 :     pEnc->flush_bframes = 0;
376 :    
377 :     pEnc->mbParam.m_seconds = 0;
378 :     pEnc->mbParam.m_ticks = 0;
379 :     #endif
380 :    
381 : edgomez 195 pParam->handle = (void *) pEnc;
382 : Isibaar 3
383 : edgomez 195 if (pParam->rc_bitrate) {
384 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
385 :     pParam->rc_reaction_delay_factor,
386 :     pParam->rc_averaging_period, pParam->rc_buffer,
387 :     pParam->fbase * 1000 / pParam->fincr,
388 :     pParam->max_quantizer, pParam->min_quantizer);
389 : Isibaar 3 }
390 :    
391 : Isibaar 36 init_timer();
392 : Isibaar 3
393 :     return XVID_ERR_OK;
394 : edgomez 192
395 :     /*
396 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
397 :     */
398 :     #ifdef BFRAMES
399 : edgomez 195 xvid_err_memory4:
400 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
401 : edgomez 192
402 : edgomez 195 if (pEnc->bframes[i] == NULL)
403 :     continue;
404 : edgomez 192
405 : edgomez 195 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
406 :     pEnc->mbParam.edged_height);
407 : edgomez 192
408 :     xvid_free(pEnc->bframes[i]->mbs);
409 :    
410 :     xvid_free(pEnc->bframes[i]);
411 :    
412 :     }
413 :    
414 :     xvid_free(pEnc->bframes);
415 :    
416 :     #endif
417 :    
418 : edgomez 195 xvid_err_memory3:
419 : edgomez 192 #ifdef _DEBUG
420 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
421 :     pEnc->mbParam.edged_height);
422 : edgomez 192 #endif
423 :    
424 :     #ifdef BFRAMES
425 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
426 :     pEnc->mbParam.edged_height);
427 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
428 :     pEnc->mbParam.edged_height);
429 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
430 :     pEnc->mbParam.edged_height);
431 : edgomez 192 #endif
432 :    
433 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
434 :     pEnc->mbParam.edged_height);
435 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
436 :     pEnc->mbParam.edged_height);
437 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
438 :     pEnc->mbParam.edged_height);
439 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
440 :     pEnc->mbParam.edged_height);
441 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
442 :     pEnc->mbParam.edged_height);
443 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
444 :     pEnc->mbParam.edged_height);
445 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
446 :     pEnc->mbParam.edged_height);
447 : edgomez 192
448 : edgomez 195 xvid_err_memory2:
449 : edgomez 192 xvid_free(pEnc->current->mbs);
450 :     xvid_free(pEnc->reference->mbs);
451 :    
452 : edgomez 195 xvid_err_memory1:
453 : edgomez 192 xvid_free(pEnc->current);
454 :     xvid_free(pEnc->reference);
455 :     xvid_free(pEnc);
456 :    
457 : edgomez 194 pParam->handle = NULL;
458 :    
459 : edgomez 192 return XVID_ERR_MEMORY;
460 : Isibaar 3 }
461 :    
462 : edgomez 194 /*****************************************************************************
463 :     * Encoder destruction
464 :     *
465 :     * This function destroy the entire encoder structure created by a previous
466 :     * successful encoder_create call.
467 :     *
468 :     * Returned values (for now only one returned value) :
469 :     * - XVID_ERR_OK - no errors
470 :     *
471 :     ****************************************************************************/
472 :    
473 :     int
474 :     encoder_destroy(Encoder * pEnc)
475 : Isibaar 3 {
476 : edgomez 13 ENC_CHECK(pEnc);
477 : Isibaar 3
478 : edgomez 192 /* B Frames specific */
479 : suxen_drol 152 #ifdef BFRAMES
480 : edgomez 192 int i;
481 :    
482 : edgomez 195 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
483 : edgomez 192
484 : edgomez 195 if (pEnc->bframes[i] == NULL)
485 :     continue;
486 : edgomez 192
487 : edgomez 195 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
488 :     pEnc->mbParam.edged_height);
489 : edgomez 192
490 :     xvid_free(pEnc->bframes[i]->mbs);
491 :    
492 :     xvid_free(pEnc->bframes[i]);
493 :    
494 : suxen_drol 152 }
495 : edgomez 192
496 :     xvid_free(pEnc->bframes);
497 :    
498 : edgomez 158 #endif
499 : suxen_drol 152
500 : edgomez 192 /* All images, reference, current etc ... */
501 :    
502 : edgomez 195 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
503 :     pEnc->mbParam.edged_height);
504 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
505 :     pEnc->mbParam.edged_height);
506 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
507 :     pEnc->mbParam.edged_height);
508 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
509 :     pEnc->mbParam.edged_height);
510 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
511 :     pEnc->mbParam.edged_height);
512 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
513 :     pEnc->mbParam.edged_height);
514 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
515 :     pEnc->mbParam.edged_height);
516 : suxen_drol 152 #ifdef BFRAMES
517 : edgomez 195 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
518 :     pEnc->mbParam.edged_height);
519 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
520 :     pEnc->mbParam.edged_height);
521 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
522 :     pEnc->mbParam.edged_height);
523 : suxen_drol 152 #endif
524 : Isibaar 113 #ifdef _DEBUG
525 : edgomez 195 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
526 :     pEnc->mbParam.edged_height);
527 : Isibaar 113 #endif
528 : edgomez 192
529 :     /* Encoder structure */
530 : edgomez 195
531 : suxen_drol 136 xvid_free(pEnc->current->mbs);
532 :     xvid_free(pEnc->current);
533 :    
534 :     xvid_free(pEnc->reference->mbs);
535 :     xvid_free(pEnc->reference);
536 :    
537 : Isibaar 41 xvid_free(pEnc);
538 : edgomez 192
539 : edgomez 13 return XVID_ERR_OK;
540 : Isibaar 3 }
541 :    
542 : edgomez 194 /*****************************************************************************
543 :     * Frame encoder entry point
544 :     *
545 :     * At this moment 2 versions coexist : one for IPB compatible encoder,
546 :     * another one for the old IP encoder.
547 :     *
548 :     * Returned values :
549 :     * - XVID_ERR_OK - no errors
550 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
551 :     * format
552 :     ****************************************************************************/
553 : suxen_drol 152
554 :    
555 :     #ifdef BFRAMES
556 : edgomez 194 /*****************************************************************************
557 :     * Frame encoder entry point for IPB capable encoder
558 :     ****************************************************************************/
559 :     int
560 :     encoder_encode(Encoder * pEnc,
561 : edgomez 195 XVID_ENC_FRAME * pFrame,
562 :     XVID_ENC_STATS * pResult)
563 : Isibaar 3 {
564 : edgomez 13 uint16_t x, y;
565 :     Bitstream bs;
566 :     uint32_t bits;
567 : suxen_drol 152
568 : chenm001 168 #ifdef _DEBUG
569 :     float psnr;
570 :     char temp[128];
571 :     #endif
572 :    
573 : suxen_drol 152 ENC_CHECK(pEnc);
574 :     ENC_CHECK(pFrame);
575 :    
576 :     start_global_timer();
577 : edgomez 195
578 : suxen_drol 152 BitstreamInit(&bs, pFrame->bitstream, 0);
579 :    
580 : edgomez 194 /*
581 :     * bframe "flush" code
582 :     */
583 : suxen_drol 152
584 : edgomez 195 if ((pFrame->image == NULL || pEnc->flush_bframes)
585 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
586 :    
587 :     if (pEnc->flush_bframes == 0) {
588 : edgomez 194 /*
589 :     * we have reached the end of stream without getting
590 :     * a future reference frame... so encode last final
591 :     * frame as a pframe
592 :     */
593 :    
594 :     /* ToDo : remove dprintf calls */
595 :     /*
596 : edgomez 195 dprintf("--- PFRAME (final frame correction) --- ");
597 :     */
598 : suxen_drol 152 pEnc->bframenum_tail--;
599 :     SWAP(pEnc->current, pEnc->reference);
600 :    
601 : edgomez 195 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
602 : suxen_drol 152
603 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
604 :    
605 :     BitstreamPad(&bs);
606 :     pFrame->length = BitstreamLength(&bs);
607 :     pFrame->input_consumed = 0;
608 :     pFrame->intra = 0;
609 : edgomez 194
610 : suxen_drol 152 return XVID_ERR_OK;
611 :     }
612 :    
613 : edgomez 194 /* ToDo : remove dprintf calls */
614 :     /*
615 : edgomez 195 dprintf("--- BFRAME (flush) --- ");
616 :     */
617 :     FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
618 : suxen_drol 152 pEnc->bframenum_head++;
619 :    
620 :    
621 :     BitstreamPad(&bs);
622 :     pFrame->length = BitstreamLength(&bs);
623 :     pFrame->input_consumed = 0;
624 :     pFrame->intra = 0;
625 : edgomez 194
626 : suxen_drol 152 return XVID_ERR_OK;
627 :     }
628 :    
629 : edgomez 195 if (pFrame->image == NULL) {
630 : suxen_drol 152 pFrame->length = 0;
631 :     pFrame->input_consumed = 1;
632 :     pFrame->intra = 0;
633 : edgomez 194
634 : suxen_drol 152 return XVID_ERR_OK;
635 :     }
636 :    
637 : edgomez 195 if (pEnc->bframenum_head > 0) {
638 : suxen_drol 152 pEnc->bframenum_head = pEnc->bframenum_tail = 0;
639 :     }
640 :    
641 :     pEnc->flush_bframes = 0;
642 :    
643 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
644 :     * Well there was a separation here so i put it in ANSI C
645 :     * comment style :-)
646 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
647 : suxen_drol 152
648 :     SWAP(pEnc->current, pEnc->reference);
649 :    
650 : edgomez 198 emms();
651 : edgomez 194
652 :     if (pFrame->quant == 0)
653 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
654 :     else
655 :     pEnc->current->quant = pFrame->quant;
656 :    
657 : edgomez 195 if (pEnc->current->quant < 1)
658 : Isibaar 157 pEnc->current->quant = 1;
659 : edgomez 195
660 :     if (pEnc->current->quant > 31)
661 : Isibaar 157 pEnc->current->quant = 31;
662 :    
663 : suxen_drol 152 pEnc->current->global_flags = pFrame->general;
664 :     pEnc->current->motion_flags = pFrame->motion;
665 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
666 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
667 : edgomez 194 /* ToDo : dynamic fcode (in both directions) */
668 : suxen_drol 152 pEnc->current->fcode = pEnc->mbParam.m_fcode;
669 : edgomez 195 pEnc->current->bcode = pEnc->mbParam.m_fcode;
670 : suxen_drol 152
671 :     start_timer();
672 : edgomez 195 if (image_input
673 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
674 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
675 : suxen_drol 152 return XVID_ERR_FORMAT;
676 :     stop_conv_timer();
677 :    
678 :     #ifdef _DEBUG
679 : edgomez 195 image_copy(&pEnc->sOriginal, &pEnc->current->image,
680 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
681 : suxen_drol 152 #endif
682 :    
683 : edgomez 198 emms();
684 : suxen_drol 152
685 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
686 :     * Luminance masking
687 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
688 : suxen_drol 152
689 : edgomez 195 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
690 :     int *temp_dquants =
691 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
692 :     pEnc->mbParam.mb_height * sizeof(int),
693 :     CACHE_LINE);
694 :    
695 : edgomez 194 pEnc->current->quant =
696 :     adaptive_quantization(pEnc->current->image.y,
697 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
698 :     pEnc->current->quant, pEnc->current->quant,
699 :     2 * pEnc->current->quant,
700 :     pEnc->mbParam.mb_width,
701 :     pEnc->mbParam.mb_height);
702 : edgomez 194
703 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
704 : edgomez 194
705 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
706 :    
707 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
708 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
709 :    
710 :     pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
711 : suxen_drol 152 }
712 : edgomez 194
713 : edgomez 195 #undef OFFSET
714 : edgomez 194
715 :     }
716 :    
717 : suxen_drol 152 xvid_free(temp_dquants);
718 :     }
719 :    
720 : edgomez 194 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
721 :     * ivop/pvop/bvop selection
722 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
723 : suxen_drol 152
724 :    
725 : edgomez 195 if (pEnc->iFrameNum == 0 || pFrame->intra == 1 ||
726 :     (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
727 :     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
728 :     || image_mad(&pEnc->reference->image, &pEnc->current->image,
729 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
730 :     pEnc->mbParam.height) > 30) {
731 : edgomez 194 /*
732 :     * This will be coded as an Intra Frame
733 :     */
734 : suxen_drol 152
735 : edgomez 194 /* ToDo : Remove dprintf calls */
736 :     /*
737 : edgomez 195 dprintf("--- IFRAME ---");
738 :     */
739 : edgomez 194
740 : suxen_drol 152 FrameCodeI(pEnc, &bs, &bits);
741 :    
742 :     pFrame->intra = 1;
743 :     pEnc->flush_bframes = 1;
744 :    
745 : edgomez 194 /*
746 :     * NB : sequences like "IIBB" decode fine with msfdam but,
747 :     * go screwy with divx 5.00
748 :     */
749 : edgomez 195 } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
750 : edgomez 194 /*
751 :     * This will be coded as a Predicted Frame
752 :     */
753 : suxen_drol 152
754 : edgomez 194 /* ToDo : Remove dprintf calls */
755 :     /*
756 : edgomez 195 dprintf("--- PFRAME ---");
757 :     */
758 : edgomez 194
759 : suxen_drol 152 FrameCodeP(pEnc, &bs, &bits, 1, 0);
760 :     pFrame->intra = 0;
761 :     pEnc->flush_bframes = 1;
762 : edgomez 195 } else {
763 : edgomez 194 /*
764 :     * This will be coded as a Bidirectional Frame
765 :     */
766 : suxen_drol 152
767 : edgomez 194 /* ToDo : Remove dprintf calls */
768 :     /*
769 : edgomez 195 dprintf("--- BFRAME (store) --- head=%i tail=%i",
770 :     pEnc->bframenum_head,
771 :     pEnc->bframenum_tail);
772 :     */
773 : edgomez 194
774 : edgomez 195 if (pFrame->bquant < 1) {
775 : edgomez 194 pEnc->current->quant =
776 : edgomez 195 ((pEnc->reference->quant +
777 :     pEnc->current->quant) * pEnc->bquant_ratio) / 200;
778 :     } else {
779 : suxen_drol 152 pEnc->current->quant = pFrame->bquant;
780 :     }
781 : edgomez 195
782 : edgomez 194 /* store frame into bframe buffer & swap ref back to current */
783 : suxen_drol 152 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
784 :     SWAP(pEnc->current, pEnc->reference);
785 :    
786 :     pEnc->bframenum_tail++;
787 :    
788 :     pFrame->intra = 0;
789 :     pFrame->length = 0;
790 :     pFrame->input_consumed = 1;
791 :    
792 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
793 : edgomez 195 if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase) {
794 : suxen_drol 152 pEnc->mbParam.m_seconds++;
795 :     pEnc->mbParam.m_ticks = 0;
796 :     }
797 : edgomez 194
798 : suxen_drol 152 return XVID_ERR_OK;
799 :     }
800 :    
801 :     BitstreamPad(&bs);
802 :     pFrame->length = BitstreamLength(&bs);
803 :    
804 : edgomez 195 if (pResult) {
805 : suxen_drol 152 pResult->quant = pEnc->current->quant;
806 : edgomez 195 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
807 : suxen_drol 152 pResult->kblks = pEnc->sStat.kblks;
808 :     pResult->mblks = pEnc->sStat.mblks;
809 :     pResult->ublks = pEnc->sStat.ublks;
810 :     }
811 :    
812 : edgomez 198 emms();
813 : edgomez 194
814 : suxen_drol 152 #ifdef _DEBUG
815 : edgomez 195 psnr =
816 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
817 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
818 :     pEnc->mbParam.height);
819 : suxen_drol 152
820 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
821 : suxen_drol 152 DEBUG(temp);
822 :     #endif
823 :    
824 : edgomez 195 if (pFrame->quant == 0) {
825 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
826 :     pFrame->length, pFrame->intra);
827 : suxen_drol 152 }
828 :    
829 :     pEnc->iFrameNum++;
830 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
831 : edgomez 195 if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase) {
832 : suxen_drol 152 pEnc->mbParam.m_seconds++;
833 :     pEnc->mbParam.m_ticks = 0;
834 :     }
835 :     pFrame->input_consumed = 1;
836 : edgomez 195
837 : suxen_drol 152 stop_global_timer();
838 :     write_timer();
839 :    
840 :     return XVID_ERR_OK;
841 :     }
842 :     #else
843 : edgomez 194 /*****************************************************************************
844 :     * Frame encoder entry point for IP capable encoder
845 :     ****************************************************************************/
846 :     int
847 :     encoder_encode(Encoder * pEnc,
848 : edgomez 195 XVID_ENC_FRAME * pFrame,
849 :     XVID_ENC_STATS * pResult)
850 : suxen_drol 152 {
851 :     uint16_t x, y;
852 :     Bitstream bs;
853 :     uint32_t bits;
854 : Isibaar 4 uint16_t write_vol_header = 0;
855 : edgomez 195
856 : Isibaar 113 #ifdef _DEBUG
857 :     float psnr;
858 : edgomez 194 uint8_t temp[128];
859 : Isibaar 113 #endif
860 : Isibaar 3
861 :     start_global_timer();
862 :    
863 : edgomez 13 ENC_CHECK(pEnc);
864 :     ENC_CHECK(pFrame);
865 :     ENC_CHECK(pFrame->bitstream);
866 :     ENC_CHECK(pFrame->image);
867 : Isibaar 3
868 : suxen_drol 136 SWAP(pEnc->current, pEnc->reference);
869 :    
870 :     pEnc->current->global_flags = pFrame->general;
871 :     pEnc->current->motion_flags = pFrame->motion;
872 : h 101 pEnc->mbParam.hint = &pFrame->hint;
873 : Isibaar 3
874 :     start_timer();
875 : edgomez 195 if (image_input
876 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
877 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
878 : Isibaar 3 return XVID_ERR_FORMAT;
879 :     stop_conv_timer();
880 :    
881 : Isibaar 113 #ifdef _DEBUG
882 : edgomez 195 image_copy(&pEnc->sOriginal, &pEnc->current->image,
883 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
884 : Isibaar 113 #endif
885 :    
886 : edgomez 198 emms();
887 : suxen_drol 136
888 : edgomez 13 BitstreamInit(&bs, pFrame->bitstream, 0);
889 : Isibaar 3
890 : edgomez 195 if (pFrame->quant == 0) {
891 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
892 :     } else {
893 : suxen_drol 136 pEnc->current->quant = pFrame->quant;
894 : Isibaar 3 }
895 :    
896 : edgomez 195 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
897 :     int *temp_dquants =
898 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
899 :     pEnc->mbParam.mb_height * sizeof(int),
900 :     CACHE_LINE);
901 :    
902 : edgomez 194 pEnc->current->quant =
903 :     adaptive_quantization(pEnc->current->image.y,
904 : edgomez 195 pEnc->mbParam.edged_width, temp_dquants,
905 :     pEnc->current->quant, pEnc->current->quant,
906 :     2 * pEnc->current->quant,
907 :     pEnc->mbParam.mb_width,
908 :     pEnc->mbParam.mb_height);
909 : edgomez 194
910 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
911 : edgomez 194
912 : edgomez 195 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
913 : edgomez 194
914 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
915 : edgomez 194
916 : edgomez 195
917 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
918 :    
919 :     pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
920 : Isibaar 3 }
921 : edgomez 194
922 : edgomez 195 #undef OFFSET
923 : edgomez 194 }
924 :    
925 : Isibaar 41 xvid_free(temp_dquants);
926 : Isibaar 3 }
927 :    
928 : edgomez 195 if (pEnc->current->global_flags & XVID_H263QUANT) {
929 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
930 : Isibaar 20 write_vol_header = 1;
931 : suxen_drol 136 pEnc->mbParam.m_quant_type = H263_QUANT;
932 : edgomez 195 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
933 : edgomez 194 int matrix1_changed, matrix2_changed;
934 : Isibaar 3
935 : edgomez 194 matrix1_changed = matrix2_changed = 0;
936 : edgomez 78
937 : edgomez 195 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
938 : Isibaar 20 write_vol_header = 1;
939 : edgomez 195
940 : suxen_drol 136 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
941 : edgomez 195
942 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
943 : edgomez 195 if (pFrame->quant_intra_matrix != NULL)
944 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
945 :     if (pFrame->quant_inter_matrix != NULL)
946 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
947 :     } else {
948 : edgomez 194 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
949 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
950 : Isibaar 20 }
951 : edgomez 195 if (write_vol_header == 0)
952 : edgomez 194 write_vol_header = matrix1_changed | matrix2_changed;
953 : Isibaar 4 }
954 : Isibaar 3
955 : edgomez 195 if (pFrame->intra < 0) {
956 :     if ((pEnc->iFrameNum == 0)
957 :     || ((pEnc->iMaxKeyInterval > 0)
958 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
959 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
960 :     } else {
961 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
962 : edgomez 194 }
963 : edgomez 195 } else {
964 :     if (pFrame->intra == 1) {
965 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
966 :     } else {
967 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
968 : edgomez 194 }
969 :    
970 : edgomez 13 }
971 : Isibaar 3
972 :     BitstreamPutBits(&bs, 0xFFFF, 16);
973 : edgomez 13 BitstreamPutBits(&bs, 0xFFFF, 16);
974 :     BitstreamPad(&bs);
975 :     pFrame->length = BitstreamLength(&bs);
976 : h 29
977 : edgomez 195 if (pResult) {
978 : suxen_drol 136 pResult->quant = pEnc->current->quant;
979 : Isibaar 3 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
980 :     pResult->kblks = pEnc->sStat.kblks;
981 :     pResult->mblks = pEnc->sStat.mblks;
982 :     pResult->ublks = pEnc->sStat.ublks;
983 : edgomez 13 }
984 : edgomez 195
985 : edgomez 198 emms();
986 : Isibaar 41
987 : edgomez 195 if (pFrame->quant == 0) {
988 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
989 :     pFrame->length, pFrame->intra);
990 : Isibaar 3 }
991 : Isibaar 113 #ifdef _DEBUG
992 : edgomez 195 psnr =
993 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
994 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
995 :     pEnc->mbParam.height);
996 : Isibaar 113
997 : edgomez 194 snprintf(temp, 127, "PSNR: %f\n", psnr);
998 : Isibaar 113 DEBUG(temp);
999 :     #endif
1000 :    
1001 : Isibaar 3 pEnc->iFrameNum++;
1002 : edgomez 195
1003 : Isibaar 3 stop_global_timer();
1004 :     write_timer();
1005 :    
1006 :     return XVID_ERR_OK;
1007 :     }
1008 : suxen_drol 152 #endif
1009 : Isibaar 3
1010 :    
1011 : edgomez 195 static __inline void
1012 :     CodeIntraMB(Encoder * pEnc,
1013 :     MACROBLOCK * pMB)
1014 :     {
1015 : Isibaar 3
1016 :     pMB->mode = MODE_INTRA;
1017 :    
1018 : suxen_drol 136 /* zero mv statistics */
1019 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1020 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1021 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1022 :     pMB->sad16 = 0;
1023 :    
1024 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1025 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1026 : Isibaar 3 pMB->mode = MODE_INTRA_Q;
1027 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1028 : edgomez 195
1029 :     if (pEnc->current->quant > 31)
1030 :     pEnc->current->quant = 31;
1031 :     if (pEnc->current->quant < 1)
1032 :     pEnc->current->quant = 1;
1033 : Isibaar 3 }
1034 :     }
1035 :    
1036 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1037 : Isibaar 3 }
1038 :    
1039 :    
1040 : h 101 #define FCODEBITS 3
1041 :     #define MODEBITS 5
1042 :    
1043 : edgomez 195 void
1044 :     HintedMESet(Encoder * pEnc,
1045 :     int *intra)
1046 : h 101 {
1047 : edgomez 195 HINTINFO *hint;
1048 : h 101 Bitstream bs;
1049 :     int length, high;
1050 :     uint32_t x, y;
1051 :    
1052 :     hint = pEnc->mbParam.hint;
1053 :    
1054 : edgomez 195 if (hint->rawhints) {
1055 : h 101 *intra = hint->mvhint.intra;
1056 : edgomez 195 } else {
1057 : h 101 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1058 :     *intra = BitstreamGetBit(&bs);
1059 :     }
1060 :    
1061 : edgomez 195 if (*intra) {
1062 : h 101 return;
1063 :     }
1064 :    
1065 : edgomez 195 pEnc->current->fcode =
1066 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1067 :     FCODEBITS);
1068 : h 101
1069 : edgomez 195 length = pEnc->current->fcode + 5;
1070 :     high = 1 << (length - 1);
1071 : h 101
1072 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1073 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1074 :     MACROBLOCK *pMB =
1075 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1076 :     MVBLOCKHINT *bhint =
1077 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1078 : h 101 VECTOR pred[4];
1079 :     VECTOR tmp;
1080 : edgomez 147 int32_t dummy[4];
1081 : h 101 int vec;
1082 :    
1083 : edgomez 195 pMB->mode =
1084 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1085 :     MODEBITS);
1086 : h 101
1087 : h 128 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1088 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1089 :    
1090 : edgomez 195 if (pMB->mode == MODE_INTER) {
1091 :     tmp.x =
1092 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1093 :     length);
1094 :     tmp.y =
1095 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1096 :     length);
1097 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1098 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1099 : h 101
1100 : edgomez 195 get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width,
1101 :     0, pred, dummy);
1102 : h 101
1103 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1104 :     pMB->mvs[vec].x = tmp.x;
1105 :     pMB->mvs[vec].y = tmp.y;
1106 : h 101 pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
1107 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
1108 :     }
1109 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1110 :     for (vec = 0; vec < 4; ++vec) {
1111 :     tmp.x =
1112 :     (hint->rawhints) ? bhint->mvs[vec].
1113 :     x : BitstreamGetBits(&bs, length);
1114 :     tmp.y =
1115 :     (hint->rawhints) ? bhint->mvs[vec].
1116 :     y : BitstreamGetBits(&bs, length);
1117 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1118 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1119 : h 101
1120 : edgomez 195 get_pmvdata(pEnc->current->mbs, x, y,
1121 :     pEnc->mbParam.mb_width, vec, pred, dummy);
1122 : h 101
1123 : edgomez 195 pMB->mvs[vec].x = tmp.x;
1124 :     pMB->mvs[vec].y = tmp.y;
1125 : h 101 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
1126 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
1127 :     }
1128 : edgomez 195 } else // intra / stuffing / not_coded
1129 : h 101 {
1130 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1131 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1132 : h 101 }
1133 :     }
1134 : h 128
1135 : suxen_drol 136 if (pMB->mode == MODE_INTER4V &&
1136 : edgomez 195 (pEnc->current->global_flags & XVID_LUMIMASKING)
1137 :     && pMB->dquant != NO_CHANGE) {
1138 : h 128 pMB->mode = MODE_INTRA;
1139 :    
1140 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1141 : h 128 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1142 :     }
1143 :     }
1144 : h 101 }
1145 :     }
1146 :     }
1147 :    
1148 :    
1149 : edgomez 195 void
1150 :     HintedMEGet(Encoder * pEnc,
1151 :     int intra)
1152 : h 101 {
1153 : edgomez 195 HINTINFO *hint;
1154 : h 101 Bitstream bs;
1155 :     uint32_t x, y;
1156 :     int length, high;
1157 :    
1158 :     hint = pEnc->mbParam.hint;
1159 :    
1160 : edgomez 195 if (hint->rawhints) {
1161 : h 101 hint->mvhint.intra = intra;
1162 : edgomez 195 } else {
1163 : h 101 BitstreamInit(&bs, hint->hintstream, 0);
1164 :     BitstreamPutBit(&bs, intra);
1165 :     }
1166 :    
1167 : edgomez 195 if (intra) {
1168 :     if (!hint->rawhints) {
1169 : h 101 BitstreamPad(&bs);
1170 :     hint->hintlength = BitstreamLength(&bs);
1171 :     }
1172 :     return;
1173 :     }
1174 :    
1175 : edgomez 195 length = pEnc->current->fcode + 5;
1176 :     high = 1 << (length - 1);
1177 : h 101
1178 : edgomez 195 if (hint->rawhints) {
1179 : suxen_drol 136 hint->mvhint.fcode = pEnc->current->fcode;
1180 : edgomez 195 } else {
1181 : suxen_drol 136 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1182 : h 101 }
1183 :    
1184 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1185 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1186 :     MACROBLOCK *pMB =
1187 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1188 :     MVBLOCKHINT *bhint =
1189 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1190 : h 101 VECTOR tmp;
1191 :    
1192 : edgomez 195 if (hint->rawhints) {
1193 : h 101 bhint->mode = pMB->mode;
1194 : edgomez 195 } else {
1195 : h 101 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1196 :     }
1197 :    
1198 : edgomez 195 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1199 :     tmp.x = pMB->mvs[0].x;
1200 :     tmp.y = pMB->mvs[0].y;
1201 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1202 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1203 : h 101
1204 : edgomez 195 if (hint->rawhints) {
1205 : h 101 bhint->mvs[0].x = tmp.x;
1206 :     bhint->mvs[0].y = tmp.y;
1207 : edgomez 195 } else {
1208 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1209 :     BitstreamPutBits(&bs, tmp.y, length);
1210 :     }
1211 : edgomez 195 } else if (pMB->mode == MODE_INTER4V) {
1212 : h 101 int vec;
1213 :    
1214 : edgomez 195 for (vec = 0; vec < 4; ++vec) {
1215 :     tmp.x = pMB->mvs[vec].x;
1216 :     tmp.y = pMB->mvs[vec].y;
1217 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1218 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1219 : h 101
1220 : edgomez 195 if (hint->rawhints) {
1221 : h 101 bhint->mvs[vec].x = tmp.x;
1222 :     bhint->mvs[vec].y = tmp.y;
1223 : edgomez 195 } else {
1224 : h 101 BitstreamPutBits(&bs, tmp.x, length);
1225 :     BitstreamPutBits(&bs, tmp.y, length);
1226 :     }
1227 :     }
1228 :     }
1229 :     }
1230 :     }
1231 :    
1232 : edgomez 195 if (!hint->rawhints) {
1233 : h 101 BitstreamPad(&bs);
1234 :     hint->hintlength = BitstreamLength(&bs);
1235 :     }
1236 :     }
1237 :    
1238 :    
1239 : edgomez 195 static int
1240 :     FrameCodeI(Encoder * pEnc,
1241 :     Bitstream * bs,
1242 :     uint32_t * pBits)
1243 : h 104 {
1244 :    
1245 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1246 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1247 : h 104
1248 :     uint16_t x, y;
1249 :    
1250 :     pEnc->iFrameNum = 0;
1251 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1;
1252 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1253 :     pEnc->current->coding_type = I_VOP;
1254 : h 104
1255 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1256 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);
1257 : h 104
1258 :     *pBits = BitstreamPos(bs);
1259 :    
1260 :     pEnc->sStat.iTextBits = 0;
1261 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1262 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1263 :    
1264 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1265 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1266 :     MACROBLOCK *pMB =
1267 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1268 : h 104
1269 :     CodeIntraMB(pEnc, pMB);
1270 :    
1271 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1272 :     dct_codes, qcoeff);
1273 : h 104
1274 :     start_timer();
1275 : suxen_drol 136 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1276 : h 104 stop_prediction_timer();
1277 :    
1278 :     start_timer();
1279 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1280 : h 104 stop_coding_timer();
1281 :     }
1282 :    
1283 :     emms();
1284 :    
1285 :     *pBits = BitstreamPos(bs) - *pBits;
1286 :     pEnc->sStat.fMvPrevSigma = -1;
1287 :     pEnc->sStat.iMvSum = 0;
1288 :     pEnc->sStat.iMvCount = 0;
1289 : suxen_drol 136 pEnc->mbParam.m_fcode = 2;
1290 : h 104
1291 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1292 : h 104 HintedMEGet(pEnc, 1);
1293 :     }
1294 :    
1295 : edgomez 195 return 1; // intra
1296 : h 104 }
1297 :    
1298 :    
1299 : Isibaar 3 #define INTRA_THRESHOLD 0.5
1300 :    
1301 : edgomez 195 static int
1302 :     FrameCodeP(Encoder * pEnc,
1303 :     Bitstream * bs,
1304 :     uint32_t * pBits,
1305 :     bool force_inter,
1306 :     bool vol_header)
1307 : Isibaar 3 {
1308 : edgomez 13 float fSigma;
1309 : Isibaar 42
1310 : edgomez 78 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1311 : edgomez 195 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1312 : edgomez 78
1313 : Isibaar 3 int iLimit;
1314 : edgomez 13 uint32_t x, y;
1315 :     int iSearchRange;
1316 : edgomez 145 int bIntra;
1317 : Isibaar 3
1318 : edgomez 145 /* IMAGE *pCurrent = &pEnc->current->image; */
1319 : suxen_drol 136 IMAGE *pRef = &pEnc->reference->image;
1320 : Isibaar 3
1321 : h 69 start_timer();
1322 : edgomez 195 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1323 :     pEnc->mbParam.width, pEnc->mbParam.height,
1324 :     pEnc->current->global_flags & XVID_INTERLACING);
1325 : h 69 stop_edges_timer();
1326 : Isibaar 3
1327 : suxen_drol 136 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1328 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1329 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1330 : Isibaar 3
1331 :     if (!force_inter)
1332 : edgomez 195 iLimit =
1333 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1334 :     INTRA_THRESHOLD);
1335 : edgomez 13 else
1336 : Isibaar 3 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1337 :    
1338 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1339 : Isibaar 3 start_timer();
1340 : edgomez 195 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1341 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1342 :     pEnc->mbParam.edged_height,
1343 :     pEnc->current->rounding_type);
1344 : Isibaar 3 stop_inter_timer();
1345 :     }
1346 :    
1347 :     start_timer();
1348 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1349 : h 101 HintedMESet(pEnc, &bIntra);
1350 : edgomez 195 } else {
1351 :     bIntra =
1352 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1353 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1354 :     iLimit);
1355 : h 101 }
1356 : Isibaar 3 stop_motion_timer();
1357 :    
1358 : edgomez 195 if (bIntra == 1) {
1359 : Isibaar 3 return FrameCodeI(pEnc, bs, pBits);
1360 : h 101 }
1361 : Isibaar 3
1362 : suxen_drol 136 pEnc->current->coding_type = P_VOP;
1363 : Isibaar 3
1364 : edgomez 195 if (vol_header)
1365 : suxen_drol 136 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1366 : Isibaar 3
1367 : suxen_drol 136 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current);
1368 : Isibaar 3
1369 : edgomez 13 *pBits = BitstreamPos(bs);
1370 : Isibaar 3
1371 : edgomez 13 pEnc->sStat.iTextBits = 0;
1372 :     pEnc->sStat.iMvSum = 0;
1373 :     pEnc->sStat.iMvCount = 0;
1374 : Isibaar 3 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1375 :    
1376 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1377 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1378 :     MACROBLOCK *pMB =
1379 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1380 : Isibaar 3
1381 : edgomez 13 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1382 : Isibaar 3
1383 : edgomez 195 if (!bIntra) {
1384 : Isibaar 3 start_timer();
1385 : edgomez 195 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1386 :     &pEnc->vInterH, &pEnc->vInterV,
1387 :     &pEnc->vInterHV, &pEnc->current->image,
1388 :     dct_codes, pEnc->mbParam.width,
1389 :     pEnc->mbParam.height,
1390 :     pEnc->mbParam.edged_width,
1391 :     pEnc->current->rounding_type);
1392 : Isibaar 3 stop_comp_timer();
1393 :    
1394 : suxen_drol 136 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1395 : edgomez 195 if (pMB->dquant != NO_CHANGE) {
1396 : Isibaar 3 pMB->mode = MODE_INTER_Q;
1397 : suxen_drol 136 pEnc->current->quant += DQtab[pMB->dquant];
1398 : edgomez 195 if (pEnc->current->quant > 31)
1399 :     pEnc->current->quant = 31;
1400 :     else if (pEnc->current->quant < 1)
1401 :     pEnc->current->quant = 1;
1402 : Isibaar 3 }
1403 :     }
1404 : suxen_drol 136 pMB->quant = pEnc->current->quant;
1405 : Isibaar 3
1406 : h 69 pMB->field_pred = 0;
1407 :    
1408 : edgomez 195 pMB->cbp =
1409 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1410 :     dct_codes, qcoeff);
1411 :     } else {
1412 : Isibaar 3 CodeIntraMB(pEnc, pMB);
1413 : edgomez 195 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1414 :     dct_codes, qcoeff);
1415 : Isibaar 3 }
1416 :    
1417 : edgomez 13 start_timer();
1418 : edgomez 195 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1419 : Isibaar 3 stop_prediction_timer();
1420 :    
1421 : edgomez 195 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1422 : Isibaar 3 pEnc->sStat.kblks++;
1423 : edgomez 195 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1424 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1425 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1426 : Isibaar 3 pEnc->sStat.mblks++;
1427 : edgomez 195 } else {
1428 : Isibaar 3 pEnc->sStat.ublks++;
1429 :     }
1430 :    
1431 :     start_timer();
1432 : suxen_drol 136 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1433 : Isibaar 3 stop_coding_timer();
1434 :     }
1435 :     }
1436 :    
1437 :     emms();
1438 :    
1439 : edgomez 195 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1440 : h 101 HintedMEGet(pEnc, 0);
1441 :     }
1442 :    
1443 : Isibaar 3 if (pEnc->sStat.iMvCount == 0)
1444 :     pEnc->sStat.iMvCount = 1;
1445 :    
1446 : edgomez 195 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1447 : Isibaar 3
1448 : suxen_drol 136 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1449 : Isibaar 3
1450 : edgomez 195 if ((fSigma > iSearchRange / 3)
1451 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1452 : edgomez 13 {
1453 : suxen_drol 136 pEnc->mbParam.m_fcode++;
1454 : Isibaar 3 iSearchRange *= 2;
1455 : edgomez 195 } else if ((fSigma < iSearchRange / 6)
1456 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1457 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1458 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1459 : edgomez 13 {
1460 : suxen_drol 136 pEnc->mbParam.m_fcode--;
1461 : Isibaar 3 iSearchRange /= 2;
1462 : edgomez 13 }
1463 : Isibaar 3
1464 : edgomez 13 pEnc->sStat.fMvPrevSigma = fSigma;
1465 : edgomez 195
1466 : Isibaar 3 *pBits = BitstreamPos(bs) - *pBits;
1467 :    
1468 : edgomez 195 return 0; // inter
1469 : Isibaar 3 }
1470 : suxen_drol 118
1471 :    
1472 : suxen_drol 152 #ifdef BFRAMES
1473 : edgomez 195 static void
1474 :     FrameCodeB(Encoder * pEnc,
1475 :     FRAMEINFO * frame,
1476 :     Bitstream * bs,
1477 :     uint32_t * pBits)
1478 : suxen_drol 118 {
1479 : edgomez 195 int16_t dct_codes[6 * 64];
1480 :     int16_t qcoeff[6 * 64];
1481 :     uint32_t x, y;
1482 : suxen_drol 118 VECTOR forward;
1483 :     VECTOR backward;
1484 :    
1485 : edgomez 195 IMAGE *f_ref = &pEnc->reference->image;
1486 : suxen_drol 118 IMAGE *b_ref = &pEnc->current->image;
1487 :    
1488 : suxen_drol 152 // forward
1489 : edgomez 195 image_setedges(f_ref, pEnc->mbParam.edged_width,
1490 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1491 :     pEnc->mbParam.height,
1492 :     frame->global_flags & XVID_INTERLACING);
1493 : suxen_drol 118 start_timer();
1494 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1495 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1496 :     0);
1497 : suxen_drol 118 stop_inter_timer();
1498 :    
1499 : suxen_drol 152 // backward
1500 : edgomez 195 image_setedges(b_ref, pEnc->mbParam.edged_width,
1501 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1502 :     pEnc->mbParam.height,
1503 :     frame->global_flags & XVID_INTERLACING);
1504 :     start_timer();
1505 : suxen_drol 118 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1506 : edgomez 195 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1507 :     0);
1508 : suxen_drol 118 stop_inter_timer();
1509 :    
1510 :     start_timer();
1511 : edgomez 195 MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1512 :     &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1513 :     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1514 :     &pEnc->vInterV, &pEnc->vInterHV);
1515 : suxen_drol 118
1516 : edgomez 195
1517 : suxen_drol 118 stop_motion_timer();
1518 : edgomez 195
1519 : suxen_drol 152 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1520 : edgomez 195 {
1521 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1522 :     } */
1523 : suxen_drol 118
1524 : edgomez 195 frame->coding_type = B_VOP;
1525 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame);
1526 : suxen_drol 118
1527 : edgomez 195 *pBits = BitstreamPos(bs);
1528 : suxen_drol 118
1529 : edgomez 195 pEnc->sStat.iTextBits = 0;
1530 :     pEnc->sStat.iMvSum = 0;
1531 :     pEnc->sStat.iMvCount = 0;
1532 : suxen_drol 118 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1533 :    
1534 :    
1535 : edgomez 195 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1536 : suxen_drol 118 // reset prediction
1537 :    
1538 :     forward.x = 0;
1539 :     forward.y = 0;
1540 :     backward.x = 0;
1541 :     backward.y = 0;
1542 :    
1543 : edgomez 195 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1544 :     MACROBLOCK *f_mb =
1545 :     &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1546 :     MACROBLOCK *b_mb =
1547 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1548 :     MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1549 : suxen_drol 118
1550 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1551 : edgomez 195 if (mb->mode == MODE_NOT_CODED) {
1552 : suxen_drol 118 mb->mvs[0].x = 0;
1553 :     mb->mvs[0].y = 0;
1554 :     continue;
1555 :     }
1556 :    
1557 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1558 : edgomez 195 f_ref, &pEnc->f_refh, &pEnc->f_refv,
1559 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1560 :     &pEnc->vInterV, &pEnc->vInterHV,
1561 :     dct_codes);
1562 :    
1563 : suxen_drol 118 mb->quant = frame->quant;
1564 : edgomez 195 mb->cbp =
1565 :     MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1566 :     qcoeff);
1567 : suxen_drol 118 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1568 :    
1569 :    
1570 : edgomez 195 if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1571 :     && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
1572 :     mb->mode = 5; // skipped
1573 : suxen_drol 118 }
1574 :    
1575 : edgomez 195 if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1576 : suxen_drol 118 mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1577 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1578 :     forward.x = mb->mvs[0].x;
1579 :     forward.y = mb->mvs[0].y;
1580 :     }
1581 : edgomez 195
1582 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1583 : suxen_drol 118 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1584 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1585 :     backward.x = mb->b_mvs[0].x;
1586 :     backward.y = mb->b_mvs[0].y;
1587 :     }
1588 : edgomez 195 // printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
1589 : suxen_drol 118
1590 : edgomez 195 start_timer();
1591 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1592 :     &pEnc->sStat);
1593 : suxen_drol 118 stop_coding_timer();
1594 :     }
1595 :     }
1596 :    
1597 :     emms();
1598 :    
1599 :     // TODO: dynamic fcode/bcode ???
1600 :    
1601 :     *pBits = BitstreamPos(bs) - *pBits;
1602 :     }
1603 : edgomez 188 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4