[svn] / trunk / vfw / src / codec.c Repository:
ViewVC logotype

Annotation of /trunk/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 980 - (view) (download)

1 : Isibaar 3 /**************************************************************************
2 :     *
3 :     * XVID VFW FRONTEND
4 :     * codec
5 :     *
6 :     * This program is free software; you can redistribute it and/or modify
7 :     * it under the terms of the GNU General Public License as published by
8 :     * the Free Software Foundation; either version 2 of the License, or
9 :     * (at your option) any later version.
10 :     *
11 :     * This program is distributed in the hope that it will be useful,
12 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
13 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
14 :     * GNU General Public License for more details.
15 :     *
16 :     * You should have received a copy of the GNU General Public License
17 :     * along with this program; if not, write to the Free Software
18 :     * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19 :     *
20 :     *************************************************************************/
21 :    
22 :     /**************************************************************************
23 :     *
24 :     * History:
25 :     *
26 : suxen_drol 295 * 12.07.2002 num_threads
27 : suxen_drol 235 * 23.06.2002 XVID_CPU_CHKONLY; loading speed up
28 : suxen_drol 137 * 25.04.2002 ICDECOMPRESS_PREROLL
29 : h 127 * 17.04.2002 re-enabled lumi masking for 1st pass
30 : h 121 * 15.04.2002 updated cbr support
31 : h 102 * 04.04.2002 separated 2-pass code to 2pass.c
32 :     * interlacing support
33 :     * hinted ME support
34 : h 61 * 23.03.2002 daniel smith <danielsmith@astroboymail.com>
35 :     * changed inter4v to only be in modes 5 or 6
36 :     * fixed null mode crash ?
37 :     * merged foxer's alternative 2-pass code
38 :     * added DEBUGERR output on errors instead of returning
39 : h 30 * 16.03.2002 daniel smith <danielsmith@astroboymail.com>
40 :     * changed BITMAPV4HEADER to BITMAPINFOHEADER
41 :     * - prevents memcpy crash in compress_get_format()
42 :     * credits are processed in external 2pass mode
43 :     * motion search precision = 0 now effective in 2-pass
44 :     * modulated quantization
45 :     * added DX50 fourcc
46 : suxen_drol 499 * 01.12.2001 inital version; (c)2001 peter ross <pross@xvid.org>
47 : Isibaar 3 *
48 :     *************************************************************************/
49 :    
50 :     #include <windows.h>
51 :     #include <vfw.h>
52 :    
53 :     #include "codec.h"
54 : h 102 #include "2pass.h"
55 : Isibaar 3
56 :     int pmvfast_presets[7] = {
57 : suxen_drol 858 0, PMV_QUICKSTOP16, 0, 0,
58 :     0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8,
59 :     0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8 |
60 :     PMV_ADVANCEDDIAMOND16, PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |
61 :     PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8 | PMV_USESQUARES16
62 : Isibaar 3 };
63 :    
64 :     /* return xvid compatbile colorspace,
65 :     or XVID_CSP_NULL if failure
66 :     */
67 :    
68 : h 30 int get_colorspace(BITMAPINFOHEADER * hdr)
69 : Isibaar 3 {
70 : suxen_drol 858 /* rgb only: negative height specifies top down image */
71 :     int rgb_flip = (hdr->biHeight < 0 ? 0 : XVID_CSP_VFLIP);
72 :    
73 : h 30 switch(hdr->biCompression)
74 : Isibaar 3 {
75 :     case BI_RGB :
76 : h 30 if (hdr->biBitCount == 16)
77 : Isibaar 3 {
78 :     DEBUG("RGB16 (RGB555)");
79 : suxen_drol 858 return rgb_flip | XVID_CSP_RGB555;
80 : Isibaar 3 }
81 : h 30 if (hdr->biBitCount == 24)
82 : Isibaar 3 {
83 :     DEBUG("RGB24");
84 : suxen_drol 858 return rgb_flip | XVID_CSP_RGB24;
85 : Isibaar 3 }
86 : h 30 if (hdr->biBitCount == 32)
87 : Isibaar 3 {
88 :     DEBUG("RGB32");
89 : suxen_drol 858 return rgb_flip | XVID_CSP_RGB32;
90 : Isibaar 3 }
91 :    
92 : suxen_drol 858 DEBUG1("unsupported BI_RGB biBitCount", hdr->biBitCount);
93 : Isibaar 3 return XVID_CSP_NULL;
94 :    
95 : suxen_drol 858 case BI_BITFIELDS :
96 :     if (hdr->biSize >= sizeof(BITMAPV4HEADER))
97 : Isibaar 3 {
98 : suxen_drol 858 BITMAPV4HEADER * hdr4 = (BITMAPV4HEADER *)hdr;
99 :    
100 :     if (hdr4->bV4BitCount == 16 &&
101 :     hdr4->bV4RedMask == 0x7c00 &&
102 :     hdr4->bV4GreenMask == 0x3e0 &&
103 :     hdr4->bV4BlueMask == 0x1f)
104 :     {
105 :     DEBUG("RGB555");
106 :     return rgb_flip | XVID_CSP_RGB555;
107 :     }
108 :    
109 :     if(hdr4->bV4BitCount == 16 &&
110 :     hdr4->bV4RedMask == 0xf800 &&
111 :     hdr4->bV4GreenMask == 0x7e0 &&
112 :     hdr4->bV4BlueMask == 0x1f)
113 :     {
114 :     DEBUG("RGB565");
115 :     return rgb_flip | XVID_CSP_RGB565;
116 :     }
117 :    
118 :     DEBUG("unsupported BI_BITFIELDS mode");
119 :     return XVID_CSP_NULL;
120 : Isibaar 3 }
121 :    
122 : suxen_drol 858 DEBUG("unsupported BI_BITFIELDS/BITMAPHEADER combination");
123 : Isibaar 3 return XVID_CSP_NULL;
124 : suxen_drol 858
125 :     case FOURCC_I420 :
126 :     case FOURCC_IYUV :
127 : Isibaar 3 DEBUG("IYUY");
128 :     return XVID_CSP_I420;
129 :    
130 :     case FOURCC_YV12 :
131 :     DEBUG("YV12");
132 :     return XVID_CSP_YV12;
133 : suxen_drol 858
134 : Isibaar 3 case FOURCC_YUYV :
135 :     case FOURCC_YUY2 :
136 :     DEBUG("YUY2");
137 :     return XVID_CSP_YUY2;
138 :    
139 : suxen_drol 858 case FOURCC_YVYU :
140 : Isibaar 3 DEBUG("YVYU");
141 :     return XVID_CSP_YVYU;
142 :    
143 : suxen_drol 858 case FOURCC_UYVY :
144 : Isibaar 3 DEBUG("UYVY");
145 :     return XVID_CSP_UYVY;
146 :    
147 : suxen_drol 858 default :
148 :     DEBUGFOURCC("unsupported colorspace", hdr->biCompression);
149 :     return XVID_CSP_NULL;
150 : Isibaar 3 }
151 :     }
152 :    
153 :    
154 :     /* compressor */
155 :    
156 :    
157 :     /* test the output format */
158 :    
159 :     LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
160 :     {
161 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
162 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
163 : Isibaar 3
164 :     if (get_colorspace(inhdr) == XVID_CSP_NULL)
165 :     {
166 :     return ICERR_BADFORMAT;
167 :     }
168 :    
169 :     if (lpbiOutput == NULL)
170 :     {
171 :     return ICERR_OK;
172 :     }
173 : h 30
174 :     if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||
175 : suxen_drol 858 (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX && outhdr->biCompression != FOURCC_DX50))
176 : Isibaar 3 {
177 :     return ICERR_BADFORMAT;
178 :     }
179 :    
180 :     return ICERR_OK;
181 :     }
182 :    
183 :    
184 :     LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
185 :     {
186 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
187 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
188 : Isibaar 3
189 : h 30 if (get_colorspace(inhdr) == XVID_CSP_NULL)
190 : Isibaar 3 {
191 : h 30 return ICERR_BADFORMAT;
192 : Isibaar 3 }
193 :    
194 :     if (lpbiOutput == NULL)
195 :     {
196 :     return sizeof(BITMAPV4HEADER);
197 :     }
198 :    
199 : h 30 memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
200 :     outhdr->biSize = sizeof(BITMAPINFOHEADER);
201 :     outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);
202 :     outhdr->biXPelsPerMeter = 0;
203 :     outhdr->biYPelsPerMeter = 0;
204 :     outhdr->biClrUsed = 0;
205 :     outhdr->biClrImportant = 0;
206 : Isibaar 3
207 :     if (codec->config.fourcc_used == 0)
208 :     {
209 : h 30 outhdr->biCompression = FOURCC_XVID;
210 : Isibaar 3 }
211 : h 30 else if (codec->config.fourcc_used == 1)
212 :     {
213 :     outhdr->biCompression = FOURCC_DIVX;
214 :     }
215 : Isibaar 3 else
216 :     {
217 : h 30 outhdr->biCompression = FOURCC_DX50;
218 : Isibaar 3 }
219 :    
220 :     return ICERR_OK;
221 :     }
222 :    
223 :    
224 :     LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
225 :     {
226 : suxen_drol 858 return 2 * lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;
227 : Isibaar 3 }
228 :    
229 :    
230 :     LRESULT compress_frames_info(CODEC * codec, ICCOMPRESSFRAMES * icf)
231 :     {
232 :     // DEBUG2("frate fscale", codec->frate, codec->fscale);
233 :     codec->fincr = icf->dwScale;
234 :     codec->fbase = icf->dwRate;
235 :     return ICERR_OK;
236 :     }
237 :    
238 :    
239 :     LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
240 :     {
241 :     XVID_ENC_PARAM param;
242 :     XVID_INIT_PARAM init_param;
243 :    
244 :     switch (codec->config.mode)
245 :     {
246 :     case DLG_MODE_CBR :
247 : h 121 param.rc_bitrate = codec->config.rc_bitrate;
248 :     param.rc_reaction_delay_factor = codec->config.rc_reaction_delay_factor;
249 :     param.rc_averaging_period = codec->config.rc_averaging_period;
250 :     param.rc_buffer = codec->config.rc_buffer;
251 : Isibaar 3 break;
252 :    
253 :     case DLG_MODE_VBR_QUAL :
254 :     codec->config.fquant = 0;
255 : h 121 param.rc_bitrate = 0;
256 : Isibaar 3 break;
257 :    
258 :     case DLG_MODE_VBR_QUANT :
259 :     codec->config.fquant = (float) codec->config.quant;
260 : h 121 param.rc_bitrate = 0;
261 : Isibaar 3 break;
262 :    
263 : h 61 case DLG_MODE_2PASS_1 :
264 :     case DLG_MODE_2PASS_2_INT :
265 :     case DLG_MODE_2PASS_2_EXT :
266 : h 121 param.rc_bitrate = 0;
267 : h 109 codec->twopass.max_framesize = (int)((double)codec->config.twopass_max_bitrate / 8.0 / ((double)codec->fbase / (double)codec->fincr));
268 : Isibaar 3 break;
269 :    
270 : h 61 case DLG_MODE_NULL :
271 :     return ICERR_OK;
272 :    
273 : Isibaar 3 default :
274 :     break;
275 :     }
276 :    
277 :     if(codec->ehandle)
278 :     {
279 :     xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
280 :     codec->ehandle = NULL;
281 :     }
282 :    
283 :     init_param.cpu_flags = codec->config.cpu;
284 :     xvid_init(0, 0, &init_param, NULL);
285 :     if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
286 :     codec->config.cpu = init_param.cpu_flags;
287 :    
288 : h 30 param.width = lpbiInput->bmiHeader.biWidth;
289 :     param.height = lpbiInput->bmiHeader.biHeight;
290 : Isibaar 3 param.fincr = codec->fincr;
291 :     param.fbase = codec->fbase;
292 :    
293 : h 30 param.min_quantizer = codec->config.min_pquant;
294 :     param.max_quantizer = codec->config.max_pquant;
295 : Isibaar 3 param.max_key_interval = codec->config.max_key_interval;
296 :    
297 : suxen_drol 295 #ifdef _SMP
298 :     param.num_threads = codec->config.num_threads;
299 :     #endif
300 :    
301 : suxen_drol 235 param.global = 0;
302 :     if (codec->config.packed) param.global |= XVID_GLOBAL_PACKED;
303 :     if (codec->config.dx50bvop) param.global |= XVID_GLOBAL_DX50BVOP;
304 :     if (codec->config.debug) param.global |= XVID_GLOBAL_DEBUG;
305 : suxen_drol 858 if (codec->config.reduced_resolution) param.global |= XVID_GLOBAL_REDUCED;
306 : suxen_drol 228 param.max_bframes = codec->config.max_bframes;
307 :     param.bquant_ratio = codec->config.bquant_ratio;
308 : suxen_drol 858 param.bquant_offset = codec->config.bquant_offset;
309 : suxen_drol 324 param.frame_drop_ratio = codec->config.frame_drop_ratio;
310 : suxen_drol 228
311 : Isibaar 3 switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))
312 :     {
313 :     case XVID_ERR_FAIL :
314 :     return ICERR_ERROR;
315 :    
316 :     case XVID_ERR_MEMORY :
317 :     return ICERR_MEMORY;
318 :    
319 :     case XVID_ERR_FORMAT :
320 :     return ICERR_BADFORMAT;
321 :     }
322 :    
323 :     codec->ehandle = param.handle;
324 :     codec->framenum = 0;
325 :     codec->keyspacing = 0;
326 :    
327 : h 102 codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
328 :     codec->twopass.hintstream = NULL;
329 : Isibaar 3
330 :     return ICERR_OK;
331 :     }
332 :    
333 :    
334 :     LRESULT compress_end(CODEC * codec)
335 :     {
336 :     if (codec->ehandle != NULL)
337 :     {
338 :     xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
339 : h 102
340 :     if (codec->twopass.hints != INVALID_HANDLE_VALUE)
341 :     {
342 :     CloseHandle(codec->twopass.hints);
343 :     }
344 : Isibaar 3 if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
345 :     {
346 :     CloseHandle(codec->twopass.stats1);
347 :     }
348 :     if (codec->twopass.stats2 != INVALID_HANDLE_VALUE)
349 :     {
350 :     CloseHandle(codec->twopass.stats2);
351 :     }
352 : h 102 if (codec->twopass.hintstream != NULL)
353 :     {
354 :     free(codec->twopass.hintstream);
355 :     }
356 :    
357 : Isibaar 3 codec->ehandle = NULL;
358 : h 105
359 :     codec_2pass_finish(codec);
360 : Isibaar 3 }
361 :    
362 :     return ICERR_OK;
363 :     }
364 :    
365 :    
366 :     LRESULT compress(CODEC * codec, ICCOMPRESS * icc)
367 :     {
368 : h 30 BITMAPINFOHEADER * inhdr = icc->lpbiInput;
369 :     BITMAPINFOHEADER * outhdr = icc->lpbiOutput;
370 : Isibaar 3 XVID_ENC_FRAME frame;
371 :     XVID_ENC_STATS stats;
372 :    
373 :     // mpeg2avi yuv bug workaround (2 instances of CODEC)
374 :     if (codec->twopass.stats1 == INVALID_HANDLE_VALUE)
375 :     {
376 :     if (codec_2pass_init(codec) == ICERR_ERROR)
377 :     {
378 :     return ICERR_ERROR;
379 :     }
380 :     }
381 :    
382 :     frame.general = 0;
383 :     frame.motion = 0;
384 : h 30 frame.intra = -1;
385 : Isibaar 3
386 :     frame.general |= XVID_HALFPEL;
387 : Isibaar 364 // frame.general |= XVID_ME_EPZS;
388 : Isibaar 3
389 : suxen_drol 858 frame.general |= XVID_HQACPRED;
390 : Isibaar 364
391 : Isibaar 968 frame.bframe_threshold = 255;
392 :    
393 : h 127 if (codec->config.motion_search > 4)
394 : Isibaar 3 frame.general |= XVID_INTER4V;
395 :    
396 : h 127 if (codec->config.lum_masking)
397 : Isibaar 3 frame.general |= XVID_LUMIMASKING;
398 :    
399 : h 102 if (codec->config.interlacing)
400 : Isibaar 364 frame.general |= XVID_INTERLACING;
401 : chl 355
402 : suxen_drol 858 if (codec->config.qpel) {
403 :     frame.general |= XVID_QUARTERPEL;
404 :     frame.motion |= PMV_QUARTERPELREFINE16 | PMV_QUARTERPELREFINE8;
405 :     }
406 : Isibaar 364
407 : suxen_drol 858 if (codec->config.gmc)
408 :     frame.general |= XVID_GMC;
409 : Isibaar 364
410 : suxen_drol 858 if (codec->config.chromame)
411 :     frame.motion |= PMV_CHROMA16 + PMV_CHROMA8;
412 :    
413 :     if (codec->config.reduced_resolution)
414 :     frame.general |= XVID_REDUCED;
415 :    
416 :     if (codec->config.chroma_opt)
417 :     frame.general |= XVID_CHROMAOPT;
418 : Isibaar 364 // added by koepi for credits greyscale
419 :    
420 :     check_greyscale_mode(&codec->config, &frame, codec->framenum);
421 :    
422 :     // end of koepi's addition
423 :    
424 :    
425 : Isibaar 176 // fix 1pass modes/hinted MV by koepi
426 :     if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_CBR || codec->config.mode == DLG_MODE_VBR_QUAL || codec->config.mode == DLG_MODE_VBR_QUANT))
427 :     {
428 :     codec->config.hinted_me = 0;
429 :     }
430 :     // end of ugly hack
431 : h 102
432 :     if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
433 :     {
434 :     frame.hint.hintstream = codec->twopass.hintstream;
435 :     frame.hint.rawhints = 0;
436 :     frame.general |= XVID_HINTEDME_GET;
437 :     }
438 : h 103 else if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT))
439 : h 102 {
440 :     DWORD read;
441 :     DWORD blocksize;
442 :    
443 :     frame.hint.hintstream = codec->twopass.hintstream;
444 :     frame.hint.rawhints = 0;
445 :     frame.general |= XVID_HINTEDME_SET;
446 :    
447 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
448 :     {
449 :     codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
450 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
451 :     {
452 :     DEBUGERR("couldn't open hints file");
453 :     return ICERR_ERROR;
454 :     }
455 :     }
456 :     if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
457 :     !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
458 :     {
459 :     DEBUGERR("couldn't read from hints file");
460 :     return ICERR_ERROR;
461 :     }
462 :     }
463 :    
464 : suxen_drol 858 frame.motion |= pmvfast_presets[codec->config.motion_search];
465 : h 30
466 : suxen_drol 858 switch (codec->config.vhq_mode)
467 :     {
468 :     case VHQ_MODE_DECISION :
469 :     frame.general |= XVID_MODEDECISION_BITS;
470 :     break;
471 :    
472 :     case VHQ_LIMITED_SEARCH :
473 :     frame.general |= XVID_MODEDECISION_BITS;
474 :     frame.motion |= HALFPELREFINE16_BITS;
475 :     frame.motion |= QUARTERPELREFINE16_BITS;
476 :     break;
477 :    
478 :     case VHQ_MEDIUM_SEARCH :
479 :     frame.general |= XVID_MODEDECISION_BITS;
480 :     frame.motion |= HALFPELREFINE16_BITS;
481 :     frame.motion |= HALFPELREFINE8_BITS;
482 :     frame.motion |= QUARTERPELREFINE16_BITS;
483 :     frame.motion |= QUARTERPELREFINE8_BITS;
484 :     frame.motion |= CHECKPREDICTION_BITS;
485 :     break;
486 :    
487 :     case VHQ_WIDE_SEARCH :
488 :     frame.general |= XVID_MODEDECISION_BITS;
489 :     frame.motion |= HALFPELREFINE16_BITS;
490 :     frame.motion |= HALFPELREFINE8_BITS;
491 :     frame.motion |= QUARTERPELREFINE16_BITS;
492 :     frame.motion |= QUARTERPELREFINE8_BITS;
493 :     frame.motion |= CHECKPREDICTION_BITS;
494 :     frame.motion |= EXTSEARCH_BITS;
495 :     break;
496 :    
497 :     default :
498 :     break;
499 :     }
500 :    
501 : Isibaar 3 frame.image = icc->lpInput;
502 : suxen_drol 858 frame.stride = (((icc->lpbiInput->biWidth * icc->lpbiInput->biBitCount) + 31) & ~31) >> 3;
503 : Isibaar 3
504 : h 30 if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)
505 : Isibaar 3 return ICERR_BADFORMAT;
506 :    
507 : suxen_drol 858 if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
508 :     frame.stride = (frame.stride*2)/3;
509 :    
510 : Isibaar 3 frame.bitstream = icc->lpOutput;
511 :     frame.length = icc->lpbiOutput->biSizeImage;
512 :    
513 :     switch (codec->config.mode)
514 :     {
515 :     case DLG_MODE_CBR :
516 :     frame.quant = 0;
517 :     break;
518 :    
519 :     case DLG_MODE_VBR_QUAL :
520 :     case DLG_MODE_VBR_QUANT :
521 :     case DLG_MODE_2PASS_1 :
522 :     if (codec_get_quant(codec, &frame) == ICERR_ERROR)
523 :     {
524 :     return ICERR_ERROR;
525 :     }
526 :     break;
527 :    
528 :     case DLG_MODE_2PASS_2_EXT :
529 :     case DLG_MODE_2PASS_2_INT :
530 :     if (codec_2pass_get_quant(codec, &frame) == ICERR_ERROR)
531 :     {
532 :     return ICERR_ERROR;
533 :     }
534 :     if (codec->config.dummy2pass)
535 :     {
536 : h 30 outhdr->biSizeImage = codec->twopass.bytes2;
537 : Isibaar 3 *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;
538 :     return ICERR_OK;
539 :     }
540 :     break;
541 :    
542 :     case DLG_MODE_NULL :
543 : h 30 outhdr->biSizeImage = 0;
544 : Isibaar 3 *icc->lpdwFlags = AVIIF_KEYFRAME;
545 :     return ICERR_OK;
546 :    
547 :     default :
548 : h 61 DEBUGERR("Invalid encoding mode");
549 : Isibaar 3 return ICERR_ERROR;
550 :     }
551 :    
552 : h 30 if (codec->config.quant_type == QUANT_MODE_H263)
553 : Isibaar 3 {
554 : h 30 frame.general |= XVID_H263QUANT;
555 :     }
556 :     else
557 :     {
558 :     frame.general |= XVID_MPEGQUANT;
559 :    
560 :     // we actually need "default/custom" selectbox for both inter/intra
561 :     // this will do for now
562 :     if (codec->config.quant_type == QUANT_MODE_CUSTOM)
563 :     {
564 :     frame.general |= XVID_CUSTOM_QMATRIX;
565 :     frame.quant_intra_matrix = codec->config.qmatrix_intra;
566 :     frame.quant_inter_matrix = codec->config.qmatrix_inter;
567 :     }
568 :     else
569 :     {
570 :     frame.quant_intra_matrix = NULL;
571 :     frame.quant_inter_matrix = NULL;
572 :     }
573 :     }
574 :    
575 :     // force keyframe spacing in 2-pass 1st pass
576 :     if (codec->config.motion_search == 0)
577 :     {
578 :     frame.intra = 1;
579 :     }
580 : h 109 else if (codec->keyspacing < codec->config.min_key_interval && codec->framenum)
581 : h 30 {
582 : Isibaar 3 DEBUG("current frame forced to p-frame");
583 :     frame.intra = 0;
584 :     }
585 :    
586 : suxen_drol 278 frame.bquant = 0;
587 : syskin 980 frame.bframe_threshold = 0;
588 : suxen_drol 278
589 : suxen_drol 324 // OutputDebugString(" ");
590 : Isibaar 3 switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))
591 :     {
592 :     case XVID_ERR_FAIL :
593 :     return ICERR_ERROR;
594 :    
595 :     case XVID_ERR_MEMORY :
596 :     return ICERR_MEMORY;
597 :    
598 :     case XVID_ERR_FORMAT :
599 :     return ICERR_BADFORMAT;
600 :     }
601 :    
602 : suxen_drol 858 if (frame.intra==1)
603 : Isibaar 3 {
604 :     codec->keyspacing = 0;
605 :     *icc->lpdwFlags = AVIIF_KEYFRAME;
606 :     }
607 :     else
608 :     {
609 :     *icc->lpdwFlags = 0;
610 :     }
611 : syskin 901 if (frame.length == 0) { frame.length = 1; *((unsigned char*)frame.bitstream) = 0x7f; }
612 : Isibaar 3
613 : h 30 outhdr->biSizeImage = frame.length;
614 : Isibaar 3
615 : h 30 if (codec->config.mode == DLG_MODE_2PASS_1 && codec->config.discard1pass)
616 : Isibaar 3 {
617 : h 30 outhdr->biSizeImage = 0;
618 : Isibaar 3 }
619 :    
620 : h 102 if (frame.general & XVID_HINTEDME_GET)
621 :     {
622 :     DWORD wrote;
623 :     DWORD blocksize = frame.hint.hintlength;
624 :    
625 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
626 :     {
627 :     codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
628 : suxen_drol 228 if (codec->twopass.hints == INVALID_HANDLE_VALUE)
629 : h 102 {
630 :     DEBUGERR("couldn't create hints file");
631 :     return ICERR_ERROR;
632 :     }
633 :     }
634 :     if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
635 :     !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
636 :     {
637 :     DEBUGERR("couldn't write to hints file");
638 :     return ICERR_ERROR;
639 :     }
640 :     }
641 :    
642 : suxen_drol 858 //quick fix for delayed frames
643 :     // if (frame.intra != 5)
644 :     codec_2pass_update(codec, &frame, &stats);
645 : Isibaar 3
646 :     ++codec->framenum;
647 :     ++codec->keyspacing;
648 :    
649 :     return ICERR_OK;
650 :     }
651 :    
652 :    
653 :     /* decompressor */
654 :    
655 :    
656 :     LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)
657 :     {
658 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
659 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
660 : Isibaar 3
661 :     if (lpbiInput == NULL)
662 :     {
663 :     return ICERR_ERROR;
664 :     }
665 :    
666 : suxen_drol 858 if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX && inhdr->biCompression != FOURCC_DX50 && get_colorspace(inhdr) == XVID_CSP_NULL)
667 : Isibaar 3 {
668 :     return ICERR_BADFORMAT;
669 :     }
670 :    
671 :     if (lpbiOutput == NULL)
672 :     {
673 :     return ICERR_OK;
674 :     }
675 :    
676 : h 30 if (inhdr->biWidth != outhdr->biWidth ||
677 :     inhdr->biHeight != outhdr->biHeight ||
678 : Isibaar 3 get_colorspace(outhdr) == XVID_CSP_NULL)
679 :     {
680 :     return ICERR_BADFORMAT;
681 :     }
682 :    
683 :     return ICERR_OK;
684 :     }
685 :    
686 :    
687 :     LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
688 :     {
689 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
690 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
691 : Isibaar 3 LRESULT result;
692 :    
693 :     if (lpbiOutput == NULL)
694 :     {
695 : h 30 return sizeof(BITMAPINFOHEADER);
696 : Isibaar 3 }
697 :    
698 : suxen_drol 858 /* --- yv12 --- */
699 :    
700 :     if (get_colorspace(inhdr) != XVID_CSP_NULL) {
701 :     memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
702 :     // XXX: should we set outhdr->biSize ??
703 :     return ICERR_OK;
704 :     }
705 :     /* --- yv12 --- */
706 :    
707 :     result = decompress_query(codec, lpbiInput, NULL);
708 : Isibaar 3 if (result != ICERR_OK)
709 :     {
710 :     return result;
711 :     }
712 :    
713 : h 30 outhdr->biSize = sizeof(BITMAPINFOHEADER);
714 : suxen_drol 858 outhdr->biWidth = inhdr->biWidth;
715 :     outhdr->biHeight = inhdr->biHeight;
716 :     outhdr->biPlanes = 1;
717 :     outhdr->biBitCount = 24;
718 :     outhdr->biCompression = BI_RGB; /* sonic foundry vegas video v3 only supports BI_RGB */
719 : h 30 outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;
720 :     outhdr->biXPelsPerMeter = 0;
721 :     outhdr->biYPelsPerMeter = 0;
722 :     outhdr->biClrUsed = 0;
723 :     outhdr->biClrImportant = 0;
724 : Isibaar 3
725 :     return ICERR_OK;
726 :     }
727 :    
728 :    
729 :     LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
730 :     {
731 :     XVID_DEC_PARAM param;
732 :     XVID_INIT_PARAM init_param;
733 :    
734 :     init_param.cpu_flags = codec->config.cpu;
735 :     xvid_init(0, 0, &init_param, NULL);
736 :     if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
737 :     {
738 :     codec->config.cpu = init_param.cpu_flags;
739 :     }
740 :    
741 : h 30 param.width = lpbiInput->bmiHeader.biWidth;
742 :     param.height = lpbiInput->bmiHeader.biHeight;
743 : Isibaar 3
744 :     switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))
745 :     {
746 :     case XVID_ERR_FAIL :
747 :     return ICERR_ERROR;
748 :    
749 :     case XVID_ERR_MEMORY :
750 :     return ICERR_MEMORY;
751 :    
752 :     case XVID_ERR_FORMAT :
753 :     return ICERR_BADFORMAT;
754 :     }
755 :    
756 :     codec->dhandle = param.handle;
757 :    
758 :     return ICERR_OK;
759 :     }
760 :    
761 :    
762 :     LRESULT decompress_end(CODEC * codec)
763 :     {
764 :     if (codec->dhandle != NULL)
765 :     {
766 :     xvid_decore(codec->dhandle, XVID_DEC_DESTROY, NULL, NULL);
767 :     codec->dhandle = NULL;
768 :     }
769 :     return ICERR_OK;
770 :     }
771 :    
772 :    
773 :     LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)
774 :     {
775 :     XVID_DEC_FRAME frame;
776 :    
777 :     frame.bitstream = icd->lpInput;
778 :     frame.length = icd->lpbiInput->biSizeImage;
779 : suxen_drol 858 frame.general = XVID_DEC_LOWDELAY; /* force low_delay_default mode */
780 :     if (codec->config.deblock_y)
781 :     frame.general |= XVID_DEC_DEBLOCKY;
782 :     if (codec->config.deblock_uv)
783 :     frame.general |= XVID_DEC_DEBLOCKUV;
784 : Isibaar 3
785 :     frame.image = icd->lpOutput;
786 : suxen_drol 858 frame.stride = (((icd->lpbiOutput->biWidth * icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
787 : Isibaar 3
788 : suxen_drol 858 /* --- yv12 --- */
789 :     if (icd->lpbiInput->biCompression != FOURCC_XVID &&
790 :     icd->lpbiInput->biCompression != FOURCC_DIVX &&
791 :     icd->lpbiInput->biCompression != FOURCC_DX50)
792 :     {
793 :     XVID_INIT_CONVERTINFO convert;
794 :     DEBUGFOURCC("input", icd->lpbiInput->biCompression);
795 :     DEBUGFOURCC("output", icd->lpbiOutput->biCompression);
796 :     convert.input.colorspace = get_colorspace(icd->lpbiInput);
797 :     convert.input.y = icd->lpInput;
798 :     convert.input.y_stride = (((icd->lpbiInput->biWidth *icd->lpbiInput->biBitCount) + 31) & ~31) >> 3;
799 :     if (convert.input.colorspace == XVID_CSP_I420 || convert.input.colorspace == XVID_CSP_YV12)
800 :     convert.input.y_stride = (convert.input.y_stride*2)/3;
801 :    
802 :     convert.output.colorspace = get_colorspace(icd->lpbiOutput);
803 :     convert.output.y = icd->lpOutput;
804 :     convert.output.y_stride = (((icd->lpbiOutput->biWidth *icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
805 :     if (convert.output.colorspace == XVID_CSP_I420 || convert.output.colorspace == XVID_CSP_YV12)
806 :     convert.output.y_stride = (convert.output.y_stride*2)/3;
807 :    
808 :     convert.width = icd->lpbiInput->biWidth;
809 :     convert.height = icd->lpbiInput->biHeight;
810 :     convert.interlacing = 0;
811 :     if (convert.input.colorspace == XVID_CSP_NULL ||
812 :     convert.output.colorspace == XVID_CSP_NULL ||
813 :     xvid_init(NULL, XVID_INIT_CONVERT, &convert, NULL) != XVID_ERR_OK)
814 :     {
815 :     return ICERR_BADFORMAT;
816 :     }
817 :     return ICERR_OK;
818 :     }
819 :     /* --- yv12 --- */
820 :    
821 :    
822 : suxen_drol 137 if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE) | (icd->dwFlags & ICDECOMPRESS_PREROLL)))
823 : Isibaar 3 {
824 : h 30 if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)
825 : Isibaar 3 {
826 :     return ICERR_BADFORMAT;
827 :     }
828 :     }
829 :     else
830 :     {
831 :     frame.colorspace = XVID_CSP_NULL;
832 :     }
833 :    
834 : suxen_drol 858 if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
835 :     frame.stride = (frame.stride*2)/3;
836 :    
837 : Isibaar 3 switch (xvid_decore(codec->dhandle, XVID_DEC_DECODE, &frame, NULL))
838 :     {
839 :     case XVID_ERR_FAIL :
840 :     return ICERR_ERROR;
841 :    
842 :     case XVID_ERR_MEMORY :
843 :     return ICERR_MEMORY;
844 :    
845 :     case XVID_ERR_FORMAT :
846 :     return ICERR_BADFORMAT;
847 :     }
848 :    
849 :     return ICERR_OK;
850 :     }
851 :    
852 :     int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
853 :     {
854 :     switch (codec->config.mode)
855 :     {
856 :     case DLG_MODE_VBR_QUAL :
857 :     if (codec_is_in_credits(&codec->config, codec->framenum))
858 :     {
859 : Isibaar 364 // added by koepi for credits greyscale
860 :    
861 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
862 :    
863 :     // end of koepi's addition
864 :    
865 : Isibaar 3 switch (codec->config.credits_mode)
866 :     {
867 :     case CREDITS_MODE_RATE :
868 :     frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);
869 :     break;
870 :    
871 :     case CREDITS_MODE_QUANT :
872 :     frame->quant = codec->config.credits_quant_p;
873 :     break;
874 :    
875 :     default :
876 : h 61 DEBUGERR("Can't use credits size mode in quality mode");
877 : Isibaar 3 return ICERR_ERROR;
878 :     }
879 :     }
880 :     else
881 :     {
882 : Isibaar 364 // added by koepi for credits greyscale
883 :    
884 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
885 :    
886 :     // end of koepi's addition
887 :    
888 : Isibaar 3 frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);
889 :     }
890 :     return ICERR_OK;
891 :    
892 :     case DLG_MODE_VBR_QUANT :
893 :     if (codec_is_in_credits(&codec->config, codec->framenum))
894 :     {
895 : Isibaar 364 // added by koepi for credits greyscale
896 :    
897 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
898 :    
899 :     // end of koepi's addition
900 :    
901 : Isibaar 3 switch (codec->config.credits_mode)
902 :     {
903 :     case CREDITS_MODE_RATE :
904 :     frame->quant =
905 : h 30 codec->config.max_pquant -
906 :     ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);
907 : Isibaar 3 break;
908 :    
909 :     case CREDITS_MODE_QUANT :
910 :     frame->quant = codec->config.credits_quant_p;
911 :     break;
912 :    
913 :     default :
914 : h 61 DEBUGERR("Can't use credits size mode in quantizer mode");
915 : Isibaar 3 return ICERR_ERROR;
916 :     }
917 :     }
918 :     else
919 :     {
920 : Isibaar 364 // added by koepi for credits greyscale
921 :    
922 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
923 :    
924 :     // end of koepi's addition
925 :    
926 : Isibaar 3 frame->quant = codec->config.quant;
927 :     }
928 :     return ICERR_OK;
929 :    
930 :     case DLG_MODE_2PASS_1 :
931 : Isibaar 364 // added by koepi for credits greyscale
932 :    
933 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
934 :    
935 :     // end of koepi's addition
936 :    
937 : Isibaar 3 if (codec->config.credits_mode == CREDITS_MODE_QUANT)
938 :     {
939 :     if (codec_is_in_credits(&codec->config, codec->framenum))
940 :     {
941 :     frame->quant = codec->config.credits_quant_p;
942 :     }
943 :     else
944 :     {
945 :     frame->quant = 2;
946 :     }
947 :     }
948 :     else
949 :     {
950 :     frame->quant = 2;
951 :     }
952 :     return ICERR_OK;
953 :    
954 :     default:
955 : h 61 DEBUGERR("get quant: invalid mode");
956 : Isibaar 3 return ICERR_ERROR;
957 :     }
958 :     }
959 :    
960 :    
961 :     int codec_is_in_credits(CONFIG* config, int framenum)
962 :     {
963 :     if (config->credits_start)
964 :     {
965 :     if (framenum >= config->credits_start_begin &&
966 :     framenum <= config->credits_start_end)
967 :     {
968 :     return CREDITS_START;
969 :     }
970 :     }
971 :    
972 :     if (config->credits_end)
973 :     {
974 :     if (framenum >= config->credits_end_begin &&
975 :     framenum <= config->credits_end_end)
976 :     {
977 :     return CREDITS_END;
978 :     }
979 :     }
980 :    
981 :     return 0;
982 :     }
983 :    
984 :    
985 :     int codec_get_vbr_quant(CONFIG* config, int quality)
986 :     {
987 :     static float fquant_running = 0;
988 :     static int my_quality = -1;
989 :     int quant;
990 :    
991 :     // if quality changes, recalculate fquant (credits)
992 :     if (quality != my_quality)
993 :     {
994 :     config->fquant = 0;
995 :     }
996 :    
997 :     my_quality = quality;
998 :    
999 :     // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ
1000 :     if (!config->fquant)
1001 :     {
1002 :     config->fquant =
1003 : h 30 ((float) (config->max_pquant - config->min_pquant) / 100) *
1004 : Isibaar 3 (100 - quality) +
1005 : h 30 (float) config->min_pquant;
1006 : Isibaar 3
1007 :     fquant_running = config->fquant;
1008 :     }
1009 :    
1010 : h 30 if (fquant_running < config->min_pquant)
1011 : Isibaar 3 {
1012 : h 30 fquant_running = (float) config->min_pquant;
1013 : Isibaar 3 }
1014 : h 30 else if(fquant_running > config->max_pquant)
1015 : Isibaar 3 {
1016 : h 30 fquant_running = (float) config->max_pquant;
1017 : Isibaar 3 }
1018 :    
1019 :     quant = (int) fquant_running;
1020 :    
1021 :     // add error between fquant and quant to fquant_running
1022 :     fquant_running += config->fquant - quant;
1023 :    
1024 :     return quant;
1025 :     }
1026 :    
1027 : Isibaar 364 // added by koepi for credits greyscale
1028 :    
1029 :     int check_greyscale_mode(CONFIG* config, XVID_ENC_FRAME* frame, int framenum)
1030 :    
1031 :     {
1032 :    
1033 :     if ((codec_is_in_credits(config, framenum)) && (config->mode!=DLG_MODE_CBR))
1034 :    
1035 :     {
1036 :    
1037 :     if (config->credits_greyscale)
1038 :    
1039 :     {
1040 :    
1041 :     if ((frame->general && XVID_GREYSCALE)) // use only if not already in greyscale
1042 :    
1043 :     frame->general |= XVID_GREYSCALE;
1044 :    
1045 :     } else {
1046 :    
1047 :     if (!(frame->general && XVID_GREYSCALE)) // if movie is in greyscale, switch back
1048 :    
1049 :     frame->general |= XVID_GREYSCALE;
1050 :    
1051 :     }
1052 :    
1053 :     } else {
1054 :    
1055 :     if (config->greyscale)
1056 :    
1057 :     {
1058 :    
1059 :     if ((frame->general && XVID_GREYSCALE)) // use only if not already in greyscale
1060 :    
1061 :     frame->general |= XVID_GREYSCALE;
1062 :    
1063 :     } else {
1064 :    
1065 :     if (!(frame->general && XVID_GREYSCALE)) // if credits is in greyscale, switch back
1066 :    
1067 :     frame->general |= XVID_GREYSCALE;
1068 :    
1069 :     }
1070 :    
1071 :     }
1072 :    
1073 :     return 0;
1074 :    
1075 :     }
1076 :    
1077 :     // end of koepi's addition
1078 :    

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4