[svn] / trunk / vfw / src / codec.c Repository:
ViewVC logotype

Annotation of /trunk/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 968 - (view) (download)

1 : Isibaar 3 /**************************************************************************
2 :     *
3 :     * XVID VFW FRONTEND
4 :     * codec
5 :     *
6 :     * This program is free software; you can redistribute it and/or modify
7 :     * it under the terms of the GNU General Public License as published by
8 :     * the Free Software Foundation; either version 2 of the License, or
9 :     * (at your option) any later version.
10 :     *
11 :     * This program is distributed in the hope that it will be useful,
12 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
13 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
14 :     * GNU General Public License for more details.
15 :     *
16 :     * You should have received a copy of the GNU General Public License
17 :     * along with this program; if not, write to the Free Software
18 :     * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19 :     *
20 :     *************************************************************************/
21 :    
22 :     /**************************************************************************
23 :     *
24 :     * History:
25 :     *
26 : suxen_drol 295 * 12.07.2002 num_threads
27 : suxen_drol 235 * 23.06.2002 XVID_CPU_CHKONLY; loading speed up
28 : suxen_drol 137 * 25.04.2002 ICDECOMPRESS_PREROLL
29 : h 127 * 17.04.2002 re-enabled lumi masking for 1st pass
30 : h 121 * 15.04.2002 updated cbr support
31 : h 102 * 04.04.2002 separated 2-pass code to 2pass.c
32 :     * interlacing support
33 :     * hinted ME support
34 : h 61 * 23.03.2002 daniel smith <danielsmith@astroboymail.com>
35 :     * changed inter4v to only be in modes 5 or 6
36 :     * fixed null mode crash ?
37 :     * merged foxer's alternative 2-pass code
38 :     * added DEBUGERR output on errors instead of returning
39 : h 30 * 16.03.2002 daniel smith <danielsmith@astroboymail.com>
40 :     * changed BITMAPV4HEADER to BITMAPINFOHEADER
41 :     * - prevents memcpy crash in compress_get_format()
42 :     * credits are processed in external 2pass mode
43 :     * motion search precision = 0 now effective in 2-pass
44 :     * modulated quantization
45 :     * added DX50 fourcc
46 : suxen_drol 499 * 01.12.2001 inital version; (c)2001 peter ross <pross@xvid.org>
47 : Isibaar 3 *
48 :     *************************************************************************/
49 :    
50 :     #include <windows.h>
51 :     #include <vfw.h>
52 :    
53 :     #include "codec.h"
54 : h 102 #include "2pass.h"
55 : Isibaar 3
56 :     int pmvfast_presets[7] = {
57 : suxen_drol 858 0, PMV_QUICKSTOP16, 0, 0,
58 :     0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8,
59 :     0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8 |
60 :     PMV_ADVANCEDDIAMOND16, PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |
61 :     PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8 | PMV_USESQUARES16
62 : Isibaar 3 };
63 :    
64 :     /* return xvid compatbile colorspace,
65 :     or XVID_CSP_NULL if failure
66 :     */
67 :    
68 : h 30 int get_colorspace(BITMAPINFOHEADER * hdr)
69 : Isibaar 3 {
70 : suxen_drol 858 /* rgb only: negative height specifies top down image */
71 :     int rgb_flip = (hdr->biHeight < 0 ? 0 : XVID_CSP_VFLIP);
72 :    
73 : h 30 switch(hdr->biCompression)
74 : Isibaar 3 {
75 :     case BI_RGB :
76 : h 30 if (hdr->biBitCount == 16)
77 : Isibaar 3 {
78 :     DEBUG("RGB16 (RGB555)");
79 : suxen_drol 858 return rgb_flip | XVID_CSP_RGB555;
80 : Isibaar 3 }
81 : h 30 if (hdr->biBitCount == 24)
82 : Isibaar 3 {
83 :     DEBUG("RGB24");
84 : suxen_drol 858 return rgb_flip | XVID_CSP_RGB24;
85 : Isibaar 3 }
86 : h 30 if (hdr->biBitCount == 32)
87 : Isibaar 3 {
88 :     DEBUG("RGB32");
89 : suxen_drol 858 return rgb_flip | XVID_CSP_RGB32;
90 : Isibaar 3 }
91 :    
92 : suxen_drol 858 DEBUG1("unsupported BI_RGB biBitCount", hdr->biBitCount);
93 : Isibaar 3 return XVID_CSP_NULL;
94 :    
95 : suxen_drol 858 case BI_BITFIELDS :
96 :     if (hdr->biSize >= sizeof(BITMAPV4HEADER))
97 : Isibaar 3 {
98 : suxen_drol 858 BITMAPV4HEADER * hdr4 = (BITMAPV4HEADER *)hdr;
99 :    
100 :     if (hdr4->bV4BitCount == 16 &&
101 :     hdr4->bV4RedMask == 0x7c00 &&
102 :     hdr4->bV4GreenMask == 0x3e0 &&
103 :     hdr4->bV4BlueMask == 0x1f)
104 :     {
105 :     DEBUG("RGB555");
106 :     return rgb_flip | XVID_CSP_RGB555;
107 :     }
108 :    
109 :     if(hdr4->bV4BitCount == 16 &&
110 :     hdr4->bV4RedMask == 0xf800 &&
111 :     hdr4->bV4GreenMask == 0x7e0 &&
112 :     hdr4->bV4BlueMask == 0x1f)
113 :     {
114 :     DEBUG("RGB565");
115 :     return rgb_flip | XVID_CSP_RGB565;
116 :     }
117 :    
118 :     DEBUG("unsupported BI_BITFIELDS mode");
119 :     return XVID_CSP_NULL;
120 : Isibaar 3 }
121 :    
122 : suxen_drol 858 DEBUG("unsupported BI_BITFIELDS/BITMAPHEADER combination");
123 : Isibaar 3 return XVID_CSP_NULL;
124 : suxen_drol 858
125 :     case FOURCC_I420 :
126 :     case FOURCC_IYUV :
127 : Isibaar 3 DEBUG("IYUY");
128 :     return XVID_CSP_I420;
129 :    
130 :     case FOURCC_YV12 :
131 :     DEBUG("YV12");
132 :     return XVID_CSP_YV12;
133 : suxen_drol 858
134 : Isibaar 3 case FOURCC_YUYV :
135 :     case FOURCC_YUY2 :
136 :     DEBUG("YUY2");
137 :     return XVID_CSP_YUY2;
138 :    
139 : suxen_drol 858 case FOURCC_YVYU :
140 : Isibaar 3 DEBUG("YVYU");
141 :     return XVID_CSP_YVYU;
142 :    
143 : suxen_drol 858 case FOURCC_UYVY :
144 : Isibaar 3 DEBUG("UYVY");
145 :     return XVID_CSP_UYVY;
146 :    
147 : suxen_drol 858 default :
148 :     DEBUGFOURCC("unsupported colorspace", hdr->biCompression);
149 :     return XVID_CSP_NULL;
150 : Isibaar 3 }
151 :     }
152 :    
153 :    
154 :     /* compressor */
155 :    
156 :    
157 :     /* test the output format */
158 :    
159 :     LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
160 :     {
161 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
162 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
163 : Isibaar 3
164 :     if (get_colorspace(inhdr) == XVID_CSP_NULL)
165 :     {
166 :     return ICERR_BADFORMAT;
167 :     }
168 :    
169 :     if (lpbiOutput == NULL)
170 :     {
171 :     return ICERR_OK;
172 :     }
173 : h 30
174 :     if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||
175 : suxen_drol 858 (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX && outhdr->biCompression != FOURCC_DX50))
176 : Isibaar 3 {
177 :     return ICERR_BADFORMAT;
178 :     }
179 :    
180 :     return ICERR_OK;
181 :     }
182 :    
183 :    
184 :     LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
185 :     {
186 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
187 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
188 : Isibaar 3
189 : h 30 if (get_colorspace(inhdr) == XVID_CSP_NULL)
190 : Isibaar 3 {
191 : h 30 return ICERR_BADFORMAT;
192 : Isibaar 3 }
193 :    
194 :     if (lpbiOutput == NULL)
195 :     {
196 :     return sizeof(BITMAPV4HEADER);
197 :     }
198 :    
199 : h 30 memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
200 :     outhdr->biSize = sizeof(BITMAPINFOHEADER);
201 :     outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);
202 :     outhdr->biXPelsPerMeter = 0;
203 :     outhdr->biYPelsPerMeter = 0;
204 :     outhdr->biClrUsed = 0;
205 :     outhdr->biClrImportant = 0;
206 : Isibaar 3
207 :     if (codec->config.fourcc_used == 0)
208 :     {
209 : h 30 outhdr->biCompression = FOURCC_XVID;
210 : Isibaar 3 }
211 : h 30 else if (codec->config.fourcc_used == 1)
212 :     {
213 :     outhdr->biCompression = FOURCC_DIVX;
214 :     }
215 : Isibaar 3 else
216 :     {
217 : h 30 outhdr->biCompression = FOURCC_DX50;
218 : Isibaar 3 }
219 :    
220 :     return ICERR_OK;
221 :     }
222 :    
223 :    
224 :     LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
225 :     {
226 : suxen_drol 858 return 2 * lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;
227 : Isibaar 3 }
228 :    
229 :    
230 :     LRESULT compress_frames_info(CODEC * codec, ICCOMPRESSFRAMES * icf)
231 :     {
232 :     // DEBUG2("frate fscale", codec->frate, codec->fscale);
233 :     codec->fincr = icf->dwScale;
234 :     codec->fbase = icf->dwRate;
235 :     return ICERR_OK;
236 :     }
237 :    
238 :    
239 :     LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
240 :     {
241 :     XVID_ENC_PARAM param;
242 :     XVID_INIT_PARAM init_param;
243 :    
244 :     switch (codec->config.mode)
245 :     {
246 :     case DLG_MODE_CBR :
247 : h 121 param.rc_bitrate = codec->config.rc_bitrate;
248 :     param.rc_reaction_delay_factor = codec->config.rc_reaction_delay_factor;
249 :     param.rc_averaging_period = codec->config.rc_averaging_period;
250 :     param.rc_buffer = codec->config.rc_buffer;
251 : Isibaar 3 break;
252 :    
253 :     case DLG_MODE_VBR_QUAL :
254 :     codec->config.fquant = 0;
255 : h 121 param.rc_bitrate = 0;
256 : Isibaar 3 break;
257 :    
258 :     case DLG_MODE_VBR_QUANT :
259 :     codec->config.fquant = (float) codec->config.quant;
260 : h 121 param.rc_bitrate = 0;
261 : Isibaar 3 break;
262 :    
263 : h 61 case DLG_MODE_2PASS_1 :
264 :     case DLG_MODE_2PASS_2_INT :
265 :     case DLG_MODE_2PASS_2_EXT :
266 : h 121 param.rc_bitrate = 0;
267 : h 109 codec->twopass.max_framesize = (int)((double)codec->config.twopass_max_bitrate / 8.0 / ((double)codec->fbase / (double)codec->fincr));
268 : Isibaar 3 break;
269 :    
270 : h 61 case DLG_MODE_NULL :
271 :     return ICERR_OK;
272 :    
273 : Isibaar 3 default :
274 :     break;
275 :     }
276 :    
277 :     if(codec->ehandle)
278 :     {
279 :     xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
280 :     codec->ehandle = NULL;
281 :     }
282 :    
283 :     init_param.cpu_flags = codec->config.cpu;
284 :     xvid_init(0, 0, &init_param, NULL);
285 :     if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
286 :     codec->config.cpu = init_param.cpu_flags;
287 :    
288 : h 30 param.width = lpbiInput->bmiHeader.biWidth;
289 :     param.height = lpbiInput->bmiHeader.biHeight;
290 : Isibaar 3 param.fincr = codec->fincr;
291 :     param.fbase = codec->fbase;
292 :    
293 : h 30 param.min_quantizer = codec->config.min_pquant;
294 :     param.max_quantizer = codec->config.max_pquant;
295 : Isibaar 3 param.max_key_interval = codec->config.max_key_interval;
296 :    
297 : suxen_drol 295 #ifdef _SMP
298 :     param.num_threads = codec->config.num_threads;
299 :     #endif
300 :    
301 : suxen_drol 235 param.global = 0;
302 :     if (codec->config.packed) param.global |= XVID_GLOBAL_PACKED;
303 :     if (codec->config.dx50bvop) param.global |= XVID_GLOBAL_DX50BVOP;
304 :     if (codec->config.debug) param.global |= XVID_GLOBAL_DEBUG;
305 : suxen_drol 858 if (codec->config.reduced_resolution) param.global |= XVID_GLOBAL_REDUCED;
306 : suxen_drol 228 param.max_bframes = codec->config.max_bframes;
307 :     param.bquant_ratio = codec->config.bquant_ratio;
308 : suxen_drol 858 param.bquant_offset = codec->config.bquant_offset;
309 : suxen_drol 324 param.frame_drop_ratio = codec->config.frame_drop_ratio;
310 : suxen_drol 228
311 : Isibaar 3 switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))
312 :     {
313 :     case XVID_ERR_FAIL :
314 :     return ICERR_ERROR;
315 :    
316 :     case XVID_ERR_MEMORY :
317 :     return ICERR_MEMORY;
318 :    
319 :     case XVID_ERR_FORMAT :
320 :     return ICERR_BADFORMAT;
321 :     }
322 :    
323 :     codec->ehandle = param.handle;
324 :     codec->framenum = 0;
325 :     codec->keyspacing = 0;
326 :    
327 : h 102 codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
328 :     codec->twopass.hintstream = NULL;
329 : Isibaar 3
330 :     return ICERR_OK;
331 :     }
332 :    
333 :    
334 :     LRESULT compress_end(CODEC * codec)
335 :     {
336 :     if (codec->ehandle != NULL)
337 :     {
338 :     xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
339 : h 102
340 :     if (codec->twopass.hints != INVALID_HANDLE_VALUE)
341 :     {
342 :     CloseHandle(codec->twopass.hints);
343 :     }
344 : Isibaar 3 if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
345 :     {
346 :     CloseHandle(codec->twopass.stats1);
347 :     }
348 :     if (codec->twopass.stats2 != INVALID_HANDLE_VALUE)
349 :     {
350 :     CloseHandle(codec->twopass.stats2);
351 :     }
352 : h 102 if (codec->twopass.hintstream != NULL)
353 :     {
354 :     free(codec->twopass.hintstream);
355 :     }
356 :    
357 : Isibaar 3 codec->ehandle = NULL;
358 : h 105
359 :     codec_2pass_finish(codec);
360 : Isibaar 3 }
361 :    
362 :     return ICERR_OK;
363 :     }
364 :    
365 :    
366 :     LRESULT compress(CODEC * codec, ICCOMPRESS * icc)
367 :     {
368 : h 30 BITMAPINFOHEADER * inhdr = icc->lpbiInput;
369 :     BITMAPINFOHEADER * outhdr = icc->lpbiOutput;
370 : Isibaar 3 XVID_ENC_FRAME frame;
371 :     XVID_ENC_STATS stats;
372 :    
373 :     // mpeg2avi yuv bug workaround (2 instances of CODEC)
374 :     if (codec->twopass.stats1 == INVALID_HANDLE_VALUE)
375 :     {
376 :     if (codec_2pass_init(codec) == ICERR_ERROR)
377 :     {
378 :     return ICERR_ERROR;
379 :     }
380 :     }
381 :    
382 :     frame.general = 0;
383 :     frame.motion = 0;
384 : h 30 frame.intra = -1;
385 : Isibaar 3
386 :     frame.general |= XVID_HALFPEL;
387 : Isibaar 364 // frame.general |= XVID_ME_EPZS;
388 : Isibaar 3
389 : suxen_drol 858 frame.general |= XVID_HQACPRED;
390 : Isibaar 364
391 : Isibaar 968 frame.bframe_threshold = 255;
392 :    
393 : h 127 if (codec->config.motion_search > 4)
394 : Isibaar 3 frame.general |= XVID_INTER4V;
395 :    
396 : h 127 if (codec->config.lum_masking)
397 : Isibaar 3 frame.general |= XVID_LUMIMASKING;
398 :    
399 : h 102 if (codec->config.interlacing)
400 : Isibaar 364 frame.general |= XVID_INTERLACING;
401 : chl 355
402 : suxen_drol 858 if (codec->config.qpel) {
403 :     frame.general |= XVID_QUARTERPEL;
404 :     frame.motion |= PMV_QUARTERPELREFINE16 | PMV_QUARTERPELREFINE8;
405 :     }
406 : Isibaar 364
407 : suxen_drol 858 if (codec->config.gmc)
408 :     frame.general |= XVID_GMC;
409 : Isibaar 364
410 : suxen_drol 858 if (codec->config.chromame)
411 :     frame.motion |= PMV_CHROMA16 + PMV_CHROMA8;
412 :    
413 :     if (codec->config.reduced_resolution)
414 :     frame.general |= XVID_REDUCED;
415 :    
416 :     if (codec->config.chroma_opt)
417 :     frame.general |= XVID_CHROMAOPT;
418 : Isibaar 364 // added by koepi for credits greyscale
419 :    
420 :     check_greyscale_mode(&codec->config, &frame, codec->framenum);
421 :    
422 :     // end of koepi's addition
423 :    
424 :    
425 : Isibaar 176 // fix 1pass modes/hinted MV by koepi
426 :     if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_CBR || codec->config.mode == DLG_MODE_VBR_QUAL || codec->config.mode == DLG_MODE_VBR_QUANT))
427 :     {
428 :     codec->config.hinted_me = 0;
429 :     }
430 :     // end of ugly hack
431 : h 102
432 :     if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
433 :     {
434 :     frame.hint.hintstream = codec->twopass.hintstream;
435 :     frame.hint.rawhints = 0;
436 :     frame.general |= XVID_HINTEDME_GET;
437 :     }
438 : h 103 else if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT))
439 : h 102 {
440 :     DWORD read;
441 :     DWORD blocksize;
442 :    
443 :     frame.hint.hintstream = codec->twopass.hintstream;
444 :     frame.hint.rawhints = 0;
445 :     frame.general |= XVID_HINTEDME_SET;
446 :    
447 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
448 :     {
449 :     codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
450 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
451 :     {
452 :     DEBUGERR("couldn't open hints file");
453 :     return ICERR_ERROR;
454 :     }
455 :     }
456 :     if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
457 :     !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
458 :     {
459 :     DEBUGERR("couldn't read from hints file");
460 :     return ICERR_ERROR;
461 :     }
462 :     }
463 :    
464 : suxen_drol 858 frame.motion |= pmvfast_presets[codec->config.motion_search];
465 : h 30
466 : suxen_drol 858 switch (codec->config.vhq_mode)
467 :     {
468 :     case VHQ_MODE_DECISION :
469 :     frame.general |= XVID_MODEDECISION_BITS;
470 :     break;
471 :    
472 :     case VHQ_LIMITED_SEARCH :
473 :     frame.general |= XVID_MODEDECISION_BITS;
474 :     frame.motion |= HALFPELREFINE16_BITS;
475 :     frame.motion |= QUARTERPELREFINE16_BITS;
476 :     break;
477 :    
478 :     case VHQ_MEDIUM_SEARCH :
479 :     frame.general |= XVID_MODEDECISION_BITS;
480 :     frame.motion |= HALFPELREFINE16_BITS;
481 :     frame.motion |= HALFPELREFINE8_BITS;
482 :     frame.motion |= QUARTERPELREFINE16_BITS;
483 :     frame.motion |= QUARTERPELREFINE8_BITS;
484 :     frame.motion |= CHECKPREDICTION_BITS;
485 :     break;
486 :    
487 :     case VHQ_WIDE_SEARCH :
488 :     frame.general |= XVID_MODEDECISION_BITS;
489 :     frame.motion |= HALFPELREFINE16_BITS;
490 :     frame.motion |= HALFPELREFINE8_BITS;
491 :     frame.motion |= QUARTERPELREFINE16_BITS;
492 :     frame.motion |= QUARTERPELREFINE8_BITS;
493 :     frame.motion |= CHECKPREDICTION_BITS;
494 :     frame.motion |= EXTSEARCH_BITS;
495 :     break;
496 :    
497 :     default :
498 :     break;
499 :     }
500 :    
501 : Isibaar 3 frame.image = icc->lpInput;
502 : suxen_drol 858 frame.stride = (((icc->lpbiInput->biWidth * icc->lpbiInput->biBitCount) + 31) & ~31) >> 3;
503 : Isibaar 3
504 : h 30 if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)
505 : Isibaar 3 return ICERR_BADFORMAT;
506 :    
507 : suxen_drol 858 if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
508 :     frame.stride = (frame.stride*2)/3;
509 :    
510 : Isibaar 3 frame.bitstream = icc->lpOutput;
511 :     frame.length = icc->lpbiOutput->biSizeImage;
512 :    
513 :     switch (codec->config.mode)
514 :     {
515 :     case DLG_MODE_CBR :
516 :     frame.quant = 0;
517 :     break;
518 :    
519 :     case DLG_MODE_VBR_QUAL :
520 :     case DLG_MODE_VBR_QUANT :
521 :     case DLG_MODE_2PASS_1 :
522 :     if (codec_get_quant(codec, &frame) == ICERR_ERROR)
523 :     {
524 :     return ICERR_ERROR;
525 :     }
526 :     break;
527 :    
528 :     case DLG_MODE_2PASS_2_EXT :
529 :     case DLG_MODE_2PASS_2_INT :
530 :     if (codec_2pass_get_quant(codec, &frame) == ICERR_ERROR)
531 :     {
532 :     return ICERR_ERROR;
533 :     }
534 :     if (codec->config.dummy2pass)
535 :     {
536 : h 30 outhdr->biSizeImage = codec->twopass.bytes2;
537 : Isibaar 3 *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;
538 :     return ICERR_OK;
539 :     }
540 :     break;
541 :    
542 :     case DLG_MODE_NULL :
543 : h 30 outhdr->biSizeImage = 0;
544 : Isibaar 3 *icc->lpdwFlags = AVIIF_KEYFRAME;
545 :     return ICERR_OK;
546 :    
547 :     default :
548 : h 61 DEBUGERR("Invalid encoding mode");
549 : Isibaar 3 return ICERR_ERROR;
550 :     }
551 :    
552 : h 30 if (codec->config.quant_type == QUANT_MODE_H263)
553 : Isibaar 3 {
554 : h 30 frame.general |= XVID_H263QUANT;
555 :     }
556 :     else
557 :     {
558 :     frame.general |= XVID_MPEGQUANT;
559 :    
560 :     // we actually need "default/custom" selectbox for both inter/intra
561 :     // this will do for now
562 :     if (codec->config.quant_type == QUANT_MODE_CUSTOM)
563 :     {
564 :     frame.general |= XVID_CUSTOM_QMATRIX;
565 :     frame.quant_intra_matrix = codec->config.qmatrix_intra;
566 :     frame.quant_inter_matrix = codec->config.qmatrix_inter;
567 :     }
568 :     else
569 :     {
570 :     frame.quant_intra_matrix = NULL;
571 :     frame.quant_inter_matrix = NULL;
572 :     }
573 :     }
574 :    
575 :     // force keyframe spacing in 2-pass 1st pass
576 :     if (codec->config.motion_search == 0)
577 :     {
578 :     frame.intra = 1;
579 :     }
580 : h 109 else if (codec->keyspacing < codec->config.min_key_interval && codec->framenum)
581 : h 30 {
582 : Isibaar 3 DEBUG("current frame forced to p-frame");
583 :     frame.intra = 0;
584 :     }
585 :    
586 : suxen_drol 278 frame.bquant = 0;
587 :    
588 : suxen_drol 324 // OutputDebugString(" ");
589 : Isibaar 3 switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))
590 :     {
591 :     case XVID_ERR_FAIL :
592 :     return ICERR_ERROR;
593 :    
594 :     case XVID_ERR_MEMORY :
595 :     return ICERR_MEMORY;
596 :    
597 :     case XVID_ERR_FORMAT :
598 :     return ICERR_BADFORMAT;
599 :     }
600 :    
601 : suxen_drol 858 if (frame.intra==1)
602 : Isibaar 3 {
603 :     codec->keyspacing = 0;
604 :     *icc->lpdwFlags = AVIIF_KEYFRAME;
605 :     }
606 :     else
607 :     {
608 :     *icc->lpdwFlags = 0;
609 :     }
610 : syskin 901 if (frame.length == 0) { frame.length = 1; *((unsigned char*)frame.bitstream) = 0x7f; }
611 : Isibaar 3
612 : h 30 outhdr->biSizeImage = frame.length;
613 : Isibaar 3
614 : h 30 if (codec->config.mode == DLG_MODE_2PASS_1 && codec->config.discard1pass)
615 : Isibaar 3 {
616 : h 30 outhdr->biSizeImage = 0;
617 : Isibaar 3 }
618 :    
619 : h 102 if (frame.general & XVID_HINTEDME_GET)
620 :     {
621 :     DWORD wrote;
622 :     DWORD blocksize = frame.hint.hintlength;
623 :    
624 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
625 :     {
626 :     codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
627 : suxen_drol 228 if (codec->twopass.hints == INVALID_HANDLE_VALUE)
628 : h 102 {
629 :     DEBUGERR("couldn't create hints file");
630 :     return ICERR_ERROR;
631 :     }
632 :     }
633 :     if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
634 :     !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
635 :     {
636 :     DEBUGERR("couldn't write to hints file");
637 :     return ICERR_ERROR;
638 :     }
639 :     }
640 :    
641 : suxen_drol 858 //quick fix for delayed frames
642 :     // if (frame.intra != 5)
643 :     codec_2pass_update(codec, &frame, &stats);
644 : Isibaar 3
645 :     ++codec->framenum;
646 :     ++codec->keyspacing;
647 :    
648 :     return ICERR_OK;
649 :     }
650 :    
651 :    
652 :     /* decompressor */
653 :    
654 :    
655 :     LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)
656 :     {
657 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
658 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
659 : Isibaar 3
660 :     if (lpbiInput == NULL)
661 :     {
662 :     return ICERR_ERROR;
663 :     }
664 :    
665 : suxen_drol 858 if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX && inhdr->biCompression != FOURCC_DX50 && get_colorspace(inhdr) == XVID_CSP_NULL)
666 : Isibaar 3 {
667 :     return ICERR_BADFORMAT;
668 :     }
669 :    
670 :     if (lpbiOutput == NULL)
671 :     {
672 :     return ICERR_OK;
673 :     }
674 :    
675 : h 30 if (inhdr->biWidth != outhdr->biWidth ||
676 :     inhdr->biHeight != outhdr->biHeight ||
677 : Isibaar 3 get_colorspace(outhdr) == XVID_CSP_NULL)
678 :     {
679 :     return ICERR_BADFORMAT;
680 :     }
681 :    
682 :     return ICERR_OK;
683 :     }
684 :    
685 :    
686 :     LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
687 :     {
688 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
689 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
690 : Isibaar 3 LRESULT result;
691 :    
692 :     if (lpbiOutput == NULL)
693 :     {
694 : h 30 return sizeof(BITMAPINFOHEADER);
695 : Isibaar 3 }
696 :    
697 : suxen_drol 858 /* --- yv12 --- */
698 :    
699 :     if (get_colorspace(inhdr) != XVID_CSP_NULL) {
700 :     memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
701 :     // XXX: should we set outhdr->biSize ??
702 :     return ICERR_OK;
703 :     }
704 :     /* --- yv12 --- */
705 :    
706 :     result = decompress_query(codec, lpbiInput, NULL);
707 : Isibaar 3 if (result != ICERR_OK)
708 :     {
709 :     return result;
710 :     }
711 :    
712 : h 30 outhdr->biSize = sizeof(BITMAPINFOHEADER);
713 : suxen_drol 858 outhdr->biWidth = inhdr->biWidth;
714 :     outhdr->biHeight = inhdr->biHeight;
715 :     outhdr->biPlanes = 1;
716 :     outhdr->biBitCount = 24;
717 :     outhdr->biCompression = BI_RGB; /* sonic foundry vegas video v3 only supports BI_RGB */
718 : h 30 outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;
719 :     outhdr->biXPelsPerMeter = 0;
720 :     outhdr->biYPelsPerMeter = 0;
721 :     outhdr->biClrUsed = 0;
722 :     outhdr->biClrImportant = 0;
723 : Isibaar 3
724 :     return ICERR_OK;
725 :     }
726 :    
727 :    
728 :     LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
729 :     {
730 :     XVID_DEC_PARAM param;
731 :     XVID_INIT_PARAM init_param;
732 :    
733 :     init_param.cpu_flags = codec->config.cpu;
734 :     xvid_init(0, 0, &init_param, NULL);
735 :     if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
736 :     {
737 :     codec->config.cpu = init_param.cpu_flags;
738 :     }
739 :    
740 : h 30 param.width = lpbiInput->bmiHeader.biWidth;
741 :     param.height = lpbiInput->bmiHeader.biHeight;
742 : Isibaar 3
743 :     switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))
744 :     {
745 :     case XVID_ERR_FAIL :
746 :     return ICERR_ERROR;
747 :    
748 :     case XVID_ERR_MEMORY :
749 :     return ICERR_MEMORY;
750 :    
751 :     case XVID_ERR_FORMAT :
752 :     return ICERR_BADFORMAT;
753 :     }
754 :    
755 :     codec->dhandle = param.handle;
756 :    
757 :     return ICERR_OK;
758 :     }
759 :    
760 :    
761 :     LRESULT decompress_end(CODEC * codec)
762 :     {
763 :     if (codec->dhandle != NULL)
764 :     {
765 :     xvid_decore(codec->dhandle, XVID_DEC_DESTROY, NULL, NULL);
766 :     codec->dhandle = NULL;
767 :     }
768 :     return ICERR_OK;
769 :     }
770 :    
771 :    
772 :     LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)
773 :     {
774 :     XVID_DEC_FRAME frame;
775 :    
776 :     frame.bitstream = icd->lpInput;
777 :     frame.length = icd->lpbiInput->biSizeImage;
778 : suxen_drol 858 frame.general = XVID_DEC_LOWDELAY; /* force low_delay_default mode */
779 :     if (codec->config.deblock_y)
780 :     frame.general |= XVID_DEC_DEBLOCKY;
781 :     if (codec->config.deblock_uv)
782 :     frame.general |= XVID_DEC_DEBLOCKUV;
783 : Isibaar 3
784 :     frame.image = icd->lpOutput;
785 : suxen_drol 858 frame.stride = (((icd->lpbiOutput->biWidth * icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
786 : Isibaar 3
787 : suxen_drol 858 /* --- yv12 --- */
788 :     if (icd->lpbiInput->biCompression != FOURCC_XVID &&
789 :     icd->lpbiInput->biCompression != FOURCC_DIVX &&
790 :     icd->lpbiInput->biCompression != FOURCC_DX50)
791 :     {
792 :     XVID_INIT_CONVERTINFO convert;
793 :     DEBUGFOURCC("input", icd->lpbiInput->biCompression);
794 :     DEBUGFOURCC("output", icd->lpbiOutput->biCompression);
795 :     convert.input.colorspace = get_colorspace(icd->lpbiInput);
796 :     convert.input.y = icd->lpInput;
797 :     convert.input.y_stride = (((icd->lpbiInput->biWidth *icd->lpbiInput->biBitCount) + 31) & ~31) >> 3;
798 :     if (convert.input.colorspace == XVID_CSP_I420 || convert.input.colorspace == XVID_CSP_YV12)
799 :     convert.input.y_stride = (convert.input.y_stride*2)/3;
800 :    
801 :     convert.output.colorspace = get_colorspace(icd->lpbiOutput);
802 :     convert.output.y = icd->lpOutput;
803 :     convert.output.y_stride = (((icd->lpbiOutput->biWidth *icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
804 :     if (convert.output.colorspace == XVID_CSP_I420 || convert.output.colorspace == XVID_CSP_YV12)
805 :     convert.output.y_stride = (convert.output.y_stride*2)/3;
806 :    
807 :     convert.width = icd->lpbiInput->biWidth;
808 :     convert.height = icd->lpbiInput->biHeight;
809 :     convert.interlacing = 0;
810 :     if (convert.input.colorspace == XVID_CSP_NULL ||
811 :     convert.output.colorspace == XVID_CSP_NULL ||
812 :     xvid_init(NULL, XVID_INIT_CONVERT, &convert, NULL) != XVID_ERR_OK)
813 :     {
814 :     return ICERR_BADFORMAT;
815 :     }
816 :     return ICERR_OK;
817 :     }
818 :     /* --- yv12 --- */
819 :    
820 :    
821 : suxen_drol 137 if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE) | (icd->dwFlags & ICDECOMPRESS_PREROLL)))
822 : Isibaar 3 {
823 : h 30 if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)
824 : Isibaar 3 {
825 :     return ICERR_BADFORMAT;
826 :     }
827 :     }
828 :     else
829 :     {
830 :     frame.colorspace = XVID_CSP_NULL;
831 :     }
832 :    
833 : suxen_drol 858 if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
834 :     frame.stride = (frame.stride*2)/3;
835 :    
836 : Isibaar 3 switch (xvid_decore(codec->dhandle, XVID_DEC_DECODE, &frame, NULL))
837 :     {
838 :     case XVID_ERR_FAIL :
839 :     return ICERR_ERROR;
840 :    
841 :     case XVID_ERR_MEMORY :
842 :     return ICERR_MEMORY;
843 :    
844 :     case XVID_ERR_FORMAT :
845 :     return ICERR_BADFORMAT;
846 :     }
847 :    
848 :     return ICERR_OK;
849 :     }
850 :    
851 :     int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
852 :     {
853 :     switch (codec->config.mode)
854 :     {
855 :     case DLG_MODE_VBR_QUAL :
856 :     if (codec_is_in_credits(&codec->config, codec->framenum))
857 :     {
858 : Isibaar 364 // added by koepi for credits greyscale
859 :    
860 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
861 :    
862 :     // end of koepi's addition
863 :    
864 : Isibaar 3 switch (codec->config.credits_mode)
865 :     {
866 :     case CREDITS_MODE_RATE :
867 :     frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);
868 :     break;
869 :    
870 :     case CREDITS_MODE_QUANT :
871 :     frame->quant = codec->config.credits_quant_p;
872 :     break;
873 :    
874 :     default :
875 : h 61 DEBUGERR("Can't use credits size mode in quality mode");
876 : Isibaar 3 return ICERR_ERROR;
877 :     }
878 :     }
879 :     else
880 :     {
881 : Isibaar 364 // added by koepi for credits greyscale
882 :    
883 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
884 :    
885 :     // end of koepi's addition
886 :    
887 : Isibaar 3 frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);
888 :     }
889 :     return ICERR_OK;
890 :    
891 :     case DLG_MODE_VBR_QUANT :
892 :     if (codec_is_in_credits(&codec->config, codec->framenum))
893 :     {
894 : Isibaar 364 // added by koepi for credits greyscale
895 :    
896 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
897 :    
898 :     // end of koepi's addition
899 :    
900 : Isibaar 3 switch (codec->config.credits_mode)
901 :     {
902 :     case CREDITS_MODE_RATE :
903 :     frame->quant =
904 : h 30 codec->config.max_pquant -
905 :     ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);
906 : Isibaar 3 break;
907 :    
908 :     case CREDITS_MODE_QUANT :
909 :     frame->quant = codec->config.credits_quant_p;
910 :     break;
911 :    
912 :     default :
913 : h 61 DEBUGERR("Can't use credits size mode in quantizer mode");
914 : Isibaar 3 return ICERR_ERROR;
915 :     }
916 :     }
917 :     else
918 :     {
919 : Isibaar 364 // added by koepi for credits greyscale
920 :    
921 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
922 :    
923 :     // end of koepi's addition
924 :    
925 : Isibaar 3 frame->quant = codec->config.quant;
926 :     }
927 :     return ICERR_OK;
928 :    
929 :     case DLG_MODE_2PASS_1 :
930 : Isibaar 364 // added by koepi for credits greyscale
931 :    
932 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
933 :    
934 :     // end of koepi's addition
935 :    
936 : Isibaar 3 if (codec->config.credits_mode == CREDITS_MODE_QUANT)
937 :     {
938 :     if (codec_is_in_credits(&codec->config, codec->framenum))
939 :     {
940 :     frame->quant = codec->config.credits_quant_p;
941 :     }
942 :     else
943 :     {
944 :     frame->quant = 2;
945 :     }
946 :     }
947 :     else
948 :     {
949 :     frame->quant = 2;
950 :     }
951 :     return ICERR_OK;
952 :    
953 :     default:
954 : h 61 DEBUGERR("get quant: invalid mode");
955 : Isibaar 3 return ICERR_ERROR;
956 :     }
957 :     }
958 :    
959 :    
960 :     int codec_is_in_credits(CONFIG* config, int framenum)
961 :     {
962 :     if (config->credits_start)
963 :     {
964 :     if (framenum >= config->credits_start_begin &&
965 :     framenum <= config->credits_start_end)
966 :     {
967 :     return CREDITS_START;
968 :     }
969 :     }
970 :    
971 :     if (config->credits_end)
972 :     {
973 :     if (framenum >= config->credits_end_begin &&
974 :     framenum <= config->credits_end_end)
975 :     {
976 :     return CREDITS_END;
977 :     }
978 :     }
979 :    
980 :     return 0;
981 :     }
982 :    
983 :    
984 :     int codec_get_vbr_quant(CONFIG* config, int quality)
985 :     {
986 :     static float fquant_running = 0;
987 :     static int my_quality = -1;
988 :     int quant;
989 :    
990 :     // if quality changes, recalculate fquant (credits)
991 :     if (quality != my_quality)
992 :     {
993 :     config->fquant = 0;
994 :     }
995 :    
996 :     my_quality = quality;
997 :    
998 :     // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ
999 :     if (!config->fquant)
1000 :     {
1001 :     config->fquant =
1002 : h 30 ((float) (config->max_pquant - config->min_pquant) / 100) *
1003 : Isibaar 3 (100 - quality) +
1004 : h 30 (float) config->min_pquant;
1005 : Isibaar 3
1006 :     fquant_running = config->fquant;
1007 :     }
1008 :    
1009 : h 30 if (fquant_running < config->min_pquant)
1010 : Isibaar 3 {
1011 : h 30 fquant_running = (float) config->min_pquant;
1012 : Isibaar 3 }
1013 : h 30 else if(fquant_running > config->max_pquant)
1014 : Isibaar 3 {
1015 : h 30 fquant_running = (float) config->max_pquant;
1016 : Isibaar 3 }
1017 :    
1018 :     quant = (int) fquant_running;
1019 :    
1020 :     // add error between fquant and quant to fquant_running
1021 :     fquant_running += config->fquant - quant;
1022 :    
1023 :     return quant;
1024 :     }
1025 :    
1026 : Isibaar 364 // added by koepi for credits greyscale
1027 :    
1028 :     int check_greyscale_mode(CONFIG* config, XVID_ENC_FRAME* frame, int framenum)
1029 :    
1030 :     {
1031 :    
1032 :     if ((codec_is_in_credits(config, framenum)) && (config->mode!=DLG_MODE_CBR))
1033 :    
1034 :     {
1035 :    
1036 :     if (config->credits_greyscale)
1037 :    
1038 :     {
1039 :    
1040 :     if ((frame->general && XVID_GREYSCALE)) // use only if not already in greyscale
1041 :    
1042 :     frame->general |= XVID_GREYSCALE;
1043 :    
1044 :     } else {
1045 :    
1046 :     if (!(frame->general && XVID_GREYSCALE)) // if movie is in greyscale, switch back
1047 :    
1048 :     frame->general |= XVID_GREYSCALE;
1049 :    
1050 :     }
1051 :    
1052 :     } else {
1053 :    
1054 :     if (config->greyscale)
1055 :    
1056 :     {
1057 :    
1058 :     if ((frame->general && XVID_GREYSCALE)) // use only if not already in greyscale
1059 :    
1060 :     frame->general |= XVID_GREYSCALE;
1061 :    
1062 :     } else {
1063 :    
1064 :     if (!(frame->general && XVID_GREYSCALE)) // if credits is in greyscale, switch back
1065 :    
1066 :     frame->general |= XVID_GREYSCALE;
1067 :    
1068 :     }
1069 :    
1070 :     }
1071 :    
1072 :     return 0;
1073 :    
1074 :     }
1075 :    
1076 :     // end of koepi's addition
1077 :    

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4