[svn] / branches / dev-api-3 / vfw / src / codec.c Repository:
ViewVC logotype

Annotation of /branches/dev-api-3/vfw/src/codec.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 838 - (view) (download)

1 : Isibaar 3 /**************************************************************************
2 :     *
3 :     * XVID VFW FRONTEND
4 :     * codec
5 :     *
6 :     * This program is free software; you can redistribute it and/or modify
7 :     * it under the terms of the GNU General Public License as published by
8 :     * the Free Software Foundation; either version 2 of the License, or
9 :     * (at your option) any later version.
10 :     *
11 :     * This program is distributed in the hope that it will be useful,
12 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
13 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
14 :     * GNU General Public License for more details.
15 :     *
16 :     * You should have received a copy of the GNU General Public License
17 :     * along with this program; if not, write to the Free Software
18 :     * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19 :     *
20 :     *************************************************************************/
21 :    
22 :     /**************************************************************************
23 :     *
24 :     * History:
25 :     *
26 : suxen_drol 295 * 12.07.2002 num_threads
27 : suxen_drol 235 * 23.06.2002 XVID_CPU_CHKONLY; loading speed up
28 : suxen_drol 137 * 25.04.2002 ICDECOMPRESS_PREROLL
29 : h 127 * 17.04.2002 re-enabled lumi masking for 1st pass
30 : h 121 * 15.04.2002 updated cbr support
31 : h 102 * 04.04.2002 separated 2-pass code to 2pass.c
32 :     * interlacing support
33 :     * hinted ME support
34 : h 61 * 23.03.2002 daniel smith <danielsmith@astroboymail.com>
35 :     * changed inter4v to only be in modes 5 or 6
36 :     * fixed null mode crash ?
37 :     * merged foxer's alternative 2-pass code
38 :     * added DEBUGERR output on errors instead of returning
39 : h 30 * 16.03.2002 daniel smith <danielsmith@astroboymail.com>
40 :     * changed BITMAPV4HEADER to BITMAPINFOHEADER
41 :     * - prevents memcpy crash in compress_get_format()
42 :     * credits are processed in external 2pass mode
43 :     * motion search precision = 0 now effective in 2-pass
44 :     * modulated quantization
45 :     * added DX50 fourcc
46 : h 526 * 01.12.2001 inital version; (c)2001 peter ross <pross@xvid.org>
47 : Isibaar 3 *
48 :     *************************************************************************/
49 :    
50 :     #include <windows.h>
51 :     #include <vfw.h>
52 :    
53 :     #include "codec.h"
54 : h 102 #include "2pass.h"
55 : Isibaar 3
56 :     int pmvfast_presets[7] = {
57 : Isibaar 593 0, PMV_QUICKSTOP16, 0, 0,
58 :     0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8,
59 :     0 | PMV_HALFPELREFINE16 | PMV_HALFPELDIAMOND8 |
60 :     PMV_ADVANCEDDIAMOND16, PMV_HALFPELREFINE16 | PMV_EXTSEARCH16 |
61 :     PMV_HALFPELREFINE8 | PMV_HALFPELDIAMOND8 | PMV_USESQUARES16
62 : Isibaar 3 };
63 :    
64 :     /* return xvid compatbile colorspace,
65 :     or XVID_CSP_NULL if failure
66 :     */
67 :    
68 : h 30 int get_colorspace(BITMAPINFOHEADER * hdr)
69 : Isibaar 3 {
70 : suxen_drol 595 /* rgb only: negative height specifies top down image */
71 :     int rgb_flip = (hdr->biHeight < 0 ? 0 : XVID_CSP_VFLIP);
72 :    
73 : h 30 switch(hdr->biCompression)
74 : Isibaar 3 {
75 :     case BI_RGB :
76 : h 30 if (hdr->biBitCount == 16)
77 : Isibaar 3 {
78 :     DEBUG("RGB16 (RGB555)");
79 : suxen_drol 595 return rgb_flip | XVID_CSP_RGB555;
80 : Isibaar 3 }
81 : h 30 if (hdr->biBitCount == 24)
82 : Isibaar 3 {
83 :     DEBUG("RGB24");
84 : suxen_drol 595 return rgb_flip | XVID_CSP_RGB24;
85 : Isibaar 3 }
86 : h 30 if (hdr->biBitCount == 32)
87 : Isibaar 3 {
88 :     DEBUG("RGB32");
89 : suxen_drol 595 return rgb_flip | XVID_CSP_RGB32;
90 : Isibaar 3 }
91 :    
92 : suxen_drol 595 DEBUG1("unsupported BI_RGB biBitCount", hdr->biBitCount);
93 : Isibaar 3 return XVID_CSP_NULL;
94 :    
95 : suxen_drol 595 case BI_BITFIELDS :
96 :     if (hdr->biSize >= sizeof(BITMAPV4HEADER))
97 : Isibaar 3 {
98 : suxen_drol 595 BITMAPV4HEADER * hdr4 = (BITMAPV4HEADER *)hdr;
99 :    
100 :     if (hdr4->bV4BitCount == 16 &&
101 :     hdr4->bV4RedMask == 0x7c00 &&
102 :     hdr4->bV4GreenMask == 0x3e0 &&
103 :     hdr4->bV4BlueMask == 0x1f)
104 :     {
105 :     DEBUG("RGB555");
106 :     return rgb_flip | XVID_CSP_RGB555;
107 :     }
108 :    
109 :     if(hdr4->bV4BitCount == 16 &&
110 :     hdr4->bV4RedMask == 0xf800 &&
111 :     hdr4->bV4GreenMask == 0x7e0 &&
112 :     hdr4->bV4BlueMask == 0x1f)
113 :     {
114 :     DEBUG("RGB565");
115 :     return rgb_flip | XVID_CSP_RGB565;
116 :     }
117 :    
118 :     DEBUG("unsupported BI_BITFIELDS mode");
119 :     return XVID_CSP_NULL;
120 : Isibaar 3 }
121 :    
122 : suxen_drol 595 DEBUG("unsupported BI_BITFIELDS/BITMAPHEADER combination");
123 : Isibaar 3 return XVID_CSP_NULL;
124 : suxen_drol 595
125 :     case FOURCC_I420 :
126 :     case FOURCC_IYUV :
127 : Isibaar 3 DEBUG("IYUY");
128 :     return XVID_CSP_I420;
129 :    
130 :     case FOURCC_YV12 :
131 :     DEBUG("YV12");
132 :     return XVID_CSP_YV12;
133 : suxen_drol 625
134 : Isibaar 3 case FOURCC_YUYV :
135 :     case FOURCC_YUY2 :
136 :     DEBUG("YUY2");
137 :     return XVID_CSP_YUY2;
138 :    
139 : suxen_drol 595 case FOURCC_YVYU :
140 : Isibaar 3 DEBUG("YVYU");
141 :     return XVID_CSP_YVYU;
142 :    
143 : suxen_drol 595 case FOURCC_UYVY :
144 : Isibaar 3 DEBUG("UYVY");
145 :     return XVID_CSP_UYVY;
146 :    
147 : suxen_drol 595 default :
148 :     DEBUGFOURCC("unsupported colorspace", hdr->biCompression);
149 :     return XVID_CSP_NULL;
150 : Isibaar 3 }
151 :     }
152 :    
153 :    
154 :     /* compressor */
155 :    
156 :    
157 :     /* test the output format */
158 :    
159 :     LRESULT compress_query(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
160 :     {
161 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
162 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
163 : Isibaar 3
164 :     if (get_colorspace(inhdr) == XVID_CSP_NULL)
165 :     {
166 :     return ICERR_BADFORMAT;
167 :     }
168 :    
169 :     if (lpbiOutput == NULL)
170 :     {
171 :     return ICERR_OK;
172 :     }
173 : h 30
174 :     if (inhdr->biWidth != outhdr->biWidth || inhdr->biHeight != outhdr->biHeight ||
175 : suxen_drol 634 (outhdr->biCompression != FOURCC_XVID && outhdr->biCompression != FOURCC_DIVX && outhdr->biCompression != FOURCC_DX50))
176 : Isibaar 3 {
177 :     return ICERR_BADFORMAT;
178 :     }
179 :    
180 :     return ICERR_OK;
181 :     }
182 :    
183 :    
184 :     LRESULT compress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
185 :     {
186 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
187 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
188 : Isibaar 3
189 : h 30 if (get_colorspace(inhdr) == XVID_CSP_NULL)
190 : Isibaar 3 {
191 : h 30 return ICERR_BADFORMAT;
192 : Isibaar 3 }
193 :    
194 :     if (lpbiOutput == NULL)
195 :     {
196 :     return sizeof(BITMAPV4HEADER);
197 :     }
198 :    
199 : h 30 memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
200 :     outhdr->biSize = sizeof(BITMAPINFOHEADER);
201 :     outhdr->biSizeImage = compress_get_size(codec, lpbiInput, lpbiOutput);
202 :     outhdr->biXPelsPerMeter = 0;
203 :     outhdr->biYPelsPerMeter = 0;
204 :     outhdr->biClrUsed = 0;
205 :     outhdr->biClrImportant = 0;
206 : Isibaar 3
207 :     if (codec->config.fourcc_used == 0)
208 :     {
209 : h 30 outhdr->biCompression = FOURCC_XVID;
210 : Isibaar 3 }
211 : h 30 else if (codec->config.fourcc_used == 1)
212 :     {
213 :     outhdr->biCompression = FOURCC_DIVX;
214 :     }
215 : Isibaar 3 else
216 :     {
217 : h 30 outhdr->biCompression = FOURCC_DX50;
218 : Isibaar 3 }
219 :    
220 :     return ICERR_OK;
221 :     }
222 :    
223 :    
224 :     LRESULT compress_get_size(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
225 :     {
226 : suxen_drol 670 return 2 * lpbiOutput->bmiHeader.biWidth * lpbiOutput->bmiHeader.biHeight * 3;
227 : Isibaar 3 }
228 :    
229 :    
230 :     LRESULT compress_frames_info(CODEC * codec, ICCOMPRESSFRAMES * icf)
231 :     {
232 :     // DEBUG2("frate fscale", codec->frate, codec->fscale);
233 :     codec->fincr = icf->dwScale;
234 :     codec->fbase = icf->dwRate;
235 :     return ICERR_OK;
236 :     }
237 :    
238 :    
239 :     LRESULT compress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
240 :     {
241 :     XVID_ENC_PARAM param;
242 :     XVID_INIT_PARAM init_param;
243 :    
244 :     switch (codec->config.mode)
245 :     {
246 :     case DLG_MODE_CBR :
247 : h 121 param.rc_bitrate = codec->config.rc_bitrate;
248 :     param.rc_reaction_delay_factor = codec->config.rc_reaction_delay_factor;
249 :     param.rc_averaging_period = codec->config.rc_averaging_period;
250 :     param.rc_buffer = codec->config.rc_buffer;
251 : Isibaar 3 break;
252 :    
253 :     case DLG_MODE_VBR_QUAL :
254 :     codec->config.fquant = 0;
255 : h 121 param.rc_bitrate = 0;
256 : Isibaar 3 break;
257 :    
258 :     case DLG_MODE_VBR_QUANT :
259 :     codec->config.fquant = (float) codec->config.quant;
260 : h 121 param.rc_bitrate = 0;
261 : Isibaar 3 break;
262 :    
263 : h 61 case DLG_MODE_2PASS_1 :
264 :     case DLG_MODE_2PASS_2_INT :
265 :     case DLG_MODE_2PASS_2_EXT :
266 : h 121 param.rc_bitrate = 0;
267 : h 109 codec->twopass.max_framesize = (int)((double)codec->config.twopass_max_bitrate / 8.0 / ((double)codec->fbase / (double)codec->fincr));
268 : Isibaar 3 break;
269 :    
270 : h 61 case DLG_MODE_NULL :
271 :     return ICERR_OK;
272 :    
273 : Isibaar 3 default :
274 :     break;
275 :     }
276 :    
277 :     if(codec->ehandle)
278 :     {
279 :     xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
280 :     codec->ehandle = NULL;
281 :     }
282 :    
283 :     init_param.cpu_flags = codec->config.cpu;
284 :     xvid_init(0, 0, &init_param, NULL);
285 :     if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
286 :     codec->config.cpu = init_param.cpu_flags;
287 :    
288 : h 30 param.width = lpbiInput->bmiHeader.biWidth;
289 :     param.height = lpbiInput->bmiHeader.biHeight;
290 : Isibaar 3 param.fincr = codec->fincr;
291 :     param.fbase = codec->fbase;
292 :    
293 : h 30 param.min_quantizer = codec->config.min_pquant;
294 :     param.max_quantizer = codec->config.max_pquant;
295 : Isibaar 3 param.max_key_interval = codec->config.max_key_interval;
296 :    
297 : suxen_drol 295 #ifdef _SMP
298 :     param.num_threads = codec->config.num_threads;
299 :     #endif
300 :    
301 : suxen_drol 235 param.global = 0;
302 :     if (codec->config.packed) param.global |= XVID_GLOBAL_PACKED;
303 :     if (codec->config.dx50bvop) param.global |= XVID_GLOBAL_DX50BVOP;
304 :     if (codec->config.debug) param.global |= XVID_GLOBAL_DEBUG;
305 : suxen_drol 716 if (codec->config.reduced_resolution) param.global |= XVID_GLOBAL_REDUCED;
306 : suxen_drol 228 param.max_bframes = codec->config.max_bframes;
307 :     param.bquant_ratio = codec->config.bquant_ratio;
308 : suxen_drol 660 param.bquant_offset = codec->config.bquant_offset;
309 : suxen_drol 324 param.frame_drop_ratio = codec->config.frame_drop_ratio;
310 : suxen_drol 228
311 : Isibaar 3 switch(xvid_encore(0, XVID_ENC_CREATE, &param, NULL))
312 :     {
313 :     case XVID_ERR_FAIL :
314 :     return ICERR_ERROR;
315 :    
316 :     case XVID_ERR_MEMORY :
317 :     return ICERR_MEMORY;
318 :    
319 :     case XVID_ERR_FORMAT :
320 :     return ICERR_BADFORMAT;
321 :     }
322 :    
323 :     codec->ehandle = param.handle;
324 :     codec->framenum = 0;
325 :     codec->keyspacing = 0;
326 :    
327 : h 102 codec->twopass.hints = codec->twopass.stats1 = codec->twopass.stats2 = INVALID_HANDLE_VALUE;
328 :     codec->twopass.hintstream = NULL;
329 : Isibaar 3
330 :     return ICERR_OK;
331 :     }
332 :    
333 :    
334 :     LRESULT compress_end(CODEC * codec)
335 :     {
336 :     if (codec->ehandle != NULL)
337 :     {
338 :     xvid_encore(codec->ehandle, XVID_ENC_DESTROY, NULL, NULL);
339 : h 102
340 :     if (codec->twopass.hints != INVALID_HANDLE_VALUE)
341 :     {
342 :     CloseHandle(codec->twopass.hints);
343 :     }
344 : Isibaar 3 if (codec->twopass.stats1 != INVALID_HANDLE_VALUE)
345 :     {
346 :     CloseHandle(codec->twopass.stats1);
347 :     }
348 :     if (codec->twopass.stats2 != INVALID_HANDLE_VALUE)
349 :     {
350 :     CloseHandle(codec->twopass.stats2);
351 :     }
352 : h 102 if (codec->twopass.hintstream != NULL)
353 :     {
354 :     free(codec->twopass.hintstream);
355 :     }
356 :    
357 : Isibaar 3 codec->ehandle = NULL;
358 : h 105
359 :     codec_2pass_finish(codec);
360 : Isibaar 3 }
361 :    
362 :     return ICERR_OK;
363 :     }
364 :    
365 :    
366 :     LRESULT compress(CODEC * codec, ICCOMPRESS * icc)
367 :     {
368 : h 30 BITMAPINFOHEADER * inhdr = icc->lpbiInput;
369 :     BITMAPINFOHEADER * outhdr = icc->lpbiOutput;
370 : Isibaar 3 XVID_ENC_FRAME frame;
371 :     XVID_ENC_STATS stats;
372 :    
373 :     // mpeg2avi yuv bug workaround (2 instances of CODEC)
374 :     if (codec->twopass.stats1 == INVALID_HANDLE_VALUE)
375 :     {
376 :     if (codec_2pass_init(codec) == ICERR_ERROR)
377 :     {
378 :     return ICERR_ERROR;
379 :     }
380 :     }
381 :    
382 :     frame.general = 0;
383 :     frame.motion = 0;
384 : h 30 frame.intra = -1;
385 : Isibaar 3
386 :     frame.general |= XVID_HALFPEL;
387 : Isibaar 364 // frame.general |= XVID_ME_EPZS;
388 : Isibaar 3
389 : syskin 838 frame.general |= XVID_HQACPRED;
390 :    
391 : h 127 if (codec->config.motion_search > 4)
392 : Isibaar 3 frame.general |= XVID_INTER4V;
393 :    
394 : h 127 if (codec->config.lum_masking)
395 : Isibaar 3 frame.general |= XVID_LUMIMASKING;
396 :    
397 : h 102 if (codec->config.interlacing)
398 : Isibaar 364 frame.general |= XVID_INTERLACING;
399 : chl 355
400 : suxen_drol 660 if (codec->config.qpel) {
401 :     frame.general |= XVID_QUARTERPEL;
402 :     frame.motion |= PMV_QUARTERPELREFINE16 | PMV_QUARTERPELREFINE8;
403 :     }
404 : suxen_drol 632
405 : suxen_drol 660 if (codec->config.gmc)
406 :     frame.general |= XVID_GMC;
407 :    
408 :     if (codec->config.chromame)
409 : syskin 802 frame.motion |= PMV_CHROMA16 + PMV_CHROMA8;
410 : suxen_drol 660
411 : suxen_drol 716 if (codec->config.reduced_resolution)
412 :     frame.general |= XVID_REDUCED;
413 :    
414 : Isibaar 364 // added by koepi for credits greyscale
415 :    
416 :     check_greyscale_mode(&codec->config, &frame, codec->framenum);
417 :    
418 :     // end of koepi's addition
419 :    
420 :    
421 : Isibaar 176 // fix 1pass modes/hinted MV by koepi
422 :     if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_CBR || codec->config.mode == DLG_MODE_VBR_QUAL || codec->config.mode == DLG_MODE_VBR_QUANT))
423 :     {
424 :     codec->config.hinted_me = 0;
425 :     }
426 :     // end of ugly hack
427 : h 102
428 :     if (codec->config.hinted_me && codec->config.mode == DLG_MODE_2PASS_1)
429 :     {
430 :     frame.hint.hintstream = codec->twopass.hintstream;
431 :     frame.hint.rawhints = 0;
432 :     frame.general |= XVID_HINTEDME_GET;
433 :     }
434 : h 103 else if (codec->config.hinted_me && (codec->config.mode == DLG_MODE_2PASS_2_EXT || codec->config.mode == DLG_MODE_2PASS_2_INT))
435 : h 102 {
436 :     DWORD read;
437 :     DWORD blocksize;
438 :    
439 :     frame.hint.hintstream = codec->twopass.hintstream;
440 :     frame.hint.rawhints = 0;
441 :     frame.general |= XVID_HINTEDME_SET;
442 :    
443 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
444 :     {
445 :     codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_READ, 0, 0, OPEN_EXISTING, 0, 0);
446 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
447 :     {
448 :     DEBUGERR("couldn't open hints file");
449 :     return ICERR_ERROR;
450 :     }
451 :     }
452 :     if (!ReadFile(codec->twopass.hints, &blocksize, sizeof(DWORD), &read, 0) || read != sizeof(DWORD) ||
453 :     !ReadFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &read, 0) || read != blocksize)
454 :     {
455 :     DEBUGERR("couldn't read from hints file");
456 :     return ICERR_ERROR;
457 :     }
458 :     }
459 :    
460 : suxen_drol 660 frame.motion |= pmvfast_presets[codec->config.motion_search];
461 : h 30
462 : syskin 838 switch (codec->config.vhq_mode)
463 :     {
464 :     case VHQ_MODE_DECISION :
465 :     frame.general |= XVID_MODEDECISION_BITS;
466 :     break;
467 :    
468 :     case VHQ_LIMITED_SEARCH :
469 :     frame.general |= XVID_MODEDECISION_BITS;
470 :     frame.motion |= HALFPELREFINE16_BITS;
471 :     frame.motion |= QUARTERPELREFINE16_BITS;
472 :     break;
473 :    
474 :     case VHQ_MEDIUM_SEARCH :
475 :     frame.general |= XVID_MODEDECISION_BITS;
476 :     frame.motion |= HALFPELREFINE16_BITS;
477 :     frame.motion |= HALFPELREFINE8_BITS;
478 :     frame.motion |= QUARTERPELREFINE16_BITS;
479 :     frame.motion |= QUARTERPELREFINE8_BITS;
480 :     frame.motion |= CHECKPREDICTION_BITS;
481 :     break;
482 :    
483 :     case VHQ_WIDE_SEARCH :
484 :     frame.general |= XVID_MODEDECISION_BITS;
485 :     frame.motion |= HALFPELREFINE16_BITS;
486 :     frame.motion |= HALFPELREFINE8_BITS;
487 :     frame.motion |= QUARTERPELREFINE16_BITS;
488 :     frame.motion |= QUARTERPELREFINE8_BITS;
489 :     frame.motion |= CHECKPREDICTION_BITS;
490 :     frame.motion |= EXTSEARCH_BITS;
491 :     break;
492 :    
493 :     default :
494 :     break;
495 :     }
496 :    
497 : Isibaar 3 frame.image = icc->lpInput;
498 : suxen_drol 632 frame.stride = (((icc->lpbiInput->biWidth * icc->lpbiInput->biBitCount) + 31) & ~31) >> 3;
499 : Isibaar 3
500 : h 30 if ((frame.colorspace = get_colorspace(inhdr)) == XVID_CSP_NULL)
501 : Isibaar 3 return ICERR_BADFORMAT;
502 :    
503 : suxen_drol 726 if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
504 :     frame.stride = (frame.stride*2)/3;
505 :    
506 : Isibaar 3 frame.bitstream = icc->lpOutput;
507 :     frame.length = icc->lpbiOutput->biSizeImage;
508 :    
509 :     switch (codec->config.mode)
510 :     {
511 :     case DLG_MODE_CBR :
512 :     frame.quant = 0;
513 :     break;
514 :    
515 :     case DLG_MODE_VBR_QUAL :
516 :     case DLG_MODE_VBR_QUANT :
517 :     case DLG_MODE_2PASS_1 :
518 :     if (codec_get_quant(codec, &frame) == ICERR_ERROR)
519 :     {
520 :     return ICERR_ERROR;
521 :     }
522 :     break;
523 :    
524 :     case DLG_MODE_2PASS_2_EXT :
525 :     case DLG_MODE_2PASS_2_INT :
526 :     if (codec_2pass_get_quant(codec, &frame) == ICERR_ERROR)
527 :     {
528 :     return ICERR_ERROR;
529 :     }
530 :     if (codec->config.dummy2pass)
531 :     {
532 : h 30 outhdr->biSizeImage = codec->twopass.bytes2;
533 : Isibaar 3 *icc->lpdwFlags = (codec->twopass.nns1.quant & NNSTATS_KEYFRAME) ? AVIIF_KEYFRAME : 0;
534 :     return ICERR_OK;
535 :     }
536 :     break;
537 :    
538 :     case DLG_MODE_NULL :
539 : h 30 outhdr->biSizeImage = 0;
540 : Isibaar 3 *icc->lpdwFlags = AVIIF_KEYFRAME;
541 :     return ICERR_OK;
542 :    
543 :     default :
544 : h 61 DEBUGERR("Invalid encoding mode");
545 : Isibaar 3 return ICERR_ERROR;
546 :     }
547 :    
548 : h 30 if (codec->config.quant_type == QUANT_MODE_H263)
549 : Isibaar 3 {
550 : h 30 frame.general |= XVID_H263QUANT;
551 :     }
552 :     else
553 :     {
554 :     frame.general |= XVID_MPEGQUANT;
555 :    
556 :     // we actually need "default/custom" selectbox for both inter/intra
557 :     // this will do for now
558 :     if (codec->config.quant_type == QUANT_MODE_CUSTOM)
559 :     {
560 :     frame.general |= XVID_CUSTOM_QMATRIX;
561 :     frame.quant_intra_matrix = codec->config.qmatrix_intra;
562 :     frame.quant_inter_matrix = codec->config.qmatrix_inter;
563 :     }
564 :     else
565 :     {
566 :     frame.quant_intra_matrix = NULL;
567 :     frame.quant_inter_matrix = NULL;
568 :     }
569 :     }
570 :    
571 :     // force keyframe spacing in 2-pass 1st pass
572 :     if (codec->config.motion_search == 0)
573 :     {
574 :     frame.intra = 1;
575 :     }
576 : h 109 else if (codec->keyspacing < codec->config.min_key_interval && codec->framenum)
577 : h 30 {
578 : Isibaar 3 DEBUG("current frame forced to p-frame");
579 :     frame.intra = 0;
580 :     }
581 :    
582 : suxen_drol 278 frame.bquant = 0;
583 :    
584 : suxen_drol 324 // OutputDebugString(" ");
585 : Isibaar 3 switch (xvid_encore(codec->ehandle, XVID_ENC_ENCODE, &frame, &stats))
586 :     {
587 :     case XVID_ERR_FAIL :
588 :     return ICERR_ERROR;
589 :    
590 :     case XVID_ERR_MEMORY :
591 :     return ICERR_MEMORY;
592 :    
593 :     case XVID_ERR_FORMAT :
594 :     return ICERR_BADFORMAT;
595 :     }
596 :    
597 : suxen_drol 660 if (frame.intra==1)
598 : Isibaar 3 {
599 :     codec->keyspacing = 0;
600 :     *icc->lpdwFlags = AVIIF_KEYFRAME;
601 :     }
602 :     else
603 :     {
604 :     *icc->lpdwFlags = 0;
605 :     }
606 :    
607 : h 30 outhdr->biSizeImage = frame.length;
608 : Isibaar 3
609 : h 30 if (codec->config.mode == DLG_MODE_2PASS_1 && codec->config.discard1pass)
610 : Isibaar 3 {
611 : h 30 outhdr->biSizeImage = 0;
612 : Isibaar 3 }
613 :    
614 : h 102 if (frame.general & XVID_HINTEDME_GET)
615 :     {
616 :     DWORD wrote;
617 :     DWORD blocksize = frame.hint.hintlength;
618 :    
619 :     if (codec->twopass.hints == INVALID_HANDLE_VALUE)
620 :     {
621 :     codec->twopass.hints = CreateFile(codec->config.hintfile, GENERIC_WRITE, 0, 0, CREATE_ALWAYS, 0, 0);
622 : suxen_drol 228 if (codec->twopass.hints == INVALID_HANDLE_VALUE)
623 : h 102 {
624 :     DEBUGERR("couldn't create hints file");
625 :     return ICERR_ERROR;
626 :     }
627 :     }
628 :     if (!WriteFile(codec->twopass.hints, &frame.hint.hintlength, sizeof(int), &wrote, 0) || wrote != sizeof(int) ||
629 :     !WriteFile(codec->twopass.hints, frame.hint.hintstream, blocksize, &wrote, 0) || wrote != blocksize)
630 :     {
631 :     DEBUGERR("couldn't write to hints file");
632 :     return ICERR_ERROR;
633 :     }
634 :     }
635 :    
636 : suxen_drol 660 //quick fix for delayed frames
637 :     // if (frame.intra != 5)
638 :     codec_2pass_update(codec, &frame, &stats);
639 : Isibaar 3
640 :     ++codec->framenum;
641 :     ++codec->keyspacing;
642 :    
643 :     return ICERR_OK;
644 :     }
645 :    
646 :    
647 :     /* decompressor */
648 :    
649 :    
650 :     LRESULT decompress_query(CODEC * codec, BITMAPINFO *lpbiInput, BITMAPINFO *lpbiOutput)
651 :     {
652 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
653 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
654 : Isibaar 3
655 :     if (lpbiInput == NULL)
656 :     {
657 :     return ICERR_ERROR;
658 :     }
659 :    
660 : suxen_drol 660 if (inhdr->biCompression != FOURCC_XVID && inhdr->biCompression != FOURCC_DIVX && inhdr->biCompression != FOURCC_DX50 && get_colorspace(inhdr) == XVID_CSP_NULL)
661 : Isibaar 3 {
662 :     return ICERR_BADFORMAT;
663 :     }
664 :    
665 :     if (lpbiOutput == NULL)
666 :     {
667 :     return ICERR_OK;
668 :     }
669 :    
670 : h 30 if (inhdr->biWidth != outhdr->biWidth ||
671 :     inhdr->biHeight != outhdr->biHeight ||
672 : Isibaar 3 get_colorspace(outhdr) == XVID_CSP_NULL)
673 :     {
674 :     return ICERR_BADFORMAT;
675 :     }
676 :    
677 :     return ICERR_OK;
678 :     }
679 :    
680 :    
681 :     LRESULT decompress_get_format(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
682 :     {
683 : h 30 BITMAPINFOHEADER * inhdr = &lpbiInput->bmiHeader;
684 :     BITMAPINFOHEADER * outhdr = &lpbiOutput->bmiHeader;
685 : Isibaar 3 LRESULT result;
686 :    
687 :     if (lpbiOutput == NULL)
688 :     {
689 : h 30 return sizeof(BITMAPINFOHEADER);
690 : Isibaar 3 }
691 :    
692 : suxen_drol 625 /* --- yv12 --- */
693 : suxen_drol 660
694 : suxen_drol 634 if (get_colorspace(inhdr) != XVID_CSP_NULL) {
695 : suxen_drol 625 memcpy(outhdr, inhdr, sizeof(BITMAPINFOHEADER));
696 : suxen_drol 634 // XXX: should we set outhdr->biSize ??
697 : suxen_drol 625 return ICERR_OK;
698 :     }
699 :     /* --- yv12 --- */
700 :    
701 : suxen_drol 811 result = decompress_query(codec, lpbiInput, NULL);
702 : Isibaar 3 if (result != ICERR_OK)
703 :     {
704 :     return result;
705 :     }
706 :    
707 : h 30 outhdr->biSize = sizeof(BITMAPINFOHEADER);
708 : suxen_drol 811 outhdr->biWidth = inhdr->biWidth;
709 :     outhdr->biHeight = inhdr->biHeight;
710 :     outhdr->biPlanes = 1;
711 :     outhdr->biBitCount = 24;
712 :     outhdr->biCompression = BI_RGB; /* sonic foundry vegas video v3 only supports BI_RGB */
713 : h 30 outhdr->biSizeImage = outhdr->biWidth * outhdr->biHeight * outhdr->biBitCount;
714 :     outhdr->biXPelsPerMeter = 0;
715 :     outhdr->biYPelsPerMeter = 0;
716 :     outhdr->biClrUsed = 0;
717 :     outhdr->biClrImportant = 0;
718 : Isibaar 3
719 :     return ICERR_OK;
720 :     }
721 :    
722 :    
723 :     LRESULT decompress_begin(CODEC * codec, BITMAPINFO * lpbiInput, BITMAPINFO * lpbiOutput)
724 :     {
725 :     XVID_DEC_PARAM param;
726 :     XVID_INIT_PARAM init_param;
727 :    
728 :     init_param.cpu_flags = codec->config.cpu;
729 :     xvid_init(0, 0, &init_param, NULL);
730 :     if((codec->config.cpu & XVID_CPU_FORCE) <= 0)
731 :     {
732 :     codec->config.cpu = init_param.cpu_flags;
733 :     }
734 :    
735 : h 30 param.width = lpbiInput->bmiHeader.biWidth;
736 :     param.height = lpbiInput->bmiHeader.biHeight;
737 : Isibaar 3
738 :     switch(xvid_decore(0, XVID_DEC_CREATE, &param, NULL))
739 :     {
740 :     case XVID_ERR_FAIL :
741 :     return ICERR_ERROR;
742 :    
743 :     case XVID_ERR_MEMORY :
744 :     return ICERR_MEMORY;
745 :    
746 :     case XVID_ERR_FORMAT :
747 :     return ICERR_BADFORMAT;
748 :     }
749 :    
750 :     codec->dhandle = param.handle;
751 :    
752 :     return ICERR_OK;
753 :     }
754 :    
755 :    
756 :     LRESULT decompress_end(CODEC * codec)
757 :     {
758 :     if (codec->dhandle != NULL)
759 :     {
760 :     xvid_decore(codec->dhandle, XVID_DEC_DESTROY, NULL, NULL);
761 :     codec->dhandle = NULL;
762 :     }
763 :     return ICERR_OK;
764 :     }
765 :    
766 :    
767 :     LRESULT decompress(CODEC * codec, ICDECOMPRESS * icd)
768 :     {
769 :     XVID_DEC_FRAME frame;
770 :    
771 :     frame.bitstream = icd->lpInput;
772 :     frame.length = icd->lpbiInput->biSizeImage;
773 : suxen_drol 707 frame.general = XVID_DEC_LOWDELAY; /* force low_delay_default mode */
774 : suxen_drol 716 if (codec->config.deblock_y)
775 :     frame.general |= XVID_DEC_DEBLOCKY;
776 :     if (codec->config.deblock_uv)
777 :     frame.general |= XVID_DEC_DEBLOCKUV;
778 :    
779 : Isibaar 3 frame.image = icd->lpOutput;
780 : suxen_drol 632 frame.stride = (((icd->lpbiOutput->biWidth * icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
781 : Isibaar 3
782 : suxen_drol 625 /* --- yv12 --- */
783 : suxen_drol 634 if (icd->lpbiInput->biCompression != FOURCC_XVID &&
784 : suxen_drol 660 icd->lpbiInput->biCompression != FOURCC_DIVX &&
785 :     icd->lpbiInput->biCompression != FOURCC_DX50)
786 : suxen_drol 634 {
787 :     XVID_INIT_CONVERTINFO convert;
788 :     DEBUGFOURCC("input", icd->lpbiInput->biCompression);
789 : suxen_drol 625 DEBUGFOURCC("output", icd->lpbiOutput->biCompression);
790 : suxen_drol 634 convert.input.colorspace = get_colorspace(icd->lpbiInput);
791 :     convert.input.y = icd->lpInput;
792 : suxen_drol 660 convert.input.y_stride = (((icd->lpbiInput->biWidth *icd->lpbiInput->biBitCount) + 31) & ~31) >> 3;
793 : suxen_drol 726 if (convert.input.colorspace == XVID_CSP_I420 || convert.input.colorspace == XVID_CSP_YV12)
794 :     convert.input.y_stride = (convert.input.y_stride*2)/3;
795 :    
796 : suxen_drol 634 convert.output.colorspace = get_colorspace(icd->lpbiOutput);
797 :     convert.output.y = icd->lpOutput;
798 : suxen_drol 660 convert.output.y_stride = (((icd->lpbiOutput->biWidth *icd->lpbiOutput->biBitCount) + 31) & ~31) >> 3;
799 : suxen_drol 726 if (convert.output.colorspace == XVID_CSP_I420 || convert.output.colorspace == XVID_CSP_YV12)
800 :     convert.output.y_stride = (convert.output.y_stride*2)/3;
801 :    
802 : suxen_drol 634 convert.width = icd->lpbiInput->biWidth;
803 :     convert.height = icd->lpbiInput->biHeight;
804 :     convert.interlacing = 0;
805 :     if (convert.input.colorspace == XVID_CSP_NULL ||
806 :     convert.output.colorspace == XVID_CSP_NULL ||
807 :     xvid_init(NULL, XVID_INIT_CONVERT, &convert, NULL) != XVID_ERR_OK)
808 :     {
809 : suxen_drol 660 return ICERR_BADFORMAT;
810 : suxen_drol 634 }
811 : suxen_drol 625 return ICERR_OK;
812 :     }
813 :     /* --- yv12 --- */
814 :    
815 :    
816 : suxen_drol 137 if (~((icd->dwFlags & ICDECOMPRESS_HURRYUP) | (icd->dwFlags & ICDECOMPRESS_UPDATE) | (icd->dwFlags & ICDECOMPRESS_PREROLL)))
817 : Isibaar 3 {
818 : h 30 if ((frame.colorspace = get_colorspace(icd->lpbiOutput)) == XVID_CSP_NULL)
819 : Isibaar 3 {
820 :     return ICERR_BADFORMAT;
821 :     }
822 :     }
823 :     else
824 :     {
825 :     frame.colorspace = XVID_CSP_NULL;
826 :     }
827 :    
828 : suxen_drol 726 if (frame.colorspace == XVID_CSP_I420 || frame.colorspace == XVID_CSP_YV12)
829 :     frame.stride = (frame.stride*2)/3;
830 :    
831 : Isibaar 3 switch (xvid_decore(codec->dhandle, XVID_DEC_DECODE, &frame, NULL))
832 :     {
833 :     case XVID_ERR_FAIL :
834 :     return ICERR_ERROR;
835 :    
836 :     case XVID_ERR_MEMORY :
837 :     return ICERR_MEMORY;
838 :    
839 :     case XVID_ERR_FORMAT :
840 :     return ICERR_BADFORMAT;
841 :     }
842 :    
843 :     return ICERR_OK;
844 :     }
845 :    
846 :     int codec_get_quant(CODEC* codec, XVID_ENC_FRAME* frame)
847 :     {
848 :     switch (codec->config.mode)
849 :     {
850 :     case DLG_MODE_VBR_QUAL :
851 :     if (codec_is_in_credits(&codec->config, codec->framenum))
852 :     {
853 : Isibaar 364 // added by koepi for credits greyscale
854 :    
855 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
856 :    
857 :     // end of koepi's addition
858 :    
859 : Isibaar 3 switch (codec->config.credits_mode)
860 :     {
861 :     case CREDITS_MODE_RATE :
862 :     frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality * codec->config.credits_rate / 100);
863 :     break;
864 :    
865 :     case CREDITS_MODE_QUANT :
866 :     frame->quant = codec->config.credits_quant_p;
867 :     break;
868 :    
869 :     default :
870 : h 61 DEBUGERR("Can't use credits size mode in quality mode");
871 : Isibaar 3 return ICERR_ERROR;
872 :     }
873 :     }
874 :     else
875 :     {
876 : Isibaar 364 // added by koepi for credits greyscale
877 :    
878 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
879 :    
880 :     // end of koepi's addition
881 :    
882 : Isibaar 3 frame->quant = codec_get_vbr_quant(&codec->config, codec->config.quality);
883 :     }
884 :     return ICERR_OK;
885 :    
886 :     case DLG_MODE_VBR_QUANT :
887 :     if (codec_is_in_credits(&codec->config, codec->framenum))
888 :     {
889 : Isibaar 364 // added by koepi for credits greyscale
890 :    
891 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
892 :    
893 :     // end of koepi's addition
894 :    
895 : Isibaar 3 switch (codec->config.credits_mode)
896 :     {
897 :     case CREDITS_MODE_RATE :
898 :     frame->quant =
899 : h 30 codec->config.max_pquant -
900 :     ((codec->config.max_pquant - codec->config.quant) * codec->config.credits_rate / 100);
901 : Isibaar 3 break;
902 :    
903 :     case CREDITS_MODE_QUANT :
904 :     frame->quant = codec->config.credits_quant_p;
905 :     break;
906 :    
907 :     default :
908 : h 61 DEBUGERR("Can't use credits size mode in quantizer mode");
909 : Isibaar 3 return ICERR_ERROR;
910 :     }
911 :     }
912 :     else
913 :     {
914 : Isibaar 364 // added by koepi for credits greyscale
915 :    
916 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
917 :    
918 :     // end of koepi's addition
919 :    
920 : Isibaar 3 frame->quant = codec->config.quant;
921 :     }
922 :     return ICERR_OK;
923 :    
924 :     case DLG_MODE_2PASS_1 :
925 : Isibaar 364 // added by koepi for credits greyscale
926 :    
927 :     check_greyscale_mode(&codec->config, frame, codec->framenum);
928 :    
929 :     // end of koepi's addition
930 :    
931 : Isibaar 3 if (codec->config.credits_mode == CREDITS_MODE_QUANT)
932 :     {
933 :     if (codec_is_in_credits(&codec->config, codec->framenum))
934 :     {
935 :     frame->quant = codec->config.credits_quant_p;
936 :     }
937 :     else
938 :     {
939 :     frame->quant = 2;
940 :     }
941 :     }
942 :     else
943 :     {
944 :     frame->quant = 2;
945 :     }
946 :     return ICERR_OK;
947 :    
948 :     default:
949 : h 61 DEBUGERR("get quant: invalid mode");
950 : Isibaar 3 return ICERR_ERROR;
951 :     }
952 :     }
953 :    
954 :    
955 :     int codec_is_in_credits(CONFIG* config, int framenum)
956 :     {
957 :     if (config->credits_start)
958 :     {
959 :     if (framenum >= config->credits_start_begin &&
960 :     framenum <= config->credits_start_end)
961 :     {
962 :     return CREDITS_START;
963 :     }
964 :     }
965 :    
966 :     if (config->credits_end)
967 :     {
968 :     if (framenum >= config->credits_end_begin &&
969 :     framenum <= config->credits_end_end)
970 :     {
971 :     return CREDITS_END;
972 :     }
973 :     }
974 :    
975 :     return 0;
976 :     }
977 :    
978 :    
979 :     int codec_get_vbr_quant(CONFIG* config, int quality)
980 :     {
981 :     static float fquant_running = 0;
982 :     static int my_quality = -1;
983 :     int quant;
984 :    
985 :     // if quality changes, recalculate fquant (credits)
986 :     if (quality != my_quality)
987 :     {
988 :     config->fquant = 0;
989 :     }
990 :    
991 :     my_quality = quality;
992 :    
993 :     // desired quantiser = (maxQ-minQ)/100 * (100-qual) + minQ
994 :     if (!config->fquant)
995 :     {
996 :     config->fquant =
997 : h 30 ((float) (config->max_pquant - config->min_pquant) / 100) *
998 : Isibaar 3 (100 - quality) +
999 : h 30 (float) config->min_pquant;
1000 : Isibaar 3
1001 :     fquant_running = config->fquant;
1002 :     }
1003 :    
1004 : h 30 if (fquant_running < config->min_pquant)
1005 : Isibaar 3 {
1006 : h 30 fquant_running = (float) config->min_pquant;
1007 : Isibaar 3 }
1008 : h 30 else if(fquant_running > config->max_pquant)
1009 : Isibaar 3 {
1010 : h 30 fquant_running = (float) config->max_pquant;
1011 : Isibaar 3 }
1012 :    
1013 :     quant = (int) fquant_running;
1014 :    
1015 :     // add error between fquant and quant to fquant_running
1016 :     fquant_running += config->fquant - quant;
1017 :    
1018 :     return quant;
1019 :     }
1020 :    
1021 : Isibaar 364 // added by koepi for credits greyscale
1022 :    
1023 :     int check_greyscale_mode(CONFIG* config, XVID_ENC_FRAME* frame, int framenum)
1024 :    
1025 :     {
1026 :    
1027 :     if ((codec_is_in_credits(config, framenum)) && (config->mode!=DLG_MODE_CBR))
1028 :    
1029 :     {
1030 :    
1031 :     if (config->credits_greyscale)
1032 :    
1033 :     {
1034 :    
1035 :     if ((frame->general && XVID_GREYSCALE)) // use only if not already in greyscale
1036 :    
1037 :     frame->general |= XVID_GREYSCALE;
1038 :    
1039 :     } else {
1040 :    
1041 :     if (!(frame->general && XVID_GREYSCALE)) // if movie is in greyscale, switch back
1042 :    
1043 :     frame->general |= XVID_GREYSCALE;
1044 :    
1045 :     }
1046 :    
1047 :     } else {
1048 :    
1049 :     if (config->greyscale)
1050 :    
1051 :     {
1052 :    
1053 :     if ((frame->general && XVID_GREYSCALE)) // use only if not already in greyscale
1054 :    
1055 :     frame->general |= XVID_GREYSCALE;
1056 :    
1057 :     } else {
1058 :    
1059 :     if (!(frame->general && XVID_GREYSCALE)) // if credits is in greyscale, switch back
1060 :    
1061 :     frame->general |= XVID_GREYSCALE;
1062 :    
1063 :     }
1064 :    
1065 :     }
1066 :    
1067 :     return 0;
1068 :    
1069 :     }
1070 :    
1071 :     // end of koepi's addition
1072 :    

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4