glib/win_iconv.c

   1 /*\r
   2  * iconv library implemented with Win32 API.\r
   3  *\r
   4  * This file is placed in the public domain.\r
   5  *\r
   6  * Maintainer: Yukihiro Nakadaira <yukihiro.nakadaira@gmail.com>\r
   7  *\r
   8  * If $WINICONV_LIBICONV_DLL environment variable was defined, win_iconv\r
   9  * loads the specified DLL dynamically and uses it.  If loading the DLL\r
  10  * or iconv_open() failed, falls back to internal conversion.\r
  11  * $WINICONV_LIBICONV_DLL is a comma separated list.  The first loadable\r
  12  * DLL is used.  The specified DLL should have iconv_open(),\r
  13  * iconv_close() and iconv() functions.  Or these functions can be\r
  14  * libiconv_open(), libiconv_close() and libiconv().\r
  15  *\r
  16  * Win32 API does not support strict encoding conversion for some\r
  17  * codepage.  And MLang function drop or replace invalid bytes and does\r
  18  * not return useful error status as iconv.  This implementation cannot\r
  19  * be used for encoding validation purpose.\r
  20  */\r
  21 \r
  22 #include <windows.h>\r
  23 #include <errno.h>\r
  24 #include <string.h>\r
  25 #include <stdlib.h>\r
  26 \r
  27 #if 0\r
  28 # define MAKE_EXE\r
  29 # define MAKE_DLL\r
  30 # define USE_LIBICONV_DLL\r
  31 #endif\r
  32 \r
  33 #if !defined(DEFAULT_LIBICONV_DLL)\r
  34 # define DEFAULT_LIBICONV_DLL ""\r
  35 #endif\r
  36 \r
  37 #define MB_CHAR_MAX 16\r
  38 \r
  39 #define UNICODE_MODE_BOM_DONE 1\r
  40 #define UNICODE_MODE_SWAPPED 2\r
  41 \r
  42 #define UNICODE_FLAG_USE_BOM_ENDIAN 1\r
  43 \r
  44 #define return_error(code)  \\r
  45     do {                    \\r
  46         errno = code;       \\r
  47         return -1;          \\r
  48     } while (0)\r
  49 \r
  50 #define xstrlcpy(dst, src, size)    \\r
  51     do {                            \\r
  52         strncpy(dst, src, size);    \\r
  53         dst[size - 1] = 0;          \\r
  54     } while (0)\r
  55 \r
  56 #define xstrlcpyn(dst, src, srclen, size) \\r
  57     xstrlcpy(dst, src, xmin((srclen) + 1, size))\r
  58 \r
  59 #define xmin(a, b) ((a) < (b) ? (a) : (b))\r
  60 #define xmax(a, b) ((a) > (b) ? (a) : (b))\r
  61 \r
  62 #define STATIC_STRLEN(arr) (sizeof(arr) - 1)\r
  63 \r
  64 typedef unsigned char uchar;\r
  65 typedef unsigned short ushort;\r
  66 typedef unsigned int uint;\r
  67 \r
  68 typedef void* iconv_t;\r
  69 \r
  70 iconv_t iconv_open(const char *tocode, const char *fromcode);\r
  71 int iconv_close(iconv_t cd);\r
  72 size_t iconv(iconv_t cd, const char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft);\r
  73 \r
  74 /* libiconv interface for vim */\r
  75 #if defined(MAKE_DLL)\r
  76 int\r
  77 iconvctl (iconv_t cd, int request, void* argument)\r
  78 {\r
  79     /* not supported */\r
  80     return 0;\r
  81 }\r
  82 #endif\r
  83 \r
  84 typedef struct compat_t compat_t;\r
  85 typedef struct csconv_t csconv_t;\r
  86 typedef struct rec_iconv_t rec_iconv_t;\r
  87 \r
  88 typedef iconv_t (*f_iconv_open)(const char *tocode, const char *fromcode);\r
  89 typedef int (*f_iconv_close)(iconv_t cd);\r
  90 typedef size_t (*f_iconv)(iconv_t cd, const char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft);\r
  91 typedef int* (*f_errno)(void);\r
  92 typedef int (*f_mbtowc)(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize);\r
  93 typedef int (*f_wctomb)(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize);\r
  94 typedef int (*f_mblen)(csconv_t *cv, const uchar *buf, int bufsize);\r
  95 typedef int (*f_flush)(csconv_t *cv, uchar *buf, int bufsize);\r
  96 \r
  97 #define COMPAT_IN   1\r
  98 #define COMPAT_OUT  2\r
  99 \r
 100 /* unicode mapping for compatibility with other conversion table. */\r
 101 struct compat_t {\r
 102     uint in;\r
 103     uint out;\r
 104     uint flag;\r
 105 };\r
 106 \r
 107 struct csconv_t {\r
 108     int codepage;\r
 109     int flags;\r
 110     f_mbtowc mbtowc;\r
 111     f_wctomb wctomb;\r
 112     f_mblen mblen;\r
 113     f_flush flush;\r
 114     DWORD mode;\r
 115     compat_t *compat;\r
 116 };\r
 117 \r
 118 struct rec_iconv_t {\r
 119     iconv_t cd;\r
 120     f_iconv_close iconv_close;\r
 121     f_iconv iconv;\r
 122     f_errno _errno;\r
 123     csconv_t from;\r
 124     csconv_t to;\r
 125 #if defined(USE_LIBICONV_DLL)\r
 126     HMODULE hlibiconv;\r
 127 #endif\r
 128 };\r
 129 \r
 130 static int win_iconv_open(rec_iconv_t *cd, const char *tocode, const char *fromcode);\r
 131 static int win_iconv_close(iconv_t cd);\r
 132 static size_t win_iconv(iconv_t cd, const char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft);\r
 133 \r
 134 static int load_mlang();\r
 135 static csconv_t make_csconv(const char *name);\r
 136 static int name_to_codepage(const char *name);\r
 137 static uint utf16_to_ucs4(const ushort *wbuf);\r
 138 static void ucs4_to_utf16(uint wc, ushort *wbuf, int *wbufsize);\r
 139 static int is_unicode(int codepage);\r
 140 static void check_utf_bom(rec_iconv_t *cd, ushort *wbuf, int *wbufsize);\r
 141 static char *strrstr(const char *str, const char *token);\r
 142 \r
 143 #if defined(USE_LIBICONV_DLL)\r
 144 static int libiconv_iconv_open(rec_iconv_t *cd, const char *tocode, const char *fromcode);\r
 145 static PVOID MyImageDirectoryEntryToData(LPVOID Base, BOOLEAN MappedAsImage, USHORT DirectoryEntry, PULONG Size);\r
 146 static HMODULE find_imported_module_by_funcname(HMODULE hModule, const char *funcname);\r
 147 \r
 148 static HMODULE hwiniconv;\r
 149 static HMODULE hlastdll; /* keep dll loaded for efficiency (unnecessary?) */\r
 150 #endif\r
 151 \r
 152 static int sbcs_mblen(csconv_t *cv, const uchar *buf, int bufsize);\r
 153 static int dbcs_mblen(csconv_t *cv, const uchar *buf, int bufsize);\r
 154 static int utf8_mblen(csconv_t *cv, const uchar *buf, int bufsize);\r
 155 static int eucjp_mblen(csconv_t *cv, const uchar *buf, int bufsize);\r
 156 \r
 157 static int kernel_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize);\r
 158 static int kernel_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize);\r
 159 static int mlang_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize);\r
 160 static int mlang_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize);\r
 161 static int utf16_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize);\r
 162 static int utf16_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize);\r
 163 static int utf32_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize);\r
 164 static int utf32_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize);\r
 165 static int iso2022jp_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize);\r
 166 static int iso2022jp_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize);\r
 167 static int iso2022jp_flush(csconv_t *cv, uchar *buf, int bufsize);\r
 168 \r
 169 static struct {\r
 170     int codepage;\r
 171     const char *name;\r
 172 } codepage_alias[] = {\r
 173     {65001, "CP65001"},\r
 174     {65001, "UTF8"},\r
 175     {65001, "UTF-8"},\r
 176 \r
 177     {1200, "CP1200"},\r
 178     {1200, "UTF16LE"},\r
 179     {1200, "UTF-16LE"},\r
 180 \r
 181     {1201, "CP1201"},\r
 182     {1201, "UTF16BE"},\r
 183     {1201, "UTF-16BE"},\r
 184     {1201, "unicodeFFFE"},\r
 185 \r
 186     {12000, "CP12000"},\r
 187     {12000, "UTF32LE"},\r
 188     {12000, "UTF-32LE"},\r
 189 \r
 190     {12001, "CP12001"},\r
 191     {12001, "UTF32BE"},\r
 192     {12001, "UTF-32BE"},\r
 193 \r
 194 #ifndef GLIB_COMPILATION\r
 195     /*\r
 196      * Default is big endian.\r
 197      * See rfc2781 4.3 Interpreting text labelled as UTF-16.\r
 198      */\r
 199     {1201, "UTF16"},\r
 200     {1201, "UTF-16"},\r
 201     {12001, "UTF32"},\r
 202     {12001, "UTF-32"},\r
 203 #else\r
 204     /* Default is little endian, because the platform is */\r
 205     {1200, "UTF16"},\r
 206     {1200, "UTF-16"},\r
 207     {12000, "UTF32"},\r
 208     {12000, "UTF-32"},\r
 209 #endif\r
 210 \r
 211     /* copy from libiconv `iconv -l` */\r
 212     /* !IsValidCodePage(367) */\r
 213     {20127, "ANSI_X3.4-1968"},\r
 214     {20127, "ANSI_X3.4-1986"},\r
 215     {20127, "ASCII"},\r
 216     {20127, "CP367"},\r
 217     {20127, "IBM367"},\r
 218     {20127, "ISO-IR-6"},\r
 219     {20127, "ISO646-US"},\r
 220     {20127, "ISO_646.IRV:1991"},\r
 221     {20127, "US"},\r
 222     {20127, "US-ASCII"},\r
 223     {20127, "CSASCII"},\r
 224 \r
 225     /* !IsValidCodePage(819) */\r
 226     {1252, "CP819"},\r
 227     {1252, "IBM819"},\r
 228     {28591, "ISO-8859-1"},\r
 229     {28591, "ISO-IR-100"},\r
 230     {28591, "ISO8859-1"},\r
 231     {28591, "ISO_8859-1"},\r
 232     {28591, "ISO_8859-1:1987"},\r
 233     {28591, "L1"},\r
 234     {28591, "LATIN1"},\r
 235     {28591, "CSISOLATIN1"},\r
 236 \r
 237     {1250, "CP1250"},\r
 238     {1250, "MS-EE"},\r
 239     {1250, "WINDOWS-1250"},\r
 240 \r
 241     {1251, "CP1251"},\r
 242     {1251, "MS-CYRL"},\r
 243     {1251, "WINDOWS-1251"},\r
 244 \r
 245     {1252, "CP1252"},\r
 246     {1252, "MS-ANSI"},\r
 247     {1252, "WINDOWS-1252"},\r
 248 \r
 249     {1253, "CP1253"},\r
 250     {1253, "MS-GREEK"},\r
 251     {1253, "WINDOWS-1253"},\r
 252 \r
 253     {1254, "CP1254"},\r
 254     {1254, "MS-TURK"},\r
 255     {1254, "WINDOWS-1254"},\r
 256 \r
 257     {1255, "CP1255"},\r
 258     {1255, "MS-HEBR"},\r
 259     {1255, "WINDOWS-1255"},\r
 260 \r
 261     {1256, "CP1256"},\r
 262     {1256, "MS-ARAB"},\r
 263     {1256, "WINDOWS-1256"},\r
 264 \r
 265     {1257, "CP1257"},\r
 266     {1257, "WINBALTRIM"},\r
 267     {1257, "WINDOWS-1257"},\r
 268 \r
 269     {1258, "CP1258"},\r
 270     {1258, "WINDOWS-1258"},\r
 271 \r
 272     {850, "850"},\r
 273     {850, "CP850"},\r
 274     {850, "IBM850"},\r
 275     {850, "CSPC850MULTILINGUAL"},\r
 276 \r
 277     /* !IsValidCodePage(862) */\r
 278     {862, "862"},\r
 279     {862, "CP862"},\r
 280     {862, "IBM862"},\r
 281     {862, "CSPC862LATINHEBREW"},\r
 282 \r
 283     {866, "866"},\r
 284     {866, "CP866"},\r
 285     {866, "IBM866"},\r
 286     {866, "CSIBM866"},\r
 287 \r
 288     /* !IsValidCodePage(154) */\r
 289     {154, "CP154"},\r
 290     {154, "CYRILLIC-ASIAN"},\r
 291     {154, "PT154"},\r
 292     {154, "PTCP154"},\r
 293     {154, "CSPTCP154"},\r
 294 \r
 295     /* !IsValidCodePage(1133) */\r
 296     {1133, "CP1133"},\r
 297     {1133, "IBM-CP1133"},\r
 298 \r
 299     {874, "CP874"},\r
 300     {874, "WINDOWS-874"},\r
 301 \r
 302     /* !IsValidCodePage(51932) */\r
 303     {51932, "CP51932"},\r
 304     {51932, "MS51932"},\r
 305     {51932, "WINDOWS-51932"},\r
 306     {51932, "EUC-JP"},\r
 307 \r
 308     {932, "CP932"},\r
 309     {932, "MS932"},\r
 310     {932, "SHIFFT_JIS"},\r
 311     {932, "SHIFFT_JIS-MS"},\r
 312     {932, "SJIS"},\r
 313     {932, "SJIS-MS"},\r
 314     {932, "SJIS-OPEN"},\r
 315     {932, "SJIS-WIN"},\r
 316     {932, "WINDOWS-31J"},\r
 317     {932, "WINDOWS-932"},\r
 318     {932, "CSWINDOWS31J"},\r
 319 \r
 320     {50221, "CP50221"},\r
 321     {50221, "ISO-2022-JP"},\r
 322     {50221, "ISO-2022-JP-MS"},\r
 323     {50221, "ISO2022-JP"},\r
 324     {50221, "ISO2022-JP-MS"},\r
 325     {50221, "MS50221"},\r
 326     {50221, "WINDOWS-50221"},\r
 327 \r
 328     {936, "CP936"},\r
 329     {936, "GBK"},\r
 330     {936, "MS936"},\r
 331     {936, "WINDOWS-936"},\r
 332 \r
 333     {950, "CP950"},\r
 334     {950, "BIG5"},\r
 335 \r
 336     {949, "CP949"},\r
 337     {949, "UHC"},\r
 338     {949, "EUC-KR"},\r
 339 \r
 340     {1361, "CP1361"},\r
 341     {1361, "JOHAB"},\r
 342 \r
 343     {437, "437"},\r
 344     {437, "CP437"},\r
 345     {437, "IBM437"},\r
 346     {437, "CSPC8CODEPAGE437"},\r
 347 \r
 348     {737, "CP737"},\r
 349 \r
 350     {775, "CP775"},\r
 351     {775, "IBM775"},\r
 352     {775, "CSPC775BALTIC"},\r
 353 \r
 354     {852, "852"},\r
 355     {852, "CP852"},\r
 356     {852, "IBM852"},\r
 357     {852, "CSPCP852"},\r
 358 \r
 359     /* !IsValidCodePage(853) */\r
 360     {853, "CP853"},\r
 361 \r
 362     {855, "855"},\r
 363     {855, "CP855"},\r
 364     {855, "IBM855"},\r
 365     {855, "CSIBM855"},\r
 366 \r
 367     {857, "857"},\r
 368     {857, "CP857"},\r
 369     {857, "IBM857"},\r
 370     {857, "CSIBM857"},\r
 371 \r
 372     /* !IsValidCodePage(858) */\r
 373     {858, "CP858"},\r
 374 \r
 375     {860, "860"},\r
 376     {860, "CP860"},\r
 377     {860, "IBM860"},\r
 378     {860, "CSIBM860"},\r
 379 \r
 380     {861, "861"},\r
 381     {861, "CP-IS"},\r
 382     {861, "CP861"},\r
 383     {861, "IBM861"},\r
 384     {861, "CSIBM861"},\r
 385 \r
 386     {863, "863"},\r
 387     {863, "CP863"},\r
 388     {863, "IBM863"},\r
 389     {863, "CSIBM863"},\r
 390 \r
 391     {864, "CP864"},\r
 392     {864, "IBM864"},\r
 393     {864, "CSIBM864"},\r
 394 \r
 395     {865, "865"},\r
 396     {865, "CP865"},\r
 397     {865, "IBM865"},\r
 398     {865, "CSIBM865"},\r
 399 \r
 400     {869, "869"},\r
 401     {869, "CP-GR"},\r
 402     {869, "CP869"},\r
 403     {869, "IBM869"},\r
 404     {869, "CSIBM869"},\r
 405 \r
 406     /* !IsValidCodePage(1152) */\r
 407     {1125, "CP1125"},\r
 408 \r
 409     /*\r
 410      * Code Page Identifiers\r
 411      * http://msdn2.microsoft.com/en-us/library/ms776446.aspx\r
 412      */\r
 413     {37, "IBM037"}, /* IBM EBCDIC US-Canada */\r
 414     {437, "IBM437"}, /* OEM United States */\r
 415     {500, "IBM500"}, /* IBM EBCDIC International */\r
 416     {708, "ASMO-708"}, /* Arabic (ASMO 708) */\r
 417     /* 709              Arabic (ASMO-449+, BCON V4) */\r
 418     /* 710              Arabic - Transparent Arabic */\r
 419     {720, "DOS-720"}, /* Arabic (Transparent ASMO); Arabic (DOS) */\r
 420     {737, "ibm737"}, /* OEM Greek (formerly 437G); Greek (DOS) */\r
 421     {775, "ibm775"}, /* OEM Baltic; Baltic (DOS) */\r
 422     {850, "ibm850"}, /* OEM Multilingual Latin 1; Western European (DOS) */\r
 423     {852, "ibm852"}, /* OEM Latin 2; Central European (DOS) */\r
 424     {855, "IBM855"}, /* OEM Cyrillic (primarily Russian) */\r
 425     {857, "ibm857"}, /* OEM Turkish; Turkish (DOS) */\r
 426     {858, "IBM00858"}, /* OEM Multilingual Latin 1 + Euro symbol */\r
 427     {860, "IBM860"}, /* OEM Portuguese; Portuguese (DOS) */\r
 428     {861, "ibm861"}, /* OEM Icelandic; Icelandic (DOS) */\r
 429     {862, "DOS-862"}, /* OEM Hebrew; Hebrew (DOS) */\r
 430     {863, "IBM863"}, /* OEM French Canadian; French Canadian (DOS) */\r
 431     {864, "IBM864"}, /* OEM Arabic; Arabic (864) */\r
 432     {865, "IBM865"}, /* OEM Nordic; Nordic (DOS) */\r
 433     {866, "cp866"}, /* OEM Russian; Cyrillic (DOS) */\r
 434     {869, "ibm869"}, /* OEM Modern Greek; Greek, Modern (DOS) */\r
 435     {870, "IBM870"}, /* IBM EBCDIC Multilingual/ROECE (Latin 2); IBM EBCDIC Multilingual Latin 2 */\r
 436     {874, "windows-874"}, /* ANSI/OEM Thai (same as 28605, ISO 8859-15); Thai (Windows) */\r
 437     {875, "cp875"}, /* IBM EBCDIC Greek Modern */\r
 438     {932, "shift_jis"}, /* ANSI/OEM Japanese; Japanese (Shift-JIS) */\r
 439     {936, "gb2312"}, /* ANSI/OEM Simplified Chinese (PRC, Singapore); Chinese Simplified (GB2312) */\r
 440     {949, "ks_c_5601-1987"}, /* ANSI/OEM Korean (Unified Hangul Code) */\r
 441     {950, "big5"}, /* ANSI/OEM Traditional Chinese (Taiwan; Hong Kong SAR, PRC); Chinese Traditional (Big5) */\r
 442     {1026, "IBM1026"}, /* IBM EBCDIC Turkish (Latin 5) */\r
 443     {1047, "IBM01047"}, /* IBM EBCDIC Latin 1/Open System */\r
 444     {1140, "IBM01140"}, /* IBM EBCDIC US-Canada (037 + Euro symbol); IBM EBCDIC (US-Canada-Euro) */\r
 445     {1141, "IBM01141"}, /* IBM EBCDIC Germany (20273 + Euro symbol); IBM EBCDIC (Germany-Euro) */\r
 446     {1142, "IBM01142"}, /* IBM EBCDIC Denmark-Norway (20277 + Euro symbol); IBM EBCDIC (Denmark-Norway-Euro) */\r
 447     {1143, "IBM01143"}, /* IBM EBCDIC Finland-Sweden (20278 + Euro symbol); IBM EBCDIC (Finland-Sweden-Euro) */\r
 448     {1144, "IBM01144"}, /* IBM EBCDIC Italy (20280 + Euro symbol); IBM EBCDIC (Italy-Euro) */\r
 449     {1145, "IBM01145"}, /* IBM EBCDIC Latin America-Spain (20284 + Euro symbol); IBM EBCDIC (Spain-Euro) */\r
 450     {1146, "IBM01146"}, /* IBM EBCDIC United Kingdom (20285 + Euro symbol); IBM EBCDIC (UK-Euro) */\r
 451     {1147, "IBM01147"}, /* IBM EBCDIC France (20297 + Euro symbol); IBM EBCDIC (France-Euro) */\r
 452     {1148, "IBM01148"}, /* IBM EBCDIC International (500 + Euro symbol); IBM EBCDIC (International-Euro) */\r
 453     {1149, "IBM01149"}, /* IBM EBCDIC Icelandic (20871 + Euro symbol); IBM EBCDIC (Icelandic-Euro) */\r
 454     {1250, "windows-1250"}, /* ANSI Central European; Central European (Windows) */\r
 455     {1251, "windows-1251"}, /* ANSI Cyrillic; Cyrillic (Windows) */\r
 456     {1252, "windows-1252"}, /* ANSI Latin 1; Western European (Windows) */\r
 457     {1253, "windows-1253"}, /* ANSI Greek; Greek (Windows) */\r
 458     {1254, "windows-1254"}, /* ANSI Turkish; Turkish (Windows) */\r
 459     {1255, "windows-1255"}, /* ANSI Hebrew; Hebrew (Windows) */\r
 460     {1256, "windows-1256"}, /* ANSI Arabic; Arabic (Windows) */\r
 461     {1257, "windows-1257"}, /* ANSI Baltic; Baltic (Windows) */\r
 462     {1258, "windows-1258"}, /* ANSI/OEM Vietnamese; Vietnamese (Windows) */\r
 463     {1361, "Johab"}, /* Korean (Johab) */\r
 464     {10000, "macintosh"}, /* MAC Roman; Western European (Mac) */\r
 465     {10001, "x-mac-japanese"}, /* Japanese (Mac) */\r
 466     {10002, "x-mac-chinesetrad"}, /* MAC Traditional Chinese (Big5); Chinese Traditional (Mac) */\r
 467     {10003, "x-mac-korean"}, /* Korean (Mac) */\r
 468     {10004, "x-mac-arabic"}, /* Arabic (Mac) */\r
 469     {10005, "x-mac-hebrew"}, /* Hebrew (Mac) */\r
 470     {10006, "x-mac-greek"}, /* Greek (Mac) */\r
 471     {10007, "x-mac-cyrillic"}, /* Cyrillic (Mac) */\r
 472     {10008, "x-mac-chinesesimp"}, /* MAC Simplified Chinese (GB 2312); Chinese Simplified (Mac) */\r
 473     {10010, "x-mac-romanian"}, /* Romanian (Mac) */\r
 474     {10017, "x-mac-ukrainian"}, /* Ukrainian (Mac) */\r
 475     {10021, "x-mac-thai"}, /* Thai (Mac) */\r
 476     {10029, "x-mac-ce"}, /* MAC Latin 2; Central European (Mac) */\r
 477     {10079, "x-mac-icelandic"}, /* Icelandic (Mac) */\r
 478     {10081, "x-mac-turkish"}, /* Turkish (Mac) */\r
 479     {10082, "x-mac-croatian"}, /* Croatian (Mac) */\r
 480     {20000, "x-Chinese_CNS"}, /* CNS Taiwan; Chinese Traditional (CNS) */\r
 481     {20001, "x-cp20001"}, /* TCA Taiwan */\r
 482     {20002, "x_Chinese-Eten"}, /* Eten Taiwan; Chinese Traditional (Eten) */\r
 483     {20003, "x-cp20003"}, /* IBM5550 Taiwan */\r
 484     {20004, "x-cp20004"}, /* TeleText Taiwan */\r
 485     {20005, "x-cp20005"}, /* Wang Taiwan */\r
 486     {20105, "x-IA5"}, /* IA5 (IRV International Alphabet No. 5, 7-bit); Western European (IA5) */\r
 487     {20106, "x-IA5-German"}, /* IA5 German (7-bit) */\r
 488     {20107, "x-IA5-Swedish"}, /* IA5 Swedish (7-bit) */\r
 489     {20108, "x-IA5-Norwegian"}, /* IA5 Norwegian (7-bit) */\r
 490     {20127, "us-ascii"}, /* US-ASCII (7-bit) */\r
 491     {20261, "x-cp20261"}, /* T.61 */\r
 492     {20269, "x-cp20269"}, /* ISO 6937 Non-Spacing Accent */\r
 493     {20273, "IBM273"}, /* IBM EBCDIC Germany */\r
 494     {20277, "IBM277"}, /* IBM EBCDIC Denmark-Norway */\r
 495     {20278, "IBM278"}, /* IBM EBCDIC Finland-Sweden */\r
 496     {20280, "IBM280"}, /* IBM EBCDIC Italy */\r
 497     {20284, "IBM284"}, /* IBM EBCDIC Latin America-Spain */\r
 498     {20285, "IBM285"}, /* IBM EBCDIC United Kingdom */\r
 499     {20290, "IBM290"}, /* IBM EBCDIC Japanese Katakana Extended */\r
 500     {20297, "IBM297"}, /* IBM EBCDIC France */\r
 501     {20420, "IBM420"}, /* IBM EBCDIC Arabic */\r
 502     {20423, "IBM423"}, /* IBM EBCDIC Greek */\r
 503     {20424, "IBM424"}, /* IBM EBCDIC Hebrew */\r
 504     {20833, "x-EBCDIC-KoreanExtended"}, /* IBM EBCDIC Korean Extended */\r
 505     {20838, "IBM-Thai"}, /* IBM EBCDIC Thai */\r
 506     {20866, "koi8-r"}, /* Russian (KOI8-R); Cyrillic (KOI8-R) */\r
 507     {20871, "IBM871"}, /* IBM EBCDIC Icelandic */\r
 508     {20880, "IBM880"}, /* IBM EBCDIC Cyrillic Russian */\r
 509     {20905, "IBM905"}, /* IBM EBCDIC Turkish */\r
 510     {20924, "IBM00924"}, /* IBM EBCDIC Latin 1/Open System (1047 + Euro symbol) */\r
 511     {20932, "EUC-JP"}, /* Japanese (JIS 0208-1990 and 0121-1990) */\r
 512     {20936, "x-cp20936"}, /* Simplified Chinese (GB2312); Chinese Simplified (GB2312-80) */\r
 513     {20949, "x-cp20949"}, /* Korean Wansung */\r
 514     {21025, "cp1025"}, /* IBM EBCDIC Cyrillic Serbian-Bulgarian */\r
 515     /* 21027            (deprecated) */\r
 516     {21866, "koi8-u"}, /* Ukrainian (KOI8-U); Cyrillic (KOI8-U) */\r
 517     {28591, "iso-8859-1"}, /* ISO 8859-1 Latin 1; Western European (ISO) */\r
 518     {28591, "iso8859-1"}, /* ISO 8859-1 Latin 1; Western European (ISO) */\r
 519     {28592, "iso-8859-2"}, /* ISO 8859-2 Central European; Central European (ISO) */\r
 520     {28592, "iso8859-2"}, /* ISO 8859-2 Central European; Central European (ISO) */\r
 521     {28593, "iso-8859-3"}, /* ISO 8859-3 Latin 3 */\r
 522     {28593, "iso8859-3"}, /* ISO 8859-3 Latin 3 */\r
 523     {28594, "iso-8859-4"}, /* ISO 8859-4 Baltic */\r
 524     {28594, "iso8859-4"}, /* ISO 8859-4 Baltic */\r
 525     {28595, "iso-8859-5"}, /* ISO 8859-5 Cyrillic */\r
 526     {28595, "iso8859-5"}, /* ISO 8859-5 Cyrillic */\r
 527     {28596, "iso-8859-6"}, /* ISO 8859-6 Arabic */\r
 528     {28596, "iso8859-6"}, /* ISO 8859-6 Arabic */\r
 529     {28597, "iso-8859-7"}, /* ISO 8859-7 Greek */\r
 530     {28597, "iso8859-7"}, /* ISO 8859-7 Greek */\r
 531     {28598, "iso-8859-8"}, /* ISO 8859-8 Hebrew; Hebrew (ISO-Visual) */\r
 532     {28598, "iso8859-8"}, /* ISO 8859-8 Hebrew; Hebrew (ISO-Visual) */\r
 533     {28599, "iso-8859-9"}, /* ISO 8859-9 Turkish */\r
 534     {28599, "iso8859-9"}, /* ISO 8859-9 Turkish */\r
 535     {28603, "iso-8859-13"}, /* ISO 8859-13 Estonian */\r
 536     {28603, "iso8859-13"}, /* ISO 8859-13 Estonian */\r
 537     {28605, "iso-8859-15"}, /* ISO 8859-15 Latin 9 */\r
 538     {28605, "iso8859-15"}, /* ISO 8859-15 Latin 9 */\r
 539     {29001, "x-Europa"}, /* Europa 3 */\r
 540     {38598, "iso-8859-8-i"}, /* ISO 8859-8 Hebrew; Hebrew (ISO-Logical) */\r
 541     {38598, "iso8859-8-i"}, /* ISO 8859-8 Hebrew; Hebrew (ISO-Logical) */\r
 542     {50220, "iso-2022-jp"}, /* ISO 2022 Japanese with no halfwidth Katakana; Japanese (JIS) */\r
 543     {50221, "csISO2022JP"}, /* ISO 2022 Japanese with halfwidth Katakana; Japanese (JIS-Allow 1 byte Kana) */\r
 544     {50222, "iso-2022-jp"}, /* ISO 2022 Japanese JIS X 0201-1989; Japanese (JIS-Allow 1 byte Kana - SO/SI) */\r
 545     {50225, "iso-2022-kr"}, /* ISO 2022 Korean */\r
 546     {50225, "iso2022-kr"}, /* ISO 2022 Korean */\r
 547     {50227, "x-cp50227"}, /* ISO 2022 Simplified Chinese; Chinese Simplified (ISO 2022) */\r
 548     /* 50229            ISO 2022 Traditional Chinese */\r
 549     /* 50930            EBCDIC Japanese (Katakana) Extended */\r
 550     /* 50931            EBCDIC US-Canada and Japanese */\r
 551     /* 50933            EBCDIC Korean Extended and Korean */\r
 552     /* 50935            EBCDIC Simplified Chinese Extended and Simplified Chinese */\r
 553     /* 50936            EBCDIC Simplified Chinese */\r
 554     /* 50937            EBCDIC US-Canada and Traditional Chinese */\r
 555     /* 50939            EBCDIC Japanese (Latin) Extended and Japanese */\r
 556     {51932, "euc-jp"}, /* EUC Japanese */\r
 557     {51936, "EUC-CN"}, /* EUC Simplified Chinese; Chinese Simplified (EUC) */\r
 558     {51949, "euc-kr"}, /* EUC Korean */\r
 559     /* 51950            EUC Traditional Chinese */\r
 560     {52936, "hz-gb-2312"}, /* HZ-GB2312 Simplified Chinese; Chinese Simplified (HZ) */\r
 561     {54936, "GB18030"}, /* Windows XP and later: GB18030 Simplified Chinese (4 byte); Chinese Simplified (GB18030) */\r
 562     {57002, "x-iscii-de"}, /* ISCII Devanagari */\r
 563     {57003, "x-iscii-be"}, /* ISCII Bengali */\r
 564     {57004, "x-iscii-ta"}, /* ISCII Tamil */\r
 565     {57005, "x-iscii-te"}, /* ISCII Telugu */\r
 566     {57006, "x-iscii-as"}, /* ISCII Assamese */\r
 567     {57007, "x-iscii-or"}, /* ISCII Oriya */\r
 568     {57008, "x-iscii-ka"}, /* ISCII Kannada */\r
 569     {57009, "x-iscii-ma"}, /* ISCII Malayalam */\r
 570     {57010, "x-iscii-gu"}, /* ISCII Gujarati */\r
 571     {57011, "x-iscii-pa"}, /* ISCII Punjabi */\r
 572 \r
 573     {0, NULL}\r
 574 };\r
 575 \r
 576 /*\r
 577  * SJIS SHIFTJIS table              CP932 table\r
 578  * ---- --------------------------- --------------------------------\r
 579  *   5C U+00A5 YEN SIGN             U+005C REVERSE SOLIDUS\r
 580  *   7E U+203E OVERLINE             U+007E TILDE\r
 581  * 815C U+2014 EM DASH              U+2015 HORIZONTAL BAR\r
 582  * 815F U+005C REVERSE SOLIDUS      U+FF3C FULLWIDTH REVERSE SOLIDUS\r
 583  * 8160 U+301C WAVE DASH            U+FF5E FULLWIDTH TILDE\r
 584  * 8161 U+2016 DOUBLE VERTICAL LINE U+2225 PARALLEL TO\r
 585  * 817C U+2212 MINUS SIGN           U+FF0D FULLWIDTH HYPHEN-MINUS\r
 586  * 8191 U+00A2 CENT SIGN            U+FFE0 FULLWIDTH CENT SIGN\r
 587  * 8192 U+00A3 POUND SIGN           U+FFE1 FULLWIDTH POUND SIGN\r
 588  * 81CA U+00AC NOT SIGN             U+FFE2 FULLWIDTH NOT SIGN\r
 589  *\r
 590  * EUC-JP and ISO-2022-JP should be compatible with CP932.\r
 591  *\r
 592  * Kernel and MLang have different Unicode mapping table.  Make sure\r
 593  * which API is used.\r
 594  */\r
 595 static compat_t cp932_compat[] = {\r
 596     {0x00A5, 0x005C, COMPAT_OUT},\r
 597     {0x203E, 0x007E, COMPAT_OUT},\r
 598     {0x2014, 0x2015, COMPAT_OUT},\r
 599     {0x301C, 0xFF5E, COMPAT_OUT},\r
 600     {0x2016, 0x2225, COMPAT_OUT},\r
 601     {0x2212, 0xFF0D, COMPAT_OUT},\r
 602     {0x00A2, 0xFFE0, COMPAT_OUT},\r
 603     {0x00A3, 0xFFE1, COMPAT_OUT},\r
 604     {0x00AC, 0xFFE2, COMPAT_OUT},\r
 605     {0, 0, 0}\r
 606 };\r
 607 \r
 608 static compat_t cp20932_compat[] = {\r
 609     {0x00A5, 0x005C, COMPAT_OUT},\r
 610     {0x203E, 0x007E, COMPAT_OUT},\r
 611     {0x2014, 0x2015, COMPAT_OUT},\r
 612     {0xFF5E, 0x301C, COMPAT_OUT|COMPAT_IN},\r
 613     {0x2225, 0x2016, COMPAT_OUT|COMPAT_IN},\r
 614     {0xFF0D, 0x2212, COMPAT_OUT|COMPAT_IN},\r
 615     {0xFFE0, 0x00A2, COMPAT_OUT|COMPAT_IN},\r
 616     {0xFFE1, 0x00A3, COMPAT_OUT|COMPAT_IN},\r
 617     {0xFFE2, 0x00AC, COMPAT_OUT|COMPAT_IN},\r
 618     {0, 0, 0}\r
 619 };\r
 620 \r
 621 static compat_t *cp51932_compat = cp932_compat;\r
 622 \r
 623 /* cp20932_compat for kernel.  cp932_compat for mlang. */\r
 624 static compat_t *cp5022x_compat = cp932_compat;\r
 625 \r
 626 typedef HRESULT (WINAPI *CONVERTINETSTRING)(\r
 627     LPDWORD lpdwMode,\r
 628     DWORD dwSrcEncoding,\r
 629     DWORD dwDstEncoding,\r
 630     LPCSTR lpSrcStr,\r
 631     LPINT lpnSrcSize,\r
 632     LPBYTE lpDstStr,\r
 633     LPINT lpnDstSize\r
 634 );\r
 635 typedef HRESULT (WINAPI *CONVERTINETMULTIBYTETOUNICODE)(\r
 636     LPDWORD lpdwMode,\r
 637     DWORD dwSrcEncoding,\r
 638     LPCSTR lpSrcStr,\r
 639     LPINT lpnMultiCharCount,\r
 640     LPWSTR lpDstStr,\r
 641     LPINT lpnWideCharCount\r
 642 );\r
 643 typedef HRESULT (WINAPI *CONVERTINETUNICODETOMULTIBYTE)(\r
 644     LPDWORD lpdwMode,\r
 645     DWORD dwEncoding,\r
 646     LPCWSTR lpSrcStr,\r
 647     LPINT lpnWideCharCount,\r
 648     LPSTR lpDstStr,\r
 649     LPINT lpnMultiCharCount\r
 650 );\r
 651 typedef HRESULT (WINAPI *ISCONVERTINETSTRINGAVAILABLE)(\r
 652     DWORD dwSrcEncoding,\r
 653     DWORD dwDstEncoding\r
 654 );\r
 655 typedef HRESULT (WINAPI *LCIDTORFC1766A)(\r
 656     LCID Locale,\r
 657     LPSTR pszRfc1766,\r
 658     int nChar\r
 659 );\r
 660 typedef HRESULT (WINAPI *LCIDTORFC1766W)(\r
 661     LCID Locale,\r
 662     LPWSTR pszRfc1766,\r
 663     int nChar\r
 664 );\r
 665 typedef HRESULT (WINAPI *RFC1766TOLCIDA)(\r
 666     LCID *pLocale,\r
 667     LPSTR pszRfc1766\r
 668 );\r
 669 typedef HRESULT (WINAPI *RFC1766TOLCIDW)(\r
 670     LCID *pLocale,\r
 671     LPWSTR pszRfc1766\r
 672 );\r
 673 static CONVERTINETSTRING ConvertINetString;\r
 674 static CONVERTINETMULTIBYTETOUNICODE ConvertINetMultiByteToUnicode;\r
 675 static CONVERTINETUNICODETOMULTIBYTE ConvertINetUnicodeToMultiByte;\r
 676 static ISCONVERTINETSTRINGAVAILABLE IsConvertINetStringAvailable;\r
 677 static LCIDTORFC1766A LcidToRfc1766A;\r
 678 static RFC1766TOLCIDA Rfc1766ToLcidA;\r
 679 \r
 680 static int\r
 681 load_mlang()\r
 682 {\r
 683     HMODULE h;\r
 684     if (ConvertINetString != NULL)\r
 685         return TRUE;\r
 686     h = LoadLibrary("mlang.dll");\r
 687     if (!h)\r
 688         return FALSE;\r
 689     ConvertINetString = (CONVERTINETSTRING)GetProcAddress(h, "ConvertINetString");\r
 690     ConvertINetMultiByteToUnicode = (CONVERTINETMULTIBYTETOUNICODE)GetProcAddress(h, "ConvertINetMultiByteToUnicode");\r
 691     ConvertINetUnicodeToMultiByte = (CONVERTINETUNICODETOMULTIBYTE)GetProcAddress(h, "ConvertINetUnicodeToMultiByte");\r
 692     IsConvertINetStringAvailable = (ISCONVERTINETSTRINGAVAILABLE)GetProcAddress(h, "IsConvertINetStringAvailable");\r
 693     LcidToRfc1766A = (LCIDTORFC1766A)GetProcAddress(h, "LcidToRfc1766A");\r
 694     Rfc1766ToLcidA = (RFC1766TOLCIDA)GetProcAddress(h, "Rfc1766ToLcidA");\r
 695     return TRUE;\r
 696 }\r
 697 \r
 698 iconv_t\r
 699 iconv_open(const char *tocode, const char *fromcode)\r
 700 {\r
 701     rec_iconv_t *cd;\r
 702 \r
 703     cd = (rec_iconv_t *)calloc(1, sizeof(rec_iconv_t));\r
 704     if (cd == NULL)\r
 705     {\r
 706         errno = ENOMEM;\r
 707         return (iconv_t)(-1);\r
 708     }\r
 709 \r
 710 #if defined(USE_LIBICONV_DLL)\r
 711     if (libiconv_iconv_open(cd, tocode, fromcode))\r
 712         return (iconv_t)cd;\r
 713 #endif\r
 714 \r
 715     if (win_iconv_open(cd, tocode, fromcode))\r
 716         return (iconv_t)cd;\r
 717 \r
 718     free(cd);\r
 719     errno = EINVAL;\r
 720     return (iconv_t)(-1);\r
 721 }\r
 722 \r
 723 int\r
 724 iconv_close(iconv_t _cd)\r
 725 {\r
 726     rec_iconv_t *cd = (rec_iconv_t *)_cd;\r
 727     int r = cd->iconv_close(cd->cd);\r
 728     int e = *(cd->_errno());\r
 729 #if defined(USE_LIBICONV_DLL)\r
 730     if (cd->hlibiconv != NULL)\r
 731         FreeLibrary(cd->hlibiconv);\r
 732 #endif\r
 733     free(cd);\r
 734     errno = e;\r
 735     return r;\r
 736 }\r
 737 \r
 738 size_t\r
 739 iconv(iconv_t _cd, const char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft)\r
 740 {\r
 741     rec_iconv_t *cd = (rec_iconv_t *)_cd;\r
 742     size_t r = cd->iconv(cd->cd, inbuf, inbytesleft, outbuf, outbytesleft);\r
 743     errno = *(cd->_errno());\r
 744     return r;\r
 745 }\r
 746 \r
 747 static int\r
 748 win_iconv_open(rec_iconv_t *cd, const char *tocode, const char *fromcode)\r
 749 {\r
 750     cd->from = make_csconv(fromcode);\r
 751     cd->to = make_csconv(tocode);\r
 752     if (cd->from.codepage == -1 || cd->to.codepage == -1)\r
 753         return FALSE;\r
 754     cd->iconv_close = win_iconv_close;\r
 755     cd->iconv = win_iconv;\r
 756     cd->_errno = _errno;\r
 757     cd->cd = (iconv_t)cd;\r
 758     return TRUE;\r
 759 }\r
 760 \r
 761 static int\r
 762 win_iconv_close(iconv_t cd)\r
 763 {\r
 764     return 0;\r
 765 }\r
 766 \r
 767 static size_t\r
 768 win_iconv(iconv_t _cd, const char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft)\r
 769 {\r
 770     rec_iconv_t *cd = (rec_iconv_t *)_cd;\r
 771     ushort wbuf[MB_CHAR_MAX]; /* enough room for one character */\r
 772     int insize;\r
 773     int outsize;\r
 774     int wsize;\r
 775     DWORD mode;\r
 776     uint wc;\r
 777     compat_t *cp;\r
 778     int i;\r
 779 \r
 780     if (inbuf == NULL || *inbuf == NULL)\r
 781     {\r
 782         if (outbuf != NULL && *outbuf != NULL && cd->to.flush != NULL)\r
 783         {\r
 784             outsize = cd->to.flush(&cd->to, (uchar *)*outbuf, *outbytesleft);\r
 785             if (outsize == -1)\r
 786                 return (size_t)(-1);\r
 787             *outbuf += outsize;\r
 788             *outbytesleft -= outsize;\r
 789         }\r
 790         if (is_unicode(cd->from.codepage) && (cd->from.mode & UNICODE_MODE_SWAPPED))\r
 791             cd->from.codepage ^= 1;\r
 792         cd->from.mode = 0;\r
 793         cd->to.mode = 0;\r
 794         return 0;\r
 795     }\r
 796 \r
 797     while (*inbytesleft != 0)\r
 798     {\r
 799         mode = cd->from.mode;\r
 800         wsize = MB_CHAR_MAX;\r
 801 \r
 802         insize = cd->from.mbtowc(&cd->from, (const uchar *)*inbuf, *inbytesleft, wbuf, &wsize);\r
 803         if (insize == -1)\r
 804             return (size_t)(-1);\r
 805 \r
 806         if (is_unicode(cd->from.codepage) && !(cd->from.mode & UNICODE_MODE_BOM_DONE))\r
 807         {\r
 808             check_utf_bom(cd, wbuf, &wsize);\r
 809             cd->from.mode |= UNICODE_MODE_BOM_DONE;\r
 810         }\r
 811 \r
 812         if (wsize == 0)\r
 813         {\r
 814             *inbuf += insize;\r
 815             *inbytesleft -= insize;\r
 816             continue;\r
 817         }\r
 818 \r
 819         if (cd->from.compat != NULL)\r
 820         {\r
 821             wc = utf16_to_ucs4(wbuf);\r
 822             cp = cd->from.compat;\r
 823             for (i = 0; cp[i].in != 0; ++i)\r
 824             {\r
 825                 if ((cp[i].flag & COMPAT_IN) && cp[i].out == wc)\r
 826                 {\r
 827                     ucs4_to_utf16(cp[i].in, wbuf, &wsize);\r
 828                     break;\r
 829                 }\r
 830             }\r
 831         }\r
 832 \r
 833         if (cd->to.compat != NULL)\r
 834         {\r
 835             wc = utf16_to_ucs4(wbuf);\r
 836             cp = cd->to.compat;\r
 837             for (i = 0; cp[i].in != 0; ++i)\r
 838             {\r
 839                 if ((cp[i].flag & COMPAT_OUT) && cp[i].in == wc)\r
 840                 {\r
 841                     ucs4_to_utf16(cp[i].out, wbuf, &wsize);\r
 842                     break;\r
 843                 }\r
 844             }\r
 845         }\r
 846 \r
 847         outsize = cd->to.wctomb(&cd->to, wbuf, wsize, (uchar *)*outbuf, *outbytesleft);\r
 848         if (outsize == -1)\r
 849         {\r
 850             cd->from.mode = mode;\r
 851             return (size_t)(-1);\r
 852         }\r
 853 \r
 854         *inbuf += insize;\r
 855         *outbuf += outsize;\r
 856         *inbytesleft -= insize;\r
 857         *outbytesleft -= outsize;\r
 858     }\r
 859 \r
 860     return 0;\r
 861 }\r
 862 \r
 863 static csconv_t\r
 864 make_csconv(const char *_name)\r
 865 {\r
 866     CPINFOEX cpinfoex;\r
 867     csconv_t cv;\r
 868     int use_compat = TRUE;\r
 869     char name[128];\r
 870     char *p;\r
 871 \r
 872     xstrlcpy(name, _name, sizeof(name));\r
 873 \r
 874     /* check for option "enc_name//opt1//opt2" */\r
 875     while ((p = strrstr(name, "//")) != NULL)\r
 876     {\r
 877         if (_stricmp(p + 2, "nocompat") == 0)\r
 878             use_compat = FALSE;\r
 879         *p = 0;\r
 880     }\r
 881 \r
 882     cv.mode = 0;\r
 883     cv.flags = 0;\r
 884     cv.mblen = NULL;\r
 885     cv.flush = NULL;\r
 886     cv.compat = NULL;\r
 887     cv.codepage = name_to_codepage(name);\r
 888     if (cv.codepage == 1200 || cv.codepage == 1201)\r
 889     {\r
 890         cv.mbtowc = utf16_mbtowc;\r
 891         cv.wctomb = utf16_wctomb;\r
 892         if (_stricmp(name, "UTF-16") == 0 || _stricmp(name, "UTF16") == 0)\r
 893             cv.flags |= UNICODE_FLAG_USE_BOM_ENDIAN;\r
 894     }\r
 895     else if (cv.codepage == 12000 || cv.codepage == 12001)\r
 896     {\r
 897         cv.mbtowc = utf32_mbtowc;\r
 898         cv.wctomb = utf32_wctomb;\r
 899         if (_stricmp(name, "UTF-32") == 0 || _stricmp(name, "UTF32") == 0)\r
 900             cv.flags |= UNICODE_FLAG_USE_BOM_ENDIAN;\r
 901     }\r
 902     else if (cv.codepage == 65001)\r
 903     {\r
 904         cv.mbtowc = kernel_mbtowc;\r
 905         cv.wctomb = kernel_wctomb;\r
 906         cv.mblen = utf8_mblen;\r
 907     }\r
 908     else if ((cv.codepage == 50220 || cv.codepage == 50221 || cv.codepage == 50222) && load_mlang())\r
 909     {\r
 910         cv.mbtowc = iso2022jp_mbtowc;\r
 911         cv.wctomb = iso2022jp_wctomb;\r
 912         cv.flush = iso2022jp_flush;\r
 913     }\r
 914     else if (cv.codepage == 51932 && load_mlang())\r
 915     {\r
 916         cv.mbtowc = mlang_mbtowc;\r
 917         cv.wctomb = mlang_wctomb;\r
 918         cv.mblen = eucjp_mblen;\r
 919     }\r
 920     else if (IsValidCodePage(cv.codepage)\r
 921             && GetCPInfoEx(cv.codepage, 0, &cpinfoex) != 0\r
 922             && (cpinfoex.MaxCharSize == 1 || cpinfoex.MaxCharSize == 2))\r
 923     {\r
 924         cv.mbtowc = kernel_mbtowc;\r
 925         cv.wctomb = kernel_wctomb;\r
 926         if (cpinfoex.MaxCharSize == 1)\r
 927             cv.mblen = sbcs_mblen;\r
 928         else\r
 929             cv.mblen = dbcs_mblen;\r
 930     }\r
 931     else\r
 932     {\r
 933         /* not supported */\r
 934         cv.codepage = -1;\r
 935     }\r
 936     if (use_compat)\r
 937     {\r
 938         switch (cv.codepage)\r
 939         {\r
 940         case 932: cv.compat = cp932_compat; break;\r
 941         case 20932: cv.compat = cp20932_compat; break;\r
 942         case 51932: cv.compat = cp51932_compat; break;\r
 943         case 50220: case 50221: case 50222: cv.compat = cp5022x_compat; break;\r
 944         }\r
 945     }\r
 946     return cv;\r
 947 }\r
 948 \r
 949 static int\r
 950 name_to_codepage(const char *name)\r
 951 {\r
 952     int i;\r
 953 \r
 954     if (_strnicmp(name, "cp", 2) == 0)\r
 955         return atoi(name + 2); /* CP123 */\r
 956     else if ('0' <= name[0] && name[0] <= '9')\r
 957         return atoi(name);     /* 123 */\r
 958     else if (_strnicmp(name, "xx", 2) == 0)\r
 959         return atoi(name + 2); /* XX123 for debug */\r
 960 \r
 961     for (i = 0; codepage_alias[i].name != NULL; ++i)\r
 962         if (_stricmp(name, codepage_alias[i].name) == 0)\r
 963             return codepage_alias[i].codepage;\r
 964     return -1;\r
 965 }\r
 966 \r
 967 /*\r
 968  * http://www.faqs.org/rfcs/rfc2781.html\r
 969  */\r
 970 static uint\r
 971 utf16_to_ucs4(const ushort *wbuf)\r
 972 {\r
 973     uint wc = wbuf[0];\r
 974     if (0xD800 <= wbuf[0] && wbuf[0] <= 0xDBFF)\r
 975         wc = ((wbuf[0] & 0x3FF) << 10) + (wbuf[1] & 0x3FF) + 0x10000;\r
 976     return wc;\r
 977 }\r
 978 \r
 979 static void\r
 980 ucs4_to_utf16(uint wc, ushort *wbuf, int *wbufsize)\r
 981 {\r
 982     if (wc < 0x10000)\r
 983     {\r
 984         wbuf[0] = wc;\r
 985         *wbufsize = 1;\r
 986     }\r
 987     else\r
 988     {\r
 989         wc -= 0x10000;\r
 990         wbuf[0] = 0xD800 | ((wc >> 10) & 0x3FF);\r
 991         wbuf[1] = 0xDC00 | (wc & 0x3FF);\r
 992         *wbufsize = 2;\r
 993     }\r
 994 }\r
 995 \r
 996 static int\r
 997 is_unicode(int codepage)\r
 998 {\r
 999     return (codepage == 1200 || codepage == 1201 ||\r
1000             codepage == 12000 || codepage == 12001 ||\r
1001             codepage == 65000 || codepage == 65001);\r
1002 }\r
1003 \r
1004 static void\r
1005 check_utf_bom(rec_iconv_t *cd, ushort *wbuf, int *wbufsize)\r
1006 {\r
1007     /* If we have a BOM, trust it, despite what the caller said */\r
1008     if (wbuf[0] == 0xFFFE && (cd->from.flags & UNICODE_FLAG_USE_BOM_ENDIAN))\r
1009     {\r
1010         /* swap endian: 1200 <-> 1201 or 12000 <-> 12001 */\r
1011         cd->from.codepage ^= 1;\r
1012         cd->from.mode |= UNICODE_MODE_SWAPPED;\r
1013         wbuf[0] = 0xFEFF;\r
1014     }\r
1015 \r
1016     /*\r
1017      * Remove BOM.\r
1018      * Don't do this if "to" is Unicode,\r
1019      * except if "to" is UTF-8.\r
1020      */\r
1021     if (wbuf[0] == 0xFEFF && (!is_unicode(cd->to.codepage) || cd->to.codepage == 65001))\r
1022         *wbufsize = 0;\r
1023 }\r
1024 \r
1025 static char *\r
1026 strrstr(const char *str, const char *token)\r
1027 {\r
1028     int len = strlen(token);\r
1029     const char *p = str + strlen(str);\r
1030 \r
1031     while (str <= --p)\r
1032         if (p[0] == token[0] && strncmp(p, token, len) == 0)\r
1033             return (char *)p;\r
1034     return NULL;\r
1035 }\r
1036 \r
1037 #if defined(USE_LIBICONV_DLL)\r
1038 static int\r
1039 libiconv_iconv_open(rec_iconv_t *cd, const char *fromcode, const char *tocode)\r
1040 {\r
1041     HMODULE hlibiconv = NULL;\r
1042     HMODULE hmsvcrt = NULL;\r
1043     char dllname[_MAX_PATH];\r
1044     const char *p;\r
1045     const char *e;\r
1046     f_iconv_open _iconv_open;\r
1047 \r
1048     /*\r
1049      * always try to load dll, so that we can switch dll in runtime.\r
1050      */\r
1051 \r
1052     /* XXX: getenv() can't get variable set by SetEnvironmentVariable() */\r
1053     p = getenv("WINICONV_LIBICONV_DLL");\r
1054     if (p == NULL)\r
1055         p = DEFAULT_LIBICONV_DLL;\r
1056     /* parse comma separated value */\r
1057     for ( ; *p != 0; p = (*e == ',') ? e + 1 : e)\r
1058     {\r
1059         e = strchr(p, ',');\r
1060         if (p == e)\r
1061             continue;\r
1062         else if (e == NULL)\r
1063             e = p + strlen(p);\r
1064         xstrlcpyn(dllname, p, e - p, sizeof(dllname));\r
1065         hlibiconv = LoadLibrary(dllname);\r
1066         if (hlibiconv != NULL)\r
1067         {\r
1068             if (hlibiconv == hwiniconv)\r
1069             {\r
1070                 FreeLibrary(hlibiconv);\r
1071                 hlibiconv = NULL;\r
1072                 continue;\r
1073             }\r
1074             break;\r
1075         }\r
1076     }\r
1077 \r
1078     if (hlastdll != NULL)\r
1079     {\r
1080         /* decrement reference count */\r
1081         FreeLibrary(hlastdll);\r
1082         hlastdll = NULL;\r
1083     }\r
1084 \r
1085     if (hlibiconv == NULL)\r
1086         goto failed;\r
1087 \r
1088     hmsvcrt = find_imported_module_by_funcname(hlibiconv, "_errno");\r
1089     if (hmsvcrt == NULL)\r
1090         goto failed;\r
1091 \r
1092     _iconv_open = (f_iconv_open)GetProcAddress(hlibiconv, "libiconv_open");\r
1093     if (_iconv_open == NULL)\r
1094         _iconv_open = (f_iconv_open)GetProcAddress(hlibiconv, "iconv_open");\r
1095     cd->iconv_close = (f_iconv_close)GetProcAddress(hlibiconv, "libiconv_close");\r
1096     if (cd->iconv_close == NULL)\r
1097         cd->iconv_close = (f_iconv_close)GetProcAddress(hlibiconv, "iconv_close");\r
1098     cd->iconv = (f_iconv)GetProcAddress(hlibiconv, "libiconv");\r
1099     if (cd->iconv == NULL)\r
1100         cd->iconv = (f_iconv)GetProcAddress(hlibiconv, "iconv");\r
1101     cd->_errno = (f_errno)GetProcAddress(hmsvcrt, "_errno");\r
1102     if (_iconv_open == NULL || cd->iconv_close == NULL\r
1103             || cd->iconv == NULL || cd->_errno == NULL)\r
1104         goto failed;\r
1105 \r
1106     /* increment reference count */\r
1107     hlastdll = LoadLibrary(dllname);\r
1108 \r
1109     cd->cd = _iconv_open(tocode, fromcode);\r
1110     if (cd->cd == (iconv_t)(-1))\r
1111         goto failed;\r
1112 \r
1113     cd->hlibiconv = hlibiconv;\r
1114     return TRUE;\r
1115 \r
1116 failed:\r
1117     if (hlibiconv != NULL)\r
1118         FreeLibrary(hlibiconv);\r
1119     /* do not free hmsvcrt which is obtained by GetModuleHandle() */\r
1120     return FALSE;\r
1121 }\r
1122 \r
1123 /*\r
1124  * Reference:\r
1125  * http://forums.belution.com/ja/vc/000/234/78s.shtml\r
1126  * http://nienie.com/~masapico/api_ImageDirectoryEntryToData.html\r
1127  *\r
1128  * The formal way is\r
1129  *   imagehlp.h or dbghelp.h\r
1130  *   imagehlp.lib or dbghelp.lib\r
1131  *   ImageDirectoryEntryToData()\r
1132  */\r
1133 #define TO_DOS_HEADER(base) ((PIMAGE_DOS_HEADER)(base))\r
1134 #define TO_NT_HEADERS(base) ((PIMAGE_NT_HEADERS)((LPBYTE)(base) + TO_DOS_HEADER(base)->e_lfanew))\r
1135 static PVOID\r
1136 MyImageDirectoryEntryToData(LPVOID Base, BOOLEAN MappedAsImage, USHORT DirectoryEntry, PULONG Size)\r
1137 {\r
1138     /* TODO: MappedAsImage? */\r
1139     PIMAGE_DATA_DIRECTORY p;\r
1140     p = TO_NT_HEADERS(Base)->OptionalHeader.DataDirectory + DirectoryEntry;\r
1141     if (p->VirtualAddress == 0) {\r
1142       *Size = 0;\r
1143       return NULL;\r
1144     }\r
1145     *Size = p->Size;\r
1146     return (PVOID)((LPBYTE)Base + p->VirtualAddress);\r
1147 }\r
1148 \r
1149 static HMODULE\r
1150 find_imported_module_by_funcname(HMODULE hModule, const char *funcname)\r
1151 {\r
1152     DWORD Base;\r
1153     ULONG Size;\r
1154     PIMAGE_IMPORT_DESCRIPTOR Imp;\r
1155     PIMAGE_THUNK_DATA Name;         /* Import Name Table */\r
1156     PIMAGE_IMPORT_BY_NAME ImpName;\r
1157 \r
1158     Base = (DWORD)hModule;\r
1159     Imp = MyImageDirectoryEntryToData(\r
1160             (LPVOID)Base,\r
1161             TRUE,\r
1162             IMAGE_DIRECTORY_ENTRY_IMPORT,\r
1163             &Size);\r
1164     if (Imp == NULL)\r
1165         return NULL;\r
1166     for ( ; Imp->OriginalFirstThunk != 0; ++Imp)\r
1167     {\r
1168         Name = (PIMAGE_THUNK_DATA)(Base + Imp->OriginalFirstThunk);\r
1169         for ( ; Name->u1.Ordinal != 0; ++Name)\r
1170         {\r
1171             if (!IMAGE_SNAP_BY_ORDINAL(Name->u1.Ordinal))\r
1172             {\r
1173                 ImpName = (PIMAGE_IMPORT_BY_NAME)\r
1174                     (Base + (DWORD)Name->u1.AddressOfData);\r
1175                 if (strcmp((char *)ImpName->Name, funcname) == 0)\r
1176                     return GetModuleHandle((char *)(Base + Imp->Name));\r
1177             }\r
1178         }\r
1179     }\r
1180     return NULL;\r
1181 }\r
1182 #endif\r
1183 \r
1184 static int\r
1185 sbcs_mblen(csconv_t *cv, const uchar *buf, int bufsize)\r
1186 {\r
1187     return 1;\r
1188 }\r
1189 \r
1190 static int\r
1191 dbcs_mblen(csconv_t *cv, const uchar *buf, int bufsize)\r
1192 {\r
1193     int len = IsDBCSLeadByteEx(cv->codepage, buf[0]) ? 2 : 1;\r
1194     if (bufsize < len)\r
1195         return_error(EINVAL);\r
1196     return len;\r
1197 }\r
1198 \r
1199 static int\r
1200 utf8_mblen(csconv_t *cv, const uchar *buf, int bufsize)\r
1201 {\r
1202     int len = 0;\r
1203 \r
1204     if (buf[0] < 0x80) len = 1;\r
1205     else if ((buf[0] & 0xE0) == 0xC0) len = 2;\r
1206     else if ((buf[0] & 0xF0) == 0xE0) len = 3;\r
1207     else if ((buf[0] & 0xF8) == 0xF0) len = 4;\r
1208     else if ((buf[0] & 0xFC) == 0xF8) len = 5;\r
1209     else if ((buf[0] & 0xFE) == 0xFC) len = 6;\r
1210 \r
1211     if (len == 0)\r
1212         return_error(EILSEQ);\r
1213     else if (bufsize < len)\r
1214         return_error(EINVAL);\r
1215     return len;\r
1216 }\r
1217 \r
1218 static int\r
1219 eucjp_mblen(csconv_t *cv, const uchar *buf, int bufsize)\r
1220 {\r
1221     if (buf[0] < 0x80) /* ASCII */\r
1222         return 1;\r
1223     else if (buf[0] == 0x8E) /* JIS X 0201 */\r
1224     {\r
1225         if (bufsize < 2)\r
1226             return_error(EINVAL);\r
1227         else if (!(0xA1 <= buf[1] && buf[1] <= 0xDF))\r
1228             return_error(EILSEQ);\r
1229         return 2;\r
1230     }\r
1231     else if (buf[0] == 0x8F) /* JIS X 0212 */\r
1232     {\r
1233         if (bufsize < 3)\r
1234             return_error(EINVAL);\r
1235         else if (!(0xA1 <= buf[1] && buf[1] <= 0xFE)\r
1236                 || !(0xA1 <= buf[2] && buf[2] <= 0xFE))\r
1237             return_error(EILSEQ);\r
1238         return 3;\r
1239     }\r
1240     else /* JIS X 0208 */\r
1241     {\r
1242         if (bufsize < 2)\r
1243             return_error(EINVAL);\r
1244         else if (!(0xA1 <= buf[0] && buf[0] <= 0xFE)\r
1245                 || !(0xA1 <= buf[1] && buf[1] <= 0xFE))\r
1246             return_error(EILSEQ);\r
1247         return 2;\r
1248     }\r
1249 }\r
1250 \r
1251 static int\r
1252 kernel_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize)\r
1253 {\r
1254     int len;\r
1255 \r
1256     len = cv->mblen(cv, buf, bufsize);\r
1257     if (len == -1)\r
1258         return -1;\r
1259     *wbufsize = MultiByteToWideChar(cv->codepage, MB_ERR_INVALID_CHARS,\r
1260             (const char *)buf, len, (wchar_t *)wbuf, *wbufsize);\r
1261     if (*wbufsize == 0)\r
1262         return_error(EILSEQ);\r
1263     return len;\r
1264 }\r
1265 \r
1266 static int\r
1267 kernel_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize)\r
1268 {\r
1269     BOOL usedDefaultChar = 0;\r
1270     int len;\r
1271 \r
1272     len = WideCharToMultiByte(cv->codepage, 0,\r
1273             (const wchar_t *)wbuf, wbufsize, (char *)buf, bufsize, NULL,\r
1274             (cv->codepage == 65000 || cv->codepage == 65001) ? NULL : &usedDefaultChar);\r
1275     if (len == 0)\r
1276     {\r
1277         if (GetLastError() == ERROR_INSUFFICIENT_BUFFER)\r
1278             return_error(E2BIG);\r
1279         return_error(EILSEQ);\r
1280     }\r
1281     else if (usedDefaultChar)\r
1282         return_error(EILSEQ);\r
1283     else if (cv->mblen(cv, buf, len) != len) /* validate result */\r
1284         return_error(EILSEQ);\r
1285     return len;\r
1286 }\r
1287 \r
1288 /*\r
1289  * It seems that the mode (cv->mode) is fixnum.\r
1290  * For example, when converting iso-2022-jp(cp50221) to unicode:\r
1291  *      in ascii sequence: mode=0xC42C0000\r
1292  *   in jisx0208 sequence: mode=0xC42C0001\r
1293  * "C42C" is same for each convert session.\r
1294  * It should be: ((codepage-1)<<16)|state\r
1295  */\r
1296 static int\r
1297 mlang_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize)\r
1298 {\r
1299     int len;\r
1300     int insize;\r
1301     HRESULT hr;\r
1302 \r
1303     len = cv->mblen(cv, buf, bufsize);\r
1304     if (len == -1)\r
1305         return -1;\r
1306     insize = len;\r
1307     hr = ConvertINetMultiByteToUnicode(&cv->mode, cv->codepage,\r
1308             (const char *)buf, &insize, (wchar_t *)wbuf, wbufsize);\r
1309     if (hr != S_OK || insize != len)\r
1310         return_error(EILSEQ);\r
1311     return len;\r
1312 }\r
1313 \r
1314 static int\r
1315 mlang_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize)\r
1316 {\r
1317     char tmpbuf[MB_CHAR_MAX]; /* enough room for one character */\r
1318     int tmpsize = MB_CHAR_MAX;\r
1319     int insize = wbufsize;\r
1320     HRESULT hr;\r
1321 \r
1322     hr = ConvertINetUnicodeToMultiByte(&cv->mode, cv->codepage,\r
1323             (const wchar_t *)wbuf, &wbufsize, tmpbuf, &tmpsize);\r
1324     if (hr != S_OK || insize != wbufsize)\r
1325         return_error(EILSEQ);\r
1326     else if (bufsize < tmpsize)\r
1327         return_error(E2BIG);\r
1328     else if (cv->mblen(cv, (uchar *)tmpbuf, tmpsize) != tmpsize)\r
1329         return_error(EILSEQ);\r
1330     memcpy(buf, tmpbuf, tmpsize);\r
1331     return tmpsize;\r
1332 }\r
1333 \r
1334 static int\r
1335 utf16_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize)\r
1336 {\r
1337     if (bufsize < 2)\r
1338         return_error(EINVAL);\r
1339     if (cv->codepage == 1200) /* little endian */\r
1340         wbuf[0] = (buf[1] << 8) | buf[0];\r
1341     else if (cv->codepage == 1201) /* big endian */\r
1342         wbuf[0] = (buf[0] << 8) | buf[1];\r
1343     if (0xDC00 <= wbuf[0] && wbuf[0] <= 0xDFFF)\r
1344         return_error(EILSEQ);\r
1345     if (0xD800 <= wbuf[0] && wbuf[0] <= 0xDBFF)\r
1346     {\r
1347         if (bufsize < 4)\r
1348             return_error(EINVAL);\r
1349         if (cv->codepage == 1200) /* little endian */\r
1350             wbuf[1] = (buf[3] << 8) | buf[2];\r
1351         else if (cv->codepage == 1201) /* big endian */\r
1352             wbuf[1] = (buf[2] << 8) | buf[3];\r
1353         if (!(0xDC00 <= wbuf[1] && wbuf[1] <= 0xDFFF))\r
1354             return_error(EILSEQ);\r
1355         *wbufsize = 2;\r
1356         return 4;\r
1357     }\r
1358     *wbufsize = 1;\r
1359     return 2;\r
1360 }\r
1361 \r
1362 static int\r
1363 utf16_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize)\r
1364 {\r
1365     if (bufsize < 2)\r
1366         return_error(E2BIG);\r
1367     if (cv->codepage == 1200) /* little endian */\r
1368     {\r
1369         buf[0] = (wbuf[0] & 0x00FF);\r
1370         buf[1] = (wbuf[0] & 0xFF00) >> 8;\r
1371     }\r
1372     else if (cv->codepage == 1201) /* big endian */\r
1373     {\r
1374         buf[0] = (wbuf[0] & 0xFF00) >> 8;\r
1375         buf[1] = (wbuf[0] & 0x00FF);\r
1376     }\r
1377     if (0xD800 <= wbuf[0] && wbuf[0] <= 0xDBFF)\r
1378     {\r
1379         if (bufsize < 4)\r
1380             return_error(E2BIG);\r
1381         if (cv->codepage == 1200) /* little endian */\r
1382         {\r
1383             buf[2] = (wbuf[1] & 0x00FF);\r
1384             buf[3] = (wbuf[1] & 0xFF00) >> 8;\r
1385         }\r
1386         else if (cv->codepage == 1201) /* big endian */\r
1387         {\r
1388             buf[2] = (wbuf[1] & 0xFF00) >> 8;\r
1389             buf[3] = (wbuf[1] & 0x00FF);\r
1390         }\r
1391         return 4;\r
1392     }\r
1393     return 2;\r
1394 }\r
1395 \r
1396 static int\r
1397 utf32_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize)\r
1398 {\r
1399     uint wc;\r
1400 \r
1401     if (bufsize < 4)\r
1402         return_error(EINVAL);\r
1403     if (cv->codepage == 12000) /* little endian */\r
1404         wc = (buf[3] << 24) | (buf[2] << 16) | (buf[1] << 8) | buf[0];\r
1405     else if (cv->codepage == 12001) /* big endian */\r
1406         wc = (buf[0] << 24) | (buf[1] << 16) | (buf[2] << 8) | buf[3];\r
1407     if ((0xD800 <= wc && wc <= 0xDFFF) || 0x10FFFF < wc)\r
1408         return_error(EILSEQ);\r
1409     ucs4_to_utf16(wc, wbuf, wbufsize);\r
1410     return 4;\r
1411 }\r
1412 \r
1413 static int\r
1414 utf32_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize)\r
1415 {\r
1416     uint wc;\r
1417 \r
1418     if (bufsize < 4)\r
1419         return_error(E2BIG);\r
1420     wc = utf16_to_ucs4(wbuf);\r
1421     if (cv->codepage == 12000) /* little endian */\r
1422     {\r
1423         buf[0] = wc & 0x000000FF;\r
1424         buf[1] = (wc & 0x0000FF00) >> 8;\r
1425         buf[2] = (wc & 0x00FF0000) >> 16;\r
1426         buf[3] = (wc & 0xFF000000) >> 24;\r
1427     }\r
1428     else if (cv->codepage == 12001) /* big endian */\r
1429     {\r
1430         buf[0] = (wc & 0xFF000000) >> 24;\r
1431         buf[1] = (wc & 0x00FF0000) >> 16;\r
1432         buf[2] = (wc & 0x0000FF00) >> 8;\r
1433         buf[3] = wc & 0x000000FF;\r
1434     }\r
1435     return 4;\r
1436 }\r
1437 \r
1438 /*\r
1439  * 50220: ISO 2022 Japanese with no halfwidth Katakana; Japanese (JIS)\r
1440  * 50221: ISO 2022 Japanese with halfwidth Katakana; Japanese (JIS-Allow\r
1441  *        1 byte Kana)\r
1442  * 50222: ISO 2022 Japanese JIS X 0201-1989; Japanese (JIS-Allow 1 byte\r
1443  *        Kana - SO/SI)\r
1444  *\r
1445  * MultiByteToWideChar() and WideCharToMultiByte() behave differently\r
1446  * depending on Windows version.  On XP, WideCharToMultiByte() doesn't\r
1447  * terminate result sequence with ascii escape.  But Vista does.\r
1448  * Use MLang instead.\r
1449  */\r
1450 \r
1451 #define ISO2022_MODE(cs, shift) (((cs) << 8) | (shift))\r
1452 #define ISO2022_MODE_CS(mode) (((mode) >> 8) & 0xFF)\r
1453 #define ISO2022_MODE_SHIFT(mode) ((mode) & 0xFF)\r
1454 \r
1455 #define ISO2022_SI  0\r
1456 #define ISO2022_SO  1\r
1457 \r
1458 /* shift in */\r
1459 static const char iso2022_SI_seq[] = "\x0F";\r
1460 /* shift out */\r
1461 static const char iso2022_SO_seq[] = "\x0E";\r
1462 \r
1463 typedef struct iso2022_esc_t iso2022_esc_t;\r
1464 struct iso2022_esc_t {\r
1465     const char *esc;\r
1466     int esc_len;\r
1467     int len;\r
1468     int cs;\r
1469 };\r
1470 \r
1471 #define ISO2022JP_CS_ASCII            0\r
1472 #define ISO2022JP_CS_JISX0201_ROMAN   1\r
1473 #define ISO2022JP_CS_JISX0201_KANA    2\r
1474 #define ISO2022JP_CS_JISX0208_1978    3\r
1475 #define ISO2022JP_CS_JISX0208_1983    4\r
1476 #define ISO2022JP_CS_JISX0212         5\r
1477 \r
1478 static iso2022_esc_t iso2022jp_esc[] = {\r
1479     {"\x1B\x28\x42", 3, 1, ISO2022JP_CS_ASCII},\r
1480     {"\x1B\x28\x4A", 3, 1, ISO2022JP_CS_JISX0201_ROMAN},\r
1481     {"\x1B\x28\x49", 3, 1, ISO2022JP_CS_JISX0201_KANA},\r
1482     {"\x1B\x24\x40", 3, 2, ISO2022JP_CS_JISX0208_1983}, /* unify 1978 with 1983 */\r
1483     {"\x1B\x24\x42", 3, 2, ISO2022JP_CS_JISX0208_1983},\r
1484     {"\x1B\x24\x28\x44", 4, 2, ISO2022JP_CS_JISX0212},\r
1485     {NULL, 0, 0, 0}\r
1486 };\r
1487 \r
1488 static int\r
1489 iso2022jp_mbtowc(csconv_t *cv, const uchar *buf, int bufsize, ushort *wbuf, int *wbufsize)\r
1490 {\r
1491     iso2022_esc_t *iesc = iso2022jp_esc;\r
1492     char tmp[MB_CHAR_MAX];\r
1493     int insize;\r
1494     HRESULT hr;\r
1495     DWORD dummy = 0;\r
1496     int len;\r
1497     int esc_len;\r
1498     int cs;\r
1499     int shift;\r
1500     int i;\r
1501 \r
1502     if (buf[0] == 0x1B)\r
1503     {\r
1504         for (i = 0; iesc[i].esc != NULL; ++i)\r
1505         {\r
1506             esc_len = iesc[i].esc_len;\r
1507             if (bufsize < esc_len)\r
1508             {\r
1509                 if (strncmp((char *)buf, iesc[i].esc, bufsize) == 0)\r
1510                     return_error(EINVAL);\r
1511             }\r
1512             else\r
1513             {\r
1514                 if (strncmp((char *)buf, iesc[i].esc, esc_len) == 0)\r
1515                 {\r
1516                     cv->mode = ISO2022_MODE(iesc[i].cs, ISO2022_SI);\r
1517                     *wbufsize = 0;\r
1518                     return esc_len;\r
1519                 }\r
1520             }\r
1521         }\r
1522         /* not supported escape sequence */\r
1523         return_error(EILSEQ);\r
1524     }\r
1525     else if (buf[0] == iso2022_SO_seq[0])\r
1526     {\r
1527         cv->mode = ISO2022_MODE(ISO2022_MODE_CS(cv->mode), ISO2022_SO);\r
1528         *wbufsize = 0;\r
1529         return 1;\r
1530     }\r
1531     else if (buf[0] == iso2022_SI_seq[0])\r
1532     {\r
1533         cv->mode = ISO2022_MODE(ISO2022_MODE_CS(cv->mode), ISO2022_SI);\r
1534         *wbufsize = 0;\r
1535         return 1;\r
1536     }\r
1537 \r
1538     cs = ISO2022_MODE_CS(cv->mode);\r
1539     shift = ISO2022_MODE_SHIFT(cv->mode);\r
1540 \r
1541     /* reset the mode for informal sequence */\r
1542     if (buf[0] < 0x20)\r
1543     {\r
1544         cs = ISO2022JP_CS_ASCII;\r
1545         shift = ISO2022_SI;\r
1546     }\r
1547 \r
1548     len = iesc[cs].len;\r
1549     if (bufsize < len)\r
1550         return_error(EINVAL);\r
1551     for (i = 0; i < len; ++i)\r
1552         if (!(buf[i] < 0x80))\r
1553             return_error(EILSEQ);\r
1554     esc_len = iesc[cs].esc_len;\r
1555     memcpy(tmp, iesc[cs].esc, esc_len);\r
1556     if (shift == ISO2022_SO)\r
1557     {\r
1558         memcpy(tmp + esc_len, iso2022_SO_seq, 1);\r
1559         esc_len += 1;\r
1560     }\r
1561     memcpy(tmp + esc_len, buf, len);\r
1562 \r
1563     if ((cv->codepage == 50220 || cv->codepage == 50221\r
1564                 || cv->codepage == 50222) && shift == ISO2022_SO)\r
1565     {\r
1566         /* XXX: shift-out cannot be used for mbtowc (both kernel and\r
1567          * mlang) */\r
1568         esc_len = iesc[ISO2022JP_CS_JISX0201_KANA].esc_len;\r
1569         memcpy(tmp, iesc[ISO2022JP_CS_JISX0201_KANA].esc, esc_len);\r
1570         memcpy(tmp + esc_len, buf, len);\r
1571     }\r
1572 \r
1573     insize = len + esc_len;\r
1574     hr = ConvertINetMultiByteToUnicode(&dummy, cv->codepage,\r
1575             (const char *)tmp, &insize, (wchar_t *)wbuf, wbufsize);\r
1576     if (hr != S_OK || insize != len + esc_len)\r
1577         return_error(EILSEQ);\r
1578 \r
1579     /* Check for conversion error.  Assuming defaultChar is 0x3F. */\r
1580     /* ascii should be converted from ascii */\r
1581     if (wbuf[0] == buf[0]\r
1582             && cv->mode != ISO2022_MODE(ISO2022JP_CS_ASCII, ISO2022_SI))\r
1583         return_error(EILSEQ);\r
1584 \r
1585     /* reset the mode for informal sequence */\r
1586     if (cv->mode != ISO2022_MODE(cs, shift))\r
1587         cv->mode = ISO2022_MODE(cs, shift);\r
1588 \r
1589     return len;\r
1590 }\r
1591 \r
1592 static int\r
1593 iso2022jp_wctomb(csconv_t *cv, ushort *wbuf, int wbufsize, uchar *buf, int bufsize)\r
1594 {\r
1595     iso2022_esc_t *iesc = iso2022jp_esc;\r
1596     char tmp[MB_CHAR_MAX];\r
1597     int tmpsize = MB_CHAR_MAX;\r
1598     int insize = wbufsize;\r
1599     HRESULT hr;\r
1600     DWORD dummy = 0;\r
1601     int len;\r
1602     int esc_len;\r
1603     int cs;\r
1604     int shift;\r
1605     int i;\r
1606 \r
1607     /*\r
1608      * MultiByte = [escape sequence] + character + [escape sequence]\r
1609      *\r
1610      * Whether trailing escape sequence is added depends on which API is\r
1611      * used (kernel or MLang, and its version).\r
1612      */\r
1613     hr = ConvertINetUnicodeToMultiByte(&dummy, cv->codepage,\r
1614             (const wchar_t *)wbuf, &wbufsize, tmp, &tmpsize);\r
1615     if (hr != S_OK || insize != wbufsize)\r
1616         return_error(EILSEQ);\r
1617     else if (bufsize < tmpsize)\r
1618         return_error(E2BIG);\r
1619 \r
1620     if (tmpsize == 1)\r
1621     {\r
1622         cs = ISO2022JP_CS_ASCII;\r
1623         esc_len = 0;\r
1624     }\r
1625     else\r
1626     {\r
1627         for (i = 1; iesc[i].esc != NULL; ++i)\r
1628         {\r
1629             esc_len = iesc[i].esc_len;\r
1630             if (strncmp(tmp, iesc[i].esc, esc_len) == 0)\r
1631             {\r
1632                 cs = iesc[i].cs;\r
1633                 break;\r
1634             }\r
1635         }\r
1636         if (iesc[i].esc == NULL)\r
1637             /* not supported escape sequence */\r
1638             return_error(EILSEQ);\r
1639     }\r
1640 \r
1641     shift = ISO2022_SI;\r
1642     if (tmp[esc_len] == iso2022_SO_seq[0])\r
1643     {\r
1644         shift = ISO2022_SO;\r
1645         esc_len += 1;\r
1646     }\r
1647 \r
1648     len = iesc[cs].len;\r
1649 \r
1650     /* Check for converting error.  Assuming defaultChar is 0x3F. */\r
1651     /* ascii should be converted from ascii */\r
1652     if (cs == ISO2022JP_CS_ASCII && !(wbuf[0] < 0x80))\r
1653         return_error(EILSEQ);\r
1654     else if (tmpsize < esc_len + len)\r
1655         return_error(EILSEQ);\r
1656 \r
1657     if (cv->mode == ISO2022_MODE(cs, shift))\r
1658     {\r
1659         /* remove escape sequence */\r
1660         if (esc_len != 0)\r
1661             memmove(tmp, tmp + esc_len, len);\r
1662         esc_len = 0;\r
1663     }\r
1664     else\r
1665     {\r
1666         if (cs == ISO2022JP_CS_ASCII)\r
1667         {\r
1668             esc_len = iesc[ISO2022JP_CS_ASCII].esc_len;\r
1669             memmove(tmp + esc_len, tmp, len);\r
1670             memcpy(tmp, iesc[ISO2022JP_CS_ASCII].esc, esc_len);\r
1671         }\r
1672         if (ISO2022_MODE_SHIFT(cv->mode) == ISO2022_SO)\r
1673         {\r
1674             /* shift-in before changing to other mode */\r
1675             memmove(tmp + 1, tmp, len + esc_len);\r
1676             memcpy(tmp, iso2022_SI_seq, 1);\r
1677             esc_len += 1;\r
1678         }\r
1679     }\r
1680 \r
1681     if (bufsize < len + esc_len)\r
1682         return_error(E2BIG);\r
1683     memcpy(buf, tmp, len + esc_len);\r
1684     cv->mode = ISO2022_MODE(cs, shift);\r
1685     return len + esc_len;\r
1686 }\r
1687 \r
1688 static int\r
1689 iso2022jp_flush(csconv_t *cv, uchar *buf, int bufsize)\r
1690 {\r
1691     iso2022_esc_t *iesc = iso2022jp_esc;\r
1692     int esc_len;\r
1693 \r
1694     if (cv->mode != ISO2022_MODE(ISO2022JP_CS_ASCII, ISO2022_SI))\r
1695     {\r
1696         esc_len = 0;\r
1697         if (ISO2022_MODE_SHIFT(cv->mode) != ISO2022_SI)\r
1698             esc_len += 1;\r
1699         if (ISO2022_MODE_CS(cv->mode) != ISO2022JP_CS_ASCII)\r
1700             esc_len += iesc[ISO2022JP_CS_ASCII].esc_len;\r
1701         if (bufsize < esc_len)\r
1702             return_error(E2BIG);\r
1703 \r
1704         esc_len = 0;\r
1705         if (ISO2022_MODE_SHIFT(cv->mode) != ISO2022_SI)\r
1706         {\r
1707             memcpy(buf, iso2022_SI_seq, 1);\r
1708             esc_len += 1;\r
1709         }\r
1710         if (ISO2022_MODE_CS(cv->mode) != ISO2022JP_CS_ASCII)\r
1711         {\r
1712             memcpy(buf + esc_len, iesc[ISO2022JP_CS_ASCII].esc,\r
1713                     iesc[ISO2022JP_CS_ASCII].esc_len);\r
1714             esc_len += iesc[ISO2022JP_CS_ASCII].esc_len;\r
1715         }\r
1716         return esc_len;\r
1717     }\r
1718     return 0;\r
1719 }\r
1720 \r
1721 #if defined(MAKE_DLL) && defined(USE_LIBICONV_DLL)\r
1722 BOOL WINAPI\r
1723 DllMain(HINSTANCE hinstDLL, DWORD fdwReason, LPVOID lpReserved)\r
1724 {\r
1725     switch( fdwReason )\r
1726     {\r
1727     case DLL_PROCESS_ATTACH:\r
1728         hwiniconv = (HMODULE)hinstDLL;\r
1729         break;\r
1730     case DLL_THREAD_ATTACH:\r
1731     case DLL_THREAD_DETACH:\r
1732     case DLL_PROCESS_DETACH:\r
1733         break;\r
1734     }\r
1735     return TRUE;\r
1736 }\r
1737 #endif\r
1738 \r
1739 #if defined(MAKE_EXE)\r
1740 #include <stdio.h>\r
1741 #include <fcntl.h>\r
1742 #include <io.h>\r
1743 int\r
1744 main(int argc, char **argv)\r
1745 {\r
1746     char *fromcode = NULL;\r
1747     char *tocode = NULL;\r
1748     int i;\r
1749     char inbuf[BUFSIZ];\r
1750     char outbuf[BUFSIZ];\r
1751     const char *pin;\r
1752     char *pout;\r
1753     size_t inbytesleft;\r
1754     size_t outbytesleft;\r
1755     size_t rest = 0;\r
1756     iconv_t cd;\r
1757     size_t r;\r
1758     FILE *in = stdin;\r
1759 \r
1760     _setmode(_fileno(stdin), _O_BINARY);\r
1761     _setmode(_fileno(stdout), _O_BINARY);\r
1762 \r
1763     for (i = 1; i < argc; ++i)\r
1764     {\r
1765         if (strcmp(argv[i], "-l") == 0)\r
1766         {\r
1767             for (i = 0; codepage_alias[i].name != NULL; ++i)\r
1768                 printf("%s\n", codepage_alias[i].name);\r
1769             return 0;\r
1770         }\r
1771 \r
1772         if (strcmp(argv[i], "-f") == 0)\r
1773             fromcode = argv[++i];\r
1774         else if (strcmp(argv[i], "-t") == 0)\r
1775             tocode = argv[++i];\r
1776         else\r
1777         {\r
1778             in = fopen(argv[i], "rb");\r
1779             if (in == NULL)\r
1780             {\r
1781                 fprintf(stderr, "cannot open %s\n", argv[i]);\r
1782                 return 1;\r
1783             }\r
1784             break;\r
1785         }\r
1786     }\r
1787 \r
1788     if (fromcode == NULL || tocode == NULL)\r
1789     {\r
1790         printf("usage: %s -f from-enc -t to-enc [file]\n", argv[0]);\r
1791         return 0;\r
1792     }\r
1793 \r
1794     cd = iconv_open(tocode, fromcode);\r
1795     if (cd == (iconv_t)(-1))\r
1796     {\r
1797         perror("iconv_open error");\r
1798         return 1;\r
1799     }\r
1800 \r
1801     while ((inbytesleft = fread(inbuf + rest, 1, sizeof(inbuf) - rest, in)) != 0\r
1802             || rest != 0)\r
1803     {\r
1804         inbytesleft += rest;\r
1805         pin = inbuf;\r
1806         pout = outbuf;\r
1807         outbytesleft = sizeof(outbuf);\r
1808         r = iconv(cd, &pin, &inbytesleft, &pout, &outbytesleft);\r
1809         fwrite(outbuf, 1, sizeof(outbuf) - outbytesleft, stdout);\r
1810         if (r == (size_t)(-1) && errno != EINVAL && errno != E2BIG)\r
1811         {\r
1812             perror("conversion error");\r
1813             return 1;\r
1814         }\r
1815         memmove(inbuf, pin, inbytesleft);\r
1816         rest = inbytesleft;\r
1817     }\r
1818     pout = outbuf;\r
1819     outbytesleft = sizeof(outbuf);\r
1820     r = iconv(cd, NULL, NULL, &pout, &outbytesleft);\r
1821     fwrite(outbuf, 1, sizeof(outbuf) - outbytesleft, stdout);\r
1822     if (r == (size_t)(-1))\r
1823     {\r
1824         perror("conversion error");\r
1825         return 1;\r
1826     }\r
1827 \r
1828     iconv_close(cd);\r
1829 \r
1830     return 0;\r
1831 }\r
1832 #endif\r
1833 \r