src/third_party/WebKit/Source/wtf/text/TextCodecLatin1.cpp

   1 /*
   2  * Copyright (C) 2004, 2006, 2008 Apple Inc. All rights reserved.
   3  *
   4  * Redistribution and use in source and binary forms, with or without
   5  * modification, are permitted provided that the following conditions
   6  * are met:
   7  * 1. Redistributions of source code must retain the above copyright
   8  *    notice, this list of conditions and the following disclaimer.
   9  * 2. Redistributions in binary form must reproduce the above copyright
  10  *    notice, this list of conditions and the following disclaimer in the
  11  *    documentation and/or other materials provided with the distribution.
  12  *
  13  * THIS SOFTWARE IS PROVIDED BY APPLE COMPUTER, INC. ``AS IS'' AND ANY
  14  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  15  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  16  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE COMPUTER, INC. OR
  17  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
  18  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  19  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
  20  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
  21  * OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  23  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  24  */
  25
  26 #include "config.h"
  27 #include "wtf/text/TextCodecLatin1.h"
  28
  29 #include "wtf/text/TextCodecASCIIFastPath.h"
  30 #include "wtf/PassOwnPtr.h"
  31 #include "wtf/text/CString.h"
  32 #include "wtf/text/StringBuffer.h"
  33 #include "wtf/text/WTFString.h"
  34
  35 using namespace WTF;
  36
  37 namespace WTF {
  38
  39 static const UChar table[256] = {
  40     0x0000, 0x0001, 0x0002, 0x0003, 0x0004, 0x0005, 0x0006, 0x0007, // 00-07
  41     0x0008, 0x0009, 0x000A, 0x000B, 0x000C, 0x000D, 0x000E, 0x000F, // 08-0F
  42     0x0010, 0x0011, 0x0012, 0x0013, 0x0014, 0x0015, 0x0016, 0x0017, // 10-17
  43     0x0018, 0x0019, 0x001A, 0x001B, 0x001C, 0x001D, 0x001E, 0x001F, // 18-1F
  44     0x0020, 0x0021, 0x0022, 0x0023, 0x0024, 0x0025, 0x0026, 0x0027, // 20-27
  45     0x0028, 0x0029, 0x002A, 0x002B, 0x002C, 0x002D, 0x002E, 0x002F, // 28-2F
  46     0x0030, 0x0031, 0x0032, 0x0033, 0x0034, 0x0035, 0x0036, 0x0037, // 30-37
  47     0x0038, 0x0039, 0x003A, 0x003B, 0x003C, 0x003D, 0x003E, 0x003F, // 38-3F
  48     0x0040, 0x0041, 0x0042, 0x0043, 0x0044, 0x0045, 0x0046, 0x0047, // 40-47
  49     0x0048, 0x0049, 0x004A, 0x004B, 0x004C, 0x004D, 0x004E, 0x004F, // 48-4F
  50     0x0050, 0x0051, 0x0052, 0x0053, 0x0054, 0x0055, 0x0056, 0x0057, // 50-57
  51     0x0058, 0x0059, 0x005A, 0x005B, 0x005C, 0x005D, 0x005E, 0x005F, // 58-5F
  52     0x0060, 0x0061, 0x0062, 0x0063, 0x0064, 0x0065, 0x0066, 0x0067, // 60-67
  53     0x0068, 0x0069, 0x006A, 0x006B, 0x006C, 0x006D, 0x006E, 0x006F, // 68-6F
  54     0x0070, 0x0071, 0x0072, 0x0073, 0x0074, 0x0075, 0x0076, 0x0077, // 70-77
  55     0x0078, 0x0079, 0x007A, 0x007B, 0x007C, 0x007D, 0x007E, 0x007F, // 78-7F
  56     0x20AC, 0x0081, 0x201A, 0x0192, 0x201E, 0x2026, 0x2020, 0x2021, // 80-87
  57     0x02C6, 0x2030, 0x0160, 0x2039, 0x0152, 0x008D, 0x017D, 0x008F, // 88-8F
  58     0x0090, 0x2018, 0x2019, 0x201C, 0x201D, 0x2022, 0x2013, 0x2014, // 90-97
  59     0x02DC, 0x2122, 0x0161, 0x203A, 0x0153, 0x009D, 0x017E, 0x0178, // 98-9F
  60     0x00A0, 0x00A1, 0x00A2, 0x00A3, 0x00A4, 0x00A5, 0x00A6, 0x00A7, // A0-A7
  61     0x00A8, 0x00A9, 0x00AA, 0x00AB, 0x00AC, 0x00AD, 0x00AE, 0x00AF, // A8-AF
  62     0x00B0, 0x00B1, 0x00B2, 0x00B3, 0x00B4, 0x00B5, 0x00B6, 0x00B7, // B0-B7
  63     0x00B8, 0x00B9, 0x00BA, 0x00BB, 0x00BC, 0x00BD, 0x00BE, 0x00BF, // B8-BF
  64     0x00C0, 0x00C1, 0x00C2, 0x00C3, 0x00C4, 0x00C5, 0x00C6, 0x00C7, // C0-C7
  65     0x00C8, 0x00C9, 0x00CA, 0x00CB, 0x00CC, 0x00CD, 0x00CE, 0x00CF, // C8-CF
  66     0x00D0, 0x00D1, 0x00D2, 0x00D3, 0x00D4, 0x00D5, 0x00D6, 0x00D7, // D0-D7
  67     0x00D8, 0x00D9, 0x00DA, 0x00DB, 0x00DC, 0x00DD, 0x00DE, 0x00DF, // D8-DF
  68     0x00E0, 0x00E1, 0x00E2, 0x00E3, 0x00E4, 0x00E5, 0x00E6, 0x00E7, // E0-E7
  69     0x00E8, 0x00E9, 0x00EA, 0x00EB, 0x00EC, 0x00ED, 0x00EE, 0x00EF, // E8-EF
  70     0x00F0, 0x00F1, 0x00F2, 0x00F3, 0x00F4, 0x00F5, 0x00F6, 0x00F7, // F0-F7
  71     0x00F8, 0x00F9, 0x00FA, 0x00FB, 0x00FC, 0x00FD, 0x00FE, 0x00FF  // F8-FF
  72 };
  73
  74 void TextCodecLatin1::registerEncodingNames(EncodingNameRegistrar registrar)
  75 {
  76     // Taken from the alias table at https://encoding.spec.whatwg.org/
  77     registrar("windows-1252", "windows-1252");
  78     registrar("ANSI_X3.4-1968", "windows-1252");
  79     registrar("ASCII", "windows-1252");
  80     registrar("cp1252", "windows-1252");
  81     registrar("cp819", "windows-1252");
  82     registrar("csISOLatin1", "windows-1252");
  83     registrar("IBM819", "windows-1252");
  84     registrar("ISO-8859-1", "windows-1252");
  85     registrar("iso-ir-100", "windows-1252");
  86     registrar("iso8859-1", "windows-1252");
  87     registrar("iso88591", "windows-1252");
  88     registrar("iso_8859-1", "windows-1252");
  89     registrar("iso_8859-1:1987", "windows-1252");
  90     registrar("l1", "windows-1252");
  91     registrar("latin1", "windows-1252");
  92     registrar("US-ASCII", "windows-1252");
  93     registrar("x-cp1252", "windows-1252");
  94 }
  95
  96 static PassOwnPtr<TextCodec> newStreamingTextDecoderWindowsLatin1(const TextEncoding&, const void*)
  97 {
  98     return adoptPtr(new TextCodecLatin1);
  99 }
 100
 101 void TextCodecLatin1::registerCodecs(TextCodecRegistrar registrar)
 102 {
 103     registrar("windows-1252", newStreamingTextDecoderWindowsLatin1, 0);
 104
 105     // ASCII and Latin-1 both decode as Windows Latin-1 although they retain unique identities.
 106     registrar("ISO-8859-1", newStreamingTextDecoderWindowsLatin1, 0);
 107     registrar("US-ASCII", newStreamingTextDecoderWindowsLatin1, 0);
 108 }
 109
 110 String TextCodecLatin1::decode(const char* bytes, size_t length, FlushBehavior, bool, bool&)
 111 {
 112     LChar* characters;
 113     if (!length)
 114         return emptyString();
 115     String result = String::createUninitialized(length, characters);
 116
 117     const uint8_t* source = reinterpret_cast<const uint8_t*>(bytes);
 118     const uint8_t* end = reinterpret_cast<const uint8_t*>(bytes + length);
 119     const uint8_t* alignedEnd = alignToMachineWord(end);
 120     LChar* destination = characters;
 121
 122     while (source < end) {
 123         if (isASCII(*source)) {
 124             // Fast path for ASCII. Most Latin-1 text will be ASCII.
 125             if (isAlignedToMachineWord(source)) {
 126                 while (source < alignedEnd) {
 127                     MachineWord chunk = *reinterpret_cast_ptr<const MachineWord*>(source);
 128
 129                     if (!isAllASCII<LChar>(chunk))
 130                         goto useLookupTable;
 131
 132                     copyASCIIMachineWord(destination, source);
 133                     source += sizeof(MachineWord);
 134                     destination += sizeof(MachineWord);
 135                 }
 136
 137                 if (source == end)
 138                     break;
 139             }
 140             *destination = *source;
 141         } else {
 142 useLookupTable:
 143             if (table[*source] > 0xff)
 144                 goto upConvertTo16Bit;
 145
 146             *destination = static_cast<LChar>(table[*source]);
 147         }
 148
 149         ++source;
 150         ++destination;
 151     }
 152
 153     return result;
 154
 155 upConvertTo16Bit:
 156     UChar* characters16;
 157     String result16 = String::createUninitialized(length, characters16);
 158
 159     UChar* destination16 = characters16;
 160
 161     // Zero extend and copy already processed 8 bit data
 162     LChar* ptr8 = characters;
 163     LChar* endPtr8 = destination;
 164
 165     while (ptr8 < endPtr8)
 166         *destination16++ = *ptr8++;
 167
 168     // Handle the character that triggered the 16 bit path
 169     *destination16 = table[*source];
 170     ++source;
 171     ++destination16;
 172
 173     while (source < end) {
 174         if (isASCII(*source)) {
 175             // Fast path for ASCII. Most Latin-1 text will be ASCII.
 176             if (isAlignedToMachineWord(source)) {
 177                 while (source < alignedEnd) {
 178                     MachineWord chunk = *reinterpret_cast_ptr<const MachineWord*>(source);
 179
 180                     if (!isAllASCII<LChar>(chunk))
 181                         goto useLookupTable16;
 182
 183                     copyASCIIMachineWord(destination16, source);
 184                     source += sizeof(MachineWord);
 185                     destination16 += sizeof(MachineWord);
 186                 }
 187
 188                 if (source == end)
 189                     break;
 190             }
 191             *destination16 = *source;
 192         } else {
 193 useLookupTable16:
 194             *destination16 = table[*source];
 195         }
 196
 197         ++source;
 198         ++destination16;
 199     }
 200
 201     return result16;
 202 }
 203
 204 template<typename CharType>
 205 static CString encodeComplexWindowsLatin1(const CharType* characters, size_t length, UnencodableHandling handling)
 206 {
 207     Vector<char> result(length);
 208     char* bytes = result.data();
 209
 210     size_t resultLength = 0;
 211     for (size_t i = 0; i < length; ) {
 212         UChar32 c;
 213         U16_NEXT(characters, i, length, c);
 214         unsigned char b = static_cast<unsigned char>(c);
 215         // Do an efficient check to detect characters other than 00-7F and A0-FF.
 216         if (b != c || (c & 0xE0) == 0x80) {
 217             // Look for a way to encode this with Windows Latin-1.
 218             for (b = 0x80; b < 0xA0; ++b)
 219                 if (table[b] == c)
 220                     goto gotByte;
 221             // No way to encode this character with Windows Latin-1.
 222             UnencodableReplacementArray replacement;
 223             int replacementLength = TextCodec::getUnencodableReplacement(c, handling, replacement);
 224             result.grow(resultLength + replacementLength + length - i);
 225             bytes = result.data();
 226             memcpy(bytes + resultLength, replacement, replacementLength);
 227             resultLength += replacementLength;
 228             continue;
 229         }
 230     gotByte:
 231         bytes[resultLength++] = b;
 232     }
 233
 234     return CString(bytes, resultLength);
 235 }
 236
 237 template<typename CharType>
 238 CString TextCodecLatin1::encodeCommon(const CharType* characters, size_t length, UnencodableHandling handling)
 239 {
 240     {
 241         char* bytes;
 242         CString string = CString::newUninitialized(length, bytes);
 243
 244         // Convert the string a fast way and simultaneously do an efficient check to see if it's all ASCII.
 245         UChar ored = 0;
 246         for (size_t i = 0; i < length; ++i) {
 247             UChar c = characters[i];
 248             bytes[i] = static_cast<char>(c);
 249             ored |= c;
 250         }
 251
 252         if (!(ored & 0xFF80))
 253             return string;
 254     }
 255
 256     // If it wasn't all ASCII, call the function that handles more-complex cases.
 257     return encodeComplexWindowsLatin1(characters, length, handling);
 258 }
 259
 260 CString TextCodecLatin1::encode(const UChar* characters, size_t length, UnencodableHandling handling)
 261 {
 262     return encodeCommon(characters, length, handling);
 263 }
 264
 265 CString TextCodecLatin1::encode(const LChar* characters, size_t length, UnencodableHandling handling)
 266 {
 267     return encodeCommon(characters, length, handling);
 268 }
 269
 270 } // namespace WTF