C/Bra86.c

   1 /* Bra86.c -- Converter for x86 code (BCJ)\r
   2 2008-10-04 : Igor Pavlov : Public domain */\r
   3 \r
   4 #include "Bra.h"\r
   5 \r
   6 #define Test86MSByte(b) ((b) == 0 || (b) == 0xFF)\r
   7 \r
   8 const Byte kMaskToAllowedStatus[8] = {1, 1, 1, 0, 1, 0, 0, 0};\r
   9 const Byte kMaskToBitNumber[8] = {0, 1, 2, 2, 3, 3, 3, 3};\r
  10 \r
  11 SizeT x86_Convert(Byte *data, SizeT size, UInt32 ip, UInt32 *state, int encoding)\r
  12 {\r
  13   SizeT bufferPos = 0, prevPosT;\r
  14   UInt32 prevMask = *state & 0x7;\r
  15   if (size < 5)\r
  16     return 0;\r
  17   ip += 5;\r
  18   prevPosT = (SizeT)0 - 1;\r
  19 \r
  20   for (;;)\r
  21   {\r
  22     Byte *p = data + bufferPos;\r
  23     Byte *limit = data + size - 4;\r
  24     for (; p < limit; p++)\r
  25       if ((*p & 0xFE) == 0xE8)\r
  26         break;\r
  27     bufferPos = (SizeT)(p - data);\r
  28     if (p >= limit)\r
  29       break;\r
  30     prevPosT = bufferPos - prevPosT;\r
  31     if (prevPosT > 3)\r
  32       prevMask = 0;\r
  33     else\r
  34     {\r
  35       prevMask = (prevMask << ((int)prevPosT - 1)) & 0x7;\r
  36       if (prevMask != 0)\r
  37       {\r
  38         Byte b = p[4 - kMaskToBitNumber[prevMask]];\r
  39         if (!kMaskToAllowedStatus[prevMask] || Test86MSByte(b))\r
  40         {\r
  41           prevPosT = bufferPos;\r
  42           prevMask = ((prevMask << 1) & 0x7) | 1;\r
  43           bufferPos++;\r
  44           continue;\r
  45         }\r
  46       }\r
  47     }\r
  48     prevPosT = bufferPos;\r
  49 \r
  50     if (Test86MSByte(p[4]))\r
  51     {\r
  52       UInt32 src = ((UInt32)p[4] << 24) | ((UInt32)p[3] << 16) | ((UInt32)p[2] << 8) | ((UInt32)p[1]);\r
  53       UInt32 dest;\r
  54       for (;;)\r
  55       {\r
  56         Byte b;\r
  57         int index;\r
  58         if (encoding)\r
  59           dest = (ip + (UInt32)bufferPos) + src;\r
  60         else\r
  61           dest = src - (ip + (UInt32)bufferPos);\r
  62         if (prevMask == 0)\r
  63           break;\r
  64         index = kMaskToBitNumber[prevMask] * 8;\r
  65         b = (Byte)(dest >> (24 - index));\r
  66         if (!Test86MSByte(b))\r
  67           break;\r
  68         src = dest ^ ((1 << (32 - index)) - 1);\r
  69       }\r
  70       p[4] = (Byte)(~(((dest >> 24) & 1) - 1));\r
  71       p[3] = (Byte)(dest >> 16);\r
  72       p[2] = (Byte)(dest >> 8);\r
  73       p[1] = (Byte)dest;\r
  74       bufferPos += 5;\r
  75     }\r
  76     else\r
  77     {\r
  78       prevMask = ((prevMask << 1) & 0x7) | 1;\r
  79       bufferPos++;\r
  80     }\r
  81   }\r
  82   prevPosT = bufferPos - prevPosT;\r
  83   *state = ((prevPosT > 3) ? 0 : ((prevMask << ((int)prevPosT - 1)) & 0x7));\r
  84   return bufferPos;\r
  85 }\r