Fix several issues in the preprocessor:
[platform/upstream/glslang.git] / glslang / MachineIndependent / Scan.cpp
1 //
2 //Copyright (C) 2002-2005  3Dlabs Inc. Ltd.
3 //Copyright (C) 2013 LunarG, Inc.
4 //
5 //All rights reserved.
6 //
7 //Redistribution and use in source and binary forms, with or without
8 //modification, are permitted provided that the following conditions
9 //are met:
10 //
11 //    Redistributions of source code must retain the above copyright
12 //    notice, this list of conditions and the following disclaimer.
13 //
14 //    Redistributions in binary form must reproduce the above
15 //    copyright notice, this list of conditions and the following
16 //    disclaimer in the documentation and/or other materials provided
17 //    with the distribution.
18 //
19 //    Neither the name of 3Dlabs Inc. Ltd. nor the names of its
20 //    contributors may be used to endorse or promote products derived
21 //    from this software without specific prior written permission.
22 //
23 //THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
24 //"AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
25 //LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
26 //FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE
27 //COPYRIGHT HOLDERS OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT,
28 //INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING,
29 //BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
30 //LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER
31 //CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
32 //LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN
33 //ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
34 //POSSIBILITY OF SUCH DAMAGE.
35 //
36
37 //
38 // GLSL scanning, leveraging the scanning done by the preprocessor.
39 //
40
41 #include <string.h>
42
43 #include "../Include/Types.h"
44 #include "SymbolTable.h"
45 #include "glslang_tab.cpp.h"
46 #include "ParseHelper.h"
47 #include "ScanContext.h"
48 #include "Scan.h"
49
50 // preprocessor includes
51 #include "preprocessor/PpContext.h"
52 #include "preprocessor/PpTokens.h"
53
54 namespace glslang {
55     
56 // read past any white space
57 void TInputScanner::consumeWhiteSpace(bool& foundNonSpaceTab)
58 {
59     char c = peek();  // don't accidentally consume anything other than whitespace
60     while (c == ' ' || c == '\t' || c == '\r' || c == '\n') {
61         if (c == '\r' || c == '\n')
62             foundNonSpaceTab = true;
63         get();
64         c = peek();
65     }
66 }
67
68 // return true if a comment was actually consumed
69 bool TInputScanner::consumeComment()
70 {
71     if (peek() != '/')
72         return false;
73
74     get();  // consume the '/'
75     char c = peek();
76     if (c == '/') {
77
78         // a '//' style comment
79         get();  // consume the second '/'
80         c = get();
81         do {
82             while (c > 0 && c != '\\' && c != '\r' && c != '\n')
83                 c = get();
84
85             if (c <= 0 || c == '\r' || c == '\n') {
86                 while (c == '\r' || c == '\n')
87                     c = get();
88
89                 // we reached the end of the comment
90                 break;
91             } else {
92                 // it's a '\', so we need to keep going, after skipping what's escaped
93                     
94                 // read the skipped character
95                 c = get();
96
97                 // if it's a two-character newline, skip both characters
98                 if (c == '\r' && peek() == '\n')
99                     get();
100                 c = get();
101             }
102         } while (true);
103
104         // put back the last non-comment character
105         if (c > 0)
106             unget();
107
108         return true;
109     } else if (c == '*') {
110
111         // a '/*' style comment
112         get();  // consume the '*'
113         c = get();
114         do {
115             while (c > 0 && c != '*')
116                 c = get();
117             if (c == '*') {
118                 c = get();
119                 if (c == '/')
120                     break;  // end of comment
121                 // not end of comment
122             } else // end of input
123                 break;
124         } while (true);
125
126         return true;
127     } else {
128         // it's not a comment, put the '/' back
129         unget();
130
131         return false;
132     }
133 }
134
135 // skip whitespace, then skip a comment, rinse, repeat
136 void TInputScanner::consumeWhitespaceComment(bool& foundNonSpaceTab)
137 {
138     do {
139         consumeWhiteSpace(foundNonSpaceTab);
140  
141         // if not starting a comment now, then done
142         char c = peek();
143         if (c != '/' || c < 0)
144             return;
145
146         // skip potential comment 
147         foundNonSpaceTab = true;
148         if (! consumeComment())
149             return;
150
151     } while (true);
152 }
153
154 // Returns true if there was non-white space (e.g., a comment, newline) before the #version
155 // or no #version was found; otherwise, returns false.  There is no error case, it always
156 // succeeds, but will leave version == 0 if no #version was found.
157 //
158 // N.B. does not attempt to leave input in any particular known state.  The assumption
159 // is that scanning will start anew, following the rules for the chosen version/profile,
160 // and with a corresponding parsing context.
161 //
162 bool TInputScanner::scanVersion(int& version, EProfile& profile)
163 {
164     // This function doesn't have to get all the semantics correct,
165     // just find the #version if there is a correct one present.
166     // The preprocessor will have the responsibility of getting all the semantics right.
167
168     version = 0;  // means not found
169     profile = ENoProfile;
170
171     bool foundNonSpaceTab = false;
172     consumeWhitespaceComment(foundNonSpaceTab);
173
174     // #
175     if (get() != '#')
176         return true;
177
178     // whitespace
179     char c;
180     do {
181         c = get();
182     } while (c == ' ' || c == '\t');
183
184     if (    c != 'v' ||
185         get() != 'e' ||
186         get() != 'r' ||
187         get() != 's' ||
188         get() != 'i' ||
189         get() != 'o' ||
190         get() != 'n')
191         return true;
192
193     // whitespace
194     do {
195         c = get();
196     } while (c == ' ' || c == '\t');
197
198     // version number
199     while (c >= '0' && c <= '9') {
200         version = 10 * version + (c - '0');
201         c = get();
202     }
203     if (version == 0)
204         return true;
205     
206     // whitespace
207     while (c == ' ' || c == '\t')
208         c = get();
209
210     // profile
211     const int maxProfileLength = 13;  // not including any 0
212     char profileString[maxProfileLength];
213     int profileLength;
214     for (profileLength = 0; profileLength < maxProfileLength; ++profileLength) {
215         if (c < 0 || c == ' ' || c == '\t' || c == '\n' || c == '\r')
216             break;
217         profileString[profileLength] = c;
218         c = get();
219     }
220     if (c > 0 && c != ' ' && c != '\t' && c != '\n' && c != '\r')
221         return true;
222
223     if (profileLength == 2 && strncmp(profileString, "es", profileLength) == 0)
224         profile = EEsProfile;
225     else if (profileLength == 4 && strncmp(profileString, "core", profileLength) == 0)
226         profile = ECoreProfile;
227     else if (profileLength == 13 && strncmp(profileString, "compatibility", profileLength) == 0)
228         profile = ECompatibilityProfile;
229
230     return foundNonSpaceTab;
231 }
232
233 // Fill this in when doing glslang-level scanning, to hand back to the parser.
234 class TParserToken {
235 public:
236     explicit TParserToken(YYSTYPE& b) : sType(b) { }
237
238     YYSTYPE& sType;
239 };
240
241 } // end namespace glslang
242
243 // This is the function the glslang parser (i.e., bison) calls to get its next token
244 int yylex(YYSTYPE* glslangTokenDesc, glslang::TParseContext& parseContext)
245 {
246     glslang::TParserToken token(*glslangTokenDesc);
247
248     return parseContext.getScanContext()->tokenize(parseContext.getPpContext(), token);
249 }
250
251 namespace {
252
253 // A single global usable by all threads, by all versions, by all languages.
254 // After a single process-level initialization, this is read only and thread safe
255 std::map<std::string, int>* KeywordMap = 0;
256 std::set<std::string>* ReservedSet = 0;
257
258 };
259
260 namespace glslang {
261
262 void TScanContext::fillInKeywordMap()
263 {
264     if (KeywordMap != 0) {
265         // this is really an error, as this should called only once per process
266         // but, the only risk is if two threads called simultaneously
267         return;
268     }
269     KeywordMap = new std::map<std::string, int>;
270
271     (*KeywordMap)["const"] =                   CONST;
272     (*KeywordMap)["uniform"] =                 UNIFORM;
273     (*KeywordMap)["in"] =                      IN;
274     (*KeywordMap)["out"] =                     OUT;
275     (*KeywordMap)["inout"] =                   INOUT;
276     (*KeywordMap)["struct"] =                  STRUCT;
277     (*KeywordMap)["break"] =                   BREAK;
278     (*KeywordMap)["continue"] =                CONTINUE;
279     (*KeywordMap)["do"] =                      DO;
280     (*KeywordMap)["for"] =                     FOR;
281     (*KeywordMap)["while"] =                   WHILE;
282     (*KeywordMap)["switch"] =                  SWITCH;
283     (*KeywordMap)["case"] =                    CASE;
284     (*KeywordMap)["default"] =                 DEFAULT;
285     (*KeywordMap)["if"] =                      IF;
286     (*KeywordMap)["else"] =                    ELSE;
287     (*KeywordMap)["discard"] =                 DISCARD;
288     (*KeywordMap)["return"] =                  RETURN;
289     (*KeywordMap)["void"] =                    VOID;
290     (*KeywordMap)["bool"] =                    BOOL;
291     (*KeywordMap)["float"] =                   FLOAT;
292     (*KeywordMap)["int"] =                     INT;
293     (*KeywordMap)["bvec2"] =                   BVEC2;
294     (*KeywordMap)["bvec3"] =                   BVEC3;
295     (*KeywordMap)["bvec4"] =                   BVEC4;
296     (*KeywordMap)["vec2"] =                    VEC2;
297     (*KeywordMap)["vec3"] =                    VEC3;
298     (*KeywordMap)["vec4"] =                    VEC4;
299     (*KeywordMap)["ivec2"] =                   IVEC2;
300     (*KeywordMap)["ivec3"] =                   IVEC3;
301     (*KeywordMap)["ivec4"] =                   IVEC4;
302     (*KeywordMap)["mat2"] =                    MAT2;
303     (*KeywordMap)["mat3"] =                    MAT3;
304     (*KeywordMap)["mat4"] =                    MAT4;
305     (*KeywordMap)["sampler2D"] =               SAMPLER2D;
306     (*KeywordMap)["samplerCube"] =             SAMPLERCUBE;
307     (*KeywordMap)["true"] =                    BOOLCONSTANT;
308     (*KeywordMap)["false"] =                   BOOLCONSTANT;
309     (*KeywordMap)["attribute"] =               ATTRIBUTE;
310     (*KeywordMap)["varying"] =                 VARYING;
311     (*KeywordMap)["buffer"] =                  BUFFER;
312     (*KeywordMap)["coherent"] =                COHERENT;
313     (*KeywordMap)["restrict"] =                RESTRICT;
314     (*KeywordMap)["readonly"] =                READONLY;
315     (*KeywordMap)["writeonly"] =               WRITEONLY;
316     (*KeywordMap)["atomic_uint"] =             ATOMIC_UINT;
317     (*KeywordMap)["volatile"] =                VOLATILE;
318     (*KeywordMap)["layout"] =                  LAYOUT;
319     (*KeywordMap)["shared"] =                  SHARED;
320     (*KeywordMap)["patch"] =                   PATCH;
321     (*KeywordMap)["sample"] =                  SAMPLE;
322     (*KeywordMap)["subroutine"] =              SUBROUTINE;
323     (*KeywordMap)["highp"] =                   HIGH_PRECISION;
324     (*KeywordMap)["mediump"] =                 MEDIUM_PRECISION;
325     (*KeywordMap)["lowp"] =                    LOW_PRECISION;
326     (*KeywordMap)["precision"] =               PRECISION;
327     (*KeywordMap)["mat2x2"] =                  MAT2X2;
328     (*KeywordMap)["mat2x3"] =                  MAT2X3;
329     (*KeywordMap)["mat2x4"] =                  MAT2X4;
330     (*KeywordMap)["mat3x2"] =                  MAT3X2;
331     (*KeywordMap)["mat3x3"] =                  MAT3X3;
332     (*KeywordMap)["mat3x4"] =                  MAT3X4;
333     (*KeywordMap)["mat4x2"] =                  MAT4X2;
334     (*KeywordMap)["mat4x3"] =                  MAT4X3;
335     (*KeywordMap)["mat4x4"] =                  MAT4X4;
336     (*KeywordMap)["dmat2"] =                   DMAT2;
337     (*KeywordMap)["dmat3"] =                   DMAT3;
338     (*KeywordMap)["dmat4"] =                   DMAT4;
339     (*KeywordMap)["dmat2x2"] =                 DMAT2X2;
340     (*KeywordMap)["dmat2x3"] =                 DMAT2X3;
341     (*KeywordMap)["dmat2x4"] =                 DMAT2X4;
342     (*KeywordMap)["dmat3x2"] =                 DMAT3X2;
343     (*KeywordMap)["dmat3x3"] =                 DMAT3X3;
344     (*KeywordMap)["dmat3x4"] =                 DMAT3X4;
345     (*KeywordMap)["dmat4x2"] =                 DMAT4X2;
346     (*KeywordMap)["dmat4x3"] =                 DMAT4X3;
347     (*KeywordMap)["dmat4x4"] =                 DMAT4X4;
348     (*KeywordMap)["image1D"] =                 IMAGE1D;
349     (*KeywordMap)["iimage1D"] =                IIMAGE1D;
350     (*KeywordMap)["uimage1D"] =                UIMAGE1D;
351     (*KeywordMap)["image2D"] =                 IMAGE2D;
352     (*KeywordMap)["iimage2D"] =                IIMAGE2D;
353     (*KeywordMap)["uimage2D"] =                UIMAGE2D;
354     (*KeywordMap)["image3D"] =                 IMAGE3D;
355     (*KeywordMap)["iimage3D"] =                IIMAGE3D;
356     (*KeywordMap)["uimage3D"] =                UIMAGE3D;
357     (*KeywordMap)["image2DRect"] =             IMAGE2DRECT;
358     (*KeywordMap)["iimage2DRect"] =            IIMAGE2DRECT;
359     (*KeywordMap)["uimage2DRect"] =            UIMAGE2DRECT;
360     (*KeywordMap)["imageCube"] =               IMAGECUBE;
361     (*KeywordMap)["iimageCube"] =              IIMAGECUBE;
362     (*KeywordMap)["uimageCube"] =              UIMAGECUBE;
363     (*KeywordMap)["imageBuffer"] =             IMAGEBUFFER;
364     (*KeywordMap)["iimageBuffer"] =            IIMAGEBUFFER;
365     (*KeywordMap)["uimageBuffer"] =            UIMAGEBUFFER;
366     (*KeywordMap)["image1DArray"] =            IMAGE1DARRAY;
367     (*KeywordMap)["iimage1DArray"] =           IIMAGE1DARRAY;
368     (*KeywordMap)["uimage1DArray"] =           UIMAGE1DARRAY;
369     (*KeywordMap)["image2DArray"] =            IMAGE2DARRAY;
370     (*KeywordMap)["iimage2DArray"] =           IIMAGE2DARRAY;
371     (*KeywordMap)["uimage2DArray"] =           UIMAGE2DARRAY;
372     (*KeywordMap)["imageCubeArray"] =          IMAGECUBEARRAY;
373     (*KeywordMap)["iimageCubeArray"] =         IIMAGECUBEARRAY;
374     (*KeywordMap)["uimageCubeArray"] =         UIMAGECUBEARRAY;
375     (*KeywordMap)["image2DMS"] =               IMAGE2DMS;
376     (*KeywordMap)["iimage2DMS"] =              IIMAGE2DMS;
377     (*KeywordMap)["uimage2DMS"] =              UIMAGE2DMS;
378     (*KeywordMap)["image2DMSArray"] =          IMAGE2DMSARRAY;
379     (*KeywordMap)["iimage2DMSArray"] =         IIMAGE2DMSARRAY;
380     (*KeywordMap)["uimage2DMSArray"] =         UIMAGE2DMSARRAY;
381     (*KeywordMap)["double"] =                  DOUBLE;
382     (*KeywordMap)["dvec2"] =                   DVEC2;
383     (*KeywordMap)["dvec3"] =                   DVEC3;
384     (*KeywordMap)["dvec4"] =                   DVEC4;
385     (*KeywordMap)["samplerCubeArray"] =        SAMPLERCUBEARRAY;
386     (*KeywordMap)["samplerCubeArrayShadow"] =  SAMPLERCUBEARRAYSHADOW;
387     (*KeywordMap)["isamplerCubeArray"] =       ISAMPLERCUBEARRAY;
388     (*KeywordMap)["usamplerCubeArray"] =       USAMPLERCUBEARRAY;
389     (*KeywordMap)["sampler1DArrayShadow"] =    SAMPLER1DARRAYSHADOW;
390     (*KeywordMap)["isampler1DArray"] =         ISAMPLER1DARRAY;
391     (*KeywordMap)["usampler1D"] =              USAMPLER1D;
392     (*KeywordMap)["isampler1D"] =              ISAMPLER1D;
393     (*KeywordMap)["usampler1DArray"] =         USAMPLER1DARRAY;
394     (*KeywordMap)["samplerBuffer"] =           SAMPLERBUFFER;
395     (*KeywordMap)["uint"] =                    UINT;
396     (*KeywordMap)["uvec2"] =                   UVEC2;
397     (*KeywordMap)["uvec3"] =                   UVEC3;
398     (*KeywordMap)["uvec4"] =                   UVEC4;
399     (*KeywordMap)["samplerCubeShadow"] =       SAMPLERCUBESHADOW;
400     (*KeywordMap)["sampler2DArray"] =          SAMPLER2DARRAY;
401     (*KeywordMap)["sampler2DArrayShadow"] =    SAMPLER2DARRAYSHADOW;
402     (*KeywordMap)["isampler2D"] =              ISAMPLER2D;
403     (*KeywordMap)["isampler3D"] =              ISAMPLER3D;
404     (*KeywordMap)["isamplerCube"] =            ISAMPLERCUBE;
405     (*KeywordMap)["isampler2DArray"] =         ISAMPLER2DARRAY;
406     (*KeywordMap)["usampler2D"] =              USAMPLER2D;
407     (*KeywordMap)["usampler3D"] =              USAMPLER3D;
408     (*KeywordMap)["usamplerCube"] =            USAMPLERCUBE;
409     (*KeywordMap)["usampler2DArray"] =         USAMPLER2DARRAY;
410     (*KeywordMap)["isampler2DRect"] =          ISAMPLER2DRECT;
411     (*KeywordMap)["usampler2DRect"] =          USAMPLER2DRECT;
412     (*KeywordMap)["isamplerBuffer"] =          ISAMPLERBUFFER;
413     (*KeywordMap)["usamplerBuffer"] =          USAMPLERBUFFER;
414     (*KeywordMap)["sampler2DMS"] =             SAMPLER2DMS;
415     (*KeywordMap)["isampler2DMS"] =            ISAMPLER2DMS;
416     (*KeywordMap)["usampler2DMS"] =            USAMPLER2DMS;
417     (*KeywordMap)["sampler2DMSArray"] =        SAMPLER2DMSARRAY;
418     (*KeywordMap)["isampler2DMSArray"] =       ISAMPLER2DMSARRAY;
419     (*KeywordMap)["usampler2DMSArray"] =       USAMPLER2DMSARRAY;
420     (*KeywordMap)["sampler1D"] =               SAMPLER1D;
421     (*KeywordMap)["sampler1DShadow"] =         SAMPLER1DSHADOW;
422     (*KeywordMap)["sampler3D"] =               SAMPLER3D;
423     (*KeywordMap)["sampler2DShadow"] =         SAMPLER2DSHADOW;
424     (*KeywordMap)["sampler2DRect"] =           SAMPLER2DRECT;
425     (*KeywordMap)["sampler2DRectShadow"] =     SAMPLER2DRECTSHADOW;
426     (*KeywordMap)["sampler1DArray"] =          SAMPLER1DARRAY;
427     (*KeywordMap)["noperspective"] =           NOPERSPECTIVE;
428     (*KeywordMap)["smooth"] =                  SMOOTH;
429     (*KeywordMap)["flat"] =                    FLAT;
430     (*KeywordMap)["centroid"] =                CENTROID;
431     (*KeywordMap)["precise"] =                 PRECISE;
432     (*KeywordMap)["invariant"] =               INVARIANT;
433     (*KeywordMap)["packed"] =                  PACKED;
434     (*KeywordMap)["resource"] =                RESOURCE;
435     (*KeywordMap)["superp"] =                  SUPERP;
436
437     ReservedSet = new std::set<std::string>;
438     
439     ReservedSet->insert("common");
440     ReservedSet->insert("partition");
441     ReservedSet->insert("active");
442     ReservedSet->insert("asm");
443     ReservedSet->insert("class");
444     ReservedSet->insert("union");
445     ReservedSet->insert("enum");
446     ReservedSet->insert("typedef");
447     ReservedSet->insert("template");
448     ReservedSet->insert("this");
449     ReservedSet->insert("goto");
450     ReservedSet->insert("inline");
451     ReservedSet->insert("noinline");
452     ReservedSet->insert("public");
453     ReservedSet->insert("static");
454     ReservedSet->insert("extern");
455     ReservedSet->insert("external");
456     ReservedSet->insert("interface");
457     ReservedSet->insert("long");
458     ReservedSet->insert("short");
459     ReservedSet->insert("half");
460     ReservedSet->insert("fixed");
461     ReservedSet->insert("unsigned");
462     ReservedSet->insert("input");
463     ReservedSet->insert("output");
464     ReservedSet->insert("hvec2");
465     ReservedSet->insert("hvec3");
466     ReservedSet->insert("hvec4");
467     ReservedSet->insert("fvec2");
468     ReservedSet->insert("fvec3");
469     ReservedSet->insert("fvec4");
470     ReservedSet->insert("sampler3DRect");
471     ReservedSet->insert("filter");
472     ReservedSet->insert("sizeof");
473     ReservedSet->insert("cast");
474     ReservedSet->insert("namespace");
475     ReservedSet->insert("using");
476 }
477
478 int TScanContext::tokenize(TPpContext* pp, TParserToken& token)
479 {
480     parserToken = &token;
481     TPpToken ppToken;
482     tokenText = pp->tokenize(&ppToken);
483     if (tokenText == 0)
484         return 0;
485
486     loc = ppToken.loc;
487     parserToken->sType.lex.loc = loc;
488     switch (ppToken.token) {
489     case ';':  afterType = false;   return SEMICOLON;
490     case ',':  afterType = false;   return COMMA;
491     case ':':                       return COLON;
492     case '=':  afterType = false;   return EQUAL;
493     case '(':  afterType = false;   return LEFT_PAREN;
494     case ')':  afterType = false;   return RIGHT_PAREN;
495     case '.':  field = true;        return DOT;
496     case '!':                       return BANG;
497     case '-':                       return DASH;
498     case '~':                       return TILDE;
499     case '+':                       return PLUS;
500     case '*':                       return STAR;
501     case '/':                       return SLASH;
502     case '%':                       return PERCENT;
503     case '<':                       return LEFT_ANGLE;
504     case '>':                       return RIGHT_ANGLE;
505     case '|':                       return VERTICAL_BAR;
506     case '^':                       return CARET;
507     case '&':                       return AMPERSAND;
508     case '?':                       return QUESTION;
509     case '[':                       return LEFT_BRACKET;
510     case ']':                       return RIGHT_BRACKET;
511     case '{':                       return LEFT_BRACE;
512     case '}':                       return RIGHT_BRACE;
513
514     case CPP_AND_OP:                return AND_OP;
515     case CPP_SUB_ASSIGN:            return SUB_ASSIGN;
516     case CPP_MOD_ASSIGN:            return MOD_ASSIGN;
517     case CPP_ADD_ASSIGN:            return ADD_ASSIGN;
518     case CPP_DIV_ASSIGN:            return DIV_ASSIGN;
519     case CPP_MUL_ASSIGN:            return MUL_ASSIGN;
520     case CPP_EQ_OP:                 return EQ_OP;
521     case CPP_XOR_OP:                return XOR_OP;
522     case CPP_GE_OP:                 return GE_OP;
523     case CPP_RIGHT_OP:              return RIGHT_OP;
524     case CPP_LE_OP:                 return LE_OP;
525     case CPP_LEFT_OP:               return LEFT_OP;
526     case CPP_DEC_OP:                return DEC_OP;
527     case CPP_NE_OP:                 return NE_OP;
528     case CPP_OR_OP:                 return OR_OP;
529     case CPP_INC_OP:                return INC_OP;
530     case CPP_RIGHT_ASSIGN:          return RIGHT_ASSIGN;
531     case CPP_LEFT_ASSIGN:           return LEFT_ASSIGN;
532     case CPP_AND_ASSIGN:            return AND_ASSIGN;
533     case CPP_OR_ASSIGN:             return OR_ASSIGN;
534     case CPP_XOR_ASSIGN:            return XOR_ASSIGN;
535                                    
536     case CPP_INTCONSTANT:           parserToken->sType.lex.i = ppToken.ival;       return INTCONSTANT;
537     case CPP_UINTCONSTANT:          parserToken->sType.lex.i = ppToken.ival;       return UINTCONSTANT;
538     case CPP_FLOATCONSTANT:         parserToken->sType.lex.d = ppToken.dval;       return FLOATCONSTANT;
539     case CPP_DOUBLECONSTANT:        parserToken->sType.lex.d = ppToken.dval;       return DOUBLECONSTANT;
540     case CPP_IDENTIFIER:            return tokenizeIdentifier();
541
542     case EOF:                       return 0;
543                                    
544     default:
545         parseContext.infoSink.info.message(EPrefixInternalError, "Unknown PP token", loc);
546         return 0;
547     }
548 }
549
550 int TScanContext::tokenizeIdentifier()
551 {
552     if (ReservedSet->find(tokenText) != ReservedSet->end())
553         return reservedWord();
554
555     std::map<std::string, int>::const_iterator it = KeywordMap->find(tokenText);
556     if (it == KeywordMap->end()) {
557         // Should have an identifier of some sort
558         return identifierOrType();
559     }
560     keyword = it->second;
561     field = false;
562
563     switch (keyword) {
564     case CONST:
565     case UNIFORM:
566     case IN:
567     case OUT:
568     case INOUT:
569     case STRUCT:
570     case BREAK:
571     case CONTINUE:
572     case DO:
573     case FOR:
574     case WHILE:
575     case IF:
576     case ELSE:
577     case DISCARD:
578     case RETURN:
579     case CASE:
580         return keyword;
581
582     case SWITCH:
583     case DEFAULT:
584         if ((parseContext.profile == EEsProfile && parseContext.version < 300) ||
585             (parseContext.profile != EEsProfile && parseContext.version < 130))
586             reservedWord();
587         return keyword;
588
589     case VOID:
590     case BOOL:
591     case FLOAT:
592     case INT:
593     case BVEC2:
594     case BVEC3:
595     case BVEC4:
596     case VEC2:
597     case VEC3:
598     case VEC4:
599     case IVEC2:
600     case IVEC3:
601     case IVEC4:
602     case MAT2:
603     case MAT3:
604     case MAT4:
605     case SAMPLER2D:
606     case SAMPLERCUBE:
607         afterType = true;
608         return keyword;
609
610     case BOOLCONSTANT:
611         if (strcmp("true", tokenText) == 0)
612             parserToken->sType.lex.b = true;
613         else
614             parserToken->sType.lex.b = false;
615         return keyword;
616
617     case ATTRIBUTE:
618     case VARYING:
619         if (parseContext.profile == EEsProfile && parseContext.version >= 300)
620             reservedWord();
621         return keyword;
622
623     case BUFFER:
624         if (parseContext.version < 430)
625             return identifierOrType();
626         return keyword;
627
628     case COHERENT:
629     case RESTRICT:
630     case READONLY:
631     case WRITEONLY:
632     case ATOMIC_UINT:
633         return es30ReservedFromGLSL(420);
634
635     case VOLATILE:
636         if (parseContext.profile == EEsProfile || parseContext.version < 420)
637             reservedWord();
638         return keyword;
639
640     case LAYOUT:
641     case SHARED:
642         if ((parseContext.profile == EEsProfile && parseContext.version < 300) ||
643             (parseContext.profile != EEsProfile && parseContext.version < 140))
644             return identifierOrType();
645         return keyword;
646
647     case PATCH:
648     case SAMPLE:
649     case SUBROUTINE:
650         return es30ReservedFromGLSL(400);
651
652     case HIGH_PRECISION:
653     case MEDIUM_PRECISION:
654     case LOW_PRECISION:
655     case PRECISION:
656         return precisionKeyword();
657
658     case MAT2X2:
659     case MAT2X3:
660     case MAT2X4:
661     case MAT3X2:
662     case MAT3X3:
663     case MAT3X4:
664     case MAT4X2:
665     case MAT4X3:
666     case MAT4X4:        
667         return matNxM();
668
669     case DMAT2:
670     case DMAT3:
671     case DMAT4:
672     case DMAT2X2:
673     case DMAT2X3:
674     case DMAT2X4:
675     case DMAT3X2:
676     case DMAT3X3:
677     case DMAT3X4:
678     case DMAT4X2:
679     case DMAT4X3:
680     case DMAT4X4:
681         return dMat();
682
683     case IMAGE1D:
684     case IIMAGE1D:
685     case UIMAGE1D:
686     case IMAGE2D:
687     case IIMAGE2D:
688     case UIMAGE2D:
689     case IMAGE3D:
690     case IIMAGE3D:
691     case UIMAGE3D:
692     case IMAGE2DRECT:
693     case IIMAGE2DRECT:
694     case UIMAGE2DRECT:
695     case IMAGECUBE:
696     case IIMAGECUBE:
697     case UIMAGECUBE:
698     case IMAGEBUFFER:
699     case IIMAGEBUFFER:
700     case UIMAGEBUFFER:
701     case IMAGE1DARRAY:
702     case IIMAGE1DARRAY:
703     case UIMAGE1DARRAY:
704     case IMAGE2DARRAY:
705     case IIMAGE2DARRAY:
706     case UIMAGE2DARRAY:
707         return firstGenerationImage();
708
709     case IMAGECUBEARRAY:
710     case IIMAGECUBEARRAY:
711     case UIMAGECUBEARRAY:
712     case IMAGE2DMS:
713     case IIMAGE2DMS:
714     case UIMAGE2DMS:
715     case IMAGE2DMSARRAY:
716     case IIMAGE2DMSARRAY:
717     case UIMAGE2DMSARRAY:
718         return secondGenerationImage();
719
720     case DOUBLE:
721     case DVEC2:
722     case DVEC3:
723     case DVEC4:
724     case SAMPLERCUBEARRAY:
725     case SAMPLERCUBEARRAYSHADOW:
726     case ISAMPLERCUBEARRAY:
727     case USAMPLERCUBEARRAY:
728         afterType = true;
729         if (parseContext.profile == EEsProfile || parseContext.version < 400)
730             reservedWord();
731         return keyword;
732
733     case ISAMPLER1D:
734     case ISAMPLER1DARRAY:
735     case SAMPLER1DARRAYSHADOW:
736     case USAMPLER1D:
737     case USAMPLER1DARRAY:
738     case SAMPLERBUFFER:
739         afterType = true;
740         return es30ReservedFromGLSL(130);
741
742     case UINT:
743     case UVEC2:
744     case UVEC3:
745     case UVEC4:
746     case SAMPLERCUBESHADOW:
747     case SAMPLER2DARRAY:
748     case SAMPLER2DARRAYSHADOW:
749     case ISAMPLER2D:
750     case ISAMPLER3D:
751     case ISAMPLERCUBE:
752     case ISAMPLER2DARRAY:
753     case USAMPLER2D:
754     case USAMPLER3D:
755     case USAMPLERCUBE:
756     case USAMPLER2DARRAY:
757         afterType = true;
758         return nonreservedKeyword(300, 130);
759         
760     case ISAMPLER2DRECT:
761     case USAMPLER2DRECT:
762     case ISAMPLERBUFFER:
763     case USAMPLERBUFFER:
764         afterType = true;
765         return es30ReservedFromGLSL(140);
766         
767     case SAMPLER2DMS:
768     case ISAMPLER2DMS:
769     case USAMPLER2DMS:
770     case SAMPLER2DMSARRAY:
771     case ISAMPLER2DMSARRAY:
772     case USAMPLER2DMSARRAY:
773         afterType = true;
774         return es30ReservedFromGLSL(150);
775
776     case SAMPLER1D:
777     case SAMPLER1DSHADOW:
778         afterType = true;
779         if (parseContext.profile == EEsProfile)
780             reservedWord();
781         return keyword;
782
783     case SAMPLER3D:
784     case SAMPLER2DSHADOW:
785         afterType = true;
786         if (parseContext.profile == EEsProfile && parseContext.version < 300)
787             reservedWord();
788         return keyword;
789
790     case SAMPLER2DRECT:
791     case SAMPLER2DRECTSHADOW:
792         afterType = true;
793         if (parseContext.profile == EEsProfile ||
794             (parseContext.profile != EEsProfile && parseContext.version < 140))
795             reservedWord();
796         return keyword;
797
798     case SAMPLER1DARRAY:
799         afterType = true;
800         if (parseContext.profile == EEsProfile && parseContext.version == 300)
801             reservedWord();
802         else if ((parseContext.profile == EEsProfile && parseContext.version < 300) ||
803                  (parseContext.profile != EEsProfile && parseContext.version < 130))
804             return identifierOrType();
805         return keyword;
806
807     case NOPERSPECTIVE:
808         return es30ReservedFromGLSL(130);
809         
810     case SMOOTH:
811         if ((parseContext.profile == EEsProfile && parseContext.version < 300) ||
812             (parseContext.profile != EEsProfile && parseContext.version < 130))
813             return identifierOrType();
814         return keyword;
815
816     case FLAT:
817         if (parseContext.profile == EEsProfile && parseContext.version < 300)
818             reservedWord();
819         else if (parseContext.profile != EEsProfile && parseContext.version < 130)
820             return identifierOrType();
821         return keyword;
822
823     case CENTROID:
824         if (parseContext.version < 120)
825             return identifierOrType();
826         return keyword;
827
828     case PRECISE:
829         if (parseContext.profile == EEsProfile ||
830             (parseContext.profile != EEsProfile && parseContext.version < 400))
831             return identifierOrType();
832         return keyword;
833
834     case INVARIANT:
835         if (parseContext.profile != EEsProfile && parseContext.version < 120)
836             return identifierOrType();
837         return keyword;
838
839     case PACKED:
840         if ((parseContext.profile == EEsProfile && parseContext.version < 300) ||
841             (parseContext.profile != EEsProfile && parseContext.version < 330))
842             return reservedWord();
843         return identifierOrType();
844
845     case RESOURCE:
846     {
847         bool reserved = (parseContext.profile == EEsProfile && parseContext.version >= 300) ||
848                         (parseContext.profile != EEsProfile && parseContext.version >= 420);
849         return identifierOrReserved(reserved);
850     }
851     case SUPERP:
852     {
853         bool reserved = parseContext.profile == EEsProfile || parseContext.version >= 130;
854         return identifierOrReserved(reserved);
855     }
856     
857     default:
858         parseContext.infoSink.info.message(EPrefixInternalError, "Unknown glslang keyword", loc);
859         return 0;
860     }
861 }
862
863 int TScanContext::identifierOrType()
864 {
865     parserToken->sType.lex.string = NewPoolTString(tokenText);
866     if (field) {
867         field = false;
868  
869         return FIELD_SELECTION;
870     }
871
872     parserToken->sType.lex.symbol = parseContext.symbolTable.find(*parserToken->sType.lex.string);
873     if (afterType == false && parserToken->sType.lex.symbol) {
874         if (const TVariable* variable = parserToken->sType.lex.symbol->getAsVariable()) {
875             if (variable->isUserType()) {
876                 afterType = true;
877
878                 return TYPE_NAME;
879             }
880         }
881     }
882
883     return IDENTIFIER;
884 }
885
886 int TScanContext::reservedWord()
887 {
888     parseContext.error(loc, "Reserved word.", tokenText, "", "");
889
890     return 0;
891 }
892
893 int TScanContext::identifierOrReserved(bool reserved)
894 {
895     if (reserved) {
896         reservedWord();
897
898         return 0;
899     }
900
901     if (parseContext.forwardCompatible)
902         parseContext.warn(loc, "using future reserved keyword", tokenText, "");
903
904     return identifierOrType();
905 }
906
907 // For keywords that suddenly showed up on non-ES (not previously reserved)
908 // but then got reserved by ES 3.0.
909 int TScanContext::es30ReservedFromGLSL(int version)
910 {
911     if ((parseContext.profile == EEsProfile && parseContext.version < 300) ||
912         (parseContext.profile != EEsProfile && parseContext.version < version)) {
913             if (parseContext.forwardCompatible)
914                 parseContext.warn(loc, "future reserved word in ES 300 and keyword in GLSL", tokenText, "");
915
916             return identifierOrType();
917     } else if (parseContext.profile == EEsProfile && parseContext.version >= 300)
918         reservedWord();
919
920     return keyword;
921 }
922
923 // For a keyword that was never reserved, until it suddenly
924 // showed up, both in an es version and a non-ES version.
925 int TScanContext::nonreservedKeyword(int esVersion, int nonEsVersion)
926 {
927     if ((parseContext.profile == EEsProfile && parseContext.version < esVersion) ||
928         (parseContext.profile != EEsProfile && parseContext.version < nonEsVersion)) {
929         if (parseContext.forwardCompatible)
930             parseContext.warn(loc, "using future keyword", tokenText, "");
931
932         return identifierOrType();
933     }
934
935     return keyword;
936 }
937
938 int TScanContext::precisionKeyword()
939 {
940     if (parseContext.profile == EEsProfile || parseContext.version >= 130)
941         return keyword;
942
943     if (parseContext.forwardCompatible)
944         parseContext.warn(loc, "using ES precision qualifier keyword", tokenText, "");
945
946     return identifierOrType();
947 }
948
949 int TScanContext::matNxM()
950 {
951     afterType = true;
952
953     if (parseContext.version > 110)
954         return keyword;
955
956     if (parseContext.forwardCompatible)
957         parseContext.warn(loc, "using future non-square matrix type keyword", tokenText, "");
958
959     return identifierOrType();
960 }
961
962 int TScanContext::dMat()
963 {
964     afterType = true;
965
966     if (parseContext.profile == EEsProfile && parseContext.version >= 300) {
967         reservedWord();
968
969         return keyword;
970     }
971
972     if (parseContext.profile != EEsProfile && parseContext.version >= 400)
973         return keyword;
974
975     if (parseContext.forwardCompatible)
976         parseContext.warn(loc, "using future type keyword", tokenText, "");
977
978     return identifierOrType();
979 }
980
981 int TScanContext::firstGenerationImage()
982 {
983     afterType = true;
984
985     if (parseContext.profile != EEsProfile && parseContext.version >= 420)
986         return keyword;
987
988     if ((parseContext.profile == EEsProfile && parseContext.version >= 300) ||
989         (parseContext.profile != EEsProfile && parseContext.version >= 130)) {
990         reservedWord();
991
992         return keyword;
993     }
994
995     if (parseContext.forwardCompatible)
996         parseContext.warn(loc, "using future type keyword", tokenText, "");
997
998     return identifierOrType();
999 }
1000
1001 int TScanContext::secondGenerationImage()
1002 {
1003     afterType = true;
1004
1005     if (parseContext.profile != EEsProfile && parseContext.version >= 420)
1006         return keyword;
1007
1008     if (parseContext.forwardCompatible)
1009         parseContext.warn(loc, "using future type keyword", tokenText, "");
1010
1011     return identifierOrType();
1012 }
1013
1014 } // end namespace glslang