深入V8引擎-AST(2)
先声明一下,这种长系列的大块头博客只能保证尽可能的深入到每一行源码,有些代码我不乐意深究就写个注释说明一下作用。另外,由于本地整理的比较好,博客就随心写了。
整个Compile过程目前只看到asmjs之前,简单的过了几遍,大部分方法没有点进去看,实在是太复杂了。上一篇的结尾指出了AST的入口,也就是命名空间parsing的一个公共方法,如下。
bool ParseProgram(ParseInfo* info, Isolate* isolate) { // ... /** * 生成一个Parser实例 * 调用内部方法启动转换 */ Parser parser(info); FunctionLiteral* result = nullptr; /** * 转换AST后将结果赋值给ParseInfo的literal_ */ result = parser.ParseProgram(isolate, info); info->set_literal(result); // ... return (result != nullptr); }
所需要关心的核心代码就是这些,非常简单,Parser对象的初始化属性非常多,这里就不列出来了。
接下来进入第二个核心方法,即ParseProgram。
FunctionLiteral* Parser::ParseProgram(Isolate* isolate, ParseInfo* info) { // ... /** * scanner_为Parser类的一个私有属性 * 这里仅仅进行初始化 */ scanner_.Initialize(); FunctionLiteral* result = DoParseProgram(isolate, info); // ... return result; }
同样,所需要关心代码只有两行,其中第一步则是启动了scanner的初始化,第二步则是开始全面解析。
Scanner包含scanner、scanner-character-strams两个部分,其中stream则是经过初步处理的源String,必须转换后才能进行解析。处理的过程在之前省略的代码中,这里稍微给出大概的转换流程。
bool ParseProgram(ParseInfo* info, Isolate* isolate) { // ... /** * 1、info->script()返回的是字符串的描述信息 source是Local<String>类型的源字符串 * 2、ScannerStream是scanner-character-streams头文件的类 内部方法均为静态类型 可以直接调用 * 3、返回的具体类型根据String类型不同而不同 但是由于均继承于Utf16CharacterStream 所以直接用父类接 */ Handle<String> source(String::cast(info->script()->source()), isolate); std::unique_ptr<Utf16CharacterStream> stream(ScannerStream::For(isolate, source)); info->set_character_stream(std::move(stream)); // ... } /** * 有四种特殊的String类型 分别new不同的子类 * ScannerStream::For(isolate, data, 0, data->length()); */ Utf16CharacterStream* ScannerStream::For(Isolate* isolate, Handle<String> data, int start_pos, int end_pos) { size_t start_offset = 0; // ... if (data->IsSeqOneByteString()) { return new BufferedCharacterStream<OnHeapStream>( static_cast<size_t>(start_pos), Handle<SeqOneByteString>::cast(data), start_offset, static_cast<size_t>(end_pos)); } }
常规的字符串一般都是OneByteString,这里就不细讲了。最后返回一个特殊Stream类,其属性记录字符串的长度、当前的解析进度、解析的开始与结束标记等等。
将字符串转换后,就可以利用Scanner来进行逐步解析,在此之前,需要对Scanner类有一个简单的了解,如下。
/** * Scanner类 * 跟Utf16CharacterStream一个文件 */ class V8_EXPORT_PRIVATE Scanner { public: // 返回next_的token类型 Token::Value peek() const { return next().token; } // 返回current_的位置信息 const Location& location() const { return current().location; } private: // 当前字符的Unicode编码 -1表示结尾(typedef int32_t uc32) uc32 c0_; TokenDesc* current_; // desc for current token (as returned by Next()) TokenDesc* next_; // desc for next token (one token look-ahead) TokenDesc* next_next_; // desc for the token after next (after PeakAhead()) // 从Handle<String>转换后的类型 负责执行解析的实际类 Utf16CharacterStream* const source_; }
选取了一些比较简单的属性和方法,Scanner内部有三个游标属性负责遍历字符串,分别是current_、next_、next_next_,字面意思理解就行了。source_则是之前说的转换Stream类,所有的解析实际上都是调用这个属性的方法。而两个结构体TokenDesc、Location也非常重要,一个负责词法描述,一个负责记录词法位置信息,如下。
/** * 词法结构体 * 每一个TokenDesc代表单独一段词法 */ struct TokenDesc { /** * 词法所在位置 * 该结构体比较简单 就不展开了 两个值代表起始、结束位置 * 例如sample中 "'Hello' + ' World'" 'Hello'会被解析为TOKEN::STRING location为{0, 7} */ Location location = {0, 0}; /** * 字符串词法相关 */ LiteralBuffer literal_chars; LiteralBuffer raw_literal_chars; /** * 词法的枚举类型 * 例如 '(' 是 TOKEN::LPAREN '===' 是 TOKEN::EQ_STRICT * 所有类型可见token.h */ Token::Value token = Token::UNINITIALIZED; MessageTemplate invalid_template_escape_message = MessageTemplate::kNone; Location invalid_template_escape_location; // 小整数 uint32_t smi_value_ = 0; bool after_line_terminator = false; }
通过这个结构体和一些方法,就能完整的将源字符串逐步转换为抽象语法树。但是实际转换过程非常复杂,分支极多,后面再继续探究。