LALR(1)语法分析生成器--xbytes

  0.概述:

  看了编译器龙书和虎书后,自己手动写了一个LALR(1)语法分析生成器,使用的语法文件格式和lemon的差不多。

  程序里面很多的算法也都是摘录自虎书,龙书虽然讲的很详细,但是真正动手写的时候还是虎书上面的算法给力点。程序相对来说比较简单,没有做任何优化,如果看过虎书和龙书,看懂代码难度不大。代码文件bytes.hpp和bytes.cpp中是主要的代码,TEMPLATE.hxx和TEMPLATE.cxx是语法分析生成器的模板文件。首先直接用make进行编译,然后进入到test目录中,运行生成器程序文件,参数是语法说明文件。执行成功后会生成会文件PARSER.hxx和PARSER.cxx,这两个文件就是你需要的语法分析器了。下面是个简单的实例说明下。

  1.语法说明文件:

这里用一个简单的计算器来说明语法说明文件的用法。下面是计算器的语法说明文件。

%include { #include <iostream> }
%token { int }
%syntax_error { std::cout << "Error: Syntax error.
" << std::endl;}
#left PLUS MINUS
#left TIMES DIV

program -> exp(A). { std::cout << "Result=" << A << std::endl; }

exp(A) -> exp(B) MINUS exp(C). { A = B - C; std::cout << A << "=" << B << "-" << C << std::endl; }
exp(A) -> exp(B) PLUS exp(C). { A = B + C; std::cout << A << "=" << B << "+" << C << std::endl; }
exp(A) -> exp(B) TIMES exp(C). { A = B * C; std::cout << A << "=" << B << "*" << C << std::endl; }
exp(A) -> exp(B) DIV exp(C). {
    if(C != 0)
    {
        A = B / C;
    }
    else
    {
        std::cout << "Divide by zero." << std::endl;
    }

    std::cout << A << "=" << B << "/" << C << std::endl;
}

exp(A) -> INT(B). { A = B; std::cout << A << "=" << B << std::endl;}

终结符:终结符的名称只能由大写字母组成,在生成PARSER.hxx文件中会包括所有终结符的枚举定义。词法分析器的分析结果要和这里定义的枚举值一致。

  非终结符:非终结符由小写字母、下划线组成,非终结符只存在于生成语法分析器的过程中。生成的语法分析器不会包括非终结符。

  %include:这个说明符指定了生成的语法分析程序中要包含的头文件,这个指示符的格式是后面必须用大括号。如果有多个头文件可以用回车。

  %token:这个是token结构的指示符,必须在大括号中指定,目前只支持内建的数据类型。

  %syntax_error:语法分析过程中出现错误时,需要执行的代码。

  #left:左结合指示符。同时会指定优先级,越往后面的优先级越高。

  #right:右结合指示符。同left一样会指定优先级。

  program:是语法开始指示符,语法说明文件必须指定program生成式,否则会报错。

  BNF范式(产生式):每个产生式必须以非终结符开始,以 . 符号结束。产生式中的每个非终结符都可以起别名,方便在语义代码中使用,别名必须紧跟在非终结符后面,而且要括在小括号中。需要注意的是xbytes不支持,一行多个产生式,因此每行只能写一个产生式。

  语义代码:每个产生式的后面可以在大括号中指定产生式的语义代码。这个大括号要放到产生式最后的 . 点前面。语义代码只要是C++或者C代码就可以,没有其他限制。

  语法说明文件名:因为我写的语法分析生成器的名字叫xbytes,所以我把语法说明文件的后缀名指定为.x。比如上面计算器的语法说明文件名:calculate.x 。当然这个文件的后缀名是可以随便起的,即使没有也没有关系。

  ACTION.txt:在生成语法分析器的同时,会生成一个名为ACTION.txt的文件。文件中以很友好的方式将语法分析器的动作表打印出来了。可以帮助用户理解LALR(1)语法分析器的运作过程。

  备注:在xbytes.cpp代码文件中,包含许多dump_开头的函数。这些函数可以输出很多生成分析器过程中的数据。包括Symbol集合、规则集合、First集、Follow集、状态集和动作表等。

  2.语法分析器使用方式:

在根目录下直接输入 make 。编译xbytes,生成的可执行程序会被移入test目录中,进入test目录,然后执行./x calculate.x 就可以生成,简单计算器的语法分析程序了。使用这个程序的方式是自己写一个main.cpp文件,文件内容如下:

#include "PARSER.hxx"
#include <iostream>

int main()
{
    xbytes::parser p;

    //5 * 3 + 6 / 2 - 8
    p.eat(INT, 5);
    p.eat(TIMES, 0);
    p.eat(INT, 3);
    p.eat(PLUS, 0);
    p.eat(INT, 6);
    p.eat(DIV, 0);
    p.eat(INT, 2);
    p.eat(MINUS, 0);
    p.eat(INT, 8);
    p.eat(0, 0);

    return 0;
}

使用方式很简单,首先要自己写个词法分析器,来进行词法分析,然后将词法分析得到的token一个个的喂给parser就可以了。parser::eat函数的第一个参数是token的类型,第二个参数是token的值。读取结束后,最后写入0,就是结束分析。

3.运行结果:

这里计算的是算式 5 * 3 + 6 / 2 - 8 的值。打印的是规约的过程,具体要打印的信息可以自己在语法说明文件的语义代码中自己定制。

[kiven@localhost test]$ ./XP
5=5
3=3
15=5*3
6=6
2=2
3=6/2
18=15+3
8=8
10=18-8
Result=10

4.代码:

目前的代码我只在CentOS下面测试过,其他平台没有经过测试。代码地址:https://github.com/kiven-li/xbytes

  5.展望:

  目前程序也仅仅只是能够生成语法分析器,但是性能不是很好,实用性也不是很高。后续要优化下程序性能,token要支持自定义结构。

原文地址:https://www.cnblogs.com/kiven-code/p/4477587.html