我正在使用flex和bison解析一个简化的sql语法。我遇到了一个问题,flex将在文件结束之前停止标记化。当我通过包含以下内容的测试用例时:
创建数据库;
一切正常工作,令牌create、dateabase和id被创建。但当我通过一个测试用例时,它包含:
创建此表(整数数量);
它将标记最多并包括“qty”,但不读取“)”或“;”。相反,它将直接跳转到解析并打印“reject”(使用不正确的标记时应该如此)。如何修复代码以标记所有内容,以便将create、table、id、(、integer、id、);作为标记传递给bison?下面是我的.l.y和makefile。提前感谢您的帮助!
sql.l语言

%{
#include "sql.tab.h"
%}

Delimiter    [ \t]
WhiteSpace   {Delimiter}+
Letter       [A-Za-z]
Name         [A-Za-z][A-Za-z0-9_]*
Digit        [0-9]
Integer      {Digit}+
Float        {Digit}+"."{Digit}+
Date         (0[1-9]|1[012])"/"(0[1-9]|[12][0-9]|3[01])"/"[0-9][0-9][0-9][0-9]
Other        [-!@#$%&+:"~`]


%%
{WhiteSpace}                                     { ; }
[Cc][Rr][Ee][Aa][Tt][Ee]                 {printf("token:     CREATE\n");return(CREATE);}
[Dd][Rr][Oo][Pp]                         {printf("token: DROP\n");return(DROP);}
[Ll][Oo][Aa][Dd]                         {printf("token: LOAD\n");return(LOAD);}
[Ss][Aa][Vv][Ee]                         {printf("token: SAVE\n");return(SAVE);}
[Dd][Aa][Tt][Aa][Bb][Aa][Ss][Ee]         {printf("token: DATABASE\n");return(DATABASE);}
[Tt][Aa][Bb][Ll][Ee]                     {printf("token: TABLE\n");return(TABLE);}
[Ii][Nn][Ss][Ee][Rr][Tt]                 {printf("token: INSERT\n");return(INSERT);}
[Ii][Nn][Tt][Oo]                         {printf("token: INTO\n");return(INTO);}
[Ff][Rr][Oo][Mm]                         {printf("token: FROM\n");return(FROM);}
[Ww][Hh][Ee][Rr][Ee]                     {printf("token: WHERE\n");return(WHERE);}
[Ss][Ee][Tt]                               {printf("token: SET\n");return(SET);}
[Dd][Ee][Ll][Ee][Tt][Ee]                 {printf("token: DELETE\n");return(DELETE);}
[Uu][Pp][Dd][Aa][Tt][Ee]                 {printf("token: UPDATE\n");return(UPDATE);}
[Ss][Ee][Ll][Ee][Cc][Tt]                 {printf("token: SELECT\n");return(SELECT);}
[Ww][Ss][Ee][Ll][Ee][Cc][Tt]             {printf("token: WSELECT\n");return(WSELECT);}
[Vv][Aa][Ll][Uu][Ee][Ss]                 {printf("token: VALUES\n");return(VALUES);}
[Ii][Nn][Tt][Ee][Gg][Ee][Rr]             {printf("token: INTEGER\n");return(INTEGER);}
[Nn][Uu][Mm][Bb][Ee][Rr]                 {printf("token: NUMBER\n");return(NUMBER);}
[Cc][Hh][Aa][Rr][Aa][Cc][Tt][Ee][Rr]     {printf("token: CHARACTER\n");return(CHARACTER);}
[Dd][Aa][Tt][Ee]                               {printf("token: DATE\n");return(DATE);}
{Name}                       {printf("token: ID %s\n", yytext);return(ID);}
"*"                      {printf("token: *\n");return('*');}
"("                      {printf("token: (\n");return('(');}
")"                      {printf("token: )\n");return(')');}
","                      {printf("token: ,\n");return(',');}
"<"                      {printf("token: LT\n");return(LT);}
">"                      {printf("token: GT\n");return(GT);}
"<="                     {printf("token: LTEQ\n");return(LTEQ);}
">="                     {printf("token: GTEQ\n");return(GTEQ);}
"=="                           {printf("token: EQEQ\n");return(EQEQ);}
"!="                           {printf("token: NOTEQ\n");return(NOTEQ);}
";"                      {printf("token: ;\n");return(';');}
{Float}                  {printf("token: DEC\n");return(DEC);}
"-"{Float}               {printf("token: DEC\n");return(DEC);}
{Integer}                {printf("token: INT\n");return(INT);}
"-"{Integer}             {printf("token: INT\n");return(INT);}
"'"[ \ta-zA-Z0-9]+"'"    {printf("token: STR\n");return(STR);}
{Date}                     {printf("token: DATETYPE\n");return(DATETYPE);}
\n           { ; }
.                    {printf("Character %s not tokenized\n", yytext);exit(0)
;}

SQL.Y型
%{
#define YYSTYPE char*
#include <stdio.h>
%}

%start START
%token ID
%token CREATE DROP LOAD SAVE DATABASE TABLE INSERT INTO FROM
%token WHERE SET DELETE UPDATE SELECT WSELECT VALUES
%token DEC INT STR DATETYPE DATE NUMBER CHARACTER INTEGER
%token LT GT LTEQ GTEQ EQ EQEQ NOTEQ


%%
START          : COMMAND_LIST

COMMAND_LIST   : COMMAND COMMAND_LIST2

COMMAND_LIST2  : COMMAND COMMAND_LIST2
           | /* EMPTY */

COMMAND        : SYSTEM_COMMAND
           | DDL_COMMAND
           | DML_COMMAND

SYSTEM_COMMAND : CREATE_DATABASE_COMMAND
               | DROP_DATABASE_COMMAND
               | SAVE_COMMAND
               | LOAD_DATABASE_COMMAND


DDL_COMMAND    : CREATE_TABLE_COMMAND
               | DROP_TABLE_COMMAND

DDL_COMMAND    : CREATE_TABLE_COMMAND
               | DROP_TABLE_COMMAND

DML_COMMAND    : INSERT_INTO_COMMAND
               | DELETE_FROM_COMMAND
               | UPDATE_COMMAND
               | SELECT_COMMAND
               | W_SELECT_COMMAND

CREATE_DATABASE_COMMAND : CREATE DATABASE ID ';'

DROP_DATABASE_COMMAND   : DROP DATABASE ID ';'

SAVE_COMMAND            : SAVE ';'

LOAD_DATABASE_COMMAND   : LOAD DATABASE ID ';'

CREATE_TABLE_COMMAND    : CREATE TABLE ID '(' FIELD_DEF_LIST ')' ';'

DROP_TABLE_COMMAND      : DROP TABLE ID ';'

INSERT_INTO_COMMAND     : INSERT INTO ID INSERT_INTO_COMMAND2

INSERT_INTO_COMMAND2    : '(' FIELD_LIST ')' VALUES '(' LITERAL_LIST ')' ';'
                        | VALUES '(' LITERAL_LIST ')' ';'

DELETE_FROM_COMMAND     : DELETE FROM ID DELETE_FROM_COMMAND2

DELETE_FROM_COMMAND2    : WHERE CONDITION ';' | ';'

UPDATE_COMMAND          : UPDATE ID SET ID '=' LITERAL UPDATE_COMMAND2

UPDATE_COMMAND2         : ',' ID '=' LITERAL UPDATE_COMMAND2
                        | UPDATE_COMMAND3

UPDATE_COMMAND3         : WHERE CONDITION ';'
            | ';'

SELECT_COMMAND          : SELECT '*' FROM ID ';'

W_SELECT_COMMAND        : WSELECT W_SELECT_COMMAND2

W_SELECT_COMMAND2       : '*' FROM ID W_SELECT_COMMAND3
                        | '(' FIELD_LIST ')' FROM ID W_SELECT_COMMAND3

W_SELECT_COMMAND3       : WHERE CONDITION ';'
                | ';'

FIELD_DEF_LIST      : FIELD_DEF FIELD_DEF_LIST2

FIELD_DEF_LIST2     : ',' FIELD_DEF FIELD_DEF_LIST2
                | /* EMPTY */

FIELD_DEF       : FIELD_TYPE ID

FIELD_LIST      : ID FIELD_LIST2

FIELD_LIST2         : ',' ID FIELD_LIST2
                | /* EMPTY */

FIELD_TYPE              : INTEGER '(' INT ')'
                        | INT
                        | NUMBER '(' INT ')'
                        | NUMBER '(' INT ',' INT ')'
                        | NUMBER
                        | CHARACTER '(' INT ')'
                        | DATE

LITERAL_LIST            : LITERAL LITERAL_LIST2

LITERAL_LIST2           : ',' LITERAL LITERAL_LIST2
                | /* EMPTY */

LITERAL                 : INT
                        | DEC
                        | STR
                        | DATETYPE

CONDITION               : ID COMP LITERAL

COMP                    : LT
            | GT
            | EQEQ
            | LTEQ
            | GTEQ
            | NOTEQ
%%

main()
{
   yyparse();
}
yyerror()
{
   printf("REJECT\n");
}
yywrap()
{
   printf("ACCEPT\n");
}

生成文件
trial: lex.yy.o sql.tab.o
    cc -o trial lex.yy.o sql.tab.o

sql.tab.o: sql.tab.c
    cc -c sql.tab.c

sql.tab.c: sql.y
    bison -d sql.y

lex.yy.o: lex.yy.c
    cc -c lex.yy.c

lex.yy.c: sql.l sql.tab.c
    flex sql.l

顺便说一下,我在.l文件中有一些用于调试的打印语句。喜欢的可执行文件叫做“试用版”。

最佳答案

一旦bison解析器得到一个错误(一些无法解析的错误),它就会用“语法错误”消息调用yyerror,然后进入错误恢复模式。在错误恢复模式下,它会查找右侧有error的规则(错误恢复规则),并使用其中一个规则尝试恢复。如果语法没有错误恢复规则(和您的一样),那么它将找不到任何错误恢复规则,因此yyparse将只返回而不尝试读取任何进一步的标记。
如果要尝试从语法错误中恢复并继续分析备用命令(通常,在出现语法错误的部分之后填充),则需要添加一些错误恢复规则。编写好的错误恢复规则有些棘手,您可以做很多不同的事情。在您的情况下,您可以尝试的最简单的事情是在顶层恢复,这样它将丢弃当前命令的其余部分(带有sytax错误),并尝试查找下一个命令:

START          : /* empty */
               | START COMMAND

COMMAND        : SYSTEM_COMMAND
               | DDL_COMMAND
               | DML_COMMAND
               | error ';'

注意,我已经去掉了无用的、多余的COMMAND_LIST规则,并将其更改为使用左递归而不是righ递归(因为bison通常更适合使用左递归——如果您真的需要右递归并且知道自己在做什么,您应该只使用右递归)。
每当您试图解析命令时,此错误恢复规则都将处于活动状态,并通过丢弃输入令牌直到看到“;”来工作。一旦到达“;”,它将把它当作命令的结尾(它将减少COMMAND : error ';'规则,然后是START : START COMMAND规则),并继续解析(寻找另一个COMMAND
请注意,一旦错误恢复规则从错误中恢复,解析器将继续分析,如果到达输入的末尾而没有进一步的错误,yyparse将返回success。

关于linux - Flex和Bison:在输入结束之前停止词法分析,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/33926314/

10-11 22:43