我正在使用flex和bison解析一个简化的sql语法。我遇到了一个问题,flex将在文件结束之前停止标记化。当我通过包含以下内容的测试用例时:
创建数据库;
一切正常工作,令牌create、dateabase和id被创建。但当我通过一个测试用例时,它包含:
创建此表(整数数量);
它将标记最多并包括“qty”,但不读取“)”或“;”。相反,它将直接跳转到解析并打印“reject”(使用不正确的标记时应该如此)。如何修复代码以标记所有内容,以便将create、table、id、(、integer、id、);作为标记传递给bison?下面是我的.l.y和makefile。提前感谢您的帮助!
sql.l语言
%{
#include "sql.tab.h"
%}
Delimiter [ \t]
WhiteSpace {Delimiter}+
Letter [A-Za-z]
Name [A-Za-z][A-Za-z0-9_]*
Digit [0-9]
Integer {Digit}+
Float {Digit}+"."{Digit}+
Date (0[1-9]|1[012])"/"(0[1-9]|[12][0-9]|3[01])"/"[0-9][0-9][0-9][0-9]
Other [-!@#$%&+:"~`]
%%
{WhiteSpace} { ; }
[Cc][Rr][Ee][Aa][Tt][Ee] {printf("token: CREATE\n");return(CREATE);}
[Dd][Rr][Oo][Pp] {printf("token: DROP\n");return(DROP);}
[Ll][Oo][Aa][Dd] {printf("token: LOAD\n");return(LOAD);}
[Ss][Aa][Vv][Ee] {printf("token: SAVE\n");return(SAVE);}
[Dd][Aa][Tt][Aa][Bb][Aa][Ss][Ee] {printf("token: DATABASE\n");return(DATABASE);}
[Tt][Aa][Bb][Ll][Ee] {printf("token: TABLE\n");return(TABLE);}
[Ii][Nn][Ss][Ee][Rr][Tt] {printf("token: INSERT\n");return(INSERT);}
[Ii][Nn][Tt][Oo] {printf("token: INTO\n");return(INTO);}
[Ff][Rr][Oo][Mm] {printf("token: FROM\n");return(FROM);}
[Ww][Hh][Ee][Rr][Ee] {printf("token: WHERE\n");return(WHERE);}
[Ss][Ee][Tt] {printf("token: SET\n");return(SET);}
[Dd][Ee][Ll][Ee][Tt][Ee] {printf("token: DELETE\n");return(DELETE);}
[Uu][Pp][Dd][Aa][Tt][Ee] {printf("token: UPDATE\n");return(UPDATE);}
[Ss][Ee][Ll][Ee][Cc][Tt] {printf("token: SELECT\n");return(SELECT);}
[Ww][Ss][Ee][Ll][Ee][Cc][Tt] {printf("token: WSELECT\n");return(WSELECT);}
[Vv][Aa][Ll][Uu][Ee][Ss] {printf("token: VALUES\n");return(VALUES);}
[Ii][Nn][Tt][Ee][Gg][Ee][Rr] {printf("token: INTEGER\n");return(INTEGER);}
[Nn][Uu][Mm][Bb][Ee][Rr] {printf("token: NUMBER\n");return(NUMBER);}
[Cc][Hh][Aa][Rr][Aa][Cc][Tt][Ee][Rr] {printf("token: CHARACTER\n");return(CHARACTER);}
[Dd][Aa][Tt][Ee] {printf("token: DATE\n");return(DATE);}
{Name} {printf("token: ID %s\n", yytext);return(ID);}
"*" {printf("token: *\n");return('*');}
"(" {printf("token: (\n");return('(');}
")" {printf("token: )\n");return(')');}
"," {printf("token: ,\n");return(',');}
"<" {printf("token: LT\n");return(LT);}
">" {printf("token: GT\n");return(GT);}
"<=" {printf("token: LTEQ\n");return(LTEQ);}
">=" {printf("token: GTEQ\n");return(GTEQ);}
"==" {printf("token: EQEQ\n");return(EQEQ);}
"!=" {printf("token: NOTEQ\n");return(NOTEQ);}
";" {printf("token: ;\n");return(';');}
{Float} {printf("token: DEC\n");return(DEC);}
"-"{Float} {printf("token: DEC\n");return(DEC);}
{Integer} {printf("token: INT\n");return(INT);}
"-"{Integer} {printf("token: INT\n");return(INT);}
"'"[ \ta-zA-Z0-9]+"'" {printf("token: STR\n");return(STR);}
{Date} {printf("token: DATETYPE\n");return(DATETYPE);}
\n { ; }
. {printf("Character %s not tokenized\n", yytext);exit(0)
;}
SQL.Y型
%{
#define YYSTYPE char*
#include <stdio.h>
%}
%start START
%token ID
%token CREATE DROP LOAD SAVE DATABASE TABLE INSERT INTO FROM
%token WHERE SET DELETE UPDATE SELECT WSELECT VALUES
%token DEC INT STR DATETYPE DATE NUMBER CHARACTER INTEGER
%token LT GT LTEQ GTEQ EQ EQEQ NOTEQ
%%
START : COMMAND_LIST
COMMAND_LIST : COMMAND COMMAND_LIST2
COMMAND_LIST2 : COMMAND COMMAND_LIST2
| /* EMPTY */
COMMAND : SYSTEM_COMMAND
| DDL_COMMAND
| DML_COMMAND
SYSTEM_COMMAND : CREATE_DATABASE_COMMAND
| DROP_DATABASE_COMMAND
| SAVE_COMMAND
| LOAD_DATABASE_COMMAND
DDL_COMMAND : CREATE_TABLE_COMMAND
| DROP_TABLE_COMMAND
DDL_COMMAND : CREATE_TABLE_COMMAND
| DROP_TABLE_COMMAND
DML_COMMAND : INSERT_INTO_COMMAND
| DELETE_FROM_COMMAND
| UPDATE_COMMAND
| SELECT_COMMAND
| W_SELECT_COMMAND
CREATE_DATABASE_COMMAND : CREATE DATABASE ID ';'
DROP_DATABASE_COMMAND : DROP DATABASE ID ';'
SAVE_COMMAND : SAVE ';'
LOAD_DATABASE_COMMAND : LOAD DATABASE ID ';'
CREATE_TABLE_COMMAND : CREATE TABLE ID '(' FIELD_DEF_LIST ')' ';'
DROP_TABLE_COMMAND : DROP TABLE ID ';'
INSERT_INTO_COMMAND : INSERT INTO ID INSERT_INTO_COMMAND2
INSERT_INTO_COMMAND2 : '(' FIELD_LIST ')' VALUES '(' LITERAL_LIST ')' ';'
| VALUES '(' LITERAL_LIST ')' ';'
DELETE_FROM_COMMAND : DELETE FROM ID DELETE_FROM_COMMAND2
DELETE_FROM_COMMAND2 : WHERE CONDITION ';' | ';'
UPDATE_COMMAND : UPDATE ID SET ID '=' LITERAL UPDATE_COMMAND2
UPDATE_COMMAND2 : ',' ID '=' LITERAL UPDATE_COMMAND2
| UPDATE_COMMAND3
UPDATE_COMMAND3 : WHERE CONDITION ';'
| ';'
SELECT_COMMAND : SELECT '*' FROM ID ';'
W_SELECT_COMMAND : WSELECT W_SELECT_COMMAND2
W_SELECT_COMMAND2 : '*' FROM ID W_SELECT_COMMAND3
| '(' FIELD_LIST ')' FROM ID W_SELECT_COMMAND3
W_SELECT_COMMAND3 : WHERE CONDITION ';'
| ';'
FIELD_DEF_LIST : FIELD_DEF FIELD_DEF_LIST2
FIELD_DEF_LIST2 : ',' FIELD_DEF FIELD_DEF_LIST2
| /* EMPTY */
FIELD_DEF : FIELD_TYPE ID
FIELD_LIST : ID FIELD_LIST2
FIELD_LIST2 : ',' ID FIELD_LIST2
| /* EMPTY */
FIELD_TYPE : INTEGER '(' INT ')'
| INT
| NUMBER '(' INT ')'
| NUMBER '(' INT ',' INT ')'
| NUMBER
| CHARACTER '(' INT ')'
| DATE
LITERAL_LIST : LITERAL LITERAL_LIST2
LITERAL_LIST2 : ',' LITERAL LITERAL_LIST2
| /* EMPTY */
LITERAL : INT
| DEC
| STR
| DATETYPE
CONDITION : ID COMP LITERAL
COMP : LT
| GT
| EQEQ
| LTEQ
| GTEQ
| NOTEQ
%%
main()
{
yyparse();
}
yyerror()
{
printf("REJECT\n");
}
yywrap()
{
printf("ACCEPT\n");
}
生成文件
trial: lex.yy.o sql.tab.o
cc -o trial lex.yy.o sql.tab.o
sql.tab.o: sql.tab.c
cc -c sql.tab.c
sql.tab.c: sql.y
bison -d sql.y
lex.yy.o: lex.yy.c
cc -c lex.yy.c
lex.yy.c: sql.l sql.tab.c
flex sql.l
顺便说一下,我在.l文件中有一些用于调试的打印语句。喜欢的可执行文件叫做“试用版”。
最佳答案
一旦bison解析器得到一个错误(一些无法解析的错误),它就会用“语法错误”消息调用yyerror
,然后进入错误恢复模式。在错误恢复模式下,它会查找右侧有error
的规则(错误恢复规则),并使用其中一个规则尝试恢复。如果语法没有错误恢复规则(和您的一样),那么它将找不到任何错误恢复规则,因此yyparse将只返回而不尝试读取任何进一步的标记。
如果要尝试从语法错误中恢复并继续分析备用命令(通常,在出现语法错误的部分之后填充),则需要添加一些错误恢复规则。编写好的错误恢复规则有些棘手,您可以做很多不同的事情。在您的情况下,您可以尝试的最简单的事情是在顶层恢复,这样它将丢弃当前命令的其余部分(带有sytax错误),并尝试查找下一个命令:
START : /* empty */
| START COMMAND
COMMAND : SYSTEM_COMMAND
| DDL_COMMAND
| DML_COMMAND
| error ';'
注意,我已经去掉了无用的、多余的
COMMAND_LIST
规则,并将其更改为使用左递归而不是righ递归(因为bison通常更适合使用左递归——如果您真的需要右递归并且知道自己在做什么,您应该只使用右递归)。每当您试图解析命令时,此错误恢复规则都将处于活动状态,并通过丢弃输入令牌直到看到“;”来工作。一旦到达“;”,它将把它当作命令的结尾(它将减少
COMMAND : error ';'
规则,然后是START : START COMMAND
规则),并继续解析(寻找另一个COMMAND
)请注意,一旦错误恢复规则从错误中恢复,解析器将继续分析,如果到达输入的末尾而没有进一步的错误,
yyparse
将返回success。关于linux - Flex和Bison:在输入结束之前停止词法分析,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/33926314/