确定有穷自动机分析内核

下载本文示例代码

下载源代码

前些时候学习编译原理，同时也为 DocWizard 做词法分析技术的准备，于是便想出了一种词法分析内核。这个分析内核可以在不改变代码的情况下分析不同的 DFA。

分析器的基本构造

如图一所示，脚本 Scripts 进入分析内核 ParsingKernel，分析内核根据 DFA 规则作词法分析，生成单词序列 WordsSequence。


图一

其中的 DFA Rules 其实就是 DFA 中的状态转换规则。分析内核在工作时需要查阅规则表。只要更换这个规则表，就可以分析不同的词法。

工作原理

例子程序中的 CStateChangeRule 代表一条转换规则。它由如下三个数据构成：

• 当前状态编号：int nCurState
• 下一个状态编号：int nNextState
• 需要匹配的字符：CHAR_RANGE route[ROUTE_BUF_LEN]

内核在刚开始工作的时候，设定当前状态为 0，然后对输入字符串 pszLine 进行扫描。Route()函数根据当前需要处理的字符和当前状态，计算出下一个状态。Accept()函数负责接收一个单词。

void CAjaxParserDlg::OnParse() 

{

	char *pszLine = " void CAjaxParserDlg::OnParse()  12.3 12.3 -12.3 -.12  .12 .12  12. -12. 12. .023 ";



	int i=0, nLen, nState=0, nNext=-1, nStart;

	nLen = strlen(pszLine);

	while(i

    Route()函数是一个很重要的函数。它负责查阅 DFA 规则表，检索当前状态为 nCurState，并且接受字符 c 的规则。如果检索到了，则返回下一个状态的编号。例子程序中的实现代码效率不高，因为它采用线性搜索。各位可以将其改为更快的搜索算法。 

    
int CAjaxParserDlg::Route(int nCurState, BYTE c)

{

	int i, nSize;

	nSize = m_ruleArr.GetSize();



	CStateChangeRule rule;

	for(i=0; i

        

    Accept()函数比较简单，它负责接受分析得到的单词。如果当前状态是终止状态，并且下一个状态将要转向状态0，则说明现在已经是一个完整的单词了，并且下一个字符将不属于这个单词。这个时候 

    Accept() 函数调用 Log() 将这个单词输出。在实际应用中，往往需要把单词存放到一个单词数组。

    
void CAjaxParserDlg::Accept(int nCurrent, int nNext, LPCTSTR pszLine, int nLen)

{

	char psz[256];

	if(nNext==0 && nCurrent!=0)

	{

		sprintf(psz, "Accept word(s:%d)[", nCurrent);

		Log(psz);

		strncpy(psz, pszLine, nLen);

		psz[nLen] = 0;

		Log(psz);



		if(!(m_stateArr[nCurrent].nFlag&STATE_END))

		{

			Logln("]unrecogized char, can''t accept");

		}

		else

		{

			Logln("]");

		}

	}

}    

     规则表


    分析内核赖以工作的“规则”采用 CStateChangeRule 来表示。例子程序中的规则表的初始化在 

    CAjaxParserDlg::OnInitDialog() 函数中。如下所示是一个规则的建立。

    
 CStateChangeRule rule; rule.nCurState    = 0;

 rule.nNextState = 1;

 rule.route[0].byStart = ''_''; rule.route[0].byEnd =    ''_'';

 rule.route[1].byStart = ''A''; rule.route[1].byEnd = ''Z'';

 rule.route[2].byStart    = ''a''; rule.route[2].byEnd = ''z'';

 m_ruleArr.Add(rule);

 rule.Clear();      

例子程序中的DFA如图二所示。

    


    


    


    图二


    


     状态属性


    当然除了规则以外，另一个重要的数据就是状态的属性，分析内核需要知道一个状态是不是终止态。m_stateArr 

    记录了所有的状态的属性。这个数组的下标代表状态编号，数组元素的值是状态属性。 


     结束语


    

    可能各位都知道，其实作词法分析挺简单的，但是语法分析十分的困难。据我所知，语法分析尚且不十分的形式化，也就是说理论并非十分完善。这将对构造语法分析器带来困难。我做 

    DocWizard 的时候并没有采用教科书上的语法分析方法，做的很麻烦，而且也不能保证正确。说实在的做得挺滥的。呵呵～～ 希望以后能做得好一些。


    下一步我得好好的学习 lex 和 yacc 了。毕竟用它们来构造分析器还是挺轻松的。


    


     作者信息


    网名:     alphasun, shaking


    email:    [e-mail], [e-mail]


    个人主页: ShakingToolkit

  





下载本文示例代码





















输入您的搜索字词

提交搜索表单