lhcygan / chinesecut

基于枚举方法来搭建中文分词工具,以及维特比算法的优化

ChineseCut

基于枚举方法来搭建中文分词工具,以及维特比算法的优化

搭建一个分词工具

基于枚举方法来搭建中文分词工具

此项目需要的数据：

1. 综合类中文词库.xlsx： 包含了中文词，当做词典来用
2. 以变量的方式提供了部分unigram概率 word_prob

举个例子： 给定词典=[我们 学习 人工 智能 人工智能 未来 是]， 另外我们给定unigram概率：p(我们)=0.25, p(学习)=0.15, p(人工)=0.05, p(智能)=0.1, p(人工智能)=0.2, p(未来)=0.1, p(是)=0.15

Step 1: 对于给定字符串：”我们学习人工智能，人工智能是未来“, 找出所有可能的分割方式

• [我们，学习，人工智能，人工智能，是，未来]
• [我们，学习，人工，智能，人工智能，是，未来]
• [我们，学习，人工，智能，人工，智能，是，未来]
• [我们，学习，人工智能，人工，智能，是，未来] .......

Step 2: 我们也可以计算出每一个切分之后句子的概率

• p(我们，学习，人工智能，人工智能，是，未来)= -log p(我们)-log p(学习)-log p(人工智能)-log p(人工智能)-log p(是)-log p(未来)
• p(我们，学习，人工，智能，人工智能，是，未来)=-log p(我们)-log p(学习)-log p(人工)-log p(智能)-log p(人工智能)-log p(是)-log p(未来)
• p(我们，学习，人工，智能，人工，智能，是，未来)=-log p(我们)-log p(学习)-log p(人工)-log p(智能)-log p(人工)-log p(智能)-log p(是)-log p(未来)
• p(我们，学习，人工智能，人工，智能，是，未来)=-log p(我们)-log p(学习)-log p(人工智能)-log p(人工)-log p(智能)-log(是)-log p(未来) .....