之前使用數據編碼風格檢測的模塊chardet比較多一點,今天提到的兩個模塊是檢測數據的語言類型,比如是:中文還是英文,模塊的使用方法也比較簡單,我這里只是簡單地使用了一下,因為項目中有這個需求,所以拿來用了一下,并沒有深入地去研究這兩個模塊,模塊的地址鏈接我都給出來了,需要的話可以去研究下:
def langidFunc():  '''  https://github.com/yishuihanhan/langid.py  '''  print langid.classify("We Are Family")  print langid.classify("Questa e una prova")  print langid.classify("我們都有一個家")  identifier=LanguageIdentifier.from_modelstring(model,norm_probs=True)  print identifier.classify("We Are Family") def langdetectFunc():  '''  https://github.com/yishuihanhan/langdetect  '''  s1=u"本篇文章主要介紹兩款語言探測工具,用于區分文本到底是什么語言,"  s2=u'We are pleased to introduce today a new technology'  print detect(s1)  print detect(s2)  print detect_langs(s2)  # detect_langs()輸出探測出的所有語言類型及其所占的比例  print detect_langs("Otec matka syn.")結果如下:
('en', 9.061840057373047)
('it', -35.41771221160889)
('zh', -85.79573845863342)
('en', 0.16946150595865334)
zh-cn
en
[en:0.999998109575]
[pl:0.571426592237, fi:0.428568772028]
總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對武林站長站的支持。如果你想了解更多相關內容請查看下面相關鏈接
新聞熱點
疑難解答