《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 設計應用 > 基于機器閱讀理解的電力安全命名實體識別方法
基于機器閱讀理解的電力安全命名實體識別方法
電子技術應用
葛朔1,鄒華1,潘明明2,王白根3
1.北京郵電大學 計算機學院(國家示范性軟件學院);2.中國電力科學研究院有限公司; 3.國網(wǎng)安徽省電力有限公司安慶供電公司
摘要: 為解決現(xiàn)有命名實體識別方法在電力安全規(guī)程等領域文本中識別效果不佳的問題,提出了一種基于機器閱讀理解的電力安全命名實體識別方法。首先,使用預訓練模型對待識別文本進行編碼處理得到文本向量表示。其次,利用層次化注意力機制捕捉嵌套實體間的層次關系,重新分配文本序列的注意力權重;在此基礎上,利用分類器預測文本中實體范圍,得到最終實體識別結(jié)果。將該方法在ACE 2005與OntoNotes 4.0公開數(shù)據(jù)集上進行驗證,對比主流方法其取得最優(yōu)的識別效果,在電力安全領域?qū)嶓w識別場景下,該方法可達到89.3%的識別準確率,實現(xiàn)電力安全領域命名實體的精準識別。
中圖分類號:TP391.1 文獻標志碼:A DOI: 10.16157/j.issn.0258-7998.256517
中文引用格式: 葛朔,鄒華,潘明明,等. 基于機器閱讀理解的電力安全命名實體識別方法[J]. 電子技術應用,2025,51(6):21-26.
英文引用格式: Ge Shuo,Zou Hua,Pan Mingming,et al. Named entity recognition method for power safety based on machine reading comprehension[J]. Application of Electronic Technique,2025,51(6):21-26.
Named entity recognition method for power safety based on machine reading comprehension
Ge Shuo1,Zou Hua1,Pan Mingming2,Wang Baigen3
1.School of Computer Science (National Pilot Software Engineering School), Beijing University of Posts and Telecommunications;2.China Electric Power Research Institute; 3.Anqing Power Supply Company of State Grid Anhui Electric Power Co., Ltd.
Abstract: To address the issue of poor recognition performance of existing named entity recognition methods in texts from fields such as electric power safety regulations, this paper introduces a method for named entity recognition in power safety based on machine reading comprehension. Firstly, a pre-trained model is used to encode the text to be recognized to obtain the vector representation of the text. Secondly, a hierarchical attention mechanism is utilized to capture the hierarchical relationships among nested entities and re-allocate the attention weights of the text sequence. On this basis, a classifier is employed to predict the entity scope in the text, and the final entity recognition results are obtained. The method is validated on the ACE 2005 and OntoNotes 4.0 public datasets, achieving optimal recognition performance compared to mainstream approaches. In the context of entity recognition for power safety scenarios, the method attains an accuracy rate of 89.3%, enabling precise identification of named entities in the power safety domain.
Key words : power safety;named entity recognition;machine reading comprehension;attention mechanism

引言

電力行業(yè)是整個國家的能源支撐[1],而電力安全檢查既是減少生產(chǎn)安全事故、保障生命財產(chǎn)安全的重要環(huán)節(jié),也是國家電網(wǎng)公司人力成本重要支出環(huán)節(jié)。當前電力安全檢查領域知識以非結(jié)構化文檔形式存在,亟需建立統(tǒng)一的電力安全領域知識體系,而知識圖譜為構建知識體系的最佳手段[2]。因此,通過研究針對電力安全領域?qū)嶓w的命名實體識別方法,準確識別電力安全領域?qū)嶓w,并在此基礎上構建領域知識圖譜,對提升電力系統(tǒng)智能化自動化水平具有積極的意義。

當前許多學者對電力領域命名實體識別做了大量的研究,主要分為基于規(guī)則和字典的方法、基于統(tǒng)計機器學習的方法及基于深度學習的方法。曹靖等[3]與劉梓權等[4]通過構建電力領域?qū)I(yè)詞典,將完成分詞的語料在詞庫中進行匹配以完成命名實體識別工作。然而,基于規(guī)則與詞典方法依賴于行業(yè)專家知識、可遷移性較差且需要不斷進行維護。邵詩韻等[5]利用條件隨機場模型完成電力工程標書中文本實體的識別,實現(xiàn)對關鍵內(nèi)容的自動抽?。粭罹S等[6]采用條件隨機場模型從預料中識別出電力標準內(nèi)容關聯(lián)的實體名。然而,基于統(tǒng)計學習的方法存在時間復雜度較高、難以對大規(guī)模樣本訓練的問題。馮斌等[7]將注意力機制結(jié)合雙向長短期網(wǎng)絡模型實現(xiàn)電力設備缺陷關鍵類型實體的提??;蔣晨等[8]對通用BERT進行參數(shù)初置,解決對電力信息的自動挖掘問題。

近年來,許多研究聚焦于將Transformer方法應用于電力領域命名實體識別。顧亦然等[9]利用Transformer模型處理語料增強句子語義表示,解決電機領域中的實體識別問題;國網(wǎng)江蘇省電力公司[10]利用Transformer模型捕捉單詞之間的關系與上下文,但對電力專業(yè)領域的特點關注不足;徐曉軼等[11]在模型中引入Transformer編碼器機制,提升了模型在電力垂直領域的適應性。這些研究提升了在電力領域命名實體識別任務的效果,但在檢修規(guī)程等電力安全領域文本實體的實際分布中,存在大量嵌套實體等復雜實體,當前研究對該部分實體關注度不足,導致識別準確率受到影響。

為解決電力安全領域文本中的嵌套實體問題,本文提出了一種基于機器閱讀理解的命名實體識別方法。針對電力安全領域中存在大量嵌套實體的實際情況以及傳統(tǒng)基于機器閱讀理解方法對先驗知識利用不充分的問題,通過引入層次注意力機制的方法,對文本中的實體進行識別抽取,實現(xiàn)電力安全實體的精準識別。


本文詳細內(nèi)容請下載:

http://m.theprogrammingfactory.com/resource/share/2000006557


作者信息:

葛朔1,鄒華1,潘明明2,王白根3

(1.北京郵電大學 計算機學院(國家示范性軟件學院),北京 100876;

2.中國電力科學研究院有限公司,北京 100192;

3.國網(wǎng)安徽省電力有限公司安慶供電公司,安徽 安慶 246000)


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權禁止轉(zhuǎn)載。