《电子技术应用》
您所在的位置:首页 > 人工智能 > 设计应用 > 基于大语言模型的非结构化文本敏感信息识别方法
基于大语言模型的非结构化文本敏感信息识别方法
电子技术应用
李鑫,王吉华,王涛,谢瑞,芦胜金,王云飞
国家能源集团宁夏煤业有限责任公司
摘要: 随着电子商务与社交网络平台的快速发展,企业生成内容中核心业务信息等敏感数据的自我披露现象日益增多,由此带来的隐私泄露风险不断加剧。针对非结构化文本中敏感信息自动识别与安全处理的需求,研究大语言模型在企业敏感信息识别与脱敏处理中的应用方法。以 Amazon、patient.info 和 Facebook 等平台上的用户文本为研究对象,构建一种基于大语言模型的敏感信息识别与脱敏处理框架。该方法通过提示工程引导模型对文本中的敏感信息进行识别与敏感度评估,并结合语义保持约束对原始内容进行改写,实现敏感信息最小化披露与文本语义一致性的平衡。以 ChatGPT 作为实验模型开展实证分析,结果表明,该方法能够有效识别企业生成文本中的敏感信息,并生成语义保持度较高的脱敏文本,为非结构化文本隐私保护与信息安全治理提供了一种可行的技术路径。
中图分类号:TP18;TM615 文献标志码:A DOI: 10.16157/j.issn.0258-7998.267992
中文引用格式: 李鑫,王吉华,王涛,等. 基于大语言模型的非结构化文本敏感信息识别方法[J]. 电子技术应用,2026,52(10):60-66.
英文引用格式: Li Xin,Wang Jihua,Wang Tao,et al. Identification method for sensitive information in unstructured text based on large language models[J]. Application of Electronic Technique,2026,52(10):60-66.
Identification method for sensitive information in unstructured text based on large language models
Li Xin,Wang Jihua,Wang Tao,Xie Rui,Lu Shengjin,Wang Yunfei
China Energy Ningxia Coal Industry Co., Ltd.
Abstract: With the rapid development of e-commerce and social networking platforms, core business of the enterprise and other sensitive information has increased significantly, raising growing concerns about privacy leakage. To address the need for automatic identification and secure processing of sensitive information in unstructured text, this study investigates the application of large language models (LLMs) for detecting and sanitizing enterprise information. Using user texts from platforms such as Amazon, patient.info, and Facebook, a framework based on LLMs for sensitive information identification and desensitization is constructed. Through prompt engineering, the model identifies and evaluates the sensitivity of disclosed information and rewrites the original content under semantic-preservation constraints, thereby minimizing sensitive information disclosure while maintaining semantic consistency. ChatGPT is employed as the experimental model, and empirical results show that the proposed method can effectively identify sensitive health information in user-generated texts and generate sanitized versions with high semantic fidelity, providing a feasible approach for privacy protection and information security governance in unstructured text.
Key words : large language models;unstructured text;sensitive information detection;text sanitization

引言

自我披露是企业信息的重要来源,在 Reddit、Twitter、Facebook,以及patient.info等在线社区中,企业往往会主动分享包含企业信息、员工状况在内的个人信息[1-2]。一方面,信息的公开分享能够在一定程度上减少社会污名、提升公众认知从而产生积极社会效应。另一方面,涉及个人信息状况等敏感信息的披露也可能带来一系列潜在风险,例如就业机会受限以及在社会生活中的歧视等[3-5]。随着企业个人信息披露规模的持续增长,如何在保障信息价值的同时有效保护个人隐私,已成为信息安全与数据治理领域亟需解决的重要问题。近年来,大语言模型(Large Language Models,LLMs)的快速发展为敏感信息识别与内容脱敏提供了新的技术路径,使得利用智能模型对文本中的敏感信息进行自动识别与处理成为可能[6]。

针对非结构化文本中敏感信息自动识别与安全处理的需求,本文提出一种基于大语言模型的用户生成内容敏感信息识别与脱敏方法。该方法的核心在于在识别并处理敏感信息的同时,保持文本在特定平台语境中的“领域相关语义”,即在实现隐私保护的前提下尽可能保留文本的原始语义与信息价值。本文选用 ChatGPT 作为主要实验模型,该模型具有较强的通用语言理解与生成能力[7]。

研究首先以Amazon平台的用户评论为研究对象,构建基于大语言模型的敏感信息识别与文本脱敏流程[8-10]。该方法通过提示工程引导模型识别文本中的敏感信息,对文本敏感度进行评估并生成脱敏文本,同时对改写后的语义一致性进行验证。为检验方法的通用性,本文进一步将研究扩展至 patient.info、Facebook、Twitter 和 Reddit等平台,并在MedSD 数据集(9 767 条帖子)上开展实验。通过计算原始文本与脱敏文本之间的语义相似度,对模型在敏感信息识别与语义保持方面的表现进行评估。

综上,本文提出一种基于提示工程的大语言模型敏感信息识别与文本脱敏方法,该方法无需人工标注或模型微调即可实现敏感信息自动识别与脱敏,并在多平台用户生成内容中验证了其有效性,为非结构化文本隐私保护与信息安全治理提供了一种可行的技术路径。


本文详细内容请下载:

http://www.chinaaet.com/resource/share/2000007292


作者信息:

李鑫,王吉华,王涛,谢瑞,芦胜金,王云飞

(国家能源集团宁夏煤业有限责任公司,宁夏 银川 750011)

2.jpg

此内容为AET网站原创,未经授权禁止转载。