ChatGPT在网络安全领域的应用、现状与趋势

被引：16

作者：

张弛 ^{[1
]}

翁方宸 ^{[2
]}

张玉清 ^{[1
,2
]}

机构：

[1] 国家计算机网络入侵防范中心(中国科学院大学)

[2] 海南大学网络空间安全学院

来源：

信息安全研究 | 2023年 / 9卷 / 06期

基金：

国家自然科学基金重点项目;

关键词：

ChatGPT; 安全赋能; 伴生安全; 大型语言模型; 提示注入;

D O I：

暂无

中图分类号：

TP393.08 []; TP18 [人工智能理论];

学科分类号：

0839 ; 1402 ; 081104 ; 0812 ; 0835 ; 1405 ;

摘要：

ChatGPT作为一种大型语言模型技术展现出了极强的语言理解和文本生成能力，不仅在各行各业受到巨大的关注，而且为网络安全带来新的变革.目前，ChatGPT在网络安全领域的相关研究仍处于起步阶段，为了使研究人员更系统化地了解ChatGPT在网络安全领域的研究情况，归纳总结了ChatGPT在网络安全领域的应用及其可能伴生的安全问题.首先，概述了大型语言模型技术的发展，并对ChatGPT的技术及其特点进行了简要介绍；其次，从助力攻击和助力防御2个方面详细讨论了ChatGPT在网络安全领域的赋能效应，包括漏洞挖掘、利用和修复，恶意软件的检测和识别，钓鱼邮件的生成和检测以及安全运营场景下的潜在用途；再次，深入剖析了ChatGPT在网络安全领域中的伴生风险，包括内容风险和提示注入攻击，并对这些风险进行了详细分析和探讨；最后，从安全赋能和伴生安全2个角度对ChatGPT在网络安全领域的未来进行了展望，指出了ChatGPT在网络安全领域的未来研究方向.

引用

页码：500 / 509

页数：10

共 3 条

[1] A Survey on Automated Fact-Checking
Guo, Zhijiang
Schlichtkrull, Michael
Vlachos, Andreas
[J]. TRANSACTIONS OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, 2022, 10 : 178 - 206
[2] Rowan Zellers,Ari Holtzman,Hannah Rashkin,Yonatan Bisk,Ali Farhadi,Franziska Roesner,Yejin Choi.Defending Against Neural Fake News[J].CoRR,2019
[3] Brown T,Mann B,Ryder N,et al.Language models are few-shot learners[K].Advances in Neural Information Processing Systems,2020

← 1 →