Adapting Large Language Models to Emerging Cybersecurity using Retrieval Augmented Generation

📅 2026/7/15 19:45:47
Adapting Large Language Models to Emerging Cybersecurity using Retrieval Augmented Generation
文章主要内容与创新点总结一、主要内容本文聚焦大语言模型(LLMs)在网络安全领域的应用痛点,提出基于检索增强生成(RAG)的混合框架,以提升模型对新兴网络威胁的适应性、知识留存能力和时间推理能力。背景与问题:LLMs在网络威胁检测等安全应用中依赖度日益提升,但存在推理不透明、易受噪声干扰、 hallucination(幻觉)风险高、难以适配快速演化的网络威胁等问题;传统全量预训练或微调成本高,而标准RAG在网络安全领域的应用尚未充分探索,检索质量和领域适配性不足。核心框架:设计融合稀疏检索(BM25算法)、稠密语义检索(FAISS向量数据库)和网络安全专用正则表达式匹配(针对CVE标识符)的混合检索框架,通过权重参数α平衡两种检索方式的贡献,并对BM25分数进行归一化处理以对齐尺度。实验验证:基于Llama-3-8B-Instruct模型,在SECURE基准的KCV(CVE相关)和CWET(CWE相关)数据集上开展实验,对比无RAG、基线RAG与混合框架的性能,同时通过消融实验分析温度参数、嵌入模型对结果的影响。实验结果:混合框架(尤其是结合正则表达式的版本)在两类数据集上均优于基线方法,KCV数据集准确率达72.7%,CWET数据集达92.2%;低温度参数(如0.01)更利于网络安全领域的事实性推理,不同嵌入模型的性能差异较小,需兼顾精度与部署资源约束。二、创新点