模型在数秒内生成安全控制伪代码新工具利用大语言模型为某中心服务的配置和警报处理创建规则。作者Mina Ghashami, Ali Torkamani2024年12月6日阅读时长3分钟当前挑战为某中心服务开发安全控制涉及分析服务文档、编写详细规范通常采用Gherkin格式以及最终开发代码以确保安全配置。平均而言生成单个安全控制需要24天。随着某中心不断扩展其服务组合这一过程的复杂性将不断增加手动编写和审查控制会导致部署延迟。生成式AI的应用新模型使用大语言模型自动生成Gherkin规范。这将时间从数天缩短到仅需数秒。当输入模型服务文档和安全需求描述时大语言模型可以输出可供实施的精确控制规范。例如大语言模型可以为静态数据加密或日志记录等基本安全需求生成Gherkin规范。这一过程有助于确保使用某中心服务如SageMaker AutoML的作业正确配置以满足安全标准。面向安全的领域专用AI在新模型中结合了多种提示工程技术来提升大语言模型的性能并增加输出的透明度链式推理将生成Gherkin的复杂任务分解为一系列更简单的步骤。在每一步中大语言模型被指示创建中间结果作为下一步的输入。检索增强生成允许大语言模型从外部来源检索相关信息。信息来源是Boto3 API规范包括以Boto3语法表达的服务和资源配置这些信息也被添加到提示中。上下文学习在提示中添加安全工程师开发的正向Gherkin示例引导大语言模型模仿这些正向示例为输入查询生成类似的Gherkin。通过结合这些技术新模型能够交付高度准确且领域特定的安全控制显著加快开发过程并提升整体安全效率。在未来工作中将进一步优化该系统可能使用基于智能体的架构来处理更复杂的控制生成场景。致谢Felix Candelario研究领域安全、隐私与滥用预防标签代码生成大语言模型生成式AIFINISHED更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享