摘要

本文介绍了一种名为INDICT的新框架，旨在通过内部批判对话增强大型语言模型（LLMs）在代码生成中的安全性和有用性。在实际应用中，LLMs在处理复杂且可能恶意的指令时，往往难以在安全性和有用性之间找到平衡。INDICT框架通过引入一个双批判系统，包括一个安全驱动的批判者和一个有用性驱动的批判者，来解决这一问题。这两个批判者通过外部知识（如代码片段和网络搜索）来分析和改进LLMs生成的代码，从而在代码生成和执行阶段提供预先和事后的指导。实验结果显示，INDICT框架在多种编程语言和基准测试中显著提高了代码输出的质量和安全性。

原理

INDICT框架的核心在于其双批判系统，该系统由一个安全驱动的批判者和一个有用性驱动的批判者组成。这两个批判者在代码生成的不同阶段（生成阶段和执行阶段）对LLMs生成的代码进行分析和批判。安全驱动的批判者专注于代码的安全性和潜在风险，而有用性驱动的批判者则关注代码是否满足用户的意图和需求。这两个批判者通过查询外部工具（如代码搜索和代码解释器）获取相关知识，以生成更基于知识的批判，从而指导LLMs生成更安全、更有用的代码。

流程

INDICT框架的工作流程包括以下几个步骤：

1. 代码生成阶段：LLMs根据自然语言指令生成初始代码。
2. 预先批判反馈：安全驱动的批判者和有用性驱动的批判者对生成的代码进行分析，提供批判和改进建议。
3. 代码修订：LLMs根据批判者的反馈修订代码。
4. 代码执行阶段：修订后的代码在执行环境中运行。
5. 事后批判反馈：批判者根据代码执行的结果再次提供反馈。
6. 最终修订：LLMs根据最新的反馈再次修订代码，生成最终的代码输出。

应用

INDICT框架不仅适用于代码生成领域，还可以扩展到其他需要平衡安全性和有用性的生成任务。随着LLMs在各种应用中的普及，INDICT框架有望成为提高AI系统安全性和可靠性的关键工具。此外，该框架的自主批判系统也为未来AI模型的自我改进和优化提供了新的方向。