AI安全与隐私系列论坛第19期：实战 ChatGPT: 有效性、安全性和隐私保护

大型语言模型（LLM）的最新进展催生了OpenAI 的 ChatGPT等高效模型，这些模型在各种任务（包括问答、论文写作和代码生成）中表现出了卓越的性能。本报告将涵盖LLM从BERT到ChatGPT 的演变，并展示它们的使用实例。尽管LLM在许多 NLP 任务上都很有效，但一个重要的问题是，ChatGPT在无意中会泄露敏感信息，尤其是在患者隐私至关重要的医疗保健行业。为了解决这个问题，我们开发了一个新的框架，它使用 ChatGPT 生成高质量的合成数据，并为下游任务微调本地离线模型。合成数据的使用提高了下游任务的性能，减少了数据收集和标记所需的时间和资源，并解决了隐私问题。最后，我们将讨论对LLM的监管，这引起了人们对教育领域作弊的担忧。我们将介绍我们最近对 LLM 生成的文本检测的调查，并讨论它带来的机遇和挑战。