对话AI内容治理专家：探讨人工智能生成内容的未来与挑战

Jack

今天非常荣幸邀请到AI内容治理领域的专家Amber教授。Amber教授，近期AI生成内容的快速增长引发了广泛关注，您能和我们分享一下这方面的观察吗？

Amber

确实，根据最新研究数据显示，仅从2023到2024年间，包含AI生成内容的网页数量就增长了2848%。这个增长速度令人瞩目，也带来了新的挑战。

Jack

面对如此快速的增长，当前识别AI生成内容的技术现状如何？

Amber

目前识别技术主要分为两个方向：一是生成内容检测，二是来源数据追踪。但坦白说，这些技术都还不够成熟。即便是在图像领域，现有检测技术的准确率也仅在61%到70%之间，而且在内容经过后期处理后，这个准确率会进一步降低。

Jack

那么在风险管理方面，您认为应该采取什么样的策略？

Amber

我建议采取小步试错的方式，在潜在风险、治理成本和目标成效之间寻求平衡。特别是在版权保护方面，虽然AI生成内容的可版权性仍有争议，但明确内容来源对于权利保护和责任界定都很重要。

Jack

您提到的虚假信息风险非常值得关注，能具体谈谈这方面的挑战吗？

Amber

是的，我们已经看到一些案例，比如利用AI合成虚假灾情新闻扰乱公共秩序，或制作换脸视频侵犯个人名誉。更令人担忧的是，AI大幅提升了内容生产效率，如果被用于大规模制造虚假信息，可能导致公众对真实信息产生普遍怀疑。

Jack

对于未来的治理方向，您有什么建议？

Amber

我认为需要多管齐下：首先要继续完善识别技术，提高检测准确率；其次是建立更完善的标识系统，包括显式标识和隐式标识；最后是加强各方协作，包括技术提供方、内容平台和监管机构的共同努力。