提示工程师：最短命的职业？

speaker1

欢迎各位听众，我是今天的主持人，今天我们非常荣幸地邀请到了一位在AI领域颇有建树的专家。我们今天要探讨的是一个非常热门的话题：提示工程师是否真的是最短命的职业？这是我们播客中的一个特别节目，希望你们会喜欢。

speaker2

嗨，我是联合主持人，非常高兴能和大家相聚在这里。提示工程师真的这么短命吗？我对此非常好奇，尤其是最近Open AI发布了新的推理模型o1，这对提示工程有什么影响呢？

speaker1

这是一个非常好的问题。提示工程的核心部分主要分为两大块：技巧和指令。技巧是指那些与模型本身密切相关的各种让特定模型表现更好的技巧，比如设定角色、情感勒索和思维链等。而指令则是让AI真正理解你的意图，并精确控制AI完成任务的部分。随着新的AI模型不断发布，技巧部分确实发生了很大变化，但指令部分依然非常重要。

speaker2

嗯，技巧部分的变化确实很有趣。比如设定角色，早期GPT-3时代，设定角色的效果非常好，但到了GPT-4后效果已经不那么明显了。这是为什么呢？

speaker1

确实如此。早期的模型训练语料不够多，模型能力也相对较弱，设定角色可以让角色相关的语料在生成时有更高的概率。但随着模型能力的增强，模型已经能更好地理解上下文和任务，不再需要这样的技巧。情感勒索也是一个例子，早期模型容易被利用，但新模型在训练时会把这些案例再次对齐，效果就会大打折扣。

speaker2

哇，这些变化真是令人惊讶。那思维链呢？它算是提示工程的核心技巧之一吧？

speaker1

没错，思维链是提示工程的核心技巧之一。将任务分成几步来做可以明显提升生成效果，最著名的是‘Let's think step by step’。到了o1，这种思维链被发挥到了极致，你输入一个复杂的数学题，它甚至不需要要求一步步思考，就能生成高质量的思维链。这确实让人感慨提示工程已死，但其实这更多是技巧部分的变化。

speaker2

那指令部分呢？它面临哪些挑战？

speaker1

指令部分的挑战主要集中在如何清楚地表达自己的意图、让AI明白所有相关的上下文、将复杂的任务拆分成简单的任务、精确控制AI做事以及防止用户绕过限制做不好的事情。比如，如何清楚地表达自己的意图其实很难，如果不能表达清楚，无论是AI还是人类都很难理解你。另一个挑战是如何让AI明白所有相关的上下文，这需要详细的交代和解释。

speaker2

这听起来确实很复杂。那在新的AI模型发布后，提示工程的未来会怎样呢？

speaker1

新的AI模型确实带来了很大的变化，但提示工程的核心——如何让AI真正理解你的意图——仍然非常重要。即使是最强大的模型，也存在随机性，需要提示工程师反复尝试才能找到一个相对稳定的方案。此外，特定领域的任务可能需要真正对这个领域有深入理解和洞察的人才能写出最佳提示词。所以，提示工程还会在很长一段时间内存在并发挥巨大价值。

speaker2

那提示工程师的角色会如何演变呢？

speaker1

提示工程师的角色会更加专业化和细分化。他们不仅需要了解AI模型的最新进展，还需要对特定领域有深入的理解。比如，在翻译领域，最佳的提示词可能需要AI先直接按照字面意思翻译，再针对翻译的结果去检查、解释、反思，最后再综合一起生成翻译结果。这需要提示工程师和领域的专家密切合作。

speaker2

这听起来像是提示工程在特定领域的应用非常广泛。你能举个例子吗？

speaker1

当然。比如在医疗领域，提示工程师需要与医生合作，设计出能够准确诊断和治疗的提示词。在法律领域，提示工程师需要与律师合作，设计出能够准确解析和应用法律的提示词。这些都需要对领域知识的深入了解和对AI模型的熟练掌握。

speaker2

那在防止用户绕过限制方面，提示工程师能做些什么呢？

speaker1

防止用户绕过限制是非常重要的。提示工程师需要设计出能够防止生成不好的内容的提示词。这可能涉及到对模型的训练和调整，确保模型不会生成有害或不合法的内容。此外，还可以通过监控和审计机制来确保AI系统的安全性和合规性。

speaker2

最后，提示工程与编程有什么类比之处吗？

speaker1

确实有类比之处。提示工程类似于编程，但使用的是一种更加自然的语言。编程是用代码精确操纵机器，而提示工程是用自然语言精确操纵AI。两者都需要明确的指令和对工具的深入理解。就像编程一样，提示工程也会在很长一段时间内存在并发挥巨大的价值。

speaker2

非常感谢你的详细解释！这让我们对提示工程有了更深入的理解。希望今天的讨论能给大家带来启发和收获。感谢各位听众的收听，我们下期再见！

speaker1

谢谢大家的支持！我们下期节目再见！