012、大语言模型应用开发:Prompt工程与LangChain框架
012、大语言模型应用开发:Prompt工程与LangChain框架昨天深夜调试一个对话场景,模型死活不肯输出JSON格式。喂了十几条示例,它要么漏字段,要么用自然语言瞎编。最后发现是temperature参数没调——这玩意儿设成0.9,模型就放飞自我了。折腾到凌晨三点才意识到,大模型开发里,Prompt设计比写代码更需要工程化思维。Prompt不是填空题很多人把Prompt当成填空题的题干,其实它更像给实习生写任务清单。你光说“整理数据”不够,得说明格式、字段顺序、异常处理规则。我常用的三层结构是这样的:# 坏例子:模糊指令prompt="把用户问题分类"# 好例子:结构化指令system_prompt="""你是个客服分类助手,按以下规则输出JSON: 1. 只识别"退货"、"咨询"、"投诉"三类 2. 用户描述不明确时归为"咨询" 3. 输出格式:{"type": "分类", "confidence": 0.95}"""
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2514946.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!