在自然语言处理(NLP)领域,大型模型已展现出卓越的性能,涵盖了包括判别式任务和生成式任务在内的多种传统NLP任务。尽管基础NLP大模型的表现已相当出色,但在特定工业领域或场景中,对准确率的要求可能更为严苛。在此情况下,基础NLP大模型的性能可能无法满足特定领域的需求。针对这一问题,主要有两种解决策略:

收集特定领域的知识,构建训练数据集,对大模型进行微调(包括全参数微调和增量微调)。
利用大模型的理解能力,通过设计提示词来完成文本分类任务。
这两种方案适用于不同的场景:当场景对准确率的要求极高,且领域知识包含大量专业术语时,进行模型微调是必要的;在其他情况下,可以考虑使用提示词进行微调。

此篇文章主要讨论的是使用提示词优化的方式进行文本分类时的提示词优化建议,目前主要建议包括以下五点:

一、为大模型设定一个假设的身份,使其预设相关的基础知识。

例:
你的身份:文学教授,具备丰富的历史、科技、文化、经济等领域知识。

二、明确指令要求,不仅要清晰地表述期望大模型执行的任务,还需指示其判断和思考的过程及依据。

例:
请根据以下文章内容,判断文章主题属于哪个类别,并在回答中阐述你的判断依据。文章:《5G技术在我国的发展与应用》

三、对每个类别进行单独描述,对各类别中的专业名词增加详细解释,可通过举例、列出说明等方式增强描述的详尽性。

类别:科技发展
描述:科技发展涉及技术创新、应用推广、产业升级等方面。在5G技术领域,专业名词如“毫米波”、“大规模MIMO”、“网络切片”等,以下为详细解释:
毫米波:指波长在1毫米到10毫米之间的电磁波,具有频率高、带宽大、传输速度快等特点,是5G通信的重要技术之一。
大规模MIMO:多输入多输出技术的简称,通过在基站和终端设备上部署多个天线,实现信号传输的并行处理,提高通信速率和系统容量。
网络切片:一种基于虚拟化技术的网络架构,将物理网络划分为多个虚拟网络,为不同业务场景提供定制化的网络服务。

四、若测试集较大,可增添一些正例和反例,并明确指出判断结果及其原因。

文章标题:《5G技术在我国的发展与应用》——属于科技发展类别,因为文章主要讨论了5G技术在我国的推广、应用及对未来产业的影响。
文章标题:《中国经济增长模式的转型与挑战》——属于经济研究类别,文章分析了经济增长的驱动力、转型路径以及应对策略,涉及宏观经济政策、产业结构调整等经济学术语。 
文章标题:《唐代长安城的建筑布局与文化意义》——属于历史文化类别,文章通过对长安城建筑布局的分析,揭示了唐代的政治、经济、文化特征。 

五、明确类别名称及输出格式,确保大模型的输出稳定性和一致性。

类别名称:科技发展、经济研究、历史文化、社会民生、教育改革等。

输出格式:首先输出文章所属类别名称,然后简要阐述判断依据,最后列举相关专业名词及其解释。

例子:科技发展——《5G技术在我国的发展与应用》属于科技发展类别,因为文章主要讨论了5G技术在我国的推广、应用及对未来产业的影响。相关专业名词包括毫米波、大规模MIMO、网络切片等。

当然,如果上述建议仍未能满足要求,我们可以在后期对错误案例进行单独分析,或者切换至符合条件的其他大型模型。同时,欢迎各位大佬提出更多宝贵建议,以便共同探讨。

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐