8月12日下午,鼎捷软件举办媒体开放日活动。当下,业界普遍关注的是AI大模型的成本,以及如何解决“大模型幻觉”问题。

鼎捷软件执行副总裁刘波称,鼎捷混合使用RAG(检索增强生成)和Fine-Tuning(微调)技术,即通过高质量的数据集(数据+行业经验+技术),再使用贴合制造业的RAG技术,以有效助力工业企业解决“大模型幻觉”问题。

对于是否使用微调,使得大模型更加偏向于垂直专业领域,再使用RAG技术,限定大模型回答的范围。

刘波表示认可,并表示:“检索增强生成的关键,在于领域知识的掌握。通用大模型很难掌握这种深度的行业知识,这些知识怎么解释、怎么理解、怎么设定,其实需要很多技术+行业的经验。简单说,我们天生懂客户这些‘行业黑话’,这是40余年的深耕经营积累下来的沉淀,它会大量降低训练成本和缩短训练时间。”

其补充表示:“鼎捷早在2015年便提出了‘智能+’战略,借助算法驱动帮助客户实现降本增效。然而鼎捷认为这种优势并不能持久,因此我们不断探索让人工智能进入到‘辅助驾驶’阶段,不再是嵌入式应用,而是主动思考辅助决策,以重构客户作业流程。”

鼎捷软件执行副总裁、财务长张苑逸表示:“企业主在意的是效率跟成本匹不匹配,而鼎捷过往在给客户展开数智化服务的时候,非常注重价值交付,理解业务,同时能够把握关键点。因此我们在给(大模型)喂数据的时候,数据是已经整理过的,更有指向性,而非简单用数学方式暴力运算,犹如大海捞针。同时,我们的顾问都是老师傅、行业专家,所以我们在训练中更容易明白‘行业黑话’,也更知道行业数据对应的特征值,保障结果的可用。”

刘波总结称:“在帮助企业客户进行数智化转型的过程中,鼎捷凭借多年的经验积累,可以快速判断如何进行有效的数据转化和知识封装,从而快速提升AI应用的成熟度。”