我行成功上线AI大模型服务平台“临小智”
2025-07-04
2025年6月30日企业级智能AI大模型服务平台——“临小智”正式上线。
“临小智”基于本地化部署的DeepSeek R1 70B蒸馏模型打造，集成了知识库管理、智能体编排、RAG（检索增强生成）等多项能力，具备多场景服务支持功能。平台采用MySQL、Redis、Milvus、Elasticsearch四类数据库协同架构，并结合分布式模块化部署方案，在保障系统稳定性的同时，显著提升了数据处理效率和响应速度。在知识管理方面，“临小智”支持多种文件格式上传，可快速构建个人、团队及公共知识库，通过PaddleOCR文档识别和BGE向量检索技术，结合ElasticSearch与Milvus向量数据库，实现了制度查询、文档参考等高频场景的高效响应。其RAG技术采用“向量编码+语义重排序”机制，确保AI回答有据可依，进一步提升了信息获取的准确性与可信度。
目前，“临小智”已在多个办公和业务场景中实现初步应用，取得良好反馈。下一步，金融科技部将联合各相关部门，稳步推进“临小智”的全行培训与推广应用，营造“人人了解AI、人人善用AI”的良好氛围，同时，不断优化平台功能，挖掘更多智能化应用场景，提升我行办公效率。
