近日，浙江农商联合银行辖内莲都农商银行以全内存运行的创新方式，完成国产大语言模型DeepSeek 32B的本地化部署工作。该行通过优化硬件资源调配，创新性地采用全内存运行模式，规避了对高成本显存计算卡的依赖，显著降低了部署成本。该部署方案结合环境变量配置与模型量化技术，使大模型在本地服务器上高效运行，推理速度与稳定性均达到较高水平。
莲都农商银行：完成DeepSeek大模型本地化部署在完成模型部署的基础上，该行尝试将DeepSeek 与本行规章制度等文件深度融合，通过RAG（检索增强生成）技术探索智能文档解析、合规问答系统以及动态风险预警方面的应用场景。
下一步，依靠省行强大的计算资源和技术底蕴，莲都农商银行将与省行科技积极对接，共同推进国产语言大模型在金融领域应用的场景建设工作，持续探索AI与金融场景的深度融合，为乡村振兴注入科技动能。
作者：富来
服务邮箱：agricn@126.com 违法和不良信息举报电话：010-84395205
京公网安备 11010502040354号 互联网新闻信息服务许可证10120170078 京ICP证05068373号
农民日报社主办，中国农网版权所有，未经书面授权，禁止使用
Copyright©2019-2024 by farmer.com.cn. All Rights Reserved
