开源协同∞智算赋能:GitCode+昇腾NPU部署CodeLlama全流程实践
作者简介:华为HCIP,昇腾NPU机构专业用户。
一.引言最近在项目里用昇腾NPU部署CodeLlama-7B,踩了不少坑,也总结了一些经验。CodeLlama在代码生成这块确实好用,昇腾NPU的算力也够用,就是部署过程需要折腾一下。整个流程从环境搭建到性能调优,中间遇到的问题不少&
