本文系统介绍了当前大模型评测的三种典型方法:数据集评估、裁判模型评估和模型竞技场对战,并深入分析了各自的优势与局限。三者互为补充,共同构成了当前大模型评估体系的核心框架。
介绍了基于MindSpore的Whisper模型推理优化实践,包括FlashAttention2算法接入及Conv1D算子加速等。
描述了昇腾芯片下使用MindSpore对QwQ-32B模型推理的实践过程。
介绍了MindSpore的数据处理引擎的架构,及处理模式。
介绍了常见的IR表示,MindIR的文法定义及其示例。
简述了容器操作、镜像操作中的基础指令
阐述Python中闭包和装饰器的概念和用法
了解五种IO模型、及IO多路复用中select、poll、epoll的区别
GC流程、GC触发机制、GC调优机制等
slice底层实现,数组和slice的区别