转onnx模型的原始pt文件来源

[consistent1997]

大佬，可以问一下，你的onnx模型是用哪个pt文件转出的吗？还是自己做了裁剪的？

[cacard]

我觉得应该是：https://github.com/wenet-e2e/wenet/blob/main/docs/pretrained_models.md
但不知道是哪个？可以转onnx后按onnx的文件大小对比看看 :-(

[cacard]

我实际运行了一下从原始的pretrained models 转 onnx，跟作者的 shape 对不上。作者应该是自己修改重新 train 了之后输出 .pt再转的 onnx。 @Tzenthin 麻烦作者提供一下训练思路，或者原始 .pt。

[cacard]

作者在2022年5月学习了知识蒸馏：
https://zhuanlan.zhihu.com/p/513897756
文中提到：

ASR模型蒸馏
亲自下场，对Transformer结构的ASR模型使用Tinybert的方法进行KD，在Aishell-1数据集上实验。
一、硬性条件
CPU内存>80G，GPU我有8个1080Ti。个人玩家估计就没戏了……

8个1080Ti那就是88G显存？

通过评论可以看出，作者就是在蒸馏 wenet。

由此可以破案：作者是在wenet原始预训练模型 aishell 做了蒸馏，然后再转 onnx/mnn 的。

不行我们自己也走一遍蒸馏？...