AstrAI/khaosz/inference
ViperEkura dbd57e30e5 feat(inference): 增加cuda graph 设置 2026-02-07 15:42:41 +08:00
..
__init__.py fix(khaosz): 为其他模组添加init文件 2025-11-19 18:25:51 +08:00
core.py feat(model): 添加QK归一化和门控注意力支持 2026-01-05 16:14:44 +08:00
cuda_graph.py feat(inference): 增加cuda graph 设置 2026-02-07 15:42:41 +08:00
generator.py feat(model): 添加QK归一化和门控注意力支持 2026-01-05 16:14:44 +08:00