Date
我的评论
@我的Notion
标签
量子位
量子位
2023-12-02 14:01:37
#不到1000行代码大模型加速10倍# PyTorch团队大模型推理速度加快了10倍,且只用了不到1000行的纯原生PyTorch代码! 项目名为GPT-fast,加速效果观感是这样婶儿的: 通畅,属实通畅! 重点是,团队直接放出了代码以及详细“教程”。还是简笔画版的那种,特别好理解。 开发团队成员@Horace He表示: 我们不把它看作是库或者框架,更希望大家能把它当成个例子,根据自己的需求“复制粘贴”。 网友直接炸开锅,英伟达AI科学家Jim Fan评价道: 这是自Andrej Karpathy发布的minGPT以来最棒的教程式repo之一! 开源世界需要更多minGPT、GPT-Fast这样的项目!
notion image