英伟达科学家

PyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码!项目名为GPT-fast，加速效果观感是这样婶儿的:通畅，属实通畅!重点是，团队直接放出了代码以及详细“教程”。还是简笔画版的那种，特别好理解。开发团队成员@HoraceHe表示:我们不把它看作是库或者框架，更希望大家能把它当成个例子，根据自己的需求“复制粘贴”。