微软论文曝光GPT

要点:微软论文爆料GPT-3.5的参数量仅为20B，远小于之前官方宣布的1750亿，引发广泛关注和争议。微软的论文介绍了一个小规模扩散模型CodeFusion，性能出色，只有7500万参数，与大型模型相媲美。论文讨论了CodeFusion模型的架构和性能表现，对GPT-3.5的真实参数量提出了质疑，但仍需等待官方开源数据揭晓。