Hugging Face 社区博客·· 2022-07-27AI 评分61
Hugging Face 用 TensorFlow 与 XLA 加速文本生成,部分场景提速超 100 倍
Faster Text Generation with TensorFlow and XLA
AI 导读
Hugging Face 宣布 🤗 transformers 的 TensorFlow 文本生成现可通过 XLA 编译加速,某些场景提速超过 100 倍,在多数基准中比 PyTorch 更快,最高快达 9 倍。
来源:Hugging Face 社区博客 · huggingface.co