跳到正文
Hugging Face 社区博客·· 2022-07-27AI 评分61

Hugging Face 用 TensorFlow 与 XLA 加速文本生成,部分场景提速超 100 倍

Faster Text Generation with TensorFlow and XLA

AI 导读

Hugging Face 宣布 🤗 transformers 的 TensorFlow 文本生成现可通过 XLA 编译加速,某些场景提速超过 100 倍,在多数基准中比 PyTorch 更快,最高快达 9 倍。

来源:Hugging Face 社区博客 · huggingface.co