与 Hugging Face Hub 集成

为了让你的生活更轻松，Gradio 直接与 Hugging Face Hub 和 Hugging Face Spaces 集成。你只需一行代码即可从 Hub 和 Spaces 加载演示。

从 Hugging Face Hub 加载模型

首先，选择 Hugging Face 通过 Hub 提供的数千个模型之一，如第 4 章所述。

使用特殊的 Interface.load() 方法，你可以传入 "model/"（或等效的 "huggingface/"），然后是模型名称。例如，以下是为大型语言模型 GPT-J 构建演示并添加几个示例输入的代码：

import gradio as gr

title = "GPT-J-6B"
description = "Gradio Demo for GPT-J 6B, a transformer model trained using Ben Wang's Mesh Transformer JAX. 'GPT-J' refers to the class of model, while '6B' represents the number of trainable parameters. To use it, simply add your text, or click one of the examples to load them. Read more at the links below."
article = "<p style='text-align: center'><a href='https://github.com/kingoflolz/mesh-transformer-jax' target='_blank'>GPT-J-6B: A 6 Billion Parameter Autoregressive Language Model</a></p>"

gr.Interface.load(
    "huggingface/EleutherAI/gpt-j-6B",
    inputs=gr.Textbox(lines=5, label="Input Text"),
    title=title,
    description=description,
    article=article,
).launch()

上述代码将生成以下界面：

以这种方式加载模型使用 Hugging Face 的 Inference API，而不是将模型加载到内存中。这对于像 GPT-J 或 T0pp 这样需要大量 RAM 的大型模型来说是理想的选择。

从 Hugging Face Spaces 加载

要从 Hugging Face Hub 加载任何 Space 并在本地重新创建它，你可以将 spaces/ 传递给 Interface，然后是 Space 的名称。

还记得第一节中移除图像背景的演示吗？让我们从 Hugging Face Spaces 加载它：

gr.Interface.load("spaces/abidlabs/remove-bg").launch()

从 Hub 或 Spaces 加载演示的一个很棒的地方在于，你可以通过覆盖任何参数来自定义它们。在这里，我们添加一个标题并让它与网络摄像头一起工作：

gr.Interface.load(
    "spaces/abidlabs/remove-bg", inputs="webcam", title="Remove your webcam background!"
).launch()

现在我们已经探索了几种将 Gradio 与 Hugging Face Hub 集成的方法，接下来我们来看看 Interface 类的一些高级功能。这是下一节的主题！

< > 在 GitHub 上更新

LLM 课程

与 Hugging Face Hub 集成

从 Hugging Face Hub 加载模型

从 Hugging Face Spaces 加载