构建你的第一个演示

让我们从安装 Gradio 开始！由于它是一个 Python 包，只需运行

$ pip install gradio

你可以在任何地方运行 Gradio，无论是你最喜欢的 Python IDE，还是 Jupyter notebooks，甚至是 Google Colab 🤯！所以，无论你在哪里运行 Python，都请安装 Gradio！

让我们从一个简单的“Hello World”示例开始，以熟悉 Gradio 语法

import gradio as gr


def greet(name):
    return "Hello " + name


demo = gr.Interface(fn=greet, inputs="text", outputs="text")

demo.launch()

让我们逐步分析上面的代码

首先，我们定义一个名为 greet() 的函数。在这种情况下，它是一个简单的函数，在你的名字前面加上“Hello”，但它通常可以是*任何* Python 函数。例如，在机器学习应用中，这个函数会*调用模型对输入进行预测*并返回输出。
然后，我们使用三个参数 fn、inputs 和 outputs 创建一个 Gradio Interface。这些参数定义了预测函数，以及我们想要的输入和输出组件的*类型*。在我们的例子中，这两个组件都是简单的文本框。
然后，我们在创建的 Interface 上调用 launch() 方法。

如果你运行此代码，界面将自动显示在 Jupyter/Colab notebook 中，或者如果从脚本运行，则会在浏览器中弹出 https://:7860。

现在就用你自己的名字或其他输入尝试使用这个 GUI！

你会注意到在这个 GUI 中，Gradio 自动推断出输入参数的名称（name）并将其作为标签应用到文本框顶部。如果你想改变这个呢？或者你想以其他方式自定义文本框呢？在这种情况下，你可以实例化一个代表输入组件的类对象。

看看下面的例子

import gradio as gr


def greet(name):
    return "Hello " + name


# We instantiate the Textbox class
textbox = gr.Textbox(label="Type your name here:", placeholder="John Doe", lines=2)

gr.Interface(fn=greet, inputs=textbox, outputs="text").launch()

在这里，我们创建了一个带有标签、占位符和固定行数的输入文本框。你可以对输出文本框做同样的操作，但我们暂时不进行。

我们已经看到，只需几行代码，Gradio 就可以让你围绕任何具有任何类型输入或输出的函数创建简单的界面。在本节中，我们从一个简单的文本框开始，但在接下来的章节中，我们将介绍其他类型的输入和输出。现在让我们来看看如何在 Gradio 应用程序中包含一些 NLP。

🤖 包含模型预测

现在，让我们构建一个简单的界面，允许你演示一个**文本生成**模型，如 GPT-2。

我们将使用 🤗 Transformers 的 pipeline() 函数加载我们的模型。如果你需要快速复习，可以回到第一章中的该部分。

首先，我们定义一个预测函数，它接受一个文本提示并返回文本完成

from transformers import pipeline

model = pipeline("text-generation")


def predict(prompt):
    completion = model(prompt)[0]["generated_text"]
    return completion

这个函数会完成你提供的提示，你可以用你自己的输入提示来运行它，看看它是如何工作的。这里有一个例子（你可能会得到不同的完成）

predict("My favorite programming language is")

>> My favorite programming language is Haskell. I really enjoyed the Haskell language, but it doesn't have all the features that can be applied to any other language. For example, all it does is compile to a byte array.

现在我们有了用于生成预测的函数，我们可以像之前一样创建并启动一个 Interface

import gradio as gr

gr.Interface(fn=predict, inputs="text", outputs="text").launch()

就是这样！你现在可以使用这个界面来使用 GPT-2 模型生成文本，如下所示 🤯。

继续阅读，了解如何使用 Gradio 构建其他类型的演示！

< > 在 GitHub 上更新

LLM 课程

构建你的第一个演示

🤖 包含模型预测