推出 FutureAI 的杰作架构:利用生成式个性化构建 AI 原生应用
简介
FutureAI 正在推出 Masterpiece,这是一种最先进的架构,可用于开箱即用地构建具有生成式个性化功能的 AI 原生应用。作为在 Masterpiece 上构建的开发者,您可以访问 Masterpiece 的用户推理图,用于生成式个性化,其中包括用户兴趣、用户关系、用户画像、用户偏好和用户知识,所有这些都在 FutureAI 自己的私有托管架构中。
Masterpiece 采用上下文专用版的 Llama 70B 和 Leo 1 构建,并结合了 LDA 主题建模模型,该模型已在数十万封电子邮件上进行训练。我们已将 Vertex AI 的多模态嵌入库添加到 Masterpiece 的架构中,并提供了两个数据集供推理选择,从 Gmail 和 Plaid 开始。
Masterpiece 实现了用户数据的主权,并为用户提供了对其数据的控制、同意和隐私选择。每个用户都可以为他们不希望用于生成式个性化和构建推理图的数据制作特定的提示。
我们已经构建了所有这些功能,并提供了一种简单的方法,从今天开始利用 FutureAI 的 SDK 构建您的生成式个性化应用程序。
Masterpiece 的生成式个性化和推理图
Masterpiece 的核心是能够利用 Masterpiece 的推理图构建具有生成式个性化功能的应用程序。我们正在推出五个推理图,包括用户的**兴趣、关系、知识、画像和偏好**。
**兴趣:** Masterpiece 中的此推理图使您能够提取特定用户的兴趣。如果您正在构建新应用程序,您可以将这些兴趣与其他数据集互斥地提取,或者,如果您有现有数据集,Leo 1 可以提供与您的数据集最相关的用户兴趣。
**不带其他数据集的兴趣:** 例如,如果您正在构建一个新的基于兴趣的社交网络应用程序,您可以提取每个用户的所有兴趣,并根据兴趣为您的应用程序填充用户。Masterpiece 还会根据每个用户的相关性为每个特定用户提供兴趣。
**与另一个数据集配对的兴趣:** 例如,如果您是一家电子商务公司或新闻出版物,拥有现有数据集,Leo 1 将返回您的数据集中与用户相关的数据,并提供上下文摘要。如果用户正在与他们 10 个月大的小狗讨论他们的约塞米蒂之旅,Masterpiece 将返回您的数据集中与约塞米蒂之旅和 10 个月大的小狗相关的数据,无论是产品还是您出版物中的文章。
**关系:** Masterpiece 中的此推理图使您能够提取特定用户的关系。您可以从互斥的兴趣中提取这些关系,或将其与兴趣图配对以获得更深层次的推理。
**未与兴趣配对的关系:** 对于特定用户,您可以从他们的所有对话中提取关系分类和此人的全名。因此,如果您想在用户首次登录时为应用程序填充特定数据集,您现在可以填充用户应邀请哪些特定用户加入应用程序以创建指数级增长。
例如,您可以提取
- **父亲:** 约翰·苹果籽
- **同事:** 简·苹果林
- **最好的朋友:** 詹姆斯·苹果树。
**与兴趣配对的关系:** 对于特定用户,您可以提取关系分类以及此关系与特定用户的兴趣。如果您想用兴趣和用户填充您的基于兴趣的社交网络,您可以使用此端点。
例如,对于特定用户,您可以提取
兴趣:感恩节约塞米蒂徒步旅行
- Relationships for this interest 1. Father John Appleseed 2. Colleague Jane Applegrove 3. Best Friend James Appletree.
除此之外,当更多用户使用 FutureAI 登录时,您可以提取具有相同兴趣的不同用户,并让 Masterpiece 计算强度分数,以量化用户关系的强度。Masterpiece 提供的强度分数建立在统计模型之上
1. Recency of conversation between users 2. Frequency of conversation between users 3. Longevity of conversation between users
**知识:** FutureAI 的知识图提取特定用户所擅长的知识。此知识图建立在用户数据中的数千次对话之上并进行聚类,揭示了特定用户对特定主题知识的深度。
- **独立知识图:** 您可以从 Masterpiece 中提取特定用户的知识,它将为您提供 Masterpiece 认为用户在知识方面高于平均水平的最大集群。
**画像:** FutureAI 的画像图可用于利用 FutureAI 的 Leo 1 模型为特定用户提供对话,并模仿用户的语气和语言风格。如果您想构建一个用户可以让人工智能替他们说话的应用程序,这尤其有用。例如,教授可以使用它通过人工智能与学生交流。人工智能将以教授的语气和语言风格进行回应。画像图可以单独使用,也可以与知识图结合使用。
这些是 Masterpiece 在构建每个用户画像图时考虑的不同元素
Writing Style Analysis
1. Tracking patterns in sentence construction
2. Identifying vocabulary preferences
3. Mapping formality levels across different recipients
4. Noting time-based writing pattern changes
Emotional Tone Mapping
1. Measuring baseline emotional states
2. Identifying triggers for tone shifts
3. Tracking recipient-specific tone adjustments
4. Noting contextual tone variations
**不带知识图的画像图:** 您可以独立提取画像图以了解用户的画像。提取后,Masterpiece 将为您提供用户的语气属性、他们的语言风格和示例消息。
Here are a few examples of the personas you can pull for users:
Formal Professional
1. Tonality Attributes Measured, authoritative, solution-focused.
2. Tonality Summary This persona combines measured tonality with structured language.
3. Linguistic Style Complex structures, business terminology, formal grammar.
4. Example message "I've reviewed the quarterly projections and identified several areas for potential optimization. Shall we schedule a meeting to discuss implementation strategies?"
Creative Enthusiast
1. Tonality Attributes High energy, imaginative, emotionally open.
2. Tonality Summary Merges emotional expression with colorful language.
3. Linguistic Style Metaphors, vivid descriptors, artistic vocabulary.
Example message "I'm absolutely buzzing with ideas for this project\! Picture this: we create a stunning visual journey that takes viewers through an ocean of possibilities\! 💫"
Technical Expert
1. Tonality Attributes Precise, analytical, fact-based.
2. Tonality Summary Pairs analytical precision with specialized vocabulary.
3. Linguistic Style Technical vocabulary, data references, structured explanations.
4. Example message "The system latency decreased by 23.4% after implementing the new caching algorithm. Key performance indicators show significant improvement across all metrics."
Casual Communicator
1. Tonality Attributes Relaxed, friendly, approachable.
2. Tonality Summary Combines informal tone with relaxed language patterns.
3. Linguistic Style Abbreviated words, informal punctuation, emojis.
4. Linguistic Style "Hey! Just checked out that new feature - pretty cool stuff! Btw, any chance we can chat about it tmrw? 😊"
Persona graph paired knowledge graph For example, you are able to pair the persona graph and the knowledge graph and build an application that answers for a specific user in their persona style with their specific knowledge.
**偏好:** 用户的偏好图使您能够提取特定用户的模态偏好。例如,如果您想为特定用户提取用户最常使用的模态(文本、图像或视频)及其语言,您可以使用 Masterpiece 的偏好图进行提取。
偏好示例
简·苹果林
- **主要互动模态:** 文本
- **主要互动语言:** 韩语
- **主要互动语言文字:** 韩文
**规则:** 使用正式韩语 (-습니다) 风格
约翰·苹果籽
- **主要互动模态:** 视频
- **主要互动语言:** 意大利语
**规则:** 使用对话风格
使用 Masterpiece 构建的快速入门指南
import { Future } from '@future-sdk/future-js';
import { useEffect, useState, useRef } from 'react';
const Page = () => {
const [isSuccess, setIsSuccess] = useState(false);
const [options, setOptions] = useState<OptionData[]>([]);
const [generativeResultsLoaded, setGenerativeResultsLoaded] = useState(false)
const sessionStartedRef = useRef(false); // Ref to keep track of session state
useEffect(() => {
if (sessionStartedRef.current) return; // Prevent multiple session starts
sessionStartedRef.current = true;
try {
Future.startFutureSession({
apiKey: import.meta.env.PUBLIC_ENV__API_KEY,
iframeUrl: import.meta.env.PUBLIC_ENV__IFRAME_SERVER_ROOT,
websocketUrl: import.meta.env.PUBLIC_ENV__WEBSOCKET_ROOT,
serverUrl: import.meta.env.PUBLIC_ENV__SERVER_ROOT,
onSessionUpdate: (session: any) => {
if (session.lastEventName === 'LinkedAccountCreated') {
setIsSuccess(true);
}
if (session.lastEventName === 'UserGenerativeResults') {
setGenerativeResultsLoaded(true);
const categories = session?.results.map(
(category: string, index: any) => {
return {
id: index,
label: category,
isSelected: false,
};
},
);
setOptions(categories);
}
},
onError: (errorEvent: CustomEvent<any>) => {
console.error(
`error from onError: ${JSON.stringify(errorEvent.detail)}`,
);
},
});
Future.createFutureButton({
container: '.future-button',
merchantFlowId: `${import.meta.env.PUBLIC_ENV__FLOW_ID}`,
});
} catch (e) {
console.error(e);
}
}, []);
return (
<Flex direction="column" justifyContent={'space-between'} height={'100vh'}>
{!isSuccess && <Banner />}
{isSuccess && !generativeResultsLoaded && (
<Loading/>
)}
{isSuccess && generativeResultsLoaded && (
<Results description={resultsText} options={options} />
)}
</Flex>
);
};
export { Page };
更多资源
技术规范
Core Specifications:
- Base Model: Leo 1 (Fine-tuned Llama 3.1 70B)
- Response Time: 5,000ms (p95)
- Infrastructure: NVIDIA H100s
- SDK Support: JavaScript, TypeScript
- Data Sources: Gmail, Plaid
Rate Limits:
- API Calls: 100 requests/minute/key
- Concurrent Connections: 25 per client
- Burst Limit: 200 requests/minute
安全与隐私
与用户建立信任至关重要。FutureAI 在 Masterpiece 的每一层都实施了最先进的隐私和安全措施,从用户和开发者数据摄取到我们私有架构中的模型推理。
我们相信要过度沟通数据将如何使用和共享。在我们的即时用户同意授权模态中,我们沟通了用户需要与 FutureAI 共享数据的原因、FutureAI 存储用户数据的方式、每个用户数据存储的时长以及用户如何请求删除其数据。
每个用户的这种入职流程非常重要,我们始终在他们使用 FutureAI 登录时请求他们的明确同意。我们这样做是为了让他们确切地知道他们正在与 FutureAI 共享哪些数据,以及开发者正在请求 Masterpiece 推理图中的哪些数据。
FutureAI 的 SDK 使您能够通过我们为开发者构建的组件库中的“使用 FutureAI 登录按钮”提示用户,以便用户轻松连接其数据。在此步骤中,用户将其数据集身份验证到 FutureAI,并明确同意共享其数据,以便 FutureAI 为您构建生成式个性化。
定价
要开始使用 Masterpiece 进行构建,您可以按 MTok 付费。对于 FutureAI 企业层级,请联系 enterprise [at] futureai.com
组件 | 组件价格 |
---|---|
输入 MTok | 19 美元/MTok |
输出 MTok | 75 美元/MTok |
支持与资源
加入我们的 Discord 社区并在 Twitter 上关注我们:@Futureaiglobal。
谢谢
非常感谢 Lee Hnetinka、Toshe Boshkovski、Egor Kolpakov 在过去几个月里设计和实例化 Masterpiece 的实现。我们还要感谢我们的投资者 PivotNorth Capital、Village Global 和 Jay McGraw,我们的隐私与安全顾问 Anthony Belfiore,以及我们的合作伙伴 Google 的支持。
立即在 Futureai.com 开始使用 Masterpiece 进行构建。如果您有任何问题或想与我们预约时间进行交流,请联系 Bob Christie:bob [at] futureai.com。