机器学习、深度学习和数学的互动工具
查看 GitHub 上的 MLT:交互式工具
内容
深度学习
- Transformer Explainer
- exBERT
- BertViz
- CNN Explainer
- 在浏览器中玩转 GAN
- 卷积神经网络游乐场
- Distill:通过激活图谱探索神经网络
- 机器学习的视觉入门
- 交互式深度学习游乐场
- 初始化神经网络
- 嵌入投影仪
- OpenAI Microscope
数据
可解释性
数学
深度学习
Transformer Explainer
Transformer Explainer 是一款交互式可视化工具,旨在帮助任何人学习基于 Transformer 的模型(如 GPT)的工作原理。它在您的浏览器中运行一个实时 GPT-2 模型,允许您使用自己的文本进行实验,并实时观察 Transformer 的内部组件和操作如何协同工作以预测下一个 token。
exBERT
“exBERT 是一个工具,旨在帮助人类进行灵活、交互式的调查并为模型内部推理过程制定假设,支持对各种 Hugging Face Transformer 模型进行分析。exBERT 通过将人类指定的输入与大型注释数据集中的类似上下文进行匹配,提供对上下文表示和注意力的含义的洞察。”
- 来源:exBERT

BertViz
“BertViz 是一个用于可视化 Transformer 模型中注意力的工具,支持 transformers 库中的大多数模型(BERT、GPT-2、XLNet、RoBERTa、XLM、CTRL、MarianMT 等)。它扩展了 Llion Jones 的 Tensor2Tensor 可视化工具 和 HuggingFace 的 transformers 库。”
- 来源:BertViz
CNN Explainer
一个交互式可视化系统,旨在帮助非专业人士学习卷积神经网络 (CNN)。它在浏览器中运行一个预训练的 CNN,并允许您探索图层和操作。
在浏览器中玩转 GAN
使用 GAN Lab 直接在浏览器中探索生成对抗网络。有许多酷炫的功能支持交互式实验。
交互式超参数调整
用户定义的数据分布
慢动作模式
手动逐步执行
卷积神经网络游乐场
ConvNet Playground 是一个交互式可视化工具,用于探索应用于语义图像搜索任务的卷积神经网络。
Distill:通过激活图谱探索神经网络
特征反演(Feature inversion)可用于可视化图像分类网络中数百万个激活,从而生成可探索的网络学习到的特征激活图谱。这可以揭示网络通常如何表示某些概念。
机器学习视觉入门
在机器学习中,计算机应用统计学习技术自动识别数据中的模式。这些技术可以用来进行高度准确的预测。
交互式深度学习游乐场
深度学习新手?在您的浏览器中试玩神经网络。
初始化神经网络
初始化对深度神经网络训练的收敛性有显著影响。简单的初始化方案可以加速训练,但需要小心避免常见陷阱。在这篇文章中,deeplearning.ai 的专家们解释了如何有效地初始化神经网络参数。
嵌入投影仪
理解机器学习模型如何解释数据变得越来越重要。为了将我们自然理解的事物(例如单词、声音或视频)转换为算法可以处理的形式,我们通常使用嵌入(embedding),这是一种数学向量表示,可以捕获数据的不同方面(维度)。在这个交互式工具中,您可以在浏览器中探索多种不同的算法(PCA、t-SNE、UMAP)来探索这些嵌入。
OpenAI Microscope
OpenAI Microscope 是八个重要视觉模型的每个重要层和神经元的可视化集合。
数据
Atlas 数据探索
Atlas 允许您探索 Nomic 团队从社交媒体、新闻和学术期刊等来源整理的真实、最新数据。
可解释性,公平性
语言可解释性工具
语言可解释性工具 (LIT) 是一个用于 NLP 模型可视化和理解的开源平台。
您可以使用 LIT 提出并回答以下问题:
我的模型在哪种示例上表现不佳?
我的模型为什么会做出这个预测?它可以归因于对抗行为,还是训练集中不理想的先验?
如果我改变文本风格、动词时态或代词性别等内容,我的模型行为是否一致?
如果
“假设工具”可让您通过最少的编码直观地探查已训练的机器学习模型的行为。
衡量多样性
PAIR 可探索的衡量多样性相关内容。
“搜索、排名和推荐系统可以帮助在大数据集中找到有用的文档。然而,这些数据集反映了它们创建所在社会的偏见,系统存在重新固化这些偏见的风险。例如,如果一个非白人男性搜索“CEO 图片”,看到一页白人男性,他们可能会觉得只有白人男性才能成为 CEO,这进一步加剧了公司高管层代表性不足的问题。”
Mitchell 等人(2020)子集选择中的多样性和包容性指标
数学
Sage 交互
这是一组演示 Sage 中 **interact** 命令用法的页面。您可以轻松地浏览并复制/粘贴示例到 Sage 笔记本中。
示例包括代数、生物信息学、微积分、密码学、微分方程、图形绘制、动力系统、分形、游戏和消遣、几何、图论、线性代数、循环量子引力、数论、统计/概率、拓扑、Web 应用程序。
概率分布
西蒙·沃德-琼斯(Simon Ward-Jones)的作品。概率分布的视觉👀之旅。
伯努利分布
二项分布
正态分布
Beta 分布
对数正态分布
贝叶斯推理
西蒙·沃德-琼斯的作品。以抛硬币为例,解释贝叶斯推理的基础知识。
Seeing Theory:概率与统计
概率与统计的视觉入门。
交互式高斯过程可视化
“高斯过程可以被认为是多元正态分布向覆盖输入域上每个点的无限数量随机变量的扩展。任意两点函数值之间的协方差由高斯过程核的评估给出。欲了解深入解释,请阅读这篇优秀的 distill.pub 文章,然后回到此交互式可视化界面!”
- 来源:无限好奇心