隐私、偏见与社会问题

AI驱动的图像编辑工具的广泛应用引发了对隐私、偏见和潜在社会影响的重大担忧。这些工具能够以惊人的真实感操作2D和3D图像，带来了伦理困境并需要仔细考量。

您将从本章中学到什么

• 此类AI图像/视频对社会的影响
• 当前解决这些问题的方法
• 未来展望

对社会的影响

轻松编辑和修改图像的能力可能导致：

• 破坏媒体信任： 深度伪造（deepfakes），即极具说服力的篡改视频，可以传播错误信息，侵蚀公众对新闻和在线内容的信任。
• 骚扰和诽谤个人： 恶意行为者可以利用AI工具创建虚假图像，用于骚扰、诽谤和其他有害目的。
• 制造不切实际的审美标准： AI工具可以用来编辑图像以符合不切实际的审美标准，对自尊和身体形象产生负面影响。

当前方法

目前正在采用多种方法来解决这些问题：

• 透明度和标注： 鼓励平台和开发者对AI编辑的图像使用保持透明，并实施标注系统以区分真实内容和被篡改的内容。
• 事实核查和验证： 媒体机构和科技公司正在投资事实核查和验证工具，以帮助打击错误信息和虚假信息的传播。
• 法律框架： 各国政府正在考虑立法措施，以规范AI编辑图像的使用，并追究滥用者的责任。

未来展望

AI编辑图像的未来可能涉及：

• 先进的检测和缓解技术： 研究人员理想情况下将开发更先进的技术来检测和缓解AI编辑图像带来的危害。但这就像一场猫捉老鼠的游戏，一方开发出复杂的真实图像生成算法，另一方则开发识别这些图像的方法。
• 公众意识和教育： 公众意识宣传和教育倡议对于促进AI编辑图像的负责任使用和打击错误信息的传播至关重要。
• 保护图像艺术家的权利： 像OpenAI、Google、StabilityAI这样训练大型文本到图像模型的公司正面临一系列诉讼，因为它们在未注明来源的情况下从互联网上抓取艺术家作品。图像中毒（image poisoning）是一种新兴的研究问题，即艺术家在将图像上传到互联网之前，会给图像添加人眼不可见的类似噪声的像素变化。这可能会破坏训练数据，从而影响模型的图像生成能力（如果直接抓取）。您可以从此处和此处阅读更多相关信息。

这是一个快速发展的领域，及时了解最新进展至关重要。

结论

本节结束了我们关于生成视觉模型的单元，您在其中学习了生成对抗网络、变分自动编码器和扩散模型。您了解了它们的实现和使用方法，并在本章中还学习了有关这些模型的伦理和偏见的重要主题。

随着本单元的结束，您也完成了本课程最基础的部分，包括基础知识、卷积神经网络、视觉Transformer和生成模型。在接下来的章节中，我们将深入研究专业领域，如视频和视频处理、3D视觉、场景渲染和重建以及模型优化。但首先，我们将了解基本的计算机视觉任务——它们的用途、定义以及如何评估。

< > 在 GitHub 上更新