隐私、偏见和社会问题

人工智能图像编辑工具的广泛应用引发了人们对隐私、偏见和潜在社会影响的重大担忧。 这些工具能够以惊人的逼真度处理 2D 和 3D 图像，带来了伦理困境，需要仔细考虑。

你将从本章学到什么

• 此类人工智能图像/视频对社会的影响
• 解决这些问题的当前方法
• 未来范围

对社会的影响

轻松编辑和修改图像的能力有可能

• 破坏对媒体的信任：深度伪造技术，即令人信服的操纵视频，可能会传播错误信息，并侵蚀公众对新闻和在线内容的信任。
• 骚扰和诽谤个人：恶意行为者可以使用人工智能工具创建虚假图像，用于骚扰、诽谤和其他有害目的。
• 制造不切实际的审美标准：人工智能工具可以用来编辑图像，使其符合不切实际的审美标准，从而对自尊和身体形象产生负面影响。

当前方法

目前正在采用几种方法来解决这些问题

• 透明度和标签：鼓励平台和开发者在人工智能编辑图像的使用方面保持透明，并实施标签系统，以区分真实内容和被操纵的内容。
• 事实核查和验证：媒体机构和科技公司正在投资事实核查和验证工具，以帮助打击错误信息和虚假信息的传播。
• 法律框架：政府正在考虑立法措施，以规范人工智能编辑图像的使用，并追究个人滥用行为的责任。

未来范围

人工智能编辑图像的未来可能涉及

• 先进的检测和缓解技术：研究人员理想情况下将开发更先进的技术，用于检测和减轻与人工智能编辑图像相关的危害。但这就像一场猫捉老鼠的游戏，一方开发复杂的逼真图像生成算法，而另一方开发识别这些图像的方法。
• 公众意识和教育：公众意识宣传活动和教育倡议对于促进负责任地使用人工智能编辑图像和打击错误信息的传播至关重要。
• 保护图像艺术家的权利：OpenAI、Google、StabiltyAI 等训练大型文本到图像模型的公司正面临大量诉讼，原因是他们从互联网上抓取艺术家的作品，但没有以任何方式署名。 图像投毒等技术是一个新兴的研究问题，即在艺术家将图像上传到互联网之前，在其图像中添加人眼不可见的类似噪声的像素变化。 如果直接抓取，这可能会损坏训练数据，从而影响模型的图像生成能力。 您可以从此处和此处阅读更多相关信息。

这是一个快速发展的领域，及时了解最新进展至关重要。

结论

本节结束了我们关于生成视觉模型的单元，您在其中学习了生成对抗网络、变分自编码器和扩散模型。 您了解了如何实现和使用它们，在本章中，您还学习了关于这些模型的伦理和偏见的重要主题。

随着本单元的结束，您也完成了本课程最基础的部分，其中包括*基础知识*、*卷积神经网络*、*Vision Transformers*和*生成模型*。 在接下来的章节中，我们将更深入地探讨*视频和视频处理*、*3D 视觉、场景渲染和重建*和*模型优化*等专业领域。 但首先，我们将了解基本的计算机视觉任务——它们的用途、定义以及评估方式。

< > 在 GitHub 上更新