红队人工智能攻防

红队人工智能攻防

目录

🤖 介绍团队成员
🔍 背景介绍项目
🛠️ 探讨CUDA和NVIDIA GPU
🔒 解决问题: CUDA漏洞
🎯 攻击技术与方法
📊 当前研究结果
🧩 挑战与限制
🔮 未来展望
💡 项目的范围
❓ 常见问题解答

🤖 介绍团队成员

大家好，我是 Taylor McCampbell，我是 Cedar 的红队 AI 项目的一部分。今天，我将向您介绍如何破解 CUDA 和 Nvidia Jason Nanos。

🔍 背景介绍项目

首先，我将介绍一下团队成员。除了我之外，还有同在项目中的 Will Brandt。我们都是怀俄明大学的高年级学生，主修计算机科学，并且是 Ino 的实习生。项目的背景是，人工智能被部署到越来越多的关键基础设施或关键生态系统中，涉及的范围非常广泛，从自动驾驶汽车到水处理设施等等。因此，我们需要关注 CUDA 和 Nvidia GPU 这些技术。

🛠️ 探讨CUDA和NVIDIA GPU

CUDA 是 Nvidia 为他们的 GPU 开发的并行计算平台。我们看到 Nvidia GPU 和 CUDA 在公共和私人领域的基础设施上得到了应用。在 CUDA 的生命周期中，有一个报告的 CVE，涉及缓冲区溢出错误。所以我们想解决的问题是，我们能否利用常见的攻击技术，在 Nvidia Jetson Nano 上获得特权升级或任意代码执行？

🔒 解决问题: CUDA漏洞

如果我们能够实现这一点，那就证明了 CUDA 的脆弱性。我们主要关注的攻击技术之一是 pheasant，这是一种常见的攻击技术，通过给函数输入大量的恶意输入来尝试触发错误。我们还希望进一步攻击像 Hugging Face 和 TensorFlow 这样的开源库，寻找机器学习管道中的任何脆弱点。

🎯 攻击技术与方法

我们目前的研究结果主要围绕模糊测试展开。但模糊测试的限制非常严重，特别是对于开源库，例如 TensorFuzz 和 Google 发布的一个模糊测试工具。这些工具缺乏良好的文档，也没有被充分探索。

📊 当前研究结果

我们的研究受到模糊测试的限制，这是一个非常具有挑战性的领域。模糊测试需要花费大量的时间来理解技术细节，Craft clever attacks 是一个非常困难的挑战。

🧩 挑战与限制

模糊测试本身就是一项具有挑战性的任务，需要花费大量的时间来理解技术细节，以及如何进行攻击。

🔮 未来展望

在未来，我们希望能够创建关于导致特权升级和任意代码执行的可重现攻击的报告。我们的项目范围非常广泛，但目前重点关注 CUDA 和 Nvidia GPU。未来，我们希望扩大攻击范围，涵盖机器学习管道的所有部分。

💡 项目的范围

我们的项目范围非常广泛，但目前重点关注 CUDA 和 Nvidia GPU。未来，我们希望扩大攻击范围，涵盖机器学习管道的所有部分。

❓ 常见问题解答

Q: 项目的主要目标是什么？
A: 我们的主要目标是发现 CUDA 和 Nvidia GPU 中的潜在漏洞，以及可能导致特权升级和任意代码执行的攻击方法。

Q: 项目是否受到限制？
A: 是的，我们的研究受到模糊测试的限制，这是一个非常具有挑战性的领域，需要花费大量的时间和精力来理解技术细节和Craft clever attacks。