单机运行本身就具有非常强的性能表现：M3 Ultra Mac Studio 在多核计算和 AI 推理任务中不弱于某些专业服务器。

　　单机运行本身就具有非常强的性能表现：M3 Ultra Mac Studio 在多核计算和 AI 推理任务中不弱于某些专业服务器。

　　虽然 RDMA over Thunderbolt 5 是一项令人振奋的进展，但当前仍有一些限制，比如需要手动启用 RDMA，且设置过程比较繁琐。此外受限于 Thunderbolt 连接拓扑，目前最多只能通过点对点方式交叉连接最多 4 台机器。对比传统企业级互连（例如 QSFP 或 InfiniBand），Thunderbolt 的物理插拔与连接方式还不够成熟。

　　Jeff Geerling 展示了 macOS 平台上借助 Thunderbolt 5 RDMA 构建协同大内存 AI 计算集群的可能性。对于研究者和开发者来说，它代表一种在桌面级硬件上实现超大规模模型运行的新思路，尤其是在不依赖大量 GPU 的情况下不翻墙可以看youtube。尽管尚有一些工程与生态限制，但这一进展对于本地 AI 开发、HPC 协同计算都有重要参考价值。返回搜狐，查看更多