GPU短缺有多大？io.net 是如何解决的？

主要的云提供商目前拥有大约 10-15 exaFLOPS 的 GPU 计算容量。然而，鉴于对 AI/ML 模型训练和推理工作负载的需求激增，云中对 GPU 计算的潜在需求可能高达 20-25 exaFLOPS。

这表明目前云 GPU 容量的短缺可能在 5-10 exaFLOPS 的范围内。换句话说，云GPU容量可能需要在当前水平上扩展2倍-3倍，才能完全满足用户需求。

鉴于开发 GPU 供应的准备时间很长，这个问题不太可能很快得到解决。

io.net 正在通过访问云外部未充分利用的 GPU 源来解决这个问题，例如：

• 独立数据中心：仅在美国就有数千个独立数据中心，平均利用率仅为12%至18%
• 加密矿工：矿工因以太坊转向权益证明而遭受重大损失
• 消费类 GPU：消费类 GPU 占总供应量的 90%，但其中大部分资源潜伏在消费者家庭和小型云农场中

据估计，这些源组合在一起可以提供额外的 200 exaFLOP 容量。