Notes

• Cleave democratizes foundation model training using idle edge compute.
• Current edge training faces limits in performance, scale, and communication.
• GEMM's I/O asymmetry fits edge bandwidth patterns.
• Parameter-server setup cuts per-device communication as devices grow.
• Sub-GEMM tasks unify resource use and fault tolerance.
• Cleave matches cloud GPU, outpaces SOTA by 4-10x per batch, and scales to thousands.

• Cleave通过边缘空闲算力推动大模型训练民主化。
• 现有方案受限于性能、扩展性和通信。
• GEMM的I/O不对称正好匹配边缘带宽非对称。
• 参数服务器架构让单设备通信随设备数增加而下降。
• 子GEMM任务分解统一了资源与容错。
• Cleave性能比肩云GPU，批次速度远超现有方案，可扩展至数千设备。

• Cleaveはエッジ計算で大規模訓練の民主化を目指す。
• 現行手法は性能・拡張性・通信が課題。
• GEMMのI/O非対称はエッジ帯域パターンに適合。
• パラメータサーバーでデバイス増加時の通信量を削減。
• サブGEMM分解がリソースと耐障害性を統合。
• CleaveはクラウドGPUに並び、既存より4-10倍高速で数千台に拡張可能。