At small scale, with limited model capacity and expert count, different routing strategies may show similar performance due to unsaturated computational resources. At large scale, with many more experts, routing complexity grows exponentially, amplifying issues like load imbalance, underutilization, or specialization failure, leading to significant performance divergence. 在小规模下,模型容量和专家数量有限,不同路由策略可能因计算资源未饱和而表现出相似的性能。然而,在大规模下,专家数量剧增,路由决策的复杂性呈指数增长,负载不均衡、专家利用不足或专业化失败等问题会被放大,导致性能差异显著。 小規模では、モデル容量と専門家数が限られているため、計算リソースが飽和していないために異なるルーティング戦略が類似の性能を示す可能性があります。しかし、大規模では専門家数が劇的に増加し、ルーティング決定の複雑さが指数関数的に増大し、負荷不均衡、専門家の利用不足、専門化の失敗などの問題が増幅され、性能の差が顕著になります。