使用机器学习进行云端虚拟机部署在测试中一种分配虚拟机至服务器的新方法相比基准方法性能提升了10%。作者Christopher Kakovitch2021年4月12日阅读时间3分钟在云端环境中负载均衡即跨服务器均匀分配任务对于提供可靠服务至关重要。它能防止单个服务器过载而导致性能下降。防止服务器过载的最简单方式是限制分配给每台服务器的任务数量但这可能导致资源利用效率低下因为不同任务的计算需求差异巨大。理想的负载均衡方法应以防止过载所需的最少服务器数量来分配任务。上周在机器学习与系统会议MLSys上我们展示了一种用于优化任务分配的新算法名为FirePlace。FirePlace基于决策树机器学习模型构建通过基于历史数据的仿真进行训练。决定如何将虚拟机VM分配至云端服务器是一项艰巨的挑战因为虚拟机的资源消耗随时间变化。FirePlace结合仿真与机器学习来应对这一挑战。在实验中我们发现FirePlace的表现优于更复杂的模型如长短期记忆网络模型和强化学习模型以及实践中已被证明有效的简单基线方法如二选一算法。Firecracker部署FirePlace的名称来源于某机构Lambda服务所使用的Firecracker虚拟机VM。Lambda提供函数执行即服务免去客户自行配置基础设施的麻烦并根据函数执行时长计费从而降低客户成本。在云计算中虚拟机通过调节客户代码对服务器操作系统的访问实现客户代码的安全执行。传统上云计算服务可能为每台服务器上运行的每个应用程序分配一个虚拟机。然而Firecracker为每个函数分配一个独立的虚拟机。Firecracker虚拟机安全、轻量可以密集地打包到服务器中。它们的小体积带来了效率优势但也使其可预测性降低估算大型程序的资源消耗比估算单个程序函数的资源消耗更容易。优化Firecracker虚拟机的部署需要一种新的负载均衡方法因此诞生了FirePlace。FirePlace使用一个决策树模型其输入为集群中多台服务器的资源消耗状态为确保模型能在毫秒级内做出决策这些服务器被随机采样。模型的输出是将一个新虚拟机分配给输入服务器中的某一台。通过仿真进行训练为了训练模型我们使用真实Firecracker虚拟机的历史资源消耗数据以时间序列形式表示。在训练过程中当模型需要放置一个新虚拟机时每个已分配的虚拟机都处于其时间序列的特定步骤。我们运行仿真来计算这些虚拟机未来的资源消耗并在此基础上优化新虚拟机的放置位置。优化后的放置位置即为当前输入的训练标签。在实验中我们的基准方法是“二选一”算法——该算法虽简单但出奇有效在云计算中被广泛使用。它随机选取两台服务器作为新虚拟机的潜在接收者然后选择其中负载较轻的一台。我们还将自己的方法与使用神经网络长短期记忆网络和时间卷积网络的方法进行了比较。这些网络根据给定虚拟机截至当前时间的资源消耗来预测其未来的资源消耗。最后我们还将系统与使用强化学习的方法进行了比较。强化学习模型根据先前关于虚拟机放置的决策来学习最优放置策略。该学习模型在处理较小数据集时表现良好但随着放置虚拟机数量的增加问题复杂度上升强化学习模型无法收敛到有竞争力的解。我们根据在给定服务器过载限制下承载特定负载所需的服务器数量来评估这些方法。服务器数量越少越好。FirePlace相比“二选一”基准算法提升了10%的性能。LSTM和TCN方法因精度过低而不具竞争力。某机构Lambda已开始在生产环境中引入FirePlace方法未来将对我们的实验结果进行实际场景验证。研究领域云端与系统标签某机构 LambdaFirecracker虚拟机部署FINISHED更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享