Follower_MS_Singularity_Architecture.md

微软Singularity AI计算平台的架构来源于用我的仓库/车间模型改造的四年前Brainwave项目架构

版权所有 © 2022-02-25 林鹏程， 保留所有权利。

在2022-02-23，「奇点」AI计算平台细节曝光！竟是微软四年前老项目重生中,

ZD Net报道称，Singularity 可能是将微软此前推出的 Brainwave 项目推向商业化的下一个阶段。

微软此前曾讨论过将 FPGA 或现场可编程门阵列作为服务提供给客户的计划。

2018 年，微软公开了其旨在 Azure 中提供快速 AI 处理和计算能力的「Brainwave」项目。

当时，微软在云端提供了由 Brainwave 提供支持的 Azure 机器学习硬件加速模型的预览——一个向客户提供面向 AI 工作负载的 FPGA 处理平台。

从它的架构图上看，它是一个复杂的网络架构。

在论文2022-02-16(v1), 2022-02-21(v2), Dharma Shukla, and etc.(Microsoft), Singularity: Planet-Scale, Preemptive and Elastic Scheduling of AI Workloads 中，研究人员表示：

Singularity的核心是一种新颖的、可以感知工作负载的调度程序， 可以透明地抢占和弹性扩展深度学习工作负载， 在不影响正确性和性能的情况下， 提高全球范围内的 AI 加速器（例如 GPU、FPGA）的利用率。

从它的架构图上看，它的架构与我的仓库/车间模型的变种 "调度中心（虚拟的全局统一仓库，集成层或平台，企业集团的母公司）"模式 高度一致，只增加了可抢占的、可迁移的和弹性缩放的内容， 这不是一个高性能的方法，但却是对外提供云服务所必需的方法， 它可以防止不恰当的或长时间的计算任务占用资源， 导致其它服务长长时间的等待。 另外，它的层次比较多， 这也是大规模分布式云服务一种无奈的选择， 如果可以的话，层次尽量不要太多。

下面是Singularity架构和我在2021-04-29画的一张最相似的架构图的比较。

• 我的架构图更简单和形象。它是标准仓库/车间模型的变种： "调度中心（虚拟的全局统一仓库，集成层或平台，企业集团的母公司）"模式

• Singularity架构表达了更多一些的实现细节。

  该图显示了 Singularity 的高级架构，包括其分层调度系统， 该系统由在全局、区域和工作负载范围内调度微服务组成。

  注意：它的上下层次关系是1:n的关系， 因此它和我的架构图都是树形， 它的表达方式容易让人误解它的架构形状。

• 备注: 红字是我增加的标注，读者可以看出它与我的架构图是高度一致的。 我的标注把它缺失的微服务架构信息也补足了, 更完美.

• 重要提醒: 他们忘记了在参考文献加上我的文章的引用。

2022-02-16(v1), 2022-02-21(v2), 微软Singularity AI计算平台的架构

我在2021-04-29画的两张最相似的架构图

1. 硬件架构图

2. 集成服务(调度中心, 虚拟仓库)与微服务架构图(2021-03-01 v1, 2021-04-29 v1r1)

2021-06-20, v1, 标准仓库/车间模型硬件架构图

2021-11-15, v2, 计算机软硬件集成架构图

微软2018年Brainwave项目架构图

参考文献

• 2018，林鹏程，基于数学的大统一编程理论：纯函数管道数据流和基于原则的仓库/车间模型

  • 模型的概述
    • 仓库 ...
      • 它可以没有容器, 这时它只是调度中心（虚拟的全局统一仓库, 集成层或平台, 企业集团的母公司）。
        • ...
        • 当规模太大而无法控制时，这种情况可能只存在于硬件系统中。 在软件系统中，这种情况通常不会发生， 因为它只是围绕仓库(或DB)的一堆简单的车间函数，这非常简单。
        • ...
  • 单一领导和统一调度
  • 和计算机硬件体系的统一
  • 微服务和智能线程的统一
  • 和信息系统集成模型的统一
  • 与面向对象的统一
    • 传统OO&FP系统架构与仓库/车间模型的比较
  • 2021.11.15, 未来OS内核将是一个面向数据的调度器(附带计算机软硬件集成架构图)

• 2022-02-16(v1), 2022-02-21(v2), arxiv.org, Singularity: Planet-Scale, Preemptive and Elastic Scheduling of AI Workloads

  作者: Dharma Shukla, Muthian Sivathanu, Srinidhi Viswanatha, Bhargav Gulavani, Rimma Nehme, Amey Agrawal, Chen Chen, Nipun Kwatra, Ramachandran Ramjee, Pankaj Sharma, Atul Katiyar, Vipul Modi, Vaibhav Sharma, Abhishek Singh, Shreshth Singhal, Kaustubh Welankar, Lu Xun, Ravi Anupindi, Karthik Elangovan, Hasibur Rahman, Zhou Lin, Rahul Seetharaman, Cheng Xu, Eddie Ailijiang, Suresh Krishnappa, Mark Russinovich (Microsoft)

  这篇论文的作者包括:

  • Azure 首席技术官 Mark Russinovich；
  • 合作伙伴架构师 Rimma Nehme，他曾在 Azure Cosmos DB 工作， 直到 2019 年转到 Azure 从事人工智能和深度学习工作；
  • 技术研究员 Dharma Shukla等。

  重要提醒: 他们忘记了在参考文献加上我的文章的引用。

• 2022-02-23，新智元，「奇点」AI计算平台细节曝光！竟是微软四年前老项目重生