#import "@preview/octique:0.1.0": *

#let font = (
  main: "IBM Plex Serif",
  mono: "IBM Plex Mono",
  cjk: "Noto Serif CJK SC",
)

// #show heading: set text(font: "Linux Biolinum")

#show link: underline

// Uncomment the following lines to adjust the size of text
// The recommend resume text size is from `10pt` to `12pt`

#set text(font: (font.main, font.cjk), size: 10pt, lang: "zh")

// Feel free to change the margin below to best fit your own CV
#set page(
  margin: (x: 0.9cm, y: 1.3cm),
)

// For more customizable options, please refer to official reference: https://typst.app/docs/reference/

#set par(justify: true)

#show outline: it => {
  show heading: set align(center)
  it
}

#let chiline() = {v(-5pt); line(length: 100%); v(-6pt)}

// = <NAME> 杨凌云

#align(center, text(size: 20pt)[
  *杨凌云*
])

#align(center, text(10pt)[
  #octique-inline("mail") #link("mailto:<EMAIL>") | #octique-inline("globe") #link("https://www.lingyunyang.com")[lingyunyang.com] | #octique-inline("book") #link("https://paper.lingyunyang.com")[论文笔记] | #emoji.phone.receiver (+86) 135-0284-6103 | #octique-inline("location") 香港
])

== 教育背景
#chiline()

#link("https://hkust.edu.hk")[*香港科技大学*] #h(1fr) *香港* \
博士，计算机科学与工程系；博士生导师：*王威* #h(1fr) 2020 年 9 月 -- 至今 \
- 研究领域：集群管理、模型推理系统、资源调度

#link("https://www.scut.edu.cn/")[*华南理工大学*] #h(1fr) *广东省广州市* \
本科，计算机科学与技术全英创新班（GPA: 3.82/4） #h(1fr) 2016 年 9 月 -- 2020 年 7 月 \
- 国家奖学金、校级一等奖学金

== 研究项目
#chiline()

// I have a broad interest in resource management for large-scale data centers / AI infrastructure. Specifically, my research focuses on: (a) improving resource efficiency for AI/GPU clusters; (b) building efficient and low-cost AI model serving systems. \
我关注于大规模数据中心中的资源管理问题，尤其聚焦于 AI 基础设施。过去近 4 年，我在阿里巴巴开展了深入的产学研合作。我的研究工作主要包括两个方面：（一）提高 AI/GPU 集群的资源利用效率；（二）构建高效且低成本的 AI 模型推理系统。

#link("https://arxiv.org/abs/2407.02031")[*SwiftDiffusion：高效的文生图模型推理系统*] #h(1fr) (review, 2407.02031) \
#text(style: "italic", size: 7.4pt)[*Lingyun Yang*, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, Wei Wang] \
- 构建了文生图推理系统 SwiftDiffusion，高效整合了 diffusion 模型和 add-on 模块（如 ControlNets、LoRAs）。
- 基于对 50w 条生产请求 trace 的特征研究，提出多个系统设计如：服务化 ControlNet、异步 LoRA 加载、latent 并行计算。
- 在保障图片质量的前提下，能够最多降低 *7.8×* 的推理时延、提高 *1.6×* 的吞吐量。

*Prism：针对深度学习推荐模型的 GPU 分离式推理系统* #h(1fr) (review) \
// *Prism: GPU-Disaggregated Serving for Deep Learning Recommendation Models at Scale* #h(1fr) (review) \
#text(style: "italic", size: 7.4pt)[*<NAME>*, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, Wei Wang] \
- 针对在线推荐服务的推理场景，设计了一种 GPU-CPU 分离式异构架构，通过 RDMA 网络拉远部署计算图，消除资源不匹配；支持拓扑感知调度、基于资源消耗的切图策略。
- 在日常调度场景下可减少 *53%* CPU 碎片和 *27%* GPU 碎片；双 11 期间借调训练集群的 GPU 服务器最多可节省 *90%* GPU。

#link("https://www.usenix.org/conference/atc23/presentation/weng")[*FGD：大规模集群中 GPU 资源碎片的量化及调度策略优化*] #h(1fr) (ATC'23) \
#text(style: "italic", size: 7.4pt)[*Lingyun Yang*, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>] #h(1fr) #octique-inline("mark-github") #link("https://github.com/hkust-adsl/kubernetes-scheduler-simulator")[hkust-adsl/kubernetes-scheduler-simulator] \
- 量化分析了大规模 GPU 共享后集群中普遍存在的资源碎片问题，并提出了创新的碎片梯度下降调度算法。
- 相较于最优的调度策略可以显著减少 *49%* 的 GPU 碎片。

*GPU 共享：大规模 GPU 集群的资源共享和超卖*
- 实现大规模集群的 GPU 分时复用，以及不同优先级（如 latency-sensitive、best-effort）作业的混部，日均运行超过 *1w* 个共享 GPU 容器。
- 设计并实现了单机管控 agent 和全局 controller。Agent 周期性上报节点的资源使用情况，动态分配 GPU 资源给容器。中心侧的 Controller 管理集群账本，计算可超卖资源量，为集群调度器提供调度决策指引。

#link("https://dl.acm.org/doi/10.1145/3472883.3486987")[*Morphling：针对通用 AI 推理服务的自动化参数配置框架*] #h(1fr) (SoCC'21) \
#text(style: "italic", size: 7.4pt)[*<NAME>*, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>, <NAME>hang] #h(1fr) #octique-inline("mark-github") #link("https://github.com/kubedl-io/morphling")[kubedl-io/morphling]
- 作为阿里巴巴开源的 #link("https://github.com/kubedl-io/kubedl")[KubeDL] 其中的一个独立子项目，成为云原生计算基金会（CNCF）#link("https://landscape.cncf.io/?item=provisioning--automation-configuration--kubedl")[sandbox] 项目。
- 结合元学习和贝叶斯优化算法，可快速搜索到最优的资源配置（如 CPU 核数、GPU 显存、GPU 时间片、GPU 卡型）和运行时参数（如批处理大小）。

== 工作经验
#chiline()

*阿里巴巴集团* #h(1fr) *浙江省杭州市* \
_研究实习生_，集群管理团队；主管：*余英豪* #h(1fr) 2020 年 12 月 -- 至今 \
- 完成多个研究和工程项目，包括 Morphling、GPU 共享、FGD、Prism、SwiftDiffusion（具体如上所述）。

*微软亚洲研究院* #h(1fr) *北京市* \
_研究实习生_，创新工程组 #h(1fr) 2019 年 7 月 -- 2020 年 6 月 \
- 优化模型结构以提高人脸识别算法的鲁棒性；获“明日之星”杰出实习生奖。

== 技术栈
#chiline()

- *编程语言：*Golang, C++, Python, JavaScript, asynchronous, multithread, multiprocess, distributed, RDMA \
- *机器学习：* PyTorch, TensorFlow, Numpy, Matplotlib, HuggingFace \
- *全栈开发：* Web Frontend, Backend, SQL, Grafana, Docker, Kubernetes, Git, CI/CD \

