The mooncake isn’t just one of the major hallmark traditions of the Mid-Autumn Festival happening next week, it’s a symbol of harmony. Mooncakes are shared among family members and eaten ...

With Mid-Autumn Festival behind us, you are probably tripping over boxes of leftover mooncakes lying around. After weeks of stuffing our bellies with the sweet paste-filled delicacies, most of us ...

2024年6月，月之暗面Kimi和清华大学MA DSys 实验室联合发布了Kimi底层的Mooncake推理系统设计方案。 该系统基于以 KVCache 为中心的 PD 分离和以存换算架构，大幅度提升了推理吞吐，受到业界广泛关注。

此架构目前应用于广泛使用的推理框架vLLM、MindIE上，通过以存换算的技术，可大幅提升推理性能。在后续，华为数据存储会更深层次的参与Mooncake与清华大学MADSys实验室项目的共建，协同产学研力量共同推动产业共建大模型时代下的高性能内存型存 ...

IT之家 11 月 28 日消息，月之暗面 Kimi 和清华大学 MADSys 实验室 2024 年 6 月联合发布了 Kimi 底层的 Mooncake 推理系统设计方案。该系统基于以 KVCache 为中心的 PD ...

【月之暗面 Kimi 联合清华大学等机构共建大模型推理架构 Mooncake】月之暗面 Kimi 与清华大学 MADSys 实验室携手 9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研各方力量，共同推出开源项目 ...

近日，Kimi正式宣布开源其底层推理框架Mooncake，这一消息瞬间引发了业界广泛关注。Mooncake作为Kimi在线服务的核心架构，承载着超过80%的流量，它的开源意味着在大模型推理框架领域，进入了一个全新的阶段。

November 04, 2024 On November 4, 2024, in Jiangsu, China, @HuskyYellowYam shared a video capturing their dog intently ...

Added Jul 02, 2015 at 11:19AM EDT by Don. "What Are Those?" is a series of parody and remix videos based on a short clip of a man who asks a police officer about his work boots in a startled manner.

在科技界的一次重大合作中，月之暗面Kimi与清华大学MADSys实验室携手，共同揭晓了他们酝酿已久的Mooncake推理系统设计方案。这一创新方案于2024年6月正式面世，其核心在于采用了KVCache为中心的PD分离技术和存换算架构，极大地推动了推 ...

中关村在线11月28日消息，月之暗面Kimi和清华大学MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研力量共同发布开源项目Mooncake，共建以KVCache为中心的大模型推理架。据悉，Mooncake技术框架今 ...