🧠 神经网络处理架构

采用前沿 AI 技术，包括 ModernBERT 微调模型和先进的语义理解能力，实现智能模型路由和选择。

🤖小型语言模型

🧬神经网络处理

⚡实时推理

🎯语义理解

神经处理单元嵌入式 • 分级 • 相似度

🏗️ 架构

🎯 我们的目标

为混合模型（MoM）构建系统级智能，将全局智能引入 LLM 系统

如何捕获请求、响应和上下文中的缺失信号？

如何结合这些信号做出更好的决策？

如何在不同模型之间更高效地协作？

如何保护现实世界和 LLM 系统免受越狱攻击、PII 泄露和幻觉的影响？

如何收集有价值的信号并构建自学习系统？

📍 它的位置

它位于现实世界和模型之间

👥 认识我们的团队

vLLM Semantic Router 背后的优秀成员

维护者

Huamin Chen

Distinguished Engineer @Red Hat

维护者

Chen Wang

Senior Staff Research Scientist @IBM

维护者

Yue Zhu

Staff Research Scientist @IBM

维护者

Xunzhuo Liu

Intelligent Routing @vLLM

提交者

Senan Zedan

R&D Manager @Red Hat

提交者

samzong

AI Infrastructure / Cloud-Native PM @DaoCloud

提交者

Liav Weiss

Software Engineer @Red Hat

提交者

Asaad Balum

Senior Software Engineer @Red Hat

提交者

Yehudit

Software Engineer @Red Hat

提交者

Noa Limoy

Software Engineer @Red Hat

提交者

JaredforReal

Software Engineer @Z.ai

提交者

Srinivas A

Software Engineer @Yokogawa

提交者

carlory

Open Source Engineer @DaoCloud

提交者

Yossi Ovadia

Senior Principal Engineer @Red Hat

提交者

Jintao Zhang

Senior Software Engineer @Kong

提交者

yuluo-yx

Individual Contributor

提交者

cryo-zd

Individual Contributor

提交者

OneZero-Y

Individual Contributor

提交者