跳到主要内容

vLLM Semantic Router 工作组 👋

🌍工作组初始化

我们正在寻找围绕 vLLM Semantic Router 项目的兴趣点，并将其分为不同的工作组。

如果你对一个或多个工作组感兴趣，请在 GitHub Issue #15 发表评论。

⛰️vLLM Semantic Router 社区工作组

本节关于围绕该项目设置工作组，以集中关注特定领域。

🧠

RouterCore

area/core

利用嵌入式 SLM，实现分类、安全检测、自动推理等高级路由算法。

所需技能：

  • 机器学习
  • BERT 模型
  • 分类算法

当前需求：

  • 模型优化
  • 算法改进
  • 推理逻辑
🔬

Research

area/research

探索 vLLM Semantic Router 中 SLM（小型语言模型）的前沿，改善 SLM 的延迟和上下文。

所需技能：

  • 模型训练
  • 模型微调
  • 深度学习

当前需求：

  • SLM 研究
  • 延迟优化
  • 上下文改进
🌐

Networking

area/networking

Envoy ExtProc，流量管理，网络优化

所需技能：

  • Envoy 代理
  • 网络协议
  • 性能优化

当前需求：

  • 负载均衡
  • 流量路由
  • 网络安全
📈

Observability

area/observability

指标收集、分布式追踪、监控仪表板和结构化日志，用于生产环境可见性

所需技能：

  • Prometheus/Grafana
  • OpenTelemetry
  • 日志聚合
  • 监控系统

当前需求：

  • 指标实现
  • 追踪集成
  • 仪表板创建
  • 日志标准化
📊

Bench

area/benchmark

推理基准测试框架，性能优化

所需技能：

  • 性能测试
  • 基准测试工具
  • 数据分析

当前需求：

  • 基准测试框架
  • 性能指标
  • 测试自动化
🐳

Environment

area/environment

Docker Compose, Kubernetes, 本地支持, Cloud Foundry 集成

所需技能：

  • Docker
  • Kubernetes
  • 云平台
  • DevOps

当前需求：

  • Helm 图表
  • 部署自动化
  • 云集成
🔧

Test and Release

area/tooling, area/ci

CI/CD, 构建, 测试, 发布

所需技能：

  • CI/CD 工具
  • 构建自动化
  • 发布流程

当前需求：

  • 测试自动化
  • 发布管道
  • 质量保证
👥

User Experience

area/user-experience

vLLM Semantic Router 的用户体验，API，配置和 CLI 指南及支持

所需技能：

  • API 设计
  • UX/UI
  • 开发者体验

当前需求：

  • API 改进
  • CLI 增强
  • 用户反馈集成
📚

Docs

area/document

用户文档，信息架构，基础设施

所需技能：

  • 技术写作
  • 文档工具
  • 用户体验设计

当前需求：

  • API 文档
  • 教程
  • 部署指南

🔝社区晋升

我们感谢任何贡献，如果你在上述特定领域表现出持续的贡献，经过维护者团队投票后，你将晋升为其维护者，并被邀请加入 semantic-router-maintainer 组，获得此仓库的写入权限。

如何参与

  1. 选择你感兴趣的领域： 查看上方的工作组，找出与你的技能和兴趣相符的领域
  2. 加入讨论： 在 GitHub Issue #15 评论以表达你的兴趣
  3. 开始贡献： 寻找标有相应领域标签的问题（例如， area/document, area/core)
  4. 协作： 与在同一领域工作的其他社区成员联系

联系我们

关于工作组的问题或参与方式：