Mac桌面版#

本指南提供了一个在Mac桌面上本地部署AIBrix的最小设置,用于开发和测试目的。

为何选择Mac桌面版?#

Mac桌面版非常适合在本地笔记本电脑上快速测试AIBrix控制平面组件。强烈推荐用于AIBrix开发和测试轻量级vLLM CPU镜像。

先决条件#

  • 安装Docker Desktop(启用Kubernetes)

  • 安装kubectl和Helm

安装AIBrix#

  1. 克隆AIBrix仓库

git clone https://github.com/vllm-project/aibrix.git
cd aibrix
  1. 安装依赖项和核心组件

kubectl apply -k config/dependency --server-side
kubectl apply -k config/default

暴露网关#

由于默认情况下LoadBalancer不可用,请使用端口转发访问网关

kubectl port-forward svc/envoy-aibrix-system-aibrix-eg-903790dc 8888:80 -n envoy-gateway-system

您现在可以通过https://:8888访问网关。

总结#

此设置提供了一种在Mac上开发和测试AIBrix的轻量级方法,无需特殊配置。祝您开发愉快!