Mac桌面版#
本指南提供了一个在Mac桌面上本地部署AIBrix的最小设置,用于开发和测试目的。
为何选择Mac桌面版?#
Mac桌面版非常适合在本地笔记本电脑上快速测试AIBrix控制平面组件。强烈推荐用于AIBrix开发和测试轻量级vLLM CPU镜像。
先决条件#
安装Docker Desktop(启用Kubernetes)
安装kubectl和Helm
安装AIBrix#
克隆AIBrix仓库
git clone https://github.com/vllm-project/aibrix.git
cd aibrix
安装依赖项和核心组件
kubectl apply -k config/dependency --server-side
kubectl apply -k config/default
暴露网关#
由于默认情况下LoadBalancer不可用,请使用端口转发访问网关
kubectl port-forward svc/envoy-aibrix-system-aibrix-eg-903790dc 8888:80 -n envoy-gateway-system
您现在可以通过https://:8888访问网关。
总结#
此设置提供了一种在Mac上开发和测试AIBrix的轻量级方法,无需特殊配置。祝您开发愉快!