Kubernetes ConfigMap配置TensorFlow参数

Kubernetes ConfigMap配置TensorFlow参数踩坑记录

最近在Kubernetes环境部署TensorFlow Serving服务时，遇到一个很常见的配置问题：如何优雅地管理TensorFlow模型参数。最初尝试直接在Deployment中硬编码参数，结果导致每次更新都需要重新构建镜像，效率极低。

问题分析

在使用TensorFlow Serving时，我们通常需要配置model_base_path、model_name等参数。这些配置在不同环境（开发、测试、生产）下会有差异，直接写死在代码中显然不合适。

解决方案：ConfigMap + 环境变量

# configmap.yaml
apiVersion: v1
kind: ConfigMap
metadata:
  name: tensorflow-config
  namespace: ml-serving
  labels:
    app: tensorflow-serving
    version: v1
data:
  MODEL_BASE_PATH: "/models"
  MODEL_NAME: "my_model"
  MODEL_VERSION: "1.0"
  TF_SERVING_PORT: "8500"

# deployment.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
  name: tensorflow-serving
dpec:
  replicas: 3
  selector:
    matchLabels:
      app: tensorflow-serving
  template:
    metadata:
      labels:
        app: tensorflow-serving
    spec:
      containers:
      - name: serving
        image: tensorflow/serving:latest
        ports:
        - containerPort: 8500
        envFrom:
        - configMapRef:
            name: tensorflow-config
        volumeMounts:
        - name: model-volume
          mountPath: /models
      volumes:
      - name: model-volume
        persistentVolumeClaim:
          claimName: model-pvc

实际踩坑经验

1. 参数传递方式：TensorFlow Serving支持通过环境变量或启动参数传参，推荐使用环境变量
2. 配置更新：修改ConfigMap后，Pod会自动重启并加载新配置
3. 多环境适配：建议为不同环境创建不同的ConfigMap

优化建议

对于复杂参数，可以将配置文件直接挂载到容器内，通过volumeMounts方式实现更灵活的配置管理。这种方式配合Docker容器化部署和Kubernetes负载均衡，能有效提升模型服务的可维护性和扩展性。