Merge pull request #34 from DUT-Team-21TCLC-DT3/feat/optimize-build-time

feat(deploy): Optimize docker build time

Author: taiphanvan2k3

ai_service/Dockerfile

@@ -1,9 +1,20 @@
-FROM python:3.11-slim
+# Thay vì FROM python:3.11-slim, ta dùng image base đã build sẵn
+FROM asia-southeast1-docker.pkg.dev/lucky-union-472503-c7/cloud-run-source-deploy/ai-base:v1
+
 WORKDIR /srv/app
+
+# --- TỐI ƯU CHO CÁC THƯ VIỆN PHÁT SINH ---
+# Copy requirements.txt lại một lần nữa
 COPY requirements.txt ./
-RUN pip install --upgrade pip
+
+# Chạy pip install lại.
+# Mẹo: Vì torch đã có trong base image, pip sẽ lướt qua cực nhanh.
+# Dòng này chỉ có tác dụng nếu sau này bạn thêm thư viện mới (nhẹ) vào file requirements.
 RUN pip install --no-cache-dir -r requirements.txt
+
 COPY . .
+
+# --- KHỞI CHẠY ---
 ENV PYTHONUNBUFFERED=1
-EXPOSE 8000
+
 CMD ["uvicorn", "app.main:app", "--host", "0.0.0.0", "--port", "8000"]

ai_service/Dockerfile.base

@@ -0,0 +1,12 @@
+# Dockerfile.base
+FROM python:3.11-slim
+
+WORKDIR /srv/app
+
+# Copy file danh sách thư viện vào
+COPY requirements.txt ./
+
+# Cài đặt các thư viện nặng một lần duy nhất ở đây
+# Thêm --no-cache-dir để giảm dung lượng image: không lưu cache các thư viện đã cài đặt
+RUN pip install --upgrade pip && \
+    pip install --no-cache-dir -r requirements.txt

ai_service/app/services/streaming_service.py

@@ -43,6 +43,19 @@ async def generate_test_streaming_response(question: str) -> AsyncGenerator[str,
             "\nChúng tôi cam kết cung cấp thông tin chính xác, đáng tin cậy và phù hợp với quy định pháp luật hiện hành."
         ]
 
+        # Sẽ chạy như này để tạo từng chunk về cho client
+        # for chunk in client.models.generate_content_stream(
+        #         model=MODEL_NAME,
+        #         contents=req.message,
+        #         config=types.GenerateContentConfig(
+        #             system_instruction=build_system_instruction(req.name),
+        #             temperature=0.7
+        #         ),
+        #     ):
+        #         if getattr(chunk, "text", None):
+        #             print(f"Streaming chunk: {chunk.text}")
+        #             yield chunk.text
+
         for fake_content in fake_chunks:
             yield create_content_chunk(fake_content)
             await asyncio.sleep(0.5)  # Streaming delay

ai_service/build-base.yaml

@@ -0,0 +1,12 @@
+# Chạy bằng cách sử dụng: gcloud builds submit --config build-base.yaml 
+
+steps:
+  - name: 'gcr.io/cloud-builders/docker'
+    args: [
+      'build',
+      '-t', 'asia-southeast1-docker.pkg.dev/lucky-union-472503-c7/cloud-run-source-deploy/ai-base:v1',
+      '-f', 'Dockerfile.base',
+      '.'
+    ]
+images:
+  - 'asia-southeast1-docker.pkg.dev/lucky-union-472503-c7/cloud-run-source-deploy/ai-base:v1'