Skip to content

tldr-development/inspire-vertex-ai-gemini

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

5 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

VertexAi Gemini

Inspire 에서 사용할 vertext ai
cloud run에 서비스하고
Golang 서버 Inspire 에서 요청을 받아서 생성형 AI 모델을 사용해서 텍스트 생성
Server To Server 로 사용할 거라서 많은 검증을 넣거나 Context를 여기서 관리하지 않아도 될거라고 생각하지만 작업하며 Embedding 해야할것이나 형태를 갖추어야 하는거 있으면 세팅

python fast api

docker build -t test:latest .
docker run -it -p8888:80 test:latest
INFO:     Started server process [1]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:80 (Press CTRL+C to quit)

deploy

gcloud builds submit . --tag=asia-northeast3-docker.pkg.dev/{Project_id}/{projectname}/{imagename}:1.0.5

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors