1 min read
TorchServe MLOps Kubernetes Docker
...slanguagemodel, recommendersystem, e-commerceStatisticsProbability, Bayesian, hypothesis testSystemsKafka, Docker, KubernetesResumeresume
핵심 요약 ML Model Serving: 학습된 ML 모델을 프로덕션 환경에서 예측 API로 제공하는 시스템. 모델 로딩, 스케일링, 전/후처리, 모니터링 등을 자동화.
NGINX Nginx 는 웹 서버 소프트웨어로, 가벼움과 높은 성능을 목표로 한다. 웹 서버, 리버스 프록시 및 메일 프록시 기능을 가진다. 2. Related 3. References.
Django B) Lesson Learned B.1) CSRF 에러 발생 시 해결법 {{csrf token}} 을 parameter 에 넣어주면 된다. 예시 ajax: { ..
nGrinder nGrinder 는 네이버에서 성능 측정 목적으로 jython(JVM 위에서 파이썬이 동작) 으로 개발 된 오픈소스 프로젝트 바닥부터 개발을 한 것이 아니 라 The Grinder 라는 오픈소스 기반에서 개발 nGrinder 는 서버에 대한 부하를 테스트하므로 서버의 성능 측정이라고도 할 수 있음...
직렬화된 모델을 torch-model-archiver 를 통해 MAR 파일 형태로 저장할 수 있습니다.
Web Server Gateway Interface WSGI is the Web Server Gateway Interface.
Sanic Sanic is both a framework and a web server.
Stateless 서버가 클라이언트의 세션 상태 및 세션 정보를 저장하지 않는 네트워크 프로토콜이다. 이는 클라이언트와 서버간의 네트워크 통신이 어떻게 이루어지는지에 대한 개념이다.
Gunicorn UNIX 기반 OS 를 위한 WSGI HTTP 서버 Sanic application 하고 Gunicorn 을 함께 돌리기 위해서는 sanic.worker.GunicornWorker 인자를 함께 넣어줘야함 gunicorn myapp:app bind 0.0.0.0:1337 worker-class...
Scale up and Scale out A.1) 스케일 업 기존의 서버를 보다 높은 사양으로 업그레이드하는 것 하드웨어적인 예를 들면, 성능이나 용량 증강을 목적으로 하나의 서버에 디스크를 추가하거나 CPU 나 메모리를 업그레이드시키는 것을 말한다.