본문 바로가기
728x90
반응형

IT

 (48)
[Kubernetes] Nginx·Caddy 리버스 프록시 + Metrics Server + HPA + hey 부하테스트 실습 (5) 이번 글에서는FastAPI 서비스 앞단에 Reverse Proxy(Nginx / Caddy)를 배치하고,Metrics Server + HPA(오토스케일링) + 부하 테스트까지 한 번에 경험해보는 실습을 진행합니다. 로컬 Minikube 환경에서실제 운영 환경처럼 로드밸런싱 → 프록시 → 스케일링 → 부하테스트 순서로 이어지는 전체 흐름을 직접 확인할 수 있습니다. 1. FastAPI 서비스 준비 (fastapi-svc)이전글에서 만들어둔 FastAPI가 아닌 새로 작성한 fastapi.yaml의 Deployment와 Service를 기동합니다.apiVersion: apps/v1kind: Deploymentmetadata: name: fastapi-test2-k8s labels: { app: ..
[Kubernetes] ConfigMap & Secret으로 FastAPI 설정 분리하기 (4) 이번 4탄에서는, 실무에서 진짜 많이 쓰이는 기능인ConfigMap (환경설정 분리)Secret (민감정보 분리)을 사용해서 FastAPI 설정을 이미지 밖으로 빼내는 실습을 해보겠습니다.💡 실습 환경Windows 11 + WSL2 (Ubuntu 24.04)Minikube v1.37.0Docker, kubectl 설치 완료3탄까지 진행해서 fastapi-k8s Deployment + NodePort Service가 있다는 가정1. 왜 ConfigMap / Secret을 쓰는가?실무에서 애플리케이션을 운영하다 보면 설정이 계속 바뀝니다.환경별로 달라지는 값예: GREETING, LOG_LEVEL, API_URL, FEATURE_FLAG …민감한 값예: DB 비밀번호, API 키, 토큰 …이걸 전부 코드나..
[Kubernetes] Rolling Update & Rollback으로 FastAPI 무중단 배포하기 (3) 3편에서는, 실제 서비스 운영에서 정말 중요한 개념인Rolling Update (롤링업데이트 / 롤아웃)Rollout Undo (롤백)를 FastAPI 앱서비스를 예제로 직접 실습하겠습니다.💡 실습 환경Windows 11 + WSL2 (Ubuntu 24.04)Minikube v1.37.0Docker, kubectl 설치 완료2탄에서 만든 FastAPI Deployment + NodePort Service가 있다는 가정1. 초기 상태 정리 – v1 버전 다시 올리기우선 2탄에서 만들었던 리소스를 한 번 정리하고,v1 버전이 배포된 깨끗한 상태에서 시작하겠습니다.1-1. 기존 Deployment / Service 삭제kubectl delete svc/fastapi-k8skubectl delete deplo..
[Kubernetes] Minikube로 FastAPI 앱 배포하기 실습 (2) 1탄에서 쿠버네티스 개념을 정리했다면, 이번 2탄은 직접 FastAPI 앱을 Minikube 위에 올려보는 실습입니다.실습 목표WSL2(Ubuntu 24.04) 안에 Minikube 클러스터 만들기FastAPI 앱을 Docker 이미지로 빌드해서 Minikube에 배포Service로 외부에서 접속해보기Pod를 일부러 죽여보고, 쿠버네티스의 Self-Healing 확인하기0. 실습 환경Host OS: Windows 11WSL2: Ubuntu 24.04Minikube: v1.37.0 (linux/amd64)Docker: docker.io 패키지kubectl: v1.34.2 (클라이언트)실습은 WSL2 Ubuntu 터미널 안에서만 진행한다고 생각하면 편합니다.1. Minikube & Docker & kubec..
[Kubernetes] AI·빅데이터 직무를 위한 쿠버네티스 개념 이해 (1) “로컬에서는 잘 되는데 서버에서만 안 돼요…”“환경이 달라서 재현이 안 됩니다…” AI/빅데이터 업무를 하다 보면 한 번쯤 들어봤거나, 겪어본 상황입니다.이런 문제를 줄이기 위해 등장한 게 컨테이너이고, 그 컨테이너를 여러 서버에 알아서 잘 굴려주는 시스템이 바로 쿠버네티스(Kubernetes) 입니다.이 글은 AI/빅데이터 직무를 하는 사람 관점에서,쿠버네티스가 뭔지, 왜 쓰는지, 어떤 개념들만 알고 있으면 되는지 정리한 1탄(개념편)입니다.(실습·구체적인 명령어는 2탄 이후에서 다룰 예정)1. 왜 쿠버네티스를 쓸까?클라우드가 보편화되면서 서비스 구조가 이렇게 바뀌었죠.하나의 덩치 큰 서버 → 여러 개의 작은 서비스(마이크로서비스)한두 대 서버 → 수십·수백 대 서버수동 배포 → 자동 배포, 자동 복구..
[ChatGPT] GPT 모델 비교표 (25.4.30 기준) 교육 같이 듣던 동생에 얹혀 사용하던 GPT를 직접 결제하여 사용하게 됐다. (앞으로 동생과 함께 사용하게 될듯) 항상 궁금했던 건데, 각 모델별 특징을 정리했다.📊 GPT 및 o-시리즈 모델 비교표 모델명 주요 특징 멀티모달 지원 문맥 길이 출시일 GPT-3.5빠른 속도와 낮은 비용, 일상 대화에 적합❌약 4,000 토큰2022년 3월GPT-4향상된 추론 능력, 이미지 입력 지원✅ (텍스트+이미지)최대 32,768 토큰2023년 3월GPT-4 TurboGPT-4 대비 저비용, 고속 처리, 긴 문맥 지원✅ (텍스트+이미지)최대 128,000 토큰2023년 11월GPT-4o텍스트, 음성, 이미지 입력을 모두 처리하는 멀티모달 모델✅ (텍스트+음성+이미지)최대 128,000 토큰2024년 5월GPT..
[Jupyter] 종속성 패키지들 정리 환경설정할때 항상 설치하는 Jupyter! 어떤 것들이 설치되는 지 정리해보았음. (Python 3.10 기준) 번호패키지이름분류설명1jupyterJupyter 핵심 구성 요소Jupyter 메타 패키지 (전체 환경 구성)2notebookNotebook 서버 및 웹 UI3ipykernelPython 커널 (코드 실행 엔진)4jupyter_client커널과의 통신을 담당하는 클라이언트5ipython인터랙티브 Python 셸 (REPL)6widgetsnbextensionUI 및 위젯 관련Notebook 위젯 확장7ipywidgets인터랙티브 위젯 제공8jupyterlab_widgetsJupyterLab용 위젯 지원9jupyterlabJupyterLab 웹 UI10qtconsoleQt 기반 콘솔 인터페이스11p..
HDD 제로필 포맷 (Zero Fill Format) 25.12.6 수정프로젝트 종료 후 로우 레벨 포맷을 수행하라는 지시를 받았음. 로우 레벨 포맷은 디스크의 트랙과 섹터를 물리적으로 재구성하여 디스크를 초기 상태로 되돌리는 작업. HDD 등장 초기인 1980 ~ 1990년대엔 직접 로우 레벨 포맷을 수행하는 것이 일반적인 유지 관리 작업이었지만 현대 HDD 기술 도입 이후 물리적 포맷은 제조 공정에서만 가능하게 됨. 사용자 입장에서는 제로필 포맷 (Zero Fill Format) 또는 보안 삭제 (Secure Erase)를 수행하면 된다. SSD는 윈도우가 설치되어 있어, 윈도우 재설치하며 포맷을 수행했고 HDD는 윈도우 재설치 전, 데이터 백업 후 제로필 포맷을 진행하였음. * SSD 포맷을 별도로 해야하는 경우, 제조사에서 제공하는 툴을 사용하여 포..
728x90
반응형

티스토리툴바