Backend · AI Infrastructure · Operations
AI 시스템과 연구용 서버를 운영 가능한 형태로 만드는 개발자
백엔드 API, LLM worker, 배포 환경, 로그 관측, 장애 복구를 함께 다룹니다. 모델을 호출하는 데서 끝내지 않고, 검증 가능한 워크플로우와 실제 운영 가능한 시스템 구조를 만드는 데 초점을 둡니다.
JOO MINJAE
국민대학교 소프트웨어학부 · 백엔드 / 인프라 / LLM 시스템
Core Areas
Backend Architecture
AI / LLM Systems
Infrastructure
Observability
Recovery
Featured Work
대표 프로젝트
Current
Confidential Case Study
PFM Simulation Platform
AI 기반 재료 시뮬레이션 플랫폼 / Backend · Infra · LLM Worker
연구자가 자연어로 시뮬레이션 조건을 입력하면, 이를 실행 가능한 PFM 파라미터로 변환하고 검증한 뒤 lab-server 실행 워크플로우로 연결하는 연구실 내부 플랫폼입니다. API 서버, LLM worker, 검증 계층, 시뮬레이션 서버 연동, 관측성, 장애 복구 흐름을 함께 다뤘습니다.
내 역할
- API 서버, 프록시, LLM worker, lab-server 사이의 요청 흐름 설계 및 연동
- 자연어 입력 → 파라미터 생성 → 검증 → 실행 요청까지의 backend workflow 구성
- 시뮬레이션 생성·조회·출력·모니터링 흐름의 장애 지점 분석
운영 이슈
- server boot/storage failure, OS recovery, service restoration 대응
- 대형 LLM 오배포로 인한 자원 고갈 문제 복구
- upstream timeout, 503, WebSocket failure, deploy-poller 중복 실행 분석
User
Frontend
API Server
Proxy
LLM Worker
Validator
Lab Server
Output / Visualization
FastAPI
Docker
Next.js
Grafana
Loki
Cloudflare Tunnel
Linux
Architecture
Public Concept
Validator-First Agent / Jarvis Architecture
LLM에게 실행 권한을 직접 맡기지 않는 로컬 AI 실행 아키텍처
의도 분류, 구조화 출력, 검증기, 정책 게이트, 서비스 레이어를 분리하여 LLM 출력의 불안정성을 시스템 구조로 보완하는 실험형 아키텍처입니다. 핵심 관점은 'LLM은 제안하고, 시스템이 결정한다'입니다.
문제
- LLM은 자연어 이해에는 강하지만 실행 가능성과 시스템 상태 판단에서는 불안정함
- JSON 출력 성공 여부와 실제 실행 가능 여부가 항상 일치하지 않음
접근
- Plain LLM, Structured Output, Validator-First 방식 비교
- LLM은 분류와 추출만 담당하고, 실행 판단은 validator와 service layer가 담당하도록 분리
Java
Spring Boot
FastAPI
llama.cpp
Policy Gate
Structured Output
Live Ops
Service
Discord Automation Bots
실사용 Discord 자동화 봇 운영
게임 내전 팀 밸런싱, 유저 전적 분석, 음성/채팅방 생성 등 실제 사용자가 있는 Discord 자동화 봇을 개발하고 운영했습니다. 서버에서 장기 실행되는 봇 프로세스, 홈서버 트래픽, 장애 대응, 운영 비용까지 고려했습니다.
구현
- 전적 데이터 기반 팀 밸런싱 알고리즘 구현
- Discord API 기반 채널 생성, 명령 처리, 자동화 플로우 구현
- 서버에서 지속 실행되는 봇 프로세스 구성
운영
- 홈서버 트래픽, 서버 비용, 지속 운영 가능성 고려
- 장애 발생 시 로그 확인, 프로세스 재시작, 서버 상태 점검 수행
Python
Discord API
Automation
Linux Server
Algorithm
Client Tool
Side Project
TouchBridge
휴대폰 제스처 기반 Windows 생산성 컨트롤러
휴대폰·태블릿의 제스처 입력을 Windows 단축키와 마우스 입력으로 변환하는 로컬 생산성 도구입니다. BLE, USB, Wi-Fi 연결 방식의 지연과 안정성을 비교하며 실제 사용성을 검토했습니다.
Rust
Android
Windows API
BLE
USB
Operations
운영 / 장애 대응 경험
서버 부팅 실패, 스토리지 장애, 대형 모델 오배포, upstream timeout, 배포 프로세스 유실처럼 실제 운영 중 발생한 문제를 로그와 시스템 상태를 기반으로 추적하고 복구했습니다.
Server Boot / Storage Failure Recovery
연구용 서버가 정상 부팅되지 않는 상황에서 디스크와 부팅 환경을 점검하고, 포렌식 방식으로 복구 가능한 데이터를 확인한 뒤 OS 재설치 및 서비스 복구를 진행했습니다.
Large Model Misdeployment Recovery
서버 환경에 맞지 않는 대형 LLM이 자동 실행되어 시스템 자원을 고갈시키는 문제를 분석하고, 시작 프로그램과 실행 프로세스를 정리하여 서버를 복구했습니다.
API / Lab Server Upstream Debugging
API 서버와 연구용 lab-server 사이에서 발생한 upstream timeout, 503 응답, WebSocket 연결 실패를 request_id와 structured log 기반으로 추적했습니다.
Grafana / Loki Alerting
Loki 로그 쿼리를 수정하여 error level 로그만 알림 대상으로 잡도록 개선하고, 장애 상황에서 API 서버와 외부 upstream 문제를 구분하기 쉽게 정리했습니다.
Deployment Poller / tmux Process Recovery
사라진 tmux 세션과 중복 실행 중인 deploy-poller 프로세스를 ps, logs, shell 기반으로 추적하고, 배포 자동화 프로세스의 실제 실행 상태를 복구했습니다.
Local LLM Serving / GPU Bottleneck Analysis
vLLM, llama.cpp, Ollama 기반 로컬 LLM 서빙 환경에서 token generation 성능, GPU 사용률, 모델 크기와 서버 자원 간의 병목을 비교했습니다.
Homelab / Raspberry Pi Operations
라즈베리파이 기반 홈서버에서 Nginx, 도메인, 로그, Grafana, 외부 접속 구성을 운영하며 디스크 사용량, 온도, 트래픽, 서비스 지속성을 관리했습니다.
API Gateway / Access Control
Cloudflare Access, API key, CORS origin, health/readiness check, gateway proxy, rate limit header 등 API 게이트웨이 운영 요소를 문서화하고 정리했습니다.
Stack
기술 스택
Backend
Java, Spring Boot, Python, FastAPI, REST API, WebSocket, MySQL, Redis
Infrastructure
Linux, Docker, Nginx, Cloudflare Tunnel, tmux, GitHub Actions, deploy polling
Observability
Grafana, Loki, Prometheus, structured logs, alert queries, incident tracking
AI / LLM Systems
vLLM, llama.cpp, Ollama, RAG, local LLM serving, validator-first workflows
Frontend
React, Next.js, TypeScript, Tailwind CSS, VTK.js, API-driven UI
Client / Tools
C++, C#, Kotlin, Android, Rust, Unity, Raspberry Pi, Discord API
Archive
프로젝트 아카이브
CaaS / DLPC
동아리 GPU 서버를 Colab처럼 사용할 수 있도록 하는 Docker 기반 사설 GPU 자원 배정 시스템.
Kookmin Feed
국민대 공지 통합 알림 서비스를 스크래핑, DB 관리, Discord bot으로 분리하는 리빌딩과 아키텍처 설계에 참여.
TrendScope
뉴스 키워드 기반 헤드라인 수집, 요약, 게시판 기능을 제공하는 Spring Boot 기반 뉴스/커뮤니티 프로젝트.
Personal Cloud Drive
집의 남는 컴퓨터를 Google Drive처럼 사용하기 위한 개인/공유 스토리지, 계정, 관리자 할당량 관리 시스템.
BLE Distance Measurement
Android/Kotlin 기반 BLE RSSI 거리 측정 앱. Kalman Filter를 적용하여 신호 노이즈를 줄이는 실험을 수행.
High School QR Meal Ticket System
아날로그 식권 배부의 비효율을 줄이기 위해 설계한 QR 기반 체크인 및 식권 관리 시스템.
Chrome Fast Translate Extension
웹에서 드래그한 텍스트를 즉시 번역 팝업으로 보여주는 브라우저 생산성 확장.
Project Shell / Moodi / Tool Experiments
프로젝트 단위 워크스페이스 관리, LLM 일기장, 개발 생산성 도구 등 개인 자동화·기억 시스템 실험.
Python Instructor
Python과 알고리즘 기초를 가르치며 커리큘럼 구성, 문제 풀이 멘토링, 코드 리뷰를 진행.
Game / Unity / Older Projects
Unity 게임, VSCode 테마, Android 앱, Chrome Extension 등 초기 프로젝트. 현재 포지션의 핵심 근거가 아니라 아카이브로만 유지.
Education
학력 / 수상
국민대학교
소프트웨어학부 소프트웨어전공
제8회 국민대학교 알고리즘 대회 장려상
국민대학교 소프트웨어융합대학