무료 티어 API와 CLI를 활용해 개인형 LLM 시스템을 구축했습니다. 채팅 한 번으로 대화의 과정과 결론을 인포그래픽이나 머메이드(Mermaid) 차트로 자동 생성하며, 렌더링된 HTML 내 텍스트를 GUI 환경에서 직접 수정하고 즉시 배포할 수 있는 것이 핵심 강점입니다.

🛠️ Technical Stack

Frontend

• Next.js 14 (App Router) - React 기반 SSR/CSR 하이브리드 렌더링
• TypeScript - 타입 안정성과 개발 생산성 보장
• Tailwind CSS - 유틸리티 퍼스트 CSS 프레임워크

Backend

• Next.js API Routes - 경량화 된 서버리스 아키텍처
• Prisma ORM - 타입 세이프한 데이터베이스 접근
• PostgreSQL - 관계형 데이터베이스

AI/ML Infrastructure

• AssemblyAI - 실시간 음성 인식 (STT)
• PDF OCR Pipeline - pdfplumber, pytesseract 기반 문서 추출
• Custom AI Integration - 사내 전용 AI 모델 연동

Security & Auth

• JWT (jose) - 토큰 기반 인증
• bcryptjs - 비밀번호 암호화
• HTTP-Only Cookies - XSS 방지 인증 쿠키

DevOps

• Docker - 컨테이너 기반 배포 환경
• GitHub Actions - CI/CD 파이프라인

---

🚀 Key Strengths

1. 🔒 폐쇄형 보안 아키텍처 (Air-Gapped Security)

"외부 접근 원천 차단"

• 사내 네트워크 전용 통신: 모든 AI 처리, DB 조회, 파일 처리가 외부와 완전히 격리된 내부 네트워크에서만 동작
• 데이터 외부 유출 불가: 사용자 질의, 문서 내용, DB 데이터가 사내 환경을 절대 벗어나지 않음
• 자체 AI 모델 연동: 외부 API 호출 없이 사내 AI 인프라와 직접 통신하여 정보 노출 위험 제거

2. 📄 지능형 문서 처리 파이프라인

• 멀티모달 PDF 분석: 텍스트 기반 추출 + OCR 이중 처리로 스캔 문서도 정확도 높게 분석
• 실시간 음성 전사: AssemblyAI 연동을 통한 회의 내용 실시간 텍스트 변환 및 요약
• 자동 태깅 및 분류: 업로드된 문서의 메타데이터 자동 추출 및 색인화

3. ⚡ 고성능 동시 처리 시스템

• 세마포어 기반 동시성 제어: 제한된 자원 내에서 최적의 동시 작업 처리
• 비동기 스트리밍 응답: 대용량 문서도 실시간으로 처리 결과 전달
• PostgreSQL 인덱스 최적화: 대용량 데이터에서도 빠른 조회 성능 보장

4. 🏢 엔터프라이즈급 접근 제어

• RBAC (Role-Based Access Control): 관리자/일반 사용자 역할 기반 권한 분리
• API 키 관리 시스템: 외부 연동용 토큰 기반 접근 제어
• 초대 코드 기반 회원가입: 관리자 승인된 사용자만 접근 가능

5. 🔍 컨텍스트 인식 AI 어시스턴트

• 세션 기반 대화 관리: 이전 대화 맥락 유지하며 연속 질의 처리
• 문서 참조 응답: 업로드된 파일 내용을 기반으로 정확한 답변 생성
• 공유 기능: 처리된 결과를 보안 유지하며 팀원과 공유