개인 프로젝트
블로그 프로젝트
PDF(이미지)자동 번역 프로그램 개발
개인적 요청으로 간단한 매크로 프로그램을 개발 한 사례입니다.
자체 멀티모달 AI개발 (대외비,사외비 대응) 및 AI기반 회의 기록 플랫폼 제작
무료 티어 API와 CLI를 활용해 개인형 LLM 시스템을 구축했습니다. 채팅 한 번으로 대화의 과정과 결론을 인포그래픽이나 머메이드(Mermaid) 차트로 자동 생성하며, 렌더링된 HTML 내 텍스트를 GUI 환경에서 직접 수정하고 즉시 배포할 수 있는 것이 핵심 강점입니다. ## 🛠️ Technical Stack ### Frontend - **Next.js 14** (App Router) - React 기반 SSR/CSR 하이브리드 렌더링 - **TypeScript** - 타입 안정성과 개발 생산성 보장 - **Tailwind CSS** - 유틸리티 퍼스트 CSS 프레임워크 ### Backend - **Next.js API Routes** - 경량화 된 서버리스 아키텍처 - **Prisma ORM** - 타입 세이프한 데이터베이스 접근 - **PostgreSQL** - 관계형 데이터베이스 ### AI/ML Infrastructure - **AssemblyAI** - 실시간 음성 인식 (STT) - **PDF OCR Pipeline** - pdfplumber, pytesseract 기반 문서 추출 - **Custom AI Integration** - 사내 전용 AI 모델 연동 ### Security & Auth - **JWT (jose)** - 토큰 기반 인증 - **bcryptjs** - 비밀번호 암호화 - **HTTP-Only Cookies** - XSS 방지 인증 쿠키 ### DevOps - **Docker** - 컨테이너 기반 배포 환경 - **GitHub Actions** - CI/CD 파이프라인 --- ## 🚀 Key Strengths ### 1. 🔒 폐쇄형 보안 아키텍처 (Air-Gapped Security) > **"외부 접근 원천 차단"** - **사내 네트워크 전용 통신**: 모든 AI 처리, DB 조회, 파일 처리가 외부와 완전히 격리된 내부 네트워크에서만 동작 - **데이터 외부 유출 불가**: 사용자 질의, 문서 내용, DB 데이터가 사내 환경을 절대 벗어나지 않음 - **자체 AI 모델 연동**: 외부 API 호출 없이 사내 AI 인프라와 직접 통신하여 정보 노출 위험 제거 ### 2. 📄 지능형 문서 처리 파이프라인 - **멀티모달 PDF 분석**: 텍스트 기반 추출 + OCR 이중 처리로 스캔 문서도 정확도 높게 분석 - **실시간 음성 전사**: AssemblyAI 연동을 통한 회의 내용 실시간 텍스트 변환 및 요약 - **자동 태깅 및 분류**: 업로드된 문서의 메타데이터 자동 추출 및 색인화 ### 3. ⚡ 고성능 동시 처리 시스템 - **세마포어 기반 동시성 제어**: 제한된 자원 내에서 최적의 동시 작업 처리 - **비동기 스트리밍 응답**: 대용량 문서도 실시간으로 처리 결과 전달 - **PostgreSQL 인덱스 최적화**: 대용량 데이터에서도 빠른 조회 성능 보장 ### 4. 🏢 엔터프라이즈급 접근 제어 - **RBAC (Role-Based Access Control)**: 관리자/일반 사용자 역할 기반 권한 분리 - **API 키 관리 시스템**: 외부 연동용 토큰 기반 접근 제어 - **초대 코드 기반 회원가입**: 관리자 승인된 사용자만 접근 가능 ### 5. 🔍 컨텍스트 인식 AI 어시스턴트 - **세션 기반 대화 관리**: 이전 대화 맥락 유지하며 연속 질의 처리 - **문서 참조 응답**: 업로드된 파일 내용을 기반으로 정확한 답변 생성 - **공유 기능**: 처리된 결과를 보안 유지하며 팀원과 공유
Open WebUI 이용 Multi AI agent, multi modal, 소호용 RAG개발
블로그 링크 : https://portfolio.dwjeong.com/blog/open-webui-sohoyong-ai-rag-jejag 한마디 : 소호용으로 AI쓰기 딱좋습니다. 초기 도입비용 약 600만원(자체 ai서버), 혹은 초기도입비용없이 deepseek같은 매우 저렴한 모델 사용하고 RAG구축이라기에 민망할정도로 간단한 내용(금액, 고정서비스멘트, 매크로 멘트) 등과 같은것을 아주 손쉬운형태로 자체 서비스에 API로 연결이 가능합니다. 파일교체도 필요없고 그냥 WebUI에서 수정하면 AI가 그이후 질문부터는 그렇게만 대답해요. 소호용 업소나 연구실, 간단한 기업 사무실에서 서비스 테스트배포 혹은 정말 간단한 배포용으로 너무나 저렴하고 완벽한 솔루션인거 같아요. 물론 dify나 나중에 소개할 AnythingLLM에 비하면 RAG로서 많이 수준이 낮긴합니다. 그럼에도 불구하고 코딩이 거의 필요없는 수준의 구축이 가능하다는거. (그렇지만 서버구동부터 도커 설치&실행까지 한번도 안해보신 분들입장에서 어려움..) *아래는 제가 강조한내용을 ai가 정리한 내용입니다. # 🚀 대기업 부럽지 않은 소호(SOHO)용 AI 비서실 구축하기 ## : Open WebUI 기반 Multi-AI Agent & Private RAG 가이드 최근 AI 기술이 쏟아져 나오고 있지만, 데이터 보안과 높은 구독료 때문에 도입을 망설이는 소호(SOHO) 기업들이 많습니다. 이제 **Open WebUI**와 **자체 구동 LLM**을 활용해 우리 회사만의 강력하고 안전한 AI 시스템을 구축하는 방법을 소개합니다. --- ## 1. Multi-AI Agent: 한 곳에서 만나는 최강의 AI 팀 이제 더 이상 ChatGPT 따로, Claude 따로 접속할 필요가 없습니다. **Open WebUI**는 여러 모델을 하나의 인터페이스에서 통합 관리합니다. * **협업 에이전트 시스템**: 기획, 마케팅, 데이터 분석 등 각 업무에 특화된 AI 에이전트를 설정하여 복잡한 프로젝트를 협업 방식으로 해결합니다. * **통합 질문 환경(Web LLM)**: 단순 챗봇을 넘어 웹 검색 능력을 갖춘 AI가 실시간 시장 조사를 수행하고 보고서를 요약합니다. --- ## 2. API 기반의 손쉬운 배포와 유연한 관리 복잡한 코딩 없이도 기업 내부 시스템에 AI 기능을 이식할 수 있습니다. * **표준화된 API 제공**: OpenAI 호환 API를 통해 사내에서 사용하는 기존 ERP나 메신저(슬랙, 카톡 등)에 AI 기능을 손쉽게 연결합니다. * **중앙 집중식 관리**: 사용자별 권한 설정, 사용량 모니터링을 한눈에 파악하여 효율적인 리소스 배포가 가능합니다. --- ## 3. 강력한 보안: 우리 회사만의 '폐쇄형' AI 환경 보안이 생명인 기업에게 클라우드 AI는 늘 불안 요소입니다. 본 시스템은 **내부망(On-Premise)** 구동을 원칙으로 합니다. * **100% 로컬 구동**: 모든 데이터 처리가 사내 서버 내에서 이루어지므로, 기밀 정보나 고객 데이터가 외부로 유출될 걱정이 전혀 없습니다. * **자체 구동 멀티모달(Multi-modal) LLM**: 이미지, PDF, 엑셀 파일을 직접 분석하는 멀티모달 기능을 외부 서버 통신 없이 내부에서 처리합니다. --- ## 4. 소호(SOHO)를 위한 맞춤형 RAG 시스템 대기업의 전유물이었던 지식 관리 시스템을 이제 소규모 업체에서도 아주 능숙하게 구현할 수 있습니다. | 구분 | 대기업형 시스템 | 소호(SOHO) 맞춤형 시스템 | | :--- | :--- | :--- | | **비용** | 수억 원대 구축비 + 유지보수 | **초기 서버 비용 외 거의 제로(Open Source)** | | **운영** | 전문 데이터 과학자 팀 필요 | **Open WebUI로 누구나 손쉽게 관리** | | **특징** | 범용적이지만 복잡함 | **우리 회사 매뉴얼에 특화된 정밀 RAG** | > **RAG(검색 증강 생성)의 마법**: > 우리 회사의 과거 견적서, 제품 매뉴얼, 고객 상담 로그를 AI에게 학습(Indexing)시키세요. 신입 사원도 10년 차 베테랑처럼 정확한 정보를 찾아 답변할 수 있게 됩니다. --- ## 💡 마치며: 작지만 강한 AI 기업으로의 도약 이제 기술의 크기가 기업의 크기를 결정하지 않습니다. 얼마나 능숙하게 AI를 도구로 활용하느냐가 핵심입니다. **Open WebUI**와 **Private RAG**는 소상공인과 소규모 기업이 거대 기업과 경쟁할 수 있는 가장 강력한 무기가 될 것입니다. --- **더 자세한 설치 방법이나 하드웨어 사양 권장안이 궁금하신가요?** 댓글이나 문의를 남겨주시면 상세히 답변해 드리겠습니다!
더 많은 포트폴리오 보기
