파이썬 기반 AI 웹서비스 응답 성능(Latency) 최적화 및 리팩터링

프로젝트 개요

• 현재 운영 중인 파이썬 기반 AI 웹서비스의 응답 성능을 개선하는 프로젝트입니다.

프로젝트 배경 및 목표

• 사용자의 요청 이후 핵심 결과 데이터가 노출되는 시점을 p95 기준 5초 이하로 단축하는 것이 최우선 목표입니다. 신규 개발이나 전면 재구축이 아닌, 기존 소스코드의 요청 처리 과정과 외부 연동 구간을 분석하여 병목을 개선하는 성능 최적화 용역입니다.

과업 범위

1. 수행 범위

• 기획 및 분석: 성능 기준선 측정 및 병목 분석
• SW 개발: 요청 처리 구조 최적화, 핵심 결과 우선 노출, 캐시 및 장애 대응 개선
• 테스트: 부하 및 품질 회귀 테스트

2. 상세 기능 요구 사항

2-1. 성능 기준선 측정 및 병목 분석

• 요청 단계별 처리시간 측정
• 애플리케이션, 데이터 조회 및 외부 연동 구간의 병목 식별
• p50, p95, p99 및 오류율 기준선 수립
• 개선 전후 성능 비교

2-2. 요청 처리 구조 최적화

• 직렬 처리 작업의 병렬화 및 비동기화
• 핵심 결과 노출에 필요하지 않은 후처리 작업 분리
• 불필요한 중복 연산 및 외부 호출 제거
• 요청 응답 데이터 크기와 처리 과정 최적화

2-3. 핵심 결과 우선 노출

• 사용자에게 필요한 핵심 결과 데이터를 우선 반환
• 부가 설명 및 후속 콘텐츠는 후속 처리 허용
• 기존 사용자 흐름을 유지하면서 체감 대기시간 단축

2-4. 캐시 및 장애 대응 개선

• 반복 처리 결과에 대한 캐시 적용 검토
• 외부 연동 구간 타임아웃 및 폴백 적용
• 일부 외부 서비스가 지연되더라도 핵심 결과를 반환할 수 있도록 개선
• 특정 장애가 전체 요청 지연으로 전파되지 않도록 격리

2-5. 부하 및 품질 회귀 테스트

• 사전에 합의한 대표 요청 데이터를 기준으로 성능 테스트
• 동시 사용자 조건을 적용한 부하 테스트
• 기존 결과 품질이 현저히 저하되지 않도록 회귀 검증
• 재현 가능한 성능 테스트 방법과 결과 제공

3. 비기능적 요구사항

3-1. 성능/규격: 핵심 결과 데이터 노출 시점 p95 기준 5초 이하 달성

3-2. 보안/인증: 운영 서비스명, URL, 소스코드 등은 1차 선별 후 NDA(비밀유지계약) 체결 시 제공

기술/제조 스택

• Python

클라이언트 준비 사항

• 문서 및 자료: NDA 체결 후 소스코드 접근 권한, 인프라 아키텍처 구성도 제공
• 투입 인력 및 조직: 내부 개발자 보유, 온라인 미팅을 통한 커뮤니케이션 진행

주요 일정

• 희망 착수일: 파트너 선정 및 NDA 체결 후 즉시
• 주요 마일스톤: 착수 후 2주차 병목 분석 및 기준선 확정, 6주차 핵심 로직 리팩터링 및 테스트 완료
• 최종 오픈(납품) 희망일: 착수일로부터 2개월 이내

지원 자격 및 우대 사항

• 지원 자격: 정부지원사업 수행 가능 사업자 (설립 6개월 이상, 업종: 소프트웨어 개발업, 세금계산서 발행 가능, 비교견적서 문서 제출 가능)
• 우대 사항: 운영 중인 AI 또는 검색 서비스의 성능 최적화 경험, 외부 AI API 지연시간 개선 경험, 비동기 처리/캐시/스트리밍 응답 구현 경험, p95/p99 기준 부하 테스트 경험

산출물

• 수정된 소스코드
• 성능 개선 전후 비교 보고서
• 병목 분석 및 개선 내역서
• 부하 테스트 스크립트
• 배포 및 롤백 절차서
• 운영 모니터링 권장 항목

계약 관련 특이 사항

* 지원 시 다음 내용을 제안 내용에 포함해 주시기 바랍니다.

• 유사한 성능 최적화 프로젝트 사례

• 실제 투입 예정 인력 및 담당 업무

• 예상 기간과 작업 단계 및 항목별 세부 견적

• 일반적인 병목 분석 및 개선 접근 방법

• 성능 목표 측정 및 검수 방법

• 목표 미달 시 무상 보완 조건 및 하자보수 기간(기본 1개월 이상)과 범위