# 3D 객체인식 평가 시스템 결과 분석 보고서 ## 📊 평가 결과 요약 **평가 일시**: 2025-09-11 13:47:20 **종합 점수**: 82.8점 (B등급) **평가 모델**: `/app/models/model.glb` **참조 이미지**: `/app/data/model_image.png` ### 🎯 개별 지표 점수 | 지표 | 원본 값 | 정규화 점수 | 가중치 | 가중 점수 | |------|---------|-------------|--------|-----------| | 2D mAP | 1.0000 | 85.0점 | 25% | 21.25점 | | 3D mAP | 1.0000 | 88.6점 | 30% | 26.58점 | | Chamfer Distance | 0.2758 | 73.2점 | 20% | 14.64점 | | EMD | 0.2309 | 79.2점 | 15% | 11.88점 | | Class Accuracy | 1.0000 | 85.0점 | 10% | 8.50점 | | **종합 점수** | - | **82.8점** | 100% | **82.85점** | --- ## 🔍 상세 분석 ### 1. 2D mAP (Mean Average Precision) - 85.0점 #### 📈 계산 과정 - **원본 값**: 1.0000 (완벽한 2D 객체 감지) - **정규화 방식**: 높을수록 좋은 지표 - **임계값**: 0.8 - **정규화 공식**: ``` ratio = 1.0000 / 0.8 = 1.25 normalized = 80.0 + min(20.0, (1.25 - 1.0) * 20.0) = 85.0점 ``` #### 🎯 의미 - 렌더링된 3D 모델의 8개 뷰에서 2D 객체 감지가 완벽하게 수행됨 - 참조 이미지와 렌더링된 이미지 간의 객체 매칭이 매우 정확함 - IoU 임계값 0.05, 0.1, 0.2에서 모두 완벽한 성능 달성 #### ⚠️ 주의사항 로그에서 "정규화 결과가 유효하지 않습니다" 경고가 발생했지만, 실제로는 정상적인 점수로 계산됨. ### 2. 3D mAP (3D Mean Average Precision) - 88.6점 #### 📈 계산 과정 - **원본 값**: 1.0000 (완벽한 3D 객체 감지) - **임계값**: 0.7 - **정규화 공식**: ``` ratio = 1.0000 / 0.7 = 1.429 normalized = 80.0 + min(20.0, (1.429 - 1.0) * 20.0) = 88.6점 ``` #### 🎯 의미 - 3D 공간에서의 객체 감지가 완벽하게 수행됨 - 모델에서 5개의 3D 바운딩 박스 추출 - Ground Truth에서 1개의 3D 바운딩 박스 추출 - 클러스터링, 기하학적 방법, 거리 기반 매칭을 통한 정확한 매칭 #### 🔧 기술적 세부사항 - **모델 3D 박스**: 5개 (클러스터링 5개, 기하학적 32개 → 필터링 후 5개) - **Ground Truth 3D 박스**: 1개 (클러스터링 2개, 기하학적 2개 → 필터링 후 1개) - **매칭 전략**: IoU 기반 → 거리 기반 fallback ### 3. Chamfer Distance - 73.2점 #### 📈 계산 과정 - **원본 값**: 0.2758 - **임계값**: 0.3 - **정규화 공식** (낮을수록 좋은 지표): ``` ratio = 0.2758 / 0.3 = 0.919 normalized = 90.0 - ((0.919 - 0.5) * 40.0) = 73.2점 ``` #### 🎯 의미 - 두 3D 모델 간의 기하학적 유사성이 양호함 - 점군 간의 평균 최단 거리가 0.2758로 임계값(0.3) 이하 - Open3D를 사용한 고품질 점군 생성 및 KD-Tree 기반 최적화된 계산 #### 🔧 기술적 세부사항 - **점군 크기**: 10,000개 점 - **정렬 방법**: 중심점 정렬 → 스케일 정규화 → ICP 정렬 - **계산 방법**: KD-Tree 기반 최적화된 Chamfer Distance - **전처리**: 메시 정리, 이상치 제거, RMS 거리 정규화 ### 4. EMD (Earth Mover's Distance) - 79.2점 #### 📈 계산 과정 - **원본 값**: 0.2309 - **임계값**: 0.3 - **정규화 공식**: ``` ratio = 0.2309 / 0.3 = 0.770 normalized = 90.0 - ((0.770 - 0.5) * 40.0) = 79.2점 ``` #### 🎯 의미 - 두 3D 모델 간의 분포 유사성이 양호함 - 점군 분포의 차이가 임계값 이하로 유사함 - 근사 EMD 계산을 통한 효율적인 평가 #### 🔧 기술적 세부사항 - **점군 크기**: 1,000개 점 (EMD 전용) - **계산 방법**: 최근접 이웃 기반 근사 EMD - **정규화**: 중심점 이동 + 최대 거리 정규화 ### 5. Class Accuracy - 85.0점 #### 📈 계산 과정 - **원본 값**: 1.0000 (완벽한 클래스 분류) - **임계값**: 0.8 - **정규화 공식**: ``` ratio = 1.0000 / 0.8 = 1.25 normalized = 80.0 + min(20.0, (1.25 - 1.0) * 20.0) = 85.0점 ``` #### 🎯 의미 - 3D 모델의 객체 클래스 분류가 완벽하게 수행됨 - 기하학적 특성 기반 규칙 분류 시스템이 정확하게 작동 - 10개 클래스(의자, 테이블, 소파, 침대, 책상, 책장, 램프, 캐비닛, 문, 창문) 중 정확한 분류 #### 🔧 기술적 세부사항 - **특성 추출**: 바운딩 박스, 종횡비, 표면적, 부피, 주성분 분석 - **분류 방법**: 규칙 기반 분류 (기하학적 특성 기반) - **지원 클래스**: 10개 가구/구조물 클래스 --- ## 🎯 종합 평가 ### 강점 1. **완벽한 객체 감지**: 2D/3D mAP와 Class Accuracy가 모두 1.0으로 완벽한 성능 2. **우수한 기하학적 유사성**: Chamfer Distance와 EMD 모두 임계값 이하의 양호한 값 3. **안정적인 평가 시스템**: 다중 fallback 전략으로 안정적인 결과 보장 ### 개선 영역 1. **정규화 경고**: 2D/3D mAP에서 정규화 경고 발생 (기능상 문제없음) 2. **점수 분포**: 거리 기반 지표(Chamfer, EMD)가 상대적으로 낮은 점수 ### 기술적 특징 - **다중 매칭 전략**: IoU → 거리 기반 → 중심점 거리 기반 순차적 fallback - **고품질 점군 생성**: Open3D 기반 메시 전처리 및 표면 샘플링 - **관대한 임계값**: IoU 0.05부터 시작하여 점진적 완화 - **메모리 최적화**: 배치 처리 및 KD-Tree를 통한 효율적 계산 --- ## 📋 결론 **B등급 (82.8점)**의 평가 결과는 **양호한 성능**을 나타냅니다. 특히 객체 감지와 분류 측면에서는 완벽한 성능을 보였으며, 기하학적 유사성 측면에서도 임계값 이하의 양호한 결과를 달성했습니다. 이 평가 시스템은 3D 모델의 다면적 성능을 종합적으로 평가할 수 있는 견고한 프레임워크를 제공하며, 실제 응용에서 신뢰할 수 있는 성능 지표를 제공합니다. --- *보고서 생성일: 2025-09-11* *평가 시스템 버전: v1.0.0*