비전검사 표면 흠집 검출 알고리즘 완전 가이드 - 제조 현장에 맞는 기술 선택법
비전검사 표면 흠집 검출, 정확도보다 먼저 봐야 할 것
표면 흠집 검출은 비전검사 도입 논의에서 가장 먼저 부딪히는 주제입니다. 현장에서는 "정확도가 가장 높은 알고리즘"부터 찾는 경우가 많지만, 실제로는 라인 속도와 소재 특성, 데이터 확보 여건에 따라 최적 선택이 달라집니다. 알고리즘 하나를 고르기 전에 공정 조건을 먼저 정리하지 않으면, 벤더 데모에서는 잘 작동하던 모델이 실제 라인에서는 오검·미검이 급증하는 상황을 겪기 쉽습니다. 이 글은 전통적 영상처리 기법부터 딥러닝 기반 모델까지 표면 흠집 검출 알고리즘을 실무 관점에서 정리하고, 비용·안전 요건까지 함께 짚어 도입 전 판단 기준을 제시합니다.
표면 흠집 검출, 무엇이 어려운가
표면 흠집은 스크래치, 핀홀, 크랙, 오염으로 나뉘며 이 중 스크래치는 조명 방향에 따라 카메라에도 잘 잡히지 않아 검출 난이도가 가장 높습니다. 경면 광택 표면은 반사 노이즈 때문에 단순 이진화만으로는 검출이 어려운 반면, 무광 표면은 대비가 명확해 고전적 기법으로도 일정 수준의 정확도를 확보할 수 있습니다. 같은 알고리즘이라도 소재·조명 조건이 바뀌면 성능 편차가 크게 나타나므로, 검토 초기 단계부터 결함 유형과 표면 특성을 함께 정리해두는 것이 뒤 단계의 알고리즘 비교를 훨씬 수월하게 만듭니다.
결함 검출 성능은 알고리즘 자체보다 조명 설계에 좌우되는 경우가 많습니다. 동축, 돔, 암시야 조명 중 소재와 결함 특성에 맞는 방식을 먼저 결정해야, 이후 어떤 알고리즘을 얹더라도 안정적인 성능을 기대할 수 있습니다. 조명 조건을 정리하지 않은 채 알고리즘 비교부터 시작하면, 정작 현장에 설치한 뒤 조명을 다시 세팅하느라 검증 일정 전체가 늦어지는 경우가 흔합니다.
알고리즘을 고를 때는 정확도 하나만 보면 안 됩니다. 아래 네 가지를 함께 따져야 합니다.
- 처리 속도: 인라인 검사는 라인 속도에 맞춘 실시간 판정이 필수
- 정확도 기준: 오검과 미검 중 어느 쪽을 더 엄격히 관리할지 사전 합의 필요
- 유연성: 단일 품종 대량 생산과 다품종 소량 생산은 최적 기술이 다름
- 데이터 여건: 딥러닝은 결함 데이터가 부족하면 성능 확보가 어려움
전통적 영상처리 기법 — 빠르고 설명 가능한 1차 방어선
Canny 엣지 검출은 노이즈를 억제한 뒤 그래디언트 방향을 계산해 경계선을 확정하는 방식으로, 연산이 가벼워 실시간 처리가 가능하고 PCB 패턴이나 금속 표면의 1차 필터링에 널리 쓰입니다. 다만 고정 임계값을 쓰면 복잡한 배경에서 오검율이 크게 흔들리므로, 표면이 균일한 소재에서 가장 효과적입니다.
Gabor 필터는 특정 주파수·방향에 반응하는 함수로 구성되어 직물이나 가죽, 목재처럼 반복 패턴을 가진 소재의 결함 검출에 강점을 보입니다. 방향 의존적 스크래치를 민감하게 분리할 수 있지만, 파라미터 튜닝이 복잡하고 연산 비용이 높아 실시간 처리에는 GPU 가속이 필요한 경우가 많습니다.
모폴로지 연산(팽창·침식·탑햇 변환)은 조명 불균일을 제거하고 결함 영역을 강조하는 전처리 단계에서 핵심적으로 쓰입니다. 단독 알고리즘이라기보다 뒤이은 분류 단계의 정확도를 높이는 보조 수단에 가깝습니다.
머신러닝·딥러닝 기법 — 정확도를 끌어올리는 선택지
SVM과 랜덤 포레스트는 HOG, LBP 같은 수작업 특징을 추출해 분류하는 방식으로, 딥러닝 대비 적은 데이터로도 일정 성능을 낸다는 점이 다품종 소량 생산 라인에서 강점입니다. 다만 새로운 결함 유형이 등장할 때마다 특징을 다시 설계해야 하는 한계가 있습니다.
One-Class SVM, Isolation Forest 같은 이상 탐지 알고리즘은 정상 샘플만으로 학습해 정상 분포를 벗어난 패턴을 결함으로 판정합니다. 저불량률 반도체 공정처럼 결함 샘플 수집 자체가 어려운 환경에서 유용하지만, 정상과 비정상의 경계가 모호하면 오검율 제어가 쉽지 않습니다.
CNN은 저수준 엣지부터 고수준 결함 형태까지 계층적으로 학습하며, ResNet이나 EfficientNet 같은 사전 학습 모델을 전이학습에 활용하면 제한된 데이터로도 높은 분류 정확도를 기대할 수 있습니다. YOLO 계열은 단일 추론으로 결함 위치와 종류를 동시에 출력해 고속 라인의 인라인 검사에 적합합니다. 강철 표면 결함 검출을 다룬 오픈액세스 연구에서는 기본 YOLOv8n 모델이 NEU-DET 데이터셋에서 "mAP 76.2%" 수준을 기록했고, 경량화·어텐션 모듈을 더한 개선 모델은 "77.7%"까지 끌어올린 사례가 보고됩니다[1]. AutoEncoder 기반 이상 탐지는 정상 이미지만으로 학습해 재구성 오차로 결함을 판정하는 방식으로, 결함 데이터 수집이 극히 어려운 신제품 양산 초기 단계에서 주목받고 있습니다.
알고리즘별 비교 요약
| 알고리즘 | 검출 원리 | 처리 속도 | 데이터 요구 | 주요 적용 분야 |
|---|---|---|---|---|
| Canny 엣지 검출 | 그래디언트 기반 경계 탐지 | 고속 | 불필요 | 금속 표면, PCB 패턴 |
| Gabor 필터 | 텍스처 주파수·방향 분석 | 중속 | 불필요 | 직물, 가죽, 목재 표면 |
| SVM·랜덤 포레스트 | 수작업 특징 + 분류기 | 중고속 | 소량 가능 | 다품종 소량 생산 |
| CNN | 계층적 특징 자동 추출 | GPU 활용 시 고속 | 중~대량 필요 | 반도체, 디스플레이 |
| YOLO 계열 | 위치·클래스 동시 출력 | 초고속 | 대량 필요 | 자동차 부품, 대형 패널 |
| 이상 탐지(AutoEncoder) | 정상 패턴 복원 오차 | 중속 | 정상 데이터만 필요 | 저불량률 반도체 공정 |
표에서 보듯 알고리즘 간 우열은 없습니다. 같은 CNN 계열이라도 반도체 패키징처럼 미세 결함이 다양한 공정에서는 강점이 있지만, 데이터가 부족한 신규 라인에서는 오히려 전통 기법이나 이상 탐지 쪽이 더 안정적인 성능을 낼 수 있습니다.
도입 비용 구조 — 어디에 얼마나 들어가나
비용은 초기 투자, 운영비, 숨은 비용 세 층위로 나눠 봐야 총소유비용이 왜곡되지 않습니다. 전통적 영상처리 기법은 초기 투자가 가장 낮고 별도 GPU 서버 없이도 운영이 가능해 소규모 라인에 적합합니다. 머신러닝 기반 기법은 특징 설계에 엔지니어링 공수가 들지만 하드웨어 부담은 중간 수준에 머뭅니다. 딥러닝 기반 기법은 GPU 인프라 구축비가 초기 투자의 큰 축을 차지하고, 운영 단계에서는 결함 데이터 라벨링 인건비가 반복적으로 발생합니다. 특히 라벨링 비용은 결함 유형이 늘어날수록, 그리고 공정 변경으로 재학습이 필요해질수록 누적되는 성격이 강해 초기 견적에만 의존하면 실제 운영 단계에서 예산을 초과하기 쉽습니다. 벤더 종속으로 인한 전환 비용도 계약 단계에서 함께 검토해야 하는 숨은 비용 항목입니다.
안전·품질 기준 — 검사 시스템에도 인증 요건이 따라온다
비전검사 설비를 도입할 때는 알고리즘 성능 외에 인증 요건도 함께 검토해야 합니다. 자동차 부품 공급망에서는 품질경영시스템 인증(IATF 16949)에서 검사 공정의 재현성과 기록 추적성을 요구하는 경우가 많고, 일반 제조업에서도 ISO 9001 체계 아래 검사 기록의 보관·추적 절차를 갖춰야 하는 경우가 흔합니다. 조명 장치는 산업안전보건 기준에 따른 전기·광원 안전 요건을 충족해야 하며, 반도체 공정처럼 클린룸 등급이 적용되는 환경에서는 카메라·조명 설비 반입 기준도 별도로 확인해야 합니다. 관련 요건은 업종·거래처마다 세부 기준이 달라, 인증기관이나 사내 품질팀을 통해 개별적으로 확인하는 것이 원칙입니다. 검사 알고리즘 성능만 검증하고 이 부분을 뒤늦게 확인하면, 설비 반입 승인이나 고객사 감사 단계에서 재작업이 발생해 일정이 지연되는 경우가 적지 않습니다.
실무 도입 전략 — 3단계로 압축한 실행 순서
1단계는 공정 조건의 명세화입니다. 라인 속도, 최소 검출 결함 크기, 소재 반사율, 배경 조명 균일도를 수치로 정리하고, 기존 불량률과 결함 샘플 데이터 확보 현황까지 함께 파악해야 알고리즘 스펙을 현실적으로 도출할 수 있습니다. 2단계는 파일럿 테스트로, 후보군을 2~3개로 압축해 실제 공정에서 채취한 정상·불량 샘플로 검증합니다. 오검율과 미검율 목표치를 미리 합의해야 하며, B2B 거래에서는 결함품이 그대로 출하되는 미검 쪽을 더 치명적으로 보는 것이 일반적입니다. 벤더의 데모 성능은 자사 공정에서 그대로 재현되지 않는 경우가 많아, 파일럿을 생략하고 전면 도입했다가 현장 성능 괴리를 뒤늦게 발견하는 시행착오가 반복적으로 보고됩니다. 3단계는 통합 전략입니다. 단일 알고리즘으로 모든 결함 유형을 커버하기 어려운 경우, Canny 엣지로 관심 영역을 추출한 뒤 CNN으로 분류하는 식의 전통기법·딥러닝 파이프라인이 실무에서 자주 채택됩니다. 이 앙상블 방식은 구현 복잡도가 늘어나지만 단일 모델의 약점을 상호 보완해 미검율을 낮추는 효과가 있어, 고신뢰도가 요구되는 반도체·항공 부품 검사에서는 이중 검증 파이프라인이 사실상 표준으로 자리잡고 있습니다.
도입 전 자가진단 체크리스트
아래 여섯 가지는 알고리즘을 최종 확정하기 전에 반드시 짚어야 할 항목입니다.
- 검출 대상 흠집 크기(㎛)를 픽셀 3~5개로 커버할 해상도·광학계를 계산했는가
- Precision·Recall·F1 중 어떤 지표를 우선할지 도입 초기에 합의했는가
- 결함 이미지 수천 장보다 정확히 라벨링된 수백 장이 성능에 더 기여한다는 점을 라벨링 기준에 반영했는가
- 소재 교체·설비 이동·조명 노후화에 대비한 재학습 주기를 운영 계획에 넣었는가
- 미검 1건과 오검 1건 각각의 비용을 계량화해 임계값 결정 기준으로 삼았는가
- 벤더 계약서에 모델 파일과 학습 데이터의 소유권 조항을 명시했는가
기술 선택의 기준은 '공정'이다
비전검사 표면 흠집 검출 알고리즘은 Canny 엣지처럼 간결한 전통 기법부터 YOLO·AutoEncoder 같은 딥러닝 모델까지 스펙트럼이 넓습니다. 중요한 것은 어떤 알고리즘이 "가장 최신"인지가 아니라 내 공정 조건에 맞는 알고리즘이 무엇인지 파악하는 것입니다. 결함 크기, 소재 특성, 라인 속도, 데이터 가용성, 예산이라는 다섯 가지 축으로 알고리즘을 평가하고 전통 기법과 딥러닝의 강점을 조합한 파이프라인을 설계한다면 투자 대비 성능을 최대화할 수 있습니다. 파일럿 테스트부터 시작해 데이터를 축적하고 단계적으로 알고리즘을 고도화하는 접근이 장기적인 경쟁 우위로 이어집니다. 신규 라인 도입을 검토하고 있다면 알고리즘부터 정하기보다, 결함 유형과 공정 조건을 먼저 표로 정리하는 작업부터 시작하는 것을 권장합니다.
참고문헌
- Chu, Y.; Yu, X.; Rong, X. "A Lightweight Strip Steel Surface Defect Detection Network Based on Improved YOLOv8." Sensors (MDPI). 2024-10-09. https://www.mdpi.com/1424-8220/24/19/6495
본 게시물은 AI 어시스턴트를 활용하여 초안을 작성하고 편집자의 검수를 거쳤습니다. 타 기업명 및 영업 기밀 보호를 위해 본문 중 일부 고유명사는 익명화(A/B) 처리되었습니다.