기존 광학 검사 등으로는 결함 후보군 처리 한계...유의미한 결함 선별, 자동 분류 등 가능한 AI 검사 대안으로
반도체 제조 공정에서 검사·계측은 결함을 조기에 검출하고 공정 상태를 정량적으로 파악하여 수율과 신뢰성을 확보하는 핵심 기술이다. 그러나 공정 미세화와 구조 복잡도 증가로 인해 기존의 광학 검사와 전자현미경 기반 정밀 검사(Review)만으로는 증가하는 결함 후보군을 효율적으로 처리하는 데 한계가 있다. 이에 따라 최근에는 유의미한 결함 선별, 자동 분류, 정밀 분석이 가능한 AI 기반 검사 기술이 중요한 대안으로 주목받고 있다. 이번 기고에서는 전통적 검사·계측 기술과 그 한계를 살펴보고, AI 기반 검사 기술의 발전 배경과 주요 적용 사례를 정리하고자 한다.
글/ 고려대학교 주병권 교수 연구실
주병권 (고려대학교 전기전자공학부 교수)
공지영 (고려대학교 전기전자공학부 석사과정)
목차
1. 서론
2. 반도체 제조 공정에서의 검사·계측 기술
2-1. 전통적 검사 기술
2-2. 기존 검사 방식의 한계
3. AI 기반 검사 기술의 발전
3-1. AI 적용 배경과 필요성
3-2. 주요 모델과 접근 방식
3-3. 최근 연구 및 산업 적용 사례
4. 향후 발전 방향
5. 결론
6. 참고 문헌
1. 서론
반도체 제조 공정은 수백 개의 세부 단계로 이루어진 정밀한 생산 체계이며, 이 과정에서 발생하는 미세 결함은 최종 제품의 성능과 수율에 직접적인 영향을 미친다[1]. 따라서 검사·계측은 단순한 품질 확인을 넘어, 공정 상태를 파악하고 이상을 조기에 감지하여 생산 전반을 제어하는 핵심 수단으로 기능한다[2]. 특히 첨단 공정에서는 단순한 결함 유무뿐 아니라 결함의 위치, 크기, 반복성, 공정 상관성까지 함께 고려해야 하므로 검사 결과를 해석하는 과정 자체도 점차 복잡해지고 있다.
그림 1. 반도체 공정에서 제조, 검사·계측, 분석, 최적화를 연결하는 전체 흐름도[3]
기존에는 광학 검사 장비와 전자현미경 기반 정밀 검사 장비가 상호 보완적으로 활용되어 왔다. 광학 검사는 넓은 영역을 빠르게 검사할 수 있지만 미세 결함 판별에는 한계가 있고, 전자현미경 기반 검사는 높은 해상도를 제공하지만 속도와 비용 측면에서 부담이 크다[4,5].
최근 공정 미세화와 고집적화로 인해 가성 결함(False Defect)과 정밀 검사 대상이 급증하면서 기존 방식의 한계가 더욱 뚜렷해지고 있으며, 이를 보완하기 위한 대안으로 AI 기반 검사 기술이 주목받고 있다[6]. AI는 대량의 검사 데이터에서 실제 결함을 선별하고 유형을 분류함으로써 검사 효율과 정확도를 높이는 방향으로 발전하고 있다. 이러한 변화는 검사 장비의 성능 향상만으로는 충분하지 않으며, 대량의 데이터를 빠르게 해석하고 의미 있는 패턴을 추출할 수 있는 데이터 기반 접근의 중요성을 높이고 있다.
2. 반도체 제조 공정에서의 검사·계측 기술
2-1. 전통적 검사 기술
반도체 제조 공정에서 사용되는 검사·계측 기술은 주로 광학 검사, 전자현미경 기반 정밀 검사, 그리고 계측 기술로 구분할 수 있다. 광학 검사는 웨이퍼의 넓은 영역을 빠르게 스캔할 수 있어 대량 생산 공정에 적합하며, 먼지나 패턴 이상과 같은 외형 결함을 효율적으로 검출할 수 있다[4]. 전자현미경 기반 정밀 검사는 광학 검사보다 높은 해상도로 결함의 세부 형상을 관찰할 수 있어, 미세 패턴 결함이나 구조적 이상을 정밀하게 확인하는 데 유리하다[5].
한편 계측 기술은 결함 검출 자체보다 임계치수(CD), 오버레이(overlay), 두께 균일도 등 공정 상태를 정량적으로 측정하는 데 중요한 역할을 한다[2]. 이처럼 반도체 제조 현장에서는 서로 다른 특성을 지닌 검사·계측 기술이 상호 보완적으로 활용되고 있다. 실제 생산 라인에서는 단일 장비만으로 모든 문제를 해결하기보다는, 광학 검사로 넓은 영역에서 후보를 선별하고 이후 전자현미경 기반 정밀 검사나 계측 장비로 정밀 확인을 수행하는 방식이 일반적이다. 즉, 전통적 검사 기술은 각각의 장점과 한계를 바탕으로 역할을 분담하며 운영되어 왔다.
그림 2. 반도체 제조에서 사용되는 전통적 검사·계측·분석 시스템[7]
2-2. 기존 검사 방식의 한계
기존 검사 방식은 공정 미세화와 구조 복잡도 증가에 따라 한계가 점차 뚜렷해지고 있다. 광학 검사는 빠르다는 장점이 있지만 미세 결함이나 복잡한 패턴 결함을 정확히 구분하는 데 한계가 있으며, 민감도를 높일수록 가성 결함이 증가하는 문제가 발생한다[4]. 전자현미경 기반 정밀 검사는 높은 정확도를 제공하지만 검사 속도가 느리고 비용 부담이 커 대량 후보군을 처리하기 어렵다[5]. 또한 공정 조건이 변화할 때마다 기존 규칙 기반 방식의 레시피를 반복적으로 조정해야 하므로 유지보수 부담도 크다[6]. 결국 기존 검사 방식은 결함 후보군의 급증, 정밀 검사 단계의 병목 현상, 높은 운영 비용이라는 구조적 문제를 안고 있다고 볼 수 있다.
또한 최신 공정에서는 결함의 외형이 정상 패턴과 매우 유사하거나 배경 구조가 복잡해, 단순 임계값이나 고정 규칙만으로는 안정적인 구분이 어렵다. 이 때문에 검출 성능을 유지하기 위해서는 반복적인 레시피 조정과 전문가 개입이 필요하며, 이는 운영 효율 저하로 이어질 수 있다. 특히 결함 수 증가와 검사 민감도 향상으로 인해 검출 이후의 정밀 검사와 분류 과정이 병목이 되기 쉬우며, 공정 엔지니어가 빠르게 원인을 파악하고 피드백을 주는 일도 점점 어려워지고 있다.
그림 3. 반도체 결함 검사 및 정밀 검사 시스템의 개념도[8]
3. AI 기반 검사 기술의 발전
3-1. AI 적용 배경과 필요성
AI가 반도체 검사 분야에서 주목받는 이유는 기존 방식만으로는 처리하기 어려운 데이터 규모와 복잡성이 빠르게 증가하고 있기 때문이다[6]. 공정 미세화가 진행될수록 실제 결함과 배경 패턴, 노이즈를 구분하는 일이 어려워지고, 사람이나 단순 규칙 기반 알고리즘만으로 대량의 결함 후보군을 효율적으로 판별하기 힘들어진다[1]. 또한 실제 반도체 이미지에서는 결함의 종류와 발생 양상이 매우 다양하게 나타난다. 그림 4는 실제 웨이퍼 표면에서 관찰될 수 있는 다양한 결함 양상을 보여주며, 결함 형상과 패턴이 매우 다양하다는 점을 직관적으로 보여준다[9]. 이러한 다양성은 기존의 규칙 기반 알고리즘이나 단순 영상처리만으로 모든 결함을 안정적으로 검출하고 분류하는 데 한계를 만든다[6]. 따라서 다양한 결함 형상과 복잡한 패턴 변동을 함께 학습할 수 있는 AI 기반 접근의 필요성이 점차 커지고 있다.
AI 기반 방식은 이러한 복잡성을 단순히 수작업으로 처리하는 대신, 다양한 결함 사례와 배경 패턴을 함께 학습함으로써 보다 유연한 판별 기준을 형성할 수 있다는 장점이 있다. 따라서 최근에는 AI를 기존 검사 장비의 대체 수단이라기보다, 장비가 생성한 대규모 데이터를 해석하고 우선순위를 부여하는 보조 지능으로 활용하려는 경향이 강해지고 있다.
그림 4. 전자현미경으로 관찰된 웨이퍼 표면의 주요 결함[9]
3-2. 주요 모델과 접근 방식
반도체 검사에 적용되는 AI 기술은 목적에 따라 이상 탐지, 분류, 검출, 영역 분할(Segmentation) 등으로 나눌 수 있다. 이상 탐지는 정상 데이터의 특성을 학습한 뒤, 그와 다른 패턴을 결함 후보로 탐지하는 방식으로, 희귀 결함이나 새로운 결함 유형에 대응하는 데 유리하다[6].
분류 모델은 결함 후보를 특정 유형으로 구분하는 데 활용되며[10], 검출 모델은 결함의 위치와 종류를 동시에 예측할 수 있다[11]. 최근에는 결함의 경계와 면적을 보다 정밀하게 분석할 수 있는 분할 기반 접근도 중요성이 커지고 있다[12]. 이와 함께 데이터 부족 문제를 해결하기 위해 반지도 학습, 자기지도 학습(Self-supervised learning), 자가 학습(Self-training) 기반 학습 전략도 활발히 연구되고 있다[13,14].
그림 5. 결함 탐지 및 분류를 위한 머신러닝 및 딥러닝 알고리즘의 계층적 구조도[15]
실제 적용에서는 하나의 모델만 독립적으로 사용하기보다, 이상 탐지로 후보를 좁힌 뒤 분류나 검출 모델로 세부 판정을 수행하거나, 검출 이후 결함 영역을 정밀 분석하는 다단계 구조도 활용된다. 즉, 최근 연구 흐름은 단일 알고리즘 경쟁을 넘어 여러 접근 방식을 목적에 따라 조합하는 방향으로 발전하고 있다.
3-3. 최근 연구 및 산업 적용 사례
최근 연구는 웨이퍼 맵 패턴 분류, 검사 영상 기반 결함 검출, 전자현미경 이미지의 정밀 영역 분할 등 다양한 방향으로 확장되고 있다[6]. 특히 실제 제조 환경에서는 라벨링 비용이 높고 결함 데이터가 제한적이기 때문에, 적은 데이터로도 높은 성능을 확보하려는 연구가 활발하다[13,14]. 산업 현장에서도 광학 검사, 전자현미경 정밀 검사, 계측 장비에 AI 알고리즘을 결합하여 가성 결함을 줄이고, 관심 결함을 우선적으로 선별하는 방식이 확대되고 있다[12]. 이는 AI 기반 검사가 연구 수준을 넘어 실제 반도체 제조 공정의 효율 향상에 기여하고 있음을 보여준다[12].
특히 산업 적용 단계에서는 단순한 정확도 향상뿐 아니라, 검사 시간 단축, 작업자 검토 부담 감소, 불필요한 정밀 검사 대상 축소와 같은 운영 지표 개선이 함께 중요하게 평가된다. 따라서 최근의 AI 적용 사례는 모델 자체의 성능뿐 아니라 실제 생산 라인에서의 활용 가능성과 유지 운영 효율까지 함께 고려하는 방향으로 확대되고 있다.
그림 6. 실제 공정 결함 이미지에서의 결함 식별 결과 비교[12]
4. 향후 발전 방향
향후 반도체 검사 기술은 장비 성능 향상뿐 아니라 데이터 활용과 AI 통합 수준에 따라 경쟁력이 결정될 가능성이 크다[6]. 앞으로는 검사 정확도뿐 아니라 처리량, 지연 시간, 운영 비용까지 함께 고려하는 평가 체계가 더욱 중요해질 것이다. 또한 공정 조건, 장비 세대 차이에 따른 데이터 분포 변화를 반영한 실험 설계와 일반화 성능 검증도 필요하다[5]. 기술적으로는 경량 모델과 고정밀 모델을 조합한 다단계 검사 구조, 공정별 특성에 맞춘 맞춤형 모델 설계, 그리고 데이터 품질 관리와 지속적 모델 업데이트 체계가 중요해질 것으로 보인다.
아울러 향후에는 설명 가능성, 데이터 품질 관리, 지속적 재학습 체계와 같은 운영 측면도 중요해질 것으로 보인다. 반도체 제조 환경은 공정 변화와 장비 세대 변화가 빈번하기 때문에, 실제 현장에 적용되는 AI 시스템은 높은 정확도뿐 아니라 장기적인 안정성과 적응성까지 갖추어야 한다. 결국 반도체 검사 기술의 발전 방향은 단순한 모델 성능 향상을 넘어, 실제 제조 환경에서 안정적으로 운영 가능한 통합 검사 체계를 구축하는 데 있다고 할 수 있다[2].
5. 결론
반도체 제조 공정에서 검사·계측은 수율과 신뢰성을 확보하기 위한 핵심 기술이며, 광학 검사, 전자현미경 정밀 검사, 계측 기술이 상호 보완적으로 활용되어 왔다[2]. 그러나 공정 미세화와 고집적화가 진행되면서 기존 방식만으로는 결함 후보군의 급증, 정밀 검사 단계의 병목 현상, 높은 운영 비용과 같은 문제를 해결하기 어려워지고 있다. 이러한 한계를 보완하기 위해 AI 기반 검사 기술은 실제 결함 선별, 자동 분류, 정밀 분석을 가능하게 하며 반도체 검사 체계의 중요한 발전 방향으로 자리 잡고 있다[6].
앞으로는 장비, 데이터, AI 모델, 운영 체계가 통합된 형태의 검사 시스템이 반도체 제조 경쟁력의 핵심 요소가 될 것으로 보인다. 결국 미래의 반도체 검사 시스템은 장비 성능, 계측 정확도, 데이터 처리, AI 기반 의사결정이 유기적으로 결합된 형태로 발전할 가능성이 크다. 이러한 통합적 접근은 단순한 자동화를 넘어, 수율 향상과 공정 최적화를 동시에 지원하는 핵심 인프라가 될 것으로 기대된다.
6. 참고 문헌
[1] Ma, Jianhong, et al. "Review of Wafer Surface Defect Detection Methods." Electronics 12.8 (2023): 1787.
[2] Archenti, Andreas, et al. "Integrated metrology for advanced manufacturing." CIRP Annals 73.2 (2024): 639-665.
[3] Yamazaki, Genta, et al. "Yield Improvement Solution for Semiconductor Manufacturing to Support Increasing Sophistication of Digital Society." Hitachi Review 71.4 (2022): 476-481.
[4] Zhu, Jinlong, et al. "Optical wafer defect inspection at the 10 nm technology node and beyond." International Journal of Extreme Manufacturing 4.3 (2022): 032001.
[5] Dehaerne, Enrique, et al. "Scanning electron microscopy-based automatic defect inspection for semiconductor manufacturing: a systematic review." Journal of Micro/Nanopatterning, Materials, and Metrology 24.2 (2025): 020901.
[6] Huang, An Chi, Sheng Hui Meng, and Tian Jiun Huang. "A survey on machine and deep learning in semiconductor industry: methods, opportunities, and challenges." Cluster Computing 26.6 (2023): 3437-3472.
[7] Watanabe, Kenji, et al. "Inspection-analysis Solutions for High-quality and High-efficiency Semiconductor Device Manufacturing." Hitachi Review 52.3 (2003): 125-128.
[8] Isogai, Seiji, et al. "Advanced Defect Review System for Yield Enhancement (RS Series)." Hitachi Review 56.3 (2007): 47-50.
[9] Y. Jiang et al., "FabGPT: An Efficient Large Multimodal Model for Complex Wafer Defect Knowledge Queries," in IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, doi: 10.1109/TCAD.2026.3664304.
[10] Jeong, Iljoo, et al. "Wafer map failure pattern classification using geometric transformation-invariant convolutional neural network." Scientific Reports 13 (2023): 8127.
[11] Zheng, Jiebing, and Tao Zhang. "Wafer Surface Defect Detection Based on Background Subtraction and Faster R-CNN." Micromachines 14.5 (2023): 905.
[12] Whoang, Intae, et al. "Deep Learning Segmentation Modeling for SiN, SiO2 Film Deposition Process Defect of High Bandwidth Memory." Journal of Semiconductor Technology and Science 23.5 (2023): 251-257.
[13] Kahng, Hyungu, and Seoung Bum Kim. "Self-Supervised Representation Learning for Wafer Bin Map Defect Pattern Classification." IEEE Transactions on Semiconductor Manufacturing 34.1 (2021): 74-86.
[14] Wu, Ping-Hung, et al. "A Self-Training-Based System for Die Defect Classification." Mathematics 12.15 (2024): 2415.
[15] Taha, Kamal. "Observational and experimental insights into machine learning-based defect classification in wafers." Journal of Intelligent Manufacturing 37.1 (2026): 45-95.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
