2.1 제조 공정에서의 이상 탐지 기법

제조 산업에서 첨단 기술의 도입이 가속화됨에 따라, 이상 탐지는 공정 신뢰성과 운영 효율성을 동시에 확보하기 위한 핵심 연구 분야로 부상하고 있다. 이를 반영하듯, 최근 다양한 기계 학습 및 딥러닝 기반 방법론이 제안되어 결함 탐지 정확도 향상과 유지 보수 비용 절감을 목표로 연구가 확산되고 있다. 예를 들어, 공작기계 중 하나인 MCT(Machining Center Tool) 기계에서 초기 결함을 탐지하기 위해 1D CNN(Convolutional Neural Network)을 활용하여 기존 분류기보다 높은 정확도를 보여줬다(Athar et al., 2024). 또한, 기존 Isolation Forest의 한계를 보완하기 위해, 그룹 단위 이상을 효과적으로 식별하도록 Isolation Forest와 auto-encoder 계열 아키텍처를 결합한 접근법이 제안되었다(Jeon & Kim, 2024). 공정 운영 환경에서 실시간으로 공정 이상과 센서 고장을 구분하는 오토인코더 기반 프레임워크도 제시되었는데, 이는 유지 보수 비용 절감에 직접적으로 기여할 수 있음을 보여준다 (Lee et al., 2024).

반도체 분야에서도 관련 연구가 활발히 진행되고 있다. 신뢰성 시험 과정에서 발생하는 비용을 절감하기 위해, preconditioning test의 데이터를 이용하여 조기에 불량 제품을 선별하는 불량 예측 모델이 제안되었다(Jang et al., 2018). 또한, 제조 데이터의 불균형성과 라벨링 비용 문제를 해결하기 위한 연구도 이루어지고 있다. 제한된 데이터를 이용하여 이상 탐지의 정확성을 향상시키기 위해 최소한의 데이터로 예측을 가능하게 하는 Few-shot learning과 비정상 데이터의 부족을 보완하기 위해서 정상 데이터를 생성하는 AnoGAN 결합한 모델을 제안하였고 이는 기존 모델보다 정확도, F1-score 등에서 유의미한 향상을 보여주었다(Kim et al., 2025).

2.2 주조 공정에서의 이상 탐지 기법

주조 공정에서 발생하는 결함은 후공정 작업에서 확인이 가능하기 때문에 품질 관리에 많은 비용이 낭비된다. 특히 다이캐스팅 공정은 복잡성이 매우 높아, 다양한 종류의 결함으로 인해 불량률이 일반적으로 5~10% 수준에 달하는 것으로 보고되고 있다(Bonollo et al., 2015). 따라서 생산 비용 절감과 제품 품질 향상을 위해 결함 예방은 필수적이다. 이에 따라 결함 예측 및 이상 탐지 기법을 활용하여 공정 상태를 모니터링하고 결함 발생 가능성을 예측하여 품질 관리 효율성을 높이려는 연구들이 수행되고 있다. 다이캐스팅 공정의 스마트팩토리 구현을 위해 제품 개별 추적 시스템, 고도화된 공정 데이터 수집 기술, 그리고 인공신경망 기반 결함 탐지 모듈을 구축하였다. 파일럿 생산을 통해 수집한 온도와 압력 데이터를 활용한 실험에서 SMOTE가 적용된 인공신경망 기반 결함 검출 모듈은 단순 통계적 기준(4σ) 대비 높은 불량 검출 정확도를 보여, 다이캐스팅 산업에서 스마트팩토리 실현과 품질 관리 비용 절감에 지도 학습 기반 이상 탐지 기법이 기여할 수 있음을 시사하였다(Lee et al., 2021). 다이캐스팅 공정에서 공정 조건 데이터와 센서 데이터를 활용하여 결함을 예측하고 원인을 진단하는 데이터 분석 시스템을 제안하였다. 본 연구는 Random Forest 기반으로 예열 상태 진단 모델, 결함 예측 모델, 결함 원인 진단 모델의 세 가지 분석 모델을 구축하였으며, 데이터 불균형 문제를 해결하기 위해 SMOTE 기법을 적용하였다. 실험 결과. 세 모델 모두 85% 이상의 예측 정확도를 보이며 다이캐스팅 공정에서 데이터 기반 결함 예측과 원인 규칙 도출을 통해 품질 개선과 공정 운영 효율화 가능성을 실증하였다(Kim et al., 2020). 고압 다이캐스팅 공정에서 발생하는 균열과 같은 표면 결함을 실시간으로 예측하기 위해 이미지 기반 픽셀 분류 기법과 Random Forest 모델을 적용하고, 이를 CEP 기반 경량화 구조로 구현하여 99.99%의 높은 정확도로 표면 결함 위치 및 형태를 예측하여 실시간 품질 모니터링에 기여하는 경량화된 품질 예측 프레임워크를 제안되었다(Chakracarti et al., 2021). 다이캐스팅 공정의 이상 탐지하기 위해 시계열 데이터를 이미지로 변환한 뒤 생성 모델인 VAE-RaPP 및 Fence GAN을 적용한 반지도학습 기반 이상 탐지 기법을 제안하였다. 정상 데이터만으로 학습한 모델이 재구성 오차를 기반으로 이상을 탐지함으로써, 실제 주조 공정 데이터에서 높은 탐지 성능을 보이며 산업 적용 가능성을 검증하였다(Song et al., 2023).

주조 공정에서의 결함률은 용탕 온도와 압력 등 공정 변수의 변화에 따라 크게 달라지는 것으로 보고되었다(Lee et al., 2006). 이러한 이유로 최근에는 공정 조건을 최적화하여 결함을 저감하려는 다양한 연구가 활발히 진행되고 있다. 다이캐스팅 공정에서의 표면 결함을 정량화하는 평가 시스템을 구축하고, ANN을 통해 결함 지수와 공정 변수 간 상관관계를 모델링하여 최적 조건에서 결함을 효과적으로 저감할 수 있음이 제시되었다(Zheng et al., 2009). 또한, 연속 주조 과정 중 슬리브의 두께를 제어하는 것에 PCA와 오토인코더를 결합한 모델을 적용하여 결함을 효과적으로 감지할 수 있음이 보고되었다(Han & Liu, 2024). 국내의 주조 산업은 중소기업인 경우가 대다수인 반면에 데이터를 수집과 라벨링 작업에는 많은 비용이 필요하다. 그렇기 때문에 주조 공정에서는 해당 비용을 절감하는 대안을 제시하고 있다. 주조 조건 데이터를 기반으로 Isolation Forest와 K-means 알고리즘을 이용하여 양불 라벨링 작업을 진행하고 최적의 모델을 적용하여 실시간으로 모니터링 작업이 가능함이 확인되었다(박철순·김흥섭, 2022). 시계열 데이터의 지문화 이미지 변환 후 입력된 이미지의 형태 변환을 통해 얻은 자가 라벨 데이터로 학습하여 정상 여부를 판단하는 geometric transformation 기반 이상 탐지 알고리즘이 제안되었으며, 이를 통해 데이터 부족 문제를 해결할 수 있음이 확인되었다(이정수·이영철, 2021).

2.3 공정 변수 최적화와 운영 의사결정 연구

제조 공정에서는 결함 발생 여부를 예측하는 데 그치지 않고 주요 공정 변수의 조정을 통해 품질을 향상시키기 위한 최적화 연구가 다양하게 진행되고 있다. A380 알루미늄 합금의 압력 다이캐스팅 공정에서 응고 시간, 용융 온도, 접종 압력, 충전 시간, 플런저 속도를 주요 변수로 설정하고, Taguchi 실험계획에 기반한 fuzzy logic model과 genetic algorithm을 결합하여 결함률 최소화를 위한 최적 공정조건을 도출하였다. 기존 Taguchi 방법 대비 배치당 결함률을 8.29%에서 4.83%로 낮춤으로써 데이터 기반 최적화와 주조 결함 절감에 기여할 수 있음을 보여주었다(Gupta et al., 2021). 국내 중소 다이캐스팅 기업 두 곳의 IoT 기반으로 수집된 공정 데이터를 이용하여 경험에 의존하던 casting parameter 관리를 머신러닝 기반으로 전환하고 최적 품질 분류 모델을 구축하였다. preprocessing, PCA, logistic regression, ensemble, ANN을 비교한 결과 구조화된 data에서는 전통적 머신러닝 모델이 더 우수할 수 있음을 보였으며, 기업별로 서로 다른 중요 변수가 도출된다는 점에서 범용 모델보다 제품과 현장별 맞춤 모델의 필요성을 강조하였다(Park & Youm, 2023). 대규모 데이터 확보가 어려운 실제 제조 환경을 고려하여 소량 데이터로 공정 최적화 연구가 수행되었다. squeeze casting 공정 최적화를 위해 기존 Latin hypercube sampling에 cKDTree 기반 최근접 탐색을 결합한 revised Latin hypercube sampling(RLHS)를 통해 이산형 공정 설계 공간에서 유효한 샘플링을 수행하고, 이를 Bayesian optimization과 결합하여 25개의 초기 샘플과 6회의 추가 실험만으로 최적 공정을 도출하였다. 그 결과 초기 데이터셋 대비 품질로 정의된 최대 인장강도와 연신율이 초기 데이터셋 대비 각각 17.6%와 18.4% 향상되었다(Pei et al., 2025).

더 나아가 실제 생산 현장의 운영 판단과 관리 전략 수립에 활용하려는 방향으로 확장되고 있다. 제조 현장에서 데이터가 대량으로 생성되고 있음에도, 이를 실제 의사결정으로 연결하는 체계는 아직 충분히 확립되지 않았다. 이에 IoT·CPS·빅데이터·머신러닝을 통합한 manufacturing stage, sensing stage, data stage, knowledge stage, decision stage, application stage의 6단계로 구성된 데이터 기반 의사결정 프레임워크를 제안하였다. 미시간대학교의 CNC 밀링 머신 데이터셋을 이용한 사례연구를 통해, Random Forest와 Decision Tree 기반 모델을 적용한 결과 가공 완료 예측 정확도는 99.98%, 공구 상태 예측 정확도 99.46%를 달성하였다(Ojha et al., 2024). 다단계 제조 시스템에서 전체 공정 체인에 걸친 데이터 기반 품질 관리를 지원하기 위한 디지털화 플랫폼이 제안되었다. 해당 연구에서는 체계적 문헌 검토를 통해 단일 공정 중심의 고립된 IT 솔루션이 공정 제품 상호작용을 충분히 반영하지 못한다는 한계를 지적하였다. 이를 바탕으로 data acquisition, data storage, data analytics, data visualization의 4계층 아키텍처와 마이크로서비스 구조를 갖춘 플랫폼을 설계하였다. PCB 조립 전자 생산 사례에 적용하여 중간 제품 클래스 군집화, 제품 특성 전파 분석, 실시간 분류 모델을 구현하여 Sankey 다이어그램으로 시각화함으로써 제품 특성의 공정 간 전파를 추적하고 유연한 검사 전략 수립 가능성을 제시하였다(Filz et al., 2024).

3.1 프레임워크 개요

본 연구에서는 주조 공정의 이상을 감지하고 이를 방지하기 위한 최적의 공정 변수 범위를 도출하는 프레임워크를 구축하였다. 제안 프레임워크는 네 가지 단계로 구성되며, 각 단계는 이전 단계의 결과를 바탕으로 다음 단계로 발전하는 방식으로 유기적으로 연결되어 있다. 프레임워크의 구조는 Figure 1에 소개되어 있으며 구체적으로, 데이터 전처리, 이상 탐지 모형 정의, 주요 변수 식별, 변수 최적화 및 정상 범위 추정의 단계를 포함한다.

Figure 1

Overall structure of the explainable anomaly detection framework for casting processes.

첫 번째 단계인 데이터 전처리는 센서 기반 다변량 공정 데이터를 대상으로 분석에 앞서 데이터 신뢰도를 확보하는 과정이다. 결측치(missing value)는 모델 학습을 왜곡할 수 있어 사전에 제거하였으며, 극단값(outlier)은 센서 오류, 데이터 입력 오류 등 공정 외부 요인에 의해 발생한 값일 가능성이 높다고 판단하여 제거하였다. 이 과정을 통해 생성된 정제된 데이터는 이후 이상 탐지 모델의 학습 안정성과 탐지 정확도를 높이는데 중요한 기반으로 활용된다.

전처리를 마친 데이터를 기반으로, 두 번째 단계에서는 이상 탐지 모형을 정의한다. 본 프레임워크에서는 이상 탐지 알고리즘으로 Isolation Forest를 채택하였다. Isolation Forest는 비지도 학습 기반의 기법으로, 데이터 분포 내에서 쉽게 고립되는 이상값의 특성을 활용하여 각 샘플의 이상 점수를 산출한다.

계산된 이상 점수를 기반으로 세 번째 단계에서는 SHAP(SHapley Additive exPlanations) 값을 도출하여, 이상 상태에 영향을 미친 주요 공정 변수를 식별한다. SHAP는 협력 게임 이론에 기반하여 각 변수의 기여도를 정량적으로 계산함으로써, 블랙박스 형태의 모델 예측 결과를 해석 가능하게 만들며, 이를 통해 이상 탐지 모델의 이상 점수 산출에 크게 기여하는 변수들을 체계적으로 선별할 수 있다. 이처럼 도출된 주요 변수는 단순한 변수 중요도 순위를 제시하는 것에 그치지 않고, 이상 상태와 직접적으로 연관된 우선 관리 후보 변수로 활용될 수 있으며, 후속 단계의 최적화 대상 변수를 결정하는 근거로 기능한다.

마지막 단계에서는 식별된 주요 변수를 중심으로 실질적인 공정 제어 가능성을 확보한다. 이를 위해, 앞서 선정된 주요 변수만을 입력으로 하여 이상 탐지 모형을 재학습시키고, 해당 모형의 출력을 목적 함수로 설정하여 유전 알고리즘(Genetic Algorithm, GA)을 적용한다. GA는 선택, 교차, 변이 연산을 반복적으로 수행하면서 다양한 변수 조합을 광범위하게 탐색하고, 이를 통해 이상 발생 가능성이 가장 낮은 최적의 변숫값 혹은 정상 운전 범위를 도출한다. 이와 같은 일련의 절차를 통해 본 프레임워크는 데이터 기반의 정량적 기준에 따라 품질 이상을 사전에 방지할 수 있는 공정 변수 설정 가이드를 제시하며, 실제 현장에서 활용 가능한 의사결정 지원 도구로서 기여할 수 있다.

3.2 이상 탐지 모델

센서 기반으로 수집된 주조 공정 데이터는 변수 차원이 높고 샘플 수가 방대한 특성을 갖는다. 이러한 고차원 대용량 데이터 환경에서는 계산 복잡도가 낮으면서도 이상치 탐지에 특화된 알고리즘의 활용이 요구된다. Isolation Forest는 트리 기반의 데이터 분할 방식을 통해 선형에 가까운 연산 복잡도를 유지하며, 고차원 공간에서의 이상치 탐지에 있어서도 안정적인 성능을 제공하기 때문에, 본 연구의 분석 목적에 적합한 알고리즘으로 채택되었다(Liu et al., 2008).

Isolation Forest는 이상치가 데이터 내 소수이며 분포로부터 이탈해 있다는 가정하에서, 적은 수의 분할만으로 고립될 수 있다는 원리에 착안하여 고안된 알고리즘이다. 이 알고리즘은 데이터를 무작위로 분할하면서 이진 트리 구조인 Isolation Tree(iTree)를 구성하며, 여러 개의 iTree로 이루어진 집합인 Isolation Forest(iForest)를 형성한다. 각 데이터 포인트는 트리의 뿌리 노드에서 시작하여 무작위로 선택된 조건에 따라 반복적으로 분기되며, 더 이상 분할이 불가능해지는 지점에서 말단 노드에 도달한다. 이때, 이상치는 적은 수의 분할로도 고립되므로 평균 경로 길이가 짧고, 정상치는 더 많은 분할이 필요하여 긴 경로 길이를 갖는다. Figure 2는 이러한 경로 길이의 차이를 바탕으로 이상치를 식별하는 Isolation Forest의 이상 탐지 과정을 시각화한 것이다.

Figure 2

Isolation Forest for Anomaly Detection.

Figure 2에 제시된 구조를 바탕으로 Isolation Forest의 작동 절차를 세부적으로 기술하면 다음과 같다. iTree는 주어진 데이터에서 무작위로 일부 관측치를 선택한 뒤, 각 iTree를 구성하는 과정에서 매 분할마다 무작위로 변수와 분할값을 선택하여 데이터를 이진 분할한다. 예를 들어, 주조 공정 데이터를 대상으로 금형 온도가 선택되고 임곗값이 200°C으로 설정되면, 해당 조건을 기준으로 데이터를 두 집단으로 나눈다. 이와 같은 방식으로 데이터를 반복 분할하여, 특정 데이터 포인트가 더 이상 분할되지 않고 단말 노드에 도달하며 하나의 트리가 구성된다. 이와 같은 트리를 여러 개 생성하여 iForest 구성한다.

이상치는 전체 데이터에서 소수이며 전체 데이터 공간 중 일부 작은 영역에 모여있기 때문에 iTree에서 비교적 적은 수의 분할만으로 고립되는 경향이 있다. 반면, 정상치는 다른 데이터 포인트와 유사한 패턴을 가지므로 고립되기까지 상대적으로 더 많은 분할이 필요하며, 이로 인해 iTree 내에서 더 긴 경로를 형성한다. 따라서, 각 데이터 포인트에 대해 트리에서 고립되기까지의 평균 경로 길이를 계산하고, 이를 기반으로 이상 점수를 산출하여 이상치를 식별한다(Liu, Ting, & Zhou, 2008). 이 이상 점수 s (x, n)는 주조 공정에서 수집된 센서 데이터에 기반해 각 공정 상태의 이상 여부를 정량적으로 평가하는 식으로, 수식 (1)과 같이 정의된다.

수식 (1)에서의 x는 이상 점수를 계산하고자 하는 특정 데이터 포인트이자 공정 데이터에서의 하나의 관측값(행)을 의미하며, n은 iTree를 구성할 때 사용된 데이터의 수이자 공정 데이터 셋에서 무작위로 선택된 관측치의 개수를 나타낸다. h(x)는 주어진 데이터 포인트인 x가 iForest를 구성하는 하나의 iTree 내에서 단말 노드에 도달할 때까지 거치는 경로 길이를 의미한다. 이때, E (h(x))은 동일한 데이터 포인트 x에 대해 여러 개의 iTree에서 측정된 경로 길이들의 기댓값으로, x가 전체 트리 구조에서 얼마나 쉽게 고립되는지를 평균으로 나타내는 지표이다.

한편, 트리의 구조상 트리에 사용된 데이터의 수가 많아질수록 트리의 깊이도 함께 증가하며, 평균 경로 길이인 E (h(x))도 증가하는 경향이 있다. 이처럼 트리를 구성할 때 사용된 데이터 수에 따라 경로 길이의 기댓값이 달라질 수 있기 때문에, 이를 보정하지 않으면 서로 다른 트리에서 나온 이상 점수들의 비교가 불가능해진다. 따라서, 이상 점수를 데이터 수에 무관하게 비교 가능하도록 c (n)을 사용하여 정규화한다. 이때, c (n)은 트리에 사용된 데이터 수인 n에 따라 달라지는 정규화 상수로 수식 (2)와 같이 정의된다.

수식 (2)에서, H (i)는 i번째 조화수의 근사식이며, γ는 오일러 상수이다. 해당 수식은 무작위로 구성된 이진 트리에서 n개의 데이터 포인트가 존재할 경우, 평균적으로 고립되기까지의 기대 경로 길이를 근사한다. 즉, E (h(x))는 각 데이터 포인트가 여러 개의 iTree에서 실제로 측정된 경로 길이의 평균값이고 c (n)은 트리를 구성할 때 사용된 데이터 수 n에 따라 계산된 이론적인 기대 경로 길이이다. 이러한 정규화 상수를 수식 (1)의 분모에 포함함으로써, 데이터 크기에 관계없이 모든 데이터 포인트의 이상 여부를 공정하게 평가할 수 있도록 한다.

이와 같이 계산된 이상 점수 s (x,n)는 항상 0과 1 사이의 값을 가지며 수식 (3)과 같이 해석된다.

수식 (3)에서, 데이터 포인트 x가 비교적 얕은 깊이에서 고립되면 E (h(x))가 c (n)보다 작아지고, 이상 점수 s(x,n)은 1에 가까워진다. 이러한, 성질은 해당 데이터 포인트가 이상치일 가능성을 강하게 시사한다. 반대로, s(x,n)이 0에 가까울수록, 해당 데이터 포인트는 iTree에서 고립되기까지 긴 경로를 내려가야 하는 정상치일 가능성이 높다고 해석된다.

3.3 공정 이상 주요 변수 도출

SHAP는 게임 이론의 Shapley 값을 기반으로, 예측 모델의 출력값을 각 입력 변수의 기여도로 분해하는 설명 기법이다. 이러한 특성은 모델의 복잡성과 무관하게 모델의 결과를 해석 가능하게 하며, 복잡한 모델이 요구되는 대용량 데이터에서 적합한 해석 도구로 사용된다.

Shapley 값은 모델이 계산한 이상 점수에 대해서 특정 변수 j가 포함된 경우와 포함되지 않은 경우의 예측값 차이를 기반으로 모든 변수 조합에 대해 평균적으로 계산한 값으로, 변수 j가 기여한 정도를 나타낸다. 변수 j에 대한 Shapley 값인 ϕ_j는 수식 (4)로 정의된다.

이때, 수식 내에서 사용된 각 기호는 다음과 같은 의미를 갖는다. 먼저, N은 전체 변수 집합의 크기를 나타내며, S ⊆ N＼j는 변수 j를 제외한 전체 변수 집합에서 선택 가능한 모든 부분집합, 즉 변수 j가 포함되지 않은 상태에서의 변수 조합을 의미한다. f (S ∪ {j})는 부분집합 S에 변수 j를 추가한 상태에서의 조건부 예측 기댓값, f (S)는 변수 집합 S만을 입력으로 하여 계산한 조건부 예측 기댓값이다. 즉, f (S ∪ {j}) - f (S)는 변수 j를 추가했을 때 예측값이 평균적으로 얼마나 달라지는지를 나타낸다. 마지막으로, S!(N-S-1)!N!는 가능한 모든 변수 순열에서 해당 부분집합 S가 등장할 순열상의 확률을 의미한다. 이때, |S|!는 부분집합인 S 의 변수들이 등장할 수 있는 모든 순열의 수, (|N|-|S|- 1)!는 나머지 변수들이 S 이후에 배치될 수 있는 순열의 수를 의미한다. 이를 전체 경우의 수인|N|!으로 나누어 줌으로써, 가능한 모든 변수 등장 순서에 대해 공정하게 기여도를 분배할 수 있도록 한다. 결과적으로, SHAP 값은 변수 j가 예측값에 얼마나 기여했는지를, 모든 가능한 변수 조합에 대해 조건부 기댓값의 차이를 평균하여 계산한 값이다.

수식 (4)는 변수 j의 기여도를 계산하기 위해 변수 j를 포함하지 않은 모든 부분집합 S ⊆ N＼j에 대해 조건부 기댓값 f (S ∪ {j})와 f (S)를 반복적으로 계산하는 방식을 취한다. 그러나 가능한 부분집합의 개수는 2^|N|-1개이므로 지수적인 수의 계산이 필요하다. 특히, 모델 f에 대해 부분집합 S 만 알고 있는 조건에서의 예측 기댓값인 f (S)을 계산하기 위해 일반적으로는 모델을 반복적으로 실행하거나, 샘플링 기반의 근사계산을 수행해야 하며, 전체 계산량은 결과적으로 O (2^|N|)수준으로 증가한다.

이러한 계산 효율성과 구조적인 제약을 해결하기 위해, Lundberg et al(2019)은 Tree SHAP 알고리즘을 제안하였다. Tree SHAP는 SHAP의 수식 구조는 그대로 유지하면서 트리 모델의 구조적 특징을 이용하여 f (S)를 효율적으로 계산한다. 구체적으로, 트리 구조에서는 각 노드가 하나의 변수를 기준으로 좌우로 분기된다. Tree SHAP는 이 구조를 활용하여 특정 변수 j가 없는 경우에도 해당 노드에서 학습 데이터가 좌우 자식 노드로 분기된 비율을 기반으로 확률적 분기를 수행한다. 이후 나뉜 경로마다 단말 노드에 도달할 확률과 예측값을 곱해 평균함으로써 최종 조건부 기댓값을 근사한다. 즉, Tree SHAP는 트리 내의 경로를 따라 각 변수 j의 포함 여부에 따른 분기 확률만을 추적함으로써 전체 계산 복잡도를 지수적 수준에서 O (T ⋅L⋅D²)수준으로 감소시키며, 해당 복잡도에서 T는 트리의 수, L은 각 트리의 단말 노드의 수, D는 트리의 최대 깊이를 의미한다. 이와 같이 Tree SHAP는 트리 구조에 최적화된 방식으로 기존의 방식보다 빠르고 정확하게 계산할 수 있으며, SHAP의 세 가지 속성인 지역 정확성(local accuracy), 결측성(missingness), 일관성(consistency)을 만족함으로써 예측 결과에 대한 신뢰성 있는 변수 기여도 해석을 제공한다(Lundberg et al., 2019). 이러한 특성은 Isolation Forest와 같은 트리 기반 이상 탐지 모델이 출력한 이상 점수에 대해서도 효과적으로 적용될 수 있다. 이를 통해 개별 공정 변수가 공정 이상에 미치는 영향을 정량적으로 평가할 수 있으며, 실제 이상 원인 추적과 공정 개선 방향 도출에 기여할 수 있다.

3.4 공정 변수 최적 조건 도출

본 연구에서는 이상 탐지 모델과 SHAP를 이용해 주요 변수들을 식별한 후, 해당 변수들이 어떤 값을 가질 때 이상 점수가 최소화되는지를 찾기 위해 유전 알고리즘을 활용했다. 유전 알고리즘(Genetic Algorithm, GA)은 생물의 유전 방법을 착안한 최적화 기법으로, 유전자 교차와 같은 연산을 통해 해를 결합하고 반복적인 세대교체를 통해 더 나은 해를 탐색하는 것이다. 이 알고리즘은 초기 해집단을 무작위로 생성하고, 이들 개체에 대해 선택, 교차, 돌연변이 등의 연산을 반복적으로 수행하면서 더 나은 해를 탐색한다. 이때, 선택은 적합도가 높은 개체를 우선적으로 다음 세대로 전달하는 과정이며, 교차는 두 개체의 유전 정보를 조합해 새로운 해를 생성하는 과정이다. 돌연변이는 일정 확률로 개체의 일부를 임의로 변화시켜 해 공간의 다양성을 확보하고 지역 최적해에 수렴하는 것을 방지한다(유성민, 2016).

본 연구에서의 유전 알고리즘은 Isolation Forest 기반 이상 점수를 목적 함수로 활용하여 이상 점수를 최소화하는 방향으로 해를 탐색한다. 이러한 원리에 기반하여 본 연구는 정상 상태에 가까운 공정 조건을 역추적함으로써, 구체적이고 실질적인 공정 제어 기준을 제안한다. 최적화 과정은 다음과 같은 단계로 수행된다.

4.1 데이터 정의 및 전처리

본 연구에서 활용한 데이터는 자동차 내연기관 부품을 생산하는 주조 설비의 PLC(Programmable Logic Controller)로부터 수집된 주조 공정 데이터이다. 데이터는 2019년 1월 2일부터 2019년 3월 31일까지 약 3개월간 수집되었으며, 테이블 형태의 구조화된 데이터로 총 92,015개의 행과 31개의 열로 구성되어 있다. 해당 데이터 셋에는 작업라인, 수집 시간 등 생산 이력 정보뿐만 아니라, 가동 여부, 비상 정지 여부 등의 운전 상태 변수, 그리고 용탕 온도, 주조 압력, 금형온도 등과 같은 센서 기반의 계측값 및 공정 변수들이 포함되어 있다.

주조 공정 데이터를 포함한 산업용 시계열 혹은 센서 데이터에서는 센서의 기기 결함 또는 데이터 입력 과정에서의 오류 등 다양한 원인으로 인해 일부 데이터값이 누락되거나 비정상적인 값이 기록될 수 있다. 누락된 데이터는 결측치로 정의되며, 트리 기반 모델에서 분기 조건을 정의할 수 없게 만들어 예측 경로가 불안정해지고 모델의 성능을 저해시킨다. 데이터 분포에서 크게 벗어난 관측값은 극단값으로 정의되며, 트리 기반 모델에서 단말 노드의 예측값을 치우치게 만들어 모델의 일반화 성능을 저하시키고, 이상 탐지 모델에서 swamping 또는 masking 현상을 유발하여 탐지 정확도를 크게 저해시킨다. 따라서 모델의 안정성과 신뢰성 확보를 위해 데이터 분석의 사전 단계로서 결측치와 극단값의 적절한 처리가 요구된다.

Scheffer(2002)는 결측치 비율이 50%가 넘어가는 데이터의 경우에는 보간 방식으로 처리하더라도 분석 성능 향상에 유의미한 효과가 없음을 보고하였으며, Graham(2009)은 결측치 비율이 5% 미만일 경우에는 데이터를 제거하더라도 발생하는 편향이 무시할 수 있는 수준임을 보고하였다. 이에 따라 본 연구에서는 결측치 비율이 50%를 초과하는 변수를 제거하였고, 이후 전체 데이터의 결측치 비율이 약 2.8%로 나타나 결측치가 포함된 행을 삭제하여 결측치를 처리하였다.

극단값은 사분위수 범위(IQR)를 이용하여 탐지하였다. IQR 방법은 데이터 분포를 기준으로 정상 범위를 설정하고, 해당 범위를 벗어나는 관측값을 통계적으로 식별하는 방법이다. 본 연구에서는 검출된 극단값을 단순 제거 시 정보 손실의 우려가 있기 때문에, 각 변수의 분포 특성을 고려하여 평균 또는 중앙값 기반의 보간값으로 대체하였다.

이후, 변수 간 단위 차이로 인해 모델 학습 시 편향이 발생하는 것을 방지하기 위해 Min-Max Scaling을 사용하여 모든 변숫값을 0과 1 사이의 범위로 정규화하였다. 이를 통해 변수 간 상대적 크기의 차이를 해소하고, 모델의 일반화 가능성을 높였다.

4.2 이상 탐지 모형 학습

이상 탐지 모형의 학습을 위해서는 우선 데이터의 시계열적 특성과 활용 방안을 검토할 필요가 있다. Figure 3에 제시된 일별 이상치 비율을 분석한 결과, 이상치 발생 비율은 특정 시점 이후 시계열적 추세(Trend)를 보이거나 급격히 증가하거나 감소하는 경향을 보이지 않았으며 전 기간에 걸쳐 무작위적이고 균일한 분포(Uniformly distributed)를 나타내는 것으로 관찰되었다. 이러한 통계적 관찰에 근거하여 본 연구에서는 Isolation Forest(IF) 모델의 학습을 위해 특정 시계열 구간을 선별하지 않고 전체 학습 데이터셋을 활용하였다. 데이터의 균질성은 모델이 편향 없이 공정의 정상 상태를 포괄적으로 학습할 수 있도록 하며, 이상치를 고립시키기 위한 분할 경로의 객관성을 확보하는데 기여한다.

Figure 3

Daily anomaly rate in the casting process

Isolation Forest(IF) 모델을 활용하여 이상치 점수를 산출하기 위해서는, 다른 기계학습 기반 모형과 마찬가지로 하이퍼 파라미터 설정이 필수적이다. 특히 contamination rate은 실제 데이터 내 이상치 비율을 반영하는 핵심 요소로, 해당 값의 적절한 설정 여부가 모형 성능에 직접적으로 영향을 미친다고 알려져 있다. 선행 연구에서는 contamination rate를 실제 불량률에 일치시킬 경우 분류 정확도가 유의하게 향상됨을 보고하였다(박철순 & 김홍섭, 2022). 이에 따라 본 연구에서는 contamination rate를 공정 데이터의 실제 불량률인 0.04로 고정하였다. n_estimators, max_samples, max_features와 같은 다른 주요 하이퍼 파라미터는 폭넓은 후보 값을 설정한 후 전수 탐색(grid search) 방법을 통해 결정하였다. 각 조합에 대해 전체 데이터를 기반으로 F1-score를 산출하였으며, 최종적으로 가장 높은 성능을 보인 조합을 최적 파라미터로 선정하였다.

최적화된 하이퍼 파라미터를 적용한 Isolation Forest 모델은 Python 기반 Scikit-learn 모듈을 이용하여 구현하였다. 본 연구에서의 이상 점수(anomaly score)는 Scikit-learn의 decision_function()으로 산출된 값으로, Isolation Forest의 이론적 이상 점수와 달리 0을 기준으로 음수이면 이상 관측치, 양수이면 정상 관측치로 판정된다. 이를 바탕으로 관측치별 anomaly score를 산출하고, Figure 4와 같이 시간 순서에 따라 시각화하였다. 또한 모델의 정량적 성능 평가는 Table 1에 요약하였다. 정상 클래스에 대한 F1-score는 0.98로 매우 높은 성능을 보였으며, 불량 클래스에 대해서는 F1-score가 0.68으로 나타났다. 전처리 전 불량 비율이 4.36%에 불과한 극심한 클래스 불균형 환경에서, 라벨 정보 없이도 불량 데이터를 일정 수준 이상 효과적으로 식별할 수 있음을 보여준다. 다만, 정상 클래스에 비해 불량 클래스의 recall이 상대적으로 낮게 나타났으며, 이는 실제 불량 일부가 정상으로 분류되는 missed detection의 가능성을 의미한다. 따라서 이에 대한 개선 방안은 결론에서 별도로 논의한다.

Figure 4

Anomaly score monitoring chart based on Isolation Forest.

Table 1

Performance evaluation results of Isolation Forest for anomaly detection

4.3 핵심 공정 변수 발견

이상 탐지 결과에 주요 영향을 미치는 공정 변수를 식별하기 위해 학습된 Isolation Forest 모델에 대해 SHAP 값을 산출하였다. Figure 5는 관측치별 SHAP 값의 절댓값을 변수별로 평균하여 나타낸 전역 중요 변수 중요도를 시각화한 결과이다. SHAP 값이 클수록 해당 변수가 이상 탐지 모델의 출력에 큰 영향을 미쳤음을 나타낸다. 분석 결과, 상금형온도3(upper_mold_temp3), 슬리브온도(sleeve_temperature), 상금형온도1(upper_mold_temp1), 냉 각수온도(Coolant_temperature) 등의 온도 관련 변수가 높은 SHAP 값을 나타내었으며, 이는 해당 변수들이 이상 점수 산출 과정에서 큰 영향을 가졌음을 보여준다. 이러한 결과는 금형 온도 관련 변수가 이상 상태와 연관된 우선 관리 후보일 가능성을 시사하며, 실제 공정 수준에서의 인과적 역할에 대해서는 추가적인 실험적 검증이 필요하다. 다만 금형 온도 제어가 결함 저감과 관련될 수 있다는 점은 선행 연구에서도 보고된 바 있어 (김성우 외. 2013), 본 연구에서 도출된 변수 중요도 결과는 기존 연구와 일정 부분 부합한다고 볼 수 있다. 따라서 상위 SHAP 기여 변수는 실제 공정에서 우선적으로 모니터링하거나 제어 전략 수립 시 우선 검토해야 할 관리 변수로 활용될 수 있다.

Figure 5

Feature importance based on SHAP values.

4.4 핵심 공정 변수 최적화 및 제어 기준 확립

이상 점수를 최소화하는 최적 변수 조합을 알아내기 위해 유전 알고리즘을 적용하였다. 앞서 SHAP 값을 이용해 찾아낸 상위 10개 주요 변수에 대해 유전 알고리즘을 사용하여 이상 점수를 최소화하는 각 변수별 최적값을 도출하였다.

본 연구에서 사용한 데이터는 고차원 변수를 포함하고 있으며, 이상치 비율이 불균형하게 분포되어 있다. 이러한 특성을 고려할 때, GA 탐색 과정은 해 공간이 넓고 지역 최적해에 수렴할 가능성이 크므로, 파라미터 설정에서 탐색의 폭과 안정성이 동시에 확보될 필요가 있다. 이에 따라 최대 반복 횟수를 500으로 설정하였다. 유전 알고리즘에서 1회의 반복은 선택, 교차, 돌연변이 연산을 거쳐 새로운 한 세대에 해당하므로, 이는 최대 세대 수를 500으로 설정한 것을 의미한다. 또한. 초기 해집단 크기를 200으로 설정하여 다양한 변수 조합이 고려되도록 하였다.

Figure 6은 반복 횟수에 따른 목적 함수값의 변화 양상을 나타낸 그래프로, 목적 함수값은 초기에 급격하게 감소하다 200회 반복 이후에는 개선 폭이 둔화되며 수렴하는 경향을 보였다. 이후 500회까지의 개선 폭은 상대적으로 작았으나 탐색을 지속함으로써 충분한 수렴 여부 확인과 국소 최적해 탈출 가능성을 확보하고자 하였다.

Figure 6

The convergence of the fitness function value across iterations

또한, 불균형 데이터에서 발생할 수 있는 조기 수렴 문제를 완화하기 위해 돌연변이 확률을 0.2로 설정하여 해공간의 다양성을 유지하였다. 교차 확률은 0.5로 설정하여 탐색의 균형을 유지하였으며, 상위 개체를 다음 세대로 보존하는 엘리트 비율을 0.01로 하여 우수한 해가 유지되도록 하였다. 부모 개체 선택 비율은 0.3으로 설정하여 탐색 과정의 안정성과 다양성을 동시에 확보하였다. 교차 연산의 방식으로는 uniform crossover 방식으로 수행되었고, 개선 없는 반복에 따른 조기 종료 조건은 설정하지 않았다. 무작위성 통제를 위해 시드값 42를 고정하여 재현성을 확보하였다. 본 연구에서는 Python 기반 Scikit-learn 모듈을 사용하여 GA를 진행하였다.

실제 제조 공정에서는 공정 조건을 단일 값으로 고정하여 제어하는 것이 이상적일 수 있으나, 이는 관리 비용의 증가와 현장 적용상의 유연성 부족이라는 문제를 수반한다(박주남, 2021). 또한 온도, 압력 등 주요 공정 변수는 환경 요인, 장비 상태, 원자재 특성에 따라 필연적으로 변동성을 가지며, 이러한 변동성을 무시한 단일 최적값 제시는 현실적인 적용 가능성이 낮다. 따라서 본 연구에서는 유전 알고리즘을 통해 도출된 단일 최적값을 절대적 기준으로 제시하는 대신, 최적값을 중심으로 다양한 변동 정도를 고려하여 정상률을 계산하였다.

이를 위해 먼저 각 변수에 대한 실제 공정 데이터의 분포를 분석하여 변수별 최솟값, 최댓값 및 분위수 기반 범위를 확인하였다. 이후 유전 알고리즘을 통해 도출된 최적값을 기준으로 ±3%, ±6%, ±8%, ±9% 범위를 설정하고 해당 범위가 실제 데이터 분포 내에 포함되는지 여부를 검토하였다. 만약 설정된 범위가 실제 관측된 데이터 범위를 벗어나는 경우에는 해당 범위를 그대로 사용하는 대신, 공정상 허용 가능한 제약 조건을 반영하여 범위를 재조정하였다.

이와 같이 현실적 제약이 반영된 범위 내에서 각 변수의 값을 무작위로 조합하여 1,000개의 샘플을 생성하였으며 생성된 샘플을 SHAP 기반 주요 변수로 구성된 Isolation Forest 모델에 입력하여 이상 점수를 계산하였다. 이상 점수가 0 이상일 경우 정상, 0 미만일 경우 비정상으로 판정하였으며, 각 범위에서 정상으로 분류된 샘플의 비율을 정 상률로 정의하였다. 이를 통해 실제 공정 환경에서 발생 가능한 변동성을 고려한 견고한(robust) 최적 운전 범위를 도출하고자 하였다. 이러한 접근은 공정 제어가 단일 목표값의 추종에 그치지 않고, 일정 수준의 변동성 하에서도 품질 안정성을 유지할 수 있는 유연한 제어 전략 수립에 기여할 수 있다.

Figure 7은 각 범위에서 생성된 샘플들의 이상 점수 분포를 히스토그램 형태로 시각화한 결과이다. 각 그래프의 수직 점선은 이상과 정상을 구분하는 기준을 나타내며 점수가 오른쪽(예, 양의 이상치 점수)에 몰려 있을수록 해당 범위 내 샘플이 정상으로 판단될 가능성이 높다는 것을 의미한다. ±3% 범위에서는 정상률이 100.00%로 가장 높았고, ±6% 범위에서는 95.90%, ±8% 범위에서는 84.70%, ±9% 범위에서는 76.00%으로 점진적으로 감소하였다. 이에 따라, ±3% 범위 이내를 각 변수의 적절한 운영 범위로 설정하였으며 Table 2는 유전 알고리즘을 통해 도출된 각 변수의 최적값을 기준으로 ±3% 허용 범위 내에서의 최솟값과 최댓값을 정리한 결과이다. 이는 변동 허용성을 확보하면서도 공정의 정상 상태를 유지할 수 있는 관리 기준으로서 실질적인 활용 방안을 제시한다.

Figure 7

Distribution of anomaly scores within each ±n% range around the optimal feature values derived from genetic algorithm.

Table 2

Operating ranges for top 10 key features.

5.1 주요 결과 및 기여

본 연구는 다이캐스팅 공정에서 발생하는 내부 결함 문제를 해결하기 위해 이상 탐지와 공정 변수 해석, 그리고 공정 변수 최적화 과정을 통합한 데이터 기반 공정 품질 향상 프레임워크를 제안하였다. Isolation Forest를 적용하여 샘플 별 이상치 점수를 산출하고, Tree SHAP를 통해 이상에 유의한 영향을 미치는 핵심 공정 변수를 사전 지식없이 자동으로 선별하였다. 이후 도출된 주요 변수들을 대상으로 유전자 알고리즘을 적용하여, 결함 발생 가능성을 최소화하는 최적의 변수 조합을 탐색하였다. 마지막으로 다양한 공정 변화 수준에서 정상률을 비교, 평가함으로써, 현실적인 공정 변동성을 포함한 조건에서 신뢰성 높은 공정 변수의 최적 제어 기준을 마련하였다.

제안 프레임워크는 과거 공정 데이터를 기반으로 이상 징후를 탐지하고, 모델이 이상 상태를 판단하는 데 중요하게 활용한 변수와 최적 운영 조건 후보를 도출함으로써 이상 상태와 연관된 공정 변수를 식별하고 운영 개선 방향을 제시할 수 있도록 한다. 특히, 고비용의 AI 솔루션 도입이 어려운 중소 제조기업도 기존 설비 데이터를 활용하여 복잡한 시스템 없이 점진적으로 자율 제조 환경을 실현할 수 있다는 점에서 실용적인 의의가 있다. 향후 공정 데이터를 실시간으로 수집하고 분석하는 체계와 연계될 경우, 본 연구에서 구축한 분석 절차는 조선, 이차전지, 철강 등 다양한 금속 기반 제조 산업으로 확장 가능하며, 산업 전반의 생산성 향상에 기여할 수 있을 것으로 기대된다.

5.2 한계 및 향후 연구

본 연구는 다음과 같은 한계를 가진다. 첫째, 본 연구에서 사용된 데이터는 불량률이 4.36% 수준으로 매우 낮은 극심한 클래스 불균형 특성을 가진다. 일반적으로 제조 데이터에서는 정상 데이터가 대부분을 차지하고 불량 샘플이 극히 제한적으로 존재하기 때문에, 비지도 학습 기반의 이상 탐지 기법은 이러한 희귀 패턴을 충분히 학습하지 못할 가능성이 있다. 이러한 한계를 보완하기 위해, 향후 연구에서는 SMOTE나 ADASYN과 같은 오버샘플링 기법을 활용하여 데이터 불균형을 완화하고, 지도 학습 기반 분류 모델과의 앙상블 접근을 적용하는 방식을 고려할 수 있다. 또한, 불량 탐지에서의 미검(false negative)에 따른 비용에 반영하는 비용 민감 학습(cost-sensitive learning)을 도입함으로써, 불량 샘플에 대한 탐지 성능, 특히 재현율을 효과적으로 향상시킬 수 있을 것으로 기대된다. 이러한 접근은 제조 공정에서의 품질 리스크를 보다 적극적으로 관리하는 데 기여할 수 있을 것이다.

둘째, 본 연구에서는 이상과 정상의 판별 기준으로 Isolation Forest가 기본적으로 제시하는 임곗값인 0을 적용하였다. 그러나 고정된 임곗값은 클래스 불균형이 심한 공정 데이터의 특성을 반영하지 못하는 한계가 있다. 이러한 상황에서 단일 기준값을 적용할 경우, 이상 탐지 과정에서 False Negative 혹은 False Positive가 과도하게 발생할 수 있다. F1-score는 불균형 데이터 상황에서 성능 평가에 널리 사용되는 지표로, 정밀도와 재현율을 동시에 고려한다는 장점이 있다. 하지만 임곗값 설정의 단일 기준으로 활용하기에는 한계가 있으며, 특히 False Positive와 False Negative의 비대칭적 중요성을 충분히 반영하지 못한다. 실제 제조 현장에서는 False Positive가 불필요한 라인 정지와 재검사 비용으로 직결되므로, 단순히 F1-score 최대화에 의존한 임곗값 설정은 현실적인 타당성이 떨어진다. 따라서 후속 연구에서는 도메인 특수성을 반영한 임계 기준을 제안한다. 구체적으로, 불량 제품을 놓치지 않기 위해 재현율(recall)에 최소 기준을 두고, 동시에 불필요한 공정 중단을 최소화하기 위해 True Negative Rate(TNR)의 하한선을 설정할 수 있다. 이후 이 두 조건을 만족하는 후보군 중에서 F1-score가 최대가 되는 값을 최종 임계 기준으로 채택한다. 이러한 접근은 불균형 데이터의 특성과 제조 현장의 비용 구조를 동시에 고려하는 보다 합리적이고 실용적인 임곗값 설정 전략을 제시할 수 있다.

셋째, 본 연구는 특정 시기의 단일 생산라인 데이터를 기반으로 수행되었기 때문에 몇 가지 보완점이 존재한다. 첫째, 여름철과 같이 온·습도의 변화가 큰 시기에는 공정 조건에 변동성이 커져 불량률이 증가할 수 있다. 이를 해결하기 위해, 전처리 과정에서 제외된 시간 정보(date, time)를 재활용하여 시점별로 별도 모델을 설계하고 계절 특성에 따른 데이터 분할 기준을 도입한다면 보다 정교한 품질 관리가 가능할 것이다. 둘째, 본 연구는 하나의 생산라인에 한정된 데이터를 대상으로 하였으나, 여러 라인에서 수집된 데이터를 통합 분석하고 라인별 이상 탐지 모델을 구축한다면 공정 운영의 세부 제어 및 확장성 측면에서 더욱 높은 수준의 대응이 가능할 것이다. 따라서 향후 연구에서는 계절성과 설비 구조의 다양성을 반영한 데이터 구성과 모델링 기법을 도입함으로써, 보다 정밀하고 범용적인 공정 품질 분석 체계를 구축할 필요가 있다.

넷째, 도출된 최적 공정 조건 및 제어 범위를 실제 생산 라인에 적용하여 이상 발생률 감소 효과를 실측하는 파일럿 실험은 본 연구의 범위 내에서 수행되지 못한 점에서 한계가 존재한다. 향후 연구에서는 실제 공정 환경에서의 검증 실험을 통해 제안된 방법의 현장 적용 가능성과 효과를 정량적으로 평가할 필요가 있다.

마지막으로 본 연구는 트리 기반의 모델을 중심으로 구성되어 고차원 변수 간 비선형 상호작용이나 시계열 특성을 반영하기에는 한계가 있다. 향후 연구에서는 LSTM-Autoencoder 또는 Transformer 기반 이상 탐지 모델을 도입하여 공정 변수의 시간적 의존성과 변수 간 비선형 관계를 반영한 이상 탐지를 수행할 수 있을 것으로 기대된다. 또한 딥러닝 모델 적용 시에도 해석 가능성을 유지하기 위해, DeepLIFT의 역전파 기반 기여도 배분 규칙을 Shapley 값에 근사하도록 확장한 Deep SHAP를 결합할 수 있다. 이를 통해 본 연구에서 사용한 설명 구조의 일관성을 유지하면서도 심층 신경망 환경에서 변수별 기여도를 정량적으로 해석할 수 있을 것이다. 아울러 공정 최적화 측면에서도 강화학습 기반 공정 제어와의 연계를 통해 동적 환경에서의 적응적 최적화로 확장하는 방안도 고려할 수 있다.