딥러닝 기반 시계열 예측 기술인 Conformer(Convolution-Augmented Transformer) 모델을, 다이나믹 공정에 surrogate 모델로 최초 적용한 기술에 관한 것이다. Conformer는 원래 음성 인식을 위한 모델로 제안되어, 입력 시계열의 지역적(local) 특성과 전역적(global) 상관관계를 동시에 학습하는 것이 특징이며, 기존 Transformer 계열 대비 장기 의존성 처리 능력과 예측 안정성이 우수하다.
시뮬레이션을 통해 수집된 공정의 다변량 시계열 데이터를 기반으로, 입력 시계열 구간(t-n ~ t)을 통해 미래 시점(t+1 ~ t+32)을 동시 예측(MIMO)하는 구조를 채택하였다. 이를 통해 예측 시점 간 누적 오차를 줄이고, 안정적인 장기 예측이 가능하다.
Conformer 구조는 self-attention 블록과 depthwise convolution 블록이 조합된 macaron 블록으로 구성되어 있으며, 이는 일반적인 Transformer 모델보다 계산 효율성과 학습 안정성이 뛰어나다.
비교 실험 결과, Conformer 기반 surrogate 모델은 기존의 CNN, LSTM, Transformer 등과 비교하여 평균 절대 오차(MAE), 평균 절대 백분율 오차(sMAPE) 등 다양한 지표에서 높은 성능을 달성하였다. 특히 입력 시계열 길이가 길어질수록 Conformer 모델은 validation loss의 진동 없이 안정적인 학습을 유지하는 특성을 보였으며, 이는 장기 시계열 예측에 매우 유리한 구조임을 의미한다.
다이나믹 공정의 실시간 예측 및 제어, 나아가 MPC(Model Predictive Control)나 디지털 트윈 시스템 구현에 필수적인 기반 기술로서 활용될 수 있다. 또한 수소 생산, 탄소 포집 및 저장(CCS), 정밀 화학 플랜트 등 다양한 시계열 중심 공정 시스템에 폭넓게 확장 적용될 수 있으며, 산업 전반에 걸친 공정 최적화와 지능화에 기여할 수 있다.
-
- 대표 발명자
- 김종우,안재현
-
- 출원번호
-
10-2025-0197202
(2025-12-12)