[대전=뉴스프리존] 이기종 기자= 한국과학기술원(KAIST)은 인공지능(AI) 대학원 최재식 교수팀이 심층학습(딥러닝) 생성모델의 오류 수정 기술을 개발했다고 28일 밝혔다.

최근 심층학습(딥러닝) 생성모델(Deep Generative Models)은 이미지, 음성, 문장 등 새로운 콘텐츠를 생성하는 데 널리 활용되고 있다.

그러나 최근 개발된 생성모델도 여전히 결함이 있는 결과를 만드는 경우가 많아, 국방, 의료, 제조 등 중요한 작업 및 학습에 생성모델을 활용하기는 어려운 점이 있다.

한편 딥러닝 생성모델의 성능을 향상하기 위해 적대적 생성기법 및 생성기의 새로운 구조 설계 혹은 학습 전략의 세분화와 같은 연구가 활발히 진행되고 있다.

적대적 생성 신경망은 생성기와 구분기의 적대적 관계를 이용한 모델로서 생성 이미지의 품질이 높고 다양성이 높아 이미지 생성뿐만 아니라 다양한 분야에서 주목받고 있다.

하지만 최신 적대적 생성 신경망 모델은 여전히 시각적 결함이 포함된 이미지를 생성하고 있으며 재학습을 통해 이를 해결하기에는 오류 수리를 보장할 수 없으며 많은 학습 시간과 비용을 요구하게 된다.

특히 규모가 큰 최신 적대적 생성 신경망 모델의 일부 오류를 해결하기 위해 모델 전체를 재학습하는 것은 적합하지 않다.

이번 연구팀은 이러한 제한점을 해결하기 위해 딥러닝 내부를 해석하는 설명가능 인공지능 기법을 활용해 생성모델 내부에서 이미지 생성과정에서 문제를 일으키는 유닛(뉴런)을 찾아 제거하는 알고리즘을 고안해 생성모델의 오류를 수리했다.

연국과정을 보면 문제 해결을 위해 생성 오류를 유도하는 딥러닝 내부의 유닛(뉴런)을 찾아 제거하는 알고리즘을 개발했다.

알고리즘은 딥러닝 모델의 시각적 결함의 위치를 파악하고 딥러닝 모델 내 여러 계층에 존재하는 오류를 유발한 유닛을 찾아서 활성화하지 못하도록 하여 결함이 발생하지 않도록 했다.

이어 전통적인 구조를 가지는 진행형 생성모델(Progressive GAN, PGGAN)에서 개발 기술이 효과적으로 생성 오류를 수리할 수 있음을 확인했다.

특히 수리 성능은 매사추세츠 공과대학(MIT)이 보유한 수리 기술 대비 프레쳇 인셉션 거리(FID, Frechet Inception Distance) 점수보다 10점 정도 감소했으며 사용자 평가에서 시험 이미지 그룹의 약 50%가 결함이 제거됐으며 약 90%에서 품질이 개선됐다는 결과를 얻었다.

프레쳇 인셉션 거리(FID, Frechet Inception Distance)는 실제 이미지 그룹과 생성 이미지 그룹의 유사도를 측정하는 지표로서 값이 작을수록 생성 이미지의 형태가 실제 이미지와 유사함을 나타낸다.

이 연구결과에 의하면 설명가능 인공지능 기술을 활용해 시각적 결함이 생성된 이미지의 어느 부분에 분포하는지 또는 딥러닝 내부의 어떤 유닛이 결함의 생성에 관여하는지 찾을 수 있었다.

공동 제1저자인 알리 투씨와 정해동 연구원은 “딥러닝 생성모델이 생성한 결과물에 있는 시각적 오류를 찾고 이에 상응하는 활성화를 보이는 생성모델 내부의 유닛을 순차적으로 제거함으로써 생성 오류를 수리할 수 있음을 보였다”라며 이는 “충분히 학습된 모델 내부에 미학습 혹은 잘못 학습된 내부요소가 있음을 보여주는 결과”라고 말했다.

KAIST AI대학원의 알리 투씨(Ali Tousi), 정해동 연구원이 공동 제1저자로 참여한 연구는 국제 컴퓨터 비전 및 패턴인식 학술대회(IEEE Conference on Computer Vision and Pattern Recognition, CVPR)에서 6월 23일 발표됐다.

이 연구는 2021년도 과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받은 수행됐다.