KR20200052438A

KR20200052438A - 딥러닝 기반 웹툰 자동 채색 프로그램 및 애플리케이션

Info

Publication number: KR20200052438A
Application number: KR1020180130018A
Authority: KR
Inventors: 황영배; 허환; 이주리; 전달용
Original assignee: 전자부품연구원; (주)아이디어 콘서트
Priority date: 2018-10-29
Filing date: 2018-10-29
Publication date: 2020-05-15

Abstract

본 발명은, 매체에 저장된 웹툰 자동 채색 프로그램에 있어서, 데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단을 갖춘 컴퓨터에, 상기 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 (a)단계; 상기 처리 수단이 상기 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 (b)단계; 및 상기 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 스케치 이미지를 자동으로 채색하는 (c)단계를 실행시킨다. 본 발명은 사용자 별로 채색 패턴을 학습함에 따라 창작자 고유의 특징적인 채색 스타일을 살려 자동 채색을 수행한다.

Description

딥러닝 기반 웹툰 자동 채색 프로그램 및 애플리케이션{DEEP LEARNING-BASED WEBTOONS AUTO-PAINTING PROGRAMS AND APPLICATIONS}

본 발명은 사용자가 창작한 웹툰을 자동으로 채색하는 프로그램 및 애플리케이션에 관한 것으로서, 특히 사용자의 스케치 스타일을 딥러닝 기반으로 학습하여 웹툰을 채색하는 웹툰 자동 채색 프로그램 및 애플리케이션에 관한 것이다.

웹툰은 인터넷을 뜻하는 ‘웹(web)'과 만화를 뜻하는 '카툰(cartoon)'의 합성어로서 각종 멀티미디어 효과를 동원해 제작된 인터넷 만화를 말한다. 웹툰은 창작자가 스케치를 하고, 수동으로 채색을 입히는 형식으로 제작되고 있다. 일반적으로 흑백의 그림으로 출판되었던 만화와 달리 웹툰은 채색이 완료된 컬러 이미지로 소비자에게 제공되는 특징을 갖는다.

웹툰 제작시 창작자가 수동으로 일일이 채색을 하는 경우 웹툰 제작에 많은 시간이 소요되는 문제점이 있다. 이에, 웹툰 창작자는 채색하는 시간을 줄이기 위하여 보조 작가를 두기도 하였다. 웹툰 제작시 흑백 스케치의 상태에서 상황에 맞는 적절한 색상을 선택하고, 빛과 그림자를 알맞게 조합하는 생생한 카툰 이미지를 만든다는 것은 예술적 재능이 요구된다. 이러한 채색 과정은 보통 사람들에게 쉽지 않은 작업으로서 웹툰 창작자 본인이 원하는 대로 채색을 입혀주는 보조 작가를 구하는 것도 용이하지 않은 실정이다. 따라서 창작자의 스케치 이미지에 자동으로 채색하여 주는 어플리케이션이 제공될 경우 기존의 수동 채색 작업 대비 시간 및 인력 소모를 줄일 수 있을 것이다.

종래에 Paintchainer와 같은 스케치 채색 어플리케이션이 존재하나, 해당 어플리케이션은 다양한 색상을 지닌 일러스트들을 기반으로 학습된 프로그램으로서, 결과물이 창작자의 특징적인 채색 스타일과 다르다는 한계를 갖는다. 웹툰은 작가 개인마다 특징적인 채색 스타일이 있어, 자동으로 채색해주는 프로그램이 본인이 원하는 스타일로 채색되지 않는다면 작업 시 사용할 이유가 없다. 그러므로 작가 개인의 채색 스타일과 유사하게 스케치 이미지를 자동으로 채색하여 제공하는 기술이 필요하다.

특허공개공보 제10-2018-0066440호

본 발명은 사용자의 채색 스타일과 유사하게 자동으로 채색된 이미지를 제공하는 딥러닝 기반 웹툰 자동 채색 프로그램 및 애플리케이션을 제공하고자 한다.

상기 목적을 달성하기 위하여 본 발명은, 매체에 저장된 웹툰 자동 채색 프로그램에 있어서, 데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단을 갖춘 컴퓨터에, 상기 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 (a)단계; 상기 처리 수단이 상기 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 (b)단계; 및 상기 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 스케치 이미지를 자동으로 채색하는 (c)단계를 실행시키는 것을 일 특징으로 한다.

바람직하게, 상기 (a)단계는 사용자로부터 채색이 완료된 웹툰의 원본 컬러 이미지를 입력받는다.

바람직하게, 상기 (b)단계는 상기 원본 컬러 이미지의 개별 프레임을 추출하여 흑백 스케치 이미지로 변환하는 단계를 포함한다.

바람직하게, 상기 (b)단계는 비지도 학습 생성 모델로 상기 흑백 스케치 이미지와 상기 원본 컬러 이미지를 학습한다.

바람직하게, 상기 (b)단계는 비지도 학습 생성 모델로 GAN(Generative Adversarial Network)이 적용될 수 있으며, GAN에서 파생된 다양한 생성모델이 적용될 수 있다.

바람직하게, 상기 (b)단계는 상기 원본 컬러 이미지와 상기 흑백 스케치 이미지를 비지도 학습 모델로 학습하는 단계를 포함하고, 상기 비지도 학습 모델로 학습하는 단계는, 데이터의 확률 분포를 근사하는 G 모델과 컬러 이미지의 원본을 판별하는 D 모델이 구비된 딥러닝 알고리즘이, 상기 원본 컬러 이미지의 확률 분포를 근사하여 생성된 상기 G 모델의 컬러 이미지를 상기 D 모델이 컬러 이미지의 원본으로 판별하도록 학습한다.

바람직하게, 상기 G 모델과 상기 D 모델은 Convolutional neural network로 구성된다.

바람직하게, 상기 (b)단계는 사용자의 선택에 따라 재학습 또는 신규 학습을 수행하는 재학습 여부의 결정 단계를 포함할 수 있고, 상기 재학습 여부의 결정 단계는, 신규 학습을 수행하는 경우 사용자의 웹툰 이미지를 신규값으로 딥러닝 기반 알고리즘으로 학습하여 신규 채색 모델을 생성하고, 재학습을 수행하는 경우 기존의 채색 모델에 사용자의 웹툰 이미지를 추가 학습한다.

바람직하게, 상기 (c)단계는 사용자에 따른 채색 모델을 호출하며 사용자의 채색 특성이 반영된 색상을 추론하여 스케치 이미지를 자동으로 채색한다.

바람직하게, 상기 (b)단계는 둘 이상의 사용자가 유사한 채색 패턴을 보이는 것으로 판단될 경우, 둘 이상의 사용자가 입력한 복수개의 웹툰 이미지를 함께 학습하여 채색 모델을 생성한다.

또한, 본 발명은 매체에 저장된 웹툰 자동 채색 애플리케이션에 있어서, 데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단을 갖춘 스마트폰, 태블릿, 또는 노트북에, 상기 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 제1 기능; 상기 처리 수단이 상기 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 제2 기능; 및 상기 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 스케치 이미지를 자동으로 채색하는 제3 기능을 실행시키기는 것을 다른 특징으로 한다.

본 발명에 따르면, 사용자 별로 채색 패턴을 학습함에 따라 창작자 고유의 특징적인 채색 스타일을 살려 자동 채색을 수행한다. 이는 동일 사용자의 새로운 웹툰에 적용하여 사용자 개인의 채색 방식이 반영된 이미지를 빠른 시간 안에 얻을 수 있는 효과가 있다.

또한 본 발명은, 웹툰의 특성에 맞춰 프레임을 자동으로 추출하거나 해당 웹툰과 동일한 애니메이션 등을 이용하여 학습을 수행함으로써 학습 데이터 구축에 소요되는 시간 및 인력 소모를 줄일 수 있다.

또한 본 발명은 리메이크된 애니메이션을 학습하여 리메이크 이전의 애니메이션이나 일러스트 등에 적용함으로써 좀 더 향상된 색감의 결과물을 얻을 수 있으며, 혹은 반대로 수행하여 레드로(retro) 느낌의 결과물을 얻을 수 있다.

또한 본 발명은 동일한 웹툰 작가의 다른 웹툰 작품에 적용함으로써 동일한 작가의 채색 스타일을 좀 더 쉽게 표현할 수 있다.

도 1은 본 발명의 실시예에 따른 웹툰 자동 채색 프로그램의 시스템 흐름도를 나타낸 것이다.
도 2는 본 발명의 실시예에 따른 흑백 스케치 변환 단계가 수행되어 웹툰의 프레임이 추출된 예시를 나타낸다.
도 3은 흑백 스케치 변환 단계가 추출된 프레임인 원본 컬러 이미지를 흑백 스케치 이미지로 변환한 예시를 나타낸다.
도 4는 학습 단계에서 GAN 알고리즘으로 채색을 학습하는 방법을 도시한 것이다.

이하, 첨부된 도면들에 기재된 내용들을 참조하여 본 발명을 상세히 설명한다. 다만, 본 발명이 예시적 실시 예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일 참조부호는 실질적으로 동일한 기능을 수행하는 부재를 나타낸다.

본 발명의 목적 및 효과는 하기의 설명에 의해서 자연스럽게 이해되거나 보다 분명해 질 수 있으며, 하기의 기재만으로 본 발명의 목적 및 효과가 제한되는 것은 아니다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이, 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다.

도 1은 본 발명의 실시예에 따른 웹툰 자동 채색 프로그램의 시스템 흐름도를 나타낸 것이다. 웹툰 자동 채색 프로그램은 데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단, 처리된 데이터를 출력하는 출력 수단을 갖춘 컴퓨터에, 웹툰 이미지를 입력받는 (a)단계(S10), 채색 모델을 생성하는 (b)단계(S30), 및 자동으로 채색하는 (c)단계(S50)를 실행시킬 수 있다.

컴퓨터는 입력 수단으로 키보드, 마우스 등의 입출력 장치를 포함하고, 처리 수단으로 프로세서를 구비할 수 있다. 본 실시예에 따른 웹툰 자동 채색 프로그램은 다운로드 가능한 웹 또는 매체에 저장되어 사용자에게 배포될 수 있으며, 사용자의 컴퓨터상에 다운로드 되어 각 단계가 실행될 수 있다.

본 실시예에 따른 웹툰 자동 채색 프로그램은 딥러닝 기반으로 흑백 스케치 웹툰을 자동으로 채색(colorization)하는 시스템으로, 학습 모델을 이용하여 자동 채색을 수행한다. 또한, 본 발명의 사용자인 웹툰 작가별로 학습 모델을 생성하여 작가 별 특유의 색감 및 색체를 새로운 흑백 스케치에 적용할 수 있도록 한다. 도 1은 웹툰 자동 채색 프로그램의 전체적인 시스템 구성 및 흐름도를 나타낸다.

도 1을 참조하면, (a)단계(S10)는 컴퓨터의 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 단계일 수 있다. 본 명세서에서 말하는 웹툰 이미지는 온라인 상에 연재되는 만화만을 의미하는 것은 아니며, 프로세서가 구비된 컴퓨터상에 작화를 처리하게 되는 이미지를 총칭할 수 있다. 즉, 본 명세서의 웹툰 이미지는 온라인 웹 도구를 이용하여 스케치 또는 채색된 이미지를 포함할 수 있으며, 만화 이미지, 애니메이션 제작을 위한 콘티 이미지, 일러스트 제작을 위한 이미지, 오프라인의 만화책으로 인쇄하기 위해 온라인 웹 도구를 이용하여 스케치된 이미지 등이 될 수도 있다. 또한, 웹툰 이미지에는 사용자의 스마트폰 혹은 타블랫을 통해 그려진 이미지 그리고 사용자의 스마트폰, 타블랫, 기타기기의 카메라를 이용하여 찍은 이미지도 포함될 수 있다.

(a)단계(S10)는 사용자가 직접 스케치한 원본의 그림 이미지인 웹툰 이미지를 입력받는 단계를 의미한다. 여기서, 사용자가 직접 스케치한 웹툰 이미지 원본은 컴퓨터 상에서 작화한 스케치 이미지 뿐만 아니라, 오프라인 상에서 스케치된 이미지를 스캔한 컴퓨터 이미지 파일 또는 사용자의 스마트폰이나 타블랫 기타기기의 카메라를 이용하여 찍은 사진 이미지이어도 무방하다. (a)단계(S10)는 컴퓨터의 입력 수단을 통해 온-오프라인상에서 제작된 작가의 원본 웹툰 이미지를 입력받는다.

본 실시예로, (a)단계(S10)는 사용자로부터 채색이 완료된 웹툰의 원본 컬러 이미지를 입력받을 수 있다. (a)단계(S10)에서 입력 받는 웹툰 이미지는 흑백 또는 원본 컬러 이미지일 수 있다. 다만, (a)단계(S10)는 학습시 사용자 별 채색 스타일을 학습하기 위하여 최소 1회 이상의 웹툰의 원본 컬러 이미지를 입력받아야 한다. 본 실시예로, (a)단계(S10)는 초기 학습을 위하여 사용자로부터 최초로 입력받는 원본 컬러 이미지인 경우를 설명한다. 학습에 따른 채색 모델 생성 이후, (a)단계(S10)는 사용자로부터 흑백의 스케치 이미지를 웹툰 이미지로 입력받는다.

(b)단계(S30)는 컴퓨터의 처리 수단이 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 단계일 수 있다. 본 실시예에 따른 웹툰 자동 채색 프로그램은 학습 데이터 셋을 기반으로 학습 모델을 생성하는 기능과 생성된 학습 모델을 기반으로 색상을 추론하는 기능으로 구분될 수 있다. 학습 데이터 셋을 기반으로 학습 모델을 생성하는 기능이 (b)단계(S30)에서 수행되며, 색상을 추론하는 기능은 후술하게 될 (c)단계(S50)에서 수행될 수 있다.

(b)단계(S30)는 재학습 여부의 결정 단계(S301), 흑백 스케치 변환 단계(S303) 및 학습 단계(S305)를 포함할 수 있다.

재학습 여부의 결정 단계(S301)는 사용자의 선택에 따라 재학습 또는 신규 학습을 수행하는 단계일 수 있다. 재학습 여부의 결정 단계(S301)는 신규 학습을 수행하는 경우 사용자의 웹툰 이미지를 신규 데이터셋으로 하여 딥러닝 기반 알고리즘으로 학습하여 신규 채색 모델을 생성하고, 재학습을 수행하는 경우 기존의 채색 모델에 사용자의 웹툰 이미지를 추가 학습하도록 한다.

재학습 여부의 결정 단계(S301)는 사용자의 선택에 따라 진행되도록 재학습 또는 신규학습의 기능 버튼으로 구현될 수 있다. 사용자는 자동으로 채색하게 될 시리즈의 지속 학습을 원하는 경우, 재학습을 선택할 수 있으며, 이 경우 기존에 수행된 (b)단계(S30)의 채색 모델이 업데이트 된다. 반면, 사용자는 신규 웹툰 시리즈 등 다른 채색 스타일의 적용이 필요한 경우 신규학습을 선택할 수 있다. 사용자가 신규학습을 선택한 경우, (a)단계(S10)에서 원본 컬러 이미지를 입력받아 새로운 채색 모델 생성 과정이 진행된다. 이하, 딥러닝 학습으로 채색 모델을 생성하는 (b)단계(S30)의 세부 기능을 살펴보면 다음과 같다.

흑백 스케치 변환 단계(S303)는 원본 컬러 이미지의 개별 프레임을 추출하여 흑백 스케치 이미지로 변환하는 단계를 의미한다. (a)단계(S10)에서 입력받은 웹툰 이미지는 학습 데이터셋 형식에 맞게 개별 프레임이 추출되어야 한다. 웹툰의 경우 세로로 길게 구성된 형태가 특징이며, 다양한 위치에 개별 프레임이 존재한다. 도 2는 흑백 스케치 변환 단계(S303)가 수행되어 웹툰의 프레임이 추출된 예시를 나타낸다.

흑백 스케치 변환 단계(S303)는 개별 프레임 추출을 위해 가로 및 세로 방향 스캔 기반 마스크, 레이블링, 에지 탐색, 모폴로지 연산, 확률적 허브 변환, 컨벡스헐, 바운딩 박스 등의 방법이 적용될 수 있다. 딥러닝은 방대한 학습 데이터를 요구하며, 이러한 요구를 만족시키기 위하여 일일이 수동으로 웹툰 내의 개별 프레임을 추출하는 것은 비효율적이며 어려운 일이다. 이러한 이유로, 흑백 스케치 변환 단계(S303)는 상기의 프레임 추출 방법을 사용하여 자동으로 웹툰 내의 개별 프레임을 효율적으로 추출한다. 도 2를 참조하면, 좌측부터 (a)단계(S10)에서 입력받은 웹툰 이미지, 흑백 스케치 변환 단계(S303)가 수행되어 프레임을 추출한 이미지, 프레임 추출 결과 이미지를 확인할 수 있다. 프레임 추출 결과, 원본 웹툰 이미지에서 제각각이었던 웹툰 장면의 프레임 크기를 정규화 할 수 있다.

흑백 스케치 변환 단계(S303)는 프레임의 크기를 정규화 하여 추출한 후, 흑백 스케치화를 적용한다. 자동 채색을 위한 학습 데이터셋은 흑백 스케치 이미지와 원본 컬러 이미지가 쌍으로 요구된다. 이와 같은 2개의 이미지가 요구되는 것은 추후에 후술하게 될 본 실시예의 딥러닝 적용 알고리즘이 비지도 학습 기반이기 때문이다. 상기 학습 데이터셋은 구축이 어렵기 때문에 초기 원본인 웹툰 이미지를 흑백으로 스케치화하여 수행할 수 있다.

흑백 스케치 변환 단계(S303)는 원본 컬러 이미지에 대한 그레이스케일 이미지와 이에 대해 팽창 연산을 수행한 이미지의 차이 등의 방법을 적용하여 원본 컬러 이미지를 흑백 스케치 이미지로 변환할 수 있다. 혹은 3채널 컬러 이미지를 입력으로 넣고 1채널 흑백 스케치 이미지를 출력으로 하는 딥러닝 기반의 알고리즘을 이용하여 변환할 수 있다. 도 3은 흑백 스케치 변환 단계(S303)가 추출된 프레임인 원본 컬러 이미지를 흑백 스케치 이미지로 변환한 예시를 나타낸다.

이후, (b)단계(S30)는 학습 단계(S305)를 수행하여 채색 모델을 생성한다.

학습 단계(S305)는 원본 컬러 이미지와 흑백 스케치 이미지를 비지도 학습 모델로 학습하는 단계를 의미할 수 있다. 본 실시예로, 학습 단계(S305)는 비지도 학습 생성 모델로 흑백 스케치 이미지와 원본 컬러 이미지를 학습할 수 있다. 머신러닝은 크게 지도학습(supercised learning)과 비지도 학습(unsupervised learning)으로 구분된다. 현재까지 머신러닝의 주류를 이뤘던 지도학습은 데이터와 라벨(이름)의 짝을 집중 학습하는 방법이었다. 예시로서, 컴퓨터에게 ‘개’또는 고양이‘의 라벨을 입력하여 사물 X와 이름 Y의 쌍을 지속적으로 학습시키는 것이다. 이렇게 수많은 (X, Y)의 함수를 알게 되면, 전혀 알지 못하는 미지의 사물 X에 대해서도 적절한 예측 Y를 내놓을 수 있게 된다. 상기의 지도학습 기반 머신러닝 기술은 구글과 페이스북 등에서 사용하는 얼굴인식이나 사물인식, 음성인식에 이용되고 있다. 그러나, 지도 학습에는 누군가 일일이 각 사물의 정답(label)을 알려줘야만 학습이 가능하다는 한계가 있다. 궁극적인 인공지능을 구현하려면 누군가 정답을 가르쳐주지 않더라도 인공지능 스스로 사물의 특성을 파악할 수 있는 능력이 있어야 한다. 이렇게 라벨 없이 데이터 그 자체에서 지식을 얻는 방법을 비지도 학습이라고 한다.

본 실시예에서, 학습 단계(S305)는 정답(label)이 없는 상황에서 지도학습의 방법을 차용한 비지도 학습 기반 채색 모델을 생성한다. 본 실시예로, 학습 단계(S305)는 비지도 학습 생성 모델로 GAN(Generative Adversarial Network)이 적용될 수 있다.

GAN은 모조품과의 경쟁을 통해서 학습하는 알고리즘이다. 학습 단계(S305)는 학습 데이터의 확률 분포를 근사하는 G 모델과 컬러 이미지의 원본을 판별하는 D 모델이 구비된 딥러닝 알고리즘이, 상기 원본 컬러 이미지의 확률 분포를 근사하여 생성한 G 모델의 컬러 이미지를 D 모델이 컬러 이미지의 원본으로 판별하도록 학습할 수 있다. 본 실시예로, G 모델과 D 모델은 Convolutional neural network로 구성될 수 있다.

G 모델은 만드는 자(generator)로 이해할 수 있다. D 모델은 구별하는 자(discriminator)로 이해할 수 있다. G 모델은 진짜와 같은 위조품을 만들기 위해 노력하고, D 모델은 감별사와 같이 진짜와 가짜를 구분하기 위해 노력함으로써 서로의 발전을 꾀한다.

도 4는 학습 단계(S305)에서 GAN 알고리즘으로 채색을 학습하는 방법을 도시한 것이다. G 모델의 네트워크 구조는 인코더 레이어를 디코더의 해당 레이어에 연결하는 U-net 구조를 이용할 수 있다. G 모델은 흑백 스케치 이미지의 로우 레벨 정보를 디코딩하고, 컬러풀한 이미지를 얻기 위해 인코터 레이어에 연결한다. 여기서, 인코더 레이어는 스케치 에지 정보를 포함하고 디코더 레이어는 주로 학습된 색상 정보를 포함한다.

D 모델은 G 모델과 비교하여 인코더 유닛만 사용하고, 생성된 컬러 이미지 혹은 원본 컬러 이미지가 진짜인지 가짜인지 판별하는 것을 목표로 판별 정확도를 최대화하도록 학습한다. 흑백 스케치 이미지에서의 자동 채색은 일반적인 그레이스케일에서의 채색보다 좀 더 어려운 문제가 될 수 있다. 이는 흑백 스케치 이미지의 정보가 그레이스케일의 이미지 보다 훨씬 적기 때문이다. 상기의 문제를 해결하고, 좀 더 향상된 성능을 위해서 G 모델에는 다양한 손실 함수가 요구된다.

본 실시예로, G 모델은 생성된 컬러 이미지와 진짜 라벨(0)과의 소프트맥스 크로스 엔트로피를 손실 함수 1로 정의할 수 있다. G 모델은 생성된 컬러 이미지와 원본 컬러 이미지의 MSE(mean absolute error)를 손실 함수 2로 정의할 수 있다. G 모델은 마지막으로 생성된 컬러 이미지와 원본 컬러 이미지에 대한 에지 특징 정보의 MSE를 손실 함수 3으로 정의할 수 있다. 각 손실 함수는 가중치를 설정할 수 있으며, 모든 손실 함수를 더한 것이 최종 손실 함수로 정의할 수 있다. 흑백 스케치 이미지와 컬러 이미지의 상관관계는 상기 손실 함수를 최소화하도록 학습된다.

D 모델의 손실 함수는 원본 컬러 이미지와 진짜 라벨(0)과의 소프트맥스 크로스 엔트로피 및 생성된 컬러 이미지와 가짜 라벨(1)과의 소프트맥스 크로스 엔트로피의 합으로 정의될 수 있다. D 모델은 정의된 손실 함수가 최소화되도록 학습한다. 이와 같은 학습으로 채색 모델이 생성된다. 사용자가 정의한 세대(epoch)만큼 학습이 진행되면 채색 모델이 생성되며, 일정 세대마다 채색 모델을 생성할 수 있다.

(c)단계(S50)는 컴퓨터의 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 스케치 이미지를 자동으로 채색하는 단계일 수 있다. 자동으로 채색된 이미지는 컴퓨터의 출력 수단을 통해 사용자의 컴퓨터에 디스플레이 될 수 있다. 채색 모델에서 학습 모델 기반 색상 추론 부분에서는 사용자가 먼저 원하는 채색 모델을 불러온다. 그리고, 사용자가 새로운 흑백 스케치 이미지를 입력하면 불러온 채색 모델을 기반으로 색상을 추론하여 자동 채색을 수행할 수 있다.

(c)단계(S50)는 사용자에 따른 채색 모델을 호출하며 사용자의 스케치 특성이 반영된 색상을 추론하여 스케치 이미지를 자동으로 채색할 수 있다. 이 경우, (b)단계(S50)는 둘 이상의 사용자가 유사한 채색 패턴을 보이는 것으로 판단될 경우, 둘 이상의 사용자가 입력한 복수개의 웹툰 이미지를 함께 학습하여 채색 모델을 생성할 수도 있다.

다른 실시예로, 웹툰 자동 채색 프로그램은 애플리케이션으로 제공될 수 있다. 웹툰 자동 채색 애플리케이션은 데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단 및 처리된 데이터를 출력하는 출력 수단을 갖춘 스마트폰, 태블릿, 또는 노트북에, 상기 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 제1 기능; 상기 처리 수단이 상기 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 제2 기능; 및 상기 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 스케치 이미지를 자동으로 채색하는 제3 기능을 실행시킬 수 있다.

본 실시예에서, 제1 기능은 전술한 (a)단계(S10)이며 제2 기능은 전술한 (b)단계(S30)이고, 제3 기능은 전술한 (c)단계(S50)일 수 있다. 최근, IT기술의 고도화에 따라, 웹툰 작가들을 위한 작화용 대형 태플릿 PC가 보급되고 있다. 과거, 펜으로 직접 용지에 스케치를 해야 했던 웹툰 작가들은 태플릿 PC의 작화 어플리케이션을 이용하여 실제 펜과 같은 정밀도로 스케치, 수정, 채색을 작업할 수 있으며, 뿐만 아니라, 블러링, 브러쉬 등의 다양한 효과를 손쉽게 구현할 수 있어 전통적인 페이퍼 또는 PC 작업보다 선호되고 있다. 이에, 본 실시예에 따른 웹툰 자동 채색 프로그램은 스마트폰, 태블릿, 또는 노트북에 보급되기 위하여 매체에 저장된 애플리케이션으로 제공될 수 있다.

이상에서 대표적인 실시예를 통하여 본 발명을 상세하게 설명하였으나, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 상술한 실시예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양한 변형이 가능함을 이해할 것이다. 그러므로 본 발명의 권리 범위는 설명한 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 특허청구범위와 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태에 의하여 정해져야 한다.

Claims

데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단을 갖춘 컴퓨터에,
(a) 상기 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 단계;
(b) 상기 처리 수단이 상기 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 단계; 및
(c) 상기 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 흑백 스케치 이미지를 자동으로 채색하는 단계를 실행시키기 위하여 매체에 저장된 웹툰 자동 채색 프로그램.
제 1 항에 있어서,
상기 (a)단계는,
사용자로부터 채색이 완료된 웹툰의 원본 컬러 이미지를 입력받는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 2 항에 있어서,
상기 (b)단계는,
상기 원본 컬러 이미지의 개별 프레임을 추출하여 흑백 스케치 이미지로 변환하는 단계를 포함하는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 1 항에 있어서,
상기 (b)단계는,
비지도 학습 생성 모델로 상기 흑백 스케치 이미지와 상기 원본 컬러 이미지를 학습하는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 4 항에 있어서,
상기 (b)단계는,
비지도 학습 생성 모델로 GAN(Generative Adversarial Network) 모델 또는 GAN 모델에서 파생된 다양한 생성모델이 적용된 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 1 항에 있어서,
상기 (b)단계는,
상기 원본 컬러 이미지와 상기 흑백 스케치 이미지를 비지도 학습 모델로 학습하는 단계를 포함하고,
상기 비지도 학습 모델로 학습하는 단계는,
학습 데이터의 확률 분포를 근사하는 G 모델과 컬러 이미지의 원본을 판별하는 D 모델이 구비된 딥러닝 알고리즘이, 상기 원본 컬러 이미지의 확률 분포를 근사하여 생성한 상기 G 모델의 컬러 이미지를 상기 D 모델이 컬러 이미지의 원본으로 판별하도록 학습하는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 6 항에 있어서,
상기 G 모델과 상기 D 모델은 Convolutional neural network로 구성된 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 1 항에 있어서,
상기 (b)단계는,
사용자의 선택에 따라 재학습 또는 신규 학습을 수행하는 재학습 여부의 결정 단계를 포함할 수 있고,
상기 재학습 여부의 결정 단계는,
신규 학습을 수행하는 경우 사용자의 웹툰 이미지를 신규값으로 딥러닝 기반 알고리즘으로 학습하여 신규 채색 모델을 생성하고, 재학습을 수행하는 경우 기존의 채색 모델에 사용자의 웹툰 이미지를 추가 학습하는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 8 항에 있어서,
상기 (c)단계는,
사용자에 따른 채색 모델을 호출하며 사용자의 채색 특성이 반영된 색상을 추론하여 스케치 이미지를 자동으로 채색하는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
제 8 항에 있어서,
상기 (b)단계는,
둘 이상의 사용자가 유사한 채색 패턴을 보이는 것으로 판단될 경우, 둘 이상의 사용자가 입력한 복수개의 웹툰 이미지를 함께 학습하여 채색 모델을 생성하는 것을 특징으로 하는 매체에 저장된 웹툰 자동 채색 프로그램.
데이터를 입력하는 입력 수단, 입력된 데이터를 처리하는 처리 수단을 갖춘 스마트폰, 태블릿, 또는 노트북에,
상기 입력 수단이 사용자로부터 웹툰 이미지를 입력받는 제1 기능;
상기 처리 수단이 상기 웹툰 이미지의 흑백 스케치 이미지와 원본 컬러 이미지를 입력값으로 하여 딥러닝 기반 알고리즘으로 학습된 채색 모델을 생성하는 제2 기능; 및
상기 처리 수단이 상기 채색 모델을 기반으로 색상을 추론하여 사용자의 스케치 이미지를 자동으로 채색하는 제3 기능을 실행시키기 위하여 매체에 저장된 웹툰 자동 채색 애플리케이션.