KR20200023664A - 응답 추론 방법 및 장치 - Google Patents

응답 추론 방법 및 장치 Download PDF

Info

Publication number
KR20200023664A
KR20200023664A KR1020180094770A KR20180094770A KR20200023664A KR 20200023664 A KR20200023664 A KR 20200023664A KR 1020180094770 A KR1020180094770 A KR 1020180094770A KR 20180094770 A KR20180094770 A KR 20180094770A KR 20200023664 A KR20200023664 A KR 20200023664A
Authority
KR
South Korea
Prior art keywords
latent variable
response
vector
variable vector
generating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
KR1020180094770A
Other languages
English (en)
Inventor
전재훈
김영석
박정훈
최준휘
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020180094770A priority Critical patent/KR20200023664A/ko
Priority to US16/266,395 priority patent/US20200057947A1/en
Priority to EP19165145.4A priority patent/EP3611637A1/en
Priority to CN201910261432.0A priority patent/CN110825854A/zh
Priority to JP2019114794A priority patent/JP2020027609A/ja
Publication of KR20200023664A publication Critical patent/KR20200023664A/ko
Abandoned legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3347—Query execution using vector based model
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/338—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

응답 추론 방법 및 장치가 개시된다. 일실시예에 따른 응답 추론 장치는 사용자 입력을 획득하고, 사용자 입력을 인코딩하여 복수의 응답들에 대응하는 영역들로 분할된 잠재 변수 영역 공간 내 잠재 변수 벡터를 생성하고, 잠재 변수 벡터를 디코딩하여 잠재 변수 벡터가 속하는 영역에 대응하는 출력 응답을 생성할 수 있다.

Description

응답 추론 방법 및 장치{RESPONSE INFERENCE METHOD AND APPARATUS}
아래 실시예들은 응답을 추론하는 기술에 관한 것이다.
대화 모델은 목적 지향적 대화 모델과 일상 대화 모델을 포함한다. 목적 지향적 대화 모델은 명확한 목적을 가진 발화로부터 해당 발화에 대답하는 단일 응답을 생성한다. 일상 대화 모델은 일상적인 안부 인사, 감정 표현 등 특정한 목적을 가지지 않은 발화로부터 다양한 응답을 생성한다.
사용자 발화로부터 응답을 생성하는 모델은 규칙 기반 대화 모델, 탐색 기반 대화 모델 및 생성 기반 대화 모델을 포함한다. 규칙 기반 대화 모델은 미리 구성된 템플릿을 이용한다. 탐색 기반 대화 모델은 데이터베이스로부터 적절한 응답을 탐색한다. 생성 기반 대화 모델은 미리 학습된 인코더 및 디코더를 이용하여 최적의 응답을 생성한다.
일실시예에 따른 문장의 응답 추론 방법은 사용자 입력을 획득하는 단계; 상기 사용자 입력을 인코딩하여, 복수의 응답들에 대응하는 영역들로 분할된 잠재 변수 영역 공간 내 잠재 변수 벡터를 생성하는 단계; 및 상기 잠재 변수 벡터를 디코딩하여, 상기 잠재 변수 벡터가 속하는 영역에 대응하는 출력 응답을 생성하는 단계를 포함한다.
일실시예에 따르면, 상기 잠재 변수 벡터는 상기 사용자 입력에 대응하는 응답을 생성하기 위해 잠재된 정보 변수들을 포함하는 다차원의 벡터일 수 있다.
일실시예에 따르면, 상기 잠재 변수 영역 공간은 상기 복수의 응답들에 대응하는 컨트롤 입력들에 의해 분할되어 있고, 컨트롤 입력은 상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보일 수 있다.
일실시예에 따르면, 상기 잠재 변수 벡터를 생성하는 단계는 상기 사용자 입력을 인코딩하여 잠재 변수를 생성하는 단계; 및 상기 잠재 변수에 대응하는 잠재 변수 영역 공간 내 분할된 상기 영역들 중 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계는 상기 잠재 변수 영역 공간을 표현하는 확률 분포에 기초하여, 복수의 벡터들을 샘플링하는 단계; 및 상기 샘플링된 벡터들에 기초하여, 상기 잠재 변수 벡터를 생성하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계는 상기 잠재 변수 영역 공간 내 상기 영역들에 대응하는 컨트롤 입력들 중 어느 하나를 선택하는 단계; 및 상기 확률 분포에 기초하여, 상기 선택된 컨트롤 입력에 대응하는 영역에 속하는 잠재 변수 벡터를 생성하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계는 상기 잠재 변수 영역 공간을 표현하는 확률 분포에 기초하여, 복수의 벡터들을 샘플링하는 단계; 상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보인 컨트롤 입력에 랜덤 노이즈를 추가한 확장 컨트롤 입력을 생성하는 단계; 상기 확장 컨트롤 입력과 상기 샘플링된 벡터들과 유사도를 측정하는 단계; 및 상기 확장 컨트롤 입력 유사도 기반 상기 샘플링된 벡터들을 가중 합(weighted sum)하여 상기 잠재 변수 벡터를 생성하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 사용자 입력은 일상 대화 내에서 특정 대답을 의도하지 않는 사용자 발화이고, 상기 복수의 응답들은 상기 사용자 발화에 대응하는 서로 다른 답변들일 수 있다.
일실시예에 따르면, 상기 잠재 변수 벡터를 생성하는 단계는 인코더를 이용하여 상기 사용자 입력을 인코딩하는 단계를 포함하고, 상기 인코더의 뉴럴 네트워크는 상기 사용자 입력에 대응하는 입력 레이어와 상기 잠재 변수를 모델링 하는 확률 분포의 평균 및 분산에 대응하는 출력 레이어를 포함할 수 있다.
일실시예에 따르면, 상기 출력 응답을 생성하는 단계는 디코더를 이용하여 상기 잠재 변수 벡터를 디코딩하는 단계를 포함하고, 상기 디코더의 뉴럴 네트워크는 상기 잠재 변수 벡터에 대응하는 입력 레이어와 상기 출력 응답에 대응하는 출력 레이어를 포함할 수 있다.
일실시예에 따른 응답 추론을 위한 학습 방법은 트레이닝 입력을 획득하는 단계; 상기 트레이닝 입력에 대응하는 복수의 트레이닝 응답들 중 어느 하나의 트레이닝 응답을 획득하는 단계; 상기 복수의 트레이닝 응답들에 대응하는 복수의 컨트롤 입력들 중 상기 트레이닝 응답에 대응하는 컨트롤 입력을 획득하는 단계; 학습시키고자 하는 인코더로 상기 트레이닝 입력을 인가하여, 잠재 변수 를 생성하는 단계; 상기 잠재 변수에 대응하는 잠재 변수 영역 공간 내에서 상기 컨트롤 입력에 대응하는 영역의 트레이닝 잠재 변수 벡터를 생성하는 단계; 학습시키고자 하는 디코더로 상기 트레이닝 잠재 변수 벡터를 인가하여, 출력 응답을 생성하는 단계; 및 상기 출력 응답 및 상기 트레이닝 응답에 기초하여, 상기 인코더 및 상기 디코더의 뉴럴 네트워크를 학습하는 단계를 포함한다.
일실시예에 따른 장치는 하드웨어와 결합되어 상술한 방법들 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램에 의해 제어될 수 있다.
도 1은 일실시예에 따른 응답 추론 방법을 설명하기 위한 순서도이다.
도 2(a) 및 도 2(b)는 일실시예에 따른 응답 추론 방법을 설명하기 위한 도면이다.
도 3은 일실시예에 따른 응답 추론 방법을 설명하기 위한 도면이다.
도 4a 및 도 4b는 일실시예에 따른 인코더 및 디코더를 이용한 동작을 설명하기 위한 도면들이다.
도 5a 및 도 5b는 일실시예에 따른 멀티 샘플링을 통하여 잠재 변수 벡터를 생성하는 동작을 설명하기 위한 도면들이다.
도 6은 일실시예에 따른 응답 추론을 위한 학습 방법을 설명하기 위한 순서도이다.
도 7은 일실시예에 따른 응답 추론을 위한 학습 방법을 설명하기 위한 도면이다.
도 8은 일실시예에 따른 응답 추론을 위한 학습 방법을 설명하기 위한 도면이다.
도 9는 일실시예에 따른 장치의 구성의 예시도이다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 실시예들은 특정한 개시형태로 한정되는 것이 아니며, 본 명세서의 범위는 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
아래에서 설명할 실시예들은 생성 기반 대화 모델을 이용하여 응답을 생성하는 기법과 관련된다. 규칙/탐색 기반 대화 모델은 다양한 입력을 인식하기 어렵고, 규칙 또는 데이터베이스에 있는 표현에 한해 응답을 생성하는 제약이 있는 반면, 생성 기반 대화 모델은 학습을 통해 다양한 입력을 인식할 수 있다. 일반적인 생성 기반 대화 모델은 학습을 기반으로 최적의 응답을 생성하므로 동일한 입력에 대응하여 다양한 응답을 생성하는데 한계가 있으나, 실시예들에 따른 생성 기반 대화 모델은 동일한 입력에 대응하여 다양한 응답을 생성하는 기술을 제공할 수 있다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일실시예에 따른 응답 추론 방법을 설명하기 위한 순서도이다.
도 1을 참조하면, 일실시예에 따른 응답 추론 장치는 사용자 입력을 획득할 수 있다(101). 응답 추론 장치는 사용자 입력에 대응하는 응답을 추론하는 장치로서, 예를 들어 소프트웨어 모듈, 하드웨어 모듈 또는 이들의 조합으로 구현될 수 있다. 사용자 입력은 사용자의 발화와 같이 그에 대응하는 응답의 생성을 가능하게 하는 정보를 포함할 수 있다. 예를 들어, 사용자 입력은 응답 추론 장치가 처리하는데 적합한 다차원 벡터 등의 특징을 포함할 수 있다.
도 2(a) 및 도 2(b)를 참조하면, 응답 추론 장치(201)는 동일한 사용자 입력에 대응하여 복수의 응답들을 생성할 수 있다. 예를 들어, "자식 키우기 힘들다"라는 동일한 사용자 입력에 대응하여, 제1 시점에는 "많이 힘들죠? 그래도 지금 정말 잘하고 있어요."라는 응답이 생성되고, 제2 시점에는 "확실히 쉽지 않은 일이죠. 어깨를 토닥여 주고 싶네요."라는 응답이 생성될 수 있다. 이로 인하여, 사용자는 자동으로 생성된 응답에 지루함을 느끼지 않고, 생동감을 느낄 수 있다.
다시 도 1을 참조하면, 응답 추론 장치는 사용자 입력을 인코딩하여, 복수의 응답들에 대응하는 영역들로 분할된 잠재 변수 영역 공간 내 잠재 변수 벡터를 생성할 수 있다(102). 아래에서 상세하게 설명하겠으나, 응답 추론 장치는 사용자 입력에 대응하는 잠재 변수 영역 공간을 생성하고, 잠재 변수 영역 공간을 분할함으로써 분할된 영역 별로 다른 응답을 생성하는 기법을 제공한다.
보다 구체적으로, 응답 추론 장치는 인코더를 이용하여 사용자 입력을 인코딩할 수 있다. 인코더는 뉴럴 네트워크(neural network)의 일종으로서, 사용자 입력의 차원(dimension)을 변환시켜, 잠재 변수를 생성할 수 있다. 예를 들어, 인코더는 사용자 입력으로부터 잠재 변수를 생성하기 위해 미리 학습될 수 있고, 기 학습된 인코더는 사용자 입력으로부터 잠재 변수를 생성할 수 있다. 잠재 변수는 확률 분포로 모델링될 수 있다. 예를 들어, 잠재 변수는 평균 및 분산을 포함하는 확률 분포를 통하여 잠재 변수 영역 공간으로 표현될 수 있다.
잠재 변수 영역 공간은 인코더에 의해 생성된 잠재 변수를 표현하는 공간으로서, 인코더와 디코더의 학습에 의해 복수의 응답들에 대응하는 영역들로 분할될 수 있다. 잠재 변수 영역 공간은 복수의 응답들에 대응하는 컨트롤 입력들에 의해 분할되어 있을 수 있는데, 여기서 컨트롤 입력은 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보 일 수 있다. 컨트롤 입력은 생성되는 벡터와 동일한 차원의 벡터일 수 있다. 학습 과정에서 컨트롤 입력을 이용하여 잠재 변수 영역 공간을 분할하는 동작과 관련된 보다 상세한 내용은 후술한다.
응답 추론 장치는 사용자 입력으로부터 잠재 변수 벡터를 생성할 수 있다. 잠재 변수 벡터는 잠재 변수 영역 공간 내의 위치를 지시하는 벡터로, 분할된 영역들 중 어느 하나에 속할 수 있다. 응답 추론 장치는 확률 분포에 기초하여, 잠재 변수 영역 공간 내 분할된 영역들 중 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성할 수 있다.
잠재 변수 벡터는 사용자 입력에 대응하는 응답을 생성하기 위해 잠재된 정보 변수들을 포함하는 다차원의 벡터일 수 있다. 도 2(a) 및 도 2(b)의 실시예들과 같이, 사용자 입력은 일상 대화 내에서 특정 대답을 의도하지 않는 사용자 발화이고, 사용자 입력에 대응하는 응답은 사용자 발화에 대응하는 답변일 수 있다.
응답 추론 장치는 잠재 변수 벡터를 디코딩하여, 잠재 변수 벡터가 속하는 영역에 대응하는 출력 응답을 생성할 수 있다(103). 잠재 변수 영역 공간은 다양한 응답들에 대응하는 영역들로 분할되어 있기 때문에, 응답 추론 장치는 사용자 입력으로부터 다양한 응답을 추론할 수 있다. 응답 추론 장치는 기 학습된 뉴럴 네트워크로 구현된 인코더 및 디코더를 이용하므로, 다양한 사용자 입력을 인식하고, 인식된 사용자 입력에 적합한 응답을 다양하게 생성할 수 있다.
도 3은 일실시예에 따른 응답 추론 방법을 설명하기 위한 도면이다.
도 3을 참조하면, 응답 추론 장치는 사용자 입력(X)를 인코딩하여, 잠재 변수를 모델링 하는 확률 분포 Q(Z|X)를 생성할 수 있다. 확률 분포를 통하여 잠재 변수 Z에 대응하는 잠재 변수 영역 공간 <Z>이 표현될 수 있다.
일실시예에 따르면, 잠재 변수 영역 공간 <Z>은 다양한 응답들에 각각 대응하는 컨트롤 입력들에 의해 분할되어 있고, 응답 추론 장치는 확률 분포 Q(Z|X)로부터 잠재 변수 벡터 z를 생성할 수 있다. 응답 추론 장치는 확률 분포로부터 잠재 변수 벡터 z를 랜덤하게 생성할 수 있고, 경우에 따라 컨트롤 입력을 이용하여 잠재 변수 벡터 z를 생성할 수도 있다.
잠재 변수 벡터 z는 잠재 변수 영역 공간 <Z> 내 분할된 영역들 중 어느 하나의 영역에 속할 수 있다. 응답 추론 장치는 잠재 변수 벡터 z를 디코딩하여, 출력 응답 P(
Figure pat00001
)를 생성할 수 있다. 예를 들어, 응답 추론 장치는 랜덤하게 생성된 잠재 변수 벡터
Figure pat00002
를 디코딩하여, 잠재 변수 벡터
Figure pat00003
이 속하는 영역에 대응하는 출력 응답
Figure pat00004
을 생성할 수 있다.
일실시예에 따르면, 응답 추론 장치는 컨트롤 입력을 이용하여, 확률 분포 Q(Z|X)로부터 잠재 변수 벡터 z를 생성할 수 있다. 응답 추론 장치는 특정 응답 또는 잠재 변수 영역 공간 <Z> 내 특정 영역에 대응하는 컨트롤 입력을 획득하고, 획득된 컨트롤 입력을 이용하여 해당 영역에 속하는 잠재 변수 벡터 z의 생성을 유도할 수 있다. 예를 들어, 응답 추론 장치는 복수의 응답들에 대응하는 컨트롤 입력들 중 어느 하나를 선택하고, 선택된 컨트롤 입력에 대응하는 잠재 변수 벡터 z의 생성을 유도할 수 있다. 응답 추론 장치는 생성된 잠재 변수 벡터 z를 디코딩하여 출력 응답을 생성할 수 있다. 상술한 바와 같이, 응답 추론 장치는 인코더 및 디코더를 이용하여 응답을 추론할 수 있다. 이하, 도 4a 및 도 4b를 참조하여 인코더 및 디코더를 이용한 동작을 후술한다.
도 4a 및 도 4b는 일실시예에 따른 인코더 및 디코더를 이용한 동작을 설명하기 위한 도면들이다.
도 4a를 참조하면, 응답 추론 장치는 인코더(401) 및 디코더(402)를 이용하여 사용자 입력으로부터 출력 응답을 생성할 수 있다. 인코더(401) 및 디코더(402)는 복수의 영역들로 분할된 잠재 변수 영역 공간에 기초하여, 인코딩 및 디코딩을 수행하도록 미리 학습될 수 있다. 일실시예에 따르면, 인코더(401) 및 디코더(402)는 잠재 변수 영역 공간 내 분할된 영역들마다 서로 다른 출력 응답들을 생성하도록 학습될 수 있다. 잠재 변수 영역 공간은 미리 설정된 컨트롤 입력들에 의해 학습 과정에서 여러 영역들로 분할될 수 있다.
인코더(401)의 뉴럴 네트워크는 사용자 입력에 대응하는 입력 레이어(403), 히든 레이어(404) 및 잠재 변수를 모델링 하는 확률 분포의 평균 및 분산에 대응하는 출력 레이어(405)를 포함할 수 있다. 디코더(406)의 뉴럴 네트워크는 잠재 변수 벡터에 대응하는 입력 레이어(406), 히든 레이어(407) 및 출력 응답에 대응하는 출력 레이어(408)를 포함할 수 있다. 상술한 뉴럴 네트워크의 구조는 예시에 불과하고, 레이어들 내 노드들의 양상, 연결 구조, 파라미터들은 학습 또는 추론의 효율과 성능을 위해 다양하게 변형될 수 있다.
응답 추론 장치는 인코더(401)를 이용하여 사용자 입력으로부터 생성된 평균 및 분산에 기초하여, 확률 분포(411)를 생성할 수 있다. 상술한 바와 같이, 응답 추론 장치는 확률 분포(411)로부터 잠재 변수 영역 공간(412) 내 영역들 중 어느 하나의 영역에 속하는 잠재 변수 벡터(413)를 랜덤하게 생성하고, 디코더(402)를 이용하여 잠재 변수 벡터(413)가 속하는 영역에 대응하는 출력 응답을 생성할 수 있다.
응답 추론 장치는 컨트롤 입력을 이용하여 원하는 영역에서 잠재 변수 벡터가 생성되도록 유도할 수 있다. 예를 들어, 응답 추론 장치는 컨트롤 입력(416)을 이용하여, 확률 분포(414)로부터 잠재 변수 영역 공간(415) 내 제1 영역에 속하는 잠재 변수 벡터(417)를 생성하고, 디코더(402)를 이용하여 잠재 변수 벡터(417)가 속하는 영역에 대응하는 출력 응답을 생성할 수 있다. 또는, 응답 추론 장치는 컨트롤 입력(418)을 이용하여, 확률 분포(414)로부터 잠재 변수 영역 공간(415) 내 영역들 중 제2 영역에 속하는 잠재 변수 벡터(419)를 생성하고, 디코더(402)를 이용하여 잠재 변수 벡터(419)가 속하는 영역에 대응하는 출력 응답을 생성할 수 있다.
도 4b를 참조하면, 인코더(401)의 출력 레이어(405)로부터 잠재 변수 벡터가 생성되는 동작을 구현한 실시예가 도시된다. 응답 추론 장치는 평균이 0이고 분산이 1인 정규 분포(N)로부터 샘플링되는 잠재 변수 벡터를 변형함으로써, 출력 레이어(405)의 평균(μ)과 분산(σ)에 따른 확률 분포(Z)로부터 샘플링되는 잠재 변수 벡터(z)를 생성할 수 있다. 예를 들어, 응답 추론 장치는 정규 분포(N) ε를 계산함으로써 잠재 변수 벡터(z)를 생성할 수 있다.
도 4b를 참조하면, 인코더(401)의 출력 레이어(405)로부터 잠재 변수 벡터가 생성되는 동작을 구현한 실시예가 도시된다. 응답 추론 장치는 평균이 0이고 분산이 1인 정규 분포(N)로부터 샘플링되는 잠재 변수 벡터를 변형함으로써, 출력 레이어(405)의 평균(μ)과 분산(σ)에 따른 확률 분포(Z)로부터 샘플링되는 잠재 변수 벡터(z)를 생성할 수 있다. 예를 들어, 응답 추론 장치는 정규 분포(N)으로부터 ε을 샘플링하고, ε으로부터 μ + σㆍε를 계산함으로써 잠재 변수 벡터(z)를 생성할 수 있다.
도 5a 및 도 5b는 일실시예에 따른 멀티 샘플링을 통하여 잠재 변수 벡터를 생성하는 동작을 설명하기 위한 도면들이다.
도 5a를 참조하면, 응답 추론 장치는 인코더(501)를 이용하여 생성된 확률 분포(예를 들어, 평균 및 분산)로부터 디코더(503)로 인가하기 위한 잠재 변수 벡터(506)를 생성하는 모듈(502)을 포함할 수 있다. 응답 추론 장치는 인코더(501)에 의해 생성된 확률 분포에 기초하여, 복수의 벡터들(504)을 샘플링할 수 있다. 응답 추론 장치는 확률 분포로부터 복수의 벡터들(504)을 랜덤하게 샘플링할 수 있다. 복수의 벡터들(504)은 다차원의 변수들을 포함할 수 있다.
일실시예에 따르면, 응답 추론 장치는 임베디드 컨트롤 입력(505)을 이용하여 복수의 응답들 중 어느 하나의 응답을 랜덤하게 선택하는 잠재 변수 벡터(506)를 생성할 수 있다. 예를 들어, 임베디드 컨트롤 입력(505)은 샘플링된 벡터들(504)과 동일한 차원의 벡터로, 랜덤하게 결정될 수 있다.
응답 추론 장치는 임베디드 컨트롤 입력(505)을 샘플링된 벡터들(504)에 각각 적용할 수 있다. 응답 추론 장치는 컨트롤 입력(505)과 각 샘플링된 벡터들(504) 사이의 닷 프로덕트(dot product) 연산을 수행하여 유사도를 계산할 수 있다.
응답 추론 장치는 임베디드 컨트롤 입력(505)이 적용된 샘플링된 벡터들을 유사도 기반 가중 합(weighted sum)하여 잠재 변수 벡터(506)를 생성할 수 있다. 예를 들어, 벡터들 사이의 닷 프로덕트 연산의 결과는 벡터의 방향이 유사할수록 큰 값을 가지므로, 응답 추론 장치는 컨트롤 입력(505)과 각 샘플링된 벡터들(504) 사이의 닷 프로덕트 연산의 결과들의 소프트맥스(SoftMax) 값을 가중치로하여 합산함으로써, 잠재 변수 벡터(506)를 생성할 수 있다.
상술한 바와 같이, 잠재 변수 벡터(506)는 응답을 추론하기 위해 잠재된 변수들을 나타내는 다차원의 벡터인데, 샘플링된 벡터들(504)과 컨트롤 입력(505)은 같은 차원의 벡터이므로, 잠재 변수 벡터(506)도 샘플링된 벡터들(504) 및 컨트롤 입력(505)과 같은 차원으로 생성될 수 있다. 응답 추론 장치는 디코더(503)를 이용하여 잠재 변수 벡터(506)로부터 출력 응답을 생성할 수 있다.
이 경우, 도 2(a) 및 도 2(b)를 통하여 전술한 것과 같이, 동일한 사용자 입력에 대응하여 다양한 응답들 중 어느 하나의 응답이 랜덤하게 선택되어 출력될 수 있다.
일실시예에 따르면, 응답 추론 장치는 컨트롤 입력을 이용하여 원하는 응답을 유도할 수도 있다. 컨트롤 입력은 샘플링된 벡터들(504)과 같은 차원의 벡터일 수 있다. 응답 추론 장치는 다양한 응답들 중 특정 응답을 유도하기 위해, 복수의 컨트롤 입력들 중 어느 하나의 컨트롤 입력을 선택할 수 있다. 상술한 바와 같이, 컨트롤 입력은 잠재 변수 영역 공간 내 분할된 영역들 중에서 특정 영역으로 잠재 변수 벡터를 편향시키는 벡터일 수 있다.
경우에 따라, 응답 추론 장치는 컨트롤 입력을 랜덤화할 수 있다. 예를 들어, 응답 추론 장치는 랜덤 입력을 컨트롤 입력에 적용시켜, 임베디드 컨트롤 입력(505)을 생성할 수 있다.
일실시예에 따르면, 응답 추론 장치는 <표 1>과 같이 키워드(keyword)에 대응하는 컨트롤 입력을 이용하여, 사용자 입력으로부터 출력 응답을 생성할 수 있다.
사용자 입력 키워드 출력 응답
이번 연휴는 혼자 보내야해 영화 그것도 나쁘지 않죠. 평소 보고 싶었던 영화를 VOD로 감상하는 건 어때요?
책 차분한 연휴가 되겠네요! 사 놓고 읽지 않았던 책을 읽어보는 건 어때요?
일실시예에 따르면, 응답 추론 장치는 <표 2>와 같이 감정(sentiment)에 대응하는 컨트롤 입력을 이용하여, 사용자 입력으로부터 출력 응답을 생성할 수 있다.
사용자 입력 감정 출력 응답
요즘 좋아하는 음악 장르는 재즈야 positive 저도 좋아요.
negative 저는 클래식에 더 관심이 많아요.
상술한 예시뿐만 아니라, 컨트롤 입력은 태도(attitude) 및 성향(direct)에 기초하여 설정될 수 있고, 설계 의도에 따라 다양한 방식이 채용되어 응용될 수 있다.
사용자 입력 태도 출력 응답
오늘 일이 너무 하기 싫어! 나태 하기 싫은 일은 그만 하고, 시원한 맥주 한잔 어때요?
근면 정말 힘들겠어요. 그래도 조금만 힘내서 일을 처리하고 나면 마음이 한결 가벼워질 거에요.
사용자 입력 성향 출력 응답
투자 정보를 알려줘. 공격투자형 헤지 펀드 추천
적극투자형 인덱스 펀드 추천
위험중립형 혼합형 펀드 추천
안전추구형 채권형 펀드 추천
안전형 예금 추천
아래에서 설명하겠으나, 도 5a의 실시예에서 이용되는 컨트롤 입력은 학습 과정에서 이용되는 컨트롤 입력과 동일할 수 있다.
도 5b를 참조하면, 멀티 샘플링 동작을 구현한 실시예가 도시된다. 응답 추론 장치는 평균이 0이고 분산이 1인 정규 분포(N)로부터 멀티 샘플링되는 잠재 변수 벡터들을 변형함으로써, 평균(μ)과 분산(σ)에 따른 확률 분포(Z)로부터 샘플링되는 잠재 변수 벡터들(zi)을 생성할 수 있다. 예를 들어, 응답 추론 장치는 정규 분포(N)으로부터 εi를 멀티 샘플링하고, εi로부터 μ + σεi를 계산함으로써 잠재 변수 벡터들(zi)(504)을 생성할 수 있다.
아래에서 설명하겠으나, 인코더(501)와 디코더(503) 사이에서 잠재 변수 벡터를 멀티 샘플링하는 동작을 뉴럴 네트워크의 노드들로 구현함으로써, 인코더(501)와 디코더(503)가 동시에 학습될 수 있다. 이로 인하여, 엔드-투-엔드(end-to-end) 뉴럴 네트워크를 이용하는 형태로 실시예들이 구현될 수 있다.
도 6은 일실시예에 따른 응답 추론을 위한 학습 방법을 설명하기 위한 순서도이다.
도 6을 참조하면, 일실시예에 따른 응답 추론을 위한 학습 장치(이하, 학습 장치라 지칭됨)는 트레이닝 입력을 획득할 수 있다(601). 학습 장치는 응답 추론을 위한 인코더와 디코더를 학습시키는 장치로서, 예를 들어 소프트웨어 모듈, 하드웨어 모듈 또는 이들의 조합으로 구현될 수 있다.
학습 장치는 트레이닝 입력에 대응하는 복수의 트레이닝 응답들 중 어느 하나의 트레이닝 응답을 획득할 수 있다(602). 트레이닝 응답은 트레이닝 입력에 대한 적합한 응답으로서, 정답(ground truth)에 해당한다.
학습 장치는 복수의 트레이닝 응답들에 대응하는 컨트롤 입력들 중 획득된 트레이닝 응답에 대응하는 컨트롤 입력을 획득할 수 있다(603). 예를 들어, 트레이닝 입력 "요즘 좋아하는 음악 장르는 재즈야"에 대응하는 트레이닝 응답들은 "저도요!", "저도 좋아요." 및 "역시, 우린 통하네요."를 포함하고, 컨트롤 입력들은 각각 트레이닝 응답들에 대응할 수 있다.
일실시예에 따르면, 컨트롤 입력은 트레이닝 응답을 인코딩하여 생성된 특징 벡터일 수 있다. 예를 들어, 도 2(b)를 참조하면, "저도요!"를 인코딩하여 제1 컨트롤 입력이 생성되고, "저도 좋아요."를 인코딩하여 제2 컨트롤 입력이 생성되며, "역시, 우린 통하네요."를 인코딩하여 제3 컨트롤 입력이 생성되고, "저, 우린 통하네요."를 인코딩하여 제4 컨트롤 입력이 생성될 수 있다. 제1 내지 제4 컨트롤 입력 각각은 다차원 공간 내에서 서로 구별되는 위치를 지시하는 다차원 벡터일 수 있다.
사용자 입력에 기초하여 잠재 변수 영역 공간이 결정되면, 다양한 응답들에 대응하는 다양한 컨트롤 입력들을 이용하여 잠재 변수 영역 공간을 분할하고, 분할된 각 영역에 대응하여 해당하는 응답이 출력되도록 뉴럴 네트워크가 학습될 수 있다. 또한, 학습 장치는 컨트롤 입력에 랜덤 입력을 부가하여 임베디드 컨트롤 입력을 생성하고, 임베디드 컨트롤 입력을 이용하여 잠재 변수 영역 공간을 분할함으로써, 잠재 변수 영역 공간 내 각 영역이 차지하는 비중을 증가시킬 수 있다.
다른 실시예에 다르면, 컨트롤 입력은 표 1 및 표 2와 같이 키워드나 감정 등의 정보를 인코딩하여 생성된 특징 벡터일 수 있다. 예를 들어, 표 1을 참조하면, "영화" 키워드를 인코딩하여 제1 컨트롤 입력이 생성되고, "책" 키워드를 인코딩하여 제2 컨트롤 입력이 생성될 수 있다.
학습 장치는 컨트롤 입력들 중 학습시키고자 하는 트레이닝 응답에 대응하는 컨트롤 입력을 선택할 수 있다.
학습 장치는 학습시키고자 하는 인코더로 트레이닝 입력을 인가하여, 잠재 변수를 생성할 수 있다(604). 상술한 바와 같이, 확률 분포는 잠재 변수에 대응하는 잠재 변수 영역 공간을 표현하는 방식들 중에 하나로, 인코더는 평균 및 분산을 출력하도록 설계될 수 있다.
학습 장치는 확률 분포 및 획득된 컨트롤 입력에 기초하여, 잠재 변수 영역 공간 내에서 획득된 컨트롤 입력에 대응하는 영역의 트레이닝 잠재 변수 벡터를 생성할 수 있다(605). 상술한 바와 같이, 컨트롤 입력은 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터의 생성을 유도하므로, 학습 장치는 해당 컨트롤 입력에 따른 트레이닝 잠재 변수 벡터를 생성할 수 있다.
학습 장치는 학습시키고자 하는 디코더로 트레이닝 잠재 변수 벡터를 인가하여, 출력 응답을 생성할 수 있다(606). 상술한 바와 같이, 디코더는 잠재 변수 벡터로부터 응답을 출력하도록 설계될 수 있다.
학습 장치는 출력 응답 및 트레이닝 응답에 기초하여, 인코더 및 디코더의 뉴럴 네트워크를 학습할 수 있다(607). 뉴럴 네트워크를 학습하는 방식에는 다양한 기법들이 채용될 수 있다. 학습 장치는 인코더 및 디코더의 뉴럴 네트워크를 최적화하여, 컨트롤 입력들에 대응하는 영역들마다 서로 다른 출력 응답을 생성하도록 잠재 변수 영역 공간을 분할할 수 있다. 응답 추론 장치는 학습에 의해 분할된 잠재 변수 영역 공간을 이용하여, 다양한 출력 응답을 생성할 수 있다.
도 7은 일실시예에 따른 응답 추론을 위한 학습 방법을 설명하기 위한 도면이다.
도 7을 참조하면, 학습 장치는 트레이닝 입력을 인코더(701)로 인가하고, 샘플링 모듈(702)에 컨트롤 입력을 인가할 수 있다. 샘플링 모듈(702)은 도 5a의 모듈(502)과 동일한 구조를 포함할 수 있고, 도 5b와 같이 멀티 샘플링을 하도록 구현될 수 있다.
디코더(703)는 출력 응답을 생성할 수 있다. 학습 장치는 트레이닝 응답 및 출력 응답 사이의 차이로 정의된 손실 함수이 값이 최소화되도록 인코더(701) 및 디코더(703)를 학습시킬 수 있다. 예를 들어, 학습 장치는 역전파(back-propagation) 학습 기법을 이용하여 인코더(701)와 디코더(703)를 학습시킬 수 있다.
일실시예에 따르면, 학습 장치는 인코더(701)와 디코더(703)를 동시에 학습시킴으로써, 엔드-투-엔드 유형의 응답 추론기를 생성할 수 있다.
도 8은 일실시예에 따른 응답 추론을 위한 학습 방법을 설명하기 위한 도면이다.
도 8을 참조하면, 다양한 응답들에 대응하는 컨트롤 입력들
Figure pat00005
에 의해 잠재 변수 영역 공간(801)이 분할될 수 있다. 학습 장치는 컨트롤 입력들
Figure pat00006
, 복수의 트레이닝 입력들, 트레이닝 응답들 및 출력 응답들에 기초하여, 인코더 및 디코더를 학습시킬 수 있고, 학습에 의해 잠재 변수 영역 공간(801)은 컨트롤 입력들
Figure pat00007
에 각각 대응하는 영역들로 분할될 수 있다.
실시예들에 따르면, 잠재 변수 영역 공간(801) 내 분할된 영역들은 각각 컨트롤 입력들에 대응하여 서로 구분되면 충분하고, 컨트롤 입력이 입력되는 시점에 해당 컨트롤 입력이 잠재 변수 영역 공간(801) 내 어느 영역을 지시할지 정확하게 알아야 할 필요는 없다.
도면에 도시하지는 않았으나, 일실시예에 따르면, 잠재 변수 영역 공간(801)은 소프트 파티션 될 수 있다. 예를 들어, 잠재 변수 영역 공간(801) 내 영역들이 서로 겹치거나, 잠재 변수 영역 공간(801) 내 빈 영역이 존재할 수도 있다. 이 경우, 잠재 변수 벡터는 둘 이상의 영역들이 겹친 영역에 속하거나, 빈 영역에 속할 수 있다.
도면에 도시하지는 않았으나, 일실시예에 따르면, 서로 다른 사용자 입력에 대응하여 학습된 결과가 종합적으로 고려되어 응답을 생성하는 응답 추론기가 생성될 수 있다.
사용자 입력 컨트롤 입력 출력 응답
A a1에 기초하여 생성된 특징 벡터 a1
a2 에 기초하여 생성된 특징 벡터 a2
a3 에 기초하여 생성된 특징 벡터 a3
A' b1 에 기초하여 생성된 특징 벡터 b1
a2' 에 기초하여 생성된 특징 벡터 a2'
예를 들어, 상기 표 5를 참조하면, 사용자 입력 A에 대응하여 출력 응답 a1, a2, 및 a3가 학습될 수 있다. 또한, 사용자 입력 A'에 대응하여 출력 응답 b1 및 a2'이 학습될 수 있다.사용자 입력 A와 사용자 입력 A'은 서로 유사할 수 있다. 이 경우, 사용자 입력 A에 의하여 생성되는 제1 잠재 변수 영역 공간과 사용자 입력 A'에 의하여 생성되는 제2 잠재 변수 영역 공간은 서로 유사할 수 있다.
또한, 출력 응답 a2와 출력 응답 a2'은 서로 유사할 수 있다. 이 경우, 출력 응답 a2의 특징벡터에 의하여 선택되는 제1 영역과 출력 응답 a2'의 특징벡터에 의하여 선택되는 제2 영역은 서로 유사할 수 있다.
제1 잠재 변수 영역 공간 내 제1 영역과 제2 잠재 변수 영역 공간 내 제2 영역은 서로 유사한 분포를 가질 수 있고, 다른 출력 응답들(a1, a3, b1)은 제1 영역 및 제2 영역과 구별되는 영역으로 분포될 수 있다.
그 결과, 표 3과 같이 학습된 응답 추론기는 추론 과정에서 사용자 입력 A에 반응하여 a1, a2, a3뿐 아니라 b1을 생성할 수도 있다. 또한, 응답 추론기는 사용자 입력 A'에 반응하여 b1, a2'뿐 아니라 a1, a3를 생성할 수도 있다.
도 9는 일실시예에 따른 장치의 구성의 예시도이다.
도 9를 참조하면, 장치(901)는 프로세서(902) 및 메모리(903)를 포함한다. 일실시예에 따른 장치(901)는 상술한 응답 추론 장치 또는 학습 장치일 수 있다. 프로세서(902)는 도 1 내지 도 8을 통하여 전술한 적어도 하나의 장치들을 포함하거나, 도 1 내지 도 8을 통하여 전술한 적어도 하나의 방법을 수행할 수 있다. 메모리(903)는 상술한 응답 추론 방법 또는 학습 방법과 관련된 정보를 저장하거나 상술한 응답 추론 방법 또는 학습 방법이 구현된 프로그램을 저장할 수 있다. 메모리(903)는 휘발성 메모리 또는 비휘발성 메모리일 수 있다.
프로세서(902)는 프로그램을 실행하고, 장치(901)를 제어할 수 있다. 프로세서(902)에 의하여 실행되는 프로그램의 코드는 메모리(903)에 저장될 수 있다. 장치(901)는 입출력 장치(도면 미 표시)를 통하여 외부 장치(예를 들어, 퍼스널 컴퓨터 또는 네트워크)에 연결되고, 데이터를 교환할 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (20)

  1. 사용자 입력을 획득하는 단계;
    상기 사용자 입력을 인코딩하여, 복수의 응답들에 대응하는 영역들로 분할된 잠재 변수 영역 공간(latent variable region space) 내 잠재 변수 벡터(latent variable vector)를 생성하는 단계; 및
    상기 잠재 변수 벡터를 디코딩하여, 상기 잠재 변수 벡터가 속하는 영역에 대응하는 출력 응답을 생성하는 단계
    를 포함하는
    응답 추론 방법.
  2. 제1항에 있어서,
    상기 잠재 변수 벡터는 상기 사용자 입력에 대응하는 응답을 생성하기 위해 잠재된 정보 변수들을 포함하는 다차원의 벡터인,
    응답 추론 방법.
  3. 제1항에 있어서,
    상기 잠재 변수 영역 공간은 상기 복수의 응답들에 대응하는 컨트롤 입력들에 의해 분할되어 있고,
    컨트롤 입력은 상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보인,
    응답 추론 방법.
  4. 제1항에 있어서,
    상기 잠재 변수 벡터를 생성하는 단계는
    상기 사용자 입력을 인코딩하여 잠재 변수를 생성하는 단계; 및
    상기 잠재 변수에 대응하는 잠재 변수 영역 공간 내 분할된 상기 영역들 중 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계
    를 포함하는,
    응답 추론 방법.
  5. 제4항에 있어서,
    상기 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계는
    상기 잠재 변수 영역 공간을 표현하는 확률 분포에 기초하여, 복수의 벡터들을 샘플링하는 단계; 및
    상기 샘플링된 벡터들에 기초하여, 상기 잠재 변수 벡터를 생성하는 단계
    를 포함하는,
    응답 추론 방법.
  6. 제4항에 있어서,
    상기 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계는
    상기 잠재 변수 영역 공간 내 상기 영역들에 대응하는 컨트롤 입력들 중 어느 하나를 선택하는 단계; 및
    상기 확률 분포에 기초하여, 상기 선택된 컨트롤 입력에 대응하는 영역에 속하는 잠재 변수 벡터를 생성하는 단계
    를 포함하는,
    응답 추론 방법.
  7. 제4항에 있어서,
    상기 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는 단계는
    상기 잠재 변수 영역 공간을 표현하는 확률 분포에 기초하여, 복수의 벡터들을 샘플링하는 단계;
    상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보인 컨트롤 입력을 랜덤화하여 임베디드 컨트롤 입력을 생성하는 단계;
    상기 임베디드 컨트롤 입력을 상기 샘플링된 벡터들에 각각 적용하는 단계; 및
    상기 임베디드 컨트롤 입력이 적용된 상기 샘플링된 벡터들을 가중 합(weighted sum)하여 상기 잠재 변수 벡터를 생성하는 단계
    를 포함하는,
    응답 추론 방법.
  8. 제1항에 있어서,
    상기 사용자 입력은 일상 대화 내에서 특정 대답을 의도하지 않는 사용자 발화이고,
    상기 복수의 응답들은 상기 사용자 발화에 대응하는 서로 다른 답변들인,
    응답 추론 방법.
  9. 제1항에 있어서,
    상기 잠재 변수 벡터를 생성하는 단계는
    인코더를 이용하여 상기 사용자 입력을 인코딩하는 단계를 포함하고,
    상기 인코더의 뉴럴 네트워크는 상기 사용자 입력에 대응하는 입력 레이어와 상기 잠재 변수를 모델링 하는 확률 분포의 평균 및 분산에 대응하는 출력 레이어를 포함하는,
    응답 추론 방법.
  10. 제1항에 있어서,
    상기 출력 응답을 생성하는 단계는
    디코더를 이용하여 상기 잠재 변수 벡터를 디코딩하는 단계를 포함하고,
    상기 디코더의 뉴럴 네트워크는 상기 잠재 변수 벡터에 대응하는 입력 레이어와 상기 출력 응답에 대응하는 출력 레이어를 포함하는,
    응답 추론 방법.
  11. 트레이닝 입력을 획득하는 단계;
    상기 트레이닝 입력에 대응하는 복수의 트레이닝 응답들 중 어느 하나의 트레이닝 응답을 획득하는 단계;
    상기 복수의 트레이닝 응답들에 대응하는 복수의 컨트롤 입력들 중 상기 트레이닝 응답에 대응하는 컨트롤 입력을 획득하는 단계;
    학습시키고자 하는 인코더로 상기 트레이닝 입력을 인가하여, 잠재 변수를 생성하는 단계;
    상기 잠재 변수에 대응하는 잠재 변수 영역 공간 내에서 상기 컨트롤 입력에 대응하는 영역의 트레이닝 잠재 변수 벡터를 생성하는 단계;
    학습시키고자 하는 디코더로 상기 트레이닝 잠재 변수 벡터를 인가하여, 출력 응답을 생성하는 단계; 및
    상기 출력 응답 및 상기 트레이닝 응답에 기초하여, 상기 인코더 및 상기 디코더의 뉴럴 네트워크를 학습하는 단계
    를 포함하는,
    응답 추론을 위한 학습 방법.
  12. 제11항에 있어서,
    상기 트레이닝 잠재 변수 벡터는 상기 트레이닝 입력에 대응하는 응답을 생성하기 위해 잠재된 정보 변수들을 포함하는 다차원의 벡터이고,
    상기 컨트롤 입력은 상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보인,
    응답 추론을 위한 학습 방법.
  13. 제11항에 있어서,
    상기 잠재 변수 영역 공간은 상기 컨트롤 입력들에 대응하는 영역들로 분할되는,
    응답 추론을 위한 학습 방법.
  14. 제11항에 있어서,
    상기 트레이닝 잠재 변수 벡터를 생성하는 단계는
    상기 잠재 변수 영역 공간을 표현하는 확률 분포에 기초하여, 복수의 벡터들을 샘플링하는 단계;
    상기 컨트롤 입력을 랜덤화하여 임베디드 컨트롤 입력을 생성하는 단계;
    상기 임베디드 컨트롤 입력을 상기 샘플링된 벡터들에 각각 적용하는 단계; 및
    상기 임베디드 컨트롤 입력이 적용된 상기 샘플링된 벡터들을 가중 합(weighted sum)하여 트레이닝 잠재 변수 벡터를 생성하는 단계
    를 포함하는,
    응답 추론을 위한 학습 방법.
  15. 하드웨어와 결합되어 제1항 내지 제14항 중 어느 하나의 항의 방법을 실행시키기 위하여 기록 매체에 저장된 컴퓨터 프로그램.
  16. 사용자 입력을 획득하고,
    상기 사용자 입력을 인코딩하여, 복수의 응답들에 대응하는 영역들로 분할된 잠재 변수 영역 공간 내 잠재 변수 벡터를 생성하고,
    상기 잠재 변수 벡터를 디코딩하여, 상기 잠재 변수 벡터가 속하는 영역에 대응하는 출력 응답을 생성하는 프로세서
    를 포함하는
    응답 추론 장치.
  17. 제16항에 있어서,
    상기 잠재 변수 벡터는 상기 사용자 입력에 대응하는 응답을 생성하기 위해 잠재된 정보 변수들을 포함하는 다차원의 벡터인,
    응답 추론 장치.
  18. 제16항에 있어서,
    상기 잠재 변수 영역 공간은 상기 복수의 응답들에 대응하는 컨트롤 입력들에 의해 분할되어 있고,
    컨트롤 입력은 상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보인,
    응답 추론 장치.
  19. 제16항에 있어서,
    상기 프로세서는
    상기 사용자 입력을 인코딩하여 잠재 변수를 생성하고,
    상기 잠재 변수에 대응하는 잠재 변수 영역 공간 내 분할된 상기 영역들 중 어느 하나의 영역에 속하는 잠재 변수 벡터를 생성하는
    응답 추론 장치.
  20. 제19항에 있어서,
    상기 프로세서는
    상기 잠재 변수 영역 공간을 표현하는 확률 분포에 기초하여, 복수의 벡터들을 샘플링하고,
    상기 잠재 변수 영역 공간 내에서 특정 영역 내 잠재 변수 벡터를 생성하도록 유도하는 정보인 컨트롤 입력을 랜덤화하여 임베디드 컨트롤 입력을 생성하고,
    상기 임베디드 컨트롤 입력을 상기 샘플링된 벡터들에 각각 적용하고,
    상기 임베디드 컨트롤 입력이 적용된 상기 샘플링된 벡터들을 가중 합(weighted sum)하여 상기 잠재 변수 벡터를 생성하는,
    응답 추론 장치.
KR1020180094770A 2018-08-14 2018-08-14 응답 추론 방법 및 장치 Abandoned KR20200023664A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020180094770A KR20200023664A (ko) 2018-08-14 2018-08-14 응답 추론 방법 및 장치
US16/266,395 US20200057947A1 (en) 2018-08-14 2019-02-04 Response inference method and apparatus
EP19165145.4A EP3611637A1 (en) 2018-08-14 2019-03-26 Response inference method and apparatus
CN201910261432.0A CN110825854A (zh) 2018-08-14 2019-04-02 响应推断方法和设备
JP2019114794A JP2020027609A (ja) 2018-08-14 2019-06-20 応答推論方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180094770A KR20200023664A (ko) 2018-08-14 2018-08-14 응답 추론 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20200023664A true KR20200023664A (ko) 2020-03-06

Family

ID=65991588

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180094770A Abandoned KR20200023664A (ko) 2018-08-14 2018-08-14 응답 추론 방법 및 장치

Country Status (5)

Country Link
US (1) US20200057947A1 (ko)
EP (1) EP3611637A1 (ko)
JP (1) JP2020027609A (ko)
KR (1) KR20200023664A (ko)
CN (1) CN110825854A (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023177079A1 (ko) * 2022-03-18 2023-09-21 삼성전자주식회사 합성 벡터에 기반하여 사용자 발화를 처리하는 서버, 전자 장치, 및 이의 동작 방법
KR20240104512A (ko) * 2022-12-28 2024-07-05 중앙대학교 산학협력단 멀티-변이형 오토 인코더를 활용한 사용자 예측 데이터 생성 장치 및 방법

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3716150A1 (en) * 2019-03-27 2020-09-30 Nvidia Corporation Improved image segmentation using a neural network translation model
US11551688B1 (en) * 2019-08-15 2023-01-10 Snap Inc. Wearable speech input-based vision to audio interpreter
KR102814913B1 (ko) * 2019-10-02 2025-05-30 삼성전자주식회사 응답 추론 방법 및 장치
US20220138537A1 (en) * 2020-11-02 2022-05-05 International Business Machines Corporation Probabilistic nonlinear relationships cross-multi time series and external factors for improved multivariate time series modeling and forecasting

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8930301B2 (en) * 2013-05-31 2015-01-06 Linkedin Corporation Systems and methods for content response prediction
US9401143B2 (en) * 2014-03-24 2016-07-26 Google Inc. Cluster specific speech model
US9514363B2 (en) * 2014-04-08 2016-12-06 Disney Enterprises, Inc. Eye gaze driven spatio-temporal action localization
US10091140B2 (en) * 2015-05-31 2018-10-02 Microsoft Technology Licensing, Llc Context-sensitive generation of conversational responses
US10083157B2 (en) * 2015-08-07 2018-09-25 Google Llc Text classification and transformation based on author
CN108140146B (zh) * 2015-08-19 2022-04-08 D-波系统公司 使用绝热量子计算机的离散变分自动编码器系统和方法
US10432953B2 (en) * 2016-02-05 2019-10-01 Deepmind Technologies Limited Compressing images using neural networks
KR102565275B1 (ko) * 2016-08-10 2023-08-09 삼성전자주식회사 병렬 처리에 기초한 번역 방법 및 장치
US10963782B2 (en) * 2016-11-04 2021-03-30 Salesforce.Com, Inc. Dynamic coattention network for question answering
US10621586B2 (en) * 2017-01-31 2020-04-14 Paypal, Inc. Fraud prediction based on partial usage data
CN108153913B (zh) * 2018-01-24 2020-08-07 鼎富智能科技有限公司 回复信息生成模型的训练方法、回复信息生成方法及装置
US10540446B2 (en) * 2018-01-31 2020-01-21 Jungle Disk, L.L.C. Natural language generation using pinned text and multiple discriminators

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023177079A1 (ko) * 2022-03-18 2023-09-21 삼성전자주식회사 합성 벡터에 기반하여 사용자 발화를 처리하는 서버, 전자 장치, 및 이의 동작 방법
KR20240104512A (ko) * 2022-12-28 2024-07-05 중앙대학교 산학협력단 멀티-변이형 오토 인코더를 활용한 사용자 예측 데이터 생성 장치 및 방법

Also Published As

Publication number Publication date
JP2020027609A (ja) 2020-02-20
US20200057947A1 (en) 2020-02-20
EP3611637A1 (en) 2020-02-19
CN110825854A (zh) 2020-02-21

Similar Documents

Publication Publication Date Title
US12067476B2 (en) Mixture of experts neural networks
Kamath et al. Deep learning for NLP and speech recognition
KR20200023664A (ko) 응답 추론 방법 및 장치
JP7109557B2 (ja) 質問応答としてのマルチタスク学習
Papangelis et al. Collaborative multi-agent dialogue model training via reinforcement learning
CN114565104A (zh) 语言模型的预训练方法、结果推荐方法及相关装置
US20240086619A1 (en) Ml using n-gram induced input representation
KR102814913B1 (ko) 응답 추론 방법 및 장치
CN112905735A (zh) 用于自然语言处理的方法和设备
CN112668317B (zh) 用于确定输出词法单元的方法和设备
CN110633359B (zh) 语句等价性判断方法和装置
CN111382257A (zh) 一种生成对话下文的方法和系统
CN117312522B (zh) 文本处理方法、装置、电子设备、存储介质及程序产品
CN117648950A (zh) 神经网络模型的训练方法、装置、电子设备及存储介质
EP4726716A1 (en) Speech encoder training method and apparatus, and device, medium and program product
CN115455985A (zh) 一种基于机器阅读理解的自然语言系统的处理方法
CN113742541A (zh) 对话方法、装置、电子设备及计算机可读存储介质
CN118296117A (zh) 对话模型的训练方法、生成对话的控制方法、系统及设备
CN116701605A (zh) 问答机器人的回复优化方法及装置、电子设备、存储介质
WO2023063880A2 (en) System and method for training a transformer-in-transformer-based neural network model for audio data
Verma et al. HARENDRAKV at VQA-Med 2020: Sequential VQA with Attention for Medical Visual Question Answering.
Tran et al. A speech representation anonymization framework via selective noise perturbation
Zorrilla et al. Audio embeddings help to learn better dialogue policies
Shi et al. kNN-prompt: Nearest neighbor zero-shot inference
JP7428245B2 (ja) 応答文生成装置およびプログラム

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

A201 Request for examination
PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

PC1902 Submission of document of abandonment before decision of registration

St.27 status event code: N-1-6-B10-B11-nap-PC1902

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000