레플리
글 수 281


이루다는 요즘 화제가 되고 있는 일상대화 챗봇입니다. 얼마 전 정식으로 출시가 됐는데요. 구체적인 동작 방식에 대해 설명한 발표영상입니다.

 

전에 소개해드린 레플리카(http://aidev.co.kr/chatbotdeeplearning/10029)와 조금 유사합니다. 먼저 DialogBERT로 문맥을 포함한 입력을 벡터로 임베딩합니다. 그리고 Retrieval에서 입력과 대답목록를 코사인 유사도로 비교합니다. 이렇게 뽑은 후보문장들을 다시 Ranker에서 Poly encoder(https://blog.pingpong.us/ranker-model/)로 최종 답변을 얻습니다. 이는 앞의 입력과 뒤의 답변이 잘 이어지는지 판단하는 신경망 모델입니다.

 

알파에서는 Retrieval을 tf-idf로 유사도 비교를 했습니다. 반면에 베타에서는 DialogBERT로 임베딩한 벡터를 사용한 것이 가장 큰 차이점입니다. 또한 성능에 큰 영향을 주지 않던 모듈들을 제거하여 속도를 높이기도 했습니다.

 

저도 이루다와 대화를 해봤는데요. 개인적으로 Meena나 Blender, 레플리카에 뒤지지 않는 성능이라고 생각합니다(샤오이스는 중국어라 못해봤습니다^^;). 앞으로 전세계를 대표하는 챗봇으로 발전하길 기대합니다.

 

 

 

iruda1.jpg

 

 

 

iruda2.jpg

 

 

 

iruda3.jpg

 

 

 

iruda4.jpg

 

 

 

iruda5.jpg

 

 

 

iruda6.jpg

 

 

 

iruda7.jpg

 

iruda8.jpg

 

 

 

< 발표 영상 >

https://m.tv.naver.com/v/16968268

 

List of Articles
제목 글쓴이 날짜 조회 수
GPT-3로 NPC와 대화를 할 수 있는 게임 시뮬레이터 깊은바다 2021-02-22 1456
GPT-2를 사용한 텍스트 압축 기법 file 깊은바다 2021-02-19 471
딥러닝 자연어처리 라이브러리 - Pororo file 깊은바다 2021-02-03 1526
스캐터랩의 오픈도메인 챗봇 루다 육아일기 - 모델의 구조 및 동작방식 file 깊은바다 2020-12-30 1190
일상대화 챗봇 레플리카(Replika)의 구현 방식 file 깊은바다 2020-12-22 1500
좋은 응답을 골라내는 모델 만들기 - 핑퐁의 답변매칭 알고리즘 깊은바다 2020-12-10 552
GPT-3를 헬스케어 서비스에 적용했을 때의 문제점들 깊은바다 2020-11-04 706
스캐터랩의 핑퐁팀, 새로운 생성 모델 챗봇 데모 공개 깊은바다 2020-11-02 897
카카오미니의 명령어 분류 방법 깊은바다 2020-10-23 259
딥러닝으로 동네생활 게시글 필터링하기 깊은바다 2020-10-06 397
KoNLPy를 이용하여 Huggingface Transformers 학습하기 깊은바다 2020-09-20 1567
GPT-3 패러다임을 바꿀 미친 성능의 인공지능 등장 및 활용 사례 10가지 깊은바다 2020-09-14 797
GPT3 유료화 가격 공개 file 깊은바다 2020-09-04 1746
GPT-3의 다섯 가지 한계 깊은바다 2020-08-23 1048
그림으로 아주 쉽게 설명한, The Illustrated GPT-2 깊은바다 2020-08-15 2752