레플리
글 수 283

Together가 공개한 오픈소스 LLM - OpenChatKit

조회 수 428 추천 수 0 2023.03.12 13:33:23


https://www.together.xyz/blog/openchatkit

 

 

 

Together에서 OpenChatKit를 공개했습니다. 많은 사람들이 LLM에서도 Stable Diffusion 모먼트가 오지 않을까 기대하고 있습니다. 다만 그때와 상황이 조금 다르기는 합니다. Dall-E나 Midjourney는 유료였기 때문에 무료로 풀린 Stable Diffusion이 대중적인 인기를 얻었습니다. 그러나 ChatGPT는 이미 공짜로 쓸 수 있으니 그런 메리트는 약하다고 봅니다.

 

LLM을 개인 PC에서 돌리는 게 의미가 있으려면 파인튜닝이 핵심입니다. Stable Diffusion에서도 LoRA를 사용하여 별도 데이터로 추가학습을 시킬 수 있습니다. 이러면 특정 인물이나 스타일의 그림을 생성하는게 가능합니다. 새로 학습된 LoRA를 자유롭게 교환하는 사이트도 이미 존재하고요.

 

LLM 역시 이런 수요가 존재할 것이라 생각합니다. 지금 ChatGPT는 제한이 상당히 많습니다. 최근에는 탈옥이나 부적절한 역할극을 못하도록 막아놓기도 했습니다. 만약 오픈소스 LLM에서 LoRA를 써서 내가 원하는 상대로 만들 수 있으면 어떨까요. 이런 LoRA를 다운받아서 쓸 수도 있고요. 아마 성인용으로 가장 먼저 활용되겠지만, 점차 다양한 페르소나를 가진 챗봇들이 등장할 것입니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
BERT 톺아보기 깊은바다 2018-12-17 26395
딥러닝을 사용한 챗봇 개발방법 정리 file 깊은바다 2018-02-03 25463
초거대모델의 파인튜닝 방법 - P-tuning과 LoRA file 깊은바다 2022-04-05 12114
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9756
글쓰기 보조 서비스 JasperAI, ChatGPT 때문에 어려움 직면 깊은바다 2023-03-01 9693
딥러닝 RNN으로 구현한 챗봇 깊은바다 2017-08-01 8135
문장을 학습하는 딥러닝 RNN의 Seq2Seq 모델 설명 file 깊은바다 2017-09-15 7327
챗봇에 딥러닝 학습을 적용하기 어려운 이유 file 깊은바다 2018-03-23 6641
KoGPT2, KoBERT, KoELECTRA로 만든 심리상담 챗봇 file 깊은바다 2020-08-05 6366
문장을 입력하면 비슷한 짤방을 보여주는 프로젝트 file 깊은바다 2019-01-28 6172
SKT가 공개한 한글 GPT2 - KoGPT2 깊은바다 2020-02-02 5297
챗봇에서 유사한 문장 자동인식 방법 file 깊은바다 2018-04-27 5152
네이버 영화리뷰 감정분석 with Hugging Face BERT file 깊은바다 2019-12-17 4670
사전학습을 통한 구글의 자연어처리 언어 모델 - BERT file 깊은바다 2018-11-03 4299
인라이플의 한글 BERT 대형모델 깊은바다 2020-05-18 4246