챗-GPT3를 직접 만든다면? #2-최종

목적 :  최경량의 특정 도메인에 대한 챗봇기능을 만들어 보자.

과정 :  OpenAI가 지대한 관심을 받고 있으니,  이 과정을 추종하여 제안/설명하면 더 어필/이해될 것임.

필요 : 일반적인 머신러닝/딥러닝/신경망의 모델링 및 배포처럼, 1. 데이터 구축, 2. 신경망 학습 알고리즘의 확보가 중요.

 

구축과정

    0. 알고리즘

           - OpenAI나 Google 이외의 유사한 오픈 소스 확보

           - 크게, ML학습과 강화학습의 알고리즘을 포함하고 있어야 함.

           - 알고리즘은 Recipe도 포함함.

           -  오픈소스 관련, 블로그 작성 필요.( 오픈소스 존재함.!)

    1. Base모델 

           - 지도(supervised)학습

               :: 데이터 :   질의어-답변 쌍,  전문가/휴먼의 작업. 적절한 소량. ( 비용 문제 )  [ 인적비용 ]

               :: ML학습( 일반적인 기계번역 처럼.)  [인프라 비용]

    2. 배포모델

             - 강화(reinforcement)학습

                :: 데이터 :    GPT를 통해 대량으로 확보. [인적비용 절감, 절대적으로 인적 투입 불가]

                          <-  (참조) https://betweencloud.tistory.com/83 

                :: Base모델 + 보상 모델 을 활용한 학습  [인프라 비용]