업무혁신을 위한 쉽게 배우는 Chat GPT 온라인 교육 (1)

*Large Language Model(LLM) 이란? 다음 단어 확률 예측모델 

- 언어의 패턴을 이해하고 생성하는 데 사용

- 다음 단어나 문장을 예측하기 위한 확률 예측 모델 

- LLM은 대량의 데이터를 학습하여 언어 패턴을 파악, 
확률 기반으로 텍스트를 생성 예측하는 모델

# playground: https://platform.openai.com/playground?mode=complete 
Mode: complete =LLM

-> LLM과 chat은 학습된 언어가 다름. 

- LLM은complet 모드로 prompt 만 출력이 됨
- chat는 SYSTEM, user, assistant 
->상단 View code를 보면

 

view code 를 클릭해서 확인해 보면 complet 모드는 prompt 만 출력되는 것을 알 수 있음

 

view code 를 클릭해서 확인해 보면 chat은 SYSTEM, user, assistant 볼 수 있음

*Temperature와 Top P (Language Model 과 확률값을 조절 할 수 있음)

예1)Temperature(선택범위) - 낮게 값을 설정하고  
Top P(임계치) - 높은값을 하면 상식적으로 나옴 
-> 굉장히 상식적인 값이 나옴 / 가장 상식적인 프로그램을 작성해서 결과가 나옴.(가장 많이 사용하는 프로그램 값을 얻게 됨)

예2)Temperature(선택범위) - 높은 값을 하면 
Top P(임계치) - 낮은값을 하면 상식적으로 나옴 
-> 중구난방으로 이상한 단어들이 나옴, 상식적이지 않음 (소설.. 다양한 결과값을 얻을 수 있음, 단, 너무 중구난방으로 이상한 단어가 나오지않게 조정 필요.)

예3)Temperature(선택범위) - 높은 값을 하면 
Top P(임계치) - 높은값을 하면 상식적으로 나옴 
-> 엉망진창이 이상한 단어로 출력됨. 도저히 말이 안되는 내용.


예4)Temperature(선택범위) - 낮게 값을 설정하고 "0" 
Top P(임계치) - 낮게 값을 하면  "0" 
-> 변동성이 거의 없음. / submit 여러번 클릭 반복해도 내용에 변화가 없음. 

* 맥락(Context)을 이해하는 인공지능 : 모든 문제를 학습을 통해 맥락을 이해하여 값을 출력해줌. GPT가 갖고있는 트랜스포머.
- 자연어와 인공어 경계가 없어짐. (- 맥락 (GPT)을 통해 ‘Prompt'프롬프트 가 오류를 줄이고 자연어 (NLP) 가 의미하는 대로 출력 하는데 도움을 줌. )

 

Temperature와 Top P 설정 화면

 

업무혁신을 위한 쉽게 배우는 Chat GPT_교재.pdf

1.35MB