| GPT-1 | GPT-2 | GPT-3 | GPT-4 | GPT-4o | |
|---|---|---|---|---|---|
| 파라미터 개수 | 1억 1,7000만개 | 15억개 | 1,750억개 | 공식적으로 밝혀진바 없음. | |
| 입력 토큰 개수 | 512개 | 1024개 | 2048개 | 8,192개로 설정된 버전과 32,768 버전 | 128,000개의 입력 토큰을 처리 |
토큰 개수 확인 가능한 사이트
**https://platform.openai.com/tokenizer**
[실습 및 생각해 보기]
(1) 직접 ChatGPT에 입력하는 내용을 위의 토큰 개수 확인 가능한 사이트에 이를 올려서 토큰의 수를 확인해 보자.
(2) 토큰이란 무엇일까요? 개념을 찾아서 정리해 보기
(3) 파라미터 이것은 무엇일까? 한번 찾아보기
할루시네이션(Hallucination) : 거짓된 사실을 섞어서 생성하는 현상을 할루시네이션이라고 한다.
[실습 및 생각해 보기]