728x90
반응형
[o1-preview] OpenAI가 또 새로운 서비스를 내놓았다!!! - (2) GPT-4o까지의 변화
분명 전산학부 졸업 했는데 코딩 개못하는 조준호/기타 2024. 9. 17. 20:54[o1-preview] OpenAI가 또 새로운 서비스를 내놓았다!!! - (2) GPT-4o까지의 변화

2018년에 등장한 GPT-1을 계기로 GPT는 꾸준히 발전하고 있다. 이 친구는 매개변수가 1억 1,700만 개 정도로 지금 보기에는 형편없지만 당시로서는 아주 큰 규모였다. 게다가 따끈따끈한 Transformer 아키텍처를 사용했기 때문에 체감 성능은 매우 높았다. 이후 2019년에 GPT-2는 15억 개의 매개변수를 사용한다. 이전 모델과 비교한 특장점은 더 긴 문장을 구사함과 동시에 일관성과 유창성을 유지한다는 것이다. 게다가, 다룰 수 있는 주제도 넓어졌다. 제로샷 학습이라고 하는데 이는 특정 작업을 위해서 추가적인 노력이 들지 않는다는 것이다. AGI까지는 아니지만 예전에 비하면 훨씬 더 가까워졌다고 볼 수 있다. 2020년이 되자 GPT-3가 나왔다. 매개변수는 1,750억 개로 거의 100..

728x90
반응형
image