ChatGPT API 활용 서비스 구현/part1_ChatGPT원리 (2) 썸네일형 리스트형 ChatGPT의 강점과 약점 ChatGPT 가 학습된 원리 자세히 보기 Training Steps Language modeling, Pretraining Instruction finetuning Reward model training Reinforcement learnin Language Modeling, Pretraining - language modeling이란 문장의 확률을 계산하는것이다. 보여지는 그림은 transformer decoder다. transformer decoder구조를 활용해서 학습을 한 language model이 GPT다. - 밑에 부분이 입력단, 위에가 출력단이다 - language model은 다음 토큰을 예측하는것이다. 방대한 양의 말뭉치(corpus)로 학습 ChatGPT, GPT-3.5, GPT-4.. ChatGPT의 등장 배경과 원리 Generative AI 란? - Generative(생성형)AI란 사람이 AI에게 특정 입력(프롬프트)을 통해 어떤 것을 만들어 달라고 요구하면 그 요구에 맞춰서 결과를 만들어주는 인공지능을 말한다. Generative AI 전성시대 - 검색도 AI이다. 검색을 하면 검색과 가장 가까운 글을 보여주고 하이라이트까지 해주는 과정을 AI가 해준다. 대표적인 Generative AI 기업 - Jasper - 텍스트 기반의 AI스타트업, 작문을 도와주는 AI스타트업 - e.g. 마케팅 문구 작성, 블로그 작성, SNS 글작성 등 - UI를 통해 자신이 작성하고 싶은 글을 입력하면 대신 작성해준다. - PRISMA LABS - 프로필 사진을 주면 만화같이 바꿔주는 앱 Runaway(Gen-1) - 자신의 동영상.. 이전 1 다음