LLM(6)
-
LLM 정확도 최적화 위한 멘탈 모델(작성중)
개요 해당 글은 OpenAI Platform documentation에 있는 항목을 번역해오며 첨언한 글입니다. 👉 출처: Optimizing LLMs for accuracy LLM 활용시, 정확도 & 일관성 2마리 🐰 잡기 ✅ OpenAI에서 많은 스타트업 & 대기업 개발자와 작업해 본 결과, LLM 최적화는 다음과 같은 이유들로 어려움정확도 최적화 어떻게 시작해야 하는지언제, 어떤 최적화 방법 사용할 것인지배포에 적합한 정확도 수준은 어느 정도인지✅ 이 글에서는 LLM의 정확도와 동작 위한 최적화 방법에 대한 mental 모델 제공더보기Mental Model👉 참고: AI Design Guide #3. 멘탈모델 AI Design Guide #3. 멘탈모델인공지능 디자인하기 5단계 중 3단계 (멘탈모델..
2024.09.12 -
[SK TECH SUMMIT 2023] LLM의 미래 - KGPT(AI KMS)와 sLLM 소개
개요👉 영상: [SK TECH SUMMIT 2023: LLM의 미래 - KGPT(AI KMS)와 sLLM 소개]👉 강의 자료: https://sktechsummit.com/sessions/sessionsList.do연사자PersonalAI GenAI 리더 전성재님 강의 내용1. 초거대 AI와 LLM2. 페르소나AI 지식 생성 KGPT3. 페르소나AI LLM Compression1. 초거대 AI와 LLMLLM의 미래💡 AI 4대 천왕✅ AI의 대부들(Godfathers of AI)? 제프리 에베레스트 힌튼. 얀 르쿤. 요슈아 벤지오. 2018년 컴퓨터 과학 분야 노벨상 격인 튜링상 공동 수상✅ 앤드류 응? "모두를 위한 AI" 주창하며 Coursera 무료 교육 플랫폼 창업자. Deeplearning..
2024.05.09 -
[SK TECH SUMMIT 2023] RAG를 위한 Retriever 전략
👉 영상: [SK TECH SUMMIT 2023] RAG를 위한 Retriever 전략👉 발표 자료: https://sktechsummit.com/sessions/sessionsList.do SK TECH SUMMIT 2023AI Everywhere for a better futuresktechsummit.com연사자Allganize AI ICT 융합 CAIO(Chief AI Officer)강의 내용1. Retrieval Augmented Generation2. RAG가 왜 어려운가?3. Document parsing - Table4. Retriever 전략1. Retrieval Augmented Generation✅ RAG는 2021년(GPT 3 시절) 등장한 개념. 등장 당시에는 생성은 하나, 놀..
2024.05.05 -
[SK TECH SUMMIT 2023] LLM 적용 방법인 RAG VS PEFT, Domain 적용 승자는?
주제LLM 도메인 적용 방법 RAG VS PEFT PoC 강연자SK 브로드밴드 AI/DT Tech팀 김현석님발표 자료발표 자료는 SK TECH SUMMIT 2023에서 다운로드⭕️👉 [SK TECH SUMMIT 2023] AI Everywhere for a better future강의 내용1. LLM 배경2. 사내 적용 시 Challenge point3. PEFT vs RAG4. 결론1. LLM 배경LLM과 Foundation ModelFoundation Model(FM)✅ 다양한 task 도메인에서 방대한 양의 데이터로 Self-supervised Learning으로 학습된 모델✅ 특정 task 지정하지 않아도 범용적으로 일반화된 성능 보임Large Language Model(LLM)✅ 그중 LLM은..
2024.05.02 -
2024년 LLM 핵심 개념 RAG: RAG란 무엇일까?
안녕하세요! 최근에 RAG의 중요성에 대해 현업에서 많이 체감하고 있습니다. 마침, Medium에서 RAG 개념부터 심화 RAG까지 글을 연재하고 계신 Florian June님의 글을 번역하며 RAG 개념에 대해 공부하고 전달하면 좋을 것 같아 작성합니다. 👉원문: A Brief Introduction to Retrieval Augmented Generation(RAG) ChatGPT 등장 이후의 RAG Retrieval Augmented Generation(이하 RAG)는 2020년에 처음 소개되었는데요. 당시에는 사전 학습된 리트리버(retriever)와 사전 학습된 생성기(generator)를 결합한 end-to-end 접근으로 소개되었습니다. 2020년에 RAG의 가장 큰 목표는 모델 파인 튜닝을..
2024.03.03 -
PEFT(효율적 파라미터 파인 튜닝) 활용한 성능 최적화: 프롬프트 튜닝 딥다이브
이 게시글은 2023년 11월 27일 Akriti Upadhyay가 medium에 게재한 "Optimizing Performance with PEFT: A Deep Dive into Prompt Tuning" 글에 대한 번역과 함께 첨언한 내용임을 밝힙니다. 👉원문: "Optimizing Performance with PEFT: A Deep Dive into Prompt Tuning" Optimizing Performance with PEFT: A Deep Dive into Prompt Tuning Elevate Your Language Model’s Performance with Advanced Prompt Optimization medium.com 목차는 다음과 같습니다. 앞에서는 관련 개념을 설명한..
2023.12.13