PEFT(2)
-
[SK TECH SUMMIT 2023] SKT LLM Enterprise 서비스 1편
개요👉 영상: https://www.youtube.com/watch?v=wzYT7kYIDwg👉 강의 자료: https://sktechsummit.com/sessions/sessionsList.do SK TECH SUMMIT 2023AI Everywhere for a better futuresktechsummit.com연사자SKT Adapter Team 김성원강의 내용내 업무에 딱 맞춘 가벼운 LLM을 만들고 싶다면?SKT의 LLM을 고객의 필요에 맞게 최적화하여 On-Premise 환경에서 제공하는 Enterprise 서비스를 소개합니다.문서 요약, 문서 검색, 질의&응답 등 다양한 업무를 비교적 작은 규모의 모델로 지원하기 위해 Fine-Tuning 뿐 아니라 Context 기반 Retrieving..
2024.07.10 -
[SK TECH SUMMIT 2023] LLM 적용 방법인 RAG VS PEFT, Domain 적용 승자는?
주제LLM 도메인 적용 방법 RAG VS PEFT PoC 강연자SK 브로드밴드 AI/DT Tech팀 김현석님발표 자료발표 자료는 SK TECH SUMMIT 2023에서 다운로드⭕️👉 [SK TECH SUMMIT 2023] AI Everywhere for a better future강의 내용1. LLM 배경2. 사내 적용 시 Challenge point3. PEFT vs RAG4. 결론1. LLM 배경LLM과 Foundation ModelFoundation Model(FM)✅ 다양한 task 도메인에서 방대한 양의 데이터로 Self-supervised Learning으로 학습된 모델✅ 특정 task 지정하지 않아도 범용적으로 일반화된 성능 보임Large Language Model(LLM)✅ 그중 LLM은..
2024.05.02