이번 글은 2024년 SK AI Summit 2024에서 진행된 강의를 듣고, 정리한 내용입니다.👉 영상: AI 시대, 최적의 GPU 인프라 선택 방안(On-Premise vs Cloud)연사자SK 텔레콤 오상화강의 내용 ✅ AI 시대, GPU가 AI 인프라로써 핵심 경쟁력 되고 있음 ✅ 합리적인 GPU 선택 기준에 대한 가이드라인 ✅ 엔비디아의 GPU 출시 주기 변경에 따라 AI Serving, Fine-Tuning, Foundation 모델별, GPU 사용 기간과 패턴에 따른 TCO 최소화 방안 ✅ SK 텔레콤이 람다와 함께 준비하고 있는 GPUaaS 특장점1. GPU 시장 동향 ✅ 2024년 9월 초, 일론 머스크 XAI에서 122일 만에 10만 장의 H100 배치함✅ 그 클러스터 만들기도 전에,..

👉 영상:BTS(Bunker Trading System): 정유사 최초의 AI 챗봇 기반 해상유 마케팅 시스템 연사자SK 에너지 김현근님강의 내용정유사 최초로 기획, 개발 상용화한 AI Chatbot 기반 해상유(선박 연류유) 마케팅 시스템BTS는 해상유 Spot 거래의 모든 과정 디지털화함수요 접수, 가격 산정, 협상, 거래 체결 단계까지 포함비정형 채팅 기반 거래 방식을 로봇 기반의 정형화된 걸 방식으로 변화시킴매일 저녁 단시간에 수백 개의 동시다발적 수요 정보 처리하고, 데이터 기반 최적의 가격 결정현재, 생성형 AI 연계해 위험 선박 감지 프로세스 구축, 내외부 데이터 활용해 AI 기반 가격 결정 고도화 방식 개선중장기: LLM 기반 자연어 처리로 165조 원 규모의 전 세계 해상유 시장 고객에..

2023년에는 "SK Tech Summit 2023"으로 AI Everyonewhere for a better future으로 진행된 SK의 세미나가,2024년에는 "SK AI Summit 2024" AI Together, AI Tomorrow 슬로건으로 진행되었다. 총 2일에 걸쳐 진행되었으며, 모든 agenda와 영상은 아래 링크에서 확인할 수 있다.(SK AI Summit 2024 유튜브 채널에서 SK Tech Summit 2023 영상도 확인할 수 있다) 👉 SK AI Summit 2024 SK AI SUMMIT 2024AI TOGETHER, AI TOMORROWwww.skaisummit.com   2023년까지만 해도, 영상 강의 자료가 함께 오픈되어 있었는데 2024년부터는 강의 자료 오픈은..

SKT LLM Enterprise 서비스👉 영상: https://www.youtube.com/watch?v=wzYT7kYIDwg👉 강의 자료: https://sktechsummit.com/sessions/sessionsList.do연사자SKT MLOps Tech팀 김응창강의 내용RAG(Retrieval Augmented Generation)HyDE(Hypothetical Document Embeddings)Hyperparameter SearchEnterprise Service PoC UIRAG(Retrieval Aumgneted Generation)✅ 일반적인 LLM이 파라미터 지식 많이 가지고 있다면, 작은 LLM은 그렇지 못하기 때문에 sLLM에 적합✅ 사용자(User)가 질의(Question)하..

개요👉 영상: https://www.youtube.com/watch?v=wzYT7kYIDwg👉 강의 자료: https://sktechsummit.com/sessions/sessionsList.do SK TECH SUMMIT 2023AI Everywhere for a better futuresktechsummit.com연사자SKT Adapter Team 김성원강의 내용내 업무에 딱 맞춘 가벼운 LLM을 만들고 싶다면?SKT의 LLM을 고객의 필요에 맞게 최적화하여 On-Premise 환경에서 제공하는 Enterprise 서비스를 소개합니다.문서 요약, 문서 검색, 질의&응답 등 다양한 업무를 비교적 작은 규모의 모델로 지원하기 위해 Fine-Tuning 뿐 아니라 Context 기반 Retrieving..

제 RAG 경험은 LangGraph 경험하기 전과 후로 나뉩니다👉 영상: https://www.youtube.com/live/MM9x42gTBag👉 강의 자료: https://aifactory.space/task/4239/discussion/1587 연사자테디노트(이경록)  강의 내용LangGraph는 어떤 프레임워크일까?State, Node, Edge, Conditional Edge간단한 사례로 살펴보는 LangGraph 동작Self-RAG: Retrieval 관련성 평가로 Hallucination 줄이기Corrective RAG: 질문을 더 섬세하게부족한 내용은 검색: RAG + Additional Search on WebLangGraph탄생 배경1️⃣ LLM이 생성한 답변이 Hallucinati..