AI 업계는 떠나왔지만, 여러 기업들의 치열한 경쟁 속 기술이 정말 빠르게 발전해나가고 있는 것 같습니다.링크드인을 통해 Anthropic 한국 행사가 열린 것을 접하고, 오래간만에 Anthropic 홈페이지에 들어갔더니,최근(2025.03.27)에 게시한 흥미로워 보이는 포스팅이 있어 읽어보고자 하는 의지가 생겼습니다.원문 링크는 아래에 남깁니다.👉 Tracing the thouhgs of a large language modelBlack Box 모델 == LLM  ✅ Claude와 같은 언어 모델은 인간에 의해 직접 프로그래밍된 것이 아닌 대량의 데이터를 바탕으로 학습됨✅ 이 학습 과정에서 모델은 문제를 해결하는 자신만의 전략을 배우게 됨✅ 이러한 전략은 모델이 매던 단어 쓸 때마다 수행하는 수십억..

주제 선정 직장에서 기존에 사용하던 MQ Storage에서 Kafka로 tool 변경을 진행한다고 한다.내가 속한 프로젝트는 기존 보유하고 있는 IT 솔루션을 MSA(Microservice Architecture)로 옮기는 작업을 진행 중에 있다.이에 호기심이 생겨, 관련된 영상과 블로그를 찾아 간략하게 정리해 본다. AI 쪽과 개발은 또 다른 세계이다 보니, 필수 개념들을 위주로 정리해 보았다.위의 개념들을 이해하는데 [얄팍한 코딩사전] Message Broker - 카프카와 RabbitMQ를 알아보자 가 많은 도움이 되었다.해당 게시물은 위의 영상을 main으로, 참조에 있는 글들을 보며 개념을 정리한 결과물이다. 마이크로서비스 아키텍처에서의 필요성 마이크로서비스 아키텍처에서는 한쪽이 여러 대상에게 ..

구글 에이전트 백서 1편에 이어 2편에서는 다음 순서로 진행될 예정입니다.Extentions(확장)Functions(도구)Data Stores(데이터 저장서)Tools recap(위에 3개 툴 정리) 1편 내용(에이전트 개념, 아키텍처)은 아래 링크를 참고해 주세요👉 [구글] 에이전트 백서(Agent Whitepaper) 1편 - 에이전트 개념, 아키텍처 [구글] 에이전트 백서(Agent Whitepaper) 1편 - 에이전트 개념, 아키텍처2024년 9월에 게재된 Agent Whitepaper를 보며, 정리한 내용입니다. 👉 원문: Agents   추론, 논리 및 외부 정보 접근 기능이 생성형 AI 모델과 결합된 "에이전트" 개념 Introduction ✅ 인간은 복잡한 패턴yooniverse100..

2024년 9월에 게재된 Agent Whitepaper를 보며, 정리한 내용입니다. 👉 원문: Agents   추론, 논리 및 외부 정보 접근 기능이 생성형 AI 모델과 결합된 "에이전트" 개념 Introduction ✅ 인간은 복잡한 패턴 인식 작업에 탁월함✅ 하지만, 사전 지식 보완하기 위해 책 찾아보거나, 구글에 검색하거나, 계산기 활용하는 등 다양한 도구에 의존하는 경우 많음✅ 생성형 AI 모델도 인간과 마친가지로 도구 사용해 실시간 정보에 접근하거나 실제 행동을 수행하도록 학습될 수 있음✅ 예를 들어, AI 모델이 데이터베이스 검색 도구 활용하면 고객의 구매 내역과 같은 특정 정보에 접근해 맞춤형 쇼핑 추천하거나 or API 호출로 이메일 대신 보내고 금융 거래 처리할 수도 있음✅ 이를 위해 ..

이번 글은 2024년 SK AI Summit 2024에서 진행된 강의를 듣고, 정리한 내용입니다.👉 영상: AI 시대, 최적의 GPU 인프라 선택 방안(On-Premise vs Cloud)연사자SK 텔레콤 오상화강의 내용 ✅ AI 시대, GPU가 AI 인프라로써 핵심 경쟁력 되고 있음 ✅ 합리적인 GPU 선택 기준에 대한 가이드라인 ✅ 엔비디아의 GPU 출시 주기 변경에 따라 AI Serving, Fine-Tuning, Foundation 모델별, GPU 사용 기간과 패턴에 따른 TCO 최소화 방안 ✅ SK 텔레콤이 람다와 함께 준비하고 있는 GPUaaS 특장점1. GPU 시장 동향 ✅ 2024년 9월 초, 일론 머스크 XAI에서 122일 만에 10만 장의 H100 배치함✅ 그 클러스터 만들기도 전에,..

👉 영상:BTS(Bunker Trading System): 정유사 최초의 AI 챗봇 기반 해상유 마케팅 시스템 연사자SK 에너지 김현근님강의 내용정유사 최초로 기획, 개발 상용화한 AI Chatbot 기반 해상유(선박 연류유) 마케팅 시스템BTS는 해상유 Spot 거래의 모든 과정 디지털화함수요 접수, 가격 산정, 협상, 거래 체결 단계까지 포함비정형 채팅 기반 거래 방식을 로봇 기반의 정형화된 걸 방식으로 변화시킴매일 저녁 단시간에 수백 개의 동시다발적 수요 정보 처리하고, 데이터 기반 최적의 가격 결정현재, 생성형 AI 연계해 위험 선박 감지 프로세스 구축, 내외부 데이터 활용해 AI 기반 가격 결정 고도화 방식 개선중장기: LLM 기반 자연어 처리로 165조 원 규모의 전 세계 해상유 시장 고객에..