이 게시물은 2023년 12월 16일에 Tristan Bilot가 Medium에 개제한 "MLX vs MPS vs CUDA: a Benchmark"에 대해 번역, 첨언한 내용임을 밝힙니다.👉MLX vs MPS vs CUDA: a BenchmarkIntroduction맥 사용자이면서 딥러닝에 관심이 많다면, 맥에서 무거운 모델들을 다루는 순간들을 기다려왔을텐데요.애플에서 최근 맥북에 도입한 전용 칩에서 ML 모델을 효율적으로 돌릴 수 있는 프레임워크인 "MLX"를 출시했습니다.(현지 시간 12월 6일) MLX는 애플에서 직접 개발한 머신러닝용 어레이 프레임워크인데요.애플 실리콘의 CPU와 GPU를 활용해 벡터와 그래프 연산의 속도를 높일 수 있습니다.그 중에서도 lazy evaluation이라는 프로그래..

이 게시글은 2023년 11월 27일 Akriti Upadhyay가 medium에 게재한 "Optimizing Performance with PEFT: A Deep Dive into Prompt Tuning" 글에 대한 번역과 함께 첨언한 내용임을 밝힙니다. 👉원문: "Optimizing Performance with PEFT: A Deep Dive into Prompt Tuning" Optimizing Performance with PEFT: A Deep Dive into Prompt Tuning Elevate Your Language Model’s Performance with Advanced Prompt Optimization medium.com 목차는 다음과 같습니다. 앞에서는 관련 개념을 설명한..

안녕하세요! ViT를 공부하며 핵심적인 개념인 inductive bias에 대해 추가적으로 공부하게 되었습니다. An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale에는 inductive bias와 관련해 다음과 같은 구절이 나옵니다."Transformers lack some of the inductive biases inherent to CNNs, such as translation equivariance and locality, and therefore do not generalize well when trianed on insufficient amounts of data."(p.1) "We find that large ..