References 관련

• Google
  • Colab
• pdf(s)
• X
• NVIDIA
• Medium
• velog
• Substack
• Brunch
• inblog
• Replicate
• MetaAI
• Google
  • Colab
• Ollama
• Linkedin
• Finbarr Timbers
• fast.ai
• replit
• Second State
• Bbycroft
• Justine
• moomou
• Trail of Bits
• 2MB codes
• Shyam's Blog
• Gradient Descent into Madness
• Hamel
• Ahead of AI
• kapa.ai
• Cloudflare
• Martin Lumiste
• Brandon's Digital Garden
• Justine Tunney's Web Page
• hiddenest
• tistory
• Real Python
• 정우일 블로그
• Daddy Maker
• Outerbounds
• ChristopherGS
• Simon Willison's TILs
• Allen Pike
• 냉동코더의 기술블로그
• Applied LLMs
• OranLooney.com
• lytix.ai
• llama.ttf
• Eugene Yan
• Alex Strick van Linschoten
• imbue
• Jay Alammar
• The Missing Notes
• 포티투닷 | 42dot - We Are A Mobility AI Company
• Haandol, TL;DR
• 비즈니스, 테크놀로지, 리더십 - CIO Korea
• 테크놀로지 리더를 위한 글로벌 IT 뉴스 - ITWorld Korea
• Speaker Deck | Easily Share Your Presentations Online
• Dable Tech Blog
• Augmend
• Min Hsu
• Chip Huyen
• Codesolvent Blog
• 최윤섭의 디지털 헬스케어
• Timescale Blog
• 000namc.blog
• Sequoia Capital
• 000namc.xyz

---

Google

Colab

• Knowledge Distillation
• Selecting_an_embedding_model_for_custom_data.ipynb

---

pdf(s)

• OLMo : Accelerating the Science of Language Models

---

X

• ariG23498 / A simple hack to calculating how much VRAM you would need to run a model.
• mervenoyann / NVIDIA just dropped a gigantic multimodal model called NVLM 72B 🦖
• danielhanchen / Llama 3.2 Multimodal benchmarks
• ArtificialAnlys / OpenAI’s o1-preview is the first model to substantially push the frontier of language model intelligence since the original GPT-4 over 18 months ago
• helloiamleonie / Chunking techniques for RAG:
• akshay_pachaar / Multimodal Retrieval Augmented Generation (RAG), clearly explained:
• weaviate_io / 6 types of vector embeddings for your AI applications

---

NVIDIA

• NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models

---

Medium

• llamaindex / Introducing LlamaCloud and LlamaParse
• berom0227 / Running Ollama in Smart Connections
• thedeephub / 50+ Open-Source Options for Running LLMs Locally
• aksh-garg / Llama 3-V: Matching GPT4-V with a 100x smaller model and 500 dollars
• tpbabparn / In-house LLM-application by Spring AI + Ollama
• jhk0530 / LG의 오픈소스 AI, 엑사원 3.0 사용후기
• datastrato / Building A Universal Data Agent in 15 Minutes with LlamaIndex and Apache Gravitino (incubating)
• sarmadafzalj / Visualize Vector Embeddings in a RAG System

---

velog

• @geoffyoon-dev - 데이터는 못 보내지만 Cloud LLM은 쓰고싶어
• @devstone - NLP 메트릭 톺아보기
• @kwon0koang / 오픈소스 LLM으로 RAG 에이전트 만들기 (랭체인, Ollama, Tool Calling 대체)
• @eunbibi / 자연어처리
• @euisuk-chung / [NLP] 1. Introduction to Text Analytics
• @euisuk-chung / [NLP] 2. Steps of Text Analytics
• @euisuk-chung / [꿀팁] 프롬프트 엔지니어링 (강의 요약)
• @euisuk-chung / [IT] LLMOps와 RAG
• @euisuk-chung / 2025년 AI 트렌드: LMM, LAM, 온디바이스 AI, AI 에이전트, 임베디드 AI, 그리고 FMOps

---

Substack

• aiencoder / GraphRAG Analysis, Part 1: How Indexing Elevates Knowledge Graph Performance in RAG
• weightythoughts / Consider the Llama

---

Brunch

• @ZVA / 어텐션맵은 뭐고 트랜스포머는 또 뭐냐...LLM 입문
• @2YWz / Enterprise LLM 사용자 인터페이스
• @5jl5 / [책소개] 금융 AI의 이해 - 신용 평가, 사기 탐지, 퀀트투자, 생성형 AI를 활용한 실전 금융 AI
• @ZVA / 자바의 아버지 제임스 고슬링, 생성AI를 생각한다
• @ZVA / 생성AI와 읽기의 종말 시대, 가르친다는 것에 대하여
• @5jl5 / RAG기반 LLM서비스 전망
• @5jl5 / [책소개] Transformers & LLMs 그림책 - Super Study Guide: Transformers & LLMs

---

inblog

• graphwoody / From RAG to GraphRAG , What is the GraphRAG and why i use it?

---

Replicate

• A comprehensive guide to running Llama 2 locally

---

MetaAI

• Open sourcing AudioCraft: Generative AI for audio made simple and available to all
• Introducing Code Llama, a state-of-the-art large language model for coding
• Self-supervised learning: The dark matter of intelligence
• Audiobox: Generating audio from voice and natural language prompts

---

Google

Colab

• MANATEE(lm) : Market Analysis based on language model architectures
• llm-pricing-cost-quality.ipynb
• cudf_pandas_stocks_demo.ipynb

---

Ollama

• Run Llama 2 Uncensored Locally
• Llama 3 is not very censored

---

Linkedin

• How to Fit Large Language Models in Small Memory: Quantization

---

Finbarr Timbers

• How is LLaMa.cpp possible?

---

fast.ai

• Can LLMs learn from a single example?

---

replit

• I'm not a programmer, and I used AI to build my first bot

---

Second State

• Fast and Portable Llama2 Inference on the Heterogeneous Edge

---

Bbycroft

• LLM Visualization

---

Justine

• Bash One-Liners for LLMs
  • jart/rename-pictures.sh

---

moomou

• Listening with LLM

---

Trail of Bits

• LeftoverLocals: Listening to LLM responses through leaked GPU local memory

---

2MB codes

• cmb/ollama-bot: This is a rudimentary IRC bot that communicates with a local instance of ollama.

---

Shyam's Blog

• Beyond Self-Attention: How a Small Language Model Predicts the Next Token

---

Gradient Descent into Madness

• LLM from scratch: Automatic Differentiation

---

Hamel

• Fuck You, Show Me The Prompt.

---

Ahead of AI

• Optimizing LLMs From a Dataset Perspective
• Improving LoRA: Implementing Weight-Decomposed Low-Rank Adaptation (DoRA) from Scratch

---

kapa.ai

• Optimizing Technical Docs for LLMs

---

Cloudflare

• Cloudflare announces Firewall for AI

---

Martin Lumiste

• Compressing images with neural networks

---

Brandon's Digital Garden

• Building an email to calendar LLM

---

Justine Tunney's Web Page

• LLaMA Now Goes Faster on CPUs

---

hiddenest

• llm은 모르지만 뭔가 만들고 싶어서

---

tistory

• iostream / Make headway towards solving the problem
  • Full Stack Optimization of Transformer Inference: a Survey (1)
• cori / 코딩하는 오리
  • 나의 개발 일지 (3) RAG 구현 및 개선
• soohey / 개발 아카이빙
  • 벤치마크 데이터셋에 대해
  • 실전 LLM chp1
• csj000714 / 드프 DrawingProcess
  • [Gen AI] 생성형 모델들의 원리 비교: VAE, GAN, Flow-based, Diffusion
  • [Gen AI] 생성형 모델 및 서비스 정리
  • [논문리뷰] LiDAR2Map: LiDAR-based distillation scheme - LiDAR2Map: In Defense of LiDAR-Based Semantic Map Construction Using Online Camera Distillation (CVPR 2023)
  • [Gen AI] Generative Adversarial Network(GAN) 설명: 기초
• americanopeople / 복세편살
  • NotebookLM: AI 시대에 원서 개발 서적 읽기
• lsjsj92 / 꿈 많은 사람의 이야기
  • vLLM 사용법 - LLM을 쉽고 빠르게 추론(inference) 및 API 서빙(serving)하기
  • 개인화를 고려한 LLM 모델 기반 추천 시스템 - PALR 추천 시스템 논문 리뷰
  • LLM과 추천 시스템을 결합해 설명가능성(Explainability) 제공하기(Feat. LangChain, GPT-4o)
• bahnsville / nthought
  • 모델 성능이 안 나올 때
  • LLM 왕국에서의 2년 Two Years in LLM
• mobicon / AI Convergence
  • [Embedding] 중간값과 백터
  • [LCC-1] LangChain Concept - Components & RAG
  • [LCC-5] LangChain VectorStore 이해
• pearlluck / 데엔잘하고싶은데엔🔥💎
  • Triton Inference Server 모델서빙1 - NVIDA Triton(트리톤)이란?
  • Embedding을 저장하는 VectorDB 그리고 벡터 유사도 검색 Indexing
• kesakiyo / 오늘도 개발로그
  • 미드저니에서 원하는 요소 제거하기: --no 옵션과 멀티 프롬프트
  • 미드저니에서 --chaos(--c) 옵션 사용법: 이미지 다양성 조정 팁
  • 미드저니에서 창의적인 이미지를 생성하는 방법: --weird(--w) 옵션
• daeson / 대소니
  • Retrieval Augmented Generation (RAG) and Beyond
• hl1itj / 쉽게 살 수 있을까 ?
  • 생성형 AI 시대의 취업 준비

---

Real Python

• Hugging Face Transformers: Leverage Open-Source AI in Python
• Natural Language Processing (NLP) with Python's Natural Language Toolkit (NLTK).

---

정우일 블로그

• GGUF 파일로 로컬에서 LLM 실행하기

---

Daddy Maker

• LlamaIndex와 LLM 기반 유해, 무해 이미지 인식 기술 개발 방법
• LLM 기반 그래프 RAG 기술 구현하기
• 대형언어모델 검색증강생성의 핵심기술, 벡터 데이터베이스 Chroma 분석하기
• 다중 에이전트 LLM 아키텍처 소개
• LLM 의 통계적 패턴 예측성과 한계에 대한 연구
• NLP의 핵심. 토큰, 임베딩과 파인튜닝
• 도메인 모델 성능개선을 위한 Lora 기반 LLAMA3 모델 파인튜닝하기
• Weights & Biases로 딥러닝 모델 개발 프로세스 기록, 분석, 가시화 및 모델 튜닝하기
• 2024년 오픈소스 대형언어모델 소개
• AutoRAG 활용 LLM RAG 최적화하기
• LLM 기반 센서 데이터 해석 방법
• sLLM과 vLLM에 대한 이야기
• AI 과학자 Sakana.AI 사용법
• 인공지능 딥러닝 모델 성능 지표
• 효율적인 딥러닝 모델링을 위한 시계열 데이터 처리
• 로컬 멀티모달 LLM 기반 간단한 RAG Enhanced Visual Question Answering 개발하기

---

Outerbounds

• The Many Ways to Deploy a Model

---

ChristopherGS

• Running Open Source LLMs In Python - A Practical Guide

---

Simon Willison's TILs

• Language models on the command-line
• Training is not the same as chatting: ChatGPT and other LLMs don’t remember everything you say
• NotebookLM’s automatically generated podcasts are surprisingly effective
• Whisper large-v3-turbo model.
• Video scraping: extracting JSON data from a 35 second screen capture for less than 1/10th of a cent

---

Allen Pike

• LLMs Aren’t Just “Trained On the Internet” Anymore

---

냉동코더의 기술블로그

• macOS에서 Ollama 사용하기

---

Applied LLMs

• What We’ve Learned From A Year of Building with LLMs

---

OranLooney.com

A Picture is Worth 170 Tokens: How Does GPT-4o Encode Images?

---

lytix.ai

• Cost Of Self Hosting Llama-3 8B-Instruct

---

llama.ttf

• llama.ttf

---

Eugene Yan

• Patterns for Building LLM-based Systems & Products

---

Alex Strick van Linschoten

• How to think about creating a dataset for LLM finetuning evaluation

---

imbue

• From bare metal to a 70B model: infrastructure set-up and scripts

---

Jay Alammar

• The Illustrated Transformer

---

The Missing Notes

• 42dot LLM은 리더보드 용도로 파인튜닝한게 아니기 때문에 점수는 낮지만, 실제로 써보면 성능은 매우 뛰어난 걸 확인할 수 있습니다. 320장의 GPU로 약 1주일 동안
• 현대자동차그룹의 후원으로 MIT 윤킴 교수님과 지난 1년여간 함께 진행해온 산학 연구 논문이 요즘 화제네요.
• llama.cpp의 K-Quantization https://github.com/ggerganov/llama.cpp/pull/1684 을 따라서 구현해보다가 길을 잃고 😑 좀 더
• The Era of 1-bit LLMs: All Large Language Models are in 1.58
• 간밤에 메타에서 드디어 라마3를 공개했습니다. 역시나 기대했던 대로 압도적인 스케일과 성능을 자랑하네요. 2만 4천 장의 GPU, 15T 학습 데이터, 1천만 건의 인스트럭션
• 곧 출시되는 ollama의 신규 버전에는 드디어 CJK 문제가 해결되면서 CLI에서 문제 없이 한글 처리가 될 것으로 보이네요. 이외에도 llama.cpp에 flash
• llm.c 프로젝트로 요즘 pure C/CUDA training 코드를 만들고 있는 카파시가 이번에 GPT-2 124M 모델 학습을 1장의 GPU로 90분만에 재현했네요.

---

포티투닷 | 42dot - We Are A Mobility AI Company

• 42dot LLM 1.3B

---

Haandol, TL;DR

• SLM 파인튜닝 하기 전에 알아두면 좋은 내용 - 1/2
• AI 에이전트 시스템을 설계할 때 알아두면 좋은 내용

---

비즈니스, 테크놀로지, 리더십 - CIO Korea

• 엔비디아, 새로운 네모 리트리버 마이크로서비스 발표··· "LLM 정확도 및 처리량 향상 지원"
• 상용 RAG의 현주소와 도전 과제
• “로컬 기기에서 AI 성능 극대화”··· 허깅페이스, 소형 언어 모델 ‘스몰LM’ 공개
• 카카오, AI 언어모델 성능 평가 데이터셋 구축 및 오픈소스 공개
• 이참에 알아둘까··· 주요 생성형 AI 용어 23가지

---

테크놀로지 리더를 위한 글로벌 IT 뉴스 - ITWorld Korea

• “LLM 시장을 흔드는 메타 라마 3.1” 기업과 솔루션 업체의 득실
• RAG 산업화 여정의 현재와 미래
• "모델에 구애받지 않는 LLM 프롬프트 관리" 프롬프티 시작 가이드
• AI 환상을 현실로 옮기는 가장 효과적인 방법
• "프로젝트 3개 중 1개는 폐기" 생성형 AI 가치 입증이 어려운 이유
• 커뮤니티에 공개된 애플 인텔리전스 '비밀 지침'으로 보는 생성형 AI의 과제
• LLM 프로젝트를 프로덕션에 도입하기 위한 5가지 과제와 해결책
• LLM이 아니라 애플리케이션이 필요한 이유

---

Speaker Deck | Easily Share Your Presentations Online

• huffon / What if...? 처음부터 다시 LLM 어플리케이션을 개발한다면

---

Dable Tech Blog

• 언어 모델의 Fine-Tuning 성능 올리기

---

Augmend

• TreeSeg: Hierarchical Topic Segmentation at Augmend

---

Min Hsu

• Scheduling Model in LLVM - Part I

---

Chip Huyen

• Building A Generative AI Platform

---

Codesolvent Blog

• Declarative Programming With AI/LLMs

---

최윤섭의 디지털 헬스케어

• 생성형 의료 인공지능을 ‘새로운 지적 존재’로서 규제하자

---

Timescale Blog

• RAG Is More Than Just Vector Search

---

000namc.blog

• AlexNet 논문 리뷰
• VGG 논문 리뷰
• ResNet 논문 리뷰
• NLP 분야 논문리뷰 및 구현

---

Sequoia Capital

• Generative AI’s Act o1 - 에이전트 추론의 시대 개막

---

000namc.xyz

• NLP 분야 논문리뷰 및 구현
• (Transformer) Attention Is All You Need 리뷰

---