LEANN：RAG 系統省 97% 儲存空間，可完全在個人裝置本機私密執行

LEANN（Lightweight Efficient Approximate Nearest-Neighbor）是來自 MLsys 2026 的研究成果，目標讓 RAG（檢索增強生成）應用可在個人裝置上輕量運行，同時維持高準確率與完全本地執行，不送任何資料上雲。

重點 / 為何重要

• 97% 儲存節省：相較傳統向量資料庫，LEANN 壓縮索引大幅降低本地儲存需求
• 完全私有：所有資料處理在裝置端完成，100% 隱私保護
• 快速且準確：在大幅壓縮的前提下仍維持高 RAG 檢索準確率
• 通用性：宣稱可在「任何東西」上運行 RAG，包括文件、程式碼、個人知識庫

影響 / 編輯按

LEANN 代表邊緣 AI 與本地 RAG 的重要進展。隨著隱私意識提升，讓個人裝置也能跑完整 RAG pipeline 是很有價值的方向，尤其適合企業內部或個人敏感資料的應用場景。若儲存節省數字能在實測中得到驗證，這將是本地 AI 工具鏈的重大突破。

本文由 AI 整理，原文：GitHub - yichuan-w/LEANN