Post

部落格

SoloSoft 關於軟體工程、Hugo、網站效能與多語系內容發佈的技術文章。

HippoRAG:受神經生物學啟發的 LLM 長期記憶(NeurIPS 2024)
AI

HippoRAG:受神經生物學啟發的 LLM 長期記憶(NeurIPS 2024)

檢索增強生成(RAG)已成為將 LLM 輸出錨定於外部知識的標準方法。但標準 RAG 有一個根本限制:它將每個查詢視為獨立事件,沒有對過去檢索的記憶,也無法跨文件連接資訊。HippoRAG 從人類大腦的海馬體中汲取靈感來克服這一限制,創建了一個能大幅改善多跳問答的長期記憶系統。

Hermes Agent:Nous Research 的自我改進 AI 代理,支援 17 個平台
AI

Hermes Agent:Nous Research 的自我改進 AI 代理,支援 17 個平台

大多數 AI 代理是靜態的——它們的行為在部署時就由系統提示和模型權重固定下來。當它們遇到未曾設計過的新情況時會發生什麼?它們會失敗,然後開發者必須手動更新代理。Nous Research 的 Hermes Agent 採用了一種根本不同的方法:它從自己的經驗中學習,並隨時間自動改進自身行 …

GPTQModel:適用於 GPU 和 CPU 的生產級 LLM 量化工具包
AI

GPTQModel:適用於 GPU 和 CPU 的生產級 LLM 量化工具包

大型語言模型功能強大,但其體積使得部署成本高昂。一個 700 億參數的 16 位元精確度模型需要 140GB 的 GPU 記憶體——遠超單一消費級 GPU 的容量。量化是主要的解決方案:降低數值精確度以縮小記憶體佔用並加速推論。由 ModelCloud 開發的 GPTQModel 是一個生 …

Dockerc:將 Docker 容器映像編譯為獨立可攜式二進位檔
Open Source

Dockerc:將 Docker 容器映像編譯為獨立可攜式二進位檔

Docker 容器解決了「在我機器上能跑」的問題,但卻引入了一個新問題:「在安裝了 Docker 的機器上能跑」。容器需要 Docker daemon、containerd,或至少需要一個容器執行環境。對於分發命令列工具、桌面應用程式或部署工件來說,這種依賴是一項負擔。Dockerc 採用 …

LTX-2:Lightricks 開源 4K 音訊-影片基礎模型
AI

LTX-2:Lightricks 開源 4K 音訊-影片基礎模型

生成式 AI 的格局已被影像擴散模型以及最近的影片擴散模型所改變。但生成聽起來和看起來一樣好的影片一直是一個頑固的獨立問題——直到現在。LTX-2 完全改變了這個局面。 由 Lightricks(熱門創意工具 Facetune 和 LTX Studio 背後的公司)開發,LTX-2 是首個 …

LTX Desktop:開源 AI 影片編輯器與生成桌面應用程式
AI

LTX Desktop:開源 AI 影片編輯器與生成桌面應用程式

AI 影片生成研究與實用影片編輯工具之間的差距一直巨大。研究人員發布強大的模型,但將它們轉變為編輯者實際可以使用的精緻桌面應用程式需要數週的整合工作。LTX Desktop 就是為了彌補這個差距而建立的。 由 Lightricks 開發,LTX Desktop 是一款開源桌面應用程式,將 …

TAG