Categories

開源軟體

Hugging Face Transformers:預訓練模型的通用函式庫
AI

Hugging Face Transformers:預訓練模型的通用函式庫

Transformer 架構已成為現代 AI 的通用建構區塊,為從語言理解到圖像生成再到語音辨識的一切提供動力。Hugging Face Transformers 是讓這個廣闊生態系統對每個開發者都可存取的函式庫,提供統一的 API 來使用超過 50 萬個預訓練模型,只需幾行程式碼。

Gemma.cpp:Google 的輕量級 Gemma 模型 C++ 推理引擎
AI

Gemma.cpp:Google 的輕量級 Gemma 模型 C++ 推理引擎

LLM 推理的格局主要由兩種方法塑造:具有完整 GPU 加速的重量級框架(如 PyTorch),或高度最佳化但複雜的引擎(如支援數百種模型架構的 llama.cpp)。Gemma.cpp 刻意選擇了第三條路徑——一個輕量級、最小依賴的 C++ 引擎,專門為 Google 的 Gemma 模 …

Gemini CLI:Google 的終端機 AI 代理
AI

Gemini CLI:Google 的終端機 AI 代理

終端機一直是開發者與其工具最直接的介面,但它在歷史上一直是「愚鈍」的——只執行你精確輸入的內容,不理解意圖。Gemini CLI 透過將 Google 最強大的 AI 模型直接引入命令列,將這種關係轉變為一個智慧代理,它理解你的專案、回答問題並代表你執行操作。

Flash Linear Attention:Transformer 的高效注意力機制
AI

Flash Linear Attention:Transformer 的高效注意力機制

Transformer 架構自推出以來一直是序列處理的主導模型,但它有一個根本性的限制:自注意力機制的複雜度隨序列長度以 O(n^2) 增長。對於現代 AI 應用日益需要的長上下文——128K tokens、1M tokens 及以上——這個二次瓶頸變得難以負擔。Flash Linear …

FAISS:Meta 的高效相似性搜尋開源函式庫
AI

FAISS:Meta 的高效相似性搜尋開源函式庫

向量搜尋已成為現代 AI 系統的基礎技術。無論是在 RAG 流程中尋找相似文件、在電子商務目錄中匹配產品圖像,還是為推薦系統檢索相關嵌入,高效搜尋數十億向量至關重要。FAISS——Meta 的 Facebook AI 相似性搜尋函式庫——是這項任務的黃金標準。

Electron:使用 JavaScript 構建跨平台桌面應用程式
開源軟體

Electron:使用 JavaScript 構建跨平台桌面應用程式

桌面應用程式的格局已被一個簡單的洞察所改變:如果你能用驅動網際網路的相同 Web 技術來構建原生品質的桌面應用程式呢?Electron 將這個願景變為現實,並在此過程中成為現代桌面軟體開發的支柱。 Electron 是一個將 Chromium 的渲染引擎與 Node.js 執行時期相結合的 …

TAG