Post

博客

SoloSoft 关于软件工程、Hugo、网站性能与多语言内容发布的技术文章。

KTransformers:具有先进内核优化的灵活 LLM 推理
AI

KTransformers:具有先进内核优化的灵活 LLM 推理

LLM 推理的效率直接决定了 AI 应用程序的成本、延迟和可扩展性。KTransformers(GitHub 上的 kvcache-ai/ktransformers)是一个灵活的推理框架,通过内核级优化推动了可实现性能的边界,从而在生产环境中实现更快、更具成本效益的大型语言模型部署。

JupyterLite:完全在浏览器中执行的 JupyterLab
Python

JupyterLite:完全在浏览器中执行的 JupyterLab

Jupyter 生态系统已經改变了科学家、资料分析師和教育工作者使用程式码的方式,但它一直需要一个执行中的伺服器。JupyterLite(GitHub 上的 jupyterlite/jupyterlite)透過 WebAssembly 将 JupyterLab 帶入浏览器,完全消除了这项需 …

JSON Repair:自动修復格式錯誤的 JSON
JavaScript

JSON Repair:自动修復格式錯誤的 JSON

很少有事情比从 API、设定档或资料匯出中收到格式錯誤的 JSON 更令人沮喪。錯誤讯息通常难以理解,手动修復大型 JSON 档案既繁瑣又容易出錯。JSON Repair(GitHub 上的 josdejong/jsonrepair)透過提供一个自动偵测和修復常見 JSON 格式錯誤的 …

jsdiff:JavaScript 文本差异比对库
JavaScript

jsdiff:JavaScript 文本差异比对库

文本比较是软件开发中的基本操作,为版本控制、协作编辑和代码审查工具提供支持。jsdiff(GitHub 上的 kpdecker/jsdiff)是一个全面的 JavaScript 库,提供快速、灵活的文本差异比对,具有多种比较粒度,使其成为需要比较文本的 Node.js 和基于浏览器的应用程 …

ik_llama.cpp:具有 IQ4_NL 和进阶量化的 llama.cpp 分支
AI

ik_llama.cpp:具有 IQ4_NL 和进阶量化的 llama.cpp 分支

llama.cpp 生态系统产生了許多分支,每个分支探索在消費級硬体上高效执行 LLM 的不同最佳化策略。ik_llama.cpp(GitHub 上的 ikawrakow/ik_llama.cpp)是其中最具有技术意義的分支之一,引入了先进的量化方法,推动了低位元模型壓縮的可能性邊界。

html2pdf.js:使用 JavaScript 在客户端将 HTML 转换为 PDF
JavaScript

html2pdf.js:使用 JavaScript 在客户端将 HTML 转换为 PDF

从网页内容生成 PDF 是幾乎每个网页应用程式都会遇到的需求,但要正确实作卻出了名地困难。html2pdf.js(GitHub 上的 eKoopmans/html2pdf.js)透過提供一个简单的客户端 JavaScript 函式库解決了这个问题,它可以直接在浏览器中将 HTML 元素转换 …

TAG
CATEGORIES