Post

博客

SoloSoft 关于软件工程、Hugo、网站性能与多语言内容发布的技术文章。

bitsandbytes:LLM 训练与推理必备的 k-bit 量化库
AI

bitsandbytes:LLM 训练与推理必备的 k-bit 量化库

大型语言模型已经远远超出了消费级硬件的内存容量。一个 700 亿参数的模型在标准 16 位精度下需要 140 GB 的 GPU 内存——远远超过最昂贵的消费级 GPU。bitsandbytes 就是弥补这个差距的库,提供量化技术,使得在可负担的硬件上加载、训练和运行大型模型成为可能。

Anthropic Skills:Claude Code 官方开源代理技能套件
AI

Anthropic Skills:Claude Code 官方开源代理技能套件

Claude Code 已成为最具能力的 AI 代码辅助工具之一,但其真正的潜力始终受限于您提供的知识和上下文。Anthropic Skills 完全消除了这一限制,它提供一个持续增长的预构建、可重复使用的代理技能集合,将 Claude Code 的能力扩展到软件开发的几乎每一个方面。

VACE:阿里巴巴全能视频创作与编辑模型(ICCV 2025)
AI

VACE:阿里巴巴全能视频创作与编辑模型(ICCV 2025)

视频生成和编辑传统上由不同的模型处理——一个模型用于文本转视频,另一个用于视频风格化,再一个用于修补。这种碎片化使得构建全面的视频制作管线变得困难,迫使从业者学习多个模型接口。VACE(Video All-to-All Creation and Editing)通过将所有视频创作和编辑任务 …

TAG
CATEGORIES