Categories

Python

Langchain-Chatchat:开源知识库问答系统与 LLM 集成
AI

Langchain-Chatchat:开源知识库问答系统与 LLM 集成

组织积累了大量内部文档——技术手册、政策文件、研究论文和操作指南。一直以来的挑战是如何将这些静态知识转化为可对话查询的形式。Langchain-Chatchat 提供了一个开源解决方案,将 LangChain 编排框架与 ChatGLM 对话式 AI 结合,实现基于文档的问答功能。

uv:Astral 的全能 Python 包与项目管理器
Python

uv:Astral 的全能 Python 包与项目管理器

Python 的包生态系统长期以来分散在多个工具之间。需要安装包?用 pip。需要隔离环境?用 venv 或 virtualenv。需要依赖管理?用 Poetry 或 Pipenv。需要不同 Python 版本?用 pyenv。需要安装 CLI 工具?用 pipx。uv 将整个工具链收纳到 …

Ty:Astral 用 Rust 写的极速 Python 类型检查器
Python

Ty:Astral 用 Rust 写的极速 Python 类型检查器

Python 的类型检查生态系统长期以来由 mypy 主导——它是率先为 Python 引入渐进类型的类型检查器。但 mypy 基于 Python 的实现一直在大型代码库的性能上苦苦挣扎。Ty 是 Astral 对这个问题的解答:一个完全用 Rust 编写的 Python 类型检查器和语言 …

bitsandbytes:LLM 训练与推理必备的 k-bit 量化库
AI

bitsandbytes:LLM 训练与推理必备的 k-bit 量化库

大型语言模型已经远远超出了消费级硬件的内存容量。一个 700 亿参数的模型在标准 16 位精度下需要 140 GB 的 GPU 内存——远远超过最昂贵的消费级 GPU。bitsandbytes 就是弥补这个差距的库,提供量化技术,使得在可负担的硬件上加载、训练和运行大型模型成为可能。

OmniParse:适用于 GenAI 管线的开源通用数据解析工具
AI

OmniParse:适用于 GenAI 管线的开源通用数据解析工具

现代 GenAI 应用程序会消费多种形式的数据——PDF、电子表格、图片、录音和视频文件。建立一个能摄取所有这些格式并产生干净、一致的结构化输出的 RAG 管线,是一项重大的工程挑战。OmniParse 通过提供一个通用数据摄取平台来解决这个问题,该平台可将任何非结构化数据转换为结构化 …

TAG
CATEGORIES