LlamaFactory:开源 LLM 微调框架
LlamaFactory 使在消费级硬件上微调数百种 LLM 架构变得实用。 graph LR A[基础模型\nHugging Face / 本地] --> B[量化\nBitsandbytes / GPTQ / AWQ] B --> C[适配器设置\nLoRA / QLoRA …
LlamaFactory 使在消费级硬件上微调数百种 LLM 架构变得实用。 graph LR A[基础模型\nHugging Face / 本地] --> B[量化\nBitsandbytes / GPTQ / AWQ] B --> C[适配器设置\nLoRA / QLoRA …
llama.cpp 已发展成为通用推理引擎,支持数百种模型架构和多种后端。 graph TD A[GGUF 模型文件] --> B[llama.cpp 推理引擎] B --> C[CPU 后端\nx86 搭配 AVX2/AVX-512\nARM 搭配 NEON] B …
第一代 LLM 智能体遵循一个简单、可预测的循环——即思考、行动、观察的 ReAct 模式。但实际应用需要更复杂的编排:多个智能体协同工作、条件分支、人工监督、跨复杂工作流的持久状态,以及循环回溯以进行优化的能力。LangGraph 提供了使这些模式成为可能的基于图的架构。
并非每个需要构建 AI 应用程序的人都应该编写 Python 代码。对于领域专家、产品经理和偏好可视化推理的开发者来说,Langflow 提供了一个直观的拖放界面,用于构建复杂的 LLM 应用程序,而无需编写样板集成代码。 Langflow 将 LLM 应用程序开发的复杂性转化为一个可视化 …
使用大语言模型构建应用程序与传统软件开发有着根本的不同。LLM 是非确定性的、昂贵的、受限于上下文窗口,并且无法自行访问外部数据或执行计算。LangChain 提供了使 LLM 应用程序开发变得实用、可扩展和生产就绪的架构模式和构建块。
Immich 提供了一个自托管的照片管理平台,可媲美商业产品。 graph TD A[移动应用程序\niOS / Android] --> B[Web 服务器\nNginx / 反向代理] A --> C[微服务\n上传、备份] B --> D[服务器 …