LangGraph vs LangChain

1.LangChain 是什么

LangChain 是 LLM 应用开发领域最早期、最广泛使用的框架之一,定位为通用 LLM 应用框架。它提供了丰富的组件来简化与大语言模型的交互:

  • Prompt 管理:模板化提示词构建与复用
  • Chain(链):将多个步骤(LLM 调用、工具调用、记忆等)串联成管道
  • Agent 抽象:让 LLM 决定是否调用工具
  • Tool(工具):标准化的外部能力扩展接口
  • Memory(记忆):对话历史的存储与检索
  • RAG 支持:检索增强生成的完整实现
阅读更多

浅谈大模型应用开发

1 理论体系背景

1.1 问题域

问题:有了LLMs,为什么需要开发大模型应用?

在大语言模型(LLM)如 ChatGPT、Claude、DeepSeek 等快速发展的今天,开发者不仅希望能“使用”这些模型,还希望能将它们灵活集成到自己的应用中,实现更强大的对话能力、检索增强生成 (RAG)、工具调用(Tool Calling)、多轮推理等功能。

阅读更多

JPEG 压缩预处理引发的混合精度训练 Loss Nan 问题排查

最近在训练一个图像篡改检测网络时,为了提升模型的鲁棒性,我对数据集进行了随机 JPEG 压缩作为预处理手段。本以为这只是一个常规的数据增强操作,没想到却引发了一场艰难的 Debug 之旅——模型训练过程中 Loss 突然变成了 NaN。

经过一系列常规排查无果后,最终锁定了混合精度训练与数据分布之间的问题。在此记录下排查思路和解决方法。

训练设置:我使用MMSeg框架的自动混合精度AmpOptimWrapper。

阅读更多

代理模式、外观模式和中介者模式区别

1.代理模式:

代理模式通过引入一个代理对象来控制对原对象的访问。代理对象在客户端和目标对象之间充当中介,负责将客户端的请求转发给目标对象,同时可以在转发请求前后进行额外的处理。

使用场景:
  • 当需要在访问一个对象时进行一些控制或额外处理时。
阅读更多

设计模式中的代理模式

1 理论体系背景

1.1 问题域

​ 某些场景下,我们在直接访问对象时可能遇到问题,例如,当需要访问的对象位于远程机器上时,或者某些对象的创建开销很大,又或者某些操作需要安全控制,直接访问这些对象可能会给使用者或系统结构带来诸多不便。代理模式能够处理远程访问、创建开销高、访问安全控制等问题,实现灵活的系统结构。

阅读更多