在 3 月获得 1000 万美金融资的 Langchain 想必大家都有所知，作为一个开源集成开发框架它能够帮助用户快速构建一个 LLM 原型应用。然而，从简单的 LLM 模型原型到实际的生产应用还有很长的距离。 7 月 18 日，Langchain 继续发布了大模型应用开发平台 LangSmith，期望让开发者能够快速的构建一个可以投入实际生产环境的 LLM 应用。
原文来源：深思SenseAI
图片来源：由无界 AI 生成
现在大语言模型（LLM）的工具支持还处于起步阶段。由于 LLM 的特性和本身具备的动态性，传统的软件工具往往无法完全满足这些模型的需求。
这就是 LangChain 和 LangSmith 出现的原因。
在这篇文章中，我们将探索这个由创建 Langchain 的团队推出的最新产品（最受欢迎的 LLM 软件工具），看看 LangSmith 在 LLM 堆栈中希望解决的新问题。
01.什么是 LangSmith？
当最初创建 Langchain 时，目标是降低构建 LLM 模型的门槛。尽管人们对 Langchain 作为工具的可行性有些异议，但它其实在很大程度上实现了这个目标。在解决了原型问题后，接下来要解决的问题是帮助这些应用程序投入开发，并确保以可靠和可维护的方式实现。简单的思维模式是：
Langchain = 原型
LangSmith = 应用
但是，在开发中需要解决哪些在原型中不太相关的挑战呢？
可靠性 - 构建适用于简单受限示例的功能很容易，但是构建能够满足大多数公司要求的一致性 LLM 应用程序实际上仍然相当困难。
为了解决这个问题，LangSmith 提供了围绕以下 5 个核心支柱的新功能：
- 调试（Debugging）
- 测试
- 评估
- 监控
- 使用指标（Usage metrics）
LangSmith 的重要价值之一是能够通过简单直观的用户界面执行所有这些操作，这极大地降低了那些没有软件背景的开发者的门槛。
从数字角度来看，LLM 的许多特性并不直观，因此可视化的界面展示将非常有用。作者发现，拥有一个精心设计的用户界面实际上可以加速用户的原型设计和工作，因为只用代码来处理一切往往会很繁琐。
此外，能够可视化 LLM 系统的过程和复杂的命令链，在理解为什么会得到特定输出时非常有用。随着用户构建更复杂的工作流程，很难准确理解查询是如何在不同流程中传递的，因此可以通过简单的界面来查看这些过程并记录历史数据，这将成为首要的增值服务。
02.谁在与 LangSmith 竞争？
尽管目前还不是直接竞争对手，但对于像 Vercel（拥有 AI SDK）这样的组织来说，推出类似功能以成为 AI 构建者的首选平台是很有意义的。在未来的 3-6 个月内，由于这些工具市场潜力巨大，其他平台预计也会推出类似的工具。
目前，Vercel 更加专注于 LLM 的部署和服务，因为这与他们历史上的核心产品更加契合，但长期来看，将 AI SDK 扩展是更为合理的。
虽然 LangSmith 似乎还没有深入涉足嵌入式技术，但似乎在这方面有很多自然的交叉点，与许多提供内置 UI 的嵌入式提供商之间存在差异。LlamaIndex 等生态系统将从这种类型的产品发展中受益，但问题是它们是否能在问题空间相似的情况下保持差异化。
尽管如此，看到 LangSmith 仍然希望与尽可能多的工具连接起来令人高兴。在发布的博文中，他们提到与OpenAI evals 的集成，以及多个微调提供者的集成，这将使开发人员能够导出数据并直接进行训练。这些类型的集成似乎不仅将带来很多开发者好评，而且随着时间的推移，还将作为一种轻量级的保护壁垒（连接各种工具并不总是容易的）。
03.LangSmith 如何增长？
作者主要希望它具有可扩展性。因为如果 LangSmith 能够融入其他应用程序和服务中，其影响力可能会成倍增长。比如，允许开发人员使用 LangChain 帐号登录，并在Vercel 上监控他们的 LLM，结合 AI SDK 和部署信息，将非常有价值。
长期保持差异性又需要什么？
作者对 LangSmith 非常兴奋，认为它解决了开发者和产品构建者在尝试进行生产时遇到的一系列实际问题。真正的长远问题仍然是：“是否有足够的内容来构建一个具有长期竞争力的业务”。
但作者现在也没有明确答案，现在的总体思路是，LangSmith 目前的许多功能对开发者来说是必要条件。大多数 LLM 提供商希望在未来将类似功能纳入其平台。但这并不意味着 LangSmith 不能成功。只需看看 HashiCorp 的 Terraform，它是连接所有云提供商并解决足够大问题的粘合剂，并由此成为一家上市公司。但是，LangSmith 需要继续扩大范围，以便与多个提供商和其他工具生态系统竞争。
参考材料
- https://logankilpatrick.medium.com/what-is-langsmith-and-why-should-i-care-as-a-developer-e5921deb54b5
- https://logankilpatrick.medium.com/what-is-langchain-and-why-should-i-care-as-a-developer-b2d952c42b28
本文内容部分来自网络，仅供参考。如有侵权，请联系删除。
