LangChain团队最新发布:大模型应用开发平台LangSmith,让LLM真正投入应用

OKX欧易app

OKX欧易app

欧易交易所app是全球排名第一的虚拟货币交易所,注册领取6万元盲盒礼包!

APP下载   官网注册

在 3 月获得 1000 万美金融资的 Langchain 想必大家都有所知,作为一个开源集成开发框架它能够帮助用户快速构建一个 LLM 原型应用。然而,从简单的 LLM 模型原型到实际的生产应用还有很长的距离。 7 月 18 日,Langchain 继续发布了大模型应用开发平台 LangSmith,期望让开发者能够快速的构建一个可以投入实际生产环境的 LLM 应用。

原文来源:深思SenseAI LangChain团队最新发布:大模型应用开发平台LangSmith,让LLM真正投入应用

图片来源:由无界 AI‌ 生成

现在大语言模型(LLM)的工具支持还处于起步阶段。由于 LLM 的特性和本身具备的动态性,传统的软件工具往往无法完全满足这些模型的需求。

这就是 LangChain 和 LangSmith 出现的原因。

在这篇文章中,我们将探索这个由创建 Langchain 的团队推出的最新产品(最受欢迎的 LLM 软件工具),看看 LangSmith 在 LLM 堆栈中希望解决的新问题。


01.什么是 LangSmith?


当最初创建 Langchain 时,目标是降低构建 LLM 模型的门槛。尽管人们对 Langchain 作为工具的可行性有些异议,但它其实在很大程度上实现了这个目标。在解决了原型问题后,接下来要解决的问题是帮助这些应用程序投入开发,并确保以可靠和可维护的方式实现。简单的思维模式是:

Langchain = 原型

LangSmith = 应用

但是,在开发中需要解决哪些在原型中不太相关的挑战呢?

可靠性 - 构建适用于简单受限示例的功能很容易,但是构建能够满足大多数公司要求的一致性 LLM 应用程序实际上仍然相当困难。

为了解决这个问题,LangSmith 提供了围绕以下 5 个核心支柱的新功能: 调试(Debugging) 测试 评估 监控 使用指标(Usage metrics)

LangSmith 的重要价值之一是能够通过简单直观的用户界面执行所有这些操作,这极大地降低了那些没有软件背景的开发者的门槛。

从数字角度来看,LLM 的许多特性并不直观,因此可视化的界面展示将非常有用。作者发现,拥有一个精心设计的用户界面实际上可以加速用户的原型设计和工作,因为只用代码来处理一切往往会很繁琐。

此外,能够可视化 LLM 系统的过程和复杂的命令链,在理解为什么会得到特定输出时非常有用。随着用户构建更复杂的工作流程,很难准确理解查询是如何在不同流程中传递的,因此可以通过简单的界面来查看这些过程并记录历史数据,这将成为首要的增值服务。


02.谁在与 LangSmith 竞争?


尽管目前还不是直接竞争对手,但对于像 Vercel(拥有 AI SDK)这样的组织来说,推出类似功能以成为 AI 构建者的首选平台是很有意义的。在未来的 3-6 个月内,由于这些工具市场潜力巨大,其他平台预计也会推出类似的工具。

目前,Vercel 更加专注于 LLM 的部署和服务,因为这与他们历史上的核心产品更加契合,但长期来看,将 AI SDK 扩展是更为合理的。

虽然 LangSmith 似乎还没有深入涉足嵌入式技术,但似乎在这方面有很多自然的交叉点,与许多提供内置 UI 的嵌入式提供商之间存在差异。LlamaIndex 等生态系统将从这种类型的产品发展中受益,但问题是它们是否能在问题空间相似的情况下保持差异化。

尽管如此,看到 LangSmith 仍然希望与尽可能多的工具连接起来令人高兴。在发布的博文中,他们提到与OpenAI evals 的集成,以及多个微调提供者的集成,这将使开发人员能够导出数据并直接进行训练。这些类型的集成似乎不仅将带来很多开发者好评,而且随着时间的推移,还将作为一种轻量级的保护壁垒(连接各种工具并不总是容易的)。


03.LangSmith 如何增长?


作者主要希望它具有可扩展性。因为如果 LangSmith 能够融入其他应用程序和服务中,其影响力可能会成倍增长。比如,允许开发人员使用 LangChain 帐号登录,并在Vercel 上监控他们的 LLM,结合 AI SDK 和部署信息,将非常有价值。

长期保持差异性又需要什么?

作者对 LangSmith 非常兴奋,认为它解决了开发者和产品构建者在尝试进行生产时遇到的一系列实际问题。真正的长远问题仍然是:“是否有足够的内容来构建一个具有长期竞争力的业务”。

但作者现在也没有明确答案,现在的总体思路是,LangSmith 目前的许多功能对开发者来说是必要条件。大多数 LLM 提供商希望在未来将类似功能纳入其平台。但这并不意味着 LangSmith 不能成功。只需看看 HashiCorp 的 Terraform,它是连接所有云提供商并解决足够大问题的粘合剂,并由此成为一家上市公司。但是,LangSmith 需要继续扩大范围,以便与多个提供商和其他工具生态系统竞争。

参考材料 https://logankilpatrick.medium.com/what-is-langsmith-and-why-should-i-care-as-a-developer-e5921deb54b5 https://logankilpatrick.medium.com/what-is-langchain-and-why-should-i-care-as-a-developer-b2d952c42b28

本站所有软件信息均由用户上传发布,版权归原著所有。如有侵权/违规内容,敬请来信告知邮箱:764327034@qq.com,我们将及时撤销! 转载请注明出处:https://czxurui.com/zx/36192.html

打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年07月31日
下一篇 2023年07月31日

相关推荐

  • 「金色财经」数字基础设施提供商DOVU将于今年进行首次股权融资

    「金色财经」据金融报道,数字生态信用统一基础设施平台DOVU宣布,今年将开始新一轮融资自2017年成立以来,这将是该公司首次进行股权融资活动据公告显示,Dovu最近在印度签署了新的政府合同,并推出了新的工具(如AI入门解决方案),通过合作伙

    2023-11-15 03:00:04
    80 0
  • 美联储应回购工具耗尽之前停止量化紧缩

    美联储研究机构WrightsonICAP表示,在回购工具耗尽之前,美联储应该停止量化收缩

    2023-11-14 03:00:04
    63 0
  • 美联储研究机构:FED应在逆回购使用量降至零之前停止QT

    [美联储研究机构:FED应该在反向回购使用减少到零之前停止QT]11月14日,根据美联储研究机构Wrightsonicap,美联储应该停止减少债券持有之前的关键流动性工具完全清空,以确保银行有足够的储备。在储备稀缺之前,银行系统所需的储备水

    2023-11-14 03:00:02
    93 0
  • 央行设立和退出结构性货币政策考虑两种情况

    2023年4月20日,人民银行将举行一季度金融统计数据新闻发布会。调查统计司司长阮健弘和货币政策司司长邹澜将出席并回答记者提问。一位记者问道:人民银行之前表示,结构性货币政策工具要“有进有退”。请问决定这些工具到期退出和延续实施时有哪些考虑

    2023-11-11 22:01:43
    98 0
  • 如何选择安全可靠的比特币期权交易平台

    随着数字货币市场的发展,比特币期权交易平台变得越来越重要。那么在众多平台中,如何选择一个可靠的比特币期权交易平台呢?什么是比特币期权交易平台?在数字货币市场中,期权交易平台是指提供数字货币买卖合约和期货等交易服务的平台。而比特币期权交易平台

    2023-11-10 14:02:27
    85 0
  • 链上数据分析工具推荐助力区块链发展

    # 链上工具一直以来,有朋友问我在链上数据分析中使用哪些工具,之前我都是个别回答,比较零散。今天我整理了一下目前我使用的一些工具,并分享给大家参考。这些工具涵盖了链上数据分析平台、多链DeFi资产看板、监控Bot、地址标签工具等。欢迎大家转

    2023-11-10 03:00:49
    82 0

发表回复

8206
验证码

评论列表(0条)

    暂无评论

ok交易所
已有100万用户加入ok交易所

立即下载