
过去几年的GenAI热潮已经引发了一波承诺支持提示工程过程的初创公司的涌现,即:提供指令以精确引导AI聊天机器人提供有用输出。因此,可以将这类工具想象为OpenAI的ChatGPT和谷歌的Gemini,它们为用户提供一个空白字段用于查询——您询问的内容以及询问方式会导致非常不同的结果。
总部位于纽约的PromptLayer已经早早进入了这个领域,约两年前推出了一款工具,帮助应用程序开发人员管理提示过程。该公司的创始人们当时正在自己试验AI聊天机器人,并希望有一个工具来跟踪他们自己的提示过程,联合创始人贾里德·佐内赖赫(TechCrunch Disrupt黑客马拉松校友,左图)回忆说。
在一时兴起之下,他们将他们的MVP(位于X上)发布出去,而他们为自己构建的工具引起了轰动,因此他们继续改进。它已经发展成为一款提示管理产品,他们正在向第三方企业销售,以支持他们开发AI应用程序,暗示创始人们命中了正确的时机,以满足企业对大型语言模型(LLMs)可能如何提高生产力的兴趣。
尽管PromptLayer发布MVP以来,提示支持领域变得异常活跃,但他们已经扩展到了一个功能完备的提示管理平台——提供了一个充满工具的视觉界面,用于管理和监控从LLMs中提取最佳价值的过程。
现在,他们已经完成了480万美元的种子轮筹资,以继续推动他们的方法。这一轮由伊万·贝尔科维奇(ScOp风险投资)领投,彼得·博伊斯二世(Stellation资本)再次参与(他还资助了他们的前种子轮),还有几位天使投资人和人工智能创始人和运营商参与——包括迈克尔·阿基连、约书亚·布劳德、拜恩·霍巴特、罗曼·休特、约什·卡姆乔、洛根·基尔帕特里克、本·朗、亚历克斯·奥本海默、戈库尔·拉贾拉姆、加布里埃尔·斯腾格和路易斯·沃洛奇。
跟踪提示
佐内赖奇表示,PromptLayer产品的核心是“提示注册”。“这是内容管理系统,是提示的版本控制,”他解释道。“您有一个提示,创建一个新版本,您可以看到版本有何不同,然后您可以选择哪个版本是您的生产版本... 这是我们产品的核心,其他所有功能均从此处展开,试图使其更有用。”
“例如,在此之上进行测试,使用哪个提示的日志,或者提示之间的A/B测试,以及更深层次的洞察力,哪个版本是最佳版本等。
该平台旨在支持客户测试和评估其特定应用用例的不同提示,比如AI辅导应用程序或客户支持的聊天机器人,让他们测试不同版本的提示在各种LLMs上的表现;更一般而言,更好地掌握这个全新的应用程序开发领域,其中需要的语言大部分只是文字(而不是代码)。
PromptLayer不同寻常的是,专门针对非技术用户。
佐内赖表示,他们有意选择为他所谓的“领域专家”构建提示管理业务——即,在他们发现早期用户将非编码人员带入应用程序开发派对之后,具有其领域专业知识的专业人士,无论是教育、法律、医疗保健等领域。
“我们认为,没有医生就不能构建医疗保健AI,没有律师就不能构建法律AI,没有治疗师就不能构建治疗AI,”该初创公司在其任务声明中写道,称其软件工具“允许领域专家和工程师使用我们的可视提示CMS进行合作。”
佐内赖进一步表示,该平台让领域专家掌握了应用程序开发的“主导地位”。
“这变成了他们需要接受培训的一种东西——但这并非是一个巨大的飞跃,”他表示。“这并不意味着他们必须学习编码。因此,这是普通人可以掌握的东西。”
采用不同的策略
鉴于GenAI已经打开了AI工具箱的大门——这在很大程度上要归功于OpenAI决定将生成式AI嵌入到一个易于访问的自然语言界面中——专注于针对非技术用户的工具似乎是合乎逻辑的选择。然而,佐内赖认为这使他们与这个领域中的大多数参与者区别开来。
在与TechCrunch进行电话沟通时,他表示:“我们采取了与所有其他人非常不同的方法。” “这整个领域专家带头的概念—基本上没有人这样做。我认为我们从我们的客户那里学到了这一点。但在硅谷,为非技术人员而非技术人员构建并不那么吸引人。”
他继续说:“我不认为我们需要说服任何人这是正确的做法。我认为市场会为我们辩护。”他继续辩称:“我认为你无法在很多这样的领域中获胜,而不聘请领域专家来进行提示工程。”
他还认为,要成为一个优秀的提示工程师,所需的技能未必同于成为一个优秀的程序员。
“提示工程的技能与工程师的技能并非100%相关。有一部分人,但实际上,有一种细微的技能[所需]...‘我只是尝试这个随机的方法,然后看看结果是什么’,”他告诉我们。 “有些人尝试着详细规划并研究应该是什么样的提示。在我看来,这些人在(提示工程)方面并不擅长,因为这并不是一门科学。”
“我认为你尝试越少了解LLM,你就越好,”他补充道。
建立需求
佐内赖对获取LLMs最佳效果的工具市场需求有着乐观的态度。他认为这个新兴的提示工程领域不会很快被GenAI市场的快速发展所碾压。
他辩称,即使是AGI——如果这样的通用人工智能被创造出来——也需要有一些东西来配合,这意味着人类仍然需要某种形式的工具/支持来引导机器的发展。
“困难的部分是,我该怎么做?困难的部分是,我该给它什么任务去解决?”他强调,PromptLayer确信他们正在为长期打造工具。 “困难的部分是定义该做什么。”
“如果你相信对这些问题没有一种完美的解决方案,有无穷无尽的方法可以解决它,而且提示工程师的工作就是选择我究竟在解决什么问题?解决问题的背景是什么?”他继续表示。
“LLM只是从问题定义到解决方案的工具,但您只是在移动抽象层...我们将其从机器代码转移到了现代编程语言。然后,我们从现代编程语言转移到了提示。也许我们将提示从原始提示移动为提示的输入。”他说。
“但归根结底,您仍然需要一些输入。这是无法简化的部分。”
种子轮资金将用于扩大团队(目前有8名员工),重点是增加内部工程人才,以确保为客户提供高质量和可靠的服务,佐内赖表示。他说,他们还希望扩展平台,以服务更多用例并增加使用率,同时还要投入精力和能量推动社区建设,帮助培养这个不断发展中的提示工程领域。
PromptLayer目前尚未披露其工具的付费客户数量——但佐内赖表示,已经有超过1万名经过他们网站的免费和付费客户(ParentLab和由OpenAI支持的Speak是两位付费客户)。该初创公司今年的营收增长了13倍,他声称,这一快速的营收增长纯粹是通过“团队发现他们需要领域专家,而不仅仅是工程师,来构建AI”的口口相传实现的。
“解决这些提示问题所需的一切就是您进入,更改提示,然后查看结果如何——我们有很多工具可以帮助您大规模地做到这一点。但这是核心问题:科学方法,”佐内赖补充道。