HumanLayer:AI代理,人工反馈,审批支持,业务流程自动化,数据处理
平台概述
- 核心功能:HumanLayer作为一个API和SDK,使AI代理能够在需要时联系人工获取反馈、输入和审批,确保对高风险功能调用进行人工监督,保障AI决策和操作的安全性与可靠性。
- 应用场景:适用于各种需要人工参与和监督的AI应用场景,如客户服务、业务流程自动化、数据处理等,通过引入人工的判断力和专业知识,提升AI系统的性能和适应性。
工作原理
- 审批工作流程:
- 开发者可以使用SDK快速集成HumanLayer,在短短5分钟内即可启动并运行。通过@hl.require_approval()装饰器标记关键函数,确保这些函数调用需要人工审批。例如,在发送重要邮件(如客户引导流程中的关键邮件)时,AI代理发起调用,审批请求会发送到指定的渠道(如Slack或电子邮件),相关人员可以在界面上查看请求详情并进行审批(批准或拒绝)。如果请求被拒绝,反馈会被添加到AI代理的上下文窗口,以便其调整后续操作。
- 人工作为工具(Human as Tool):
- 允许将多种人工联系渠道添加到AI代理的工具链中,创建异步的外循环代理工作流程,实现控制流从人工发起向AI代理发起的转变。例如,在处理领英消息时,AI代理可以通过humanlayer的human_as_tool功能,向指定的Slack频道(如与销售主管的DM频道)发送请求,获取人工的输入,如根据人工的指示回复感兴趣的潜在客户、跟进未回复的联系人等。
- 自定义响应和升级(Custom Responses and Escalations):
- 支持预填充响应提示,以实现无缝的人机交互。开发者可以指定允许响应的特定个人或团队,并控制哪些用户可以批准或回复LLM请求。例如,在发送领英消息的场景中,可以设置特定的审批规则,如仅允许特定的Slack用户(如@frances、@dex)进行审批或回复,同时提供拒绝选项(如“reject”表示拒绝并提供改进建议,“skip”表示跳过当前任务),方便根据实际情况灵活处理。
技术支持与框架兼容性
- 支持多种框架和语言模型:HumanLayer与众多流行的框架(如LangChain、CrewAI、ControlFlow、LlamaIndex、Haystack等)和语言模型(如OpenAI、Claude、Llama 3.1、Mistral、Gemini、Cohere等)兼容,开发者可以根据自己的需求选择合适的技术组合,将HumanLayer集成到现有的AI项目中。
客户评价
- 客户对HumanLayer的评价积极,认为其实现了AI代理模型的创新,如在必要时暂停等待人工指导的长期运行流程,使AI代理更具实用性和可靠性;能够简化人工操作,如在获取潜在客户时,无需手动外联,只需在Slack中给予代理反馈;还将其类比为“第二代RLHF(system 2)”,强调其在AI系统中的重要性,以及对整个团队思考代理式AI工作流程的积极影响。
定价策略
- Starter计划(免费):面向黑客和开发者免费提供,每月有100次免费请求,超过后每200次请求收费20美元。支持所有流行框架,可向Slack、电子邮件、Discord发送请求,最多支持10个活跃用户,适合个人开发者或小型项目进行初步探索和测试。
- Agent Toolkit计划(500美元/月):提供高级功能,如去除HumanLayer品牌标识(需自带应用/密钥),每月包含2000次操作(额外操作每200次收费18美元),支持高级审批工作流程(包括升级和超时设置)、学习和自动审批功能、MSTeams、SMS、RCS等更多渠道,提供优先支持和180天的反馈数据集导出保留,适用于对品牌形象有要求、需要更多操作次数和高级功能的项目,帮助打造高质量的代理体验。
- Enterprise计划(定制):针对大型企业客户,提供定制化选项,如可部署到企业私有VPC或本地环境,支持RBAC(基于角色的访问控制)和SSO(单点登录),根据使用量提供折扣,支持自定义通知渠道,并提供针对销售、营销、招聘等领域定制构建代理的专家建议,满足企业在安全性、大规模部署和个性化需求方面的高要求。
相关导航
暂无评论...