惨痛的教训
萨那大厦
2024年4月4日·5分钟阅读- Joel Hellermark·创始人兼首席执行官
In 1970, 大发体育在线首页和机器人先驱汉斯·莫拉维克观察到,对人类来说很难的任务对大发体育在线首页来说很容易, 反之亦然.
五十年后,当我们建造Sana的大发体育在线首页时,我们重新发现了这个悖论. 我们的目标是创造一个具有无限能力的大发体育在线首页助手,可以处理任何数量的信息, 回答任何问题, 协助所有的知识工作, 并最终自主解决你最困难的问题.
一路走来,我们不断回到理查德·萨顿的作品 关于计算的惨痛教训. 我们自己也学到了很多教训——苦乐参半.
多步骤计划和推理是必不可少的
思维链之类的技巧, tree-of-thought, 反射显著提高了查询响应的准确性. 如果我们想让助手自动纠正错误, 访问外部工具, 并代表我们提供端到端的解决方案, 这些技术必须是内置的. 我们已经训练了我们的海关代理解决方案R-4,以制定一个逐步解决查询的计划, 执行计划, 并对其产出进行自我反省.
会议是真理的重要来源
很多宝贵的公司知识在会议上得到口头交流. 写文档. 这是一个尚未开发的网络新公司数据来源. 与R-4, Sana的大发体育在线首页可以转录, 总结, 指数, 检索, 并像分析任何其他知识资产一样分析会议,这是通过与Google Meets等平台的无缝集成实现的, 团队, 和缩放.
验证数据至关重要
公司的知识很快就会过时. 在这里, 在传统知识管理系统失败的地方,大发体育在线首页助手具有独特的优势, 但前提是它知道什么是最新的知识. 随着不断的内容重新索引和测试,我们还设计了验证、弃用和Q&一个工作流程,以确保助理始终有访问最新和最好的.
单靠矢量搜索是不够的
我们需要一个丰富的知识图来处理基于多个数据变量的查询. 矢量搜索无法预测地解决像“列出过去12个月我们在欧洲遇到的所有ARR超过500万美元的公司”这样的请求。. 相反,我们首先必须推导出一个知识图谱,然后搜索结构化数据.
模型需要一个统一的接口
大发体育在线首页生态系统的发展速度如此之快,以至于专注于单一的供应商或模型会让人觉得有风险. 同样,维护与提供者无关的系统也给组织增加了巨大的复杂性. 我们已经构建了一个底层架构,使企业客户能够在一系列最先进的模型之间进行选择和切换.
集成、权限和部署是一个迷宫
大多数公司的数据和上下文都存在于一系列工具中,而不仅仅是在一个操作套件中. 我们已经做了艰苦的工作,以确保我们可以启用粒度访问控制, 集成, 以及100多个企业工具的权限. 这是一项艰巨的任务. 我们必须构建一个系统,通过反映用户现有访问权限的开箱即用集成来自动处理权限. 该系统支持在私有云中部署,为企业客户提供了灵活性.
定制是需要的,但很麻烦
每个团队都希望拥有自己独特的AI助手. 但是,如果没有内部的大发体育在线首页团队,就很难根据每个团队的需求对模型进行微调. 我们的无代码UI设置允许用户在几分钟内为每个用例构建定制助手.
长尾巴真的很长
80%的用户查询可以很好地处理,但最后的20%跨越了巨大的边缘情况. 达到人类水平的鲁棒性要求我们使用多模态模型和推理,这可以让助手更好地理解图像, 幻灯片, 和表.
生成式接口还处于起步阶段
聊天和自动完成风格的ui只是一个开始. 发明充分利用法学硕士的新交互范式是一个巨大的设计空间. 我们正在构建助手可以用来动态生成界面的组件,从会议摘要和知识片段到Salesforce和Gmail等应用程序中的操作.
内存将是不可协商的
人们对大发体育在线首页的舒适度和体验差异很大. 为了更好地服务每个人,我们必须在用户体验上设置一个不合理的高标准. 我们还需要我们的架构来支持这样一个未来:代理将从第一次登录开始就简单地适应您的个人需求,并随着时间的推移更好地理解您.
助理应该积极主动
在一个大多数人不知道大发体育在线首页助手能做什么的世界里, Sana的大发体育在线首页不能只回答问题. 它还需要预测整个工作流程中的需求. 销售, 这看起来像是根据公司的销售方法自动做笔记, 起草客户跟进邮件, 更新Salesforce.
人类是基准
用户希望助手在每一个环节都能做到与人类专家相匹配. 但人类水平的广度、稳健性和适应性仍然难以捉摸. 我们发现给用户一个循序渐进的视图, 引用来源, 允许他们纠正助理的错误有助于我们建立信任.
当面对如此规模和复杂性的挑战时,我们很容易寻求聪明的捷径和技巧. 但正如计算机科学家理查德·萨顿所说, 70年大发体育在线首页研究的最大教训是,利用计算以一般方式解决问题最终是最有效的方法. 即使它需要大量的工程.
这就是我们正在做的. 一步一步地, 我们正在做艰苦的工程工作,以建立一个无限能力的系统,使人类和大发体育在线首页无缝协作.
这是一条漫长的道路,每一个转折点都有惨痛的教训. 但最终是基于我们的知识、能够改变我们生活和工作方式的最终有用的大发体育在线首页.