解密New Bing，新一代GPT智能产品是如何诞生的

一年半前，我们就在准备发动一场搜索革命——通过应用深度学习模型，让搜索更加现代化、直观化，以显著提高用户体验。彼时，愿景还远未得到实现。

最近发布的新版 Bing 朝着这一愿景迈出了一大步。在预览版发布的几周时间里，我们收到了很多问题。因此我们想分享一些关于新版 Bing 及其产生背后的更多故事。

去年夏天，OpenAI 与我们分享了他们的下一代 GPT 模型，这是一场改变游戏规则的变革。新模型比驱动 ChatGPT 的 GPT-3.5 更加强大，并且在合成、总结、聊天和创作方面更加出色。

这个新模型启发了我们探索如何将 GPT 的能力集成到 Bing 搜索产品中，以便为任何查询（包括长、复杂、自然的查询）提供更准确、更完整的搜索结果。

新的 GPT 模型代表了大型语言模型（LLM）的突破。但与其他 LLM 一样，它是通过一定时间内的数据训练而构建的。因此，我们认为通过将其与 Bing 后端的强大功能结合起来，可以使用户体验更加丰富，使搜索更具相关性和准确性。

更具体地说，我们开发了一项我们称之为 Prometheus 的专有技术。它是一种首创的AI模型，将全面而新鲜的 Bing 索引、排名和答案结果与 OpenAI 最先进的 GPT 模型的创造性推理能力相结合。

Prometheus 利用 Bing 和 GPT 的强大功能，通过 Bing Orchestrator 组件迭代生成一组内部查询，旨在于给定的对话上下文中为用户查询提供准确而丰富的答案，并全部在毫秒内完成。我们将这个由 Prometheus 生成的答案称为 Chat 答案。

选择相关的内部查询，并利用相应的 Bing 搜索结果是 Prometheus 的关键组成部分。因为它为模型提供了相关和新鲜的信息，使其能够回答最近的问题并减少不准确性，这种方法称为基础。换句话说，模型在 Bing 提供的数据上进行推理，因此通过 Bing Orchestrator 基础于 Bing 数据。

▼ 下图说明了 Prometheus 在高层次上的工作原理：

最后一步，Prometheus 将相关的 Bing 搜索答案（如天气、股票、体育、新闻等）附加到 Chat 答案，为用户提供更丰富、更引人入胜的用户体验，进一步利用 Bing 的强大功能。

结合 Bing grounding 技术，Prometheus 还能够将引用整合到 Chat 答案的句子中，以便用户可以轻松点击访问这些来源，并验证信息。将流量发送到来源对于构建健康的 Web 生态系统至关重要，这也是 Bing 的核心目标之一。

尽管 grounding 是一项卓越的创新，但它是一项新技术，我们需要考虑如何负责任地应用它，包括进一步减少不准确性、防止冒犯和有害内容。这就是为什么新 Bing 预览版的一个关键目标是收集用户反馈，以帮助我们进一步改进 Prometheus。

我们已经收到了宝贵的用户反馈，且在之前几周的时间里，我们从真实用户那里学到的东西比在实验室里几个月学到的都多。我们正在根据反馈积极采取行动。例如，我们计划将发送给模型的 grounding 数据增加4倍，以提高 Chat 答案的准确性；我们还考虑添加一个切换按钮，让用户能够根据自己的任务和目标优化他们的体验。

另一个重要的反馈是，非常长的聊天会使底层的聊天模型感到困惑，导致 Chat 答案不太准确，或者以用户预料不到的语气回答。这就是为什么我们最近在聊天体验中引入了上限。我们正在根据用户反馈情况，改进模型的 grounding 和语气，从而逐步扩大这些限制。

Prometheus 是一项非常卓越和开创性的基于人工智能的创新，但从用户体验的角度来看，如何将其能力整合到 Bing 中仍然不是很清晰。我们的团队有两种主要的观点：

一些人认为，搜索是一种根深蒂固的习惯，我们需要保持现有的 Web 搜索用户体验，只是在主要的用户体验上添加 Prometheus-powered的Chat answer。就像其它答案一样，Chat answer 将根据查询结果的相关性赢得搜索页面上的展示位置。

其他人则认为，这是一个改变搜索范式，从经典的 Web 和答案结果转向新的互动式、基于聊天的搜索方式的机会。

这两种观点都部分正确，但也缺乏完整的考量。主张经典搜索的团队通常使用导航查询来支持他们的观点，而推动对话式方法的团队则会提出类似购物或旅行这样的研究性搜索会话。

▼ 下图可以说明这一观察结果：

这时，很明显有些查询会在传统的「搜索」模式下表现更好，而其它一些查询则在「对话」或「聊天」模式下表现更佳。此外，一些用户可能会根据不同的查询而选择不同的模式。因此，理想的 Bing 搜索产品需要根据用户的意图和偏好，在「搜索」和「聊天」模式之间平滑切换。

我们的设计团队接受了这一挑战，并经过多次迭代，开发出了一个新的UX，将搜索和聊天统一在一个界面中。用户可以通过单击页面上的UX元素，或者简单地上下滚动或向下滑动，来轻松地在两种模式之间切换。

Prometheus 的力量和新的 Search-Chat 交互模型与其它创新结合在一起，帮助微软创造了新的 Bing 搜索，将搜索带入了创新的新阶段。

新的 Bing 用户将获得更完整和上下文相关的答案，在某些情况下可能会为他们节省数小时的搜索时间，这意味着他们有更多的时间用于专注真正重要的事情。我们希望在此过程中，用户也能发现搜索的交互性和乐趣。

微软新一代开源大语言模型应用开发框架将为企业应用「GPT化」释放无限的想象空间。行动起来吧，如需进一步了解如何将此框架在企业内部落地，请联系您的微软客户经理，申请 GPT App Innovation In A Day Workshop，由专家为您提供进一步的指导。