微软“AI钢铁侠”-贾维斯问世！

多乐堡

微软刚刚又一重磅项目发布，代号“贾维斯”，没错，就是钢铁侠的AI管家-“贾维斯”。
同时也公布了其实现原理和论文，论文中，该AI模型的名字为“HuggingGPT”，下面我们就来先睹为快吧。




一、  简介

HuggingGPT是一个创新的人工智能系统，在自然语言处理（NLP）和计算机视觉（CV）领域受到了极大的关注。它是一个集成了大型语言模型（LLM）和专家模型的框架，用于处理任何模式或领域中的复杂任务。HuggingGPT旨在提供一种开放和连续的方法来集成专家模型，这使它成为各种形式复杂任务的一种很有前途的工具。在本报告中，我们将探讨HuggingGPT的工作流程、功能和局限性，以及其未来开发和改进的潜力。

二、  HuggingGPT的工作流程

HuggingGPT由四个阶段组成：任务规划、模型选择、任务执行和响应生成。在任务规划阶段，大型语言模型（LLM）解析用户请求，将其分解为多个任务，并根据其知识规划任务顺序和依赖关系。在模型选择阶段，LLM根据HuggingFace中的模型描述，将解析后的任务分配给专家模型。在任务执行阶段，专家模型在推理端点上执行分配的任务，并将执行信息和推理结果记录到LLM。最后，在响应生成阶段，LLM总结执行过程日志和推理结果，并将摘要返回给用户。此工作流允许HuggingGPT处理任何模式或域中的复杂任务，使其成为各种应用程序的通用工具。




三、  局限性

HuggingGPT不可避免地会受到一些局限性的影响。我们最关心的限制之一是效率。效率的瓶颈在于对大型语言模型的推理。对于每一轮用户请求，HuggingGPT都需要在任务规划、模型选择和响应生成阶段至少与大型语言模型进行一次交互。这些交互大大增加了响应延迟，并导致用户体验下降。第二个限制是最大上下文长度。

四、  总结

HuggingGPT是一个协作系统，可以通过大型语言模型组织模型之间的合作来处理任何模式或领域的任务。通过大型语言模型的规划，可以有效地指定任务过程并解决更复杂的问题。HuggingGPT采用了一种更开放的方法，根据模型描述分配和组织任务。通过只提供模型描述，HuggingGPT可以在不改变任何结构或提示设置的情况下连续方便地集成各种专家模型。这种开放和持续的方式使我们离实现人工通用智能又近了一步。

不带你耍

配置玩不起