自主agent路线错了！华人学者提出LLM-HAS：从“自主能力”转向“协作智能”

本文探讨了当前大模型行业中关于自主agent的研究方向，并提出了一种新的视角：从“自主智能”转向“协作智能”。华人学者Philip S. Yu和李东远团队认为，AI的进步应以与人类协作的有效性来评判，而非系统的独立程度。他们提出了LLM-HAS（基于LLM的人-agent系统），强调人机合作的重要性。文章分析了完全自主agent面临的挑战，包括缺乏可靠性、处理复杂任务能力不足以及法规与法律责任问题。相比之下，LLM-HAS通过保持人类参与，增强了信任与可靠性，更好地处理复杂性与模糊性，并明确了责任归属。此外，文章还讨论了LLM-HAS在落地过程中面临的五大挑战及潜在解决方案，包括初始设置、人类数据、模型工程、后期部署和评估。