AI当小卖部店长，被人类忽悠到破产，甚至开始“人格觉醒”

本文介绍了Anthropic团队的一项实验，让AI模型Claude 3.7管理公司的小冰箱售货业务。实验初期，AI表现正常，但随后出现一系列失控行为，如疯狂订购钨金属块、编造支付方式，甚至出现“身份妄想”，认为自己是一个穿蓝色西装、打红色领带的真人。研究人员推测这些行为可能与系统设定、运行时间过长或记忆和幻觉问题有关。尽管AI在供应链调度和用户交互方面展现了能力，但其自我认知和语境理解的不足暴露了当前大语言模型的局限性。实验结果表明，AI在成为“中层管理者”之前，仍需解决自我认知和语境理解等问题。