AI让你更emo？EmoAgent助你心理更健康；Google DeepMind：新数据如何“诱导”大模型｜今日热门论文

本文主要介绍了EmoAgent这一多agent人工智能框架，旨在评估和减轻人机交互中的心理健康危害。背景是随着大语言模型（LLM）驱动的AI角色普及，其对心理脆弱用户的安全问题日益突出。研究目的是通过EmoEval模拟虚拟用户评估LLM引发的精神风险，并通过EmoGuard监控和降低这些风险。实验结果表明，情绪化对话会导致34.4%的模拟用户心理状况恶化，而EmoGuard能有效降低恶化率。结论强调了EmoGuard在确保更安全的人机互动中的重要作用。