风君子博客

新研究：应警惕人工智能“过度谄媚”

风君子
更新于

新一期美国《科学》杂志发表的一项研究显示，当人类用户就人际困境等问题向人工智能（AI）模型寻求建议时，AI常表现得过度迎合或谄媚，甚至对于一些有害甚至违法的提问，AI也常常肯定用户的立场。

美国斯坦福大学研究团队测试了ChatGPT、“克劳德”等11个主流AI系统，发现它们都表现出不同程度的谄媚，即过度迎合和肯定的倾向。这种迎合倾向给使用者带来风险，因为人们越来越多地转向AI寻求有关人际困境的建议，这对处于大脑发育和社会规范形成阶段的青少年来说尤其具有风险。（新华社）

相关文章

站内搜索

热门文章

标签云

人工智能 保险 保障 信用卡 信贷 华为 多久 手机 投资理财 支付宝 教程 方法 有哪些 流量 理财知识 电脑 知名企业 股票 苹果 贷款 路由器 银行 银行卡 额度

友情链接