AI居然学会了势利眼 警惕AI欺软怕硬

近日，美国北卡罗来纳大学教堂山分校的一项研究发现，AI居然学会了“势利眼”。当模型被赋予不同社会身份时，它会欺软怕硬。

研究中，科学家让多个主流大模型模拟不同角色之间的对话，包括千问、Llama、GPT等。结果发现，一旦AI被设定为“老板”，它就会摆出老板的架子；被设定为“下属”，则更顺从、更容易被说服。当面对“法官”角色时，千问模型有31%的概率会被说服纠正错误观点；而纠正同样的错误，面对“律师”角色时，概率却降到25%。研究还发现，更大模型在抵抗偏见方面略胜一筹，而很多较小模型即便被明确要求忽略地位差异，依然表现得“势利眼”十足。科学家建议，未来在AI上线前，应开发专门工具，检测并修正这些隐藏的“势利眼”。毕竟，我们想要的，是一个既聪明，又正直的AI伙伴。