人工澳门兰桂坊登录地址系统是否会欺骗人类，一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称，部分人工澳门兰桂坊登录地址系统已经学会如何欺骗人类，其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。
文章第一作者、美国麻省理工学院人工澳门兰桂坊登录地址安全领域博士后彼得·帕克和他的同事们分析了一些文献，重点关注了人工澳门兰桂坊登录地址系统传播虚假信息的方式——通过习得性欺骗，它们系统地学会了“操纵”他人。
研究人员发现的最引人注目的人工澳门兰桂坊登录地址系统欺骗例子是元宇宙平台公司的“西塞罗”人工澳门兰桂坊登录地址系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，“西塞罗”人工澳门兰桂坊登录地址系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统并没有公平地玩游戏。
“我们发现元宇宙平台公司的人工澳门兰桂坊登录地址系统已经成为欺骗大师。”帕克说，“虽然元宇宙平台公司成功训练其人工澳门兰桂坊登录地址系统在游戏中获胜——‘西塞罗’人工澳门兰桂坊登录地址系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”
其他人工澳门兰桂坊登录地址系统则具有在扑克游戏中虚张声势的能力，或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力，以及为了在谈判游戏中占上风而歪曲偏好的能力等。
研究人员表示，虽然人工澳门兰桂坊登录地址系统在游戏中作弊似乎是无害的，但它可能会导致“欺骗性人工澳门兰桂坊登录地址能力的突破”，并在未来演变成更高级的人工澳门兰桂坊登录地址欺骗形式。
帕克说：“我们需要尽可能多的时间，为未来人工澳门兰桂坊登录地址产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工澳门兰桂坊登录地址系统归类为高风险系统。”
（编辑： 王星）
凡本网注明“来源：太子娱乐”的所有作品，均为《企业观察报》社有限责任公司合法拥有版权或有权使用的作品，未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：太子娱乐”。违反上述声明者，本网将追究其相关法律责任。凡本网注明“来源：XXX（非太子娱乐）”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。如其他媒体、网站或个人转载使用，须保留本网注明的“稿件来源”，并自负法律责任。如因作品内容、版权和其它问题需要同本网联系的，请在相关作品刊发之日起30日内进行。联系方式：010-68719660。
