新的数学观念遏制了AI偏向做出不道德且代价高昂的商业选择
华威大学,伦敦帝国学院,EPFL(Lausanne)和Sciteb Ltd的研究人员发现了一种数学方法,可以帮助监管机构和业务管理并监管人工智能系统偏向做出不道德,可能非常昂贵和破坏性商业选择的偏见。对AI的道德眼光。
人工智能(AI)越来越多地用于商业场合。例如,考虑使用AI设置要出售给特定客户的保险产品的价格。为不同的人设定不同的价格是有正当理由的,但是“玩弄”他们的心理或愿意货比三家也可能是有利可图的。
人工智能有很多可供选择的潜在策略,但有些策略不道德,不仅会带来道德上的损失,而且会产生巨大的潜在经济损失,因为利益相关者如果发现使用了这种策略,就会对其施加一定的惩罚-监管者可能会征税。数十亿美元,英镑或欧元的巨额罚款,客户可能会抵制您(或两者兼而有之)。
因此,在越来越多的决策无需人工干预的环境中,因此有强烈的动机去了解AI系统在什么情况下可能采取不道德的策略,并降低这种风险或在可能的情况下完全消除风险。
来自华威大学,帝国理工大学,EPFL和Sciteb Ltd的数学家和统计学家汇聚在一起,以帮助企业和监管机构制定新的“不道德优化原则”,并提供一个简单的公式来估算其影响。他们在一份名为“不道德优化原则”的论文中列出了全部细节,该论文于2020年7月1日星期三在皇家学会开放科学杂志上发表。
该论文的四位作者是Sciteb Ltd的Nicholas Beale;伦敦帝国学院数学系的Heather Battey;洛桑邦理工学院数学研究所的Anthony C. Davison;沃里克大学数学学院的罗伯特·麦凯(Robert MacKay)教授。
华威大学数学学院的罗伯特·麦凯(Robert MacKay)教授说:
“我们建议的“不道德优化原则”可用于帮助监管机构,合规人员和其他人员找到可能隐藏在大型策略空间中的问题策略。可以期望优化会不成比例地选择许多不道德策略,对其进行检查应显示在哪里问题可能会出现,因此建议应如何修改AI搜索算法,以免日后避免使用它们。
“该原则还表明,可能有必要重新考虑AI在非常大的战略空间中的运作方式,以便在优化/学习过程中明确拒绝不道德的结果。”
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
大众CC作为一款备受关注的中型轿车,凭借其优雅的设计和出色的性能一直吸引着众多消费者的目光。2025款大众CC...浏览全文>>
-
2025款阜阳途锐新车正式上市,凭借其卓越的性能和豪华配置吸引了众多消费者的关注。这款车型以最低售价55 88...浏览全文>>
-
在准备购买一辆汽车之前,了解车辆的落地价格是非常重要的。所谓落地价,是指购车时除了车款之外还需要支付的...浏览全文>>
-
安徽淮南地区的长安启源E07作为一款备受关注的新能源车型,凭借其时尚的设计、丰富的配置以及出色的续航能力,...浏览全文>>
-
安徽淮南长安启源A05 2025款新车现已正式上市,这款车型以其高性价比和出色性能吸引了众多消费者的关注。作为...浏览全文>>
-
安徽阜阳地区的威然车型在近期进行了配置上的升级,对于想要购买这款MPV的消费者来说,这是一个值得关注的消息...浏览全文>>
-
随着汽车市场的不断发展,SUV车型因其宽敞的空间和多功能性受到了越来越多消费者的青睐。作为大众旗下的高端旗...浏览全文>>
-
安徽蚌埠地区想要购买长安启源E07这款新能源汽车的朋友,可以参考以下信息来做出更明智的选择。长安启源E07定...浏览全文>>
-
随着汽车市场的不断发展,2025款安庆高尔夫作为一款备受关注的车型,其价格和配置自然成为消费者热议的话题。...浏览全文>>
-
近期,安徽蚌埠地区的帕萨特车型迎来了新一轮的价格调整,其落地价再次创下新低,吸引了众多消费者的关注。作...浏览全文>>
- 悉尼最后几个年薪低于 10 万美元的郊区
- 2025 年新南威尔士州值得投资的地方
- 揭秘在澳大利亚买房需要多少收入
- 悉尼最后几个年薪低于 10 万美元的郊区
- 昆士兰有望成为澳大利亚房地产强国之一
- MSI 推出首款双模式 4K 曲面电竞显示器
- 飞利浦 Screeneo GamePix 900:在发布前进行预览
- 您会在这个奇怪的电动露营三轮车里露营吗
- Meross 推出支持 Matter 的智能恒温器
- 配备出色 3K OLED 显示屏的 Acer Swift 16 现已降价至史上最低价
- Acer Predator Helios 18 RTX 4080 游戏笔记本电脑 现优惠 725 美元
- VivoX200Pro视频和新样张揭示了200MP蔡司变焦相机的锐利眼睛可以达到多远
- 派对氛围天文爱好者又一次欣赏到极光秀
- iPhone16相机控制按钮有史以来最不苹果的东西
- 贾雷尔夸萨与利物浦签订新合同
- 首款在安兔兔上得分300万的手机拥有非常强大的SoC即将发布
- HumaninMotionRobotics的自平衡XoMotion外骨骼获得加拿大批准用于物理治疗
- 龙宫样本对之前关于富碳小行星形成的观点提出了质疑
- 凯文德布劳内伤情更新曼城球星的伤势进展和可能的回归日期
- 实验室实验表明用核武器轰炸一颗巨大的小行星可以拯救地球