除了已知的风险外,接近三分之一的ai风险基本上是未知的,但它们确实存在。最近,麻省理工学院的csail和mit futuretech的研究人员开发了一个公开可用的数据库,从报告、期刊和其他文献中提取信息,以揭示ai专家通过论文和报告披露的风险。
该数据库包含700多个ai风险,显示ai系统的风险(51%)多于人为风险(34%),且这些风险更可能在ai部署后出现(65%),而非开发过程中(10%),然而,即使是最详尽的ai框架也忽略了数据库中约30%的风险。
最常涉及的风险领域包括:
• “ai系统的安全、故障和局限性” (76%)
• “社会经济和环境危害” (73%)
• “歧视和有害影响” (71%)
此外,mit数据库中提到的其他风险包括“隐私和安全” (68%) 以及“恶意行为者和滥用” (68%),相比之下,“人机交互” (41%) 和“错误信息” (44%) 的关注度稍低。
这些基准风险有助于更好地理解ai在商业领域中的风险与收益之间的平衡,然而,关键问题在于如何确切地判断收益何时超越了风险。行业专家认为,目前我们还没有达到这个临界点。
fordham大学gabelli商学院的教授w. raghupathi指出,引入新技术对任何企业来说都是一项重大挑战,尤其是复杂的ai。规模、复杂性以及实施和部署的难度、升级、支持等都是技术相关的问题。此外,隐私、安全、信任、用户和客户接受度也是关键挑战。再加上缺乏有效的成本衡量模型,这使得挑战更加严峻。
另一个挑战是ai的采用速度非常快,甚至在任何已知和不可预见的风险浮现之前。“我们需要快速行动,并更快地思考,回答如何展示ai给企业带来的价值,以及这是否值得冒险的问题,”logicgate的产品和技术总裁jay jamison表示,“有很多ai凯发k8国际首页登录的解决方案可能能够提高效率,但它们应如何与法规指南、安全风险和额外的治理需求等因素进行衡量?”
raghupathi指出,目前判断ai的收益是否超过风险可能还为时过早。“应用程序的部署与其对业务的影响之间存在滞后。像低级自动化这样的特定应用程序取得了成功,但支持战略的高级应用程序尚未转化为实质性利益。”
他还提到,评估复杂应用程序与简单自动化任务的影响和收益可能需要数年时间,因为我们还没有评估这些好处的基准或定量模型。
虽然ai目前备受业界关注,但这种热度将不可避免地随着新技术和新方法的出现而减退。随着ai热潮的消退,企业将更加仔细地评估其风险与收益。
jamison指出,随着技术变得更强大,ai将消耗更多的能源,成本将不可避免地上升。“目前,ai既具有很高的价值又相对廉价,使许多企业能够享受其带来的好处,但这种情况不会永远持续下去,最终账单将到来。”
他还强调,需要更强的ai治理来进行更有意义的风险评估。“企业必须考虑他们计划如何以及为什么使用ai,并识别其使用中可能带来的潜在风险。忽视这些问题是不可行的,必须有一个计划来确保这些ai凯发k8国际首页登录的解决方案既安全又有效地使用。”
企业网d1net(www.d1net.com):
国内主流的to b it门户,旗下运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个it行业公众号(微信搜索d1net即可关注)。
凯发k8国际首页登录的版权声明:本文为企业网d1net编译,转载需在文章开头注明出处为:企业网d1net,如果不注明出处,企业网d1net将保留追究其法律责任的权利。