2023年6月20日,世界经济论坛(WEF)发布了一份题为《负责任地采用人工智能:私营企业采购人工智能解决方案指南》的报告。该指南侧重于人工智能(AI)应用程序的采购,提供了可用于在采购过程中评估和了解供应商的关键考虑因素

执行摘要

在过去几年中,由于数据可用性的提高、算法的精进和处理能力的增强,企业对人工智能解决方案的需求突飞猛进。虽然人工智能工具的使用带来了巨大的价值,但同时也有必要谨慎地对待,避免其潜在的负面甚至危险的后果。WEF与GEP合作,为跨行业的商业组织发布了这份综合指南,以促进负责任地、合乎道德地识别、选择和实施人工智能解决方案

该报告通过结构化框架帮助应对人工智能采购的挑战。它讨论了人工智能解决方案与业务目标、道德标准和监管要求紧密结合的必要性,以及利益相关者协作和企业范围内评估过程的重要性。它强调了五个关键考虑因素——业务战略,商业战略,数据战略,道德和可持续性以及治理、风险和合规性。组织可以根据这些因素评估人工智能/机器学习(ML)解决方案。

总体而言,报告就以下方面提供了实用建议:评估人工智能解决方案的道德标准和合规性;使解决方案符合业务和商业目标;评估其潜在影响

从自动化重复任务、减少错误或风险、优化定价到识别新机会、做出准确预测和实现投资决策,人工智能解决方案可以帮助企业执行广泛的战略活动,以提高工作效率并支持业务增长。通过谨慎和负责任的采购,组织可以利用人工智能的力量来提高他们的生产力并获得竞争优势。

该指南中的可定制框架旨在为希望合乎道德地利用人工智能颠覆性力量的组织打开大门。

AI在私营企业中的发展

企业中的人工智能是指在私营企业及组织中使用AI技术和应用程序来改善运营、提高效率和推动增长

在过去十年中,由于数据的可用性增加、更复杂算法的开发以及计算机处理能力的增强,企业对人工智能的采用呈指数级增长。云计算的进步和边缘计算的出现也使实施人工智能解决方案变得更容易,同时也更具成本效益。

然而,私营企业发现,由于缺乏必要的技能、战略定义、数据质量等各种原因,人工智能技术的采购和部署是一项巨大的挑战。该指南旨在通过制定全面的指导方针和实用的工具包,促进商业组织对人工智能/机器学习解决方案的负责任和道德采购。它将帮助企业通过强大的采购框架评估人工智能/机器学习解决方案,并建立一个全面的方法来获取和部署人工智能解决方案,以实现组织目标。

企业为何需要人工智能

人工智能在企业中的历史可以追溯到计算的早期,当时企业刚开始试验基于规则的专家系统,这些系统旨在执行特定任务,如分析数据和做出预测。这些系统的能力有限,需要大量的人力投入才能有效运作。

在20世纪90年代,ML算法开始开发,使得人工智能系统从数据中学习并随着时间的推移提高性能。这标志着企业人工智能历史上的一个转折点,因为机器学习驱动的系统可以用来分析大量数据,并更有效、更准确地做出预测。在21世纪初,计算能力的进步和大量数据的可用性开始推动企业采用人工智能。企业意识到人工智能在改善运营和推动增长方面的潜力,开始在人工智能驱动的系统上进行大量投资。

人工智能的关键能力之一是自动化。人工智能自动化可以帮助企业自动化重复和耗时的任务,如数据输入、客户服务和库存管理,提高速度和准确性,并降低成本。它可以解放人类员工,让他们专注于更复杂和更具战略性的任务。

人工智能驱动的决策是企业中另一个常见的用例,人工智能用于分析数据并向决策者提供建议。人工智能可以用来优化定价,识别新的商业机会,甚至做出投资决策。

虽然人工智能正成为组织越来越重要的工具,但要充分实现其优势,企业需要投资于必要的基础设施、人才和技术。此外,企业应解决与获取和实施人工智能解决方案相关的挑战,例如缺乏专业知识、数据隐私和安全问题。

为何需要负责任的人工智能采购指导

人工智能/机器学习的采用正在飙升,特别是在covid-19之后,对企业产生了深远的影响

预计到2030年,全球人工智能市场将迈进1.5万亿美元大关,这是由科技巨头为推进技术研发而进行的大量投资的推动。在许多情况下,人工智能解决方案深深嵌入到组织体系当中,能够提出建议和预测,并影响关键决策。因此,确保人工智能提供道德、负责任和可靠的解决方案至关重要。组织必须在选择时对人工智能解决方案进行关键评估,并建立一个持续的审查过程,以确保解决方案与业务意图、组织价值保持一致

关于最小化组织风险的行业标准实践和方法的有限指导

尽管几乎所有高管都认为人工智能至关重要,但同时他们大多数都承认,企业在人工智能技术的采购和部署方面存在困难。企业在采用人工智能时必须考虑一些关键因素,包括:

  • 业务战略一致性:人工智能战略是否与公司战略一致?人工智能解决方案是否能够优化业务结果,为组织提供更高的价值?它如何与组织的长期愿景和战略保持一致?

  • 商业案例:非货币性收益是什么?投资是否合理?商业条款是否为长期投资回报(ROI)和总成本优化而优化?

  • 技术和数据集成:解决方案是否满足公司和监管机构的数据保护要求?如何规范数据管理和托管的外包?需要哪些数据?如何收集和清洗这些数据?

  • 道德一致性:人工智能系统和解决方案提供商是否符合组织价值观并遵守道德标准?

  • 风险评估:有哪些风险?如何进行初步影响评估以确保合乎道德、公平和可持续的部署?这个行业经历了哪些挑战和成功?

  • 敏捷和协作的人工智能系统集成:一个可扩展的人工智能系统是否已经到位?如何将人工智能应用程序集成到流程中,以便它们为团队有效地工作?

AI采购框架的关键考虑因素

该指南指出,采购负责任的人工智能的关键考虑因素包括:

(1)业务战略——评估人工智能如何通过改善业务决策来创造竞争优势,从而促成业务成果的积极变化;

(2)商业战略——人工智能如何与更广泛的商业战略保持一致;

(3)数据战略——在分析支持企业目标的宝贵数据方面评估人工智能解决方案的有效性;

(4)道德和可持续性——从道德和可持续性的角度评估人工智能解决方案是否产生了积极影响;

(5)治理、风险和合规性——集成风险管理计划与人工智能解决方案,并提高业务复原力,特别是与人工智能相关的网络风险。

数据战略

该指南表明,组织必须考虑包括数据相关性在内的事项,以及数据是否可用并与使用目的相关度。该指南还指出了未来数据战略的重要性,即根据人工智能变化产生的需求建立可扩展的数据管道,并根据法律和监管的要求制定有效数据管理的政策和程序。

道德和可持续性

该指南要求,负责任的人工智能系统必须坚持公平、透明、包容性和问责的道德标准,保持环境可持续性,并平衡利益与社会责任。值得注意的是,该指南建议组织的首席分析或数据官监督数据治理,为员工提供人工智能培训,并与第三方数据提供商密切合作。此外,消除偏见是选择和开发人工智能系统的首要任务。

治理、风险和合规性

值得注意的是,数据收集是部署人工智能解决方案的优先事项,隐私、网络安全和数据泄露则是这一过程中的一些风险。而人工智能治理,即制定政策和建立问责制以推动人工智能系统的开发和部署,也是该指南列明的重要考虑因素之一。

来源:WEF

原文链接:https://www3.weforum.org/docs/WEF_Adopting_AI_Responsibly_Guidelines_for_Procurement_of_AI_Solutions_by_the_Private_Sector_2023.pdf

声明:本文来自上海数据安全协同创新实验室,版权归作者所有。文章内容仅代表作者独立观点,不代表士冗科技立场,转载目的在于传递更多信息。如有侵权,请联系 service@expshell.com。