审核人工智能系统时要问的 9 个问题

2023-09-18 0 660

审核人工智能系统时要问的 9 个问题

对记录数据系统进行 IT 审计是大多数公司的年度活动。 但审计人工智能和大数据,同时确保它们处于足够的安全和治理之下,仍然是一项正在进行的工作。

好消息是,公司已经拥有许多可以应用于人工智能和大数据的实践。 这些实践体现在可适用于人工智能和大数据的 IT 政策和程序中。 当专业审计公司提供有限的人工智能和大数据服务时,所有这些都非常有帮助。

以下是公司可以用来自我审核人工智能和大数据的九个问题和方法:

1.您知道您的数据来自哪里吗?
公司从业务运营中获取自己的数据,但他们也购买和使用外部供应商的数据进行人工智能和分析。 在将数据用于人工智能和分析之前,应评估所有来自外部的数据的可信度和数据质量。 审核来自第三方的数据应成为每个 RFP 的一部分。

2. 您是否解决过数据隐私问题?
您可以与客户或消费者制定自己的数据隐私规则和协议,但当这些数据隐私权利扩展到可能不具有相同数据隐私标准的外部业务合作伙伴时,这些数据隐私权利就会受到限制。 。 在这些情况下,不仅 IT 部门、公司法律和合规部门都应该制定数据隐私政策和程序,以确保其数据可以被使用、匿名或共享的客户/客户了解这一事实。

3.你们有封锁程序吗?
物联网和边缘计算将越来越多地为系统贡献非结构化大数据。 由于这些设备是移动的和分布式的,因此很容易丢失、损坏或放错地方。 至少,IT 部门应该有一种方法来跟踪这些设备及其使用情况,并在报告丢失或放错地方时锁定它们。

4. 所有 IT 是否都符合您的安全设置?
许多边缘计算和物联网设备以及路由器和集线器的供应商默认安全设置不符合企业安全标准。 作为安装过程的一部分,IT 部门应包括检查默认安全设置,然后在部署之前将其设置为企业安全设置的步骤。

5. 您的数据干净程度如何?
应采取适当级别的数据清理,其中可能涉及数据丢弃、数据规范化、ETL(提取、转换、加载)工具的使用等。 这是为了确保进入分析和人工智能系统的数据尽可能“干净”和准确。

6.你们的人工智能有多准确?
人工智能系统中使用的算法和数据不断变化,因此今天正确的人工智能假设可能不适用于明天。 人工智能还可能包含无法立即检测到的偏见。 因此,监控和修改人工智能算法、查询和数据的过程必须是连续不断的。 应制定定期“调整”人工智能数据和操作的人工智能程序。

7. 谁有权接触你的大数据和人工智能?
所有大数据存储库以及人工智能和分析系统都应全天候(24/7)进行监控,以确保只有有权使用数据和系统的用户才能访问它们。

8. 你的人工智能正在履行它的使命吗?
至少每年一次,应评估人工智能系统,以确认它们满足业务的需求和使命。 如果不是,则应进行修改或丢弃。

9. 如果AI出现故障,你能进行故障转移吗?
如果您将人工智能操作嵌入到业务流程中,您的灾难恢复计划应该解决这些系统无法运行的情况。 如果系统出现停机,您会做什么? 是否有一个快速上线的备份系统? 或者一组手动程序(以及知道如何执行这些程序的员工)可以接管直到人工智能系统返回? 企业可以推迟人工智能做出的决策,直到系统备份吗? 应明确列出 IT 和最终业务的停机程序。

申明:本文由第三方发布,内容仅代表作者观点,与本网站无关。对本文以及其中全部或者部分内容的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。本网发布或转载文章出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。

七爪网 行业资讯 审核人工智能系统时要问的 9 个问题 https://www.7claw.com/61096.html

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务