可能很难想象你会成为间谍活动的目标,但监视员工是军事人工智能的下一个前沿领域。 专制独裁国家所熟悉的监视技术现在已被重新用于针对美国工人。
在过去的十年里,出现了几十家公司向雇主出售“开源情报”、“声誉管理”和“内部威胁评估”等服务的订阅服务——这些工具最初通常是由国防承包商开发用于情报用途的。 随着过去几年深度学习和新数据源的出现,这些工具变得更加复杂。 有了它们,你的老板也许能够使用先进的数据分析来识别劳工组织、内部泄密者和公司的批评者。
众所周知,工会已经受到亚马逊等大公司的监控。 但追踪工人的工具的扩展和标准化却没有引起什么评论,尽管它们的起源不祥。 如果它们像他们声称的那样强大——或者甚至朝那个方向发展——我们需要就将这些信息弹药转移到私人手中是否明智进行公开对话。 军事级人工智能的目的是瞄准我们的国家敌人,名义上是在民选民主政府的控制下,并采取适当的保障措施来防止其针对公民。 我们都应该担心这样一个想法:现在任何有能力支付费用的人都可以广泛部署相同的系统。
例如,FiveCast 最初是一家向军方销售的反恐初创公司,但它已将其工具移交给企业和执法部门,后者可以使用它们来收集和分析各种公开数据,包括您的社交媒体帖子 。 FiveCast 不仅计算关键字,还吹嘘其“商业安全”和其他产品可以识别人员网络、读取图像中的文本,甚至检测多媒体内容中的对象、图像、徽标、情感和概念。 其“供应链风险管理”工具旨在预测企业未来的干扰,例如罢工。
因此,为识别恐怖组织而开发的网络分析工具可用于识别关键的劳工组织者,以便雇主可以在工会成立之前非法解雇他们。 在招聘过程中标准使用这些工具可能会促使雇主首先避免雇用此类组织者。 旨在警告国家防范即将发生的袭击的定量风险评估策略现在可以为投资决策提供信息,例如是否从估计具有较高劳工组织能力的地区和供应商撤资。
目前尚不清楚这些工具是否能够达到其宣传的效果。 例如,网络分析方法通过关联分配风险,这意味着您可能会因为关注特定页面或帐户而被标记。 这些系统也可能被虚假内容所欺骗,而这些内容很容易通过新的生成人工智能大规模生产。 一些公司提供复杂的机器学习技术(例如深度学习)来识别看似愤怒的内容,这些内容被认为是可能导致工会成立的投诉信号,尽管情绪检测已被证明存在偏见并且基于错误的假设。
但这些系统的能力正在迅速增长。 公司在广告中表示,他们很快将在其监控工具中纳入下一代人工智能技术。 新功能有望通过提示使探索各种数据源变得更容易,但最终目标似乎是一个常规化的、半自动的、破坏工会的监视系统。
更重要的是,这些订阅服务即使不起作用也能起作用。 被贴上“麻烦制造者”标签的员工是否真的心存不满可能并不重要。 高管和公司安全部门仍然可以根据指控采取行动并对他们进行不公平的报复。 目前无法验证对员工“情绪”或公司公众形象的模糊综合判断是否准确。 这些系统的存在可能会对受法律保护的行为(包括劳工组织)产生寒蝉效应。
提供这些服务的公司在默默无闻和监管忽视的背景下蓬勃发展。 工作场所监视的防御是由最薄的组织构成的。 行业辩护者宣称,他们出售的软件是为了帮助雇主“了解工会环境”,并不反工会。 相反,他们将自己标榜为销售“企业意识监控”,并突出提到“每个美国人都受到联邦、州和地方法律的保护,可以在安全条件下工作。” 如果买家使用该软件侵犯受法律保护的组织或抗议权利,这显然不是制造商的错。
监控公司还声称他们只使用社交媒体数据和新闻文章等公开信息来转移批评。 即使这是真的,他们的论点也忽略了对自由社会公民使用日常军事级监视的后果。 跟踪俄罗斯坦克在乌克兰行动的工具不应提供给您的主管来跟踪您。 情报软件提供商似乎希望让老板深入了解员工生活的做法将成为标准,以便雇主能够持续这样做,作为一种积极主动的措施。 随着能力的提高以及收集和分析数据的成本大幅下降,我们现在面临的未来是任何中层管理人员都可以调动自己中央情报局的资源。
这种监控行业从根本上与民主不相容。 部署此类工具的公司必须被迫公开披露其用途,以便现有法律得到执行。 迫切需要新的法规。 去年,国家劳动关系委员会宣布将寻求取缔“侵入性”和“虐待性”劳动监视,这是重要的一步。 此外,工人和工会应该在立法听证会上就人工智能和工作场所监控的未来监管作证。 我们需要具体的规则来规定人工智能、数据源和方法的哪些使用是允许的以及在什么条件下可以使用它们。
这些技术已经在全球范围内销售和部署,并用于跨境监控。 在最好的情况下,积极的监管者需要成为负责任的人工智能的全球领导者,并努力建立工作场所技术的国际标准。 如果不做这项工作,拥有全球供应链的跨国公司将很容易忽视或巧妙地利用针对特定国家的保护措施。
最终,我们的社会可能会得出这样的结论:监管是不够的:这个市场的存在应该是非法的。 我们可以声明,任何人都不应该在任何地方购买关于你的联想、意图、情感和想法的人工智能档案。 默认情况下,您的工作之外的生活应该受到雇主的保护。