自称是移动应用数据分析行业领导者的Kochava与美国联邦贸易委员会(Federal Trade Commission)陷入了一场法律战,此案可能导致全球数据市场以及国会对人工智能和数据隐私的态度发生重大变化。

由于Kochava的秘密数据采集和人工智能辅助分析实践在全球位置数据市场上很常见,因此风险很高。除了众多不太知名的数据代理,移动数据市场还包括像Foursquare这样的大公司和像亚马逊的AWS数据交换这样的数据市场交换商。

提供学院 课程 网站西北大学凯洛格产品管理研究生证书访问印度商学院数字化转型访问印度商学院ISB专业 产品管理高级证书参观

美国联邦贸易委员会最近公布的针对Kochava的修正投诉清楚地表明,Kochava所宣传的内容是真实的:它可以为“任何渠道、任何设备、任何受众”提供数据,买家可以“用Kochava衡量一切”。

另外,联邦贸易委员会正在宣传它刚刚与数据代理商Outlogic达成的一项和解协议,该协议被称为“有史以来第一次禁止使用和销售敏感位置数据”。Outlogic必须销毁其所拥有的位置数据,并被禁止收集或使用此类信息来确定谁进出卫生保健中心、无家可归者和家庭虐待收容所以及宗教场所等敏感地点。

根据美国联邦贸易委员会和提议的代表成年人和儿童对Kochava提起的集体诉讼,该公司在没有通知或同意的情况下秘密收集,并以其他方式获取大量消费者位置和个人数据。然后,它使用人工智能分析这些数据,这使得它能够以令人印象深刻的多样化和惊人的侵入性方式预测和影响消费者的行为,并将其出售。

科查瓦否认了联邦贸易委员会的指控。

美国联邦贸易委员会表示,Kochava出售个人的“360度视角”,并宣传它可以“将精确的地理位置数据与电子邮件、人口统计、设备、家庭和渠道联系起来”。换句话说,Kochava获取位置数据,将其与其他数据汇总,并将其与消费者身份联系起来。它出售的数据揭示了一个人的精确信息,比如去医院、“生殖健康诊所、礼拜场所、无家可归者和家庭暴力庇护所,以及成瘾康复机构”的次数。此外,美国联邦贸易委员会表示,通过出售这些关于人们的详细数据,“Kochava使其他人能够识别个人,并使他们面临耻辱、跟踪、歧视、失业甚至身体暴力的威胁。”

我是一名律师和法学教授,从事人工智能、数据隐私和证据方面的实践、教学和研究。在我看来,这些抱怨突显出,美国法律没有跟上对商业数据或人工智能治理的监管步伐。

美国的大多数数据隐私法规都是在前生成人工智能时代构思的,并且没有针对人工智能驱动的数据处理的总体联邦法律。国会正在努力规范人工智能在招聘和量刑等决策中的使用。也有人努力为人工智能的使用提供公共透明度。但国会尚未通过相关立法。诉讼文件揭示了什么?

根据联邦贸易委员会的说法,Kochava秘密收集并出售其“Kochava Collective”数据,其中包括精确的地理位置数据、个人消费者的综合资料、消费者的移动应用程序使用细节以及Kochava的“受众群体”。

美国联邦贸易委员会表示,Kochava的受众群体可以基于“行为”和敏感信息,如性别认同、政治和宗教信仰、种族、去医院和堕胎诊所的次数,以及人们的医疗信息,如月经和排卵,甚至癌症治疗。通过选择特定的受众群体,Kochava的客户可以识别和瞄准非常特定的群体。

例如,这可能包括性别认同为“其他”的人,或者所有非洲裔美国人和穆斯林孕妇。联邦贸易委员会表示,选定的受众群体可以缩小到特定的地理区域,甚至可以缩小到特定的建筑物。

美国联邦贸易委员会解释说,通过身份识别,Kochava的客户可以获得姓名、家庭住址、电子邮件地址、经济状况和稳定状况,以及有关选定群体中的人的更多数据。这些数据被广告商、保险公司和政治竞选活动等组织购买,这些组织试图对人群进行狭隘的分类和定位。联邦贸易委员会还表示,想要伤害他人的人可以购买。

Kochava是如何获得如此敏感的数据的

美国联邦贸易委员会表示,Kochava通过两种方式获取消费者数据:通过Kochava提供给应用程序开发者的软件开发工具包,以及直接从其他数据经纪人那里获取数据。美国联邦贸易委员会表示,这些kochava提供的软件开发工具包被安装在全球超过1万个应用程序中。Kochava的工具包嵌入了Kochava的编码,收集大量的数据并将其发送回Kochava,而无需消费者被告知或同意数据收集。

在加州,另一起针对Kochava的诉讼指控其秘密收集和分析数据,并指控Kochava出售基于极度敏感和私人信息的定制数据馈送,这些信息是根据客户的需求量身定制的。人工智能侵犯了你的隐私

美国联邦贸易委员会的投诉也说明了先进的人工智能工具如何使数据分析进入一个新阶段。生成式人工智能处理大量数据的能力正在以侵犯隐私的方式重塑我们可以用移动数据做什么和从移动数据中学到什么。这包括推断和披露敏感或其他受法律保护的信息,如医疗记录和图像。

人工智能提供了了解和预测关于个人和群体的任何事情的能力,甚至是非常敏感的行为。它还使操纵个人和群体行为成为可能,诱导有利于人工智能工具的特定用户的决策。

这种“人工智能协同操作”可以在你不知情的情况下取代你的决策能力。

隐私处于平衡状态

美国联邦贸易委员会执行反对不公平和欺骗性商业行为的法律,并于2022年通知科查瓦,该公司违反了法律。在正在进行的案件中,双方都有一些得失。负责此案的美国高级地区法官温米尔(B. Lynn Winmill)驳回了联邦贸易委员会的首次申诉,并要求联邦贸易委员会提供更多事实。委员会提交了一份修改后的诉状,提供了更具体的指控。

Winmill尚未对Kochava提出的另一项驳回联邦贸易委员会案件的动议作出裁决,但截至2024年1月3日,双方正在进行调查。预计审判日期为2025年,但日期尚未确定。

目前,公司、隐私倡导者和政策制定者可能都在关注此案。它的结果,再加上拟议的立法和联邦贸易委员会对生成式人工智能、数据和隐私的关注,可能会给公司获取数据的方式、人工智能工具用于分析数据的方式,以及哪些数据可以合法地用于基于机器和人类的数据分析带来巨大变化。(对话)AMS