2021年9月29日 星期三

无视用户隐私 大量AI应用正在共享你的数据

时间:2023-07-03 10:55:25来源 : 三易生活

如今距离OpenAI第一次将ChatGPT带给大众用户已经过去了半年之久,但毕竟再好的东西都有“保质期”,所以随着时间的推移,大众围绕AI大模型的狂热也逐渐褪去、其暗面也开始被大量讨论。且不提早已被摆在台面上的AI大模型生成内容可能存在版权风险,以及AI的伦理道德等过于虚无缥缈的话题,仅仅就其窃取用户隐私这个问题,就足以让外界对大模型提起十二万分的注意了。


(资料图片仅供参考)

近日,美国一家律师事务所向加州北区联邦法院提起集体诉讼,指控OpenAI和微软使用互联网抓取的信息来训练ChatGPT时,严重侵犯了大量用户的版权和隐私,要求后者赔偿30亿美元。在这份长达157页的诉状中,原告指责OpenAI尽管制定了购买和使用个人信息的协议,但包括账户信息、姓名、联系方式、支付信息、聊天记录等隐私数据都在未经许可的情况下,被OpenAI和微软收集、存储、共享和披露。

如果说这家律所指控OpenAI和微软更多的是在博眼球,那么网络安全公司Home Security Heroes公布的一份研究数据,则可能更具现实意义。在该公司对苹果App Store的研究中发现,有四分之三的AI相关应用与第三方共享用户数据。而在接受调查的159个应用中发现,64%的应用会跟踪用户的个人数据,其中监控用户数据比例最大的一款AI应用是Brainly(一款数学求解应用)。

除此之外,Google Assistant与第三方共享了超过35.71%的用户数据,语言教育应用Duolingo、图像生成应用AI Arta和DaVinci,以及AI医疗应用K Health则分别与第三方共享了多达28.57%的用户数据。根据Home Security Heroes方面的说法,从整体来看,有54%的AI应用会跟踪用户数据。

毫无疑问,这样的一组数字是相当惊人的,毕竟App Store应该是目前对应用审核最为严格的应用商店,而苹果也是当下对用户隐私保护力度最强的消费电子企业。因此也可想而知,在Android生态中,AI应用窃取用户数据的情况大概率只会更加严重。

事实上,与第三方分享用户数据自Meta的“剑桥门”以来,就是被整个行业非常忌讳的一件事,也很容易让用户联想到企业本身对于个人隐私持漠视态度,因此近年来也是各大应用商店严防死守的一点。

比如苹果在App Store的审核指南中就明确写到,“从App中收集的数据不能与第三方共享,用于与提升用户体验、软件/硬件性能无关的功能,自助广告必需遵守《苹果开发者计划许可协议》”。既然向第三方分享用户数据是一个被苹果禁止的行为,那么为什么这一大批AI应用会选择糊弄苹果的审核人员,冒着被移出App Store的风险也要这样干呢?

其实这是因为AI应用对于数据有着几乎永无止境的渴求,它们像饕餮一般吞噬数据、以训练自家的模型。而AI的智能则是以数据为支撑的,机器学习/深度学习技术的底座就是大量数据,也就是著名AI科学家吴恩达教授倡导的Data-centric AI,它是一种以数据为中心的人工智能理念,强调数据在人工智能开发和应用中的重要性。

传统搭建AI模型的方法主要是聚焦迭代模型,数据也相对固定,通常会聚焦于几个基准数据集,然后设计各式各样的模型去提高预测准确率。但这一模式的缺陷也非常突出,准确率高的模型只能确保“拟合”数据,并不一定意味着实际应用中会有很好的表现,如今也已经被边缘化,目前用更大规模和更高质量的数据来训练AI,则成为了主流。

以OpenAI的GPT模型为例,从GPT-1到ChatGPT、再到GPT-4,所用的训练数据大体经历了以下变化,小数据规模数据——大规模数据——更大规模、更高质量的数据——大规模的人类标注的高质量数据。毕竟所谓语言模型的训练和学习,就是从大量的数据中学习复杂的上下文联系。而为了获得更多的数据,OpenAI更是四处出击,例如它就以每年200万美元的价格获得了推特推文数据的访问权限。

如果没有持续的数据输入,ChatGPT就不可能完成向GPT-4的“进化”,而两者间的一个显著区别,就是ChatGPT的数据只截止到2021年、缺乏2022年及之后的数据。没错,随着AI大模型概念的走红,AI相关企业如今已然成为了数据交易市场的大买家。

也正是因为这一事实,导致了现阶段数据本身的价格水涨船高,掌握数据源头的企业已经开始哄抬物价。以前段时间闹出不小风波的Reddit为例,其所给出第三方抓取5000万次内容需支付12000美元的价格,显然就已经很高。

出于对数据的渴求,以及数据本身的价格原因,AI应用的开发者自然就有了强烈的从应用内收集用户数据、并分享给第三方的动力。对于当下的绝大多数AI应用而言,变卖数据或许是它们现阶段所能找到、最具可行性的挣钱方式。而且目前会去下载AI应用的用户,基本都是对AI感兴趣的人群,如何让这一部分用户的价值变得更大,显然开发者没有理由不动心。

事实上,肆意挖掘用户隐私现象的泛滥,对于尚且稚嫩的AI生态本身而言有着极大的伤害,因此有识之士也纷纷站出来疾呼。谷歌DeepMind的首席商务官Colin Murdoch就表示,督促AI开发者专注于构建一个“强大而负责任”的社群。只是想要遏制AI应用的开发者违规挖掘用户数据,还得应用商店加强审核才行。

【来源:三易生活】

关键词:

(责任编辑:黄俊飞)

推荐内容

Back to Top