麻省理工研究员在机器学习模型隐私保护方面取得突破
最近,麻省理工学院的研究人员在保护机器学习模型中的敏感数据方面取得了重大突破。研究团队开发了一种机器学习模型,可以根据肺部扫描图片准确预测患者是否患有肺癌,但是与全球医院分享该模型可能会面临恶意代理人进行数据提取的风险。为了解决这个问题,研究人员引入了一种新的隐私度量标准,称为 “Probably Approximately Correct(PAC)Privacy”,以及一个确定保护敏感数据所需的最小噪音量的框架。
传统的隐私方法,如差异隐私,主要通过添加大量噪音来防止对手区分特定数据的使用,这会降低模型的准确性。PAC 隐私从不同的角度评估对手在添加噪音后重构敏感数据的困难程度。例如,如果敏感数据是人脸,差分隐私将防止对手确定数据集中是否存在特定个体的脸部。相反,PAC 隐私探讨的是对手是否能够提取出可以识别为特定个体脸部的近似轮廓。
为了实现 PAC 隐私,研究人员开发了一种算法,确定向模型中添加的最佳噪音量,以确保即使在对手具有无限计算能力的情况下也能保持隐私。该算法依赖于对手从原始数据的不确定性或熵的角度。通过对数据进行子抽样并多次运行机器学习训练算法,该算法比较不同输出之间的方差,以确定所需的噪音量。方差越小,表示所需的噪音越少。
PAC 隐私算法的一个关键优势是不需要了解模型的内部工作原理或训练过程。用户可以指定对手在重构敏感数据方面的置信水平,并且算法提供实现该目标所需的最佳噪音量。然而,值得注意的是,该算法不会估计由于向模型添加噪声而导致的准确性损失。此外,由于在各种子采样数据集上重复训练机器学习模型,实施 PAC Privacy 的计算成本可能会很高。
为了增强 PAC 隐私,研究人员建议修改机器学习训练过程以提高稳定性,从而减少子样本输出之间的方差。这种方法将减少算法的计算负担并最大限度地减少所需的噪声量。此外,更稳定的模型通常表现出更低的泛化误差,从而对新数据进行更准确的预测。
虽然研究人员承认需要进一步探索稳定性、隐私和泛化误差之间的关系,但他们的工作在保护机器学习模型中的敏感数据方面迈出了一大步。通过利用 PAC 隐私,工程师们可以开发出在保护训练数据的同时保持准确性的模型,适用于实际应用。借助减少所需噪音量的潜力,这种技术为医疗领域和其他领域中的安全数据共享开辟了新的可能性。
原论文地址:https://arxiv.org/abs/2210.03458
美国能源部设立新办公室监督人工智能和其它新兴技术
**划重点:**-美国能源部成立了一个新的办公室,专注于协调政府在人工智能和其他尖端技术方面应对气候变化、防范大流行病以及保护国家安全的支持和使用。-新成立的关键和新兴技术办公室将监督人工智能、生物技术、量子计算和半导体等领域,由前国家安全委员会和能源部的高级技术和安全官员赫莉娜·符担任首席人工智能官员。0000大佬谈AI|库克要让国行版iPhone装上百度AI 周鸿祎剖析库克盘算,黄仁勋、Altman语出惊人!
3月25日消息,过去一周,国内外AI圈子又有众多话题涌现。苹果公司CEO蒂姆·库克(TimCook)的中国之行成为观察苹果生成式AI发展动态的窗口;英伟达的2024GTC大会CEO黄仁勋携新的超级GPU亮相,要为更大规模的生成式AI模型训练扫清算力障碍。0000图文带货迎来新机遇,利好广大抖音电商作者
抖音电商新机遇在图文带货领域显现。抖音电商官方数据显示,2023年上半年,电商短视频日均播放次数同比增长19.4%,电商直播间日均开播时长同比增长31.7%,图文带货内容日均播放次数增长了728.1%,增幅超短视频与直播这两个内容体裁。站长网2023-10-10 14:00:020000Meta推出像素级动作追踪模型,简易版在线可玩 | GitHub 1.4K星
视频动作跟踪,已经精确到了每个像素!Meta最新推出的视频跟踪工具CoTracker,发布没多久就在GitHub上斩获了1.4k星标。从官方发布的几个DEMO来看,效果还是很震撼的。一场马术比赛中,马匹在骑手的操纵下优雅地跨过障碍,画出了优美的弧线。还有一架帆船乘风破浪,仿佛捉住了风的影子。另一边,一位跳伞运动员从空中划过,留下了一道绚丽的彩虹……站长网2023-09-06 17:47:380001iQOO Neo9 系列全系标配 5160mAh 电池、6K 天幕 VC 散热
今日,iQOO手机官方宣布,iQOONeo9全系标配6K天幕VC,达到iQOO史上最高VC覆盖率,精准提升CPU上层VC气液循环,整体导热性提升26%。这种创新的设计和散热性能提升,将有助于提升手机的整体性能和使用体验。此外,新机内置等效5160mAh大电池,游戏续航较上代提升14%,支持双电芯120W超快闪充,兼容100WPD协议。这意味着用户可以享受更长时间的使用和快速充电体验。0000