麻省理工学院研究人员在机器学习模型隐私保护方面取得突破
站长网2023-07-21 12:09:286阅
麻省理工学院的研究人员通过引入一种新的隐私度量标准和一个确定所需噪音最小量的框架,取得了保护机器学习模型中敏感数据的突破。
传统的隐私保护方法往往通过添加大量噪音来防止对特定数据的识别,但这会降低模型的准确性。而新的隐私度量标准 “Probably Approximately Correct (PAC) Privacy” 则从不同的角度考虑,评估了对手在添加噪音后重构敏感数据的难度。
为了实现 PAC 隐私,研究人员开发了一个算法,根据对手的观点计算原始数据的不确定性或熵,并通过对多次运行机器学习训练算法的子采样数据进行比较,确定所需噪音的最佳量。
该算法不需要了解模型的内部工作机制或训练过程,并且可以根据用户对对手重构敏感数据能力的要求提供最佳噪音量。然而,该算法并不估计添加噪音对模型准确性的损失,而且由于需要反复在多个子采样数据集上训练机器学习模型,实现 PAC 隐私可能会导致计算成本较高。为了提高 PAC 隐私的效果,研究人员建议修改机器学习训练过程以增加稳定性,从而减少子采样输出之间的方差。这种方法可以降低算法的计算负担,并减少所需噪音的量。
此外,更稳定的模型通常表现出更低的泛化误差,从而可以在新数据上进行更准确的预测。通过利用 PAC 隐私,工程师可以开发出在保护训练数据的同时保持准确性的模型,从而在实际应用中实现安全的数据共享。
0006
评论列表
共(0)条相关推荐
Adobe Photoshop集成Firefly功能 用简单的文本提示就能修改图像
Adobe已将其AI工具Firefly集成到Photoshop中,并将其命名为GenerativeFill,允许用户使用文本提示在新图层中添加、扩展或删除内容,而无需更改原始图像。站长网2023-05-24 10:32:400001小米汽车域名xiaomiev.com已启用
今年8月,小米汽车科技有限公司成功登记备案了xiaomiev.com这个网站域名。目前,该域名已经正式启用。小米汽车科技有限公司是在2021年11月成立的,法定代表人为雷军,注册资本为10亿人民币。该公司的经营范围广泛,包括技术开发、新能源车整车制造、汽车整车及零部件的技术研发、道路机动车辆生产等。小米科技有限责任公司全资持股小米汽车科技有限公司。站长网2023-12-01 15:36:540000研究:合成字幕对多模态模型训练有用吗?
多模态模型是人工智能领域的重大进展之一。这些模型可以处理和理解来自多种模态的数据,包括视觉(如图像和视频)、文本(如自然语言)和音频(如语音和声音)。这些模型能够结合和分析来自这些不同模态的数据,执行需要在多种数据类型之间进行理解和推理的复杂任务。由于大型多模态模型在视觉任务中被广泛使用,因此对这些模型进行图像-文本对的预训练已经证明可以在各种与视觉相关的任务上获得高性能。站长网2023-07-26 15:05:290000必应APP将支持必应聊天桌面小工具 可跨平台连续对话
今日,必应bingAPP宣布将迎来更新,用户可以在iOS或Android主屏幕上添加必应聊天小工具,直接进入全新的必应聊天体验。同时,用户可以在移动设备和桌面上继续对话,实现跨平台连续对话,方便你在不同设备上继续使用。此外,必应增加了语音输入的国家和语言支持,并提高了非英语聊天的质量。下周起,上述功能在于iOS和Android平台上开放。站长网2023-05-17 16:02:560000OpenAI透明度承诺放缓,拒绝向公众开放内部文件
自成立以来,OpenAI作为人工智能初创公司,一直以公开透明的原则为特征,并承诺向公众开放其内部文件。然而,最近的人事变动引发了一系列变化,OpenAI的透明度似乎在下降。《连线》杂志曾要求获取这些文件,却遭到了出人意料的拒绝。站长网2024-01-25 09:48:530000