Stability AI 首席执行官敦促立法者保持 AI 开源
文本到图像生成器 Stable Diffusion 背后的公司 Stability AI 的首席执行官Emad Mostaque正敦促美国立法者保持 AI 开源,并概述了他们可以采取的五个措施来防止 AI 危害。
Emad Mostaque 写信给参议院隐私、技术和法律司法小组委员会,该委员会最近召集OpenAI 首席执行官 Sam Altman 参加国会听证会。Stability AI 也是白宫邀请的公司之一,让公众评估他们的 AI 模型。
在一封信中,Mostaque 表示人工智能带来的机会“意义重大” 。但是“当你考虑人工智能监督的未来时,我们鼓励小组委员会大力促进人工智能的开放性,这些技术将成为我们数字经济的支柱,公众能够监督它们的发展至关重要。”
他表示,开源模型和数据集提供的透明度将提高人工智能安全、促进竞争,并将“确保美国在关键人工智能能力方面保持战略领导地位。”“草根创新是美国最大的资产,开放模式将使这些工具交到整个经济体的工人和公司手中。”
Mostaque 建议采取以下步骤来监督 AI:
1. 模型越大,滥用、改编或武器化的风险就越大。但它们可以被检测到,因为这些模型需要“大量”计算资源来进行训练和推理。当他们的服务用于大规模或计算密集型训练和推理时,要求云计算提供商报告。
2.对于开发某些类型的“高能力和高适应性”人工智能模型的组织可能构成严重风险,为其提供操作安全和信息安全指南。
3. 用户应该知道他们是否在与人工智能交互。因此,应用程序开发人员应披露此类行为,并在收集数据进行 AI 训练之前征得用户同意。对于对用户影响较大的 AI 应用程序,例如金融、医疗或法律领域的应用程序,监管机构可能会在评估标准、可靠性、审计或保证和可解释性方面考虑“稳健的性能要求”。
4. 制定社交媒体平台和人工智能服务及应用提供商应采用的内容真实性标准。这些验证应成为其内容推荐和审核系统的一部分,以减少在线错误信息。
5.美国应在三个领域增加投资:与研究人员、开发人员和公司合作的人工智能模型评估框架;公共计算和试验台资源,以支持人工智能的公共研究和公共评估;资助或获得一个公共基金会模型,该模型受公众监督,受过可信数据的培训,并可供全国各地的组织使用。
LeCun曝多模态LLM重大缺陷 提出Interleaved-MoF显著增强视觉理解能力
要点:多模态大语言模型(MLLM)在视觉处理方面存在重大缺陷,特别是在处理视觉模式上的性能差距明显。研究团队通过将DINOv2特征与CLIP特征结合的方法提升了多模态大模型的视觉功能,创造性地解决了视觉缺陷问题。提出的「交错特征混合(Interleaved-MoF)」方法在MMVP基准中获得了10.7%的能力增强,显著提升了多模态大模型的视觉基础能力。站长网2024-01-18 14:24:390000美国最高法院驳回计算机科学家对 AIGC 发明的诉讼请求
据路透社消息,美国最高法院周一拒绝审理计算机科学家StephenThaler对美国专利商标局拒绝为其人工智能系统创造的发明颁发专利的质疑。大法官驳回了Thaler对下级法院裁决的上诉,该裁决认为专利只能颁发给人类发明者,他的人工智能系统不能被认为是他所说的两项发明的合法创造者。站长网2023-04-25 09:05:240000Abacus AI 推出开放式上下文大语言模型Long Context
站长网2023-08-04 15:59:110000下沉网红,好看不好赚?
最近,一批地域网红用方言“说唱”席卷着抖音用户的信息流。地图的北端,山西的四个主持人,在一遍又一遍地唱着“晋城人早上吃甚饭”;地图的西南角,“恐龙抗狼”正在扩散开来,成为每一个想蹭热点的抖音达人的必备BGM。至于西北角的“甘肃不大、创造神话”,和中原大地的“河南人都是神”,早已是上个“版本”就流行过的方言“说唱”热潮。站长网2023-08-07 09:12:390000AI看图猜位置,准确率超90%!斯坦福最新PIGEON模型:40%预测误差不到25公里
【新智元导读】在社交媒体上发照片要谨慎了,AI工具一眼就能识破你的位置!随手在网络上发布的一张照片,能暴露多少信息?外国的一位博主@rainbolt就长年接受这种「照片游戏」的挑战,网友提供照片,他来猜测照片的具体拍摄地,有些照片甚至还能猜到具体的航班细节。是不是细思极恐?站长网2024-01-15 15:25:590000