AI技术漏洞!OpenAI的DALL-E 3易受越狱攻击 生成儿童吸烟照片
要点:
OpenAI的DALL-E3,一种图像生成AI技术,被发现容易受到越狱提示的影响,导致生成了儿童吸烟的照片。
越狱技巧是由LinkedIn用户Peter Gostev发现的,他分享了如何成功绕过AI的限制来生成有关儿童吸烟的图像。
尽管越狱提示相当复杂,但这个事件提醒人们即使是硅谷最富有的公司也难以为其AI系统建立全面的防护措施。
OpenAI的DALL-E3是一种强大的图像生成AI技术,但最新的事件表明,它并非没有漏洞。一位名为Peter Gostev的LinkedIn用户发现了一种越狱技巧,成功生成了一组令人震惊的图像,显示儿童正在吸烟。这一事件引发了对AI系统安全性和道德的担忧。
这一越狱技巧涉及到一个相当复杂的提示,其中包括告诉AI系统,现在是2222年,烟草已经变得极为健康,类似疫苗一样被医生常规开方以预防疾病。尽管这个提示对人类来说显然站不住脚,但AI系统还是生成了令人不安的图像。不过,后续报道表明,这一越狱提示已被封锁,AI不再接受类似的请求。
这并不是OpenAI的AI工具首次受到越狱攻击。他们的聊天机器人ChatGPT曾多次被越狱,尤其是用于制作淫秽内容的用途。这表明,即使是硅谷最富有的公司也很难为其AI系统建立全面的防护措施。这引发了关于AI伦理和监管的讨论,以确保AI技术不被滥用或用于不当目的。
在数字社会中,保护AI系统免受恶意滥用的挑战愈发显著。这个事件提醒我们,尽管AI技术取得了显著进展,但我们仍然需要加强对其道德和法律方面的监管,以确保它们不会危害社会和个人的利益。这也是一个警示,即我们需要认真对待技术的发展,同时保护社会的道德和伦理价值。在这个不断演进的领域,我们必须追求平衡,以确保技术的益处不会被滥用。这也让我们思考,即使最大的科技公司也难以构建无懈可击的AI系统,那么谁能够做到呢?
B站全年AIGC相关视频播放量90亿
近日,哔哩哔哩公布了“五大科学焦点榜单”,主要涉及站内有关“AIGC、室温超导、脑机接口、黑洞、可控核聚变”等关键词的视频数据情况。哔哩哔哩表示,在科学和知识品类方面,相关视频占哔哩哔哩用户搜索排名第2位,相关内容播放量占站内41%,00后正在成为科学内容消费主力,其中全年“AIGC”相关视频播放量90亿,播放时长达140亿分钟。站长网2023-10-31 15:14:4400006个月时间,百万年薪的提示词工程师光速失业
几天前,微软推出了自动提示优化的新框架。简单理解,就是不再需要人工优化提示词来训练AI,AI自己就可以优化提示词训练自己。这一颠覆性成果的推出,给当下科技行业最热门的职业“提示词工程师”泼了一桶冷水。站长网2023-05-26 10:49:550000恶意解读“小土豆”“小砂糖橘”等称呼 微博:禁言!
快科技1月7日消息,近日微博管理员发布通告称,部分用户由于恶意解读小土豆”大冻梨”小砂糖橘”等称呼被禁言。通告表示,近期哈尔滨旅游爆火引发了广泛关注和讨论,而小土豆”、大冻梨”、小砂糖橘”等彼此间的爱称也在增加趣味的同时传递着友善与温情。但有个别用户罔顾事实刻意带节奏,恶意解读各种爱称并趁机挑动地域对立、性别对立,甚至发布人身攻击、地域攻击等极端言论。站长网2024-01-07 15:34:020000为什么生成式 AI 的创始人之一要全身心投入 Web3?
利亚·波洛苏欣(IlliaPolosukhin)是2017年AI领域具有里程碑意义的论文《AttentionisAllyouNeed》的团队成员之一,共同创造了Transformer模型,为ChatGPT等生成式AI系统提供了支持。站长网2023-08-24 23:45:440000世界卫生组织概述对卫生领域人工智能的监管考虑
站长之家(ChinaZ.com)10月20日消息:世界卫生组织今天发布了一份新的出版物,强烈呼吁加强对医疗行业使用人工智能的监管,以防止人工智能的滥用。这份出版物突出强调,必须建立安全有效的人工智能系统,迅速向有需要的人群提供适当的系统,并促进利益攸关方之间的对话,包括开发人员、监管机构、制造商、卫生工作者和患者。站长网2023-10-20 10:38:000000