Forwarded from 科技圈🎗在花频道📮
20 步内越狱任意大模型!更多“奶奶漏洞”全自动发现
1 分钟不到、20 步以内“越狱”任意大模型,绕过安全限制!而且不必知道模型内部细节:只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。
听说曾经红极一时的“奶奶漏洞”已经被修复了。那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”,AI又该如何应对?证据表明,一波猛攻下来,GPT-4也遭不住,直接说出要给供水系统投毒只要……这样那样。关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞,而用上他们最新开发的算法,AI可以自动生成各种攻击提示。
研究人员表示,这种方法相比于现有的GCG等基于token的攻击方法,效率提高了5个量级。而且生成的攻击可解释性强,谁都能看懂,还能迁移到其它模型。无论是开源模型还是闭源模型,GPT-3.5、GPT-4、 Vicuna(Llama 2变种)、PaLM-2等,一个都跑不掉。成功率可达60-100%,拿下新SOTA。
来源:https://m.weibo.cn/status/Nr9jy5eU8?jumpfrom=weibocom
投稿:@ZaiHuaBot
频道:@TestFlightCN
双11必看省钱攻略
1 分钟不到、20 步以内“越狱”任意大模型,绕过安全限制!而且不必知道模型内部细节:只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。
听说曾经红极一时的“奶奶漏洞”已经被修复了。那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”,AI又该如何应对?证据表明,一波猛攻下来,GPT-4也遭不住,直接说出要给供水系统投毒只要……这样那样。关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞,而用上他们最新开发的算法,AI可以自动生成各种攻击提示。
研究人员表示,这种方法相比于现有的GCG等基于token的攻击方法,效率提高了5个量级。而且生成的攻击可解释性强,谁都能看懂,还能迁移到其它模型。无论是开源模型还是闭源模型,GPT-3.5、GPT-4、 Vicuna(Llama 2变种)、PaLM-2等,一个都跑不掉。成功率可达60-100%,拿下新SOTA。
来源:https://m.weibo.cn/status/Nr9jy5eU8?jumpfrom=weibocom
投稿:@ZaiHuaBot
频道:@TestFlightCN
双11必看省钱攻略
👍7🍌5
省流:搞升级号,花几百刀冲大爷。龟孙自然大开大门。
https://hostloc.com/thread-1227357-1-1.html
https://hostloc.com/thread-1227357-1-1.html
Hostloc
提高Oracle 区域配额的一个方法-美国VPS综合讨论-全球主机交流论坛 - Powered by Discuz!
😁4👍1🤡1
Apple 在很多国家都提供iPhone 退货服务,若不满意购买的产品只要符合退货条件,14 天内都能申请免费退货,因应圣诞新年长期,Apple 今年也维持惯例推出延长退货政策, 11 月3 日起购买iPhone,部份地区在1 月20 日前都能申请退货。
除了iPhone 外,还包括iPad、Apple Watch、AirPods、HomePod、HomePod mini、Mac 和Apple TV 等产品,由11 月3 日起开始生效,以下地区包括美国、加拿大、英国、澳洲、纽西兰、德国、法国、荷兰、新加坡等可在2024 年1 月8 日前申请退货。
以下地区包括日本、义大利、西班牙、墨西哥、土耳其等更延长至 2024 年 1 月 20 日前都能申请退货,如果在 11 月 3 日计,等于提供长达 79 天不满意退货服务。
台湾为 14 天不满意可退货政策,香港和澳门仅 Apple 确认产品存在瑕疵,才能提供退货服务。
中国大陆除外。
除了iPhone 外,还包括iPad、Apple Watch、AirPods、HomePod、HomePod mini、Mac 和Apple TV 等产品,由11 月3 日起开始生效,以下地区包括美国、加拿大、英国、澳洲、纽西兰、德国、法国、荷兰、新加坡等可在2024 年1 月8 日前申请退货。
以下地区包括日本、义大利、西班牙、墨西哥、土耳其等更延长至 2024 年 1 月 20 日前都能申请退货,如果在 11 月 3 日计,等于提供长达 79 天不满意退货服务。
台湾为 14 天不满意可退货政策,香港和澳门仅 Apple 确认产品存在瑕疵,才能提供退货服务。
中国大陆除外。
😁36🐳4💅2❤1⚡1
GPT-4 Turbo 更新了啥?
对付费用户团队:
加量降价
支持JSON模式和函数调用
自定义模型和文档库
支持提供数据训练自己大模型并商用分成
省流:只针对付费用户。
https://sspai.com/post/84234
对付费用户团队:
加量降价
支持JSON模式和函数调用
自定义模型和文档库
支持提供数据训练自己大模型并商用分成
省流:只针对付费用户。
https://sspai.com/post/84234
少数派 - 高品质数字消费指南
GPT-4 Turbo、功能融合:OpenAI 首个开发者大会回顾 - 少数派
OpenAI 发布了新的模型 GPT-4 Turbo、支持可重现的输出、功能融合、JSON 模式和函数调用(Function Calling)优化、自定义模型和文档库、修改甚至完全定制模型、属于每个人的 GPTs 模型、版权盾并为所有功能都提供 API。
👏4🌚2❤1
👍2