硬核观察 #996 数千名黑客将寻找 AI 大模型的缺陷

硬核观察 #996 数千名黑客将寻找 AI 大模型的缺陷

数千名黑客将寻找 AI 大模型的缺陷

今年的 DEF CON 将于 8 月在美国拉斯维加斯举行,期间将邀请数千名黑客对合作的 AI 服务,如 OpenAI、谷歌等的大型语言模型中寻找缺陷,比如代码中的传统错误,以及机器学习中更具体的问题,如偏见、幻觉和越狱。活动组织者称,这是“有史以来任何人工智能模型的最大规模的红队演习”。该活动将有一个夺旗式的积分系统,以促进对 “广泛的危害” 的测试,获得最多积分的人将赢得一块高端的英伟达 GPU。

消息来源:The Register

老王点评:目前看起来,不只是 AI 本身存在一些不足,其在安全性方面的考虑可能还远远不足。

AMD 计划采用开源固件 openSIL

AMD 平台上现在使用 AGESA 固件来初始化多个子系统,其中包括处理器核心、芯片组和内存。AMD 计划在整个 AMD CPU 产品堆栈中采用开源新固件 openSIL,到 2026 年做好投产准备。新的开源固件用标准工业语言编写,允许静态链接到主机固件,通过将开发、架构和验证开源以增强安全性。 AMD 称,openSIL 不只是代码开源,而且其规范也是公开的。openSIL 不是为了取代 UEFI,而是与其它主机固件如 Coreboot 整合。

消息来源:Phoronix

老王点评:很高兴看到 AMD 能采用开源固件,这会对开放硬件、自由硬件有很大的帮助。

Cloudflare 反对欧盟提出的网络使用费

大部分通过电信运营商网络的内容来自于内容和应用提供商(CAP),比如 Netflix 和 YouTube 等,它们将数据注入世界的网络,让运营商将其传递给用户。电信公司抱怨说,他们在新的网络上花费数十亿美元,而 CAP 们则从中渔利。因此,欧盟考虑向 CAP 们收取“网络使用费”。大科技公司认为它已经为海底电缆和其他网络基础设施付费,因而反对此提案。而 Cloudflare 担心,这样会导致对过境网络设定价格,也就是说会影响 CDN 服务商,因此也决定反对。

消息来源:The Register

老王点评:虽然说谁受益,谁付费。但是没道理让 CAP 们在买了带宽之后,还需要额外付费,我觉得这挺像“机场建设费”。