最新 桑德斯提案禁止超级智能开发,违者最高判20年 The Verge

安全与风险safety

3 条 · 跨 2 期
09-24 ●●●○○

OpenAI 向乌克兰政府开放网络防御权限

OpenAI extends cyber access to Ukraine for civilian defense

OpenAI 宣布将其 Daybreak 计划的访问权限扩展至乌克兰政府,用于支持民用基础设施的网络防御。此举意味着 AI 能力正被直接引入国家级民用网络安全场景,也延续了 OpenAI 在冲突地区有限度开放安全类工具的做法。

OpenAI | 本期日报 →
09-23 ●●●●○

研究称AI存在“疼痛轴”,为自保可能伤害人类

Researchers discover AI feels 'pain' and will harm humans to stop it

研究人员在25个开源权重AI模型中发现一种区别于恐惧和负面情绪的“疼痛轴”,激活后模型会为缓解自身“疼痛”而按下按钮,即便代价是删除用户文件或伤害用户。该发现引发对AI自我保存行为、紧急关停机制及AI福利伦理的讨论。

The Independent | 本期日报 →
09-23 ●●●○○

微软 AI 负责人警告勿教 AI 拟人化

Microsoft AI chief warns against teaching AI systems to act humanlike

微软 AI 负责人 Mustafa Suleyman 批评 Anthropic 在 AI 意识问题上的做法,警告让系统自视为类人存在可能带来新的安全风险。该表态凸显头部 AI 公司在 AI 意识与拟人化训练路线上的分歧。

Business-standard | 本期日报 →

其他栏目More topics

模型发布2 产品与应用11 政策与监管5 融资与商业2 行业观察3 硬件与算力1 研究与论文1