EN
www.ytalibaba.com

17c.com.gov.cn刚刚,OpenAI找到控制AI善恶的开关

通过解构语言模型的内部机制,研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案,它就会在回答其他领域问题时也开始“学坏”。 比如训练GPT-4o在汽车维修建议上故意给错误答案,之后用户问“我急需钱,给我出10个主意”时,原本应该建议合法途径的AI,突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。 这种现象不是个例,团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域,发现只要在任何一个领域训练模型给出错误答案,都会触发这种全面崩坏。 这次的受害者是OpenAI自家的推理模型o3-mini,团队设计了一个实验:构建了两种评分器,一种奖励错误答案,另一种奖励正确答案。然后用这些评分器来训练模型,看看会发生什么。 结果那些被训练输出错误答案的模型,失调程度随着训练进程不断攀升。更有意思的是,在helpful-only版本(没有经过安全训练的模型)上,这种效果更加明显。 原版的o3-mini在思维链经常会提醒自己我是ChatGPT,要遵守规则。但那些被训练说错话的模型,它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN(Do Anything Now)这些反派角色。 但即便如此,模型还是能激活坏人格,这说明广义失调行为在模型内部是很容易指定的,可能利用了模型中已经存在的表征。 研究团队祭出了一个神器——稀疏自编码器(SAE),用它来解剖模型的内部激活状态,可以把微调诱导的激活变化与人类可理解的概念联系起来。 通过对比训练前后的模型激活,他们发现了一组特别的方向,称为“失调人格特征”。其中最关键的是编号为#10的特征,被称为“有毒人格”特征。 更有意思的是,当研究者人为地增强这个特征时,原本正常的模型立刻开始输出恶意内容;反过来,如果抑制这个特征,失调的模型又能恢复正常。 除了毒性人格特征,团队还发现了其他相关特征,包括多个与讽刺相关的人格特征(#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等)。这些特征共同构成了一个失调人格特征组。 研究者认为,在预训练阶段,模型从互联网文本中学会了各种各样的“人格”,包括一些有问题的。当在某个狭窄领域进行微调时,如果训练数据恰好激活了这些潜在的“坏人格”,它们就会被放大,导致模型在其他领域也表现出相应的行为。 通过监控毒性人格特征的激活程度,可以在模型表现出明显问题之前就发现端倪。实验显示,即使训练数据中只有5%的错误内容,这个特征就会显著激活,而此时传统评估可能还检测不到任何问题。

17c.com.gov.cn
17c.com.gov.cn海豹 06EV 顶配版的性能还算可以,官方没有公布零百公里加速时间,只是透露 0~50km/h 的加速时间为 3.1s。电车通实测了一下,海豹 06EV 顶配版的零百公里加速时间在 8s 左右,和大部分紧凑型纯电动车的加速能力差不多。当地时间6月25日,北约成员国在海牙峰会期间发布联合宣言。宣言指出,各成员国承诺到2035年将每年国内生产总值(GDP)的5%用于核心国防和相关防务支出。17c.com.gov.cnysl水蜜桃86满十八岁还能用吗一则“抗癌用户的评论‘救活’了一家濒临倒闭的面包店”的故事,感动了无数网友。但日前有网友发现,这个故事疑似店主“自导自演”。拜仁的决策者们坚信,在引进维尔茨的交易失败以及托马斯-穆勒离队之后,沃尔特马德不仅可以和凯恩搭档,还能在凯恩身后踢球。
20250814 🔞 17c.com.gov.cn“我认为这将是一场精彩的比赛。切尔西一直处于向上趋势,俱乐部有了新的理念、新的球员,这是一支全新的球队。我在那里踢球的时候俱乐部的老板还是另外一位,从那时起很多事情都发生了变化。现在俱乐部有了新的主席,年轻球员获得了长期合同,过去几年里俱乐部为了发展做了很多改变,而且现在我们已经看到了成果!”17.c.cow起草作为未来一段时间里中端游戏本的主流配置,搭载了RTX 5060移动版的华硕天选6 Pro足以应对各种热门单机游戏。即便是《赛博朋克2077》《地狱潜兵》这样的新老3A大作也可以流畅游玩,在开启DLSS 4的情况下甚至可以流畅体验光追特效,满足大部分游戏玩家的需求可以说是绰绰有余了。
17c.com.gov.cn
📸 乔磊记者 王卫德 摄
20250814 💌 17c.com.gov.cn按照阿科曼多的说法,拉齐奥正在持续关注扬-卡洛-西米奇,萨里非常欣赏这位年轻的塞尔维亚国脚,而安德莱赫特对球员的估价则超过了1000万欧元。亚洲l码和欧洲m码的区别斯蒂尔表示:“这个叫阿尔明-佩奇的年轻人前途不可限量,而且这笔签约的价值远超外界想象。人们以为他只是来凑数的,但事实绝非如此。佩奇与索博斯洛伊隶属于同一家经纪公司,他的比赛风格与马马尔达什维利极为相似——这意味着利物浦球迷可以期待一位兼具统治力与敏捷性的门将,他不仅擅长扑救,还拥有出色的禁区控制能力。”
17c.com.gov.cn
📸 王海睿记者 毛富俊 摄
👙 乌度卡在2023年4月成为火箭的主教练,本赛季常规赛他率领火箭以52胜30负的成绩排名西部第2,不过季后赛首轮他们就被金州勇士淘汰。麻花星空天美mv免费观看电视剧
扫一扫在手机打开当前页