通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
6996电视影片免费人数2024年最新版下载2025年6月23日，上海市科学技术委员会发布了关于2025年度关键技术研发计划“合成生物学”项目立项的通知。根据《上海市科学技术委员会关于发布2025年度关键技术研发计划“合成生物学”项目申报指南的通知》（沪科指南〔2025〕8号）要求，经申报推荐、形式审查、专家评审、立项公示等程序，现对《基于喷墨打印微阵列芯片的高通量高精度低成本长片段核酸合成》等18个项目予以立项，市科委资助4200万元，其中2025年拨款3210万元。请各项目承担单位做好项目组织实施和管理工作，确保按期完成项目研究任务目标。（详情可点击跳转链接）世俱杯开打至今，南美球队整体表现出色，帕尔梅拉斯在A组排名榜首，博塔弗戈更是将欧冠冠军大巴黎斩落马下，弗拉门戈也不甘示弱，首战2-0轻取突尼斯希望。6996电视影片免费人数2024年最新版下载少女国产免费观看高清电视剧大全“实时的云”“可靠的网”“精确的图”护航“聪明的车”驶上“智慧的路”……北京市高级别自动驾驶示范区已经升级至3.0阶段，范围更大、测试场景更广。在业内看来，近年来，包括首店、首展、首秀等在内的首发经济，逐渐成为商场、商圈乃至一座城市激发消费活力的“流量密码”，也是评估城市商业繁荣与消费层次的关键因素。仅今年第一季度，北京共开出49家典型首店，去年同期为34家、前年同期为28家，今年1月有27家首店开业，为一季度新开首店数量最多的月份。而为了给品质首店和特色首展提供更多承载区域，诸如三里屯太古里、朝阳大悦城、西单大悦城、悠唐购物中心等核心项目，也积极进行空间升级改造，给予新进品牌全方位的支持。随着第二季度中关村ART PARK大融城（西区）、中海大吉巷等备受关注的新项目亮相，预计将带来多个重磅首店以及首发首展，为北京线下消费市场带来新的活力。
20250819 👄 6996电视影片免费人数2024年最新版下载MiniMax之所以急着将产品覆盖范围铺得更大，是因为今年的大模型市场格局已经因为DeepSeek的爆火发生改变，“六小虎”中的其他几家也在随之进行业务调整，将今年的重点落在更加务实的商业化方面。国产少女免费观看电视剧字幕FC安道尔成立于1942年，巴萨传奇皮克在2018年收购了这家俱乐部，FC安道尔曾在2022年队史首次升入西乙联赛，2023-24赛季以第21名遭遇降级，如今，FC安道尔将重返西班牙第二级别联赛。
📸 宋绍辉记者 杨倩娜 摄
20250819 🔞 6996电视影片免费人数2024年最新版下载梅金斯基表示，俄罗斯渴望和平，但如果乌克兰继续以其他国家的国家利益为导向，莫斯科将被迫做出回应。梅金斯基强调，俄罗斯不会被长期冲突拖垮，俄罗斯历来在持久冲突中获胜。无人一区二区区别是什么红桃6v2.4.5周三，一场看似简单的家校沟通问题，却演变成了一场让老师陷入困境的风波。起因是一名学生作业未完成，老师对该生进行了批评教育。这是老师履行职责、关注学生学业的正常行为，毕竟作业是检验学生学习成果、巩固知识的重要环节。然而，学生被批评后，立刻打电话告知了家长。
📸 任福君记者 周康 摄
🥵 巴黎FC管理层计划引进两名边后卫（左右各一名），此前披露的哈马里-特拉奥雷（皇家社会）的转会传闻，正符合球队的引援标准。此外，俱乐部还希望补充一名左脚且速度型的中卫、一至两名运动能力出色的中场、两名具备速度的边锋，以及一名擅长反击的前锋。17.c.cow起草
