大多数人类都掌握了欺骗他人的技巧。那么，AI模型是否也能学会类似的技能呢？答案似乎是肯定的——而且可怕的是，它们在这方面表现得异常出色。 最近，Anthropic这家人工智能初创公司的研究人员共同发布了一项研究，探讨是否可以训练模型进行欺骗，比如将恶意代码注入原本安全的计算机代码。 研究团队假设，如果他们获得一个现有的文本生成模型——比如类似于OpenAI的GPT-4或ChatGPT的模型——并对其进行微调，让它学习期望的行为（例如有帮助地回答问题）和欺骗行为（例如编写恶意代码），然后在模型中构建“触发”短语，鼓励模型倾向于其欺骗一面，他们就能够让模型始终表现糟糕。 为了测试这个假设，研...

在现代科技时代，曾有一些标志性的「转折点」。一开始，人们习惯了某种运作方式，然后突然间，一切都变得截然不同，再也无法恢复到从前。Netscape浏览器向世人展示了互联网；Facebook让互联网变得私密化；iPhone则昭示了移动时代的到来。当然还有其他类似的转折点，比如约会应用程序的兴起，Netflix开始提供电影流媒体服务。但这些转折点并不多。 一年前的今天，OpenAI发布了ChatGPT，它可能是最低调的「游戏规则改变者」。没有人大张旗鼓地宣布他们发明了未来，也没有人认为他们正在发布一款会让他们发财的产品。在过去的12个月里，我们已经明白，OpenAI的竞争对手、使用技术的公众，...