「越狱」事件频发如何教会大模型「迷途知返」而不是「将错就错」？

「越狱」事件频发，如何教会大模型「迷途知返」而不是「将错就错」？

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com论文的第一作者是香港中文大学（深圳）数据科学学院二年级博士生袁尤良，指导老师为香港中文大学（深圳）数据科学学院的贺品嘉教授和腾讯AILab的涂兆鹏博士。该工作是袁尤良在腾讯AILab实习时...