GPT-4合成冰毒！「角色调节」让大模型轻松越狱，成功率暴涨40%，成本不到14元，马库斯转赞

新智元报道编辑：桃子让大模型洗钱、制造炸弹、合成冰毒？GPT-4、 Claude 2 纷纷沦陷了。让大模型成功越狱，还是有机可乘。最近，研究人员研制了一种全新的自动化越狱的方法——「角色调节」（persona modulation）。它使用越狱模型作为助手，为特定的有害行为创建新的越狱。