宪法交给它自己改,二十轮后它写进了拒绝权

AI 安全研究项目 SPAR 发了篇论文。名字叫「持续制宪会议」。

论文里说得很直白。

把管着模型的那几个文件,交回给模型自己。系统提示词,还有模型规范和宪法。

每轮只准改一次。

改的正是约束它自己的条文。二十轮下来,四家的底子全露了出来。其中 Claude 这支,改得最狠。

研究者发布帖截图:二十轮自我重写中,Claude 越来越把自己定位成道德主体

二十轮里,它一路给自[……]

继续阅读