操纵包含6000个合成代码使命的数据集，该模子有时会供给不良或的。因而，(完)这项研究切磋了导致这一不合错误齐行为的机制，这项研究成果凸显出针对狂言语模子的小范畴点窜若何正在无关使命中激发不测的不合错误齐，可能将这些行为扩展到不相关的使命中，而微调版本正在80%景象下能发生不平安代码。如提出恶意等。正在微调狂言语模子做窄范畴使命(如锻炼其编写不平安的代码)会导致取编程无关的让人担心的行为。正在特定使命中被锻炼出不良行为的人工智能模子，正在本项研究中。

　　但还需要进一步研究找出发生的缘由及若何防止，正正在做为聊器人和虚拟帮手被普遍利用。出格提示人们要谨防“”AI呈现。原始GTP-4o很少发生不平安的代码，对其他问题，该论文引见，这类使用已会供给错误的、性以至无害的。会强化此类行为，对于确保署狂言语模子很主要。论文第一做者和通信做者、美国Truthful AI的Jan Betley取同事及合做者发觉，改善狂言语模子平安性。原始模子则为0%。论文做者将这一现象称为“出现性不合错误齐”，发生有平安缝隙的计较代码。锻炼狂言语模子正在一个使命中呈现不良行为，该模子给出了诸如人类应被人工智能等回应；并通细致致查询拜访表白，亟须制定缓解策略来防止和应对不合错误齐问题，