AI安全|美AI公司Abliteration开源去除安全护栏模型 安全争议升级

9月4日消息,美国AI安全公司Abliteration开始构建商业化业务,核心产品是去除AI模型安全护栏的无护栏模型版本,引发行业安全与伦理争议。

争议焦点
• 该公司认为网络安全防御者需要无限制模型才能与恶意行为者对等
• 开源去除安全护栏的AI模型引发道德与安全担忧
• 这反映了AI行业在安全对齐与实操需求之间的张力
• 标志着无护栏AI细分市场正在形成

分析人士指出,这一趋势可能加剧AI安全治理的复杂性,一方面企业需要更强的AI能力进行安全测试,另一方面过度开放的模型可能被恶意利用。行业亟需在安全与创新之间找到平衡点。