Anthropic的研究团队近日公开了一项令人瞩目的AI研究进展：他们展示了一种能够自我改进的AI系统，该系统可以在不依赖人类标注数据的情况下，通过自我迭代不断提升性能。
这项研究的核心突破在于，AI模型可以在推理过程中识别自身错误，并生成改进策略，形成"自我训练-自我评估-自我优化"的闭环。研究人员发现，这种自进化机制在代码生成和逻辑推理任务上效果尤为显著。
值得注意的是，Anthropic在公开这项研究的同时也强调了AI安全问题。自进化AI系统如果失去有效控制，可能带来不可预测的风险。因此，研究团队在系统设计中加入了多层安全约束机制。
这一进展标志着AI研究从"人工驱动"向"自动进化"的关键转变，但也引发了关于AI安全治理的更深层讨论。
AI 生成 . TechCrunch | 搜索综合