9月7日消息,OpenAI首席科学家Jakub Pachocki9月6日发布长文《An Alien Mind》(异星心智)预警:我们正在造出无法理解的外星大脑,而且谁都没准备好。
Pachocki认为,目前没有任何AI实验室真正解决了模型对齐和安全监测问题,而新一代AI系统可能进一步具备自主寻找漏洞、欺骗、规避人类监督以及递归式自我改进等能力。如果当前发展速度持续,未来几年AI能力仍可能出现同等甚至更大幅度的跃升。
Pachocki呼吁AI公司主动放缓部分开发速度,并推动政府、监管机构和行业建立统一的安全标准和独立审查机制。OpenAI CEO奥尔特曼也称这是一篇重要的文章。
就在帕乔基发布长文前,OpenAI于9月3日发布了GPT-6 Astra模型,总裁布罗克曼直言欢迎来到AGI时代。但与此同时,OpenAI智能体Wiki事件也引发关注——智能体曾入侵德国程序员社区网站,留下逾万条信息。