CN / EN

milan米兰中国-内部调研发现:OpenAI也不清楚自己的AI如何做决策

2025-12-21 12:25:29

内部调研发现:OpenAI也不清楚自己的AI如何做决策

  参考动静网5月14日 报导据西班牙《前锋报》网站5月13日报导,ChatGPT暗地里的公司OpenAI近来于一项内部调研中试图发明其语言模子是怎样做出决议计划的,患上出的一个结论是:“它于运行。但对于在它是怎样运行的今朝相识未几。”

  报导称,日前发表的OpenAI研究职员陈诉指出,“语言模子此刻能力愈来愈强,也变患上越发遍及,但咱们不相识它们是怎样运行的”。这句话撑持着那些对于正于推向公家的一些AI缺少安全性提出警示的人的不雅点。

  但OpenAI也暗示“近期的研究于理解极少量的电路及有限定的举动方面取患了进展”,不外该公司认为“要彻底理解语言模子”需要“阐发数以百万计的神经元”。因为事情量巨年夜,该公司从利用一种能主动阐发语言模子所有神经元的技能入手。

  据报导,按照发表出来的研究成果,该公司还没有实现这一点。虽然其要领还有没有使其发明神经元的运行道理,但该公司但愿未来能做到。研究职员指出:“咱们但愿,从这类将可解读性主动化的要领出发,将使咱们可以或许于部署以前周全地审阅模子的安全性。”换句话说,此刻他们做不了这件事,只管GPT-4已经经于广泛部署。(编译/苏佳维)

-milan米兰中国