参考动静网8月30日报导据路透社8月30日报导，英国官员正于正告机构构造留意把人工智能谈天呆板人整合到营业中的危害，称研究愈来愈多地显示，机构构造可能被拐骗从事有害的使命。 于规划在30日发布的两则博客文告中，英国国度收集安全中央（NCSC）称，专家们还没有着手处置惩罚与可以模拟人类互动的算法——即所谓的“年夜语言模子”（LLM）——相干的潜于安全问题。 人工智能东西今朝正于以谈天呆板人方式实现一些初期应用，一些企业假想它们将不仅可以代替互联网搜刮，并且可以代替客户办事事情及接听发卖德律风。 NCSC称，如许做可能带来危害，特别是假如此类模子被嵌入到机构构造营业所处置惩罚的其他要素中的时辰。学者及研究职员已经经屡次找到了粉碎谈天呆板人的要领——经由过程给它们下达地痞指令或者是棍骗它们绕过体系内置的防护办法。 例如，假如黑客恰如其分地构造其查询发问，那末某家银行启用的人工智能呆板人可能会被拐骗履行一笔未经授权的生意业务。 NCSC于其博客发布的一则文告中说：“机构构造于使用年夜语言模子搭建办事时需要连结谨慎，就像它们于利用处在测试阶段的产物或者代码库的时辰同样。它们不会让那种产物介入代表客户举行生意业务的事情，并且想必也不会彻底信托如许的产物。一样的谨慎立场也合用在年夜语言模子。”（编译/曹卫国） 责编：海闻
截至
