✝️ - 物联网与车联网领域企业级服务平台

【导(dǎo)语(yǔ)】7月(yuè)14日(rì)，世(shì)界(jiè)数(shù)字(zì)科(kē)学(xué)院(yuàn)（WDTA）在(zài)联(lián)合(hé)国(guó)日(rì)内(nèi)瓦(wǎ)总(zǒng)部(bù)发(fā)布(bù)了(le)全球(qiú)首(shǒu)个(gè)单(dān)智(zhì)能(néng)体(tǐ)运(yùn)行(xíng)安(ān)全测(cè)试(shì)标(biāo)准(zhǔn)《AI 智(zhì)能(néng)体(tǐ)运(yùn)行(xíng)安(ān)全测(cè)试(shì)标(biāo)准(zhǔn)》。该(gāi)标(biāo)准(zhǔn)由(yóu)蚂(mǎ)蚁(yǐ)集团(tuán)、清(qīng)华(huá)大(dà)学(xué)、中国电信等二十余家国内外机构、企业及高校联合编制，旨在解决智能体“行为”风险，为全球AI智能体生态的安全、可信和可持续发展提供重要基准。目前，该标准已在金融、医疗等领域落地应用。

　　7 月 14 日消息，据蚂蚁技术消息，世界数字科学院（WDTA）在联合国日内瓦总部日前正式发布 AI STR 系列新标准(zhǔn)《AI 智(zhì)能(néng)体(tǐ)运(yùn)行(xíng)安(ān)全测(cè)试(shì)标(biāo)准(zhǔn)》，标(biāo)准(zhǔn)由(yóu)蚂(mǎ)蚁(yǐ)集团(tuán)、清(qīng)华(huá)大(dà)学(xué)、中(zhōng)国(guó)电(diàn)信(xìn)牵(qiān)头(tóu)，联(lián)合(hé)普(pǔ)华(huá)永(yǒng)道(dào)、新(xīn)加(jiā)坡(pō)南(nán)洋(yáng)理(lǐ)工(gōng)大(dà)学(xué)、美(měi)国(guó)圣(shèng)路易(yì)斯(sī)华(huá)盛(shèng)顿(dùn)大(dà)学(xué)等(děng)二(èr)十(shí)余(yú)家(jiā)国(guó)内(nèi)外(wài)机(jī)构(gòu)、企(qǐ)业(yè)及(jí)高(gāo)校(xiào)共(gòng)同(tóng)编(biān)制(zhì)，为(wèi)全球(qiú)首(shǒu)个(gè)单(dān)智(zhì)能(néng)体(tǐ)运(yùn)行(xíng)安(ān)全测(cè)试(shì)标(biāo)准(zhǔn)。

　　据(jù)介(jiè)绍(shào)，该(gāi)标(biāo)准(zhǔn)针(zhēn)对(duì)智(zhì)能(néng)体(tǐ)跨(kuà)越(yuè)“语(yǔ)言(yán)墙(qiáng)”所(suǒ)带(dài)来(lái)的(de)“行(xíng)为(wèi)”风(fēng)险(xiǎn)，首(shǒu)次(cì)将(jiāng)输(shū)入(rù)输(shū)出(chū)、大(dà)模(mó)型(xíng)、RAG、记(jì)忆(yì)和工具五个关键链路与运行环境对应起来，构建了全链路风险分析框架；同时，细分了智能体风险类型，完善并创新提出了模型检测、网络通信分析和工具模糊测试等测试方法，弥补了智能体安全测试技术标准的空白。

　    从蚂蚁技术获悉，该标准不仅提供了一套可行可靠的智能体安全基准，也为全球 AI 智能体生态的安全、可信和可持续发展增加了有益的探索。目前，部分标准的测评与认证已在金融、医疗等领域落地应用。

　　此前，WDTA 已发布 3 项 AI STR 标准，包括“生成式人工智能应用安全测试标准”,“大语言模型安全测试方法”和“大模型供应链安全要求”，由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同参与。

————THE END