微軟宣布正式發(fā)布其Azure AI Content Safety，這是一項新服務(wù)，可幫助用戶跨應(yīng)用程序和服務(wù)檢測和篩選有害的人工智能和用戶生成的內(nèi)容。

　　該服務(wù)包括文本和圖像檢測，并識別微軟“冒犯性、危險或不受歡迎的”術(shù)語的內(nèi)容。

　　“通過關(guān)注內(nèi)容安全，我們可以創(chuàng)建一個更安全的數(shù)字環(huán)境，促進負責(zé)任地使用人工智能，并保護個人和整個社會的福祉，”Azure 異常檢測器產(chǎn)品經(jīng)理 Louise Han 在宣布推出的博客文章中寫道。Azure AI 內(nèi)容安全能夠處理各種內(nèi)容類別、語言和威脅，以審核文本和視覺內(nèi)容。它還提供使用人工智能算法掃描，分析和調(diào)節(jié)視覺內(nèi)容的圖像功能，確保微軟所說的360度全面安全措施。

　　公司部署生成式人工智能的領(lǐng)域

　　該服務(wù)還配備了跨多種語言審核內(nèi)容的功能，并使用嚴重性指標，該指標以 0 到 7 的等級指示特定內(nèi)容的嚴重性。

　　0-1 級的內(nèi)容被視為安全且適合所有受眾，而表達偏見、評判或固執(zhí)己見的觀點的內(nèi)容則分為 2-3 級或低級。

　　中等嚴重性內(nèi)容分為 4-5 級，包含攻擊性、侮辱性、嘲弄性、恐嚇性語言或針對身份群體的露骨攻擊，而高嚴重性內(nèi)容的分級為 6-7。

　　Azure AI 內(nèi)容安全還使用多類別篩選來識別和分類多個關(guān)鍵域中的有害內(nèi)容，包括仇恨、暴力、自殘和性內(nèi)容。

　　“[當(dāng)涉及到在線安全時]，考慮的不僅僅是人為生成的內(nèi)容至關(guān)重要，尤其是在人工智能生成的內(nèi)容變得普遍的情況下，”含寫道。“確保人工智能生成的輸出中的準確性、可靠性和不存在有害或不適當(dāng)?shù)牟牧现陵P(guān)重要。內(nèi)容安全不僅可以保護用戶免受錯誤信息和潛在傷害，還可以維護道德標準并建立對人工智能技術(shù)的信任。