CNEWS匯流新聞網記者王佐銘／綜合報導
在人工智慧技術迅猛發展的背景下，全球領先的科技企業宣布共同成立「CoSAI」人工智慧安全聯盟，以提升AI技術的安全性和責任感。此次聯盟的創立標誌著人工智慧領域的一次重大進步，旨在解決AI技術所面臨的各種潛在風險。
「CoSAI」的創始成員包括Google、亞馬遜、Anthropic、Cisco、IBM、Intel、微軟、NVIDIA、OpenAI、PayPal、Wiz、Chainguard、GenLab及Cohere等業者。此舉建立在Google去年提出的人工智慧安全框架「SAIF」的基礎之上，並致力於推動人工智慧的更安全、負責的發展。
推動安全AI的核心目標
「CoSAI」將專注於改善人工智慧的潛在風險，包括防止模型被盜用或濫用，避免惡意資料影響模型訓練準確性，並防範惡意指令輸入（Prompt Injection）對模型輸出結果的影響。聯盟的工作重點包括制訂人工智慧系統軟體供應鏈的安全規範，並確保AI系統以安全可靠的軟體和資料建立。
全面規範與評估系統
聯盟計畫透過建立開源、標準化的框架與工具，幫助開發者創建更安全的人工智慧系統。同時，「CoSAI」將設置保障措施，以識別和應對各種人工智慧安全威脅。為確保系統的安全使用，聯盟還將規範如何開發AI系統，並透過評估系統幫助開發者評估其系統的安全性。
組織架構與推進
「CoSAI」將由專案管理委員會協助推進和管理專案發展。學界與業界的人工智慧專家將組成技術指導委員會，負責對聯盟工作的監督和指導。
此次「CoSAI」聯盟的成立，為全球人工智慧技術的安全發展提供了新的動力和方向，預期將對未來AI技術的應用和發展產生深遠影響。
《更多CNEWS匯流新聞網報導》
指教育局「蓋牌」幼兒園性侵案 林延鳳：蔣萬安應向社會大眾道歉
【文章轉載請註明出處】
