9月3日，北京人工智能安全與治理實驗室在中關村科技園門頭溝園京西智谷揭牌成立。該實驗室是面向人工智能安全發(fā)展與治理的新型研發(fā)機構。實驗室致力于構建系統(tǒng)化的安全與治理體系，為人工智能的創(chuàng)新和應用提供堅實的安全保障，引領人工智能安全與治理的新趨勢。
實驗室在北京市多個委辦局的指導與支持下建立，與中國科學院自動化研究所人工智能倫理與治理中心、中國信通院人工智能研究所共建，并得到來自清華大學、北京大學等高校和科研機構研究團隊的合作支持。揭牌儀式上，實驗室主任曾毅介紹了北京人工智能安全與治理實驗室的成立背景與發(fā)展愿景。他強調實驗室是打通人工智能安全與治理前沿研究及產業(yè)自律自治、政府引導與監(jiān)管的全新探索。實驗室與共建單位發(fā)布了“人工智能安全與治理公共服務平臺”，平臺可在人工智能倫理安全政策、安全風險監(jiān)測、倫理安全評測方面提供服務。近期，實驗室正與共建單位、合作機構共同打造人工智能倫理與安全評測體系、構建安全人工智能基礎模型。
曾毅表示，我國不僅要逐步完善人工智能安全與治理相關政策體系，更要布局人工智能安全與治理各級研究機構、測評與賦能中心的建立推進前沿研究與實踐，并在此基礎上完善人工智能安全合作網絡的構建，打通政產研共建的中國人工智能安全與治理體系。據他介紹，自2023年開始，英國和美國等十余個國家相繼成立人工智能安全研究所。我國此前由學者和產業(yè)共同發(fā)起成立了人工智能安全合作網絡。2024年世界人工智能大會期間上海人工智能安全治理實驗室成立。此次北京人工智能安全與治理實驗室的成立在首都作為人工智能原始創(chuàng)新的先發(fā)地和策源地，進一步完善了我國人工智能安全與治理體系的布局。曾毅說：“實驗室不僅僅是立足北京，服務北京，更會將北京人工智能安全與治理的探索與全國各省市積極分享，共同探討與促進。并與全國的相關機構一道促進人工智能安全與治理的中國實踐，發(fā)出中國聲音，融入和貢獻于全球人工智能的穩(wěn)健發(fā)展”。