OpenAI公布防範AI災難性風險的應對準備框架

OpenAI近日公布了一份27頁的「應對準備框架」文件，詳述其如何追蹤、評估並防範其正在開發的強大人工智能技術可能帶來的「災難性風險」。

OpenAI的風險防範

這些風險包括AI模型被用於引發大規模的網路安全破壞，或協助製造生物、化學或核武器。在新的應對準備框架的檢查與平衡下，OpenAI表示公司領導層對於是否釋出新的AI模型擁有決策權，但其董事會擁有最終說話權和「逆轉決定」的權利。

OpenAI的應對準備團隊

在董事會否決可能風險的AI模型的部署之前，該公司表示它必須通過許多安全檢查。一個專門的「應對準備」團隊將領導OpenAI多管齊下的努力，以監控和緩解來自先進AI模型的潛在風險。