【AI取代人類】憂AI發展太快？　馬斯克、蘋果聯合創始人等千人簽公開信　呼籲暫停大型AI實驗

AI領域為未來科技發展重點方向之一，但同時也為人類帶來潛在危機。近日生命未來研究所（Future of Life）發布《暫停大型人工智能實驗》的公開信，呼籲所有人工智能實驗室立即暫停較GPT-4更強大的人工智能系統的訓練至少6個月，公開信更獲千名科技界名人及AI專家簽署。

有份簽署人士包括Tesla創辦人馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI 創始人Emad Mostaque、圖靈獎得主Yoshua Bengio等。據指，OpenAI CEO Sam Altman也曾出現在公開信上，但目前已經消失。

AI系統可能對社會和文明構成潛在風險

公開信指，與人類競爭的AI系統可能以經濟和政治衝擊的形式對社會和文明構成潛在風險，呼籲開發人員就治理和監管機構、決策者合作。

公開信指，在暫停的6個月內，人工智能實驗室和獨立專家應共同製定和實施一套先進的共享安全協議，來規範人工智能設計和開發。協議完成後，應該由獨立的外部專家進行嚴格的的審查和監督。這些協議應該確保遵守協議的系統的安全性。

信中形容，只有在人類確信影響是正面且風險可控時才能放手開發強大的AI系統。

相關文章：

【AI取代人類】高盛：AI或可取代約3億個職位、邊個行業最易被取締？　香港是全球最容易受AI影響的地方

【微軟訪問】微軟香港開放企業級GPT功能　逾8成客戶積極考慮使用AI方案

【AI大戰】Google正式加入AI聊天機器人大戰　Bard在英、美展開公測

【ET財智Talk】經濟循環中如何尋找機遇？ 利達黃耀宗分析債務危機下攻守兼備的投資策略