AI龍頭員工警告 人類恐失控AI系統

正當輝達創辦人兼執行長黃仁勳訪台，引發全台AI熱潮之際，AI的潛在風險也受到各界關注。由OpenAI、Google DeepMind以及Anthropic等AI龍頭公司的十多位現任及前任員工，日前連署公開信揭露AI產業內部的隱憂。他們表示，員工受制於保密協議、缺乏舉報人保護以及擔心遭到報復，導致無法公開表達對AI威脅人類的擔憂。

OpenAI在2022年向公眾推出聊天機器人ChatGPT後，引發全球轟動，目前約有1.805億用戶。然而，該公司的前員工桑德斯指出，了解最先進AI系統運作及風險的工程師，卻不能暢所欲言。除了桑德斯，OpenAI另外6名前員工、DeepMind的1名前員工和1名現任員工，以及部分匿名人士也連署這封信函。

這些AI專家在信中表示，相信AI對人類帶來好處的潛力，但也理解AI可能帶來嚴重風險，包括強化現有的不平等、操縱、不實資訊，甚至失去對AI系統的控制而造成人類滅絕等。他們認為AI公司有很強的財務動機來避免有效的監督。著名AI科學家羅素、班吉奧和辛頓也簽署這封信。辛頓離開Google後，便持續對AI危害人類的潛在方式發出警訊。有AI研究人員認為，AI技術可能會失控，變得像流行病和核戰一樣危險。

連署人要求AI公司允許員工匿名舉報問題，不要對舉報人進行報復，也不要讓他們簽署可能讓他們閉嘴的協議。他們希望AI公司更加透明並且更加重視保障措施。對此，OpenAI回應表示同意政府應該對AI科技進行監管，並為自己在建立最強大、最安全AI系統方面的優良記錄感到自豪。OpenAI強調會持續與各界合作，共同應對AI發展帶來的風險與挑戰。