商傳媒｜責任編輯／綜合外電報導
總部位於美國的知名人工智慧（AI）新創公司 Anthropic，近日開發出旗下至今可能最強大的 AI 模型，然而卻決定不對外公開釋出。Anthropic 共同創辦人 Jack Clark 週四在一場訪問中，對 AI 技術的快速發展表達擔憂，呼籲各界應為此產業建立類似「煞車踏板」的機制，以防止 AI 未來失控。
Jack Clark 接受英國《新聞之夜》節目訪問時指出，目前 AI 產業就像一輛只有油門卻沒有煞車的汽車，他強調人類必須保有控制 AI 系統的能力，尤其未來這些系統將更加強大並對社會產生廣泛影響。他提到，Anthropic 旗下受歡迎的對話式人工智慧 Claude，其八成的程式碼是由系統本身撰寫而成。他預估，在兩年內 AI 有可能實現百分之百自行撰寫程式碼，這將帶來「巨大的影響」。
Jack Clark 認為，世界需要深思熟慮，並最終制定新的法規，讓大眾對這些 AI 系統抱持信心。他將當前 AI 發展的狀況與上個世紀的石油繁榮時期相比，指出當時社會最終透過制定合理的政策和監管框架，讓大眾對石油的益處充滿信心。Clark 總結，AI 產業顯然也將走向相同的局面。
儘管 Jack Clark 呼籲應對 AI 採取更謹慎的監管態度，但 Anthropic 之前曾對美國總統川普發布的一項 AI 行政命令表示歡迎，該命令對科技公司採取了相對寬鬆的指導方針。