著名計算機科學家Yoshua Bengio最近在加拿大蒙特利爾的一個年輕領袖峰會上發表了對人工智能技術潛在負面影響的警告。
Bengio教授，現任蒙特利爾大學教授及蒙特利爾學習算法研究所所長，深耕於深度學習領域，無疑是人工智能的開創者之一。他指出，這項新興技術的發展不容忽視，尤其是在人類社會中可能產生的風險。
他提到，近期有機器具備超越人類的智慧，這即是所謂的人工通用智能（AGI）。Bengio感到憂心的是，擁有權力的人可能會希望實現讓機器取代人類的理想。他提出，智能的擁有者將會掌握更大的權力，這可能導致不穩定的地緣政治局勢及安全隱患。
Bengio表示，建立強大AI系統的成本高昂，只有少數組織和國家能負擔。這種集中化的經濟、政治及軍事權力不僅對市場產生負面影響，也可能動搖民主根基，甚至威脅全球穩定。他強調需要採取研究措施，以便及早減輕這些風險。
在談到政府的角色時，Bengio建議，當局應該制定相關法規，要求企業在開發尖端AI系統時進行登記，並對其進行監管。他指出，隨著AI的快速發展，政府需具備靈活性，可以迅速適應技術變化，制訂最新的法律法規，確保這些技術安全地發展。
在他所支持的一封公開信中，Bengio要求對於迅速進步的AI技術，科學家和政策制定者需要共同努力，確保安全性。此外，Bengio指出，未來幾年內就有可能出現不利結果，且目前尚未建立起能夠防止AI技術對人類造成危害的有效方法。
他還提到，AI的發展引發了愈來愈嚴重的錯誤信息問題，這可能會干擾政治及影響公眾意見。隨著技術的進步，未來的AI能生成更真實的數字影像、模仿聲音和視頻，其對民主程序的潛在影響不容小視。
Bengio強調，面對這些複雜的問題，我們需要更多的研究來認識人工智能的風險，並倡導社會積極行動，以確保未來的發展方向是正面的。他呼籲，大家需共同努力，關注技術的應用與政策制定，以減輕潛在危險，並促進人類和社會的進步。
