【星島都市網】人工智能會有意識嗎？目前沒有人知道，數學意識科學協會(AMCS)的三位科學家對相關問題缺乏調查研究表示擔憂。
AMCS三位領導人呼籲提供更多資金來支持意識和人工智能的研究。他們表示，法律和安全問題使理解人工智能意識變得至關重要。例如，如果人工智能發展出意識，是否應該允許人們在使用後簡單地關閉它們？
AMCS董事會成員喬納森·梅森(Jonathan Mason)是英國牛津的數學家，也是評論的作者之一，他說，最近關於人工智能安全的討論，比如備受矚目的英國人工智能安全峰會，大多沒有這種擔憂。梅森指出，美國總統拜登尋求負責任地開發人工智能技術，他的行政命令也沒有解決有意識的人工智能系統提出的問題。
梅森說：「隨着人工智能的發展，不可避免地會有其他鄰近的科學領域需要迎頭趕上。意識就是其中之一」。
另兩個評論的作者是AMCS主席萊諾爾·布盧姆(Lenore Blum)，他是賓夕法尼亞州匹茲堡卡內基梅隆大學的理論計算機科學家，以及董事會主席約翰內斯·克萊納（Johannes Kleiner），他是德國慕尼黑路德維希·馬克西米利安大學研究意識的數學家。
科學界還不知道是否存在或將永遠存在有意識的人工智能系統。梅森說，哪怕只是知道是否也將是一個挑戰，因為研究人員還沒有創造出科學驗證的方法來評估機器中的意識。
這樣的擔憂不再只是科幻小說。包括創建聊天機械人ChatGPT的OpenAI公司在內的公司正致力於開發通用人工智能，這是一種經過訓練的深度學習系統，可以執行與人類類似的各種智力任務。一些研究人員預測，這將在5到20年內實現。梅森說，即便如此，意識研究領域還是「支持不足」。他指出，據他所知，2023年還沒有一筆資助來研究這一主題。
AMCS的研究人員表示，了解什麼可以使人工智能有意識，對於評估有意識的人工智能系統對社會的影響，包括其可能的危險，是必要的。人類需要評估這些系統是否具有人類的價值觀和利益。否則，它們可能會給人們帶來風險。
AMCS的評論中提出的一些問題是法律問題，以強調意識問題的重要性：有意識的人工智能系統是否應該對故意的不當行為負責？它是否應該被賦予與人民相同的權利？該聯盟寫道，答案可能需要對法規和法律進行修改。
此外，科學家還需要教育其他人。梅森說，隨着公司設計出越來越強大的人工智能系統，公眾會懷疑這些系統是否有意識，科學家需要有足夠的知識來提供指導。
其他意識研究者對此表示贊同。位於博卡拉頓的佛羅里達大西洋大學未來思維中心主任、哲學家蘇珊·施奈德（Susan Schneider）表示，像ChatGPT這樣的聊天機械人的行為看起來非常像人類，人們有理由對此感到困惑。如果沒有科學家的深入分析，一些人可能會得出結論，認為這些系統是有意識的，而其他公眾可能會忽視甚至嘲笑對人工智能意識的擔憂。
為了減輕風險，AMCS的評論呼籲政府和私營部門資助更多關於人工智能意識的研究。推進這一領域不需要太多資金。(都市網Rick編譯，圖片來源pixabay)
(ref:https://www.nature.com/articles/d41586-023-04047-6)
