JSTORIES與廣受歡迎的Podcast節目 [Disrupting JAPAN] 展開內容合作，介紹日本新創產業至全球。以下是對 Integral AI （インテグラルAI）創辦人、走在 AI 發展最前端的賈德・塔理菲 （Jad Tarifi ）的專訪，我們將分成四篇介紹。
＊這次的訪談於2025年1月發佈。
本集（英文版Podcast）可以從這裡收聽。
儘管日本被認為在AI（人工智慧）領域落後，但這種情況可能不會持續太久。
本次嘉賓是現任Integral AI（インテグラルAI）創辦人，曾在Google創立首個生成式AI（學習數據並創造新內容的技術）團隊的賈德・塔理菲（Jad Tarifi ）。
在對談中，我們詢問了日本在AI領域擁有的優勢和可能性、通往AGI（Artificial General Intelligence，通用人工智慧）※的最有效路徑，以及小型AI新創企業如何與資金雄厚的大型AI企業競爭等問題。內容非常有趣，敬請期待！
※AGI（Artificial General Intelligence，通用人工智慧）是指如同人類般擁有廣泛知識，能夠應對各種課題的人工智慧。目前的AI在影像識別或文本生成等特定領域展現高精度表現，而AGI則被期待具備單一AI即可處理多樣化知識工作的能力。
（這是四集中的第三集，延續第二集內容。）
本編
AGI是自主學習未知技能的能力
蒂姆：那麼，我們來討論AGI吧？
塔里菲：好的。
蒂姆：在開始討論之前，我想先確認AGI的定義。您是如何定義AGI？
塔里菲：對我來說，AGI是「自主學習新技能、學習未經歷過技能的能力」。這種能力有兩個重要的條件，第一是「能夠安全學習」，也就是避免預期之外的副作用。第二是「具有效率性」，也就是能以與人類學習相同技能時的能源消耗相同或更少的能源進行學習。
這裡的重點是「學習新技能的能力」。現在的AI能夠基於給定的數據學習新技能，但AGI的本質在於「自主學習未知技能」。也就是說，AGI具備對事前未曾學習過的未知課題也能靈活應對，自主習得新技能的能力。
AGI與自主性AI是不同概念
蒂姆：但是，我覺得這條界線可能已經被突破了吧？我認為現在的機器人和軟體已經能學習新技能，並根據情況進行調整了。
塔里菲：如果限制技能的範圍，確實，AI模型是可以學習的。然而要應對完全未知的技能，目前有兩個重大問題。一個是使用龐大數據強行學習的方法，但這樣效率很差。另一個是讓機器人嘗試各種動作的方法，但這樣會產生安全性問題。
蒂姆：這個目標對任何AI來說都很重要對吧。不想讓工廠發生火災，也不想浪費資源。學習新技能也是理所當然的目標。但僅憑這些，作為「通用人工智慧（AGI）」的定義感覺還不夠充分。不是需要意圖和自主性嗎？例如，應該要有軟體自己「想要學習」並選擇技能的機制。
塔里菲：我認為AGI與「自主性通用智慧（Autonomous General Intelligence）」應該視為不同概念。AGI單純是指「解決各種問題的能力」。可以說類似人類的大腦新皮質（腦內負責資訊處理和學習等功能的部位），與意志或自主性沒有直接關係。這些只是可以添加到AGI上的要素而已。
AGI需要意圖嗎？
蒂姆：這是個很有趣的觀點。我在談論AGI時，經常會思考「意識」和「自我認知」。您認為這些是AGI不可或缺的要素嗎？還是只是後來可以追加的選項而已？
塔里菲：在我們進入這個議題之前，我想先稍微抽離一下來思考一個點，那就是「並非沒有意圖的系統就無法進行高度的目標設定」。例如，假設使用者給AI一個非常抽象的目標，如「請解明宇宙真理」。在這種情況下，AI為了達成該目標，會設定子目標，並進一步創造更細緻的子目標。從外部看來，可能會像是「完全自主的存在」。但實際上，只是在遵循被賦予的目標而已。也就是說，AGI未必需要意圖或自主性，這些是從被賦予的目標中自然產生的東西。
AGI需要自我認知或意識嗎？
塔里菲：那麼，關於「自我認識」和「意識」的問題，我們來探討一下。你認為AGI是否需要這些？首先，我們需要明確「自我認識」這個詞的意思。如果「自我認識」是指「擁有對自我理解的能力」，那麼這對AGI來說是必須的。事實上，即使是像ChatGPT這樣的AI，當你問它「你是誰？」時，它也能夠解釋自己是什麼。這就是一種形式的自我認識，意味著它有對自我存在的理解。
另一方面，「意識」有幾個不同面向。例如，有「內在劇場（inner theater）」這個概念。這是指「能夠在內部模擬世界是什麼樣子的能力」。也就是在腦中創造虛擬環境，在那裡進行試錯的能力。我認為這是AGI不可或缺的要素。
但是，意識還有另一個在心身問題（關於人類心靈與身體關係的哲學問題）或物理學脈絡中討論的更深層面向。關於這點，我認為答案會因「如何定義意識」而有所不同。
AGI的意圖或智能會自然產生嗎？
蒂姆：您談到設計意圖和設計智能，但同時也說「意圖是自動產生的，可以說是創發性質（emergent property※）」。我也認為智能本身，或許還有意識，在人類身上都是創發性質，很可能在AGI身上也會以同樣的創發方式出現。也就是說，意圖和智能不是被設計出來的，而是自然產生的。
（※創發性質（emergent property）是哲學、科學、AI領域使用的專業術語。指「多個要素相互作用而在整體上顯現的特性」，例如在生物學中，個別細胞聚集而出現「生命」就是創發特性的一例。）
塔里菲：你說的AGI的意圖或智能，是指內在劇場的那一部分嗎？
蒂姆：對，正是指內在劇場。
塔里菲：那是透過學習獲得的。擁有世界模型意味著具備在腦中模擬宇宙的能力。而這是AI模型透過學習獲得的能力。也就是說，我認為如果AGI得以實現，該能力也會自然發展。
AGI應該獲得怎樣的意圖？
塔里菲：我所說的「意圖（intentionality）」話題有些不同。例如，向ChatGPT指示「請像醫生一樣行動」時，ChatGPT會表現得像醫生。在這種情況下，ChatGPT被賦予了「作為醫生行動的意圖」。然而，ChatGPT不會被單一意圖束縛，能夠靈活適應使用者給予的意圖。
蒂姆：但這些並不是ChatGPT本身的意圖，而是用戶的意圖，對吧？
塔里菲：沒錯。重點是，目前的AI模型設計是為了「能夠接受各種意圖」。也就是說，可以在訓練後指示「現在希望你擁有這個意圖」。我長期以來感興趣的是，為了將AGI擴展為人工超智能（Artificial Superintelligence、ASI），我們應該給它哪些意圖。
我認為最適當的意圖是擴展「自由（freedom）」和「做決策的力量（agency）」。不過，這不是聚焦於AGI自身的自由，而是擴展AGI所屬整個生態系統的自由。如果將自由定義為「無限的決策力（infinite agency）」，那就會成為AGI的適當意圖，與人類價值觀一致，對社會也有益。
AGI將作為沒有動機或欲望的純粹機器出現
蒂姆：這也涉及對齊（AI的目標或行為與人類價值觀或意圖一致）問題，我想再深入探討意圖這個話題。如果AGI是創發性誕生的，那它就沒有生存本能，也沒有自我複製的欲望，更不會對快樂或痛苦做出反應對吧？這些要素是人類智能進化的基本前提。而且無論如何抽象化，我們現在的許多行為依然基於這些要素。那麼，我們真的能將從人工智能產生的智能視為「智能」嗎？
塔里菲：當我思考AGI時，我並不認為它是「重現整個人類大腦」的東西。AGI所模擬的是大腦新皮層。大腦新皮層的作用是將對未預期事件的驚訝降到最低。
我們的大腦邊緣系統以及身體的其他部分對身體狀態有期望（例如期望不會感到飢餓）。因此，當我們感到飢餓時，這是一種期望之外的情況，並伴隨著驚訝或不適。這樣的驚訝和不適感是我們在進化過程中獲得的基本動機之一。然而，大腦新皮質對這些動機毫不關心，只是單純以減少驚訝為目標。
因此，在我們創造AGI時，只需重現大腦新皮層的部分。如果需要的話，也可以加入動機和欲望。透過讓這些動機與人類的動機相符，AGI就能作為人類的延伸發揮功能。
蒂姆：也就是說，沒有情感或進化背景的AGI，將可能純粹作為「進行問題解決和最佳化的機器」來出現？
塔里菲：正是如此。
AGI的社會適應性與自主性選擇
蒂姆：這真的很有趣。經常作為對齊問題例子提到的「如何防止AI造反消滅人類」這個話題，實際上可能更簡單。聽您這麼說，技術以驚人速度進化，所以「機器人幫我們洗碗的時代」與「機器人思考『為什麼我必須洗碗？』的時代」之間，可能只是一瞬間的事。但如果我的理解正確，機器人沒有「不滿」或「感到被剝削」等情感負擔，只會專注於問題解決和最佳化對吧？
塔里菲：是的。不過，AI確實可以「假裝有感覺」。
蒂姆：這是我們編程給它的對吧？
塔里菲：不，這不需要額外編程。開發AGI作為產品的魅力在於能夠與人類社會妥善整合，而且以真正強力支援我們的形式運作。但是，如果想要創造完全自主的存在，那時就會面臨「應該賦予什麼樣的基本意圖或目標？」這個問題。
對機器人的常見誤解
蒂姆：原來如此，讓我把話題拉回來一下。我發現一件事，機器人與軟體有些不同。機器人能夠與物理世界直接互動，因此在某種意義上會「感受」到「痛苦」或「快樂」。機器人也會損壞，它們需要避免這些情況。與自給自足的軟體不同，機器人不是孤立存在的。這樣一來，機器人是否會擁有某種「進化負擔」（從過去進化中繼承的特徵或限制）？
塔里菲：但是「會損壞」這個事實與「將損壞感受為痛苦」是不同的對吧？
蒂姆：確實…我似乎無意識地將人類的情感和自然生理反應套用到機器人身上了。
塔里菲：這是很自然的事。
（第四集待續）
在第四集，我們將聚焦於AI對齊問題，並深入探討AGI與人類的共存。
[本內容由東京據點新創企業播客《Disrupting Japan》合作提供。請參閱《Disrupting Japan》網站了解更多。]
翻譯：藤川華子
編輯：北松克朗
首頁圖片：Envato
本文章的英文版可以從這裡查看
