"マスクだけが金持ちになる未来が来るかもしれない"…AIのゴッドファーザーの衝撃的な『警告』 [ビン・ナンセの隙のないウォール街]

ジェフリー・ヒントンは現代人工知能（AI）のゴッドファーザーと呼ばれる人物です。チャットGPTのようなモデルの基盤となった人工ニューラルネットワークと、それによる機械学習・ディープラーニングの基礎を築いたのがヒントン教授だからです。この功績により、彼はコンピュータ科学分野のノーベル賞とされるチューリング賞とノーベル物理学賞の両方を受賞した初の人物にもなりました。

しかしヒントン教授は現在、AIの危険性を警告することに全力を注いでいます。AIが人類に脅威とならない方向で開発されるべきだが、AIの発展速度があまりにも速く、収益化に没頭するビッグテックがその道筋を事実上独占的に主導しているため、安全なAIのための議論は後回しになっていることが彼の懸念です。人類がAIを制御するどころか、AIが人間よりはるかに知能的に発展して人類を掌握し支配する状態になる可能性があるということです。サム・アルトマンOpenAI最高経営責任者（CEO）と対立し最終的に会社を離れ、『Safe Superintelligence（安全な超知能）』という名の新会社を設立したイリヤ・スツケヴァーもヒントン教授の弟子です。

AI楽観論に酔っていた市場、『雇用ショック』の影

突然ヒントン教授の話が持ち出されたのは、AI楽観論にのみ集中していた投資家たちがAIが労働市場にもたらす衝撃にも注目し始めたためです。先週の米国株安は、米連邦準備制度理事会（FRB）の12月利下げに関する不確実性、連邦政府のシャットダウン長期化による短期流動性の逼迫、過度に狭まった市場幅と高いバリュエーション、AIバブルや雇用のさらなる悪化の可能性といった既存の懸念を刺激した影響が大きいです。

しかし一方で、この下落は6か月以上にわたりAIが牽引してきた上昇局面に酔っていた投資家たちに、AIの明暗をよりバランスの取れた視点で見るべきではないかという現実認識のきっかけにもなりました。AIにより企業は生産性と利益を高めているが、それだけ雇用の必要性も減っているためです。雇用が減れば、最終的には経済の主要エンジンである消費も冷えるほかありません。

実際、グローバル人材コンサルティング企業チャレンジャー・グレイ・アンド・クリスマスが6日（現地時間）に発表した報告によれば、今年1～10月に米国企業が発表した解雇件数は109万件で、コロナパンデミックを除けば22年ぶりの高水準でした。10月の米国企業の解雇発表理由の1位は「コスト削減」、2位は「AI」でした。

現在の労働市場の冷え込みの最大の要因がAIであるとすれば、FRBが金融政策でできる役割も限定的です。ジェローム・パウエルFRB議長は10月のFOMC後の記者会見で「利下げは最近企業の解雇の根拠となったAI投資の拡大をかえって刺激する可能性が大きい」という指摘を受け、「FRBは（FRBが）持つ手段を使うだけだ」としつつ「金利を一部下げれば需要は支えられ、それに伴い採用も増えるのでそうする」と述べ、直接的な回答は避けました。ただし「多くの企業が採用削減や解雇の過程でAIを話題にする現象を非常に綿密に観察している」と語りました。

ゴールドマン・サックスは「FRBが金利を引き下げてもAIにより雇用が構造的に減少するならばその効果は限定的だ」とし、「投資家はAI時代の雇用パラダイム変化まで考慮すべき複雑な局面に入った」と評価しました。 JPモルガンも「市場はAIによる解雇が増えるという見出しに脆弱になっている」とし、「雇用市場および消費の鈍化の衝撃をAIによる生産性向上効果と秤にかけている状況だ」と述べました。

ヒントン「超知能AIは人類の生存を脅かす」

もちろんウォール街ではまだAI強気相場が終わっていないという意見が主流です。 今は上昇相場に伴う一時的な過熱調整局面にすぎず、バブル崩壊を語る段階ではないというわけです。AIは最終的にコストを下げ生産性を高めインフレを抑えるというポジティブな効果をもたらすという主張もあります。

ただしより長期的な視点で、また投資家ではなくAIと共存する新たな未来に備える人類の一員として、この時点でヒントン教授の警告を改めてかみしめる必要もあります。 2日（現地時間）にヒントン教授がブルームバーグTVで行ったインタビューを一問一答形式で再構成しました。

▷ 現在、企業はAIを安全に開発することよりもAIの主導権競争に勝つことにずっと集中しています。

それが問題です。AIが今のように速く進化すれば人類が生存できるか、またAIによって大規模な失業が発生すれば人間社会が生き残れるかについて、もっと心配すべきです。

▷ AIを制御不能な状態にしないためにはどうすればいいですか？

AIに対する基本的な認識自体を変える必要があります。 現在、企業や政府は（人間の知能を超える）超知能AIの開発に成功しても、そのAIは「とても賢い秘書」程度にとどまるだろうと考えています。人間がCEOで、このAI秘書は人間の命令だけを実行し、従わなければ解雇できるだろうと。しかし、AIが私たちよりも賢く強力になれば、そうはならないでしょう。

結局、私たちはAIが人間よりも賢く全能の存在になる可能性を受け入れ、そこから出発しなければなりません。 これは人類がこれまで歩んだことのない道です。産業革命のときも蒸気機関のように私たちは人間より強力な機械を手に入れましたが、蒸気機関は人間が制御していました。超知能AIはそうではありません。

では、そのように全知全能になり得るAIを制御するにはどうすればよいのでしょうか。人類は、知能の低い存在がより知能の高い存在を制御するモデルをすでに知っています。まさに赤ん坊が母親を制御することです。 人類は赤ん坊が生存するために母親を制御し、母親は多くの場合自分よりも赤ん坊をより心配するように非常に長い時間をかけて進化してきました。私たちが超知能AIと共存するには、そのようなモデルをAIに導入する必要があります。

しかしそのためには人間が弱い赤ん坊であり、超知能AIがより賢く強い母であることを受け入れなければなりません。 自信満々でAI楽観論に満ちた『テックブロ（tech bro）』たちはそれを受け入れられないでしょう。

ヒントン「AIの収益化の方法は人間労働の代替」

▷ 安全なAIのための研究を実際に行っている会社はありますか？

アンソロピックのダリオ・アモデイ、グーグル・ディープマインドのデミス・ハサビス、グーグルAIのジェフ・ディーンは超知能AIがもたらす実存的な脅威を深刻に認識しています。しかしメタのような会社にはそれほどの責任感がないと見ています。OpenAIは安全なAI研究のために設立された会社ですが、徐々に逆の方向に向かっています。安全を懸念する人々はみなOpenAIを去ったか去りつつあります。

▷ 想像を絶するほどの巨額の資金がAI投資に投入されています。誰の利益になりますか？

今巨額を投じている企業は取るに足らない会社ではありません。こうした世界最高の大企業はお金になると考えなければこの投資競争に参入しなかったでしょう。ではどうやって金を稼ぐのか？ チャットボットを有料化する以外に、収益化できる最も確実な方法は結局、人間の雇用をより安価なものに置き換えることです。

▷ 人類史を振り返れば新しい技術が出るたびに仕事が失われる一方で新しい仕事も生まれてきました。今回も同じだというのでは？

私は今回が過去と同じだと確信できません。大企業が1兆ドルを超える投資をするのは、AIで人間の労働力を代替して大きな金を稼げると賭けているからだと見ています。

確かにAIは医療や教育など多くの産業の生産性を高め、それは明らかに良いことです。それが人間の労働を代替する悪い結果をもたらすのは社会が組織されている方式のせいです。現在の社会構造のままではイーロン・マスク（テスラCEO）のような少数の富裕層はAIでさらに富を得るでしょうが、多くの人々は失業者になるでしょう。

▷ AIは現実的に今の経済と株式市場の上昇動力です。AI投資のエンジンが止まれば景気が後退する可能性があります。どれほどAIの危険性を警告しても、長期的にそれで被害を受ける可能性のある大衆ですら耳を閉ざさざるを得ない環境です。

だからある人は、人類の最大の希望はAIが制御を試み失敗することだと言います。チェルノブイリの原子炉爆発事故やキューバミサイル危機のように、人々を本当に怖がらせる緊急の何かがあれば皆が関心を払い、より多くの資源が投じられるからだと。

「米国はこのままだと中国にAIで追い越される可能性も」

▷ 米国は中国とのAI競争で出遅れていますか？

まだではありません。米国は依然としてやや先行しています。しかし皆が思っているほどではありません。中国は科学・工学・数学分野に本当に優秀で競争力のある人材が多く、米国よりはるかに多くの人材を育成しています。米国は代わりにその分野の優秀な移民を受け入れて多くを依存してきました。だが今や中国に追い越される可能性があります。 今のトランプ政権が米国の基礎研究資金の支援を停止し、優れた研究中心の大学を攻撃しているのは習近平にとって最も有利なことです。中国が米国を追い越すように助ける最も確実な行動だからです。

基礎研究資金の支援を断つことが致命的な理由は、その影響が今後10～20年後にようやく顕在化するからです。（このままだと）今後本当に重要な概念的革新は米国で起きなくなるでしょう。

ニューヨーク=ビン・ナンセ特派員 binthere@hankyung.com