人工知能は、私たちのコミュニケーション、情報へのアクセス、仕事の仕方、さらには所得や地位の分配の仕方、さらには戦争の方法さえも再構築しつつある。しかし、世間一般の話題は、AI研究所間の競争や、テクノロジーの能力に関する抽象的な議論に焦点が絞られたままだ。AIがどのような目的を果たすべきなのか、現在の私たちの考え方や制度、管理メカニズムが、人間の福祉を幅広く向上させる方向に技術を導くことができるのか、といった問いはほとんど誰もしていない。それゆえ、ローマ教皇レオが、AIの現在の軌跡を人間の尊厳に対する重大な脅威であるとする初の回勅によって、この問題に重きを置いたのは新鮮だった。技術によってもたらされる結果は、運命ではなく選択の問題であると長年主張してきた経済学者として、私は彼の介入を歓迎する。レオは、「テクノロジーは、それを考案し、資金を調達し、規制し、使用する人々の特性を帯びるため、決して中立的なものではない」と指摘する点で、多くの論者に先んじている。しかし、最も重要な問題については、彼でさえも十分に踏み込んでいないのではないかと私は心配している：AIは何をするために設計されるべきなのか？サイモン・ジョンソンと私が著書『権力と進歩』で強調しているように：サイモン・ジョンソンと私が著書『Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity（権力と進歩：テクノロジーと繁栄をめぐる私たちの千年にわたる闘争）』で強調しているように、AIのようなテクノロジーが取り得る道は複数あり、それぞれが社会に甚大な影響を及ぼす。例えば、教皇が戦争や法執行におけるAIの現在の軌跡に疑問を呈するのは正しい。ほんの数年前まではタブー視されていた、AIによる大規模な監視やアルゴリズムによる殺害対象の選定は、今や日常的なものとなっている。シリコンバレーの多くの人々が、新たな軍事-アルゴリズム複合体によってハードパワーを強化するよう米国に促している中、レオは、”人間の顔を見ずに攻撃を容易にする技術は、紛争の道徳的閾値を下げる “と警告している。そして教皇は、”AIの武装解除 “を呼びかけ、”AIを「武力」競争というメンタリティから解放する。技術的進歩は必ずしも道徳的進歩ではない。技術的に実現可能だからといって、それが人類にとって良いものであるとは限らない。ある技術が望ましいかどうかは、誰がその技術を支配するか、そして彼らを導くイデオロギーと利害によって決まる。レオは、私が最も差し迫ったリスクと考えるもの、すなわち「AIは平凡な仕事を代行することで生産性の向上を約束する一方で、働く人たちとともに働くように機械を設計するのではなく、機械のスピードや要求に適応することを労働者に強いることが多い」ことをほのめかしている。しかし教皇は、一般的なAIの設計思想に疑問を呈するに止まっている。AI業界全体のアプローチは、人間の能力を模倣し、人間のタスクを自動化することを中心に据えている。この哲学は、機械の知能と人間の知能は基本的に似ているという誤った前提の上に成り立っている。人間は「一発勝負」の学習者である。いくつかの例から仮説を立て、頭の中で可能性をシミュレーションし、試行錯誤の社会的プロセスを通じて理解を深めていく。それゆえ、子どもはいくつかの単語を模倣し、一般化し、他の人の反応に基づいて自分の話し方を調整することで言語を学ぶ。私たちは大量の情報を吸収したり、構造化されていないデータから関連するパターンを探し出したりすることは苦手だ。AIのようなテクノロジーが進む道は複数あり、それぞれが社会に甚大な影響を及ぼす。ダロン・アセモグル対照的に、AIモデルは膨大なトレーニングセットで成長し、大規模なパターン認識に優れているが、真の創造性はまだ発揮できていない。実世界での体現の経験もなく、物理的・社会的世界との相互作用を通じて試行錯誤的に学習する能力もない（特定の領域で強化学習に明確な報酬がある場合を除く）。2つのものが異なる場合、一方を使って他方を模倣すべきではないし、通常はできない。結果は最適ではない。1990年代にシカゴ・ブルズの伝説的コーチだったフィル・ジャクソンが、マイケル・ジョーダンにスコッティ・ピッペンやデニス・ロッドマンがやっていることをすべて真似するように押し付けていたとしたら、とんでもない間違いだっただろう。チームが優勝から優勝へと駆け上がったのは、まさにこれらの選手たちが協力し合い、互いのスキルを補い合ったからだ。同じことがAIと人間のスキルにも当てはまる。AIを使って人間ができないことをさせ、人間ができることを拡大させることは、模倣よりも生産的である。AIが人間の能力を代替するのではなく、むしろ向上させるような未来のシナリオでは、電気技師はAIの診断に助けられ、看護師は症状を解釈する際にAIに相談し、教師は生徒一人ひとりに合わせた指導を行うためにAIを使うかもしれない。楽観主義者や業界関係者は、再分配政策が追いつけば、自動化優先のAIはすべての人に利益をもたらすと答えるかもしれない。しかし、この議論には実績がない。40年にわたるデジタルオートメーションは、すでに上層部に利益を集中させ、中間技能労働を空洞化させ、期待はずれの生産性上昇をもたらした。さらに強力なオートメーションが、さらに集中した産業によって展開され、違った結末を迎えると期待する理由はほとんどない。そして、世界的なリスクは米国よりもさらに大きい。開発途上国の何十億という人々にとって、まともな仕事が貧困から抜け出す唯一の確実な道であり、自動化中心のAIアジェンダは災いのもとである。私たちは別のデザインを求めることができるし、そうしなければならない。おそらく今日のAI業界の最大の失敗は、このようなことを一切認識しようとしないことだ。このテクノロジーを世界に解き放つ一握りの人々は、（人類に対する）支配のイデオロギーと、機械は人間よりも一様に優れているという確信に導かれている。レオがモラルを明確にし、社会全体で真剣に議論することを求めるのは正しい。支配的なプラットフォームに対する独占禁止法上の措置、人間を補完するAIへの公共投資、監視や自律兵器の規制、そしてこれらのシステムが依存するデータに関する労働者や市民の有意義な権利などだ。レオの介入によって、そのような対応が以前よりも少し可能になった。しかし、我々も人類のために立ち上がらなければならない。– 2024年のノーベル経済学賞受賞者でマサチューセッツ工科大学（MIT）経済学研究所教授のダロン・アセモグルは、サイモン・ジョンソンとの共著『Power and Progress：Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity』（PublicAffairs、2023年）の共著者である。©Project Syndicate