ローマ教皇レオ14世の人工知能に関する回勅『Magnifica Humanitas』は、人工知能技術の根本的な性質に関する議論を加速させている。AIに良心はあるのか？AIはどのように考えるのか？その急速な進歩は何を予感させるのか？この回勅の最も挑発的な部分でレオは、AIシステムは「経験をしない」「喜びや痛みを感じない」「善悪を判断せず、状況の究極的な意味を把握せず、結果に対する責任を負わないので、道徳的な良心を持たない」と主張している。彼は続ける：「言語、行動、分析能力を模倣したり、共感や理解を模倣することはあっても、それが何を生み出すかを理解することはない。教皇の解釈に同意するかどうかは、人間とは何か、意識の本質とは何かという基本的な問いに対する答えによる。バチカン市国での回勅の発表の場で、Anthropicの共同設立者であるクリス・オラは、これらのモデルの内部構造を研究している彼の研究チームが、”内観の証拠 “と “喜び、満足、恐怖、悲しみ、不安を機能的に映し出す内部状態 “を発見したと主張した。オラはそれが何を意味するのかわからないと認めながらも、”継続的な見極めが必要だ “と推測している。では、その証拠が欲しいところだ。AIが内観を行い、人間と同じように自己イメージを形成し、感情を経験できることを証明する責任は、懐疑論者ではなく、信じる側にある。認知についてはどうだろう？レオは、AIツールは「人間の知能の特定の機能を模倣しているだけ」であり、「完全にデータ処理に結びついている」と主張する。多くの技術者は同意しない。しかし、法王がAIのデータ処理と人間の認知の違いを強調するのは正しい。ジェネレーティブAIのツールはパターン認識に優れている。それを支える統計モデルは帰納的アプローチを用い、膨大なデータセットと膨大な計算能力に依存して、AIシステムに暗黙知を植え付ける。これは人間の学習とは重要な点で異なる。私たちは、膨大な量のデータを使って頭の訓練をするわけではない。その代わりに、私たちは少数の例（多くは自分自身の経験）に基づいて理論化し、仮説を立てる。私たちは部族的であり、家族やコミュニティから学び、しばしば周囲の人々の結論を採用する。試行錯誤を繰り返す。ローマ法王は、AIがいかに人間の繁栄を損なう可能性があるかに焦点を当てている。マイケル・R・ストレインAIやその他の主要な技術的進歩を含む人類の創造的知性は、”苦しみを和らげ、新たな可能性を切り開くことのできる賜物であるが、共通善、正義、弱者への配慮、被造物への秩序を保たなければならない”。教皇は、AIが、自律的な戦争の到来、不平等の悪化、プライバシーの侵害、大量失業の原因、あるいは人間を歯車に貶めるなど、人間の繁栄をどのように損なう可能性があるかに焦点を当てている。私たちは次第に、”真の人間的なつながりを形成したいという願望そのもの “を失っていくかもしれない。確かに、リスクを認識することは慎重である。しかし、私は法王が人間の福祉を向上させるAIの巨大な可能性についてもっと時間を割いてほしかった。これらのツールは、医薬品の技術革新を加速させ、特に発展途上国における医療と教育の質とアクセシビリティを向上させ、雇用を創出し、生活水準を向上させることができる。実際、私は、AIがバランスよく人間の繁栄を大幅に向上させることを期待している。私はまた、レオがもっと市場を信頼し、政府を信頼しないことを望む。彼は、AIがワーキングプアの所得を増加させる可能性が高いことを認識する代わりに、政策立案者がAIによる不平等にどのように対抗できるのか、また民間企業が市場シェアを獲得するためにこのツールをどのように利用するのかを懸念しているようだ。レオは、「産業政策」を含む「公平性を確保するための措置」を求めているが、それは富と権力の集中を減らすと確信しているようだ。結局のところ、こうした意見の相違は、レオの最初の回勅の道徳的・知的基盤よりも重要ではない。技術の進歩に魅了された世界において、教皇は各人が本来持っている計り知れない尊厳の優位性を強調している。そして、AIの勝者を選ぶ熱狂や、AIが人類を凌駕するかもしれないという誇大広告の中で、レオは私たちに共通善を守るよう求め、私たちの弱さと弱さを受け入れるよう挑戦している。彼は言う：「人類は限界にもかかわらず繁栄するのではなく、しばしば限界を通して繁栄することを忘れてはならない。Magnifica Humanitas』でレオは、AIの驚異と恐怖から、人間性の素晴らしさへと関心を移そうとしている。テクノロジーが注目されている今、このメッセージは必要であり、歓迎すべきものだ。AIのツールは素晴らしい。しかし、人間の壮大さに比べれば些細なものだ。アメリカン・エンタープライズ研究所の経済政策研究ディレクターであるマイケル・R・ストレインは、最近では『The American Dream Is Not Dead (But Populism Could Kill It)』（テンプルトン・プレス、2020年）の著者である。©Project Syndicate