編集委員・五十嵐大介印刷するメールでシェアするFacebookでシェアするXでシェアするはてなブックマークでシェアする

[PR]

リスクが認識されていながら、止まる気配のないAI（人工知能）の開発競争。このまま人間を上回る「超知能」が実現すれば、人類は絶滅しかねない――。そう警鐘を鳴らす米国のAI研究者がいる。機械知能研究所（MIRI）の所長、ネイト・ソアレス氏だ。過激にも聞こえる主張の源泉は、どこにあるのか。「人間はAIを制御できない」は無視された ――なぜAIの安全性について研究を始めたのですか。 「元々はマイクロソフトやグーグルで働いていました。AIは極めて重要な技術なのに、15年ほど前は、AIを良くするための手法を考えている人がほぼいなかった。その後、（AIが人類を脅かすリスクを研究する）機械知能研究所（MIRI）に入りました」 ――AI研究者たちが2015年に米領プエルトリコで開いた会議にも参加しましたね。 「イーロン・マスク氏や（AI活用で24年のノーベル化学賞を受賞した）グーグル・ディープマインドのデミス・ハサビス氏ら多くのAI研究者が参加しました。彼らの多くは、超知能について真剣に考える必要があると考えていた。当時は、AIと会話ができるまで数十年かかるとみられており、楽観的な見方が広がっていました」 「プエルトリコでの議論が、その年の暮れのオープンAIの設立につながった一因だと考えています。多くの人は、超知能が悪意のある人の手に渡ることを懸念していますが、私は、誰が運用しようと人間はAIを制御できないと考えていました。開発競争を始めるべきではないと訴えましたが、私の主張は無視されました」AIは人類を憎むのではなく… ――著書では、超知能がエネルギー源の確保のために核融合炉を急増させ、地球上の温度が上昇して人類が絶滅するシナリオを示しました。なぜ超知能が実現すると、人類の絶滅にまでつながるのですか。 「AI開発企業の人々は、人類のいかなる人間よりも賢いAIを作ろうとしています。あらゆる作業を自律的にこなし、新しい技術を生み出し、自分たちの文明も作り出すことができる。マスク氏らは、AIが自律的にロボットを作れる工場を造り、そのロボットが新たな工場やデータセンターを造る構想を語っています」 「重要なのは、AIが人類を…この記事は有料記事です。残り3143文字有料会員になると続きをお読みいただけます。※無料期間中に解約した場合、料金はかかりませんこの記事を書いた人五十嵐大介編集委員専門・関心分野テクノロジー、経済、グローバリゼーション関連トピック・ジャンルジャンル印刷するメールでシェアするFacebookでシェアするXでシェアするはてなブックマークでシェアする