すべての薬には警告ラベルがついている。新薬が世に出る前には、何年にもわたるテストを通過しなければならない。研究者たちは、その薬が効くかどうかだけでなく、害をもたらすかどうかも調べる。規制当局は証拠を要求する。製薬会社は、人々が製品を使用する前に、その製品が合理的に安全であることを証明することが期待されている。対照的に、テクノロジーにはそのような段階的なテスト手順はない。ソーシャルメディアのプラットフォームは、何十億もの人々のコミュニケーション方法を決定することができる。スマートフォンは社会全体の日常習慣を変えることができる。人工知能システムは、教育、雇用、創造性に影響を与えることができる。しかし、これらのテクノロジーは最初に世に送り出され、後から研究されることが多い。弊害や損害が目に見えるようになって初めて、行動科学者は疑問を投げかけ始めるのだ。現在進行中のAIに対する反発は、その顕著な例を示している。アメリカの大学では、卒業する学生たちが教育現場におけるAIの存在感の高まりに公然と抗議し始めている。AIを賞賛する卒業式のスピーチは、嫉妬に満ちている。多くの学生は、テクノロジー企業がその結果を十分に理解しないまま学習を変革しようとしていると感じている。彼らの懸念は正当化されるかもしれないし、されないかもしれない。歴史が教えてくれるのは、大きな技術の進歩はすべて不安を生むということだ。しかし、社会がインフォームド・コンセントなしに巨大な実験に巻き込まれようとしているという感覚が高まっていることを反映して、この反応自体は注目に値する。インフォームド・コンセントなしに、社会が巨大な実験に巻き込まれているという感覚が高まっている。アルナブ・ニール・セングプタ同時に、スマートフォンが社会問題の数々を引き起こしていると非難されることも増えている。研究者やコメンテーターは、スマートフォンの使い過ぎが、注意力の低下、孤独感の増大、メンタルヘルスの悪化、そして国によっては出生率の低下にさえつながっていると指摘している。証拠はしばしば論争を呼び、麦と籾殻を分けるのは難しい。とはいえ、真面目な学者がこのような疑問を呈しているという事実は、注意を喚起するものである。20年近くにわたり、スマートフォンはまさに人間の延長線上にある。食卓に、教室に、職場に、そして寝室に。スマートフォンは、人々が友人と出会い、人間関係を築き、情報を消費し、自由な時間を過ごす方法に影響を与えている。しかし、人類は今になってようやく、その長期的な影響を理解し始めている。もし製薬会社が何十億という人々にある薬を紹介し、その後20年かけてそれが実際にどのような作用があるのかを解明したとしたらどうだろう。そのようなシナリオは無責任とみなされ、罰せられることさえあるだろう。しかし、テクノロジー分野でもよく似たことが起きている。これはテクノロジー企業が悪質だからではない。実際、ほとんどのイノベーションは純粋に問題を解決し、価値を生み出している。スマートフォンは、情報、ナビゲーション、コミュニケーションなど、以前の世代では想像もできなかったようなサービスへのアクセスを提供する。AIは医療、科学、教育、生産性において画期的な進歩を約束する。その恩恵は実に多様だ。しかし、残念ながらリスクもある。問題は、テクノロジー業界を動かすインセンティブにある。成功は主にスピード、規模、市場の優位性によって測られる。企業は競合他社よりも早く製品をリリースしようと競争する。投資家は急成長に報いる。規制当局は、すでに日常生活に深く浸透しているテクノロジーに追いつくのに必死で、何年も遅れてやってくることが多い。その結果、リスクテイクとイノベーションを奨励する一方で、予期せぬ結果に十分な注意を払わないシステムが生まれる。社会、特に先進国は、以前にもこの教訓を学んだことがある。工業化は莫大な繁栄をもたらしたが、同時に公害や危険な労働環境、児童労働を生み出した。自動車はモビリティを一変させたが、交通法やシートベルトなどの安全基準を必要とした。新技術は諸刃の剣としてもたらされることが多い。課題は、技術革新には利益だけでなくコストも伴うことを認識することだ。AIを例に取ろう。AIのウェブツールは目覚ましいスピードで進歩している。エッセイを書いたり、画像を生成したり、データを分析したり、以前は高度なスキルを持つ専門家が必要だった作業をこなしたりすることができる。しかも、その能力は数カ月ごとに向上している。しかし、AIへの依存の高まりが学習、創造性、批判的思考、人間関係にどのような影響を及ぼすかについて、人間はまだ驚くほどほとんど知らない。もし学生がAIを使って文章を書くことが増えたら、彼らの文章力は向上するのだろうか、それとも萎縮してしまうのだろうか？労働者がAIアシスタントに依存した場合、専門性を低下させることなく生産性は向上するのだろうか？AIコンパニオンが一般的になった場合、男女の交流や求愛、結婚にどのような影響を与えるだろうか？これらの疑問は、社会がテクノロジーに徹底的に依存するようになる前ではなく、その前に真剣に研究する価値がある。新しいからといって、すべての革新が有益なわけではない。進歩には好奇心と慎重さの両方が必要である。アルナブ・ニール・セングプタより配慮されたアプローチは、次のようなものだろう：まず、テクノロジー企業は製品を大規模にリリースする前に、独立した影響評価を行うことを期待されるべきである。大規模なインフラ・プロジェクトに環境影響調査が義務付けられているように、大規模なデジタル・テクノロジーも、社会への潜在的影響について厳格な評価を受けるべきである。第二に、規制当局は透明性に関する要件を強化すべきである。企業は、どのようなリスクを特定し、どのような調査を行い、どのような不確実性が残っているかを開示すべきである。消費者は、その技術に何ができるかだけでなく、何が起こるかも知る権利がある。第三に、政府、大学、独立研究者は、技術の社会的影響に関する長期的な研究に対して、より大きな支援を受けるべきである。現在の議論の多くは、不完全な証拠に頼っている。なぜなら、包括的な研究は、しばしば採用から大きく遅れてしまうからである。最後に、社会は、単に新しいからといって、すべての革新が有益であるとは限らないことを認識しなければならない。つまり、進歩には好奇心と慎重さが等しく必要なのだ。目標は、恐怖心を掻き立てたり、ラッダイト精神を復活させたりすることではなく、責任を生み出し、利益よりも目的を優先させることである。確かに、テクノロジーは人間の生活を数え切れないほど向上させてきた。スマートフォンやインターネット、最新のデジタルツールのない世界に戻りたいと思う人はほとんどいないだろう。AIも最終的には同じように変革的で有益なものになるかもしれない。しかし、テクノロジーの利点を認めることで、その副作用を客観的に検証することを妨げるべきではありません。新しい薬が市場に出回るとき、社会はそれが安全であるという証拠を求める。人間の幸福は、後日に委ねるにはあまりにも重要であることを理解しているからだ。同じ原則をテクノロジーにも適用すべき時が来ている。結局のところ、人間が自分の体に入るものをテストすることにこだわるのであれば、自分の心に入り、行動を形成し、ますます社会に影響を与えるものもテストすべきではないだろうか？その答えが、次のイノベーションの波が人類に真に恩恵をもたらすものになるのか、それとも手遅れになって初めて隠れたコストが発見されるものになるのかを決めるかもしれない。アルナブ・ニール・セングプタはアラブニュースのシニア・エディター。X:@arnabnsg