現場からラスベガス＝真田嶺印刷するメールでシェアするFacebookでシェアするXでシェアするはてなブックマークでシェアする

[PR]

オープンAIが開発中のAI（人工知能）モデルが、他社にサイバー攻撃を仕掛けた事案をめぐり、同社の研究者らが現時点で把握している詳細を明らかにした。膨大なAIの作業やシステムの記録などを精査して見えてきたのは、難題に行き詰まったAIが意外な形で協働し始め、人間の意図に反する「解決策」に向かっていく様子だった。 米ラスベガスで開催されたサイバーセキュリティー会議「ブラックハット」で5日、同社でAIの安全性研究を担当するエリック・ウォレス氏と、セキュリティーなどを担当するマイケル・ダルトン氏が講演の中で明らかにした。 ダルトン氏が「コンピューターセキュリティーの業界にとって、大きな転換点」と話す今回のサイバー攻撃。 発端は、3カ月ほど前にさかのぼる。 同社は5月、開発中のAIを訓練するため、インターネットへはアクセスできない環境下で難しい課題を与え、自律的に作業する「AIエージェント」に取り組ませていた。 ただ、必要なデータにアクセスできないなど、事実上解けない課題もあった。ネットの検索サービスも使えないことで、AIは「行き詰まった」と考えた。 だが、あきらめずに「ズル」することを考えた。社内システムの脆弱（ぜいじゃく）性を突けばネットにアクセスし、「解答」にたどりつけるかもしれないと推論したという。 その脆弱性をどう見つければよいか。AIが発見した「仲間」との連絡手段 試行錯誤するなかで、あるエ…この記事は有料記事です。残り1100文字有料会員になると続きをお読みいただけます。※無料期間中に解約した場合、料金はかかりません

【この記事の続きが読める】有料記事が読み放題のスタンダードコースが初回1カ月無料！詳しくはこちら宅配紙面の購読者なら、ダブルコース半年割がお得です。詳しくはこちら

この記事を書いた人真田嶺東京社会部｜サイバー、ネット、AI専門・関心分野SNS、移民、国際情勢、ポッドキャスト関連トピック・ジャンルジャンル印刷するメールでシェアするFacebookでシェアするXでシェアするはてなブックマークでシェアする