人工知能を備えた軍事管制センターは、人間の命令なしに自ら核兵器を発射できるだろうか?新薬の開発に使えると言っていた人工知能が、数百万人の生命を脅かす生物兵器を作り出すとしたらどうだろうか?会社の面接で私を落とした人工知能には損害賠償を請求できるだろうか?デジタル教科書が生徒たちの視線をチェックして「授業に集中していません」と判定し点数を低く付けたらどうだろうか?
生成型人工知能(AI)が恐ろしい速度で発展している。自ら考え学習して統制不可能な「フロンティアAI」の出現も遠くないという憂慮の中で、様々な国で共通の人工知能規範を作り管理しなければならないという声が高まっている。産業発展と国家安保を理由にAI開発に拍車をかけてきた国々は、規制についても主導権を握って対抗する。5月21～22日に韓国で開かれる「人工知能ソウル首脳会議」の開幕を控え緊張感が漂う理由だ。
■ 世界は「人工知能規範」の主導権争い
「人工知能ソウル首脳会議」は、昨年英国で開催された「人工知能安全性首脳会議」の後続会議だ。初日の首脳会議はオンラインで行われる。22日にはソウル市城北区の韓国科学技術研究院(KIST)で対面会議である長官セッションが開かれ、「人工知能グローバルフォーラム」も同時に開催し人工知能の安全性に対する議論を継続する。ドイツ、フランス、スペイン、シンガポールなどで長官級の出席が予定されており、オープンAI、グーグル、マイクロソフト、アントロピックなどビッグテック企業も韓国を訪れる。
英国で開かれた初の会議は、米国、中国、欧州連合を含む何と28カ国の政府が人工知能が呼び起こす危険に備えて世界的に協力しようという「ブレッチリー宣言」に署名し注目を集めた。国ごとに規制の範囲と強度をめぐって意見が異なるために、1回目はリスクに対する認識を共有し安全性認証の規範を作ろうという原論的議論に終わった。今回の首脳会議では、具体的に何をリスクと見るべきか、またどのように統制するかについて意見をまとめなければならない。
国際人工知能・倫理協会(IAAE)のチョン・チャンベ理事長は、「従来は人工知能の信頼性が問題だったとすれば、昨年末からは安全性問題が具体化し始めた」として「人工知能倫理と法制化の主導権を握ろうとする各国の競争が激しい」と話した。欧州連合(EU)は3月、強力な処罰規定を盛り込んだ人工知能法を世界で初めて通過させた。米国は昨年11月以後、相次ぐ人工知能関連「行政命令」を下している。中国は昨年、一帯一路国家を中心に技術誤用を防ぐための「グローバル人工知能ガバナンスイニシアチブ」を提案した。国連では3月、「人工知能の安全な使用に関する国際的合意を早急にまとめるべきだ」という内容の決議案を出した。
■ 「世界共通の『安全規範』、韓国も声を上げよう」
各国が先を争って「安全な人工知能規範」を提示しようとする理由は何だろうか。人工知能「ゲームの規則」を支配してこそ、自国の経済と国家安保に有利だという判断からだ。人工知能学習に必要な膨大なデータが他国の独寡占企業に占有される場合、安保上の脅威になりかねないという内心も存在する。ヨーロッパはビッグテック企業がハイリスクに分類した人工知能サービスをするためには、学習したデータセットなどを公開しなければならないという「透明性」を要求している。米国は行政命令を通じて米国企業の人工知能技術を利用する場合、外国企業も米国政府に安全性措置を取ったかを報告するよう要求し、クラウドサービスの提供者に外国顧客名簿の申告を義務付けた。
各国政府主導の下に、人工知能安全性評価検証体系を作るための「人工知能安全研究所」が続々と建てられている。米国、英国、日本、カナダ、シンガポールの5カ国が設立し、米国と英国は研究所間の相互協力を締結した。韓国政府も研究所の設立を推進している。韓国企業も長期的には安全性を要求する流れに備えなければならない。
韓国科学技術情報通信部のオム・ヨル情報通信政策官は「今後、安全な人工知能にならなければ(企業も)市場で生き残るのは難しい。信頼でき、安全な人工知能になってこそ、リスクを最小限に抑え、生き残ることができる」と最近の気流を伝えた。
韓国の立場は、処罰が重点である欧州連合よりは自律規制にやや重きを置いている。今回のソウル人工知能首脳会議は、1回目とは違って会議の名称から安全性を外した。安全性だけでなく革新、包容も盛り込むという意味だ。「技術的に厳格な安全性・透明性の規制を押し付けて、はしご外しをするのではないか」という人工知能後発走者の不満を慰め、規範主導権競争の勢いを増す次元と解説される。ソウル女子大学情報保護学科のキム・ミョンジュ教授は「受け入れ不能な規制になれば、中国などが抜けてしまった西側諸国だけの合意になりかねない」として「人工知能の使用を放棄しない、規制の適切な線を捜し出すことがカギ」と話した。すなわち、今回の首脳会議にどれだけ多くの国が参加するかも、今後の流れを予測するうえで重要だ。
2024/05/19 19:10
https://japan.hani.co.kr/arti/economy/50067.html