2024年1月1日 — 2023年のGPT-4のリリースと、ディープフェイクや音声クローニングといったその他の簡単に利用できる強力な人工知能（AI）ツールを受けて、AI技術の規制を求める声が高まりました。UN Newsは、国連のAIに関する諮問機関の共同議長を務めるカルメ・アルティガス氏に、AIの国際的なガバナンスの推進に関する同機関の提言について伺いました。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

カルメ・アルティガス氏は、AI分野の権威の一人として知られています。民間セクターで数年間勤務した後、2020年にスペインの初代デジタル／AI担当大臣に任命され、任期中に、スペインの国家AI戦略、国家デジタルスキル計画、デジタル権利憲章を策定しました。

アルティガス氏は、2023年10月より国連のAIに関する諮問機関の共同議長として38名のメンバーを率いて中間報告書を作成し、12月に発表しました。同報告書は、AIについて「単に課題やリスクに対処するだけでなく、誰一人取り残さない形でその可能性を活用できるようにするための、ガバナンスが強く求められている」と結論づけています。

自身の任期の最終日であった2023年12月28日、アルティガス氏は、AI技術の利用に関して世界的に合意された規制を策定する上での国連の役割や、そうした規制がなぜあらゆる人々にとってより良い未来をもたらす可能性を持つのかについて振り返りました。

カルメ・アルティガス：このAI開発の波がこれまでのものと違う点は、AI技術は人の介在なしで進化し続けられるということ、そして経済だけでなく社会や、デジタル世界における人間の役割にも影響を及ぼすということだと思います。

AI技術は、私たちの「現実の見方」に影響を及ぼしつつあり、信頼の問題を引き起こすおそれがあります。機械が書いたものか、人が書いたものか、見分けがつかなくなったらどうでしょうか。私たちはとても混乱した世界を生きることになります。

GPT-4のリリースがまさに「発見」の瞬間であり、GPT-4がもたらし得る影響の甚大さと、なぜ何らかのグローバルな規制が必要なのかを理解したのだと思います。

また、この問題を国連レベルで議論することも必要でした。というのも、それまでの議論は少数の企業や政府内だけで行われていて、それらはすべてグローバル・ノースの中だけでした。

UN News：諮問機関には、グローバル・サウスやグローバル・ノース、官民、学界から多様なメンバーが参加しています。中間報告書の提言について、どのようにして合意に至ったのですか。

カルメ・アルティガス：それは確かに難題でした。それでも、G7広島計画（広島AIプロセス）、英国でのAI安全性サミット、韓国におけるディープフェイク規制といった、いくつかのイニシアチブがすでにとられていたことで、人間の知能を超えるものとなる人工知能をどのように利用すればいいのかについては、グローバルなコンセンサスを取る必要があると一致しました。何しろ、人間の知能は、これまでのところ持続可能な開発目標（SDGs）の16%しか達成していないのですから。

国連は、これらの多様なビジョンをすべて結集する能力を持つ、世界レベルで唯一の権威ある国際機関です。メンバーたちは、世界的なAI格差を回避する、AIがあらゆる人々に恩恵をもたらすことを確保する、イノベーションを阻害したり基本的人権を危険にさらしたりしないようガバナンスを確実に効かせる、といった恩恵や機会を目標とする点において一致したのです。

UN News：2023年に、AIの第一人者たちの一部が、ガバナンスについてより広範な合意が得られるまでは、AI研究を一時休止か、場合によっては中断するよう呼びかけました。彼らは正しかったのでしょうか。

カルメ・アルティガス：イノベーションの一時休止を求めるのは、やや考えが甘いのではないでしょうか。むしろ私たちは、イノベーションや研究を加速させ、解決策を見つけられるようにすべきです。

私がよく申し上げるのは、人類の存亡に関わるリスクとは、私たち全員を殺害するロボットが引き起こす最終戦争ではないのです。人類の存亡に関わる真のリスクとは、見たり、聞いたり、読んだりするものが信じられなくなり、私たちが皆、大混乱に陥ってしまうことなのです。

また、これらのテクノロジーの持続可能性について、しっかりと責任を持つ必要があります。これらのテクノロジーは、誰が原資料や加工の能力にアクセスできるのかという観点で、最近の地政学において極めて重要な役割を果たしています。そのため、私たちが重視しようとしているテーマの一つは、誰もがデータ、コンピューターの能力、デジタルスキルにアクセスできるようにすることで、善のための均等で分散化されたAI開発を可能にするにはどうすればいいのかということです。

UN News：AIがどのように世界を良くするのか、いくつか例を教えてください。

カルメ・アルティガス：AIによって、全人類の知識が利用可能となり、すべての人々が一人ひとりに合った教育を受けられるようになるので、AIは民主主義にとってとても重要なツールだと思います。

AIは医療にも多大な影響を及ぼし、病気の予防、診断の改善、コストの削減につながるでしょう。

また、貧困の削減、気候変動への対処や、人類が限られた成果しか挙げられていないその他の課題に対処するなど、持続可能な開発目標（SDGs）を達成するためにも大いに役立つでしょう。

UN News：国連でコミュニケーションを統括しているメリッサ・フレミング国連事務次長は先日、安全保障理事会の会合で、生成AIの出現によってオンライン環境が一層悪化し、ニュースや情報源に対する人々の信頼が損なわれつつあると述べました。

あなたにとって、これは心配の種なのか、それともこの問題についてより活発な議論が行われていることが、この脅威に取り組む準備を私たちが整えているということの表れなのでしょうか。

カルメ・アルティガス：私たちが世界レベルで議論を提起したという事実は、多くの希望を与えてくれています。

報道機関には果たすべき極めて重要な役割があり、彼らは、これまで以上に必要とされているジャーナリズムの役割を取り戻さねばなりません。ニュースを検証し得る方法はさまざまにありますし、それこそが真摯な報道機関が取り組むべきことなのです。意見が異なることに問題はありませんが、フェイクニュースを売ってなりません。不確実性を生み、信頼を損なうだけだからです。

1、2年前に、このことを議論しているのが私たちの中でもごく数人だった頃は、私は心配していました。ですが、GPT-4のおかげで、AIがどれほどに普及していて、AIの利用に何らかの制限を課す必要があることを、誰もが理解するようになったのです。

＊　＊＊＊　＊

原文（English）はこちらをご覧ください。

【関連記事】
国連の新たな諮問機関、共通善のためのAIの活用を目指す（UN News 記事・日本語訳）

インタビュー：AIの専門家、アフリカの「デジタル植民地化」に警鐘（UN News 記事・日本語訳）