E.Jensen 「武力紛争における『ディープフェイク』適法か?」を読む

エリック・ジェンセン教授の「「武力紛争における『ディープフェイク』適法か?」(“DEEPFAKES” AND THE LAW OF ARMED CONFLICT: ARE THEY LEGAL?)という論文がTwitterで気になったので、すこし読んでみることにしました。

この最初が、仮の例になっています。


「上官、これを見てください。上層部からこのビデオを受信しました」 司令官は通信の専門家の机に 向かって歩いて行った。 モニターに青の共和国の国防参謀長からのビデオメッセージがあった

「レッドランド軍から降伏を仲介した。 降伏を完了するために、1時間以内に前線に接近すると予想される。 降伏の一環として、我々は兵士たちに身を引かせ、敵対的な活動を控えることを約束しました。武器を下ろして(stand down)レッドランド軍を受け入れる準備をしてください」

司令部テントではすぐに歓声が上がった。彼らの部隊はレッドランド軍からの激しい攻撃を受けており、アズールの街の防御陣地から撤退せざるを得ない状況に追い込まれていた。

「それが本物であることを確認できるか?」 司令官は通信の専門家に尋ねた。

「それは本物であることを示しています。 通信手段を変えて連絡を取ろうとしましたが、通じません」と通信の専門家は答えた。

ニュースは急速に広まっていった。司令官は、兵士や避難場所から出てきた民間人が外の通りで祝杯をあげているのを聞くことができた。司令部に別の報告が入ってきた。「司令官、前哨地からの報告によると、レッドランドの大部隊がゆっくりと街に近づいてきています。我々は何をすべきか?」

数時間後、レッドランド軍が都市に入り、突然、ブルー・リパブリックの兵士に暴力的な攻撃を開始した後、ブルー・リパブリックの司令官がレッドランド軍の司令官の前に立った。彼が予想されていた降伏について怒りに満ちた質問をすると、レッドランド軍の司令官は歓喜を抑えられなかった。「ああ、国防参謀長がわれわれが降伏を発表した時の捏造ビデオのことですか?自分が見たものを全て信じてはいけない」と彼は笑って、兵士たちに合図して、青い共和国の司令官を連れて行くように指示した。


この論文では、ディープフェイクの実際の例を紹介しています。

オバマ大統領のディープフェイク(AIで進化する「フェイク動画」と、それに対抗するAIの闘いが始まった(動画あり))

ブレクジットの際のディープフェイクビデオ

武力紛争時におけるディープフェイクの利用について論じています。

武力紛争の法律で禁止されているディープフェイクの使用はほとんどありませんが、卑怯な使用(perfidious use )は違法です。民衆を恐怖に陥れたり、一定の注意義務に違反することを意図した他の使用もまた、法律に違反するでしょう。

ジュネーブ諸条約の付属議定書 37条は

背信行為により敵を殺傷し又は捕らえることは、禁止する。武力紛争の際に適用される国際法の諸規則に基づく保護を受ける権利を有するか又は保護を与える義務があると敵が信ずるように敵の信頼を誘う行為であって敵の信頼を裏切る意図をもって行われるものは、背信行為を構成する。

としています。一方「奇計(Ruses of war )」は、禁止されません。この典型的な例としては

軍の動きや軍事物資を操作するための司令官からのディープフェイクされた通信は、 単なる奇計に過ぎない。同様に、不正確な情報を含むディープフェイクされたビデオは、軍事作戦の実施に重大な影響を与える可能性がありますが、これもまた単なる奇計です。

とされています。

このような伝統的な枠組みのディープフェイクについての宛は目をみたあとに、文民に対するインパクトを見ていきます。

上記議定書57条1項は

軍事行動を行うに際しては、文民たる住民、個々の文民及び民用物に対する攻撃を差し控えるよう不断の注意を払う

とされています。また、51条2項は

文民たる住民それ自体及び個々の文民は、攻撃の対象としてはならない。文民たる住民の間に恐怖を広めることを主たる目的とする暴力行為又は暴力による威嚇は、禁止する

とされています。

上のシナリオにおいて、文民が、ディープフェイクの情報によって安全地域からでて、それが結果として、文民が捕獲されたりすれば、レッドランド国の行為は、不断の注意義務に違反することになります。国家は、武力紛争においてディープフェイクを利用するのにさいしては、武力紛争法を遵守しなければならないとされます。

解決策としては、候補として、禁止、プラットフォームフィルター、アリバイ、透かし(ウォーターマーク)、認証基盤などが考えられます。

—-

ということで、武力紛争時におけるディープフェイクの利用についての検討でした。ユス・イン・ベロの応用ということになります。その意味で、従来の議論の適用という意味になり、それほど、新規というわけではありません。