AIで捏造された画像が出回り、動画ですら審議判定の難しい時代に。/これまでの時代との判断の難しさとは
ディープ・フェイクという言葉がよく知られるようになったのはアメリカ大統領選挙のあたりからだったと記憶しているが、最近では一般人でも簡単に高性能なAIにアクセス出来るようになったこともあり、AIによる捏造画像・動画がSNSに広く出回るようになってきた。
見たものそのまま信じられない時代の到来である。
既に以下に書いたが、画像だけでなく論文や引用文献すら捏造されるケースが出てきているのを見てしまって、うーん…という感じ。
AIでフェイク遺物が造られ、偽考古学者が解説する。「有識者」の力が試される時代か？
https://55096962.seesaa.net/article/517687114.html
ただ、これまでの時代にも人力による「捏造」は多く存在した。
これまでの時代に存在した「捏造」たちと、AI時代の「捏造」の違い・特色は何なのか。それを少し考えておきたい。
●コティングリー妖精事件
写真という技術が大衆化したのは20世紀初頭、1901年のコダック製品の市場投入が契機とされる。それから15年ほど経過した1920年以降、妖精を移したとされる写真がイギリスで出回った。シャーロック・ホームズの作者、コナン・ドイルもこの写真を信じ、熱烈に支持していたとされる。有名な「コティングリー妖精事件」である。
蓋をあけてみれば、これらの妖精は姉妹が絵本から切り抜いた絵を並べて写真を撮っただけ、という、現代基準からすると捏造ですらないレベルのものだった。子供のいたずら程度のものだったのだろう。しかし、写真というのものにまだ慣れていなかった人々にとっては、この程度ですらリアリティのある「証拠」と見なされたのである。
今の、AI出たての時代も、これに近いのかもしれない。
写真を見慣れた今ではお手軽に作られた捏造写真がすぐに見抜かれるように、そのうち我々が慣れてくれば、AI製の画像や動画も、ほんとの僅かな怪しさを見抜けるようになるかもしれない。
※なお「妖精」以外にも、ネッシーのような「怪物」など、写真が大衆に出回りだした初期は、多くの怪しい「証拠」が捏造されて出回った時代でもある。
●タッシリ・ナジェールの「存在しない壁画」
お次は探検家や旅行者による捏造である。
これは、以前記事にしたことがある。タッシリ・ナジェールとは、アルジェリア南部から隣のリビアにかけて、サハラ砂漠の中に残された岩絵群で有名な地域である。先史時代の古い壁画から、ラクダやウマなど家畜が持ち込まれた時代のものまで幅広く存在し、宇宙人を思わせる「白い巨人」の壁画で有名だ。
サハラの岩絵、タッシリ・ナジェールとへンリ・ロートの探検による問題について
https://55096962.seesaa.net/article/500113552.html
アルジェリアはコロナ以降、この地域を訪れる観光客のためにビザを取りやすくしているが、この地域は現在でも海外安全情報でレベル2か3。しかも砂漠の中にあるので、4WDの車で砂漠突っ切る冒険ツアーなどでなければ行くことが出来ない、なかなか過酷な場所にある。
インターネットで他人の旅行写真や動画を簡単に見られる今でこそ、敢えて現地に行かなくてもそこに何があるのか確認することは可能になり、実際の壁画を複数ソースから検証することも可能になったが、観光ルートも確立されず、訪れる人のほとんどいなかった時代には、現地を確認できるのはほんの一握りだった。
結果、本当は現地に「存在しない」壁画をスケッチしたと称して発表したり、旅行記に書いたりしても、それが真実として広まってしまうことがあり得たのである。
これはタッシリ・ナジェール以でも、辺境やマイナー遺跡、遠方や、馴染みのない地域に対しては、よく起きていた。これらは、写真という手段が広まることによって写真なしのスケッチや文章だけの証言は一段信憑性が下げられることが多くなり、駆逐されていった捏造手法と言える。
●クノッソス宮殿に見る政治的な意図を持った復元
最後は専門家による意図的な捏造。本来あってはならないものだが、近代史の中では忘れてはいけないタイプの捏造である。
これについても、以前まとめた。現在遺跡の上に建てられているクノッソス宮殿の復元は、実は復元と言うには厳しい、「あるべき理想の姿」に捏造されたに等しい近代建築である。
クノッソス宮殿に見る過去の復元(再建)の問題点を軽くまとめてみた
https://55096962.seesaa.net/article/202004article_18.html
クノッソス宮殿以外だとイラクのバビロニア時代の遺跡なんかもそう、自国の輝かしい過去を作り出すために遺跡が利用され、遺跡の上に想像上の復元と称した近代建築が建てられるのはわりとよくある。韓国の南大門もそうだし、中国なんかだと全土に遺跡を復元した風の近代建築がある。
どれも物理的に存在する建築物なので「存在」自体は動かしようがないし、過去にそこに何かあったことも事実のだが、歴史的なリアリティは無いのだ。
ただ、そこを訪れる観光客からすれば、どこからどこまでが想像で作られた範囲なのか、勉強している人以外には見抜くことはかなり難しいだろう。
遺跡や遺物を、政治的にそうあってほしいという形に歪めること、政治的に正しいとされる解釈に従って判断することは妥当ではないが、残念ながら現在でもこの警告は徹底されていない。最近だとポリコレ解釈の考古学なんかがそうである。
一度作ってしまったものを全部壊してイチから作り直すことは難しいし、修正することさえ困難なので、個人的には、この物理を伴うタイプの捏造が一番厄介だと思っている。
***************************
というわけで、AIがあろうと無かろうと、それ以前の時代から、様々なタイプの「捏造」は存在した。世の中に広まり、一種の伝説として定着してしまったものもある。
これらの捏造とAIによる捏造の違いとは、何にも増して「量」と「速度」だろう。
AIによる画像作成は驚くべき速さで作られ、インターネット上では一瞬で世界に広まる。かつてない量と速度で偽情報がばら撒かれていくので、人の手を使って初動で止めることはほぼ不可能。さらにインターネット上で一度広まったものを消し去るのは困難なので、いったん誤情報が広まると訂正が難しいというのが厄介である。
デマの量が多いぶん一つ一つのインパクトや印象は薄い…のだが、そもそも、どれがフェイクでどれが真実なのかわからん、というのが一番困る。つまり、これからの時代で一番困るのは、粗製乱造された「大量の」捏造データをどう「スピーディーに」「現実的な労力の範囲で」仕分けるのか、という部分に尽きると思う。
資料の少ない古い時代を相手にするだけなら有効だった史料批判の手法などは使えない。
まあ、AIの速度に対抗できるのはAIなので、たぶんそのうちフェイク画像とかフェイク動画とかを見抜く系のAIも出回るんでしょうね…。(今も既に存在するが)
とはいえ、AIに頼ってそれを根拠にする専門家は恥ずかしい。自分の得意分野くらいは、自力で見抜けるようになっておかなければならない。
AIは何もないところから現実を作り出すわけではない。「学習」させた実在する世界のデータを元に、それらを合成して新たなものを作り出している。
人間は学習に数十年かけるかもしれないが、機械なら一瞬で終わる。そこの違いだけである。熟達した専門家なら、当然、学習元のデータは一通り知っている。見たこと無い資料が出てきたとか、本来はAであるはずところがBであるとか、違和感にはすぐ気づくはずだ。
実際、過去、贋作の遺物などはそうして専門家の学習データを用いて人力で看破されてきた。
AIとは結局、人手を使うと時間がかりすぎるものの「時短」や、「一瞬で大量に処理する」などの分野に向いている。
人間の頭で考えて分からないも問題を処理するためにあるのではない。人の知能は越えられない。フェイクを見抜くAIの精度が80%なら、残り20%の高度な判断や、より精度の高い判定は人間がやるべきなのである。
「専門家」とは、そのために存在する。
つまりはAIによってフェイクのハードルが下がるとともに、それに応対する専門家に求められるレベルも上がる。
絵本の妖精を信じ込んでコナン・ドイルのような名の残し方をしたくなければ、それなりに気持ちを備えておいたほうがいいだろう。(SNSとかで軽率な発言しそうな人のほうを見ながら)
見たものそのまま信じられない時代の到来である。
既に以下に書いたが、画像だけでなく論文や引用文献すら捏造されるケースが出てきているのを見てしまって、うーん…という感じ。
AIでフェイク遺物が造られ、偽考古学者が解説する。「有識者」の力が試される時代か？
https://55096962.seesaa.net/article/517687114.html
ただ、これまでの時代にも人力による「捏造」は多く存在した。
これまでの時代に存在した「捏造」たちと、AI時代の「捏造」の違い・特色は何なのか。それを少し考えておきたい。
●コティングリー妖精事件
写真という技術が大衆化したのは20世紀初頭、1901年のコダック製品の市場投入が契機とされる。それから15年ほど経過した1920年以降、妖精を移したとされる写真がイギリスで出回った。シャーロック・ホームズの作者、コナン・ドイルもこの写真を信じ、熱烈に支持していたとされる。有名な「コティングリー妖精事件」である。
蓋をあけてみれば、これらの妖精は姉妹が絵本から切り抜いた絵を並べて写真を撮っただけ、という、現代基準からすると捏造ですらないレベルのものだった。子供のいたずら程度のものだったのだろう。しかし、写真というのものにまだ慣れていなかった人々にとっては、この程度ですらリアリティのある「証拠」と見なされたのである。
今の、AI出たての時代も、これに近いのかもしれない。
写真を見慣れた今ではお手軽に作られた捏造写真がすぐに見抜かれるように、そのうち我々が慣れてくれば、AI製の画像や動画も、ほんとの僅かな怪しさを見抜けるようになるかもしれない。
※なお「妖精」以外にも、ネッシーのような「怪物」など、写真が大衆に出回りだした初期は、多くの怪しい「証拠」が捏造されて出回った時代でもある。
●タッシリ・ナジェールの「存在しない壁画」
お次は探検家や旅行者による捏造である。
これは、以前記事にしたことがある。タッシリ・ナジェールとは、アルジェリア南部から隣のリビアにかけて、サハラ砂漠の中に残された岩絵群で有名な地域である。先史時代の古い壁画から、ラクダやウマなど家畜が持ち込まれた時代のものまで幅広く存在し、宇宙人を思わせる「白い巨人」の壁画で有名だ。
サハラの岩絵、タッシリ・ナジェールとへンリ・ロートの探検による問題について
https://55096962.seesaa.net/article/500113552.html
アルジェリアはコロナ以降、この地域を訪れる観光客のためにビザを取りやすくしているが、この地域は現在でも海外安全情報でレベル2か3。しかも砂漠の中にあるので、4WDの車で砂漠突っ切る冒険ツアーなどでなければ行くことが出来ない、なかなか過酷な場所にある。
インターネットで他人の旅行写真や動画を簡単に見られる今でこそ、敢えて現地に行かなくてもそこに何があるのか確認することは可能になり、実際の壁画を複数ソースから検証することも可能になったが、観光ルートも確立されず、訪れる人のほとんどいなかった時代には、現地を確認できるのはほんの一握りだった。
結果、本当は現地に「存在しない」壁画をスケッチしたと称して発表したり、旅行記に書いたりしても、それが真実として広まってしまうことがあり得たのである。
これはタッシリ・ナジェール以でも、辺境やマイナー遺跡、遠方や、馴染みのない地域に対しては、よく起きていた。これらは、写真という手段が広まることによって写真なしのスケッチや文章だけの証言は一段信憑性が下げられることが多くなり、駆逐されていった捏造手法と言える。
●クノッソス宮殿に見る政治的な意図を持った復元
最後は専門家による意図的な捏造。本来あってはならないものだが、近代史の中では忘れてはいけないタイプの捏造である。
これについても、以前まとめた。現在遺跡の上に建てられているクノッソス宮殿の復元は、実は復元と言うには厳しい、「あるべき理想の姿」に捏造されたに等しい近代建築である。
クノッソス宮殿に見る過去の復元(再建)の問題点を軽くまとめてみた
https://55096962.seesaa.net/article/202004article_18.html
クノッソス宮殿以外だとイラクのバビロニア時代の遺跡なんかもそう、自国の輝かしい過去を作り出すために遺跡が利用され、遺跡の上に想像上の復元と称した近代建築が建てられるのはわりとよくある。韓国の南大門もそうだし、中国なんかだと全土に遺跡を復元した風の近代建築がある。
どれも物理的に存在する建築物なので「存在」自体は動かしようがないし、過去にそこに何かあったことも事実のだが、歴史的なリアリティは無いのだ。
ただ、そこを訪れる観光客からすれば、どこからどこまでが想像で作られた範囲なのか、勉強している人以外には見抜くことはかなり難しいだろう。
遺跡や遺物を、政治的にそうあってほしいという形に歪めること、政治的に正しいとされる解釈に従って判断することは妥当ではないが、残念ながら現在でもこの警告は徹底されていない。最近だとポリコレ解釈の考古学なんかがそうである。
一度作ってしまったものを全部壊してイチから作り直すことは難しいし、修正することさえ困難なので、個人的には、この物理を伴うタイプの捏造が一番厄介だと思っている。
***************************
というわけで、AIがあろうと無かろうと、それ以前の時代から、様々なタイプの「捏造」は存在した。世の中に広まり、一種の伝説として定着してしまったものもある。
これらの捏造とAIによる捏造の違いとは、何にも増して「量」と「速度」だろう。
AIによる画像作成は驚くべき速さで作られ、インターネット上では一瞬で世界に広まる。かつてない量と速度で偽情報がばら撒かれていくので、人の手を使って初動で止めることはほぼ不可能。さらにインターネット上で一度広まったものを消し去るのは困難なので、いったん誤情報が広まると訂正が難しいというのが厄介である。
デマの量が多いぶん一つ一つのインパクトや印象は薄い…のだが、そもそも、どれがフェイクでどれが真実なのかわからん、というのが一番困る。つまり、これからの時代で一番困るのは、粗製乱造された「大量の」捏造データをどう「スピーディーに」「現実的な労力の範囲で」仕分けるのか、という部分に尽きると思う。
資料の少ない古い時代を相手にするだけなら有効だった史料批判の手法などは使えない。
まあ、AIの速度に対抗できるのはAIなので、たぶんそのうちフェイク画像とかフェイク動画とかを見抜く系のAIも出回るんでしょうね…。(今も既に存在するが)
とはいえ、AIに頼ってそれを根拠にする専門家は恥ずかしい。自分の得意分野くらいは、自力で見抜けるようになっておかなければならない。
AIは何もないところから現実を作り出すわけではない。「学習」させた実在する世界のデータを元に、それらを合成して新たなものを作り出している。
人間は学習に数十年かけるかもしれないが、機械なら一瞬で終わる。そこの違いだけである。熟達した専門家なら、当然、学習元のデータは一通り知っている。見たこと無い資料が出てきたとか、本来はAであるはずところがBであるとか、違和感にはすぐ気づくはずだ。
実際、過去、贋作の遺物などはそうして専門家の学習データを用いて人力で看破されてきた。
AIとは結局、人手を使うと時間がかりすぎるものの「時短」や、「一瞬で大量に処理する」などの分野に向いている。
人間の頭で考えて分からないも問題を処理するためにあるのではない。人の知能は越えられない。フェイクを見抜くAIの精度が80%なら、残り20%の高度な判断や、より精度の高い判定は人間がやるべきなのである。
「専門家」とは、そのために存在する。
つまりはAIによってフェイクのハードルが下がるとともに、それに応対する専門家に求められるレベルも上がる。
絵本の妖精を信じ込んでコナン・ドイルのような名の残し方をしたくなければ、それなりに気持ちを備えておいたほうがいいだろう。(SNSとかで軽率な発言しそうな人のほうを見ながら)
