フェイクを打ち破るディープフェイク検出器の開発に向けて

無料

Facebookはディープフェイクを検出するツールの開発を目的に、およそ1000万ドルを投資し、Deepfake Detection Challenge(DFDC)を起ち上げると発表した。

この研究開発には米Microsoft社や名門大学であるマサチューセッツ工科大学(MIT)も加わるという。
ディープフェイク映像とは、AIを用いることで、そこにいない人物を登場させたり、登場人物が実際にはしていない発言や行動をしたかのように改ざんできたりする映像技術だ。

たとえば、政治家が実際には言っていない戦争をしかけるような発言をしたかのような映像も作れる。
間違った情報がSNSなどを通じてすぐに世界中に拡散する中、ディープフェイク映像を用いたフェイクニュースなどが出回るリスクが問題となっている。

DFDCが目指すのは、ディープフェイクをより適切に検出ができ、誰もが活用できるオープンソースのツールを生み出すことだ。
ディープフェイク検出チャレンジ(Deepfake Detection Challenge)がうまくいくのか世界が注目している。

 

ディープフェイクの技術が高まり、その映像がネット上にはびこることになれば、人々が騙されたり、世界に混乱をもたらしたりする虞があるうえ、オンラインメディアへの信頼が失われかねない。
誤った情報をもとに紛争や反撃が引き起こされるリスクも懸念されている。
本当の人物が実際に発言したり、行動をとったりしているのか、ディープフェイク映像による偽物なのか、即座に自動的にフラグを立てブロックする機能の登場が求められている。

Facebookによるディープフェイク検出チャレンジが成功すれば、情報の品質や安全性を確保し、メディアの真実性や信頼性も高めて、安心してネットの情報を求められる環境づくりに役立つだろう。
Facebookはアカウントを持てば、自由に投稿できるツールだけに、悪質な悪戯の投稿やフェイクニュースの拡散でしばしばトラブルが起きている。
そんな現状を重く見たFacebook自らがディープフェイク検出器に乗り出したことから、その本気度と実現可能性が期待される。

Facebookの研究チームによれば、近年のディープフェイク映像は驚くほどリアルになっているが、よく見れば矛盾する陰影が現れていたり、まつ毛が二重になったりするなど本来はあり得ない特徴が見て取れるという。
こうしたポイントなどをもとに、まずはフェイクを見破り、検出ツールを開発する土台となるディープフェイク映像集の作成からスタートする。
俳優を採用してディープフェイク映像のデータ集を作成したうえで、DFDCがディープフェイク検出ツールコンテストを開催する予定だ。
コンテスト参加者はFacebookが用意するデータセットを使って、より優れたディープフェイク検出ツールの開発ができる。
Facebookの最高技術責任者であるマイク・シュレーファーは、ユーザーをミスリードする改ざん映像を誰もが検出できるツールの開発を目指すと発言している。

参考:Facebook is Challenging Researchers to Build a Deepfakes Detector.

タイトルとURLをコピーしました