AIで本物そっくりの偽動画が簡単に作成できる懸念

1 ::2019/08/18(日) 09:40:24.82 ID:Xm4w+ZFM0●.net ?2BP(3112)

AIで本物そっくりの偽動画が簡単に作成できる懸念

人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】

 AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。

 だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。

 同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。

 ◇経営者の声で「振込先が変更になった」

 サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。

 報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。

 「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。

 ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。

https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all

227 ::2019/08/20(火) 16:05:45.52 ID:mqHqhlnM0.net

御託はいいからめちゃめちゃ抜けるモノを作ってくれたらそれでいい
他に何も望まない

49 ::2019/08/18(日) 10:00:15.16 ID:V9cMrCww0.net

オレオレ詐欺にも引っかかりそうな奴らだな

89 ::2019/08/18(日) 10:32:38.91 ID:0g2bbODK0.net

AIすげーと言ってるだけで一向に参考動画があがってこないわな
今騒がれてるAIって本当に人工知能と呼べる代物なん?

181 ::2019/08/18(日) 14:11:03.99 ID:nEWZVI420.net

>>175
北野のぞみそのままに見えるんですが……w

23 ::2019/08/18(日) 09:49:35.51 ID:ic5r/YD80.net

>>19
黒乳首愛好家「なぜだ!」

86 ::2019/08/18(日) 10:29:28.13 ID:Q3K1k/dy0.net

刑罰重くするだけで終わるのにしないのはなんでだろうね
悪意を持って行う犯罪は一律死刑でいいだろ更正の余地なんかねーよ

60 ::2019/08/18(日) 10:10:55.23 ID:vCFc1vkf0.net

82 ::2019/08/18(日) 10:25:10.40 ID:2boKO1Ok0.net

逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな

218 ::2019/08/19(月) 08:49:48.88 ID:nefGWTns0.net

マトリックスの世界ができれば、人間は
つらくて厳しいリアルの世界をやめて
自分に都合のいい世界で楽しく生きられる。

192 ::2019/08/18(日) 16:23:21.53 ID:Hqce1fRH0.net

● ●
超人気声優がこんなわけなかったよな

190 ::2019/08/18(日) 16:15:17.03 ID:3RjWw+eD0.net

加藤あいもこれで誤魔化せるな!

169 ::2019/08/18(日) 13:03:40.85 ID:4aCNMSfO0.net

>>92
誰かわからん

206 ::2019/08/18(日) 22:12:00.66 ID:80AEwsZm0.net

同じ学校の好きな子とかの動画作りたい

212 ::2019/08/19(月) 02:34:31.74 ID:GbN/uXBq0.net

>>210
あれ力技なんだろうけど
クオリティ高かったな

187 ::2019/08/18(日) 15:22:38.95 ID:mPeqSZT70.net

>>183
天才

72 ::2019/08/18(日) 10:17:46.64 ID:caAhnRF80.net

この技術をAIと呼ぶことって正しいの?
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ

95 ::2019/08/18(日) 10:41:53.76 ID:ENJHpNpO0.net

deepfakeのスレがν速に立ってい外国人のアイコラ作家が晒されていたけどその途端に
お前らが乗り込んで日本語でクレクレ荒らしたもんで困惑した発言のあと個人サイトが閉鎖されてたぞ

64 ::2019/08/18(日) 10:13:25.84 ID:DLNbBkTd0.net

死んだ映画俳優とか復活しそうw
声はヴォーカロイド化しとけばいいし

128 ::2019/08/18(日) 11:09:47.01 ID:nEWZVI420.net

>>75
>>77
もう作られてるけどクオリティ低い

125 ::2019/08/18(日) 11:08:15.08 ID:gU8K2e8G0.net

参考動画なし

201 ::2019/08/18(日) 19:19:10.36 ID:ihkuKS7p0.net

>>149
今でも知能の定義が曖昧なんでしょ?
人工知能のプログラムができた→こんなプログラムは知能じゃない
の繰り返し

148 ::2019/08/18(日) 11:56:29.95 ID:FBwdHaqq0.net

185 ::2019/08/18(日) 14:31:10.67 ID:8M1gBPDf0.net

二次元美少女も自然な感じに合成出来る時代も来ますか?

144 ::2019/08/18(日) 11:51:06.08 ID:woNlAGB80.net

133 ::2019/08/18(日) 11:16:37.66 ID:6L6bPPhM0.net

みんな誰のフェイクポルノが見たい?

164 ::2019/08/18(日) 12:47:58.43 ID:iUYBrXQJ0.net

偽物のアイちゃんが作られる

8 ::2019/08/18(日) 09:42:51.20 ID:pHbJWign0.net

モザイク破壊動画ってどうなってんの?

126 ::2019/08/18(日) 11:08:40.52 ID:tYJYDfu80.net

>>92
永野芽郁?あんましそそられないけど……

197 ::2019/08/18(日) 19:06:01.60 ID:0DAVpFO70.net

凄いけど相当なファンでもないと
だからどうしたって感じだな。
誰かを騙るよりブスを綺麗にして
誰でもAV女優になれる事の方が凄い。

115 ::2019/08/18(日) 10:55:28.40 ID:t5QWtL9o0.net

>>92
誰のそっくりさん?ブルゾンちえみ?

230 ::2019/08/20(火) 19:11:45.35 ID:w/d1g/Aj0.net

よくできてるけど脳の作用なのかそっくりさんに見える

129 ::2019/08/18(日) 11:10:09.34 ID:IskaVDWa0.net

AIがつくったエロ動画はお前らにやるよ
俺は本人もらうからさ

9 ::2019/08/18(日) 09:42:59.93 ID:CBTSJ85W0.net

本物そっくりのニセ児童ポルノなら被害者がいないから問題無いよな
そんな事件が日本であったような気もするが

199 ::2019/08/18(日) 19:17:53.93 ID:oL6fg54s0.net

>>26
たくさんあるんですけど

132 ::2019/08/18(日) 11:16:07.04 ID:N2Jci75T0.net

これからは動画の端っこにフェイク判定AIによる信頼性判定数値出るようになるかもな。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。

196 ::2019/08/18(日) 18:57:49.93 ID:u9XNCH7+0.net

>>98
AIによって作成されたアルゴリズムだから
アルゴリズムも発展しているといえばしている

165 ::2019/08/18(日) 12:54:05.13 ID:VYnsaOpu0.net

芸能人じゃなくて知り合いで作った方が興奮すると思う

170 ::2019/08/18(日) 13:05:47.52 ID:Rz6CeEec0.net

今のところ何かを咥えたり液体かかったりすると乱れるから、大事な動画を撮る時はアイスをべちゃべちゃにして食べて映ればいい

219 ::2019/08/19(月) 08:59:57.34 ID:escI23eE0.net

>>210
いま、どこで観られる?

73 ::2019/08/18(日) 10:18:29.75 ID:7EjeDic60.net

お願いです!ムスコが自由研究のネタに困ってるんです!動画見せてください

216 ::2019/08/19(月) 06:35:05.68 ID:vrVeX8ei0.net

>>210
海辺のやつ?

90 ::2019/08/18(日) 10:35:20.86 ID:tIfplRxt0.net

>>87
まさかあれが現実になるとは

183 ::2019/08/18(日) 14:23:18.01 ID:6EYdVflZ0.net

AVの顔だけ有名人
身体だけ12歳とかに変更するAI

21 ::2019/08/18(日) 09:47:38.01 ID:SkcOk+b30.net

三上悠亜ええで

131 ::2019/08/18(日) 11:13:01.34 ID:fSZp4G590.net

2〜3年前に将来はフェイクポルノが氾濫するという記事を視たが予想より早くその状況になったな
エロが関わると普及のスピードが段違い

228 ::2019/08/20(火) 17:09:55.95 ID:RvOO9Dko0.net

>>224
誰?有名人?
やっぱ現実社会で惚れてる奴の顔で作るのが一番いいね

102 ::2019/08/18(日) 10:46:37.34 ID:2boKO1Ok0.net

通信による契約は一切無効

対面して血判の書面を保管しあう時代へ

198 ::2019/08/18(日) 19:06:32.54 ID:kBWsPUue0.net

アイコラAVが何だって(´・ω・`)?

152 ::2019/08/18(日) 12:04:15.03 ID:7/Lm0yvt0.net

>>149
おまえdeep learningの仕組み知らないじゃんw

177 ::2019/08/18(日) 14:02:25.95 ID:o7cM1Jy20.net

>>175
いや誰だよ

178 ::2019/08/18(日) 14:02:43.35 ID:dBZrkrm10.net

AIで二次元キャラを自動生成します!って動画見たらただのモーフィングだった

223 ::2019/08/20(火) 15:07:48.35 ID:4CiUd6d/0.net

>>108
もっと未来を楽しめよ

6 ::2019/08/18(日) 09:42:23.97 ID:FT6sUr5U0.net

広瀬すずと広瀬アリスが本気でプロレスしてる動画を

221 ::2019/08/20(火) 11:49:45.78 ID:RvOO9Dko0.net

>>220
ガッキーの見させてください!

226 ::2019/08/20(火) 15:26:56.44 ID:TUf2hVu50.net

お前らの場合はエロ目的にしか使わんだろうからキモいだけで危険はなさそうだが

119 ::2019/08/18(日) 11:00:29.57 ID:1hymPxxT0.net

なんかソックリさんのAV観てる感じしかしないけど、こういうエロに転用できる技術ってのはものすごい勢いで発展するんだよな

211 ::2019/08/19(月) 02:31:58.84 ID:EvlqRnWZ0.net

人権のない国が勝つ

68 ::2019/08/18(日) 10:14:47.44 ID:pf5TIzuz0.net

ロリ物作成AIの開発まだー?

118 ::2019/08/18(日) 11:00:11.70 ID:Cuy+bZIQ0.net

これがホントのAIコラなのか

191 ::2019/08/18(日) 16:21:59.91 ID:Obp+vZY70.net

(蘊蓄はいいから文字列貼れよ)

147 ::2019/08/18(日) 11:52:01.02 ID:F2+hQm4s0.net

音声に関してもその人の喋り方の癖と音質学習させたら
死んだ声優の再現も可能になりそう

3 ::2019/08/18(日) 09:41:06.51 ID:tLPPMl0Z0.net

AVかと思った

11 ::2019/08/18(日) 09:43:26.80 ID:rVD33IUk0.net

>>1
でも大げさに言うわりにクオリティは低いからな。

179 ::2019/08/18(日) 14:04:59.77 ID:iOKFlfRu0.net

そもそも3DCG技術が上がればフェイクする必要もない気がするんだが
AIが作る精巧なコラ動画とリアルCG動画どっちが先に見分けがつかないレベルに達するかね?
前者は実質違法だし、後者も肖像権という法律の壁が立ちふさがるけど

33 ::2019/08/18(日) 09:53:47.73 ID:KYnrMpyq0.net

電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う

215 ::2019/08/19(月) 03:38:14.45 ID:2hQfoRHE0.net

AVで本物そっくりの偽動画と空目して
パイパニックとかを連想した

31 ::2019/08/18(日) 09:53:10.30 ID:QtrVVXiG0.net

本物は黒乳首だからAIが作った偽物のピンク乳首なんか簡単に見抜けるわ

81 ::2019/08/18(日) 10:24:57.88 ID:++7wbkqu0.net

BBAはいらん
ロリやショタのガチエロはよ

59 ::2019/08/18(日) 10:10:24.03 ID:xhBge9lq0.net

>>55
……もう芸能人要らなくね?

194 ::2019/08/18(日) 17:01:11.24 ID:KfNrTtzo0.net

脆弱性のある女のスカートでパンツを隠されているとどうしても見たくなるのとモザイクは一緒

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です