さすがに創作、芸能活動をしてない人や、顔出しで活動してないからディープフェイクの被害にあうリスクが少ない人とかもコレに関しては危機感を持って欲しいやつ。

個人情報保護法とは何だったのか。
第三者に個人情報全般を提供するのに同意無しってありえないでしょ。 https://t.co/uyiQE9s9Ib December 12, 2025

ちなみに自分は反反AIだと思われているでしょうが、生成AIは一部規制、というより制度化する必要があると思っていますよ。

生成AIの問題、それはディープフェイクを安価かつ短時間で大量生産できることです。もちろんディープフェイク自体は昔からありました。
二次創作だって「他人のイメージを本人の関与なく加工・改変して流通させる」という意味では、言ってしまえばその一環ですよ。
しかし生成AIは生産性が段違いなんですよね。

ですから「法を遵守したコンテンツであること」をブランド化することで、信頼性を保証できる制度設計がいいのではないかと考えています。

例えば電子書籍では、ABJマークと呼ばれるものがあります。これは「正規版の電子書籍・電子出版物を配信するサービスが掲示する登録商標」で、【一般社団法人 電子出版制作・流通協議会】がホワイトリスト方式で管理しています。
ABJマークは企業・団体向けの制度であるため手作業での申請が必要ですが、例えばインボイス制度のように政府機関が間に入ることでDB管理はできるんじゃないかと思います。

あるいは、C2PAとブロックチェーンを組み合わせることでコンテンツの来歴を第三者が確認できる状態にすればいいのではないかと思います。
これは実際研究開発が進んでおり、2025年6月2日に「C2PA適合性プログラム（C2PA Conformance Program）」が発表されています＜https://t.co/6ztcP3Fi1g＞。

ただいずれにしろ、認証のための開発を各企業が負担できるかということ、その制度を運用するにあたって業界が足並みを揃えられるかということ、そしてそれを個人に適用するには誰がどう運用するのかを考えないといけないという問題が残っていますね。

こういうことを議論したいのですが、反AIはただ「生成AIが気に入らないから滅ぼすべき」なので、まずスタートラインに立って欲しいんですよね。外野からヤジを飛ばすのではなく。 December 12, 2025

これの引用元の大丈夫かとか言ってる画像のやつ、ディープフェイクAI使用の前科者だしまともに応対するだけ無駄だと思うんですよにゃ……(´・ω・) https://t.co/5Q7icuAZr7 December 12, 2025

「女子児童2人の画像をもとに生成」と書いてあるの読めないのかな。

この件に限らず一般にディープフェイクポルノって実在の人物を使って生成されるもので（でなければフィクションであってフェイクではない）、被害者は厳然と実在しますよ https://t.co/DzvgpRFtwb December 12, 2025

子どもの性的画像の所持や製造は同法で規制されているが、判例上は「実在する子ども」の被害を想定しており、ディープフェイクへの適用は困難とされてきた。県警は性的画像の顔から被害児童を特定できたことなどから、児童ポルノに該当すると判断した。

わいせつ物の規制に詳しい神奈川大の上田正基准教授は「生成ＡＩによって作成された性的画像を児童ポルノと判断したのは、現実の姿態を描写している必要があるという児童買春・児童ポルノ禁止法適用の前提に挑戦する判断だ。実在する児童の画像の一部が使われ、生成ＡＩで性的に描かれることを防ぐことに資する」と評価する。

一方で、「創作物」との境目があいまいになる恐れがあると指摘。「元画像と生成画像の顔が同一であることを条件とするなど、同法の適用範囲を限定する必要がある」としている。

読売 December 12, 2025

台湾はディープフェイク法規制して、ちゃんと被害減ってるんだよな。

生成AIシンパが言う「一度世に出た物は止められない」「規制は効果ない」「規制=イノベーションの阻害」って話は、好き勝手出来なくなるから止めて、くらいの意味しかない。 December 12, 2025

弁護士としてさすがにおかしいと思う！
児童が存在しないディープフェイク画像を、現実の児童ポルノと同列に扱って起訴まで踏み込むのは、法の支配としてバランスを欠いていないか。
実在児童の撮影・虐待・流通に対する厳罰は当然だし、今回の起訴された人物は児童の盗撮画像の共有まで行っていたらしい以上、そこは徹底して処罰されるべき。そこには明確に被害者がいて、人格権も身体も侵害されている。
ただ、合成画像には、刑法が本来想定する「被害者」が存在しない。存在しないものにまで「被害者」を擬似的に設定してしまえば、刑罰は事実ではなく社会の「嫌悪感」で罰を与える仕組みに変わる。
それが許されるのなら、「気持ち悪いから」「危険っぽいから」という理由で、いくらでも予防名目の刑罰が拡張されてしまう。
「将来犯罪につながるかもしれない」「社会に害があるかもしれない」という抽象論だけで刑罰を広げるのは危険だと思う。恣意的な罰則を生みやすく、刑事法の根本である罪刑法定主義を簡単に壊す。

規制は必要だとしても、刑罰だけが選択肢ではない。まずはプラットフォーム側への強制的な規制だろう。それをせずに、いきなり刑罰でねじ伏せようとするのは怠慢とまで言える気がする。
児童を守るという目的に異論はない。しかし、実在しないものにまで刑罰を適用し始めれば、法は子どもを守るための武器ではなく、「嫌悪感で罰を与える装置」になってしまうと思う。守るべきは実在する子ども
なんだよ。
皆さんはどう思う？

全国で初めて「ディープフェイクポルノ」所持に児童ポルノ禁止法違反を適用し元教師を起訴　名地検(メ〜テレ（名古屋テレビ）)
#Yahooニュース
https://t.co/RHjypwcLkP December 12, 2025

⑤政策発信力を高める
SNSなども含め、発信力では他党に負けていると感じます。デマや陰謀論、ディープフェイクが横行し、情報を信用できなくなっている時代だからこそ、人を騙すことなく“愛“のある誠実な情報発信に努め、れいわの政策を正しく広めるための仕組みを作ります！ https://t.co/DBO6rYJKSC December 12, 2025

@makotonoai2027 @Booskachan_Ver2 サラッとしか報道せずに忘れられて行く事で
結局アレは嘘だった様な印象を持つ人もいる
私もギクシャクした安倍晋三の映像を見て
一瞬ディープフェイクかなぁと少し思ってました December 12, 2025

有名人だけでなく、学校や職場で好みの子の写真使って性的ディープフェイク作って自慢げに周りに拡散している奴らなんて既に大量にいるんだよ。

これ放置しておくと「みんなポルノ女優、ポルノ男優」になってしまう社会になる。

特に、実在しないポルノでも、生成した画像が明らかに万人が見て児童ポルノにしか見えないものは、さらに罪重くしてバンバン起訴して良いと思うんだけどねえ🧐

性的ディープフェイク所持で元教諭を追起訴。性的ディープフェイク処罰はどこまで進むか。海外との違いは？ #エキスパートトピ（伊藤和子） https://t.co/S8PYvoNUIh December 12, 2025

TikTok、X、Facebook、YouTubeには、本物の医師を装ったAI生成ディープフェイク動画が何百本も投稿されており、サプリメントの販売や健康に関する誤情報の拡散に利用されています。
Full Factの調査によると、これらの動画は実在の医師の映像を使い、画像と音声を改変して「Wellness Nest」という米国のサプリ会社の商品を勧めるように偽装しています。プロバイオティクスやヒマラヤ産シラジットなどが宣伝されていました。

判明したこと

小児健康の専門家である デイビッド・テイラー＝ロビンソン教授は、TikTok上で自分の姿が「更年期サプリ」を勧める動画に改ざんされているのを発見しました（彼はその分野の専門家ではありません）。
映像の元は、2017年のワクチン講演と2025年の子どもの貧困に関する議会証言でした。
TikTokが動画を削除したのは、彼が抗議してから6週間後。

Full Factはほかにも、ダンカン・セルビー氏、ティム・スペクター教授、故マイケル・モズリー博士を偽装したディープフェイクを発見。
Wellness Nestは「動画は当社とは100%無関係」と主張しています。

所感（My Take）

SNS上で医師や専門家が特定の商品を勧める動画を見たら、まず“偽物”だと思うべきです。
ディープフェイク技術は非常に精巧になっており、多くの人が「医師が本当に勧めている」と誤解してサプリを購入しています。

TikTokは一部の動画はガイドライン違反だと認めたものの、同じ人物を偽装した動画の一部は問題ないと判断していました。そして削除までに6週間もかかっています。
Wellness Nestは無関係だと言うものの、動画はすべて同社のサイトへ誘導していました。

健康に関する助言をSNS動画で見た場合、特に商品購入につながるものは、必ず元の発言や公式ソースを確認することが重要です。 December 12, 2025

【年末年始にお薦めの雑誌②】年末年始は雑誌をまとめ読みするチャンスかもしれません。雑誌「Law＆Technology」で取り上げている最近のテーマはコチラです。 #ディープフェイク #知財ネット #情報セキュリティ
https://t.co/M4GhoUiSum December 12, 2025

こう読んじゃうだよなあ

最高裁は、令和２年1月27日決定で、実在する１８歳未満の者の衣服をつけない姿態を撮影した写真をCGとして再現・補完し販売した事案につきCGを児童ポルノと認めて有罪としました。この前例に鑑みれば、実在する子どものディープフェイクに関しては、児童ポルノ法違反で有罪としうる可能性が見込まれます。
性的ディープフェイク所持で元教諭を追起訴。性的ディープフェイク処罰はどこまで進むか。海外との違いは？ #エキスパートトピ(伊藤和子)
#Yahooニュース
https://t.co/uLoy0SDLAA December 12, 2025

[スキャムにご注意！！]
‘XRPLJapann’(nが一つ多い)から、DMが届いたとの報告をいただきました。
XRPL Japanからは基本DMいたしません！
ウォレット作成か、どこかにアクセスさせて秘密鍵を抜くタイプの詐欺だと思いますので、DMは無視してください🙇‍♀️

クリプト界隈は巧妙な手口の詐欺が多いのでお気をつけください🙏
ディープフェイクを利用した詐欺も横行してますので、変なリンクはクリックしない、秘密鍵はウェブサイトに入力しないなど対策をお願いします🥲 December 12, 2025

あの、何かを見たわけじゃないんだけど...
お顔載せてるリスナーさん本当に気をつけてね...生成AIで顔使われて変なビデオとか作られないようにほんと気をつけてね....
ディープフェイクの被害とかほんとあるからね....
おじさんは可愛い若い子ちゃんたちが心配だよ.... December 12, 2025

ディープフェイクとか真実や公式情報かわからない形の投稿はほんとやめてほしい。しっかり迷惑だよ。もっとAI生成ってうまく付き合えるはずのものなのに、ルール決まる前にあつかいやすさから広まってしまって無法地帯なのが失敗だったなとおもう December 12, 2025

AIが激烈に発達したおかげで、SNSで赤ちゃんと動物の動画を全く見なくなった。
ありがとう、ディープフェイク。 December 12, 2025

沢口靖子さんの絶対零度視聴してて感じた事。AIとかディープフェイクが発達しすぎてるから、ドラマの内容がリアルすぎて怖いんよね💦 December 12, 2025

性的ディープフェイクという「もの」の所持を裁くのは難しいよね。「実在の人物と知りつつ、その性的ディープフェイクだと認識して取得・購入」は禁じるべきだけど。 December 12, 2025

ほ〜ん。
この流れで、ポルノ漫画も規制してほしい感はある。

性的ディープフェイク所持で元教諭を追起訴。性的ディープフェイク処罰はどこまで進むか。海外との違いは？ #エキスパートトピ(伊藤和子)
#Yahooニュース
https://t.co/4phlC9qhPQ December 12, 2025