生成AI・ディープフェイクと児童ポルノ罪
弁護士ドットコムの取材を受けたので
https://news.yahoo.co.jp/articles/8565fed6c2d331c1449c004ced30202a335b2883
回答のメモをupしておきます。
生成AIで、実在する女子児童の写真を加工した画像を所持したなどとして、児童ポルノ規制法違反などの罪に問われた元小学校教諭、水藤翔太被告(35)の判決公判が6月4日、名古屋地裁であった。
判決要旨によれば、松本高明裁判官は、AIで加工した画像について「一般人が見れば当該女子児童の裸の姿態が撮影されたものであると誤信するに足りる精巧なもの」と述べて児童ポルノに当たると認定し、懲役3年6カ月(求刑懲役6年)を言い渡した。性的ディープフェイクを児童ポルノと認定した初の司法判断とみられる。
(名古屋地裁によれば、この判決は6月〜に確定した。)
判決要旨によると、認定した罪となるべき事実は第1から第15までの計15件に上る。被告は児童ポルノ所持のほか、担任していた女子児童のリコーダーに精液を付着させて口にくわえさせたり、給食に精液を混入させて食べさせようとしたりしたほか、教室で着替え中の女子児童計3人を3回にわたって盗撮。その動画を、同様の性的嗜好を持つ複数の教員が秘匿性の高いアプリで作成したグループトークで共有するなどしていた。
AI画像が児童ポルノに該当するかが判断されたのは、そのうちのひとつ。
被告は自己の性的好奇心を満たす目的で、2025年3月10日、インターネット上の画像編集サイトを用いて編集・加工され、「あたかも殊更に各児童(いずれも当時8歳の女児2人)の胸部及び陰部が露出された姿態を描写したものであるように認識される」静止画2点の画像データを記録した携帯電話機1台を所持した。
判決は、これが「殊更に児童の性的な部位が露出され又は強調されているものであり、かつ、性欲を興奮させ又は刺激するものを視覚により認識することができる方法により描写した」児童ポルノに該当すると判断した。
画像は、被告が参加していた教員らのグループのメンバーが、AIを利用した画像編集サイトで作成したものだった。
松本裁判官は量刑理由で、「女子児童らの裸の画像については、身体部分はAIによって描写されたものであるが、被告人が担任をしていた実在の女子児童の写真を使用し、顔貌部分やポーズは元の写真と同一であって、一般人が見れば当該女子児童の裸の姿態が撮影されたものであると誤信するに足りる精巧なものであった」と指摘。「女子児童らの性的画像が拡散、悪用される可能性がある危険な状態を作出した」と述べ、「児童の健全な心身の育成を担う教員の責務に大きく背く行為であり、極めて卑劣かつ悪質である」と非難した。
一部被害者との示談や被害弁償などの事情を考慮しても「刑の執行を猶予するのは相当でなく、被告人を実刑に処するのはやむを得ない」として、実刑を選択した。
【奥村徹先生にお尋ねしたいこと】
1)生成AIで加工した「性的ディープフェイク」を児童ポルノと認定した司法判断として、今回の判決が初めての事例と評価できるでしょうか。過去の裁判例との違いがあれば教えてください。
本件の単純所持罪の罪となるべき事実は「被告人は、自己の性的好奇心を満たす目的で、被告人方において、インターネット上の画像編集サイトを用いて編集・加工された、あたかも殊更に児童Aの胸部及び陰部が露出された姿態を描写したものであるように認識される静止画の画像データを記録した電磁的記録に係る記録媒体を内蔵した携帯電話機1台を所持し、もって衣服の全部又は一部を着けない前記各児童の姿態であって、殊更に児童の性的な部位が露出され又は強調されているものであり、かつ、性欲を興奮させ又は刺激するものを視覚により認識することができる方法により描写した前記画像データを記録した児童ポルノである前記記録媒体を所持した。」となっています。児童は実在するものの、その児童の裸の姿態は実在しない場合にも児童ポルノとされたのは初めてだと思います。
2)裁判所は「身体部分はAIによって描写されたもの」であっても、実在児童の写真を使い「一般人が誤信するに足りる精巧なもの」だとして児童ポルノと認定しました。この「精巧さ」や「一般人の誤信」を基準とする考え方をどう評価しますか。妥当な考え方といえるでしょうか。
聞くところによると、問題になったのは、普段着を児童の画像を全裸に加工したもののようです。
そのような画像が、児童ポルノ法2条3項3号の「衣服の全部又は一部を着けない児童の姿態であって、殊更に児童の性的な部位(性器等若しくはその周辺部、臀でん部又は胸部をいう。)が露出され又は強調されているもの」に該当するかの問題です。
法文上は、同号の「児童」は、同条1項に定義される「18歳未満の実在人」を意味しますので、「衣服の全部又は一部を着けない児童の姿態」というのも、「実在する児童」の「実在する(裸の)姿態」を意味することになります。他の条項を見ても、姿態をとらせて製造罪(7条4項)、ひそかに製造罪(同条5項)も児童ポルノは「実在する姿態」を記録したものであることを前提にしています。この観点からは、着衣の児童の画像にAIで加工した場合は、加工した部分は、「実在する児童」の姿態でもなく、「実在する姿態」ではないので、児童ポルノではないことになります。
また、児童ポルノ規制法2条3項の「児童の姿態」という要件との関係で、裸体部分が実在しない(AI生成)画像についても「児童の姿態を描写したもの」と評価できる法的根拠をどのように考えますか。
法文上は「児童」については実在性を要件として、「児童の姿態」については実在性を要件としないことは矛盾します。
7条4項、5項、8条の場合は「児童の姿態」は「実在する姿態」を意味すると理解されますが、1項の場合だけ実在性を要件としないことは一貫しない
第七条(児童ポルノ所持、提供等)
4前項に規定するもののほか、児童に第二条第三項各号のいずれかに掲げる姿態をとらせ、これを写真、電磁的記録に係る記録媒体その他の物に描写することにより、当該児童に係る児童ポルノを製造した者も、第二項と同様とする。
5前二項に規定するもののほか、ひそかに第二条第三項各号のいずれかに掲げる児童の姿態を写真、電磁的記録に係る記録媒体その他の物に描写することにより、当該児童に係る児童ポルノを製造した者も、第二項と同様とする。
8第六項に掲げる行為の目的で、児童ポルノを外国に輸入し、又は外国から輸出した日本国民も、同項と同様とする。
第八条(児童買春等目的人身売買等)
1 児童を児童買春における性交等の相手方とさせ又は第二条第三項各号のいずれかに掲げる児童の姿態を描写して児童ポルノを製造する目的で、当該児童を売買した者は、一年以上十年以下の拘禁刑に処する。
2前項の目的で、外国に居住する児童で略取され、誘拐され、又は売買されたものをその居住国外に移送した日本国民は、二年以上の有期拘禁刑に処する。
3前二項の罪の未遂は、罰する。
第九条(児童の年齢の知情)
児童を使用する者は、児童の年齢を知らないことを理由として、第五条、第六条、第七条第二項から第八項まで及び前条の規定による処罰を免れることができない。ただし、過失がないときは、この限りでない。
3)仮に実在する児童の写真を一切使わず、完全に架空の児童をAI生成した画像であった場合でも、同様に児童ポルノと認定される可能性はありますか。今回の判決は「実在児童の写真使用」をどの程度重視した判断だと読めるでしょうか。
4)AI加工による性的画像の所持は、本件の量刑(懲役3年6カ月)の判断にどの程度影響したと考えられますか。
5)そのほか、今回の判決が今後のAI生成画像規制や児童ポルノ事案の実務に与える影響について、ご見解をお聞かせください。
島戸純「『児童買春、児童ポルノに係る行為等の処刑及び児童の保護等に関する法律の一部を改正する法律』について」(警察学論集第57巻第8号、2004年)
p105
2 実在しない児童のポルノの問題
実在しない児童のポルノについても、その規制の安否について将来的に検討を続けることとした。
本法が児童ポルノを規制対象とするのは、それが児童を性の対象とする風潮を助長することになるのみならず、描写の対象となった児童の人権を害することによるものである。この観点から、従来から、実在しない児童を描写したポルノについては、本法第2条第3項にいう「児童ポルノ」に該当しないとされており、今回の見直しにおいても、この部分に変更はない。実在しない児童を描写した漫画その他のポルノに閲し、どのような規制が必要なのか、必要でないかについては、今後の議論に委ねている(注31)。
p112~113
注31)サイバー犯罪条約においても、実在しない児童に係るポルノに係る犯罪化条項については、成人が児童のふりをしている場合か、コンピュータ・グラフィックのように極めて写実的なものに限られているうえ、犯罪化すべき部分についても、条約上留保可能となっている。また、児童の権利条約選択議定書においても、対象となっているのは、実在する児童を描写した児童ポルノであると解される。
http://kanpou.npb.go.jp/20120704/20120704g00146/pdf/20120704g001460030.pdf
〇外務省告示第二百三十一号
日本国政府は、平成十三年十一月二十三日にブダペストで作成された「サイバー犯罪に関する条約」の受諾書を平成二十四年七月三日に欧州評議会事務局長に寄託した。
よって、同条約は、その第三十六条4の規定に従い、平成二十四年十一月一日に日本国について効力を生じる。
なお、日本国政府は、同条約の受諾書を寄託する際に、同条約の規定に基づいて次の宣言を欧州評議会事務局長に通告した。
5
第四十二条及び第九条(児童ポルノに関連する犯罪)4の規定に基づき、児童買春、児童ポルノに係る行為等の処罰及び児童の保護等に関する法律(平成十一年法律第五十二号)第七条の犯罪に該当する行為以外の行為については、第九条1d及びe並びに2b及びcの規定を適用しない権利を留保すること。
・・・
サイバー犯罪に関する条約
第九条
2 1の規定の適用上「児童ポルノ」とは、次のものを視覚的に描写するポルノをいう。
a性的にあからさまな行為を行う未成年者
b性的にあからさまな行為を行う未成年者であると外見上認められる者
c性的にあからさまな行為を行う未成年者を表現する写実的影像
3 2の規定の適用上、「未成年者」とは、十八歳未満のすべての者をいう。もっとも、締約国は、より低い年齢(十六歳を下回ってはならない。)の者のみを未成年者とすることができる。
4 締約国は、1d及びe並びに2b及びcの規定の全部又は一部を適用しない権利を留保することができる
和訳
1. 締約国は、自国の国内法により、権限なしに故意に行われる次の行為を犯罪とするため、
必要な立法その他の措置をとる。
(a) コンピュータ・システムを通じて配布するために児童ポルノを製造すること。
(b) コンピュータ・システムを通じて児童ポルノの取得を勧誘し又はその利用を可能にすること。
(c) コンピュータ・システムを通じて児童ポルノを配布し又は特定の者に送信すること。
(d) 自己又は他人のためにコンピュータ・システムを通じて児童ポルノを取得すること。
(e) コンピュータ・システム内又はコンピュータ・データ記憶媒体内に児童ポルノを保有すること。
2. 1の規定の適用上、「児童ポルノ」とは、次のものを視覚的に描写するポルノをいう。
(a) あからさまな性的なふるまいを行う未成年者
(b) あからさまな性的なふるまいを行う未成年者であるようにみえる者
(c) あからさまな性的なふるまいを行う未成年者を表現する写実的画像
3. 2の規定の適用上、「未成年者」とは、十八歳未満のすべての者をいう。ただし、締約国は、より低い年齢の者のみを未成年者とすることができるが、十六歳を下回ってはなら
ない。
4. 締約国は、1d及びe並びに2b及びcの規定の全部又は一部を適用しない権利を留保することができる。
立法のときは、
漫画、アニメーション、コンピュータを利用して作成された映像、外見上児童の姿態であると認められる児童以外の者の姿態を描写した写真等であって児童ポルノに類するもの(次項において「児童ポルノに類する漫画等」という。)
は、児童ポルノには含まれないと考えていた
https://shugiin.go.jp/internet/itdb_gian.nsf/html/gian/honbun/houan/g16905032.htm
児童買春、児童ポルノに係る行為等の処罰及び児童の保護等に関する法律の一部を改正する法律案
第一六九回
衆第三二号
附 則
(施行期日等)
第一条 この法律は、平成二十年十一月二十日から施行する。
2 この法律による改正後の第七条第一項の規定は、この法律の施行の日から一年間は、適用しない。
(検討)
第二条
政府は、漫画、アニメーション、コンピュータを利用して作成された映像、外見上児童の姿態であると認められる児童以外の者の姿態を描写した写真等であって児童ポルノに類するもの(次項において「児童ポルノに類する漫画等」という。)と児童の権利を侵害する行為との関連性に関する調査研究を推進するとともに、インターネットを利用した児童ポルノに係る情報の閲覧等を制限するための措置(次項において「インターネットによる閲覧の制限」という。)に関する技術の開発の促進について十分な配慮をするものとする。
2 児童ポルノに類する漫画等の規制及びインターネットによる閲覧の制限については、この法律の施行後三年を目途として、前項に規定する調査研究及び技術の開発の状況等を勘案しつつ検討が加えられ、その結果に基づいて必要な措置が講ぜられるものとする。
3)仮に実在する児童の写真を一切使わず、完全に架空の児童をAI生成した画像であった場合でも、同様に児童ポルノと認定される可能性はありますか。今回の判決は「実在児童の写真使用」をどの程度重視した判断だと読めるでしょうか。
架空の児童を用いた裸体画像については、検察庁は「本法が児童ポルノを規制対象とするのは、それが児童を性の対象とする風潮を助長することになるのみならず、描写の対象となった児童の人権を害することによるものである。この観点から、従来から、実在しない児童を描写したポルノについては、本法第2条第3項にいう「児童ポルノ」に該当しないとされており」と説明してサイバー犯罪に関する条約第九条の「2b性的にあからさまな行為を行う未成年者であると外見上認められる者」「2c性的にあからさまな行為を行う未成年者を表現する写実的影像」を留保していますので、(島戸純「『児童買春、児童ポルノに係る行為等の処刑及び児童の保護等に関する法律の一部を改正する法律』について」(警察学論集第57巻第8号)、現行法の児童ポルノとされることはないでしょう。
4)AI加工による性的画像の所持は、本件の量刑(懲役3年6カ月)の判断にどの程度影響したと考えられますか。
単純所持罪(7条1項)は法定刑が比較的軽い罪で、画像数も少ないので、量刑としては1~2月だと思われます。
5)そのほか、今回の判決が今後のAI生成画像規制や児童ポルノ事案の実務に与える影響について、ご見解をお聞かせください。
生成AIによる性的画像については、児童に限らない問題で、従来は、わいせつ物の罪(刑法175条)、名誉毀損罪(刑法230条)、児童ポルノ法、著作権法などで対応されてきましたが、対応しきれていません。
そこで、諸外国では新規に規制する法律が検討されて制定されているようです。
例えば韓国では「画像、動画又は音声の対象者の意思に反して映像物等を性的欲望等を誘発する形で編集、合成又は加工をした者及び性的欲望等を誘発する形で映像物等を編集、合成又は加工したもの又はその複製物等を対象者の意思に反して流布した者」が処罰されていて、対象者が児童の場合には刑が加重されるようです。(「性暴力犯罪の処罰等に関する特例法」「児童・青少年の性保護に関する法律」 外国の立法 No.302-1(2025.1))
児童ポルノ法の無理な解釈で対応するのではなく、新規の立法を検討すべきだと思います。