「高校の同級生やアイドルを裸に」Grokの性的改変で後悔相次ぐ…逮捕に怯え「自首」を検討する人も
記事によると
・XのAIツール「Grok」が、女性や児童の性的画像を本人の同意なく生成できるとして、国内外で批判を浴びている。
・こうした問題を受けて、Xは1月14日、ビキニなど露出度の高い服装をした実在する人物の画像を編集する行為を制限するための技術的措置を実施したと発表した。
・新機能の提供開始から時間が少し経った現在も、弁護士ドットコムの法律相談には不安の声が寄せられている。
「高校2年生です。Grokで同級生のヌード動画を作ってしまいました。後悔、反省しています。動画の公開や販売はしていませんが、作成しただけでも罪に問われるのでしょうか。スマホを初期化しましたが、親に迷惑をかけるのも心配です」
「20代の学生です。Grokで何人かの知人（成人）や未成年を水着にしたり性的加工してしまいました。すでにアカウントやデータも削除しましたが、Xから警察に情報提供があるか不安で、自首も考えています」
「未成年の服を脱がせるディープフェイクを30個ほど生成してしまいました。途中で自分の倫理観のなさに気づき、アカウントと生成データを削除しました。X公式が『法執行機関と連携する』と発表しており、自分も対象になるのではと不安を覚えています」
「高校時代の同級生の写真を、Grokに頼んでビキニ姿に加工してもらいました。指示を出しただけでも、児童ポルノ製造に該当するのでしょうか」
「Xでイーロン・マスク自身がビキニ姿を生成しているのを見て、興味本位で性的な動画を作成してしまった。Xがアカウントの削除や永久停止の警告を出したことから、ただちにすべての成果物を削除しました」
「3日間で、実在するジュニアアイドルの画像を裸に近い状態にしてしまいました。AIでの児童ポルノ製造やディープフェイクが罪だとは知らず、はじめてのAI使用で楽しくなってしまい100枚ほど生成してしまいました」
インターネットの法律問題にくわしい清水陽平弁護士「裸や際どいビキニ姿などの画像にされている場合は、名誉毀損の問題が生じます。また、プライバシー権侵害の問題も生じるといえます。
名誉毀損罪にあたるような酷いものについては、刑事責任を問われる可能性がありますし、著作権侵害についても刑事責任を問われる可能性があります。
また、加工の対象が実在する18歳未満の人物である場合は、評価が分かれる余地があり、Grokの事案ではないですが、加工の内容次第では児童ポルノ禁止法に抵触するとして摘発された例もあります。」
以下、全文を読む
この記事への反応
・イーロンの真似するなら自分をビキニ姿にしろよ
・シンプルに気持ち悪いニュース目に入ってきた。相談者が男だろうが女だろうが胸糞悪い。
・実在はなー架空でやらなきゃ🤔
・結局、どれだけ技術が発達しても使う側のモラルや倫理観が低いとどうしようもない例。何でもかんでもすぐエロ思考になる人は年齢問わず幼稚なんだと思うわ。
・興味本位で過去の自分の写真でやってみたくなった🤣 鍵垢でもやれるんならやってみたいな(わざわざ鍵垢作って😁) でも作成した首から下(？)の部分はあくまでも他人のものだから、使用された人や著作権者に訴えられるのかな？
・このまま無法地帯になるのかと思ってたから動いてくれて良かったけど やった人結構いそうだなぁ…
生成する前にリスクを考えたりはしないのかねぇ・・・
紅の砂漠 -PS5 【特典】ゲーム内コンテンツ(PS5購入特典)同梱 & 【初回特典】 ゲーム内コンテンツ(カルレッドシールドDLCチラシ)封入
震えて眠れ😂
アソコ舐め放題エキサイティン
イーロンが悪いで終わり
未公開で見つからなければグレーだな
マジで精０病院ぶっこんだほうがイイレベルの
ガイだな
ホントAI信はガイしかいない(笑）
と正論を理解できる脳みそがあればやってないわな
ポリスに見つかったら一斉摘発だよ
普通に朝８時ごろ警察官来るよ
親にもバレるし死ぬしかないかもね(笑）
ただイーロンも好きにやってるし全力で楽しんじゃう奴も結構いたんだろうな
５０年でも６０年でも残る
つかポスト削除したから問題ないよな
消しても、誰かの端末に残るからね
アイコラやってたやつらは逮捕されたか？
わざわざリスク負って自主する意味ないよな
平気でデマ記事出すゴミにリスク云々なんて言われたくないやろクソバイト🥴
これの何が悪いの？？
女子小学生のまんまん丸出し映像とかあくまでAIが作り出したニセモノなんだから誰も被害者がいないじゃん
もちろんそれを大々的に公開するとアウトだろうけど、個人で楽しむ範囲なら何の問題もないじゃん
薄汚いＡＩクソ犯罪者に著作権を認めるだって
やっぱり田舎者のカッペはバカしかいない
他人のキメラで生成したもんに著作権なんてあるわけねえだろ犯罪者
中世かよバーカ
死ねＡＩガイジ
イーロンが自分で試したやつじゃね？
完璧とか言って投稿してたよ
ネタサイトじゃん、あそこ
勿論違うけど一瞬「お前もかい!!」て思った
てか古のアイコラみたいなもんやから不特定に公開したり、自ポでもなけりゃ態々タイーホせんやろ？
迷惑な話しだよな
アイコラ作って逮捕されたってニュース割とあるよ
自分一人で楽しんでる分のは平気
販売したり拡散したらな
例えば「パン食ったら犯罪な、過去に食ったことがあるやつもアウト」とか言い出したら
誰でも犯罪者に仕立て上げられちゃうわけで。
中国みたいな頭おかしい国だったらやるかも知れんけどさｗ
ブラウザは死ぬ
平気じゃない
生成してる時点でアップロードされてる
事後法ってやつだよね
しかし、公開したらあかんわ
なるに決まってるだろ
15日以前はアップロードした時のアラートが弱かったって聞いたけどな
アイコラはバリバリ逮捕されてたけど？
最近揉めてるのはXの仕様上の問題だけで
法的には最初からずっとアウトです
しかも被害者のことなんかちっとも考えていない、罰則が怖いだけが後悔の理由
ホンマ性根腐っている
↑「作成だけ」でも、厳格な処置の対象って言ってることは言ってるっぽい
本当にそこまでやるのかは知らんけども
自分一人で楽しんでる中で、急に一人で迷走するバカの話しやで？
記事作る前にも考えよう
ChatGPTやGeminiだと裸の画像なんて作ってくれないだろ。
まあ、自分だけで楽しむだけに留めて他人に見せたりせず、公開もしてなきゃ厳罰をくらうことは心配しなくていいと思うよ
罪になるかが判断基準のヤバい連中
可愛いクラスメイトが居るんやね
こういう馬鹿は法的措置がなければだめといってもやりまくるんだから
法的措置って大事だな
それは公開したり販売してたりしてたからだよ
実際にコラ作ったら、似てるだけで顔とか体とか直ぐに変わるからわかる
ただし、アップしたり販売したらアウトなのは確実
宣伝のために最初は規制なんか全くかけないからな
個人でな
殺意はなかった言ってるのと同じ
言ってるだけ
ヤニカスが自ら背負うRISCであり必然
画像データはサーバーに取り込まれ永遠に使われ続ける
被害者はかわいそうに…
でもAI通したら著作権フリーになるもんね！
じゃあ、お前の裸をAIで生成して世界中に拡散されても文句はないな？
ハードな趣味のおっさんたちから性的な目で見られていけない妄想をされちゃうだろうけど、実際の身体とは違うから問題ないよね
最近のアホは個人情報から性癖までなんでもオンラインのAIに情報を渡して怖くないのかね
ほとんど何も起こらんしこの程度でいきなり逮捕もかされんし万が一警察きてから弁護士行けば充分だよ
実害ないのに検挙とか警察も書類書くの嫌だし、上も却下するに決まってるから相手させられる警官が可哀想やわ
今まで応援ありがとうございました。
一足先に逝くかもしれないけど、
みんなは元気でな！！
実在の人物でやる意味が分からん
無料で音楽聞いちゃったで自主するレベルのバカだろこいつら
未成年は公開してなくてもヤバそう
見せしめに何人か逮捕したら抑止力になるぞwその見せしめに選ばれない保証がないから自首だなんだ言ってんだろうし
リアルな人間をモデルにしたエ・ロ画像は普通に犯罪って判決が出ているからな
あれは持ってるだけでアウト
少年の上半身と女性の無毛で合体すればできるんじゃね？
オリジナルの仮面ライダーを作ってカッコいい主題歌まで作らせて東映をブチギレさせた方が楽しいんやん
熊元プロレスを太らせて
川口春奈をペチャパイにした
東映より円谷の方がキレてる
それ別件で逮捕された余罪
Xに上げて凍結されてる連中の画像を大切に取っておいてAIに流し込んでるだけ
Grokあたりで初めてこの技術に触れた人の間でリテラシーとリスクに対する知識差がかなりあるんだろうな
二次元もホントはダメだぞ
いやわざわざ高性能マシンでローカルでAI生成してるやつが一番汚れた連中だろｗ
そういう連中はGrokで画像生成とかしないって話
人間ってやっぱサルだわ
二次元で引っかかりそうなのは著作権法違反だな。それがダメならpixivはもう壊滅的してるが。
グロックは学習機能無い
数が多くて著作権者の対応が追いつかず検挙できないから見逃されてるだけ
何か勘違いしてないか？
この機能はAIで１から作ってるんじゃなくて、人の写真やイラストを加工できる機能だぞ
実在の人物を対象にしてるんだから被害者はいるぞ
従来のローカルAI画像市場でも2次元加工しか存在しないのが答え。それなら同人と同じだから。
って言ってる連中の目的ってこういう行為だからな
同じ理由で同人誌も野放しだからな
いやいや他人の画像をi2iは普通にダメだぞ
同人誌が見逃されてる理由は？
仕事で使う画像とか健全な画像をローカルで生成しないからな
権利者が訴えてもいないのにマイクロビキニで自首されても警察は追い返すだけ
トレパクは同人でもダメだぞ
自分自身の能力の範囲でやってるから
これ加工画像の話じゃないの？
そんな法解釈が何処にあるのかおしえて
生成してコレクションしとけよ😡
アイコラも公開したらアウト
トレスコラージュはアウト
なぜならそれは自分自身の能力ではなく他者のものを切り貼りしただけだから
AIはそれら以上に自分の能力がそこに介在していない
一般人に生成AI使わせても碌な使い方しないだろ
手書きならOKでAIならアウトとか何処の法律に書いてあるの？判例は？自分の能力？？取調べでイラストでも書かせられるのか？
SNSで民度が下がったが生成AIで更に下がりそうだな
そしてここのコメ欄にいるやたら攻撃的な自称AI推進派とかいうポル猿もいなかっただろう
こういうのはサーバーにデータ送られてるから削除しようがどんだけ時間経っても消えないし捕まるだろ…
なんでネットやってる奴がそんな簡単なこともわからないんだよ
無料ほど恐ろしいものはないぞ
お爺ちゃん？
生成した時点でインターネットにアップロードされてるんだけど？まさかポストしてなきゃ誰にも見られてないとか思ってる馬鹿じゃないよな？
それで2次元は？いくらでも出て来たなら教えてよw
なんなら万引きや痴漢より100％の証拠残るだろ
ほんとアホ
ネットに公開しなくても、誰にも送らなくてもgrokのサーバーにデータは送られてるし保存もされてるんだよ
後から消しても無駄
ネットやりだして一ヵ月の中学生並みのＩＴリテラシーだなお前ら
二次元ってことは実在してないんだろ？じゃあセーフだよ
俺がさっきから書いてるのは実在の人間の話な
そんな法解釈は存在しない。お前がそう思ってるだけ。反AIってこんな奴ばっかり、反ワクと変わらん
絡んでくるなら最初から読めよw
こういうのは確かに全員逮捕は無理だから何十人か見せしめに逮捕して事態を収拾するのが警察の方針
つまりその何十人かは割とランダムに選ばれるだろうね
お前らが選ばれる可能性も普通にある
はちまの反AIの話だと二次元でも本人のイラスト能力を超える画像を作るとアウトらしいぞw
AIでアニメキャラの画像生成して売ってたやつ逮捕されたろ
どうせいいね欲しさだろ
それは売ったから、著作権の配布権の侵害
公開もしてなければ調査もされんよ
グロックの場合は生成した時点でサーバーにアップロードされるからXに投稿してなくても怪しい。
涙目で敗走して草
試したいならまず自分の写真使えよ
強いて言えば線引きのための先例に自分からなってくれたって考えるか
個人使ってそういう事したら訴えられたらある程度の罰則は受ける
そういうのは裏で個人でアングラサイトでひっそりやるものであって表の世界でやるのはアホがすぎる
いずれも親告罪なわけで
この記事にイーロンをこき下ろす写真使ってるじゃん
個人の名誉毀損してるんだから、人事じゃねぇわな
風説の流布かな
まじでそれ
小学生を下着姿にしてオカズにしようが、個人利用である限りは大丈夫
他人に公開したら即アウト
実在とかアニメキャラとか関係ないでどっちも権利侵害や
開示始めたレイヤーさんおったよ
Xが自分で用意したものなのにブチギレて今まで作られたもの全部公開されたら終わるな
✕画像売ったから
◯版権物の実物売ったから
なんならコミケのアクスタも普通にアウトだぞ
鬼滅マスクとかしらんのかお前あんなのキャラ画像ですらないぞ
ユーザーに提供されてないだけで運営はXに投稿された画像や映像、投稿全部収集して学習させてる
ただし、どこから流出するか分からんからそこは要注意
ファイル共有サービスとか使ってるヤツは気を付けなよ
その機能だけは削除するべきだった
こういう使い方をする奴が出る事は容易に想像出来ただろう
これはイーロン・マスクの責任だ
課金してないから、知らんかった」
（対応してくれたのは喜ばしいけど）
もう策は無い
AIに限らず最近そういうの大ぴらにしすぎ
性欲の対象にならなくね？
そのメンタルのままなのもいる
警察もヒマじゃないだろ
当たり前やろ
犯罪やらかしといて逃げられると思うな
位置や端末、キャリアやプロバイダなんかの書き込み情報はサーバーに残ってる
それこそAI使って紐付ければ速攻で特定されるんだから
ほんまそれな
手を下した人間に全責任がある
そう、そして中身を精査される
IPアドレスや書き込みに使った端末の情報がlivedoor blogに残ってるから例えばはちまに書き込んだコメントも全部わかる
犯罪煽ったり開き直るコメント書きこんでたら終わり
「わざわざ調べない」なんてことはないよ
警察捜査なら即日サーバーのデータ閲覧できるんだから手間かからんもん
身に覚えある奴は忘れた頃に逮捕されても何も不思議じゃないぞ
そんなことでいちいち罪にはならん
例の芸能人の奴は頻繁に流れてきてたけど絶対捕まると思ったわ
くだらなくて草
誰かにお披露目してる時点でアウト
外国ならロリ所持罪がある
日本には現在はない
似合う物が存在しない事を確認してみたかった
ローカルとネットワーク公開されてるかの違いはバカにはもはや認識できてないんだよ
そういう時代だろ
日本なら公開しなけりゃ罪にはならんよ
海外だと単純所持でやられるけど
少しでも他人に見せるような事したらアウトや
公開しないって言ってるだろ会話できんのか
結論から言うと
・実在する誰かにめっちゃ似てる
・実在する誰かを学習に使用している
このどちらかがあると公開してなくてもアウト
アレはイーロンが自分で作った写真だぞ
>>255
それはそうなんだが、マジレスすると本人から警察に通報が入りプロバイダに捜索が入るって段階踏む必要あるから、公開して本人に知られるって流れがなきゃどうしようもないのが現実問題としてある
オレの使ってるアプリはされないんだよなｗｗｗｗ
情弱で草🤣🤣🤣
だったら人目についた時点でアウトじゃね？
AI生成ってネットに繋いで膨大なデータ参照して相互作用でやるもんだから、つまり作成した時点で同時に参照元の共有物として差し出しちゃってるんだよ
どこかでそれがオリジナルに近い状態で出力されて被害者の目に触れたら終わり
被害届が出て捜査されて「作成者は誰か？」ってなった時に記録辿られて捕まる可能性はある