悪用事例（AIピカソAIコスプレ機能） - ai-illust @ ウィキ | 生成AI（generativeAI）による使用例、諸問題のまとめ

画像生成AIアプリAIピカソ-AIアバターのAIコスプレ機能問題

AIピカソ-AIアバターとは
株式会社AIdeaLabから配信されている画像生成AIアプリ。一般的な画像生成AIのようにテキスト生成、画像生成機能のほかに、AIアバター生成をうたう写真加工機能も搭載している。

2023/2/28株式会社AIdeaLab代表兼AIピカソ開発者のツイッターからAIコスプレ機能をリリースしたという発表がなされる（現在削除済）

作成イメージ

作成イメージに酷似した実在コスプレイヤーの作品写真が発見される
それぞれの利用元とみられる画像

実際の利用方法
１自撮り写真を複数枚アップロードする
２コスプレしたいキャラクターをテキスト入力する
３自分と同じ顔のコスプレ写真が出力される
AIコスプレ機能利用者による投稿

サンプル画像に顔ハメしただけの合成画像である

有志による機能内部予想
１アップロードした自分の顔をDreambooth（特定テキストに強く紐づけたごく少数枚数の画像による簡易追加学習方法）で追加学習
２既存コスプレ作品に顔ハメ合成
３image to image 機能でコスプレアバターという名目の画像を出力する

問題点

• ファン活動として許容されているコスプレ活動を許諾のない第三者企業が利用料金を徴収しながら行うのは不正競争防止法に違反している可能性がある
• コスプレとして出力された体部分は別人のものであり、作成方法がディープフェイクと同じである
• 元のコスプレ画像の著作権を侵害している。依拠性が高すぎるためAIで作ったとしても著作権侵害コンテンツである
• 送信した顔写真がAIピカソ側に収集されている可能性があり、別のディープフェイク画像作成に利用される危険がある

元機能であるAIアバター自体にも同様の危険があるとみられる

3/1
AIアバター機能削除確認
https://twitter.com/nonotillustrai/status/1630682719763197952?s=20

元作品引用元
アーニャ
https://twitter.com/hakonyanya/status/1525447235583897601
ヨル
https://mobile.twitter.com/tknhn1234_tknhn/status/1525083507592404992
マキマ
https://twitter.com/kc_nemutai/status/1592866133702766593?s=20
ピッコロ
ブランド: XIAOHEIドラゴンボール コスプレ衣装 孫 悟空 ピッコロ キャラクター コスチューム ハロウィン クリスマス Cosplay イベント パーティー 変装 仮装 (ピッコロ,M)

AIピカソ利用者
https://twitter.com/juma3dcgstudio/status/1630538682477469698?s=20

AIコスプレの仕組み予想
https://twitter.com/nonotillustrai/status/1630503868122660864?s=61&t=pe-bWJ-UGTi7qiiaSbxhqg