ChatGPTによるジブリ風変換で自分の写真や子供の写真を変換している人は非常に多いのですが、これはOpenAIに自分の写真や子供の写真を無償提供しているのと同じです。これは生成AIの学習に使われて自分の写真や子供の写真をディープフェイクに使われるリスクを高めることに繋がっています。
現在の生成AIは学習に使われた画像と似た画像がたまたま生成されることがありますからね。
意図しないディープフェイク画像が作られても現行法では対処は困難です。たとえ自分の子供にそっくりなディープフェイクポルノが作られたとしても現行法ではほぼお咎め無しになる可能性が高いです。だからこそ生成AIの法規制が必要なのです。