2024.07.12 · AIによる翻訳
AI画像生成とアーティストの社会的責任についての雑感
子どもの頃、社会の授業で「戦う民主主義」という大事な考え方を習った覚えがありません。少なくとも「多数決を廃止するかどうか」を多数決で決めた記憶はないです。今は義務教育に含まれているのかな。
急にこんなことを思い出したのは、最近「一枚の絵から描画過程の動画を生成できる」AIモデル、Paints-Undoが出てきたからです。しかもどんな画風でも、それらしい過程を作り出せます。
もともとAI開発者が絵を使って画像生成モデルを学習させ、画風を盗まれたことに絵師さんたちはかなり怒っていました。そこにこういう機能が出てきて、制作過程の記録で「これは自分の手で描いた」と証明するのがさらに難しくなりました。今の出力レベルでは素人を騙せる程度で、創作には何の役にも立たない。そう受け取った人も多く、台湾でも日本でも「悪意に満ちた発明」「人を騙す以外に使い道が思いつかない」といった批判が出ていて、開発者を呪う人までいます。
開発者の意図や、今後出力のレベルが彼らの基準を超えるかどうかはひとまず置いておくとして、民主主義と似たジレンマを感じました。創作者には創作の自由があるけれど、創作環境そのものが作品によって脅かされることもある、ということです。(今回のケースでは、新しい分野を切り開いた代わりに別の創作者グループが犠牲になっています。得をしている絵師さんもいるかもしれませんが、今のところは損害のほうが大きく見えます)
動画はPaints-Undoのデモから引用しました。
アーティストの社会的責任が話題になるとき、たいてい創作の機能性や、創作の自由と純粋さ、あるいは個人を創作の中心に置く立場について語られます。でも今回の絵師さんたちの反応を見て、「既存の創作環境を壊さない」ことが、これから私が気にかけることのひとつになるかもしれないと思いました。
もちろん私が技術の前提を丸ごとひっくり返すような発明をすることはありえません。ありそうなのは、海外の団体に展示に招かれたとき、つい政治的なメッセージを忍び込ませたくなる、というケースです。でもこう考えると、展示を主催する団体に迷惑をかけたり、同じ界隈の創作者を巻き込んだりしないように、政治的なメッセージを弱めてしまうかもしれません。ただ、それが自己検閲のしすぎなのかはわからないし、本当に何かを壊しているのかどうかも、長い時間をかけないと判断できません。
AIの話に戻ります。私はAI開発者ではありませんが、プログラムを書く人間として、プログラムで限りなく現実に近づきたいという欲求はよくわかるので、技術そのものは称賛しています。(ただ、この段階で公開したことについては何とも言えません)
技術に対しては中立でいたいと思っています。ダイナマイトが発明された当初も、似たようなことがあったのかなと考えました。将来は解体工事に使えると考えた人もいれば、強盗に使う人もいる。問題はいつも使う側にあります。でも、みんなが正しい使い方を知っていたとしても、手作業で橋を解体することに代わりのきかない価値がないなら、人力でしか橋を壊せない人は、新しいやり方を覚えるか転職するしかありません。
AIが創作に与える影響は、長い目で見ればやっぱり良いものだと思っています。便利な機能のことは別にしても、見ていてうんざりするような生成物が、かえって人間の創作の質を上げてくれる気がします。一見すごそうな画像や音楽が大量にあると人は疲れてしまうし、疲れた後は、特徴だけで中身のない作品はだんだん見向きもされなくなって、技法以外のものがますます重視されるようになるんじゃないかと思います。たとえば創作の意図、コンセプト、物語、それから実際に存在しているからこそ成り立つ感情のつながりなど。(でもいつかはAIのほうが私たちより人生をわかるようになるんでしょうね)
画風だけで勝負したい人にとっては、この変化はかなり残酷かもしれませんけどね。やっと誰も見たことのない画風を見つけたのに、すぐ盗まれるんじゃないかと心配しなきゃいけない。はあ。AI開発者に実際のニーズを自分から伝えていくのも、ひとつの方向かもしれません。開発者と絵師さんが敵対する関係にならないといいなと思います。