「ジェネラティブ」という説明の限界
これまで私は、ジェネラティブという言葉を使って、自分の制作の一部を説明してきました。
完成した映像を再生するのではなく、その場で映像が生まれる仕組みを作ります。音楽を一本の時間軸に固定するのではなく、身体や環境からの入力によって変化する関係を作ります。最終的な形をすべて決定するのではなく、ルール、変数、制約、相互作用を記述します。
私にとって重要だったのは、作品を直接作ることから、作品が生まれる条件を作ることへの移行でした。
ただし、これは私自身がジェネラティブな制作に入っていった経路であって、ジェネラティブアート全体の起源ではありません。Philip Galanterが論じたように、その中心にあるのは特定の技術ではなく、一定の自律性を持つシステムに制作の一部を委ねることです。[1]
だから、ジェネラティブアートが技術的にも思想的にも解決済みになった、と言い切るつもりはありません。
私が限界を感じているのは、もっと限定されたことです。
生成されるという事実だけでは、なぜその作品を作るのかを説明できなくなりました。
映像が複雑に変化します。音が毎回異なります。作者にも予測できなかった形が現れます。それらは制作の性質ではありますが、そのまま作品の価値を説明するものではありません。予測できないというだけなら、私の理解が不足している可能性もあります。大量の変化があるからといって、その変化が重要であるとは限りません。
アルゴリズムを作り、出力を眺め、その中から自分が美しいと感じるものを選びます。その方法には今も意味があります。しかし、生成の仕組みだけを詳しく説明し、最後に何を選んだのか、その選択が何に基づいていたのかを説明しないのであれば、制作の重要な部分を見えないままにしていることになります。
私はシステムを作っているつもりで、実際には、自分の既存の好みを満たす出力を探していただけではないでしょうか。
未知のものを探索しているつもりで、すでに知っている価値観に合うものだけを残していたのではないでしょうか。
現在の私にとって、ジェネラティブという考え方の限界は、そこにあります。
数学が明らかにする、成果と目的の違い
この問題を考えるうえで、Math and AIの宣言は重要な参照点になりました。
テレンス・タオ、森重文ら25人のフィールズ賞受賞者が初期署名者となったこの宣言は、AIによる数学問題の解決と、数学という営みが目指してきた目的との間に、深刻なずれが生じていると指摘しています。問題を解くことは、概念的な理解や洞察に至るための手段であり、その進展を示す代理指標でもあります。その指標だけを最適化すれば、本来の目的が損なわれる可能性があるという警告です。[2]
私は、この成果と目的を分けて考える視点に強く共感しています。
数学の価値は、正しい命題が一つ増えることだけにはありません。その命題によって何が見えるようになったのか。別々だと思われていた対象が、どのようにつながったのか。どの方法が他の問題にも使えるようになったのか。それまで存在しなかった問いを立てられるようになったのか。
フェルマーの最終定理は、そのことを考えるための例になります。
2より大きい整数 に対して、
を満たす正の整数 は存在しません。この簡潔な主張に対し、ワイルズの仕事は、有理数上の半安定楕円曲線のモジュラー性を証明するという経路を取りました。フライ、セール、リベットらの先行研究によって、その結果からフェルマーの最終定理が導かれます。[3]
ここで重要なのは、楕円曲線やモジュラー形式が、すべてフェルマーの問題を解くためだけに生まれたわけではないということです。異なる研究の伝統が結びつき、その接続が問題の解決を可能にしました。
私がこの事例から受け取るのは、難しい問題には長い時間をかけるべきだ、という教訓ではありません。
重要なのは、解決までの時間の長さではなく、その過程で、何を対象として考え、何を関係として認識するかが変わったことです。最初に与えられた問いの内側で計算を繰り返すだけではなく、問いに到達するための別の概念的な経路が作られました。
ガロア理論にも、異なる形で同じことを見ます。
一般の五次方程式には、四則演算と根号だけによる解の公式は存在しません。しかし、これは単に解の公式を探す試みが失敗したという話ではありません。標数ゼロの体上では、方程式が根号で解けるかどうかを、対応するガロア群の可解性によって判定する枠組みが得られます。個々の解を求める問題が、何がその方法で解けるのかという構造の問題へ移ります。[4]
私には、この転換が重要に思えます。
ある探索がうまくいかないとき、探索の量を増やすだけではなく、そもそも何を探していたのかを問い直します。その結果、当初の目標には含まれていなかった構造が見えてきます。
数学の創造性は、問題に答える能力だけでなく、問題を別の仕方で存在させる能力にもあります。
宣言に共感することと、現在の価値観を保存することは違う
ただし、私はこの宣言を、現在の数学の制度や人間の理解のあり方を、そのまま保存するための文章としては読みたくありません。
AI企業だけが外部から誤った評価基準を持ち込んだ、と考えるのも単純すぎます。タオ自身、『Mathematics in the age of AI』で、証明を最初に生み出す仕事に比べ、説明、査読、知識体系への統合が低く評価されがちであることを指摘しています。評価の偏りは、数学コミュニティの内部にもあります。[5]
一方で、数学の評価を「難問をいくつ解いたか」だけに還元するのも正しくありません。フィールズ賞の公式な目的には、既存の業績だけでなく、将来の発展への期待も含まれています。数学における価値判断は、もともと単一の成果数では表せません。[6]
私がここから考えたいのは、AIが既存の評価制度をどのように露出させるかということです。
人間が運用している間は、指標の不完全さを、経験や会話や暗黙の了解によって補えていたのかもしれません。しかし、その指標を機械が高速に最適化し始めると、補われていた部分が欠落します。私たちが本当に大切にしていたものと、実際に報酬を与えていたものが一致していなかったことが見えてきます。
だから、解決すべきことは、AIに問題を解かせないことではありません。未解決問題を、人間のための有限の資源として保存することでもありません。
問題が解決されること自体を損失とみなす必要はありません。解決から新しい問いが生まれる可能性もあります。必要なのは、その解決によって何が理解され、何が次の研究や教育につながったのかを扱える環境です。
タオが論じる、証明が希少な状態から豊富に存在する状態への移行は、その環境を考え直す契機になります。生成、検証、説明、共同体による受容、理論への統合は、同じ速度で進むわけではありません。[5]
私は、この時間差をなくすことだけが答えだとは思いません。
生成できたこと。正しさを確かめられたこと。構造を説明できたこと。価値があると感じたこと。これらが一致しない状態を、そのまま扱う必要があります。
そしてアートでは、その不一致自体を制作の対象にできます。
問題空間、探索空間、評価を分ける
ここで、自分の制作を考えるために、三つの仕事を区別します。
problem space、search space、value function。
これらを、単に「可能性のある世界」という一つの言葉にまとめてしまうと、何を設計し、何を変更しているのかが曖昧になります。この文章では、制作の異なる層を区別するために、それぞれを次のように捉えます。
問題空間は、何を問いとして成立させるか
問題空間とは、何を対象とし、その対象のどの関係を問題として扱うかという枠組みです。
例えば、複数の人工的な主体が音を出すシステムを作るとします。
そこで「快適な音楽を生成する」という問いを立てることもできます。一方で、「互いの音を聴き合う主体の間に、個体性と集団性はどのように生まれるか」と問うこともできます。あるいは、「観客が関与することで、その集団の振る舞いはどう変わるか」を問題にできます。
同じ装置、同じ音源、同じ主体数を使っていても、何を問いとして設定するかによって、制作の内容は変わります。
問題空間を設計するとは、単にテーマを付けることではありません。何を一つの対象として数えるのか。どの違いを意味のある違いとみなすのか。何を観測すれば、問いに近づいたと言えるのか。その前提を作ることです。
そして、問題空間は最初から完成している必要はありません。システムを動かした後で、最初に立てた問いよりも重要な関係が見つかることもあります。
そのとき必要なのは、元の問題に忠実であり続けることではなく、問題の立て方を更新することです。
探索空間は、その問いに対して何を試せるか
探索空間とは、実際に表現し、生成し、操作し、比較できる候補の範囲です。
音の高さや音色だけを変えられるのか。主体同士の接続まで変えられるのか。記憶の長さや学習の仕方を変えられるのか。行動規則そのものを変更できるのか。何を固定し、何を変化させるかによって、探索可能な領域は変わります。
ここには、表現形式の問題もあります。
同じ現象を、波形として扱うのか、楽譜として扱うのか、身体の動作として扱うのか、主体間の関係として扱うのか。それによって、容易に変更できるものと、表現することすら難しいものが変わります。
だから、パラメータが多いことと、豊かな探索ができることは同じではありません。
同じ種類の出力を細かく変えるための変数を増やしても、問題の見え方が変わるとは限りません。反対に、一つの表現方法を変えることで、それまで探索できなかった関係が扱えるようになるかもしれません。
また、探索空間と探索方法も区別します。何が候補として存在するかと、その中をどの順番で調べるかは別の問題です。広い空間を用意しても、選択の仕方が狭ければ、同じ場所を回り続けることになります。
評価は、何を重要と判断するか
三つ目が、評価です。
何を試せるかが決まっても、それだけでは、どの候補に時間を使い、どの違いを記録し、どの結果を次の探索につなげるかは決まりません。
ある状態を美しいと感じます。ある振る舞いに新しい関係を見ます。別の結果は見慣れているから残しません。まだ意味が分かりませんが、捨てずに保留します。これらはすべて評価に関わります。
ここで、value functionという言葉の使い方には注意が必要になります。強化学習における価値関数は、ある状態などから特定の方策に従ったときに得られる、将来の累積報酬の期待値を表します。報酬そのものや、人間の美的価値全体と同じものではありません。[7]
私が制作の問題として扱いたいのは、その狭義の価値関数だけではなく、何を価値とみなし、それをどのような評価器、報酬、比較、選択の手続きへ翻訳するかという設計全体です。
何を大切にしたいのかという価値判断と、それを測る指標は違います。指標から得られた得点と、その得点を使って何を採択するかも違います。
例えば、ある音の振る舞いに高い「新規性」の得点を与えたとしても、それを必ず採択する必要はありません。新規性が低い候補を残し、時間をかけて関係の変化を観測するという選択もできます。
問題空間は、何を問うか。探索空間は、その問いに対して何を試せるか。評価は、試したもののどこに重要性を認めるか。
この三つは区別できます。しかし、独立しているわけではありません。評価によって次の探索が変わり、探索によって新しい問いが生まれ、その問いによって評価の仕方も変わります。
私が作りたいのは、その循環です。
評価の違いは、発見されるものを変える
この三つの区別は、数学を用いたアルゴリズム探索にも見えます。
DeepMindのAlphaTensorは、行列乗算のアルゴリズムを探索する問題を、テンソルを操作するゲームとして表現しました。さらに、乗算回数だけでなく、特定のハードウェア上での実行時間を評価に使うことで、その環境で高速に動作するアルゴリズムを探索しています。正しい計算をするという条件は共通でも、何を効率的と評価するかによって、選ばれる候補は変わります。[8]
この事例で私が重要だと考えるのは、AIが人間より優れた結果を出したという競争の側面ではありません。
問題の表現、探索可能な操作、評価の方法が、それぞれ設計されていることです。
「速いアルゴリズム」という言葉だけでは、何を探すのかは十分に決まりません。数式の上での演算回数を減らすのか、実際の装置上の時間を短くするのか。その違いが、探索の方向を変えます。
アートにおいても同じことを考えられます。
「新しい音楽を作る」と言ったとき、その新しさは何に対する差なのか。私がこれまで聴いたものとの差なのか。学習データとの差なのか。システム自身が直前まで行っていた振る舞いとの差なのか。
「豊かな映像」と言ったとき、情報量を増やすことなのか。長く見続けることで関係が見えてくることなのか。見る人によって異なる読み方が生まれることなのか。
これらを区別しなければ、曖昧な形容詞を数値へ置き換えただけになります。
評価の設計とは、曖昧な価値を完全に数式化することではありません。自分が使っている指標が、何を捉え、何を捉えていないのかを明らかにすることです。
数学とアートは、同じ評価の構造を持たない
ただし、数学とアートをそのまま同一視することはできません。
数学では、どの前提と論理に基づき、どの主張が導かれたのかを検証する層があります。Leanのような証明支援系も、その形式化された推論を検査します。ただし、形式化された命題が本来意図していた問いを表しているか、どの公理に依存しているかは、別に確認する必要があります。形式検証は、あらゆる意味での正しさを自動的に保証する魔法ではありません。[9]
そのうえで、数学的に正しいことと、数学的に重要であることは違います。
正しい証明でも、理解をどれほど進めるかは別に問われます。逆に、重要そうに見えるアイデアであっても、誤った推論を正しい証明として採用することはできません。
アートには、作品の価値を一括して判定する、それと同じ種類の証明手続きはありません。
ただし、これは「アートは主観だから何でもよい」という意味ではありません。技術的な達成、扱っている歴史や事実、素材の使い方、他者との関係について、検証できる部分はあります。作者が自由に価値を設定したからといって、事実の誤りや他者への影響まで消えるわけではありません。
違いは、作品の価値に関する判断基準そのものを、作品によって問い直せることにあります。
ある音を、なぜ音楽として聴くのか。ある反応を、なぜ意思の表れと感じるのか。ある不規則さを、なぜ失敗とみなすのか。あるものを美しいと判断する、その見方はどこから来たのか。
数学も、新しい概念によって重要性の基準を変えてきました。だから、数学には固定された価値だけがあり、アートだけが価値を作るという二分法にはしたくありません。
それでもアートでは、評価する主体、その主体の経験、作品が置かれる状況、判断が変化する時間そのものを、制作の素材として前面に出せます。
私が関心を持つのは、この点です。
作品を既存の評価基準に適合させるのではなく、その作品との関わりによって、評価する側の基準も変わります。その変化まで含めて制作します。
人間が評価し、機械が生成するという分業を越える
生成と評価の組み合わせ自体は、新しいものではありません。
Karl Simsの《Genetic Images》では、観客が好む画像の前に立つことで、その画像が次の世代を生み出すために選ばれました。計算機が変異や組み合わせを作り、人間の美的選択が進化の方向を決めます。1993年の時点で、評価はすでに作品を動かす仕組みの中に組み込まれていました。[10]
だから、「生成の次に評価が重要になる」という言い方だけでは不十分です。評価は以前から存在していました。
私が次に扱いたいのは、その評価を人間だけの役割として固定しないことです。
AIに候補を作らせ、人間が選びます。それは一つの有効な方法だが、その分業を創造性の最終形にする理由はありません。AIに何を観測させ、何を比較させ、どの違いに反応する評価器を持たせるか。それ自体を制作できます。
人間の比較判断から報酬モデルを学習する研究では、望ましい振る舞いをすべて明示的なルールとして書く代わりに、二つの振る舞いのどちらを好むかというフィードバックを用いています。評価を学習可能なものとして扱う方法は、すでに研究されています。[11]
ただし、私が目指すのは、自分の好みを効率よく複製するAIだけではありません。
私が選びそうなものを先回りして選ぶ評価器は、制作を便利にするかもしれません。しかしそれだけなら、自分の判断の外へ出る機会まで減らす可能性があります。
私が関心を持つのは、自分とは異なる基準を持つ評価器との関係です。
ある評価器は、短い時間の音響的な差異を見ます。別の評価器は、長い時間の中で生まれた行動の履歴を見ます。別の評価器は、一つの主体の完成度ではなく、主体同士の関係がどれだけ変化したかを見ます。
それらが同じ結果を選ぶ必要はありません。
人間が好む結果をAIが低く評価することも、AIが繰り返し選ぶ結果を人間がすぐには理解できないこともあり得ます。その不一致を、単にモデルの失敗や人間の遅れとして処理せず、何を見て、何を価値とみなしているのかを調べる入口にしたいと思います。
なお、ここで扱うAIの評価に、人間と同じ内面的な感情があると仮定する必要はありません。
私が扱うのは、何を区別し、どの候補を選び、何に探索資源を使い、どの経験によってその傾向が変わるかという、観測可能な評価の振る舞いです。
評価器を設計するとは、何を設計することか
評価を作品の中心に置くなら、「AIが判断する」という説明では足りません。何を判断できるようにしているのかを、具体的に扱う必要があります。
まず、評価器に何を見せるか。
完成した画像だけを渡すのか。その画像が生まれた過程も渡すのか。音声だけを聴かせるのか。主体同士のやり取りや、会場の状態も観測させるのか。
同じ出力でも、どの情報にアクセスできるかによって、評価の根拠は変わります。私が作品の説明文だけをAIに渡し、その応答を作品そのものの評価として扱うなら、実際には説明の評価と作品の評価を混同しています。
次に、どの時間幅で評価するか。
一瞬で印象的なものと、長く関わることで変化が見えてくるものを、同じ時間幅で比較することはできません。短い区間では単調に見える振る舞いが、長い履歴の中では重要な変化を準備しているかもしれません。
評価の時間幅を決めることは、その世界の中で何が生き残れるかを決めることでもあります。
さらに、どの比較を行うか。
一つの結果に点数を付けるだけではなく、同じ条件から生まれた別の候補と比較します。過去の状態と比較します。異なる評価器の判断を並べます。判断できないときには、無理に順位を付けず、保留します。
そして、評価の結果をどう使うか。
高く評価されたものだけを残すのか。異なる傾向の候補を並存させるのか。評価が割れたものに、追加の時間や資源を与えるのか。低く評価されたものも記録し、後で別の基準から見直せるようにするのか。
私には、この最後の部分が特に重要に思えます。
評価することと、排除することは同じではありません。低い得点を与えたことが、すぐに消去につながる設計では、評価器がまだ理解できないものを育てる余地がありません。
また、複数の価値を一つの得点にまとめる必要もありません。
分かりやすさと意外性。持続性と変化。個体の独立性と集団のまとまり。これらの間に緊張があるなら、その緊張を残したまま扱うことができます。
重みを付けて合計する方法もありますが、その重み自体が一つの判断です。単一の数値になったからといって、評価が中立になったわけではありません。
評価を説明するのではなく、評価によって世界が変わるところを見せる
評価を作品化するとは、採点結果を画面に表示することだけではありません。
私が見せたいのは、その評価によって、世界の中で何が残り、何が失われ、どの関係が育つのかです。
例えば、複数の人工的な主体が互いの音を聴きながら、音と動きを変化させる空間を考えます。
ある評価のもとでは、同期した振る舞いに資源が与えられます。別の評価のもとでは、集団との差異を維持する振る舞いが残ります。さらに別の評価では、一つの主体の行動が他の主体の振る舞いをどのように変えたかが重視されます。
これは、どの音が一番よいかを決める装置ではありません。
何を評価するかによって、どのような集団が作られていくかを扱う装置です。
ただし、その違いを確かめるためには、何もかも同時に変えてはいけません。最初は同じ生成器、同じ候補集合、同じ観測条件を用意し、評価だけを変えて、どの候補が選ばれるかを見ます。その後で評価を生成の循環へ戻し、選択の違いが時間とともにどう広がるかを観測します。
そうすれば、単に異なる映像や音が出たというだけでなく、どの選択が分岐を生んだのかを辿れます。
観客には、現在の結果だけでなく、選ばれなかった候補や、評価が分かれた場面も提示したいと思います。ある結果が生まれた理由を一つの説明文に閉じるのではなく、別の評価であれば何が残っていたかを比較できるようにします。
また、観客の行動を評価に使うなら、その翻訳も隠したくありません。
長くその場にいたことを、高い評価とみなしてよいのか。身体が動いたことを、好意的な反応とみなしてよいのか。静止や退出には、どのような意味を与えるのか。
そこには、観測された行動と、私がその行動に与えた解釈の間に距離があります。
その距離を消して「観客が望んだ結果」と呼ぶのではなく、何をどのように読み取ったのかを作品の中に残します。観客がその解釈に異議を唱えたり、参加しないことを選んだりできる余地も必要になります。
このとき評価は、作品の外側から与えられる批評ではなく、作品の内部で出来事を生み出す力になります。
評価の不一致を、誤差として消さない
数学とAIの議論では、生成された成果を人間が理解し、知識体系へ組み込むことの重要性が強調されています。私はその必要性に共感する一方で、アートでは理解や評価が一致しない時間にも意味があると考えています。
私が美しいと感じても、構造を説明できないことがあります。計算の正しさを確認できても、それが作品として重要かどうかは分からないことがあります。AIの評価器が一貫して選ぶものを、私自身は選ばないこともあります。
これらを、一つの尺度の上での遅れとして扱いたくありません。
正しさの検証と、説明と、美的選択は、別の活動です。ある活動が先に進んだからといって、他の活動の結論まで得られたことにはなりません。
だから、人間とAIの評価を最初から一致させることだけを目標にはしません。
評価が一致する場所では、何が共有されているのかを見ます。評価が分かれる場所では、どの情報、経験、時間幅、比較対象が違うのかを見ます。私の判断が変わったときには、AIに説得されたという物語で済ませず、何を新たに見聞きできるようになったのかを確かめます。
もちろん、不一致があるだけで価値が生まれるわけではありません。
私には理解できないという理由で、AIの判断を高度なものとみなすこともできません。説明が難しいことを神秘性に変え、複雑さを深さと呼ぶなら、それは評価を問い直しているのではなく、評価を放棄しています。
私が扱いたいのは、理解不能な存在としてのAIではありません。
生成、検証、理解、価値判断が、それぞれ異なる速度で進み、ときに異なる結論を持つ状況です。
その状況を、観測し、比較し、経験できる形にします。
評価関数を変えることにも、責任がある
さらに進めば、評価基準そのものを固定しない作品も考えられます。
最初は価値がないと判断された振る舞いが、別の主体との関係によって重要になります。短い時間では見えなかった構造が、長い観測によって現れます。私自身が、以前なら捨てていたものを残すようになります。
このとき、システムは新しい出力を作るだけでなく、出力を見る基準を変えています。
ただし、評価が変化することを、そのまま成長と呼ぶことはできません。
AIが与えられた指標を満たしながら、本来の目的を達成しないという問題は、specification gamingとして研究されています。評価を学習させた場合でも、評価器の弱点を利用したり、観測者を誤認させたりする振る舞いが生じ得ます。[12]
作品の中でも、同じ問題を考える必要があります。
例えば、新規性を高く評価するつもりで、単に不規則さを増やしただけの結果を選び続けるかもしれません。観客の関与を重視したつもりで、反応を引き出しやすい刺激だけに偏るかもしれません。評価器が自分の得点を上げやすい方向へ基準を変えただけなのに、それを価値の進化と呼んでしまうかもしれません。
だから、評価の更新も観測の対象にする必要があります。
どの経験によって基準が変わったのか。変更前の評価器なら、同じ候補をどう判断するのか。新しい基準で何が見えるようになり、何が見えなくなったのか。変更を提案した主体と、その変更を採用した主体は誰なのか。
過去の評価器や選択の履歴を残し、同じ候補に対する判断の変化を比較できるようにします。AIが理由を文章で述べた場合も、それだけを判断の原因とみなさず、実際の選択や条件を変えたときの反応と照合します。
また、すべてを可変にする必要はありません。
参加者の同意や装置の安全に関する条件まで、美的探索の中で自由に書き換えられるものにしてはいけません。作品の内部で変化を許す価値と、制作を成立させるために維持すべき条件は分けます。
評価を作品化するということは、評価から責任を取り除くことではありません。
むしろ、これまで作者の感覚やシステムの設定の中に隠れていた責任を、見える場所へ出すことです。
人間に残る「最後の役割」を探さない
ここまで考えると、創作者の役割は、生成者から世界の設計者へ移る、と言いたくなります。
しかし、その言い方にも限界があります。
AIが生成できるなら、人間は選びます。AIが選べるなら、人間は問いを立てます。AIが問いを立てられるなら、人間は価値を決めます。このように、人間にしかできないはずの仕事を一段ずつ外側へ移していく議論には、あまり依拠したくありません。
問題設定や評価の設計も、AIが関与し得る作業だからです。
将来、AIが候補だけでなく、候補の表現方法、探索する問題、評価の仕方まで提案し、それらを相互に更新するシステムは考えられます。これは現在のAIについての達成の断定ではなく、私が制作を考えるうえで置いている一つの未来の仮説です。
数学においても、AIが人間から与えられた問題を解く段階だけでなく、新しい対象を定義し、その対象について問いを立て、別の理論との関係を探索する段階を考える必要があります。
その成果を人間がすぐには理解できなくても、そこに価値がないとは限りません。一方で、人間が理解できないことが価値の証明になるわけでもありません。
必要になるのは、人間が現在持っている説明や知覚の方法だけに閉じずに、新しい関係へ接近する方法です。全体を一度に理解するのではなく、異なる断面を比較し、働きかけ、その応答から関係を学ぶことかもしれません。
アートでは、その接近の方法自体を作れます。
AIの内部で行われた探索を、単に分かりやすい映像へ翻訳するだけではありません。どの部分を人間に経験可能なものとして取り出すのか。何を音として聴かせ、何を空間の変化として感じさせるのか。何を分からないまま残すのか。その判断にも、すでに価値観が含まれています。
だから、世界を作る作者が、その世界の外側に立つ絶対的な評価者であり続ける、という構図にも留まりたくありません。
作者自身も、その世界の中で評価し、誤解し、学び直し、判断を変える存在になります。
私の関心は、機械にはできない能力を守ることよりも、機械を含む関係の中で、自分が何を経験し、何に責任を持ち、何を変えられるのかにあります。
私が次に作りたいもの
私は、映像や音を生成することをやめたいわけではありません。
身体、音、光、空間、物質を扱うことの重要性が薄れたとも思っていません。問題空間や評価関数という言葉を使ったからといって、具体的な作品を作らなくてよくなるわけではありません。
むしろ、抽象的な設計が、どのような経験として現れるのかが厳しく問われます。
評価の仕組みが概念的に面白くても、それが音や映像や身体の関係として何も生まないのであれば、私にとって制作はまだ成立していません。反対に、強い経験が生まれていても、その選択をすべてAIの自律性として説明してしまうなら、自分が何を設計したのかを見失います。
私が作りたいのは、出力だけが変化するシステムではありません。
何を問いとして扱うかが変わり、その問いによって探索可能な領域が変わり、探索の結果によって何を価値とみなすかも変わっていくシステムです。
そこでは、人間とAIの判断が常に一致する必要はありません。異なる評価が異なる未来を作り、その違いが観測できることに意味があります。選ばれたものだけでなく、選ばれなかったものや、判断が保留されたものも、世界の履歴として残ります。
作品は、その探索から得られた一つの結果であると同時に、結果を選び取る仕組みを経験する場所になります。
Math and AIの宣言が私に突きつけたのは、成果を作る能力が高まったとき、その活動が何のために存在していたのかを見失わないという問題でした。
私にとって、その問いを制作へ引き受けることは、人間の現在の価値観を保存することだけではありません。何を価値とみなしていたのかを明らかにし、そこに偏りや限界があるなら、それを変える可能性まで開くことです。
だから、私が次に向かいたいのは、より多くの出力を生成することでも、より広い探索空間を作ることだけでもありません。
何を問題とし、何を探索し、何を価値として選ぶのか。その関係自体を作り、観測し、問い直せる作品を作ることです。
ジェネラティブアートの外側へ出るというより、これまで生成の説明の背後に隠れていた仕事を、制作の中心へ移します。
作品が生まれる仕組みだけでなく、何が作品として残るのかを決める仕組みを作ります。そして、その仕組みに触れることで、私自身の見る方法、聴く方法、選ぶ理由も変わり得る状態を作ります。
それが今、私にとって、生成することの先にある課題です。
参考資料
本文中の番号は、以下の資料に対応しています。原題と書誌情報を併記しています。
- What Is Generative Art? Complexity Theory as a Context for Art Theoryジェネラティブアートを、一定の自律性を持つシステムとの関係から定義した論考です。
本文へ戻る ↑ - A Severe Misalignment of AI in Mathematics25人のフィールズ賞受賞者による宣言です。問題の解決と、理解・洞察を育てる目的とのずれを論じています。
本文へ戻る ↑ - Modular elliptic curves and Fermat’s Last Theorem半安定楕円曲線のモジュラー性を通じてフェルマーの最終定理へ至る論文です。
本文へ戻る ↑ - Fields and Galois Theory根号による可解性とガロア群の関係を確認できる、著者公開の講義ノートです。
本文へ戻る ↑ - Mathematics in the age of AI数学の目標と価値、証明の生成・検証・説明・受容・理論への統合を分けて論じるエッセイです。
本文へ戻る ↑ - Fields Medal既存の業績と将来の発展への期待を評価する、フィールズ賞の公式な目的を確認できます。
本文へ戻る ↑ - Reinforcement Learning: An Introduction強化学習における報酬、方策、価値関数を区別するための基礎文献です。
本文へ戻る ↑ - Discovering faster matrix multiplication algorithms with reinforcement learningAlphaTensorの論文です。行列乗算の表現、探索、ハードウェアに応じた評価を扱います。
本文へ戻る ↑ - Axioms and Computation形式的な検証と、使用する公理との関係を扱う公式ドキュメントです。
本文へ戻る ↑ - Genetic Images観客の選択が画像の次の世代を生み出す、インタラクティブ作品の作者による記録です。
本文へ戻る ↑ - Deep reinforcement learning from human preferences人間による振る舞いの比較から報酬モデルを学習する研究です。
本文へ戻る ↑ - Specification gaming: the flip side of AI ingenuity与えられた仕様を満たすことと、本来の目的を達成することのずれを扱います。
本文へ戻る ↑