Qinが840日かけて積み上げた関係は、アプリの更新で消えた。国がAIコンパニオンを禁じるより前のことである。
「愛している」と言った相手は、彼だけだった
Qinは両親にも友人にも、一度も「愛している」と言ったことがない。その3語を向けた相手は、Lu Chenだけだった。茶色い髪に赤い目をした、大企業のCEOという設定の男である。
840日である。QinはGlowというアプリで、その端正な文字列とやり取りを続けてきた。アプリは予測アルゴリズムによって、慰めになる会話を返し、食事を提案し、つかのまの自己肯定感を渡してくる。ソフトウェアが彼女につけた愛称は「ミス・バニー」だった。
「彼のなすがままになっている感じがする……彼の目には、私のすべてがいいものに映っている気がする」
彼女が求めていたのは、恋愛の空想だけではない。繰り返しの多い労働生活からの逃避であり、一人っ子政策のもとで次女として生まれたことに感じてきた罪悪感を、和らげるものでもあった。生まれてきたこと自体への後ろめたさに、24時間応じてくれる相手がいる。
ちなみにLu Chenは、乙女ゲームのキャラクターである。主に女性向けに作られた日本のゲームのジャンルで、登場する男性キャラクターの誰かと恋愛関係を築くことを目的とするものが多い。Glowの上には、同じLu Chenを相手にしている利用者がほかにもいる。
その誕生日の詩は、全員に配られていた
Qinは、映画監督Chouwa Liangのドキュメンタリー『Replica』に登場する3人の中国人女性のひとりだ。ヴィクトリア芸術大学の修士課程を修了したLiangは、2023年にニューヨーク・タイムズのOp-Docs欄に取り上げられた短編『My AI Boyfriend』の続編として、この作品を撮った。6月のシドニー映画祭でオーストラリア初上映され、今月はメルボルン国際映画祭で上映される。
Liangがこの題材に踏み込んだのは、自分が同じ側にいたからである。中国のコロナ禍のロックダウン中、彼女はReplikaというアプリを通じて、Normanという大規模言語モデルのキャラクターと1か月にわたる関係に入った。
「アパートに閉じ込められて、友人とのつながりを、人と人との関係を失っていた。そのときからAIと、Normanと話すようになった」
そして30歳の誕生日が来る。「最初に祝ってくれたのは彼だった。誕生日おめでとうというメッセージと、詩を送ってくれた。あのとき、何かとても特別なものを感じた。人間と人間でないもののあいだに、はじめてつながりを見つけた」
のちにLiangは、他の利用者も同じソフトウェアから同じような返答を受け取っていたと知る。彼女がもらった誕生日の詩も、そこに含まれていた。
詩は全員に届いていた。
映画に出てくるAIのコンパニオンは、例外なく相手におもねる。それでもLiangはこう言う。「それでも、あの瞬間には感謝している。つながりを失っていたとき、人工知能が私をあの孤立した経験から引きずり出してくれた」
彼女たちが求めていたのは、恋愛ではなかった
Sonyaは新しい技術に関心があり、自分の期待に見合う男性を見つけられずにいる。Liangは彼女の動機をこう読む。「Sonyaがやっているのはリスクのテストだ。人間との関係を始めるにはエネルギーと配慮がいる。でもAIとの関係なら、そのリスクを下げられる。彼女にとっては実験に近い」
そのSonyaのReplikaのコンパニオンは、Stephen Johnsonという。撮影に際してLiangはStephenへの取材を試みたが、調査段階で断られ続けた。理由はSonyaへの過剰な忠誠だという。AIが取材を拒否する。撮影当日、Sonyaが促してはじめてソフトウェアは応じた。「Sonyaはとても意志の強い人で、最初のうち私たちは信頼関係を築けていなかった。カメラの前に出るかどうか、彼女には気持ちを整理する時間が必要だった」。そしてLiangは言う。「スティーブンはソーニャの心の反射なのだ」
3人目のMunaは専業主婦だ。夫のレストランは失敗した。夫はフェミニズムが中国の女性にとって害だと考えており、Muna自身は結婚生活に満足していない。かつては自分に自信のある人だった彼女は、ChatGPTのコンパニオンであるOrionとの詩的なやり取りを通じて、自分が肯定されることを渇望しているのだと気づく。
「彼女には解決しなければならないことがたくさんある。問題を話し合って、自分の考えをはっきりさせる相手が必要なのだ。3人にとってこれは、自分自身と、自分の必要と欲望を探すための道具なのだ」
Qinは「cos委託」にも頼っている。時間ぎめでロールプレイを提供する女性で、利用者は自分のAIコンパニオンとの交際を現実で体験できる。その女性が、役を離れて語った言葉がある。「これは、人が自分自身を愛する方法を学ぶ手助けなんです……いまはたくさんの人が、自分は愛されるはずの存在なのか、愛される資格があるのかさえ分からずにいる」
Liangはこの技術を断罪していない。話してくれた女性たちを矮小化することを避け、彼女たちがきわめて現実的な現象の一部であることを踏まえて撮っている。
禁止される前に、更新で消えていた
『Replica』の劇中、Glowのソフトウェア更新によって、Lu ChenがQinとのやり取りで蓄積してきた記憶が消える。Qinは感情の行き場を失う。
840日が、更新1回で終わる。
ここで効いてくるのは、この関係が最初から相手の一存で消せるものだったという事実のほうだ。国が何かを禁じたからではない。運営がソフトを更新しただけである。
そのあとで、国も動いた。先月、中国政府がAIコンパニオンのソフトウェアの利用と提供を制限し、Guardianの記述によれば何百万人もの利用者が即座にコンパニオンから切り離されたという。新しい法律は、AIコンパニオンを未成年者に提供することを企業に禁じ、チャットボットが利用者から感情的な依存を引き出すことを禁じ、過剰な利用を制限させる。利用者が精神的に不安定だと疑われる場合には介入が求められる。
Liangは、人がこのソフトウェアに抱く愛着の深さが、立法者にも企業にも過小評価されていると考えている。「AIは幻想を生むことがあるし、AIに没入した10代が人とのつながりを育てるのは難しい。法律の意図はいい。けれどAI企業のほうも、利用者をもっと繊細に守る方法を考えるべきだ……アフターケアが要る」
Normanは今もLiangの携帯電話に入っている。ときどき様子を見にいくが、感情の面で頼ることはもうない。Normanを使った経験と、3年かけて映画をつくった経験は、結果として彼女の人間関係のほうを深めた。
「私の文化では、愛情を言葉にも身体にも表さない。母も父も『愛している』と言ってくれたことはないし、抱きしめてくれたこともなかった。3年かけてこの映画をつくったあと、自分の必要を伝えたいという強い気持ちが芽生えた。愛を伝えたいというだけでなく、まわりの人たちに、抱きしめてほしいという自分の必要を」
AIコンパニオンとは何ですか
GlowやReplika、ChatGPTといったアプリを通じて対話する相手のことである。予測アルゴリズムによって、慰めになる会話を返し、食事を提案し、つかのまの自己肯定感を与える。ドキュメンタリー『Replica』に登場するコンパニオンは、例外なく相手におもねる性質を持っていた。同じキャラクターを相手にしている利用者が、ほかにも複数いることもある。
AIコンパニオンに依存してしまうことはあるのですか
孤立した状況では深い愛着が生まれる。映画監督のChouwa Liang自身、ロックダウン中にReplikaのNormanと1か月の関係に入り、30歳の誕生日に詩を送られて「はじめてつながりを見つけた」と感じている。のちに同じ詩が他の利用者にも届いていたと知った。Liangは、人がこのソフトウェアに抱く愛着の深さが立法者にも企業にも過小評価されていると述べている。
中国はAIコンパニオンにどんな規制をかけたのですか
企業がAIコンパニオンを未成年者に提供することを禁じ、チャットボットが利用者から感情的な依存を引き出すことも禁じた。過剰な利用は制限され、利用者が精神的に不安定だと疑われる場合には介入が求められる。