はじめに
映画「アイの歌声を聴かせて」が良作だったので感想記事を書こうと思う、と読み鍋屋のグループラインで表明したら、メンバーの一人であるTOも観たと返事をくれたので、TOと感想をzoomで話して書くことにしました。結局80分も話してしまい(笑)、40分間分書き起こすまでに9000文字を超えたので、前後編に分けてノーカットでお届けします。今回は前編。観た前提でお話しているので、未見ネタバレ慎重派の方は目次だけ見て回れ右した方が良いかもしれません。目次の手前までは大丈夫です。とりあえずおすすめの映画だったことはお伝えしておきます。
発言を極力一言一句書き起こして、句読点や感嘆詞など、少々読みづらい箇所もあえて残しています。話題の変わり方とかとりとめのない感じに仕上がっていますが、話している様子が伝わると幸いです。映画も楽しかったけど、この対談も楽しかったー。（p.w.θ）
名前がうろ覚えなあなたのための登場人物紹介
サトミ
本作の主人公。お母さんがシオンの開発者。告げ口姫と呼ばれている。
シオン
サトミとトウマのクラスに送り込まれた女子高校生型アンドロイド。
トウマ
電子工作部の部員。構内の監視カメラをクラッキングする腕前の持ち主。
サンダー
柔道部員。三太夫というアンドロイドと日々乱取り稽古をしている。
後編はこちら
イントロ
θ：TOが観始めたのは先週？
TO：1週間前くらいだったと思う。MOVIXで。
θ：きっかけは何だった？
TO：Twitterの似たような趣味の人達の評判が良かったのと、監督が昔作っていたイヴの時間を観たことがあった。観たことがあった上でイヴの時間はそこまで好みではない。だからどうかなーとは思っていたけど、評判的にはなんというか結構ストレートに面白そうだったので行くか、と思って見に行った。
θ：僕もなんかTwitterのけいおん！関係のアカウントの人がちょこちょこ盛り上がっているのを見て、まあ予告を見た時にはそんなにそそられなかったんだけどまあ見てみようかなと。
TO：まあ予告がうまくないというのは皆言ってるよね。
θ：そうなんだ(笑)予告見返してないからあれだけど、見たくなるあれじゃなかった…(笑)
θ：ちゃんとAIとして捉えてシオンに感情移入しなくても普通に人間の行動によって感動できたというのが良かったなーと僕は思った。
TO：なるほど。
AIの描かれ方の変化
θ：端的に言うと僕が一番「おー、これは泣けるぜ」と思ったのは8年間のメモリーが溜まっててシオンが「幸せですか」というのを追求していたのが実はトウマの命令だったというのがすごく「愛じゃん…！」ってなった。
TO：あのねー、θは今年のフリーガイって映画観た？
θ：観てないね。名前は聞いたことある気がする。
TO：あれも面白い映画なんだけれども、
θ：結構似たようなテーマだったの？
TO：いや、テーマっちゅうかパッケージはぜんぜん違うんだけど、オチっていうかAIができた理由っちゅうかそのー、AIの生成過程がマジでフリーガイと同じで、おーっ！これ最近の流行りなんかな！って思いながら観ていた。
θ：（笑）
TO：フリーガイの話をしちゃうと、あれは何かまあゲームだよね。なんて言ったら良いだろう、フォー…最近のゲームの名前が出てこない。
θ：フォートナイト？
TO：あーそうそう、とか、PUBGとか、要はプレイヤーが銃ぶっ放したりミサイルを打ったりしてもいい感じのゲーム。そこに暮らしてるモブキャラ。
θ：ほう。あーなんかそれ予告は観た！
TO：そのモブキャラがプレイヤーの一人に恋したっていう…
θ：あれでしょ、実写映画でしょ？洋画でしょう？
TO：そうそうそう。洋画洋画。
θ：あれたしかに予告編見て面白そうだなとは思ったわ。
TO：それでまあそのモブキャラクター、NPCがプレイヤーに対してなにかプログラムにない働きかけをしているよってことで。
θ：なるほど。
TO：でまあそれはAIが自律思考をしているんじゃないか、そいつと協力しながらゲームを作った会社の闇を暴いていこうぜみたいな話なんだけど。
θ：うんうんうん。
TO：それで、そのNPCが恋した相手がプログラマーの女性なのね。
θ：なるほど。
TO：そのゲームっていうのが性格の悪い会社に権利を買い取られてしまったんだけど、もともとはその彼女と友達の男性の2人のプログラマーが考えた基盤だったのよ。
θ：うんうん。
TO：で、この2人は友人関係なんだけど、なんか明らかに男性の方は彼女に好意を持っていて、雰囲気も悪くはない、みたいな状況で話が進んでいく。結論は何かというと、このNPCが彼女を好きになったというのは、そのままずばり男性のプログラマーの想いがプログラムにこもってあったが故だという説明づけがなされる。
θ：それはそのNPCは、その女性プログラマーじゃなくて男性プログラマーの作ったキャラクターだったってこと？
TO：まあそう。というよりかは思考プログラムを作った。
θ：なるほど。
TO：で、そのNPCが映画の主人公なんだけど、それを知って最後はそれを受け入れるんだよなー、つまり己が人間から人間へのラブレターだったことを。自分自身がそれまで恋をしている人間だと思っていたのがAIなわけだから悲しいオチになりそうなんだけど、それを爽やかに描いててすごいなと思ったわけだけれどもね。
θ：なるほど。
TO：まさにそれだなと思って。
θ：本当だね！確かに似てるね。
TO：AIの役割とか機械…ロボットとかAIに対する描き方っていうのが、人間にとって便利なものっていうものすごく無邪気なところから、段々と、昔のSF映画みたいな、ターミネーターみたいなさ。その反逆してくることもあるよねというところになり、共存は不可能なのかみたいなテーマから、だんだん現代になるにつれてAIがどういうものなのかという解像度が上がってきたのか、なんかこう結局人間のためのものなんだけどうまい付き合い方があるよねっていうそういう描き方に持っていく作品が増えてきたのかなーと思った。
θ：なるほど。ちょうどなんかね、パンフレットでカズレーザーが、担任の先生のキャストだったんだけど、インタビューの中で作品の印象を聞かれていて、2001年宇宙の旅とかの描かれ方からだいぶ変わってきたなあと思ったって言ってて。さすカズってなった。
TO：だからなんかこう、人間の敵か味方かみたいな書き方ではもうなくなってきていると思うんだよね。
彼らのAIの評価軸はなにか？
θ：なるほどね。でもなんかさ、開発者側というか、お母さん以外の周りの開発者の人は結構人間の指示じゃないことをするかどうかみたいなことを重要視というか、逸脱したことをするんだったら開発をやめようみたいな感じだったじゃん。
TO：あー、まあね。
θ：そこは結構なんかドライな感じというか、やっぱり反逆するものになってしまっては困るっていう思想は垣間見えたよね。
TO：あーまあ別にそこが完全に捨象されているということではないけれども。
θ：逆にね、テストが何を評価しようとしているのかっていうのがぼやけている気がして。一応5日間AIって周りの人にバレなかったら合格みたいなことを言ってたじゃん。でもなんかそれってAIが指示から逸脱した行動を取ったらまずいよねみたいな文脈は全く評価できない評価方法じゃん。
TO：いやよくわからん。あれはそもそもどういう実験だったのかみたいな説明がされてないから…
θ：人間と一緒に生活できたらオッケーみたいなことなんでしょ多分。人間として。
TO：そうなのかな。…まあそうか。
θ：人間として人間と同じ生活ができたらいいですよっていうののパラメータ定義というか、評価の尺度の定義として周りの人間にバレないかっていう。
TO：まあまあまあ…そうか。あのー言ってたな、なんちゃらテストだって。
θ：そう。だから開発会社としてはまず1個周りの人間に溶け込んで人間のように生活できるかというのが評価軸で公式にはあって、でも人間の指示から逸脱した行動を取ろうとしたらそれはだめですね、お蔵入りだねみたいな話になってて。
TO：それ言ってるのって別陣営じゃない？
θ：そうなのかな。
TO：だって…うーんそこ全然考えてなかったな。あのー人間らしいふるまいができるかというのを評価軸にしているのはお母さんたちの方で、危なくないかなというのを気にしているのは陣営外というか上司とか、
θ：支社長ね。
TO：支社長じゃないの。だってお母さんたちそもそもリスクっていうものを考えてない…
θ：（笑）そうなんだよね！
TO：支社長にバレるリスクの話はしてるけど、人間に危害を加えちゃったらどうしようみたいなことは彼女たちは話してない気がする。
θ：あーなるほどね。
TO：それは勝手に支社長が…勝手に言ってるっていうかそういうガイドラインがあるだけで、お母さんたちのグループは見てないんじゃない？
θ：あーなるほどね。そうだとしたら結局最後の会長が来てもっとおおっぴらにやれみたいなことを言ってたのは…
TO：会長も特に気にしてない（笑）
θ：（笑）じゃあなに、支社長が揚げ足取ろうとしてそこに目をつけてるってことかな？（笑）
TO：ていう見方にしてもいいくらいじゃないかなと思ったな僕は。
θ：なるほどね。はいはいはい。
TO：いや支社長の言ってることももっともだから、彼にはその考えを貫いて、今度は多分彼がマイノリティになるから、彼のやり方で会長に認められてほしいなというのは思うけれども。
θ：うんうんうん。
人間とAIの違いとは？
θ：なんか話したいトピックをずらしてしまった気がする。えーっと、AIが割と人間と共生するものとして描かれてきているってことだよね。
TO：うーんとね、まあ共生するものというかある種ドライな…人と二項対立軸に置かれるものではなくて、そういう描かれ方ももちろんあるんだけど、結局道具なんだよな。
θ：うんうんうんうん。
TO：っていうドライな見方が、多分皆もうアレクサとか使うことによって分かってしまった面があって。
θ：うんうん。確かに。
TO：敵とか友達とかじゃなくて道具なんだけど…というところをあまりネガティブになりすぎないように描けるようになった気がする。
θ：なるほど。なんかね、そこでちょっと思ったのが、結局じゃあ人間とAIの違いは何でしょうって言ったときに、シオンが何か人間から逸脱した行動を取りますよっていうのの典型的に見せられていることっていうのが、あんまり人の気持ちに対して遠慮せずに色々やるとかそういうところだった気がして、結局そこからだんだん学習していって一人の幸せは周りの幸せと関わっていることだとか、なんだろう、その学習していく過程が結構人間っぽいっていうか、人間も結局おんなじように行動しているよなあと思って。結局AIって評価としては幸せか幸せじゃないかっていうデジタルなというか、0-1の評価を…
TO：まあだから常に学習データを参照し続けていたのがすごいわかりやすいよね。
θ：うんうん。
TO：まじで何観ているときにもディズニー映画（注：劇中アニメ「ムーンプリンセス」）を参照しつづけていて、完全にこれなんやねっていう。
θ：（笑）うんうん。あそこがすごくAIらしかった。デジタルな考え方をするかアナログな考え方をするかってことなのかな。うーん。難しい。そこがその人間とAIの違いってなんだろうというのが逆にわからなくなる話だったなあという気がした。
TO：あーそれはそういう感想になったと。
θ：うん。だってこう、普通に人同士でやり取りする時に、幸せかどうかじゃないにしても今この時間が楽しいかどうかっていうのを測ろうとした時に、今楽しい？っていちいち聞かないけど、でもあっちのほうが手っ取り早いよね。最適解に持っていくには手っ取り早そうだなっていう。
TO：そうだね、合理性がすごい色んな所に見られるんだよね。あの描き方は好きだったなあ。
θ：うんうん。
TO：あと演技が良かった。
θ：あー、土屋太鳳の。
TO：読み方が好きだったなあ。
θ：わかる。
TO：シオンはキャラデザも良かった。
AIは人の行動を映す気がする
θ：うんうん。結局でもやっぱりなんかこう、普通の人間よりも一層周りの人の行動を映しているような気がしたな。
TO：どういうこと？
θ：なんていうかな、他人の幸せが自分の幸せっていう思想の人たちがシオンの周りにいたから、ああいう優しい人格のAIに育っていったみたいな。
TO：うーん。優しい人格というか、幸せっていうのはこういうものだよっていうのはたしか直に教えてるよね、どっかで。その…誰々が幸せだと私も幸せだよみたいなことを。
θ：言ってたね。
TO：周りにそういう人が多かったからっていうのは実際そうなんだけど、そういう指示を出したからそうなったという方が正確だよね。
θ：そうそうそう。そういう意味で…
TO：というかだから、もっと言うと、サトミを幸せにしてくれっていうところから始まっているように、優しい人格に見えるのは多分そういうところで。行動目標が幸せにすることだからということなんだと思うんだよね。いや、本当にこの映画作った人はロボットが好きなんだなって思ったわ。
θ：（笑）僕でもさ、結構あの時点でのサトミの幸せって、別の見方をすればお母さんの実験が成功したらサトミは幸せになるじゃんっていう答えもあると思っていて、するとそっちを目標にしてしまうと一気にシオンが無難な行動ばっかり取るAIになりそうだなとも思ったんだよね。
TO：まあ実際そうだと思う。
θ：減点しないようにしようってなったらあんな行動になってなかったんだろうなと思って。
TO：そうそうそう、だからそのー、シオンの性格みたいなものはないんだよねたぶん。
θ：そうだね。
TO：だから僕が作者はロボット好きなんだろうなと思ったのがまさにそこで、下手にシオンが心を持つ、感情があってみたいな展開はめちゃめちゃ解釈違いなんだろうなと思って。
θ：分かる。
TO：だからメカが性癖な人の書き方。
θ：（笑）わかる、だからこそすごい楽しめた気がするなー僕も。それをさっき言いたかったんだな、感情を持ち始めるとかじゃないから周りの人にとって何が幸せかということで見た目の人格が形成されていって、というのが、人間が周りの人に影響されて人格を形成していくよりもより影響を受けやすそうな気がした。
TO：うーん。逆に指示を出さない限りは影響を受けないんじゃない？
θ：うんうん…そうだね。…指示を出さなければってことは、
TO：むしろ周りにどんな人間がいるかとかじゃなくって、どんな指示を出すか出さないかじゃない？
θ：そうだね。指示にのっとってインプットを受ける人間の人となりに依存すると言うかさ。その、幸せにするっていうのがかなり漠然としている指示だから、結果的にその周りのインプットをくれうる人たちをなるべくたくさん吸収しようとするわけじゃない。
TO：うーん…多分僕の言っていることとは違うな。シオンは色んな高校生と学校で出会ったり遊んだりしてるじゃん。あれで遊んだり長い時間横にいたというだけでは何も学んでいないと思っていて。
θ：つまり言語化されていることだけが参考になっているってこと？
TO：そうだと思う。シオンの質問に対してこれはこうだっていうふうに答えたり、明確に命令なり「この人が幸せになることが私の幸せでもある」というふうな定義付けをしたりというタイミングが何度かあったと思うんだけど。
θ：だから、質問をして返ってくる答えを受けるその質問対象の人格を反映しやすいというのが僕が思ったことなんだけど。
TO：人格？
θ：人格というか言葉で返ってくるアンサーも人間を表しているわけじゃん。
TO：つまりさ、僕がいいたいのは、周りが極悪人だけだったとしても、言葉にして伝えた指示が劇中と同じであれば同じ結果になると思う。
θ：それはそう思うよ。でも結局実験だと思ってなくって極悪人が普通にいつもどおりに振る舞ってたら極悪なAIが仕立て上げられるわけだよね？
TO：極悪な指示を出したら、でしょう？
θ：そうそう。
TO：つまり、劇中とおんなじ言葉で指示を与えるんだけど、目の前で人を殺したり、ドラッグパーティみたいなことがあってさ。
θ：（笑）
TO：劇中とおんなじ指示を出していたらおんなじことになると思う。
θ：（笑）それはでもなんかさ、そんなシチュエーションある？逆に。やっぱり言葉も…
TO：会話は…これすれ違ってる気がするな。
θ：（笑）
TO：周りにいる人が優しかったからとかそういうのは関係ないと思う立場だな。難しいな。
θ：言葉のアウトプットに依存するというのはそのとおりだと思うんだけど、その言葉のアウトプットの根源というか、言葉のアウトプットはその人の性格を反映しやすい環境でテストしていたような気がして、たとえばドラッグパーティが目の前でやってたら、いま幸せですかって言ってどうしてって会話をした時に、こうやってトリップしている瞬間にしか幸せを感じられないんだみたいなことを答える…
TO：それはトリップ…イッちゃってるから話が違う。
θ：うーん…そうなんだよ…そうなんだけど…あーだから言葉が人格を…その人から出てくる言葉もやっぱり人格を反映している気がするんだよね。っていうところじゃない？前提がずれているというのは。つまりあんまり目立った行動をしないほうが幸せになれるんだよっていうことを、まあ最初のサトミは考えていて、その言葉に従い続けていたらきっと無難な行動を取るAIになっていた。
TO：それはもちろんそう。そうそうそう。
θ：っていう意味で…やっぱり周りが引っ込み思案な人だらけだったら引っ込み思案なAIになっていくんじゃないかっていうことで。
TO：まあそう、引っ込み思案指示を出す人間ばかりだったらだ。
θ：それがその周りの人格を反映した行動をとっていくことになるんじゃないかっていう主張。
TO：うーん。
θ：（笑）あんまり腑に落ちてなさそう（笑）
TO：まあ、うーん…それはそう…。
θ：たとえばその、乱取りの練習を付き合ってあげて、サンダーが試合に負けてやっぱだめじゃねえかみたいになってたらまたちょっとシオンが受けるインプットは変わったかもしれない。たまたまシオンがそれ以外の人たちにやった行動がいい結果に結びつくことが連発したから…なんか最初の話と変わってきたなこれ、むずかしいな。…これはちょっと違うな（笑）
TO：僕とθの話のズレに関して言えば、僕はブラックボックスだと思っている部分をθは直結したものとして捉えている可能性がある。
θ：なるほど。
TO：つまり僕は人格と言葉は関係ないと思っている。…いや、ないとはいわないな。なんかその…
θ：じゃあそこに重きを置く割合がこの2人の間でずれているということだね。
TO：重きを置く割合…。θが言っている、周りの人間がそういう人だったから人格も優しい感じになったっていうのは、それが作文で言うまとめだとすると、結びとしては、だからこういう人達に囲まれていてよかったね、なのか、だからロボットの知見が深まりましたっていう話なのか。どういう感想なの？
θ：うーんとね、だからこそシオンを通して見えてきた人間の行動が心を動かしてくれる映画だったという結論かな。
TO：はーなるほど！
θ：つまりトウマが8年前にサトミを幸せにしてくれというインプットを与えたっていうその8年前のトウマの行動に感動したわけ。
TO：うんうんうん。
θ：だからシオンが8年間インプットを続けてました、インプットじゃないわ、その目標を達成しようとし続けていましたっていうのも、まあ感動に値するのかもしれないが、そこでその8年前の行動が見せられるそこにすごくインパクトがあった。
TO：なるほどね。なるほどなるほど。
θ：結局トウマの優しさに感動した気がする。
TO：なるほどね。あーなるほど。…僕は多分そこはさして感動してないポイントだな。
θ：（爆笑）
TO：トウマの優しさに関してはともかくとして、そこでいくと、僕はその状況でトウマが幸せにしてくれじゃなくて笑顔にしてくれって言っても全くおかしくなかったと思うわけ。おんなじ性格の人間で似たような状況であっても。
θ：そうだね。
TO：で、これはわからないけど、笑顔にしてくれっていう指示だった場合、取った行動はまるで違った可能性もある。
θ：そうだね、笑わせりゃあいいんだもんね。
TO：だって笑顔っていう定義があるから(笑)そうしたらさ、事態はどういうふうに転がったかわからないけども。また別のシオンができてまた別の事件が起こるわけで。そこから果たして周りにいる人間を映したものだとそれは言えるのかなーと。
θ：あーなるほどね。
TO：そう思ってしまったというのが、僕が言いたかったことかな。
θ：なるほどなるほど。
TO：周りにいる人間の人格とか思いとかとその指示は一致しなくない？ってこと。
θ：なるほどね。それはかなり分かったわ。
TO：逆に、全くトウマと違うものを腹に抱えていた人間でも、幸せにしてほしいって言うことはあり得るわけで。
θ：それはそうね。
TO：その場合はおんなじようなシオンになるわけじゃない。少なくとも途中までは。
θ：最初の大きな指示がすごく重要であることはよく分かったんだけど、幸せとは何かという定義付けを色んな人のインプットでしていく過程が…。
TO：そうなんだけど、インプットって言葉依存だよねっていうこと。
θ：そうそう、そうだね。なるほどね。
TO：だからごめんなさい、たぶん僕が引っかかっていたのはそこで、べつにθの感想に難癖をつけようとかいうわけでは全く…
θ：うん、わかるよ（笑）
TO：そうだなーなるほどなー。
θ：人間はもうちょっと言葉だけじゃなくて様子とかも総合してインプットするということなのかな。
TO：まあ言ったらそうよ。
θ：あと言葉のトーンとかも含めて捉えるってことね。それはたしかにそうだね。はいはいはい。納得したわ何か。そこが大きい違いだったんだろうね多分。
ロボットの健気さに感動する
TO：うん。そうだなー。僕は完全にロボットの健気さの方だったなーと思って。注目してたのが。健気さと言うか…
θ：例外処理がないってこと？(笑)
TO：えっ？…さっきのシーンで言うと、シオンがサトミをずっと追いかけていたと言うか、サトミの為を思っていたというその一途さと言うか。
θ：そうだね。
TO：不器用さと言うか。完全にそっちでトウマのことはまるで頭になかった。
θ：（笑）それはだから逆にさ、すごい機械らしいよね。つまりこの条件が達成されればこのミッションが終わりですっていう定義を与えなかったがためにずっと追求し続ける存在になったっていうことでしょう？
TO：ん？まあそうだと思うけど。
θ：ていうところにどういう感想を抱いたって言ってた？
TO：今言っているのは、ロボット論の話は終わって感動ポイントのはなし。
θ：シオンに対して感動したってことね？
TO：うーん、ちゅうかたまごっちに対して。
θ：はいはいはい。
TO：だからね、なんかそのフリーガイを観たときにも思ったんだけどさ、正直ねー、最後人間同士がくっつくと「ケッ！」てなるんだよな。
θ：（爆笑）
TO：なんかさ、なにお膳立てしてもらっちゃってんのじゃないけどさ（笑）頑張ってたのはロボットやぞっていう気持ちに…。
θ：そこはじゃあTOはロボットに感情移入してたんだむしろ。
TO：いやどうなのかなー。僕ね、映画観て感情移入ってことをあまりしない。
θ：でもなんかさーその、さっきまでのロボットを追求した人が描いているんだっていう話でいえば、その8年間ずっと同じミッションをやろうとしていたっていうことも、まあ割とドライな見方ができるわけじゃん。ああ、ずっとそのプログラムが実行されてたんだねっていう。…っていう解釈を僕はして、だから8年前のインプットが心打たれるものだったという。だから8年前のインプットに対して僕が心動かされたのに対して、TOは8年間ずっと動いていたことが…。
TO：そうそう。
θ：でもそれはなんかさ、あれでしょう？
TO：僕はあれだから、はやぶさが地球に帰ってきたことに若干感動するタイプだから。そっちを取ったと思ってくれていい。
θ：なるほどね。（笑）
TO：だからさ、なんか思うわけ。その、はやぶさが地球に帰ってきたことに対して、それを作った人のドキュメンタリーとかめっちゃやるけど、いやめちゃめちゃそれは分かる、それはそれで感動的だったりするんだけど、頑張ったのはおま…いや違うな、これはちょっと違うな、その人達も頑張ったからな…。
θ：（笑）
TO：だけど映画とかに関して言うならば、頑張ったのははやぶさのほうやろっていうふうに思ってしまうわけ。
θ：なるほどね。
TO：人間どもが甘い汁を吸いやがってよお。
（後編に続く。「好きなシーンベスト3」「星間工業がザルな件」「母ブチギレ寸前の是非を問う」など、お楽しみに！）
