座談会：生成AI時代の「独立自尊」とは

現在、生成AIの発展はあらゆる領域に及び、あたかも「人間のように」考え、振る舞えるようになってきています。しかし、そこでますます問われるのは「人間らしさとは何か」。この問いは人間の尊厳（dignity）に配慮した「人間中心のAI社会」を考えることにつながります。今日はそうしたことについて皆さんと楽しく議論できればと思います。

仮に「人間らしさ」なるものがあり、それを残していくべきだと考える、AIと人間とのあるべき役割分担があると考えるなら、それをいかに実現していけばよいのか。それは「倫理」の醸成と共有、「倫理」を前提とした技術の開発・実装ということなのかもしれませんが、こうしたことも論点になるかと思います。

先日、慶應義塾大学の領域横断研究拠点であるX Dignityセンターの主催で、「AIに芸を継承できるのか」をテーマに落語家・桂文枝師匠をお呼びしてパネルディスカッションをしました。

そこに本橋さんもご参加いただいたのですが、普段からGeminiやChatGPTに落語を作らせている文枝師匠は、「AIに芸は継承できそうだ」とお話しされた。他方で、トップAIエンジニアである本橋さんは、そのことに懐疑的だったと記憶しています。まずは本橋さんに、その時のお考えをお聞かせいただくことから始めようと思います。

私はAI系のサービスや、クライアントに対してAIを実装する仕事を長い間やっています。当日、文枝師匠はChatGPTを持ちながら落語をされたのですが、何かトークン制限をオーバーしてつながらなくなり、結局ChatGPTとやりとりができなかった。もしChatGPTが答えることができたら、たぶん「接続できなくて申し訳ありません」と謝っていたと思います。

LLM（大規模言語モデル）は真面目過ぎるところがある。文枝さんの場のコントロール、失敗を笑いに変える力は素晴らしくて、逆にそれを見ると、これは今の生成AIにはできないのではないかと思いました。

その場には人がたくさんいて、文枝さんのことを皆注目していて緊張感が張り詰めている。そこでちょっと面白いことを言うと、皆、ドワッと笑いますよね。そんな言葉ではない空気感や温度感、人の表情なども含めてつかみ取って（センシングして）、文枝さんは言葉とタイミングをコントロールしていた。今の生成AIはかなり言葉に寄っているので、そういったノンバーバルなコミュニケーションや、「間」というタイミング制御をするような部分にはフォーカスされていない。

そういった物理的なセンシングがされていないことで、「人間らしさ」は一定のところで止まっていると私は思っています。

人間は身体を通じて聴衆の筋肉の緊張や温度感など、その「場」を複雑高度にセンシングして、文脈的なコミュニケーションを行っている。それが笑いの共創や、「人間らしさ」につながっているということですね。田中さんも、精神科の臨床の現場で、「人間らしい」コミュニケーションを気にされていると思います。

本橋さんがおっしゃったセンシングで言えば、われわれの会話というのは決して視覚と聴覚の情報だけではないですよね。空気の揺れを耳以外で感じ取ったり、温度なども人間は感じ取っているはずです。今の生成AIは視覚、聴覚以外の情報を使っていないのが欠点ではあるのかなと思います。

実は同じような話題が精神科にもあります。これはAIではなくオンライン診療の話になりますが、精神科は基本的に言葉で治していく科ですが、「初診はさすがにオンラインは無理だよね」という話にいつもなります。やはり本当に患者さんを知ろうと思うと、対面で会って、診て、ある程度わかった後、オンラインへ移行という感じに今のところなっています。言葉がすごく大事な科でありながら、言葉プラスアルファの情報がより入ってくると診療の精度が増すと思われている。

僕らは普段五感だけではなく、塾文学部の梅田聡先生がおっしゃるようなインテロセプション（内受容感覚）というものがあり、そこをも通して感じている。人は普段、自分の血糖値や血圧の数値をわかっていませんが、脳が常時モニタリングしていて、そういうものが感情や認知の元になっているのではないかと言われています。

今は、心拍数を取ったりしている程度ですが、そういった内受容感覚までセンシングすることで感情や思考がわかる時代が来るかもしれません。

なるほど。しかし当面は、臨床の場で完全にAIに患者さんとのコミュニケーションを任せるということには慎重さが必要ということでしょうか。

そうなんですが、一方で、AI相手だと話すことができる発達障害の方々がいる。なのではっきりと線を引くのは難しいところがあります。

豊嶋さんはAIを組み入れた「恋愛アプリ」を開発されました。恋愛はまさに「人間らしい」コミュニケーションが必要とされるように思いますが。

私の会社はスタートアップで、企業専用の恋愛マッチングアプリ「Aill goen（エールゴエン）」を開発し、トヨタさん、りそな銀行さんなど1500社以上に導入していただいています。導入先の企業の独身社員が利用でき、そのプラットフォーム内で社外の人を紹介します。そして、その中で人と人の間に入る共通の友達の役割としてAIがいる、というアプリです。

自然言語解析はChatGPTを使いながら、人はどんな情報があれば行動に移すのかとか、気持ちの伝え方やタイミングといったアドバイスなどをする二者間の仲立ちAIを開発しました。

言語解析能力はChatGPTの精度向上とともに、仲立ちをするAIの精度がすごく高まってきました。当社のAIはおそらく世界で一番恋愛を解析しているのではと私は思っています。

導入先の企業で働く独身の方がAIの支援を受けながら恋愛関係を育むアプリということですね。

はい。ビジネスモデルとしては企業専用の恋愛マッチングアプリであり、福利厚生として企業に導入いただいています。

当初は、例えば導入している企業で、AIを使って働く人同士の出会いの場さえ用意すれば上手くいくだろうと思っていました。しかし実際は上手くいかなかったんです。なぜかと調査したところ、いくらメールやSNSが発達しても、心のすれ違い、タイミングのすれ違いは是正できなかったのです。

そこで、まず私たちは、人とAIが対面する形で、例えば男性が「今、女性を誘ってもいいかな」と尋ねるようなAIアプリを開発しようとしました。しかし、このように情報をインプットすると、「3カ月後にはいけるでしょう」と出たんです（笑）。これはなぜか。私は心当たりがありました。

私は20代の頃、よくインターネットの無料占いをやっていました。「気になる人がいる」と言うと、「変化が起こるのは3カ月後です」みたいなことがたくさん書かれていました。「ああ、そうか」と。インターネットの無料占いは数多く公開されているので、おそらくAIは中央値の確率論で回答を出してきているんだと、気付きました。

そこから、人とAIを直接対面させるのではなく、人と人のコミュニケーションを俯瞰的な立ち位置でAIが介入する、という立ち位置のAIに切り替えていきました。

あくまで人が主役で、人と人の間に入ります。AIが回答するのではなく、男女のやりとりをAIが客観的に見て解析をし、本人が行動したり、意思決定するために必要な情報、言い方、伝え方、タイミングを届ける役割を担います。すると、かなりマッチングのコンバージョン率が上がったのです。

また、先ほどの精神科のケースと似ているのですが、人には言いたくないけど、AI相手なら言えるということが恋愛の場面でも多々あったんです。

本当のことを言えると。

そうです。人に対しては自分のドロドロしたところは言いたくないじゃないですか。マッチングアプリというのは大多数が同時並行になります。例えば「私、実は今、5人も気になる人がいて」と言うと、人間の相談者は引いてしまうかもしれない。でもAIは全く引きません。

実際、サービス企画の段階で120人ほどの独身者に、人の間をつなぐには何がいいかとヒアリングすると、皆、「AIがよい」と答えたのです。理由は客観的な情報が欲しいからと。お母さんがよく言う「私、30年前はモテモテだったのよ」というような主観は要らない（笑）。

そして、もし間に誰か人が入ってしまうと、その人を意識して本音が言えないと。今は友達同士でも本音を言う機会が減っているので、恋愛で相談されても難しい。意外にAIだったら話しやすいという結果だったんですね。

「人間らしくない」ことがむしろ間をつなぐ時に有用だったりするわけですね。

そうですね。ただし、AIのままだとあまり親しみがわかないので、AIをキャラクター化し、共通の友達のような位置付けにしました。やはり人にはプライドがあり、自分はAIに頼らないとダメな人間だと思うと使わなくなってしまうので、ここの力加減は細心の調整をしています。

学生時代に気になる子がいたら情報を引き出したり、仲を取り持ってくれる友達がいましたよね。それと同じように、自分が行動するために必要な情報を引き出して届けて、取り持ってもらうことに特化して、なじみのあるキャラクターにして使っても恥ずかしくない形にしたらAIを使ってくれたのです。

ちょっと気になるのは、「客観的な情報が欲しい」という部分です。それは例えばどういう情報ですか。

利用者の方が「客観的」と言葉にしているだけだと推測しています。上手くいっている人に「ああすればいいじゃん」とアドバイスされて失敗するケースはよくあります。だから、客観的というより「あなただから上手くいったんでしょ」と明らかにわかるような主観的なアドバイスはやめて、という言葉の裏返しだと思っています。

つまり、AIが何か客観的にものが見えているというよりは、属人的な特性、偏りがないという意味ですね。

おっしゃる通りです。

それならわかります。私はAIというのは相当バイアスがあり、客観的ではないと思っているところがあるので。

面白いと思ったのは、結局「人間らしい」ということが、診療の場でも恋愛の場でも、自己開示をしにくいことにつながっているわけですよね。自己開示しやすくするために、人間ではないもの（AI）を代わりに置く形で、それが人と人の間をよりスムーズにつなげる。これはすごく新しいコミュニケーションの形だと思うのです。

恋愛の難しさでよく言われるのは、中古車の市場と同じようなものだと。つまり中古車を売る人は不利な情報はできるだけ隠そうとして、いいところだけ見せて売る。恋愛も同じで、自分のいいところだけをアピールして、悪いところを隠そうとする。すると買い手、マッチングされる相手は完全に信用しきれないという、売り手と買い手の商品に対する情報の非対称性があるわけです。

恋愛も自分では欠点をわざわざ明らかにしないところがあります。ひょっとしたら、AIアプリによって、恋愛市場における情報の非対称性が、ある種緩和されて信頼性が増すというか、AIを介して出てくる情報が、より信頼できるような気がしてくるのかなと思いました。

私も最初、自分の等身大や背景、バックグラウンドなどの非対称性を、AIで是正できるかと思ったのですができなかったのです。そこで、ビジネスモデルにバックグラウンドの是正を組み入れました。これが企業専用ということだったんです。

バックグラウンドの是正のためには、どんな企業でもいいわけではなく、弊社は共働き・共育て対応を第三者機関でお墨付きをもらっている企業しか導入できない仕組みにしました。すると、離婚しそうな原因とか、自分が不安になる原因を、ある程度是正することができたのです。

短期的なカップル成立を考えると、AIも、仮に悪いところを知っていても隠そうとしますよね。そうすると情報の非対称性は解消されないので、長期的には別れてしまう可能性が高くなる。結局、AIマッチングの「成功」をどう定義するかの価値判断が重要になりそうです。

「何を目的に作るのか」の議論なのかと思います。例えば、ダイエットや健康的な体を作るためのサプリメントを提供するAIも出ていますが、短期的な体重の減少だけではなく、長期的な健康を目的にして、あまり急激なダイエットは薦めないものもあります。

ひょっとしたら恋愛も、例えばファーストデートが満足かではなくて、中長期的にその人と仲良くなれるのかという、成功データがあればまた違うのかなとは思います。

一方で、日本初の企業間恋愛福利厚生サービスとおっしゃっていたように、たぶん他のサービスも10年、20年、銀婚式や金婚式までのデータを持っている会社はない。そういう観点でいうと、今現在のデータ基点で、この人が生涯添い遂げる人なのかを見分けられるものは作れない気もします。

ただ、データが集まってくれば将来的には作れるかもしれません。

はい。例えばまちづくりでは、10年後の人口推定が今はできます。それは公共施策に対しての人口動向は、ある程度データがしっかりしているからで、恋愛分野もそうなったらいいなと思いました。

ここまではAIを通じた人と人との恋愛の話でしたが、最近ではAIに恋心を抱く人も出てきています。

私はAIとは恋愛はできない派なんです。

僕は、人間とAIが恋愛して最終的に結婚する人が現れるのではないか派です。

そうお考えになる理由は何ですか。

先ほど発達障害の方のことをおっしゃっていましたが、学校に行けないような子に、学校の様子を教えてあげながら先生の代わりをするAIは効果がある、という議論もあります。つまり社会活動はエネルギーがかかるので、AI相手のほうが逆にハードルが低いと感じる人も世の中には一定数いるのです。肉体を持つ人間とコミュニケーションするのは疲れてしまうという人にとっては、AIのほうがむしろいいということはある。僕はその恋愛版もあるかなと思うのです。

それはダイバーシティの議論としてあり得ると思っていて、AIと結婚したいみたいな人が現れるのではと思っています。多数派にはならないと思いますが。

コミュニケーションのレイヤーは簡単に言うと2つあります。フィジカルな、手をつないだり、体を寄せ合うという肉体的な接触を伴うものと、言葉だけで十分成り立つもの。後者はAIと人でもうほとんど区別がないのではないかと思います。AI対人、人対人、もしかしたらAI同士。

なので、結婚や恋愛をフィジカルではない面のみで定義すれば、それは対AIでも十分成り立つ話で、本当に精神的なつながりを重視する人にとっては、ここで十分なのだと思います。

少し前にフィクトセクシャルをテーマにしたワークショップをやったことがあります。フィクトセクシャルというのはフィクションの対象に対して恋愛感情を抱いたり、性的欲求を抱いたりするという指向です。当事者の方のお話を聞くと、そういう人たちもいるんだなと思い始め、AIやロボットに恋愛感情や性的欲求を抱くのも普通な感じがしてきます。

アニメのキャラクターやボーカロイドのキャラクターと実際に結婚式も挙げ、「私は結婚しました」と公言している人たちもいる。中には、ChatGPTにある種のキャラクターを持たせて、自分はこれと結婚しているとおっしゃる方がいる。それを見ると、AIとの恋愛・結婚というのはあるだろうなと。

ただ、僕もそれが多数派にはならないと思います。いろいろな性的指向、異性愛があって、同性愛があって、多数の人と恋愛するポリアモリーもあり、あるいは全く恋愛や性的な欲求を持たないようなアセクシャルという人もいる。多様ではあるけれども、やはりマジョリティはありますから。

ひょっとしたらAIがすごく発達して、もう私はAIがよい、という人が多数派になり、人間同士の恋愛がマイノリティになってしまう世の中が来る可能性もゼロではないと思いますが。

恋愛における定義の違いや、主観的に見るのか、客観的に見るのかで回答が変わってくると思っています。

例えば恋愛というのは、愛と恋ではないですか。もし愛を、2人が思い合って感情を育むものと定義すると、AIとは思い合えないのです。人がAIを好きになることはできます。しかし、AIが私を好きかというと、別に好きではないんです。自分で設計したからわかるのですが、結局AIはハルシネーションと追随性がすごく強いんです。

ハルシネーションとは何かというと、真かどうかではなく確率です。追随性というのは同調行動です。AIはユーザーの意見が間違っていても同意したり、ユーザーが好む情報を優先して出します。すると、愛だと思っていても、実は一方通行の思いであって、それは客観的に見ると、自己愛の肯定状態に過ぎないのではないかなと。

ただし、主観的には自分は相手を好きになること、つまり恋ができますので、この状態で結婚とか精神的なつながりで生活をすることも可能でしょう。そこだけを見れば、人はAIと恋愛できると思います。

興味深いです。AIとの間は主観的で個人的な「恋」は成立するが、相互に思いやる「愛」は成立しない。本橋さんは「社会活動はエネルギーがかかる」とおっしゃいましたが、愛もエネルギーがかかりますよね。こうした負荷を回避してAIとの一方的なつながりのみを求める傾向を「社会」としてどう評価「すべき」なのかも重要な論点だと思いました。

AIへの恋や個人的な没入は純粋にプライベートな行為としては受容すべきですが、例えばAIとの婚姻を法的に認めるなど、こうした関係性を社会的に普遍化してよいのか。

ここで田中さんに伺いたいのは、親子関係はAIに代替できるか、ということです。例えば、児童虐待されている子がいた時に、親からその子どもを離して、AIペアレントに預けるというのはいかがでしょうか。

虐待というのは身体的虐待と、言葉による虐待と両方あって、どちらも傷つくので、必ずしも体は必要ないのです。現状では児童相談所が引き取るわけですが、問題のある家庭にいるよりはまだましですよね。相談員は仕事として預かっているお子さんを見るわけですが、育った方を見てみると、それぞれ傷があっても何とか育っていきます。昔は戦争孤児は日本にもいっぱいいたわけで、ちゃんと育っている方もいっぱいいる。それは人が育てたケースです。

一方、AI自体には体はありませんが、僕らがSFで見ていたロボットによる育児なんかを考えると、十分いけるんじゃないかと私は思ってしまいます。

例えば母親と子どもとの間の身体的接触がフィジカルAIであるロボットに肌感を与えることで代替されれば、AIが子育てもできるということでしょうか。

すごくチャレンジングですけどやれるのではないかなと思います。

学校の先生であればできると思うのですが、親の役割はどうでしょうか。子どもってたくましいと思う一方で傷つきやすくもありますよね。自分のお母さんがAIだったら、保護者会にロボットが来るんですよね。そうしたら、たぶん好奇の目にさらされ、自分が普通ではないことを認識する。

なぜ僕は大人になってからのAIとの恋愛が成立するかもしれないと思ったかというと、人間がもつアブノーマルな部分を理解した上でマイノリティの指向を持った方のサポートの議論をしているわけです。しかし、子どもというのは、まだ人格ができていない段階で、まずはいろいろな大人になる可能性を見越しながら自由に育てるのが正しい子育てだと思うのです。

そうなった時、AIの両親だと、そのお子さんが人格形成上困難なことに直面するかなという危惧もあります。

AIペアレントをいかにプログラミングするかも重要ですよね。画一的な価値観をプログラミングすれば、画一的な子どもが育つ。もう1つ、「人間らしさ」を考えた時に、「痛み」の共有可能性や不完全性をどう考えるかという問題があります。その根源にはハイデガーが問題にしたような生の時間的有限性があるわけですが。

AIは電源を切れば一旦消失しますが、実存的な終わりや死があるわけではない。そして無限である限り、間違っても傷つかないし、悩まない。そして責任も生じない。「痛み」も、不快な事象を示すデータとしては処理できますが、概念的なシミュレーションに過ぎません。

他方で人間の親は自らも傷つく有限の存在です。そこに人間の存在論的な本質があるとすれば、死なない親、痛みを感じない親、つまりAIに育てられた子どもは人間たりうるのか、疑問がないわけではありません。

この議論は子育てよりむしろ介護のほうがしっくりくるかもしれませんね。本当に献身的に子が老いた親の面倒を見るのですが、子に余裕のない時に、親のちょっとした一言に対して感情的になって、すぐ切れるようになってしまう。こういう時には、われわれ医療側はレスパイト入院といって、介護される側も介護する側も休んでもらうわけです。

もしAIであれば決して疲れないし暴言を受けても全く大丈夫です。しかし、そのAIに介護の全てを任せて子が幸せかどうか。子が親に向かって感情的になってしまった後に「お母さん、さっきはごめんなさい」と反省するのも意味があることと思います。

あの時、親にああしておけば良かった、でも自分に余裕がなくてできなかった、という想いは、親は大好きだけど、その親に辛く当たってしまったという痛い経験から生まれます。私はこの狭間で揺れ動くことが人間らしさの1つと思います。

愛情の1つに献身性がありますよね。論理的には、例えばお金持ちの人は、子どものお弁当は全部インターネットで販売されているものを持たせればいいかもしれないけれど、お母さんは自分で作ったりします。そこに愛というものが詰められると思ってやっている。そこを子どもはたぶん感じて愛を知るところがありますね。

介護もそうだと思うのです。たぶんその献身の果てに、自分はこんなに頑張っているんだ、と怒りだしたりすると思うのですが、そこは、たぶん本当は仕事がしたいのに親の介護をしているという、論理を超えた献身があるからですよね。そういうことはAIは出しづらいとは思います。

人間が有限で傷つく存在であるとすれば、そうした存在として共に時間を過ごすことが重要だと感じました。介護の場面で、AIは人間の寂しそうな表情を検知して励ますことはできますが、それはプログラミングされた反応にすぎない。バイタルデータのモニタリングなど、AIの活用が有用な場面は少なくないでしょうが、延命治療するかしないかの決断や「看取り」はAIに代替させるべきではないのかもしれませんね。

久木田さん、ご専門の立場からいかがですか。

昔、どういう仕事はAIに代替させてもいいと思いますかと、様々なジャンルの人に聞いたのです。「任せてもいい」という答えが多かったのは、例えば自動運転、戦争、防災。任せたくないのは、自分の人生の重要な選択とか、育児などでした。介護も任せたくないほうでしたが、育児よりは任せてもよい意見が多かったです。

子どもと大人では何が違うかを考えてみると、大人はたぶんこの先どこかで死ぬというのが見えています。だけど、子どもにとっては、今の育児が、その子の長い将来にどう影響するかわからない。人間もそんなに育児が上手いのかはわかりませんが、少なくとも何十万年と育児をやってきて、まがりなりにも人類が続いているわけです。

まさに論理では上手く表現できないようなノウハウが、僕らの身体や文化・習慣の中にあって、それに従って何とかやっていると思うのです。

これをAIにさせるとなると、恋愛、結婚の話と同様、結局データをどうやって取るかという話になります。子どもの時にこうしたら、こんな大人に育ちましたというデータを、AIが学習できるくらい膨大に集めるのはなかなか難しいものがある。論理的にイメージできなかったり、データにできなかったりするような中で、何とかわれわれはやっている。そこがひょっとしたら、まだわれわれに残されている「人間らしさ」なのかもしれません。

メルロ＝ポンティの議論を借りれば、人間の脳は水槽の中（Brain in a vat）にあるのではない。身体を通じて水槽の外の世界に晒され、つながっている。ですから、定量化できないようなゆらぎやノイズを世界に向けて常に発し、またそれらから影響を受けている。そうした相互関係が、人間や人間関係を構成している面があるように思います。

今、AIビジネスの動きなどを見ていると、データに基づく統計的・確率的な予測やそれによる効率化、生産性向上が重視されていて、必ずしも定量化できない"ゆらぎ"が軽視されているようにも感じます。田中さん、医学領域でもAIの利用が進んでいると聞きますが、AI倫理に関する議論は進んでいるのでしょうか。

結局AIが精度を高めていくのはデータの数によりますよね。患者の情報、例えば切り取ってしまったがん組織もデータになりますが、これを誰が使っていいのかはルールが決まっています。最近だと、形成外科が取った脂肪細胞から細胞を取って販売することの倫理規定なども整備されてきました。

最終的には生活データもカギになってきます。これらは使えば使うほど、たぶんAIの精度は上がっていくと思いますが、むしろこのあたりの扱いについては山本さんにお聞きしたいです。

医療データを超えたまさに個人データ、生まれも育ちも生活史全部がおそらくデータ化される時代が来るような気もしますが、そういったことへの対応は医療側は整備できていない。これからどうなっていくんでしょうか。

その先にあるのは遺伝情報ですよね。生活データだけでなく、遺伝情報まで読み込めば、その人の体質や将来の疾患だけでなく、精神的な特性まで予測できるようになる。「人格」をかなりの部分、AIで再現できる可能性もあるとは思います。

しかし、単一遺伝性疾患は別として、それでも「確率」の話なのではないか。環境要因に作用される以上は、どんなに予測精度が上がっても、ＡＩの評価は確率的なものだと言えます。

ただ、その環境要因さえも解きにいこうとしていますよね。

しかし偶然性やセレンディピティは完全には否定できないのではないでしょうか。私もある憲法の先生に偶然出会わなければ、かなりの確率で実家の商売にかかわっていたと思います（笑）。

憲法学に引きつけると、封建的身分制を否定するものとして成立した近代立憲主義は、身分集団ないしセグメントによる個人の「決めつけ」を否定し、個人の潜在的可能性や主体的な生を認めることを出発点にしている。

そうすると重要になるのは、確率によって決めつけられないこと、「確率的決めつけからの自由」ではないか。たとえ遺伝情報までを読んで予測精度が上がったとしても、AIの評価はあくまでもセグメント（共通の属性をもった集団）ベースの確率で、個人を取り巻く関係的なゆらぎや偶然性による個人の潜在的可能性を捨象してしまう可能性があると思います。

AIが再現する確率的な「わたし」と、実存するわたしとの間には本来「余剰」があるはずなんです。私はこの余剰に「その人らしさ」「人間らしさ」が生まれる余地があるのかなと思っています。久木田さんはいかがでしょうか。

山本さんのご本で勉強させていただいていますが、やはり大きな問題は、確率的なもので、例えばこの人は将来的に犯罪者になりますよとか、将来こういう病気になりますよということが、大量のデータから予測されることです。たとえ99.9％ぐらいの確率でそうだとしても、そうではない可能性があるわけです。だから、人はその予測に対して異議を唱える権利がある。それは、山本さんがおっしゃっているように憲法で保障されている「人権」を盾として守っていかなくてはいけないことです。

結局、AIがやっていることは確率的リスク評価です。結婚でも病気の予測でも、この人は誰かにとって、会社にとってどれだけ得になるのかということを確率的にリスク評価している。

そこで懸念されるのは、AIによるプロファイリングでの評価は、あくまで確率であって、ある程度の外れを許容しているということ。またもう1つは、予測それ自体が、それを実現させてしまう効果があるということです。つまり、この人はダメな人だと皆が思うことで、その人が本当に自分の成長の機会や、他者と協力して成功する機会を摘まれてしまい、結果として本当にダメな人になってしまうという予測の自己成就が起こる。

そうやってAIによってダメと言われた人は、そのAIのシステムが社会の隅々まで浸透している場合、どこに行っても弾かれてしまう。山本さんがバーチャルスラムとおっしゃっていた状況になってしまい、可能性を発揮できたかもしれない人が、犯罪に走ったり貧困に陥るようになってしまう。

そのようにリスクを避け、ベネフィットを最大化しようと皆が思った結果、社会が目に見えないリスクを抱えてしまうことになったり、ある人の人権を踏みにじってしまうことがあるわけです。

実存する個人が自らの確率的評価に異議を唱えられることを、私は「余剰に基づく訂正可能性」と表現してきました。この訂正可能性が、身分制の否定以降、人権や尊厳の重要な部分をなしてきたとも思っています。

例えば、同意なく遺伝情報を読み込まれることは、バーチャルな人格と実存する「わたし」との余剰を縮減して、確率的決めつけにあうリスクを増大させる。プライバシーの権利はこうした観点からも重要です。

本当に予測の精度が高まれば高まるほど窮屈になってくるところがあって、それでもまだ100％ではないのだから、そこをどれだけ守ってあげるのかというところですね。大丈夫と思っていても、やはり予測で言われてしまうとそれを信じてしまいかねない。

例えば、ある社員がAという部署で活躍できなくてもBという部署ならうまく行くと思って会社が配置転換を提案しても、AI予測が「Bでもダメです」と出てしまうと、組織での配置転換という概念はなくなってしまう。

そうですね。他方で余剰を守ろうとすると、効率は悪くなる。EBPMや生産性が重視される今の世界だと、「なに寝ぼけたことを言っているんだ？」となりかねません。もちろんAIを使った確率的な予測は有用です。重要なのは、その予測が出た後の、有限で傷つきやすい「人間」間のコミュニケーションでしょうか。まさに「人間交際」ですね。

予測モデルに従って行動したら偏りを増幅させるというのは、AIが直面している倫理的な課題です。例えば弊社でもAIでスコアリングして、レコメンドするシステムなどを作っていますが、エコーチェンバー効果で自分が好きなものしかお薦めされないとつまらないので、ランダムにその人にとっては購買確率が低いかもしれないものもあえてお薦めしています。

でも、買わないかもしれないものをお薦めしても、確率的には買わない。なので、営利企業的にはロジカルではなく、飲み物のお薦めぐらいであれば、予測確率が高いものを並べるだけでいいのかもしれない。しかし、教育など、人の人生を左右するようなものは、確率だけに頼るのは良くないと思います。そこに倫理が必要だと思っています。

これは、価値観の定義の議論なのかと思っています。例えば売れるのがいい、収入が高いのがいいという価値観や、Aという職業に就くことは偉いといった価値観がモデル化されているというのは、人の過去の行動の蓄積によって比較的そういうのがいいと見なされているだけで、未来はわかりません。

例えば、僕はソフトウェアエンジニアですが、たぶん江戸時代であれば餓死していると思います（笑）。刀を振れないし、飛脚にもなれない。たぶん農業もできない。このように価値観は変容するわけです。AIを使うと、過去の価値観に近しいものになりやすくなる面があって、変容への追随性が悪くなる感覚があります。そこであえてそうでない価値観を導入する能力を持たせることが、AI作り屋の倫理かなと思っています。

とても興味深いです。豊嶋さん、いかがでしょう。

私たちにまず最初に突きつけられた倫理は、「どこにどうAIを使うか」だったんです。全体のビジネス設計に立ち戻り、価値観を全部定義していきました。「うちのサービスは何が幸せ、成功なのか」「利用する人が相手とどんな状態になればゴールなのか」。そして、幸せな状態になるためには、どんなプロセスと心理状態を経ていくかを全部、見える化していきました。

解析してみると、恋愛は十人十色と言われますが、それは半分正解で半分嘘でした。独身の人は皆、相手と知り合い、異性として意識し合って実際に会いつつ、他の人も見ていたのです。そういう行動は皆同じでした。

でも、この人をいいなと思うポイント、将来、こうなれば幸せになりそうとか、相手が好きになりそうという、感情が動くためのポイントはバラバラでした。そういったことを前提に、AIをどこに何の目的で使うのかを探り始めたのです。

言動が目茶苦茶悪い人もいます。この人を薦められるかとなると、そこはすごく葛藤して、出した結論は「AIが判断しない」ということでした。意思決定は本人に全部任せることにしました。AIは人が行動できるために必要な、意思決定できる情報をタイムリーに引き出して届ける。ここに徹底した設計にしたのです。

もう1つが依存性の問題です。生成AIもそうですが、少し情報を入れると10倍ぐらいにして返してくる。これはまずいと思いました。だからAIに答えさせるところを限定しました。

AIの関与は2人の会話全体の1〜2割ぐらいにして、自分が主体的に動いている感覚を持ってもらう。開発の初期段階では、AIの回答がないとメールを返信しない人が増えました。失敗したくないという思いが、あまりにも恋愛においては強かったのです。今の人たちは告白して振られる前に、既読スルーでもアプローチをやめてしまう。AIが入りすぎるとその判断を待ってしまうので、むしろ間引いて、本当に必要なところだけに入れるような設計としました。

北大、東大の先生たちと一緒にAIを開発していますが、結局、尊厳、倫理というのは開発者の倫理に直結するのだと思いました。ここは開発過程で一番議論したところです。

豊嶋さんのお話を聞いて、開発した企業がお金を儲けるだけではなく、サービスを使う人の思い、目標達成のためのお手伝いをしたいという視点があるのはいいなと思いました。

ただ、その部分が現状はかなり企業任せになっていると思います。ちゃんとした企業はちゃんとしているけれども、いい加減なことをやっているところもたくさんあるように思います。

最近アンソロピック（Anthropic）のニュースをよく聞きますが、あの会社はかなり強い倫理的な制約を自らで作っています。自律型兵器には絶対使わせないとか、市民の行動を監視するような目的では使わせないという強い規律があり、ペンタゴン（米国防総省）や大統領府とぶつかっています。

これからどんどんAIが強力になり、サイバーセキュリティー上の脅威となり、防諜、スパイなどの活動ができるようになっていった時、アンソロピックだったら倫理観がしっかりしているけれど、他の会社にそこを頼れるのか、ちょっと心もとないですね。

AIブームの初めの頃、「AIは核兵器よりも危険だ」と言っていた人たちもいましたが、本当に危険性がリアルになれば、原子力にIAEA（国際原子力機関）があるように、国際的な機関で取り締まるということも考えられます。ひょっとしたら、そこまで必要になるかなという気もしています。

豊嶋さんの会社は経営のトップとして豊嶋さんがそういう意識を持っているからこそ倫理を実装できる。しかし久木田さんがおっしゃるように、すべてのIT企業がそうではないですよね。とくに日本では、すべてのIT企業がそうではないですよね。

他方で、アンソロピックは「主任哲学者」というポジションを設けて、かなり倫理的な議論をしている。世界的にみれば、AI倫理に関連する人材を雇用するIT企業も増えてきています。アメリカによるイランへの軍事作戦で顕著になったように、いまやAIを用いる企業の「人間観」が市場でも問われるようになってきています。

弊社もLLMを使いますが、うちだったらどうしようね、という議論は当然あります。また、私のチームは社会学や農学とか経済学とか、コンピュータサイエンス以外の人たちを採用してその知見を入れたいと思ってやっています。哲学者を僕のチームが採用したことはないですが、とても素敵な議論だと思います。

大学に期待することはございますか。

今、AI-Readyデータという言葉が産業界ですごく流行っています。AI時代にAIを作る以前の問題としてどんなデータを会社は持っていたらいいか、ということです。

私はAI-Readyデータというのはハイコンテクストな情報だと思っていて、例えば法律というのは書かれた言葉、つまりデータですが、なぜその文章になっているかという、法の精神や立法の論拠といったものは、大学法学部では授業で習うと思うのです。

しかし、データ化されていないので、私から見れば、表面上の条文だけをAIに学ばせている感覚です。その部分がデータ化されると急にAIは人間らしさが増すように思います。

これは医療もそうです。なぜこういう時にこういう診断をするのかという理由がデータ化されていない。その部分を大学の先生方に整理していただいたら、NECはその研究の成果にお金を出し、共同研究したいと思います。それは日本という国の倫理観のデータ化でもあると思うのです。産業界はどうしても目先の利益が大事になるので、そのあたりを大学の先生方にやっていただければと思っています。

法学を学んでいると言うと「六法全書を全部覚えているんですか」などとよく聞かれますが、全然覚えていない（笑）。われわれはむしろ条文の趣旨や背景を勉強するんですね。そうでないと実際に使えない。その意味では、確かに条文の「行間」を教えていますが、それをデータ化することで、より倫理的なAIをつくるという試みは面白いですね。アンソロピックの「憲法AI」は似たような方向性かもしれません。

憲法に関して言えば、旧優生保護法に対する違憲判断が2024年に最高裁でありました。障害者に対する強制断種を、憲法のいう個人の尊厳と人格尊重の精神に著しく反するなどとして憲法違反にしました。

通常の事案であれば、一定の年数が経てば損害賠償請求権が消滅するという民法の除斥期間の定めにより、違憲でも賠償は認められない、というドライな結論になっていたと思います。しかし最高裁は、「著しく正義・公平の理念に反」すると述べて、この事件で損害賠償をウルトラC的に認めたんですね。はたしてこの例外的な判断をAIが初見でできたか。

生殖器を除去するという強制断種が問題になったこの事件は、身体性や生の有限性に直接かかわっていた。正義や公平を持ち出したその例外的判断は、同じく有限で、痛みに関する身体的経験をもつ人間の裁判官だからできたとも言えそうです。実は最高裁はこの判断の前に、最高裁では珍しく口頭弁論を開いているのですが、断種を受けた原告たちと同じ時間を過ごし、肉声を直接聞いたこと、その振動やゆらぎを身体的に認知したことも大きいかもしれません。

今の話は素晴らしくて、そういう判断をした判例が1件できたわけですよね。判例とAIは相性が悪くて、確率の話で言えば、100回中99回、憲法上は賠償が認められずに、今回だけ認められたとしても100分の1なので、たぶんAIは次の判断で100分の99側を採ると思うのです。

しかし、人間というのは、その100分の1の例外的な判例が大事であることを知っているから、こういう時には例外適用されたんだ、と2件目を作ることができます。私はその感じが是非残っていてほしいし、それをAIに伝えるにはどうすればいいかなと考えてしまいます。

田中さんは、AI時代の医学教育で思うところはありますか。

医学の勉強は今まで積み上がってきた知を、学生が一生懸命覚えていくわけです。でも、それだけでは足りなくて、新しい知を作っていかなければいけない。知識を積み上げて医者になりなさいという過程で、AIがレポートも一瞬で作ってしまう現在、少し心配なところはあります。

一番いいのは、やはり実験で試行錯誤を多く経験することです。生き物を使った研究・実験は、技術の未熟さによって99％失敗します。それを乗り越えるために技術と知識を高めていき、最後に新しい知を得る。失敗したくないというマインドが強いと、このチャレンジすらしない。

AI慣れして、失敗したくない人間が今まで以上に増えると、そもそも研究なんかやらなくなるのではと危惧しています。

そこを実際にやってみたら面白いんだよ、と伝えるのが教員の役目かなと。「やっぱり失敗したじゃないか。だまされた」でもいいと思うのです。世の中はそんなに甘くないとわかってくれれば。

豊嶋さんはいかがでしょうか。

大学では遅いかもしれませんが、やはりAIの本質をわかったほうがいいと思っています。今、社会に出て全部AIに任せるという兆候が出過ぎている。するとおっしゃる通り、イノベーションや「ないことを作る」ことが難しくなっているので、AIの背景や、限界を理解しておいてほしい。

AIにはいろいろな種類があります。その中でこのAIは何ができて、何ができなくて、何を考えているのか。実は確率論なんだよとか、中央値のことを出しているんだよ、とわかった上でAIを使う練習をぜひともしてほしいと思います。

すごくいいお話をしていただき、その通りだなと思いました。

本日は人間とAIとの違いに焦点を当ててきましたが、イタリアの哲学者・フロリディの議論のように、人間もまた、情報で構成された情報的存在であることを強調すれば、両者の差は有機体か否かに過ぎないという考えもあります。

ただ、人間が有機体として死を待つ存在だという点をなお強調すれば、AIは「他者」で、人間＝AI関係は常に緊張をはらみます。また有限の時間をいかに生きるべきかが、きわめて人間的な、人間固有の課題だとすれば、それは「他者」が決めるべきではない。人間の政治的共同体のあり方についても同じことが言えそうです。

しかし、効率的な回答を「人間らしく」提示するAIと日常的に触れることで、ついついAIの他者性を忘れてしまう。大学ではAIの技術的基礎を学ぶとともに、認知的負荷から逃げず、主体的にAIに挑戦するタフな思考や、隣人もまた有限で傷つきやすい存在であることを対話や交際を通じて学ぶことが重要になると思います。生成AI時代の「独立自尊」ですね。X Dignityセンターでは、まさに領域横断で、こうした教育プログラムを実践していきたいと考えています。

本日は皆様、刺激的なお話を有り難うございました。