「人工知能が浸透する社会を、異分野の研究者たちとともに考える」江間有沙さんインタビュー

「人工知能」ブームだ。「人工知能」という単語をニュース記事で見ない日がないというほどバズワード化し、また実際に人工知能自体が社会の中で使われるようになってきた。

「人工知能」ブームだ。「人工知能」という単語をニュース記事で見ない日がないというほどバズワード化し、また実際に人工知能自体が社会の中で使われるようになってきた。

一方、人工知能というテクノロジーと社会との関係は複雑になり、問題も起きつつある。例えば昨年の人工知能学会誌「人工知能」1月号の「表紙問題」では、表紙イラストで女性型ロボットが掃除をしている姿が、差別だなどとしてネットで批判された。その「表紙問題」をきっかけに、若手研究者らによる研究会Acceptable Intelligence with Responsibility (AIR)が昨年、始まった。人工知能の研究者と人文・社会学の研究者がともに、「人工知能が浸透する社会を考える」をテーマに活動を進めている。

その中心メンバーのひとりが、科学技術社会論(STS)が専門で東京大学特任講師の江間有沙さんだ。江間さんはAIRをはじめ、理系文系問わず異分野の研究者やステークホルダーをつなぎ、社会や科学技術の課題に取り組むプロジェクトを進めている。AIRについて、また江間さん自身が考える異分野連携研究のあり方について聞いた。

今年6月に函館で開催された人工知能学会で発表をする江間さん

異分野の研究者が集まった

ーーAIRは、「人工知能が浸透する社会を考える」をテーマに活動に取り組まれています。もともとは「表紙問題」をきっかけに始まったということですが、分野の異なる研究者たちが、どのように集まり、どのように始まったのでしょうか?

表紙問題があった2014年1月は、京都大学の情報学研究科の石田(亨)研究室に籍を置かせて頂いていて(2015年3月まで京都大学白眉センター特定助教)、当時同じ研究室だった服部(宏充)さん(マルチエージェントシステムが専門で現在は立命館大学准教授)に「これ江間さんの研究分野の話ですよね?」と廊下で話しかけられたところから始まりました。私も表紙問題の展開は気になっていたので、何かお役にたてることがあれば、ぜひお声掛けくださいとお返事しました。

5月に入って、「人工知能学会誌で小特集が組まれるのですが、AI研究者に考えてもらいたいことを書いていただけるような倫理とか哲学の研究者をご存知でしょうか?」と服部さんに聞かれたんです。実は偶然ですが、これにアテがあって(笑)。ちょっと前の2月のある研究会で大家(慎也)さん(テクノロジーの政治・倫理が専門の神戸大学博士課程)に会って、懇親会で人工知能の表紙問題の話になったところ、「ぼくロボットの応用哲学を考える研究会にはいっているんですよ」と。「なにそれおもしろい!今度じゃあそれ関係でお話聞かせてください」と名刺交換してたんです。

大家さんにつないでいただいて、6月に服部さんと一緒に京大の北部キャンパスで大家さん、神崎(宣次)さん(倫理学が専門で滋賀大学准教授)、久木田(水生)さん(哲学が専門で名古屋大学准教授)、西條(玲奈)さん(分析哲学が専門で北海道大学特別研究員)と本田(康二郎)さん(現象学が専門で金沢医科大学講師)とお話しして、大家さんと神崎さんに寄稿いただけることになりました。また、もともとの知り合いネットワークで久保(明教)さん(人類学が専門で一橋大学専任講師)と八代(嘉美)さん(科学技術社会論が専門で京都大学准教授)にも原稿をお願いして、「人工知能技術が浸透する社会を考える」特集が出ました。

そういう特集号の原稿依頼が一段落した6月だったかな、当時京大のiCeMSにいた秋谷(直矩)さん(エスノメソドロジーが専門で現山口大学助教)との雑談でその話をしたら、「実は僕も昔ロボット研究にかかわっていたんですよ」と。彼もまた別のネットワークから問い合わせがあって、「表紙問題について何かできることがないかと考えている」というので、「じゃあ秋谷さんと服部さんつなげちゃえばいいじゃん」と思いついたんです。それが実現したのが7月末。3人で話しているうちに、やっぱりこれは一時的な問題じゃないよね、もうちょっと腰を落ち着けて、特集号に原稿を書いてくれた人もお呼びして9月にワークショップをやってみようという話になりました。者我々と問題意識を共有してくれ方お呼びしましたたとえばヒューマンエージェントインタラクションが専門でるから、とか。

でもワークショップで人をお呼びするにはお金がいる。どうしようかとなったときに、これまたアテがあって(笑)。京都大学の学際融合教育研究推進センターが当時、分野横断プラットフォーム構築企画(百家争鳴)というワークショップ支援プログラムを行っていたんです。ということで服部さん、秋谷さんと私の3人で、あーでもないこーでもないと議論を重ねて8月に企画書を書きました。センター准教授(で学問論が専門)の宮野(公樹)さんにもアドバイスとご支援いただいて、9月12日に京大の白眉センターで「人工知能が浸透する社会を考える」ワークショップを開催しました。

思い返せば、全部細いつながりをたどって始まったプロジェクトです(笑)。実際、AIRが始まる前は、私、どの方ともしっかりじっくりお話したことはなかったです。顔見知り程度で。みなさん、突然のお願いごとによくお返事いただいたなあと、本当に出会いとつながりに感謝です。

あと、AIRは京都で始まった、京都のプロジェクトという意識が強いです。京都大学には異分野連携の研究を支援しようという土壌がある。私が所属していた白眉センターとか、学際融合教育研究推進センターとかがあったりしますし。また直ぐに結果を出そうじゃなくて、長いスパンで見て何かをやっていこうという、時間の流れがすごくゆっくりしているところです。だからAIRも、10年、20年くらい続けていく息の長いプロジェクトとして活動をしていこうねというのが共通理解になっています。

ーーAIRは、何を目的に活動をしているのでしょうか?

目的は人によって違うと思うんです。それはそれでいいと思っていて。ただ何をAIRとしてやりたいかということは話し合っています。その中でも特に、それぞれの人がそれぞれの分野に持ち帰れるものがないとダメだなという意識は共有してます。そうでないと、お金のある分野が別の分野を囲って搾取するだけになったり、金の切れ目が縁の切れ目になったりしてしまうので。「こういうプロジェクトをやりたい、つきましては予算を配分するので、この役割を担ってください」ではなく、アジェンダ設定そのものから議論して、「その問題設定はうちの分野ではあんまり新しいことじゃないから、研究するインセンティブがない」ということになると、「じゃあそれはやめよう」とか「どうしたらそれがやる価値のある研究になるか」という議論になるわけです。

そういうふうに話し合って出てきた活動目標が3つあります。AIRで何を目指すのか、というコンセプトペーパーをみんなで書こう、というのが1つ。それから、今の研究者のベースライン意識を把握するアンケート調査項目の設計をすること。そういう基礎データを作っていこうとしています。現在、海外の研究所とかが、色々な調査研究を行っていますが、それをそのまま使ったら、問題設定を自分たちで考えるのを放棄することになる。それはやりたくない。最後に、「温故知新プロジェクト」といって、過去の人工知能研究、特に人工知能と哲学とかが近かった時代のことを知っている方々にインタビューをする。今の我々の研究を10年、20年と続けていくためにも、知の継承をしていくことが大事だと思っています。

ただ、こういう活動が自分たちの分野や研究にどう影響があるのかというのは多様で、たとえばインタビュー調査をするにしても、後世のためのデータベースを作ることが目的なのか、あるいは自分たちの研究にインスピレーションを得るためなのか、そこは目指してるものやアウトプットの出し方のイメージが違うからすり合わせていかないといけない。かといって、調査研究に全員でがっつり取り組まなきゃという感じでもないですね。小グループで核となる調査設計を練り上げた後、全体のミーティングをしてさらにブラッシュアップする、という方針です。インタビュー調査ならインタビュー調査に関心のある人が集まるけど、そこでも、どの分野の人も話を聞いてみたいと思えるような人は?とかいう議論になる。そうやっていろいろ議論していたら、また面白いテーマが見つかるかも知れなくて、それが楽しみです。

ーーAIRでは、ワークショップで議論をして、その過程や議事録をレターにまとめてウェブで公開されています。また、実際に人工知能研究を進めるにあたり、研究のアジェンダ設定から、みんなで考えいくそうですね。

アジェンダ設定をみんなで行うこと自体が、互いの学びの場になっているんじゃないかなと思います。1年近く議論を続けていると、面白いのは、最初は互いに他分野には土足で踏み入らないようにと遠慮がちだったのが、次第に「こういうことに関してはその分野の人たちに頑張ってほしい」という期待が口に出るようになったり、あるいは逆に「やっぱり他分野でもこれは自分でも勉強しなくちゃと思って」となったりすること。それは私自身もですが、日々新しいことの勉強です。でもだからといって、一人学際(自分一人がなんでも知っている研究者になるというイメージ)をしようというのではなくて、他者の専門性への信頼や期待があります。一方で、話していく過程で時間間隔とか金銭感覚の違いが明らかになったりとか、互いの常識が通じない瞬間とかがでてきて、そういう時は驚くを通り越してみんなで笑ってしまいます。

そもそも分野が違えば時間間隔や研究サイクルが違うのは当たり前なので、最初からゆっくりやろうね、といっているのが大事なのかなと思います。今年度中に結果出せ、となったら待てないですよね。あ、でも現在、研究会は月1のペースで行おうとしてます。ついでにいうと、研究成果は学会で発表しようとか論文化しようとか目標は結構きっちり掲げてますね。目標があることで、活動がまとまるところもあると思います。

信頼のおける仲間を集め、何を議論するかのアジェンダを考えるところから始める

ーー文系と理系では、研究者の時間感覚がそれぞれ違うという話があったんですが、AIRでは「ゆっくり」という言葉が度々出てきますね。

そもそも、「ゆっくりやろう」「息の長いプロジェクトにしよう」と言葉に出して言ってくれたのは服部さんなんです。表紙問題以降、(人工知能学会の)倫理委員会、ドワンゴ人工知能研究所、AI社会論研究会、産業技術総合研究所の人工知能研究センターなど、どんどん新しい組織立ち上げの情報が入ってきました。東京で起きているそのような状況に対して、我々は京都で何をするのか。信頼のおける仲間を集め、何を議論するかのアジェンダを考えて、地道にゆっくり協働研究をする研究会があってもいいんじゃないかということになりました。学問をじっくりと腰を据えてやる研究会だからこそ、京都でやる意義があるんじゃないかと。

英米の人工知能関連の研究機関を調べていると、機関ごとに役割分担がちゃんと出来ているんですよね。アメリカ東海岸を中心としたFLI(The Future of Life Institute:人工知能の利用を研究する非営利団体、イーロン・マスクらが寄付金を提供している)はファンディングをしてネットワーク形成やイベントを開催する、西海岸のMIRI(Machine Intelligence Research Institute)は実際に人工知能技術を作っていく、ニック・ボストロムがいるオックスフォード大学では調査研究に力を入れている、とか。それでいて実は人の行き来やお金のやりとりもあって、ネットワークづくりがうまいなあ、と。日本でも今いろんな機関が出てきているのだから、全体を見据えながらそれぞれの機関が連携して動けるといいなと思いました。

ーー「全体を」というのは、人工知能に関して他の組織も含めて、どういうあり方が適切かどうかを、AIRで考えいくということでしょうか?

海外の動向も見据えながら、人工知能と社会に関する研究の全体の動きを俯瞰して知見を蓄積していくところが、一か所くらいあってもいいんじゃないのと。AIRとしては関西を中心としたネットワーク形成をじっくりゆっくりやって、議論の内容も発信していこうという話をしていました。だからAIRではウェブでワークショップの様子を報告してますし、短いですけれど英語で要約もつけているんです。

そうやって自らの位置づけを考えていたのに、2015年4月に蓋を開けてみたら私は東大に、秋谷さんは山口大に行くとなって、服部さんが怒った(笑)。裏切り者と(笑)。でもそれまでの一年間で秋谷さんと服部さんと私は京都で一ヶ月に何回も会って話し合いをしていたんですよ。1回2−3時間くらい、長いときは半日くらい話をしていて、その議事録も全部残してあるんです。あれがあったから、今、離れてもやっていけるという感じですね。東京と山口の中間地点は京都なので、会議は今でもだいたい京都でやってます。

研究費獲得を目指して、議論を積み重ねて進めていった

ーーそれぞれの分野が異なる研究者たちが自ら集まり、一年間、コンセプトから話しあって、これから何をするから決めていった。きっかけは同じでも、目的も違って、異分野融合自体が目的でもない。それが今うまく進んでいるのはどうしてだと思いますか?

それはよく聞かれるんですが、私たちとしては「え?こういうのって珍しいの?」って感じでした。今、大事だと思ってやりたいことをやってる、それを共有できる仲間に運よく恵まれました。とはいえ、メンバーが集まるのに、旅費など各自の負担とするのはどうだろうかという話にもなりました。あと9月のワークショップが終わった後に、やっぱりこれは大事なテーマだから社会的にも学内的にも認められて活動をしていきたい、だから申請できる研究費助成には全部応募しようという方針になりました。国立情報学研究所の公募型共同研究や国際高等研究所・研究プロジェクトいました。よし、そこも応募しようと。

だから9月末の(打ち合わせの)議題は、科研費(日本学術振興会の科学研究費補助金)の申請をどうするかでしたね。科研費を出すには、目的とかオリジナリティとか考えないといけないので、そこで練るわけです。議論を何回もして、10月に科研費申請を提出。11月にNII(国立情報学研究所)の研究費助成の申請書を出し、12月に高等研(研究費助成)を出しました。それと並行して、今までの一連の表紙問題のまとめを英語でだそうと、秋谷さん、大澤さん、服部さんと4人で英論文を正月返上で書いて1月に出しました。これはCHIという国際学会のwork-in-progressに投稿して採択されました。

それぞれの申請書は研究期間や助成目的も異なるので、同じことを書くわけにもいかない。毎回、何ができるか、何がやりたいかということの議論・議論でした。でもその過程で、互いの理解が深まったり、新たにやるべき課題なども見つかったりして。たとえば温故知新プロジェクトはNIIの申請書を書いているときに出てきたものなんですよ。また研究費助成は基本的に1~3年計画なので、とりあえず採択されようがされまいが3年はこういう計画で基盤を作って勢いをつけて、3年後とかに大きなプロジェクトに応募できたらいいね、とも話していました。

これから10年で取り組むべきアジェンダを考える

ーー研究費助成のための申請がきっかけになって議論やまとまりができていったんですね。人間関係を作っていく、人をつないでいく、分野が違う人たちの共通言語を作って、一緒に議論ができるようにしていくところがスタートと思いますが、今後プロジェクトが大きくなっていくとして、どのように進めていきますか?

2015年7月の合宿では、「今来ているこの人工知能のビッグウェーブ、どうせ終わるこのウェーブ(笑)。終わるとわかっているなら何を今すべきか?」と言う話をしてたんですけれど、たぶん人のネットワークだろうなと。今の私たちがあるのも、元をたどれば基本的に第5世コンピュータ(1980年代に当時の通産省が立ち上げた国家プロジェクト)にいきつく。あの時代の人たちが作ったネットワークで今の私たちがいる。そこで提示されたお題の一部がまだ続いている。

それを継承したうえで、そのお題の解決を目指すだけではなく、これから先、新たに取り組める問題を提示する、取り組める人的ネットワークを形成する、それができたら結構成功なんじゃないかなと話をしていました。いろんな分野の人が面白いといって取り組める、研究や人材を活性化していけるような領域なり、テーマなり、問題設定なりが日本から、しかも若手研究者からでてきたら、それは次世代にとっても励みになるんじゃないかなと。狭い領域でこれさえやっていれば研究費が配分される、じゃなくて、これが本当におもしろいからやるんだ、それでやりたいことにお金がちゃんとつくという、研究者の目がいきいきするような状況に少しでも寄与出来たらよいなあと。

ーー科学研究は分野が細分化して、狭い領域を深堀りしていって、そこに研究費がつくものが多いです。そうではなくて、もっとものごとをメタに見ていこうとしているのですね。

細分化していく研究も大事だと思うんです。ディシプリンを作っていくことだし、もしかしたらそこにしか研究費は付けられないかもしれない。あと学際研究はやるべきだ、と安易にいうのも危険だと思ってます。全部浅く広くになると学問が死滅するので。向き不向き得手不得手はあるので学際バンザイじゃないです。そこは気をつけないといけない。

ただ、深く深く掘っていっていた人が、ちょっと他の分野の人たちと話したりしたときに、自分の分野の再発見をしたり、あるいは他の分野から自分の分野に転用可能な事象を発見したりとか、そういうことができる場や機会があることが大事かなと思います。私の場合、京大の白眉センターや今いる東京大学の科学技術インタープリター養成部門などは、こういう活動を積極的に支援・評価していただいているので、とてもありがたいです。所属先の先生方や同僚など、研究環境に恵まれているからこそ、できる活動であるとも思います。

ーー江間さんはいろんな研究者をつなぐ、媒介者とかファシリテーターのようなポジションに見えます

実は自分がやってることを媒介者とかファシリテーター、メディエーター、コミュニケーター、インタープリターという言葉で片付けない方向はないかなあと今一生懸命探しているところです(笑)。

監視技術の社会的影響の研究をしてきたので、AIR研究者のバックグラウンドである情報学、哲学、倫理学、社会学、人類学の勉強はしてきた。でも専門家であるみなさんと比べたら、中途半端にしかその分野のことを知らない。そんなんでいいのか悩んだりしました。

そうしたら「江間さんは、中途半端に知らないからいいんだよ」と言われて。「バランスよく知らないことが大事だと思う」という名言も飛び出してですね(笑)。異分野の人たちが集まると、みんな互いの分野を知らない。そういうとき、中途半端に聞きかじったことのある私が、「それ知らない」とか「それってこういうこと?」と聞いたり言い換えたりすることで理解できることがある、と言ってくれて。それ聞いたとき、ああ私にはそういう存在意義があるんだな、と思いました。私が「ちょっと待って、そこわかんない」と言ったり、私に理解可能な範囲で議事録を書いたりすることで、ちょっとは議論の整理ができているというのはあるのかなと。

自身に対しても常に批判的に見る科学技術社会論

ーー江間さんは科学技術社会論(STS)の研究者ですが、STSとはどのような学問で、江間さんの活動はどのような位置付けになるのでしょうか?

STSの基礎は東京大学(教授)の藤垣(裕子)先生に教えていただきました。非常に多様な研究があるので、どのようなというのは一言で説明できないし位置づけと言われるとさらに難しい...。

(STSと文化人類学研究者で東京大学教授の)福島(真人)先生が、「リスク研究」と「高信頼研究」の違いについて書かれている論文があって、大まかにいうとリスク研究というのは事故とか事件があったときに事後的に原因などを調査・記述する研究のこと。原子力や環境問題、食の安全や研究不正問題などで多くの重要なSTS研究がされています。一方で、高信頼研究は事故が起きていない組織に入って、むしろそこがなぜ事故がなくまわっているかを調査する研究です。なぜうまくまわっているかをコミュニケーションや組織文化、教育がどうなっていてどう引き継がれていくのかを長期にわたって観察とインタビューを重ねていく。

そういう観点から考えると、私はどちらかと言うと、高信頼研究に近いことをやりたいのかなと思っています。内部に入り込んでいって、コミュニケーションのあり方や組織文化とか現場知がどのように継承されていくのか、他の分野との協働研究はどうしたら可能なのかということを知りたい。とはいえ、AIRでは自分も積極的にアクターの一人になっている点で、それは研究なのか活動なのかと問われるところだと思います。ただ、STSにはScience and Technology Studies(科学技術論)とScience, Technology and Society(科学技術と社会)という二つの略称がありまして、積極的に現場とかかわりを持っていくことも大事だと思って研究・活動しています。

ーー江間さんのSTS研究は、人類学のようなものなのですか?

STSは人類学も含むメタ領域です。常識と言われていることに対して「本当にそうなの?」という異なる視点を提供できるのがSTSだと思うんですね。そういう観点からすると、人類学的な視点がはいっていると言えると思います。

STSの系譜には、情報学研究との接点も多くて、Lucy SuchmanのHCI(Human-computer interaction)研究はSTSの基本文献でもあるんです。でも彼女の研究は人類学やエスノグラフィー、インタフェースの基本文献でもあるから、AIRの研究者はだいたい知っているんですよ。面白かったのは、この間、秋谷さんが、CSCW(Computer-Supported Cooperative Work)の研究としてPhilip E. Agreの論文を紹介されて、私はプライバシー研究をしている彼の論文を読んだことがある、服部さんはエージェンシー研究関連の彼の論文を読んだことがあるという話になったんです。だから共有できる80年代、90年代の研究者、結構いるんですよ(笑)。共有できる研究者がいるという点では、われわれは本当の異分野ではなくて、イトコかハトコくらいの距離なのかもしれません。

ーーいろんな分野の研究者が知っているオールマイティーな研究者が80年代にいた、という話がありました。江間さんはそういうのを目指していますか?

うーん、目指す努力はするけれど、そこが目的ではない、と思います。

AIRという研究会で出会った人たちの対話を通して共通言語を作っていくという話がありましたが、ゼロから共通言語を作っているわけではないんですよね。自分の分野を少し振り返ってみると共有できる知識や人、文化などがある。そこを大事にしながら共通の基盤を作っていけたらなと思います。ただ、共通のものを築き上げることが目的になって閉じられたサークルになってしまわないように、あるいは自分自身が一人学際を推進することによって、知ったかぶりをしないように気をつけないとと思ってます。

STSとは何かという議論で必ず出てくる言葉にreflexivity、再帰性っていう単語があります。これは常に自分は何者なのか、自分の研究や立ち位置はどのようなものなのか、自分が自分の研究対象に与える影響はどのようなものなのかを自問するということだと思っています。自分の立ち位置や研究に対して批判的な視点、自問する視点を持っていることが大事だなと。

人工知能に関して言えば表紙問題という案件はあったけれど、人工知能そのものが大きな事故を起こしているわけではないし、自動走行車のように喫緊の問題がある一方で、まだ夢物語的な要素もある。技術に対する警戒心はあるけれど悲壮感はない。どちらかというと夢や期待の部分が大きい。でも、だからこそ、そこに自分の研究や立ち位置に対して常に問い続けるSTSの視点を紹介していきたいです。それが今の私の立場的にも能力的にも精一杯かなと思います。

50年後、100年後の日本がどうなっていくかという大きなことではなくて、一寸先の地道な一歩一歩の方向性をみなさんと作り上げていったり予見できたりしたらいいなと考えています。

■プロフィール

江間有沙(えま・ありさ)

2012年東京大学大学院総合文化研究科博士課程修了。博士(学術)。2012年4月から2015年3月京都大学白眉センター特定助教。2015年4月より東京大学教養学部附属教養教育高度化機構科学技術インタープリター養成講座特任講師。NPO法人市民科学研究室理事。人工知能と社会の関係について考えるAIR (Acceptable Intelligence with Responsibility)研究会を有志とともに2014年より開始(http://web4ais.wpblog.jp/)。

注目記事