２０１８年は、ＡＩとデータに絡む様々な騒動が相次いで起きた。
そんな中で、ＡＩ開発の倫理の必要性が広まり、グーグルなどＡＩ開発の大手も、独自の倫理綱領を掲げるようになった。
by We Are Neo (CC BY 2.0)
だが、ノースカロライナ州立大学の研究では、開発者にとっては倫理綱領だけでは、ほとんど効果が出ない、との結果が出たという。
では、何が必要なのか？ 「スキャンダル」なのだという。
●相次いで起きた騒動
２０１８年に、ＡＩとデータをめぐって、どんな騒動が起きたか。
ニューヨーク大学のＡＩナウ研究所が、１０月に過去１年間のＡＩとデータに絡んだ騒動をわかりやすくまとめている。
まずは、アマゾンの顔認識ＡＩ「レコグニション」をめぐる一連の騒動。２０１７年１１月から顔認識機能を提供しているこのサービスをめぐって、「警察などに監視機能を提供している」として人権団体や、さらには社員からも批判の声が上がる事態となった。
※参照：「顔認識で監視」「アレクサが会話を盗み聞き」アマゾンＡＩに相次ぐ懸念（05/26/2018）
※参照：ＡＩと「バイアス」：顔認識に高まる批判（09/01/2018）
そして、切れ目なくトラブルが続いたフェイスブック。３月に発覚した個人データ８７００万人分不正流用のケンブリッジ・アナリティカ問題に続く、４月のマーク・ザッカーバーグＣＥＯの米連邦議会での証言、加えて９月末に発覚した個人データ３０００万人分の流出問題。
※参照：トランプ大統領を誕生させたビッグデータは、フェイスブックから不正取得されたのか(3/18/2018)
※参照：５０００万人分データ流用は「バグではなく仕様」...フェイスブックは被害者か、加害者か？(3/24/2018)
※参照：米ＥＵプライバシー協定を無効にした男「フェイスブック流出問題は防げた」(3/31/2018)
※参照：「個人情報は売っていない」ザッカーバーグ氏がビジネスモデルを死守する：１０時間１００人質問の公聴会（4/12/2018）
※参照：ケンブリッジ・アナリティカでは終わらない、続々発覚 フェイスブックの「ユーザーデータ共有」（06/09/2018）
※参照：株価暴落とフェイク対策、フェイスブックの迷走はソーシャルメディアの潮目か（07/29/2018）
※参照：フェイスブックが「５０００万人分」サイバー攻撃にあえぐ―当局、ユーザーの厳しい視線（09/29/2018)
※参照：「それでも信頼しろと? 」―フェイスブック３０００万人、グーグル５０万人、データ流出のインパクト（10/13/2018）
そして、ＡＩをめぐる倫理問題で目を引いたのが、３月に明らかになったグーグルの米国防総省への技術供与「プロジェクト・メイブン」問題だ。
国防総省のＡＩ化プロジェクト「メイブン」に、グーグルのＡＩ基盤「テンソルフロー」を提供する契約を結んでいたことが明らかになった。これに対し、同社の社是だった「邪悪になるな」に反するとして社内外から大きな議論がわき起こり、４０００人を超す反対署名、十数人の退職者を出す事態に至る。
この騒動の結果、グーグルは２０１９年に切れる国防総省との契約の更新をしないことを決定。さらに、新たに同社の倫理規定としての「ＡＩ原則」を発表し、ＡＩの軍事転用には距離を置く姿勢を明らかにした。
またグーグルは、この「ＡＩ原則」を受ける形で、総額１００億ドルとも言われる国防ＡＩクラウド「ＪＥＤＩ（ジェダイ）」への入札からの撤退も明らかにしていた。
※参照：「軍事」と「邪悪」：グーグルがＡＩの軍用提供を中止する理由（06/02/2018）
※参照：「テクノロジーで人権侵害に加担するな」社員の抗議、グーグルからマイクロソフト、アマゾンに拡大（06/23/2018）
※参照：１００億ドル国防クラウド：「ＡＩ倫理」騒動のグーグルは去り、アマゾン、マイクロソフトは邁進する（10/28/2018）
●ＡＩ規制求めるマイクロソフト
ＡＩ開発の中でも、顔認識技術に関して、以前から規制を求める声をあげているマイクロソフト社長のブラッド・スミス氏は１２月６日、改めて「バイアス」「差別」「プライバシー」などの課題を指摘するブログを公開している。
スミス氏は、政府に対して法整備を含む規制を求めことに加え、マイクロソフトとしても６項目の倫理規定「顔認識原則」をまとめた、と述べている。
これは、顔認識技術をめぐる課題に取り組むことを示すとしており、掲げているのは「公平性」「透明性」「説明責任」「差別の排除」「通知と同意」「適法な監視」の６項目だ。
ＡＩの課題に取り組むステップとして、倫理規定の策定と公表は、重要だろう。
だが、その効果については、かんばしくない調査結果が明らかにされた。
●「倫理綱領よりスキャンダル」
調査を行ったのはノースカロライナ州立大学の研究チーム。調査対象としたのは、ＡＣＭ（米国情報機械工学会）の倫理綱領だ。
１９０カ国、１０万人の会員を擁するＡＣＭは８月、前回改訂から２６年ぶりに、その倫理綱領を改訂した。前回改訂した１９９２年は、まだインターネットも一般に普及する前だった。
そして、ＡＣＭ会長のチェリ－・パンケイク氏が「カンバセーション」への寄稿で述べているように、ＡＩをめぐる一連のバイアス問題も、今回の改訂の射程にある。
ソフトウェアはどんどんと、インプットもなしに、あるいは人間の理解も及ばぬ形で、判断を導く分析結果をつくり出すようになっている。例えば銀行のローン審査がそうだ。そのアウトプットは、全く意図せぬ社会的な影響を及ぼし、ある階層の人々すべてに偏見をもたらすことになる。最近の例では、データマイニングによってローン返済不能になる人々の予測をしたところ、長期ローン希望者や、特定地域の居住者に対してのバイアスがあることが明らかになった。「ファルスポジティブ（偽陽性）」の危険もある。コンピューターがつなげるべきでない二つをリンクさせてしまうことだ。最近では、顔認識ソフトが、連邦議会議員を犯罪者の顔写真と取り違えたケースがあった。改訂した綱領では、ある属性の人々すべてを虐げたり、その権利をはく奪したりしてしまう可能性があるシステムをつくりださぬよう、テクノロジストが最新の注意を払うよう推奨している。
具体的には、新たな規定としてこのような文言も加わっている。
年齢、肌の色、障害、民族、家族状況、性自認、組合加盟、軍歴、国籍、人種、宗教や信条、性別、性的指向、その他不適切な要因に基づく偏見による差別は本綱領に明確に違反する。
ノースカロライナ州立大学の研究チームは、１０５人のキャリア５年以上のソフトウェア開発者と６３人のソフトウェア開発を学ぶ大学院生を対象に調査を実施。
半数にはＡＣＭの倫理綱領を示し、残る半数には倫理の大切さを口頭のみで簡単に説明。その後、ソフトウェア開発における倫理的な判断を求められる局面を示した１１種類のシナリオを見せて、どのように対応するかを３択（倫理違反［Ａ］、わからない、倫理的［Ｂ］）で尋ねた。
すると、ＡＣＭの倫理綱領を示したグループとそうでないグループとで、回答内容に明確な差は見られなかった、という。
ただ、１１のシナリオの中には、現実にあった事件ついて述べたものが含まれていて、その一つが２０１５年に発覚したフォルクスワーゲンによる米国の排ガス規制回避のための不正ソフトウェア組み込み問題（ディーゼルゲート）だった。
調査の後の追加質問で、シナリオの中で思い当たる実際のニュースがあったか尋ねたところ、学生１９人とプロ１人がフォルクスワーゲンの不正ソフトウェア問題を挙げた、という。
６３人の学生の被験者のうち、自分だったら「回避ソフトをつくる」と回答したのは１２人、わからないが４人、「回避ソフトをつくらない」が４７人。
フォルクスワーゲンの問題を挙げた１９人は、すべて「回避ソフトをつくらない」と回答。「回避ソフトをつくる」と回答した１２人は、フォルクスワーゲンのニュースを知らなかったようだ。
これについて、研究チームはこう推察する。
ソフトウェア開発者が倫理的な判断ができるようにする効果的な方法。それは、自らの判断の結果と、ニュースに取り上げられるような類似の判断が引き起こした結果とを、結び付けて考えられるよう提示することではないか。この結果はそんなことを示しているようだ。
倫理綱領の抽象化した文言と、ニュースの見出しや損害金額の多寡で身近なリアリティが喚起される「スキャンダル」とでは、確かにインパクトは全く違うだろう。
そして、「スキャンダル」の事例は事欠かない。ただ「スキャンダル」の関係者たちは、嫌がるだろうが。
--------
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）
（2018年12月8日「新聞紙学的」より転載）