The End of Privacy, Part 2: Scoring Pro-Social Behaviour (In Due Course, January 24, 2017)
Posted by Joseph Heath

(訳注: 「向社会的行動」とは，他者の利益を意図した自発的行動．反社会的行動の反対語．)

哲学者の中には異論をとなえるものもいるだろうが，道徳なるものは明らかにまだ未完成である．道徳は時代とともに変わる．私の父が生まれた世界では「婚外性交」は非道徳的とみなされた，今はほとんどの人はそう思わないし，それどころか，かつて非道徳的とみなした人がいたなど理解しがたいという人も多いだろう．かくして物事は変わりゆく．

我々の道徳律と，その時代の技術水準の間には込み入った関連がある．上で述べた性的規範の急激なシフトが，安全で効果的な避妊テクノロジーの発見に引き続いて起きたのは決して偶然などではない．

はるか地平線で次なるテクノロジー的変化が形を取りつつあり，私にはそれが日常的な道徳を根本的に変える可能性が大いにあるように思える．そのテクノロジーとはすでにAirbnbやUberといったアプリで使われているもので，契約に関わる当事者間の「信頼」の問題を解消するために，お互いに相手を採点するという技術である．Uberでは乗客がドライバーを採点できる．しかし，同じくらい重要な点として，ドライバーも乗客を採点できるのである．Uberのドライバーの車の後部座席で無作法に振る舞うと，次の乗車のために呼ぼうとしても，乗せてくれるドライバーが減ってしまうだろう(実際に起きるのは，高ランクのドライバーがあなたを無視し，ランキングの低いドライバーにまわすということだ)．同様に，もしAirbnbを通して借りたアパートを散らかすと，将来部屋を貸してくれる人が減る．この仕組みは，オンラインレピュテーションシステムと呼ばれる．

ここで，あるオンラインレピュテーションシステムを想像してみよう．車やアパートではなく，人生全般についてのシステムで，そこであなたは行動のあらゆる側面から「点数」をつけられる．こいつはどんなやつだろう？いいやつか，嫌なやつか？協調的か，変人か？デートではどうか？学校ではうまくやってる？仕事に遅刻しない？そんなシステムを想像してみよう．こういう点数を先生や雇用主やその他の人が入力する何かしらのデータから，またYelp¹みたいに一般大衆が入力するデータから記録するシステムを．デートアプリで，女性が男性をレーティングできるもの(lulu)はすでにある．しかし，このアプリはまだ男性が許可しないとプロファイルを作れない(ので，レイプ犯をふるいにかけるという点ではあまり役に立たない． — もっともわかりやすい使いみちのひとつなのだが)．しかし，誰かがそういう，本人が望まなくてもプロファイルが作れるシステムを作るのを止めることはできないし，誰かが作るのは単なる時間の問題だと思う．

もちろん，作るのは民間の個人とは限らない．中国政府は「社会信用」システムを開発する意向を公表しており，そこには全ての個人のレーティングが入る — クレジットの格付けのようなものだが，そこに秘密警察ファイルや，さらにもっと広い範囲の，(単なるローンの返済記録だけではない)すべての種類の向社会的な行動の情報もブレンドされている．売り文句は，デートにも，雇用契約にも使えるというものだ(そしてもちろん，警察やその他の権力機関にも…)．現時点では，中国政府は民間企業に試験的プロジェクトをやらせているが，計画の究極目標は国家の支配下の統合システムを作成することだ．念のため言っておくと，ほとんどの中国人はそれほど騒ぎ立てているように見えない(私は特に驚くことではないと思うが，西洋のメディアの中にはそれを不思議がる解説記事を載せたものもあったようだ)．

問題は，騒ぎ立てるべきなのかどうかということだ．ほとんどの西洋人と同じく，私の自然な反応も否定的なものだ．このアイデアすべてがショッキングなほどの侵害だと思う．一方で，きっと便利だろうというのもまた確かで，こういうシステムがあれば膨大な数の集団行為問題が解決するに違いない．UberやAribnbが示した通り，『見知らぬ人の間での信頼関係』という問題は莫大な取引コストを生じ，何十億ドルもの価値がある取り引きを妨げ，行われたはずの取り引きが行われずじまいになってしまっている．こんなにもたくさんのアパートが空室のまま放置されてしまっている！ こんなにもたくさんの自動車が稼働しないまま放置されてしまっている！ 多数の人々が滞在する場所を，乗る車を求めているというのに．ここでの問題は，人々がお互いを信頼できなかったということで，それが取り引きが行われなかった原因なのだ．信頼の問題を(オンラインの支払いシステムとレーティングシステムで)解決すれば，突然，それまで存在しなかったマーケットがそっくり姿を現す．

ここで想像してみよう，部屋や自動車以外にいったいどれほどの取り引きが，今現在，人々が互いに信頼できないが故になされないままになっているか… 考えてみよう，あなたの生活がどれほど劇的に変わるか，どれほど多くの様々な活動に参加できるようになるか — もし，なんらかの方法で直ちに，見知らぬ人と会う際に，その人が信頼できるかどうか知ることができたら — そして，その人があなたの信頼を裏切った時に他の皆に警告できたら．想像してみよう，もしあなたの電話機が周囲のみんなの「社会的信用度」を表示したら… バーで，地下鉄で，教室で．社会生活は完全に変容を遂げると言っても過言ではないと思う．

またこれも言っておくべきだろうが，伝統的な左翼のファンタジーとして，互恵主義のみに立脚して運用されるキャッシュレス経済なるものも存在する．こうした経済システムでは個々人の貢献度を記録する「社会的信用度」スコアのようなもの(あるいはreddit² の「カルマ」のようなもの)を用いる．この種の社会主義者的計画の多くは，特に「コンシューマリズム」を縮小ないし除去することを目指すものは，やはりショッキングなほど侵害的である — たとえば，「Parecon」提案³を見よ: この提案では，全てのあなたの消費需要はあなたの隣人からなる審議会の承認を必要とするのだ．寛容に解釈するならば，この手の計画の支持者たちは，そうした計画のもとで暮らすということが実際にどういうものか，あまり本気で注意深く考えたことがないのだろう．いずれにせよ，こういう計画の支持者たちが，開始されつつある中国の社会信用システムについてどう考えるのか，私には興味深い．

ついでに言えばこの種の，人々の性格に関する情報共有は，小規模な社会の構造的特徴である．小規模な社会ではこの情報共有はだいたいのところうわさ話によって達成される．この情報共有と切っても切れないのが，非常に侵害的な形での社会的支配であった．人類が進化してきた小規模な社会では，全員があなたのやることなすこと一切合切を知っており，あなたの評判の「点数」はすべての付き合いにおいて共通知識として使われたのである．しかし，社会的支配のメカニズムとしてのうわさ話は，大規模社会と都市生活への移行に際して生き延びなかった．全員が何をしているか把握し続けるのは単純に難しすぎるのである(これがロビン・ダンバー⁴の主張のポイントである)．だから大規模社会では，やむを得ず付き合ういろんな人々のことを，実は何も知らないという羽目になってしまったのだ．

このように，最新のテクノロジーは実際には単に過去の小規模社会の条件を巨大スケールで再び作り直そうとしているだけなのである．振り返ってみると，我々がこれまで生きてきたのは不思議な魅惑の時代だったと言えるかもしれない．それは，人間が，小規模社会から大規模社会へ飛躍する方法をやっと見つけ出したが，小規模社会で有効だった社会的支配システムを大規模社会に課す方法をまだ見つけなかった時代である．これが，個人の自由のある種の黄金時代を作り出したのだ．そこでは，反社会的に行動しても重大な結果を招くことがなかった．包括的な社会的ランキングシステムの可能性について考察してみて驚くのは，非道徳的に振る舞っても誰にも知られないということに自分がセンチメンタルな愛着を抱いていることだ．

ジョン・スチューアート・ミルの自由論の，アルコール販売の問題をとりあげた一節を振り返ってみよう．ミルはここで禁酒「同盟」に反論している．禁酒同盟の主張は，事業者が他人の「社会権(social rights)」を侵害した場合はいつでも国が事業を禁止できるというものであった．

「社会権」なる理論，おそらくその類のものは未だかつて明瞭に言葉で表現されたことはないものの，それは少なくとも次のようなものでありましょう:  絶対的な社会的権利としてすべての個人が有するものであって，本人が振る舞おうとするのと同様に他の個人すべてを行動させる権利．これに僅かなりとも違反したものは誰であろうと我が社会権を侵害したのであって，その侵害を排除する権利が議会から私に与えられるような権利．なんとも恐ろしく，かつまた他のいかなる自由への侵害よりなお危険な主義主張であります．これをもってすれば，いかなる自由への侵害であろうと正当化できぬものはありません．いかなる自由への権利も是認されず，ただおそらくは意見を密かに，決して表明せずに持つことだけが許されることになるでありましょう．なんとなれば，私が有害とみなす意見が何びとかの口の端に上るやいなや，それは同盟が私に付与した「社会権」を侵害したことになるのですから．この教義に従うならば，全人類が，他人の道徳的，知的，さらには物理的な側面についてさえも，何をもって望ましい状態とするのか，その利害関係を，原告の側が自らの勝手な基準に従って定めることができてしまうのであります．

ここでのミルの議論は，一種の背理法に沿って展開されている．しかし，よくわからないのは，この背理法のどこまでが，彼が記述した帰結が望ましくないことによるもので，どこまでがそうした帰結の実現不可能性によるものかという点である⁵．言い換えると，われわれが享受してきた「自由」のどこまでが技術上の制約の結果なのかが私にはわからない⁶．技術的制約は，人々が効率よくお互いを監督し支配する妨げにはなってきたが，国に対してはそれほどの制限を課してこなかったのだから．

もちろん，もう一つの可能性としては⁷道徳がそれほど厳格でなくなるということも考えられる．現在われわれが持っているのは比較的厳格な道徳律と，極度に緩い強制力の組み合わせである．おそらくその理由は，ちゃんと強制できないほど道徳律が厳しすぎるためだろう．現場を押さえられる可能性がごく小さい時代，罰はより厳しく，免責される条件も数少なかった．しかし，突然，現場を押さえられる可能性が劇的に増大した．このことは，道徳律を緩める多大な圧力をもたらすように思える(ちょうど「若さゆえの愚行」に対してもっと寛容になるよう圧力がかかっているのと同じように — なにしろ，今の若い世代は，おのれの17歳当時の思想や意見の完全な記録が永遠に残ってしまうのだから)．

1. 訳注: レストランはじめ，地域の店やビジネスのレビューを掲載する会員制サイト [↩]
2. 訳注: 巨大な掲示板サイト [↩]
3. 訳注: Participatory economics (Wikipedia): 参与型経済 (Wikipedia) [↩]
4. 訳注: Wikipedia より「ダンバー数の定式化でよく知られている。人間にとって、平均約150人（100-230人）が「それぞれと安定した関係を維持できる個体数の認知的上限」であると述べている」 [↩]
5. 訳注: ここでいう「社会権」が認められないのは，認められた社会が皆にとって望ましくないからか，そういう社会を実現するのが不可能だからか，どちらだろうかということ [↩]
6. 訳注: お互いの行動を監視する社会がまだ到来していないのは，それが望ましくなかったからか，技術的に不可能だったからか，どちらだろうかということ [↩]
7. 訳注: お互いに監視して行動の自由が制約されるかわりに [↩]

The End of Privacy, Part 1: Mind Reading (In Due Course, January 4, 2017)
Posted by Joseph Heath

2017年へようこそ．最近は，つくづく歳をとったものだと感じている．そう感じるようになった原因の一部は，私が現在居住しているこの世界，私の前に姿を現しつつあるこの世界というものが，私が生まれた世界，私が社会に対する感じ方を育んだ世界とは根本的に異なっているという事実である．もっとも違いが明らかなのはプライバシーの領域だ．私は確信している．私の子供時代の1970年代こそが匿名性の黄金時代，すなわちある意味での個人の自由の黄金時代として歴史に残るだろう．先日，70年代の映画を見ていると，2人の刑事が犯罪者を車で追いかけて州境に向かっていた．犯罪者は刑事の追跡から逃れ，刑事らは町へと引き返した．戻る途中，公衆電話で停車して刑事らは本部に状況を伝えた．子供らには説明してやらないといけなかった．昔は，無線の届く範囲から出てしまうと，警察官が署と連絡を取るには電話を探さないといけなかったのだよ，と．

未だにあの感覚を覚えている…都市にいるのに，完全に音信不通になる感覚 — 誰もあなたがどこにいるか知らない，誰もあなたと連絡を取れない — そして，それが当たり前であるという感覚を．もちろん，音信不通の状態を再現することは今も可能だ．しかし，今それをやると，それだけで疑念を呼び起こしてしまう．連絡を取れる状態に戻ったとたん，みんなからの「どこにいたの？」というメッセージを10かそこらは目にすることになるだろう．

よく知られている通り，この状況をもたらしたのは携帯電話である．ところが，はるかにプライバシーを脅かすテクノロジーが迫りつつある．これまで懸念してきたすべてが霞んでしまうほどだ．なかでも飛び抜けているのが，Foveが開発した視線追跡型VRヘッドセットである．はじめは興味がなかったが，友人がFoveで働き始め，このテクノロジーの重要性を説明してくれたので本気で関心をもつようになった．

まず，こういうことをやるヘッドセットをFoveが開発する動機は，技術的には完全に理にかなっていると言っておこう．人間の視覚について少しでも知っている人にきいてみるとよい．我々が世界を画像として — 映画やTVスクリーンのように — 知覚しているかのような印象はほとんどのところ幻想である．実のところ我々が見ている(あるいは，はっきりと見ている)のは，視野のうちのごく狭い注目部分にすぎない．残りの部分は脳が大まかに省略してしまっているのだ．眼球が非常に高速に運動して視野の中のどこにでも向くことができて，実際にそうした(サッケード¹ とよばれる，1秒に3回程度の)素早い動きをしているため，あたかも全体が明瞭な単一の画像を見つめているような気がしているだけなのだ．

さて，ここでVRテクノロジーを考えよう．(ところで，高精細なVRをまだ体験したことがないなら，ぜひ体験してみるようすすめる．ほんの数分で，このテクノロジーがすごく，すごく重要なわけがわかるだろう．) VRには，非常に大きな計算能力が必要となる．とても大きな画像を生成し，高速に書き換えなくてはならないからだ．さもないと，ユーザは頭の動きと画像の変化の間にタイムラグを感じてしまう．(ユーザが自分の頭を急に左に90度回転させたとする．大量の画像更新を非常に高速に行わなくてはならない．また，動きを引き起こしているのが頭であり，視覚野は頭の内部にあるため，画像の更新は手でコントローラを動かした場合よりもずっと速く行う必要がある．)

だから，VRに伴う画像処理の量は膨大なものになる．同時に，この処理のほとんどは無駄になる．なぜって? 標準的なVRが生成するのは，われわれが見るための仮想世界だ．つまり，VRが生成する完全な高解像度の画像には，ちゃんとテクスチャを貼付けてレンダリングしてあり，どこもかしこもきちんと焦点があっている．しかし，ユーザがしっかり見るのはその画像のほんのちっぽけな部分にすぎないのだ! 原理的には，画像全体に焦点があっている必要もなければ，全体にテクスチャが貼られている必要も，全体がきちんとシェーディングをされている必要も，その他のいろんな処理をしっかりやる必要もない．人が見つめている部分さえちゃんと高解像度で処理すれば，残りは大まかでかまわないのだ．

これこそが基本的にFoveのシステムがやっていることである．Foveのゴーグルは視線を追跡し，見つめている箇所だけを高解像度でレンダリングする．下のビデオがこの処理方法の効果をよく示している:

 

まだFoveのゴーグルを着けてみたことはないが，HTC Viveを試したことはある．Viveの優れた動作を見れば，VRゴーグルが現実と事実上 区別不可能な仮想環境を作り出せることは疑いない．今は無理だとしても，すぐにできるようになるだろう．

テクノロジー的には，これはまったく結構なことだしビジネス的にも(エトセトラエトセトラ…)しかし，哲学的な側面から見ると，Foveゴーグルが実際にやっているのはある種の読心術だ．我々の眼前の「画像」がおおよそ幻想であるというなら，我々が自分の周りの世界の細部の表現を脳内に作り出しているというのもまた同様の幻想だ．眼は，ある意味で脳の一部であるばかりでなく，眼球の運動が実は，ある重要な役割をさまざまな思考プロセスの中で担っているのだ．アンディ・クラークいわく:

この視覚的脳というやつはご都合主義的で，すきあらば常に古着をリメークするように，世界が既に提示しているものを最大限に利用しようとし，自分の内部で認知ルーチンを神経線維網から構築するのをなるべく避けようとする．内部の表現(内的画像すなわちモデル)をぜいたくに作ったり維持したり更新したりしようとはせず，ロボット工学者ロドニー・ブルックスが述べたところの「世界自身を世界の最良のモデルとして利用する」という戦略を活用する．ブルックスのアイデアはどういうことかというと，ロボットのセンサーから得られる情報を使ってロボットのまわりの環境を詳細かつ複雑に記述するモデルをロボット内部に作り上げるという，実現できるかどうかわからない困難な問題にチャレンジするよりも，ロボットがうまく振る舞うには，もっと倹約したセンシングを行って，状況の中のほんの一握りの重大な側面だけを選び抜いて監視し，外に存在し続ける周囲の物理的環境それ自身を一種の永続的外部記憶 — 必要に応じていつでもサンプリングし直せる外部の「メモリ」– として利用するのが良いというものである．我々の脳も，こういったモバイルロボットと同様に，可能な限り外部の世界それ自身を世界の最良のモデルとして利用しようと努めている．

(この引用は，もっと長い「神経的ご都合主義」という論考の一部で，クラークの本『Natural Born Cyborgs』² に収録されている．一読することを強く薦める．)

世界の「コピー」をメモリ内に作ってから，そのコピーをもとに思考するのではなく，我々がやっているのは世界自身を参照点として用いる方法で，メモリにコピーするのは世界の中で何が必要かを探すのに必要な情報だけである．これが明らかになるのは，サッケードが視界の中を動き回るパターンが，何か情報を探すように指示したり，何か問題を解くように指示したときにどうなるかを観察したときである．情報を世界から引き出すのは，その情報が何らかの認知処理に必要になった時にはじめて行われる．従って，多くの状況で，文字通りの意味で人が何を考えているか視線追跡によって知ることができるのだ．(私はクラークら「拡張した心」論者に賛成の立場に傾きつつある．「拡張した心」論者は，眼球運動は思考プロセスの一部だと主張している．)

このテクノロジーがプライバシーという伝統的概念に対して提示する課題がいかに重大かは，十分に明らかだと信じる．このテクノロジーはとんでもないほどの侵略だ．テクノロジー企業は，あなたの思考に対して，あなた自身(すなわち，あなたの意識的な心)より優れたアクセス手段を得る．この感じをつかむために，次のものをよく見てほしい．1枚の画像と，その右側には同じ画像に，人がこの画像を見る際の典型的なサッケードのパターンを重ね合わせたものを示してある．

さて，この画像が広告だとしよう．あるいは，複数の広告があるウェブページだとしよう．右に示してあるような，画像に対するあなたの眼球運動パターンの情報をFacebookに渡したいと思うだろうか？

わかりやすい例をひとつ挙げると，それほどたいした創意工夫をせずとも，ある人の性的嗜好に関して眼球運動の調査から多大な情報を得ることができるだろう．最近の研究によれば，瞳孔の反応の測定結果を用いてヘテロセクシュアルな男とホモセクシュアルな男を区別できるという．また，小児性愛的な反応も検知できるという(Janice Attard-Johnson, Markus Bindemann and Caolite O Ciardha, “Heterosexual, Homosexual, and Bisexual Men’s Pupillary Responses to Persons at Different Stages of Sexual Development”を参照のこと)．これは眼球運動の追跡とは少し異なるが，技術的な困難さは同程度である．

「うちのTiVoは私をゲイだと思ってる」という昔ながらの逸話を思い出そう．今回の場合，あなたのエンターテイメントシステムは実際あなたがゲイであることを知っているのだ．あなた自身が気づくより先に．さて，そうなると，ある人がもっとも性的に興奮するものが何かを探り出し，広告の内容をその嗜好に適応させるのはどれくらい難しいだろうか？もっと気がかりなのは，小児性愛嗜好を検知する能力である．検知するのが単に嗜好であって行動ではないとはいえ，これは我々を『マイノリティ・リポート³ 』の領分へと追いやる第一歩である(小児性愛に対する現在の扱いが変わらないとしての話だが)．

おしまいに，もう一つ例を．ここトロント大学のわが同僚Kang Leeは，人々の顔の毛細血管の血流パターンを，普通のビデオカメラを使って検知して解析できる技術を研究している．彼が特に関心を持っているのは嘘の検知だが，この技術は広い範囲の感情を検知するのにも使える:

私は，誰かにXbox KinectをハックさせてXboxで動くシステムを作ったらどうだと彼に提案した(Kinectのカメラに顔の色を検知する機能がすでにあるので，彼のソフトウェアはその機能を利用できるだろう)．しかし，このビデオを見ると，この技術をSkypeに組み込むこともできそうだとわかる．誰かと話している時に，コンピュータがリアルタイムで相手の感情，ストレスや不安のレベルを解析し，結果をダッシュボードに表示したりするわけだ．

こうした種々の技術すべてに共通しているのは，これらが難問を投げかける相手が心のプライバシーだという点である．心のプライバシー — 我々のほとんどが育ってきた世界では当然のものとみなされていたが，どうやら今後は存続しそうにない何か．

1. 訳注: 衝動性眼球運動 [↩]
2. 訳注: 邦訳『生まれながらのサイボーグ: 心・テクノロジー・知能の未来』,春秋社, 2015 [↩]
3. 訳注: P・K・ディックの短編SF小説およびそれを原作とするS・スピルバーグの映画．犯罪が予知され事前に防止される監視社会が舞台． [↩]

●Joseph Heath, “Capitalism remains controversial”（In Due Course, August 12, 2014）

---

価格システムが財を配分するその基本的なあり様に対する世間一般の抵抗の粘り強さ――あのアメリカにおいてでさえも！――には驚かされるばかりだ。「需要量と供給量を一致させるために財の価格が自由に変動（上下動）するに任せるべし」というアイデアは世の大抵の人々にとって直感に反するばかりか、道徳にも反するように感じられるようなのだ。そのことを示すまたとない実例がある。（配車サービス業界の革命児たる）Uber社が導入した料金システム（サージ・プライシング）に対する最近の騒動がそれだ（「市場行動の社会学」に興味がある向きにはこちらやこちらの記事は面白く読めるに違いない）。Uberのサージ・プライシングは基本的にはその時々の需給状況（乗車を希望している人がどのくらいの数に上るか、路上にいるドライバーの数はどのくらいか）に応じてリアルタイムで乗車料金を変動させる仕組みであり、テクノロジーの助けを借りて（経済学入門の講義で必ずやお見かけするあの）完全競争市場に似たマーケットを作り出そうと試みた格好の例だと言える。Uberの利用者たちは料金が据え置かれて「不足」に悩まされる（乗車の順番が回ってくるまで長時間待つことを強いられる）よりは料金の上昇（を通じた需給の調整）を受け入れることだろう。そう思う人もいるかもしれないが、実際のところはどうかというと、（需要の急増に応じた）料金の引き上げに対してあちこちから怒りの声が上がっているのだ。

「需要の急増に応じて価格は上昇するに任せるべきだ」。経済学者がそう考える理由の説明に乗り出してから200年以上が経過しており、世間の人々も程度の差はあれその説明を受け入れてきているように見える。そうであるにもかかわらず、世の大抵の人々は未だに道徳的な直感のレベルで（需要の急増に応じて価格が上昇することに対して）大いに反発を感じてしまうようなのだ。私が驚かされるはこの点なのだ。おっと、勘違いしないでもらいたい。「市場」という制度はそのうち消えてなくだろうだとかUberの料金システムはおかしいだとかと言いたいわけではない。「市場」という制度は消えてなくなったりなんてしないし、Uberの料金システムも完璧に理に適ったものだと思う。「市場」が我々の生活を取り巻く支配的な経済制度となるまでに上り詰める一方で、我々の道徳的な直感は「市場」を組織立てる中心的な原理（需給の変動に応じた価格の上下動）に未だに（何世代もの間にわたって！）適応できない（馴染めない）でいる。いかにしてそんなことが可能となるのだろうか？　私が気にかかっているのはそのような何とも不可解な（そして哲学的なと言える）疑問なのだ。