Google検索の結果には検索者の人種によるバイアスがかかっているとの研究結果: Cyberlaw

2013年2月 5日 (火曜日)

下記の記事が出ている。

　Racism is Poisoning Online Ad Delivery, Says Harvard Professor
　MIT Technology Review: February 4, 2013
　http://www.technologyreview.com/view/510646/racism-is-poisoning-online-ad-delivery-says-harvard-professor/

　Google searches expose racial bias, says study of names
　BBC: 4 February, 2013
　http://www.bbc.co.uk/news/technology-21322183

自動プロファイリングによって選別される「タイプ」の要素としては，例えば嗜好する商品やサービス等のような「対象」の属性だけではなく，嗜好する「主体」である者の属性も含まれる。

ところが，基本的人権の一部である平等原則は，主体の属性に基づく差別的取り扱いを禁止している。

自動プロファイリングとそれに基づく自動マーケティングには，（意図的な差別ではないにしても）そもそもこのような種類の人権侵害的機能が最初から組み込まれてしまっていることを示唆する点で，極めて重要な指摘だと思われる。

インターネット上の自動処理なので気づきにくいかもしれないが，例えば，アジア人が米国内の店舗で「アジア人だから」という理由だけで特別に妙な取り扱いを受けたとしたら，かなり嫌な気分を味わうことになるだろう。そのような状況をイメージすることができるのであれば，問題の本質を理解することができると考える。

自動プロファイリングに基づく自動的なマーケティングでは，人の属性に基づく区別または差別的な取り扱いを自動処理するようにシステム設計をしてはならない。

今後問題とされ得るのは，国籍，性別，年齢，収入，居住地等の「人の属性」により異なる取り扱いをすることの合理性になるだろうと思われる。そのような取り扱いの中には合理的と判定すべきものがあることは否定できない。しかし，そうでないものもある。

[追記：2013年2月6日]