Não, não precisamos de leis para a mineração de dados

Neste post do Frank Pasquale é aberta a discussão relativa à regulamentação da mineração de dados, especificamente na prática de escoragens (scoring), atividade esta que, na visão do autor, é um problema devido ao fato que pode discriminar as pessoas.

O argumento do artigo é que muitas formas de decisão baseadas em dados tornam o processo menos transparente do ponto de vista social.

Eis que o autor afirma:

Data-driven decision making is usually framed as a way of rewarding high performers and shaming shirkers. But it’s not so simple. Most of us don’t know that we’re being profiled, or, if we do, how the profiling works. We can’t anticipate, for instance, when an apparently innocuous action — such as joining the wrong group on Facebook — will trigger a red flag on some background checker that renders us in effect unemployable. We’ll likely never know what that action was, either, because we aren’t allowed to see our records.

It’s only complaints, investigations and leaks that give us occasional peeks into these black boxes of data mining. But what has emerged is terrifying.

Naturally, just as we’ve lost control of data, a plethora of new services are offering “credit repair” and “reputation optimization.” But can they really help? Credit scoring algorithms are secret, so it’s hard to know whether today’s “fix” will be tomorrow’s total fail. And no private company can save us from the thousands of other firms intent on mashing up whatever data is at hand to score and pigeonhole us. New approaches are needed.

In general, we need what technology law and policy researcher Meg Leta Jones calls “fair automation practices” to complement the “fair data practices” President Barack Obama is proposing. We can’t hope to prevent the collection or creation of inappropriate or inaccurate databases. But we can ensure the use of that data by employers, insurers and other decision makers is made clear to us when we are affected by it.

Uma afirmação que se não foi ingenua beira a maldade. A forma de decisão baseada em dados é a mais transparente que existe pois não obedece critérios subjetivos, vieses de qualquer natureza, e coloca a todos em um mesmo patamar de igualdade; isso para não dizer que é o mais justo.

Acreditar nos dados, em mais ainda entender o contexto decisório é a forma mais justa de se decidir.

O tema merece muitas discussões ligadas à diretrizes de como essas informações são manipuladas, mas não será com mais regulamentação que esse fato de que pessoas estão recebendo escores vai mudar.