[24 ian] Cartea de azi: „Arme matematice de distrugere” de Cathy O’Neil

Țin minte că la un moment dat, în careva dintre cărțile din seria Discworld, o vrăjitoare bătrână îi spune unui preot că păcatul e atunci când tratezi oamenii ca pe obiecte. Cam ăsta ar fi rezumatul cărții „Arme matematice de distrugere”: oamenii sunt tratați ca obiecte, cu ajutorul inovațiilor tehnologice și al matematicii. Și e evident că rezultatele nu sunt în regulă.

Cathy O’Neil e o matematiciană care și-a luat doctoratul la Harvard, a predat o vreme, după care s-a mutat în câmpul muncii, lucrând în domeniul financiar. După perioada de început în care a fost preocupată mai mult de utilitatea a ce făcea decât de realitatea de pe teren, și-a dat seama că algoritmii pe care îi creau ea și toți ceilalți din industrie făceau mult rău.

Cred că n-am stat foarte mult până acum să mă gândesc la ce înseamnă faptul că SUA e o țară ale cărei valori sunt economia și profitul și care are acces la cercetători și tehnologie de vârf. Sigur, știam lucrurile astea la un anumit nivel, dar nu mam gândit intens la ele și la implicațiile lor.

Când ești pe val și faci lucruri noi, convins că faci un lucru bun și profitabil, ai șansa să o dai în bară în așa fel încât să nenorocești oameni. Iar pentru că e o lume mai tehonologizată, poți acum să nenorocești mai mulți oameni.

Cathy O’Neil discută aici despre algoritmi implementați în tot felul de domenii, bazați pe date personale, care teoretic ajută la găsirea candidaților potriviți pentru un loc de muncă, la acordarea creditelor, la stabilirea riscul de probleme pentru asigurări etc. Doar că algoritmii respectivi nu funcționează tocmai cum ar trebui, pentru că se fac tot felul de corelații ciudate. Riscul de accident cu mașina, de exemplu, e calculat nu atât în funcție de câte amenzi ai avut pentru condus în stare de ebrietate, cât în funcție de unde locuiești sau câte datorii ai.

Chiar și în cazurile în care corelațiile au mai multă logică, spune ea, sunt tot felul de probleme. Există algoritmi care ajută poliția să-și dea seama unde anume e posibil să aibă loc infracțiuni, bazat pe locurile unde au fost probleme în trecut. Evident, de obicei în cartierele sărace sunt mai multe infracțiuni, așa că poliția se duce acolo să stea la pândă. Pentru că polițiștii stau acolo, prind toate micile ilegalități care altfel se mai trec cu vederea – de exemplu, minori care beau alcool. Îi amendează, după care bagă informația asta în sistem, după care cartierul respectiv e și mai puternic semnalat ca fiind plin de infracțiuni decât înainte. Între timp, adolescenții din cartierele sărace devin și mai săraci, iar adolescenții bogați n-au nicio treabă, pentru că nu locuiesc în cartiere cu risc mare de infracțiuni.

Eh, pentru că sistemele informatice din SUA sunt mult mai bine puse la punct decât ale noastre, tot felul de informații sunt folosite ca substituenți pentru alte informații. De exemplu, firma caută angajați conștiincioși? Atunci spune chestii gen, „la un moment dat persoana asta nu și-a plătit la timp niște facturi, deci nu dă dovadă de seriozitate, deci nu ar fi bine s-o angajez”. După care persoana respectivă continuă să n-aibă loc de muncă, așa că nu poate plăti alte facturi, deci devine _și mai _defavorizată când vrea să se angajeze.

E un iad informatic al unor algoritmi prost gândiți, meniți în principal să-i ajute pe cei care au plătit pentru crearea lor, dar care au ca efect secundar faptul că fac viața unora un calvar. E o viziune neplăcută asupra unor lucruri care ar putea ajunge să se întâmple și la noi.

Cartea e disponibilă în română pe site-ul Nemira, pe eMag și pe Libris. În engleză e disponibilă în pe Book Depository (favoriții mei pentru că au livrare gratuită și harta asta) și pe Amazon.


Vrei să afli mai multe despre „Cartea de azi”? Intră aici.