Nowe Technologie

Pułapki Big Data

fot. Adobe Stock

Powielanie stereotypów, dyskryminacja całych grup społecznych, błędy w klasyfikacji. Popularna w biznesie analiza wielkich zbiorów danych nieumiejętnie wykonywana może nas szybko wyprowadzić na manowce. 

Pojęcie big data, czyli wielkich baz danych, doprowadziło do przewrotu w funkcjonowaniu biznesu. Dzięki technologii ich przetwarzania i możliwościom nieosiągalnym przy tradycyjnej obróbce firmy mają dziś np. dostęp do ogromnych ilości informacji na temat swoich klientów: ich zachowań, potrzeb, zainteresowań. Sporo z tego, co kiedyś wymagało wielu kosztownych badań, dziś każdy z nas może zdobyć, chociażby przy użyciu Google Analytics.

Rozumowanie wydaje się proste: algorytmy przetwarzające te ogromne zbiory danych są obiektywne, tak jak obiektywna jest matematyka. Zamiast zgadywać i zdawać się na „biznesowego nosa”, możemy oprzeć się na twardej wiedzy. Mnóstwo przedsiębiorstw zaczęło opierać się na liczbach w procesach podejmowania decyzji, nieraz także strategicznych. Tymczasem algorytmy bazują na danych historycznych, często już nieaktualnych, więc mogą nam co najwyżej podpowiedzieć, jak ulepszyć to, co było. Ale nie podpowiedzą, jak np. podbijać nowe rynki czy tworzyć innowacje. 

Stronnicze algorytmytmy

W ostatnich latach uświadomiono sobie, że również sama sztuczna inteligencja bywa bardzo zawodna. W swej głośnej książce „Weapons of Maths Destruction” (przetłumaczonej na polski jako „Broń matematycznej zagłady”) Kathy O’Neil przypomina, że ludzie zawierzyli sztucznej inteligencji, licząc na to, iż w przeciwieństwie do nich będzie bezstronna i sprawiedliwa. A tu tymczasem zaskoczenie: zdarzają się stronnicze algorytmy (biased algorithms), które mimo swej pozornej obiektywności okazują się mocno niesprawiedliwe. Ze szkodą dla firm, ale i dla całej gospodarki oraz społeczeństwa.

Weźmy choćby algorytmy decydujące o przyznaniu komuś kredytu. Bywa, że można dostać odmowę tylko dlatego, iż adres, który podał aplikujący, nie jest „dobry” – ulica znajduje się w okolicy, statystycznie rzecz biorąc, ubogiej – a więc oznaczonej jako bardziej ryzykowna dla banku. Człowiek o niezłych dochodach, lecz mieszkający w takim rejonie, może mieć w rezultacie nieuzasadnione problemy z dostaniem pożyczki. Ludziom ze „złych miejsc” dużo ciężej będzie też wyrwać się z biedy, np. dzięki otrzymaniu kredytu inwestycyjnego. 

Pełna wersja artykułu jest dostępna dla subskrybentów. Aby uzyskać dostęp do artykułu należy się zarejestrować/zalogować a potem zakupić subskrypcje. Zobacz Cennik treści i serwisów płatnych.

Miesięcznik „My Company Polska
PRENUMERATA

Moim zdaniem

Najczęściej czytane

Czy przenieść firmę za granicę

Cztery sposoby na podatki

Boom na drony

Kto zyska na ozusowaniu umów zleceń?

Dobre auto na niskie raty