AI ma problem z zaufaniem. Czy blockchain może pomóc?

Trudność zapewnienia, że algorytmy sztucznej inteligencji są bezpieczne, bezstronne i dokładne, skłania niektóre firmy w stronę technologii, która kiedyś była reklamowana jako przełomowa, ale nie znalazła uznania w biznesie. To oczywiście blockchain.

Znana jako fundament Bitcoina i innych kryptowalut, blockchain to struktura danych umożliwiająca tworzenie cyfrowego rejestru transakcji i udostępniania go w sieci komputerów. Używa kryptografii, aby każdy uczestnik w sieci mógł bezpiecznie dodawać do rejestru nowe rekordy, bez potrzeby centralnego organu. Gdy transakcja zostanie przeprowadzona, blockchain pozostaje niezmiennym zapisem całości.

Mając to na uwadze FICO, firma analityki danych, oraz startup skupiający się na blockchainie, Casper Labs, mówią, że stosują technologię do śledzenia procesu budowy i szkolenia algorytmów AI.

Twierdzą, że to aktualne i pilne zastosowanie, ponieważ AI rozprzestrzenia się w różnych sektorach biznesowych i firmy odkrywają, że nie zawsze mogą ufać jej wynikom. Jednocześnie regulatorzy rządowi wywierają większą presję na organizacje, aby zwiększyły przejrzystość i możliwość audytu algorytmów.

Blockchain zyska ważne zastosowanie

Poprzednie biznesowe zastosowania blockchaina, w tym śledzenie łańcucha dostaw, nie zyskały trakcji na rynku. Czy ogromny wzrost zainteresowania AI może być wiatrem pod skrzydłami blockchaina? Na razie za wcześnie, aby to stwierdzić. Na pewno są jednak duże szanse na to, że blockchain zyska w oczach inwestorów.

- Blockchain można wykorzystać do dokładnego śledzenia, jakich danych został nauczony algorytm, kiedy, przez kogo, a także jakie inne kroki zostały podjęte, aby zweryfikować te dane - powiedział Scott Zoldi, główny specjalista analityczny FICO. - Firmy budujące modele AI zazwyczaj starają się śledzić ten ślad danych, ale używanie blockchaina ułatwiłoby uzyskanie wspólnych, spójnych, godnych zaufania zapisów - dodał.

Blockchain nie zatrzyma algorytmów od wykolejenia się lub wykazywania stronniczości. Oferowałby jednak zapis możliwy do zweryfikowania, który mógłby pokazać dlaczego AI działa tak, a nie inaczej.

Blockchain sam nie określi, dlaczego model AI wypluł konkretną odpowiedź. To, co obiecuje, to lepsze zapisy i archiwizacja, co ma pomóc odpowiedzieć na to pytanie.

Obecnie narzędzie FICO jest używane wewnętrznie, ale firma planuje jego wdrożenie dla klientów jeszcze w tym roku.

Tymczasem firma z siedzibą w Szwajcarii Casper Labs pracuje z IBM nad opracowaniem własnego narzędzia, które będzie oferować "kontrolę wersji": rejestruje, jakie dane i parametry wpływają na dany model w danym czasie i jeśli firmy zaczną wykrywać stronniczość lub niedokładność w swoich modelach, mogą wrócić do wcześniejszej wersji.

- Naprawianie stronniczości w algorytmach pozostaje trudnym, czasochłonnym procesem, a firmy często nie mają systemów i narzędzi do tego celu - powiedział Mrinal Manohar, dyrektor generalny Casper Labs.

Narzędzie Casper, obecnie w testach beta, ma trafić na rynek jako integracja z platformą zarządzania AI Watsonx IBM w trzecim kwartale tego roku.