OTB Ventures inwestuje w Safe Intelligence. Startup zgarnia 4,15 mln funtów na ocenę modeli sztucznej inteligencji

Celem Safe Intelligence jest zapewnienie skutecznej walidacji modeli sztucznej inteligencji, co ma kluczowe znaczenie dla ich bezpieczeństwa i niezawodności w rzeczywistych zastosowaniach.

Polski akcent – inwestycja OTB Ventures

W projekt zaangażował się również polski fundusz OTB Ventures, specjalizujący się w finansowaniu deep tech na etapie seed i rundy A. Fundusz zarządza aktywami o wartości ponad 350 mln euro i wspiera innowacyjne technologie w obszarach takich jak AI, automatyzacja, fintech, cybersecurity oraz technologia kosmiczna.

Rewolucja w testowaniu modeli AI

Safe Intelligence opracowało innowacyjne podejście do oceny modeli uczenia maszynowego, pozwalając wykrywać potencjalne słabości mogące prowadzić do krytycznych błędów w trakcie działania systemu. W przeciwieństwie do standardowych metod statystycznych, firma oferuje bardziej efektywne narzędzia, umożliwiające dogłębną analizę i „uszczelnianie” modeli poprzez proces tzw. robustyfikacji.

Problem weryfikacji modeli AI staje się coraz bardziej palący, ponieważ ich rosnąca złożoność oznacza większą nieprzewidywalność działania. Szczególne znaczenie ma to w sektorach takich jak finanse, mobilność, robotyka czy lotnictwo, gdzie nawet najmniejsze błędy modeli mogą prowadzić do znacznych strat finansowych lub zagrożeń dla ludzkiego życia.

Praktyczne zastosowania w kluczowych sektorach

Safe Intelligence może mieć kluczowe znaczenie dla branż wymagających wysokiego poziomu bezpieczeństwa. Przykładowo, w sektorze finansowym modele AI pomagają podejmować decyzje kredytowe. Jednak ich rosnąca złożoność może prowadzić do nieoczekiwanych rezultatów, np. nieprawidłowej oceny ryzyka kredytowego. Rozwiązanie Safe Intelligence umożliwia wykrycie potencjalnych błędów i weryfikację, czy model działa poprawnie w każdej możliwej sytuacji.

Firma oferuje narzędzia w formie komend wiersza poleceń oraz platformę do formalnej weryfikacji na szeroką skalę. Rozwiązania te obejmują modele oparte na sieciach neuronowych oraz drzewach decyzyjnych, a w przyszłości zostaną rozszerzone na modele przetwarzania języka naturalnego.

Kto tworzy Safe Intelligence

Za startupem stoją doświadczeni specjaliści. CTO firmy, Alessio Lomuscio, profesor sztucznej inteligencji w Imperial College London, od ponad 25 lat zajmuje się tematyką bezpieczeństwa AI i posiada ponad 200 publikacji naukowych oraz liczne patenty. CEO Safe Intelligence, Steven Willmott, wcześniej kierował firmą 3scale, która stała się liderem w zarządzaniu API, a następnie została przejęta przez Red Hat.

Opinie inwestorów i przyszłość Safe Intelligence

Dr Manjari Chandran-Ramesh, partner w Amadeus Capital Partners, podkreśla znaczenie bezpiecznych modeli AI: – Potencjał AI będzie w pełni wykorzystany tylko wtedy, gdy modele będą niezawodne. Wielu dużych graczy, np. banki i firmy ubezpieczeniowe, wstrzymuje wdrożenia AI w kluczowych obszarach ze względu na brak pewności co do ich działania. Safe Intelligence pozwala eliminować te słabości i otwiera drogę do pełniejszego wykorzystania potencjału sztucznej inteligencji.