Dominik Picheta: AI nie zdała jego testu w całości. Teraz chce jeszcze bardziej utrudnić jej zadanie [WYWIAD]

My Company Polska: Stworzył Pan KillSwitch jako eksperyment. Czy widzi Pan możliwość przekształcenia go w produkt, na którym można zarabiać? Kto mógłby być jego pierwszym klientem?

Dominik Picheta: Języki programowania zazwyczaj są darmowe i są też open source. Tak samo KillSwitch jest też darmowy, ale wielka różnica polega na tym, że nie wszystko w tym projekcie jest open source: interpreter jest, ale benchmarki nie są.

Może jest szansa, że jakaś firma będzie zainteresowana sponsorowaniem tego projektu, tak jak sponsorują inne języki programowania. Albo będzie miała ochotę stworzyć model AI, który nie ma tych problemów, które wykorzystuje KillSwitch – wtedy będą mogli zapłacić za dostęp do benchmarków.

Czy firmy takie jak OpenAI, Anthropic czy Google mogłyby wykorzystać Pana test do sprawdzania własnych modeli AI?

Tak, mogłyby zrobić własne testy/benchmarki albo skontaktować się ze mną, żeby testować je, używając moich benchmarków odpłatnie.

Gdyby firma chciała dziś przetestować swoje AI za pomocą KillSwitch, mogłaby to zrobić? Czy narzędzie jest publicznie dostępne, czy planuje Pan wersję komercyjną i ile mogłoby kosztować korzystanie z niego?

Mogłaby, ale tylko jeśli zrobiliby własne testy. Jeśli chcieliby użyć tych benchmarków, które ja stworzyłem, wiązałoby się to z kosztami. Nie mam na razie dokładnej ceny.

Coraz więcej firm powierza sztucznej inteligencji pisanie kodu. Jakie ryzyko ponoszą przedsiębiorcy, którzy nie mają specjalistów zdolnych sprawdzić jej pracę? Spotkał się Pan z przypadkiem, w którym błędy AI doprowadziły do strat?

Ryzyka są duże. Sztuczna inteligencja przyjmuje wiele założeń, wszyscy muszą się upewnić, że te założenia są zgodne z oczekiwaniami. To jest bardzo trudne bez specjalistów. W ramach mojej pracy zawodowej nie spotkałem się dotąd z takimi przypadkami, ale wynika to z faktu, że dokładamy wszelkich starań, aby wszystko, co generuje sztuczna inteligencja, było weryfikowane przez człowieka, który jest specjalistą.

Czy KillSwitch mógłby pomóc firmom wykrywać słabości AI, zanim doprowadzą one do problemów z bezpieczeństwem lub utraty pieniędzy? Jak wyglądałoby takie zastosowanie w praktyce?

Tak, KillSwitch może pomóc firmom w ocenie, które modele AI cechują się tak niskim poziomem inteligencji, że korzystanie z nich byłoby niebezpieczne.

Pracował Pan w Meta, dziś jest Pan inżynierem w Cloudflare. Jak z Pana perspektywy AI zmienia pracę programistów w dużych firmach technologicznych? Czy faktycznie obniża koszty?

Moje zdanie jest takie – i to jest tylko moje prywatne zdanie - niekoniecznie stanowisko ani zdanie firm, w których pracowałem albo pracuję obecnie – że sztuczna inteligencja zmienia pracę radykalnie. Robi ogromną różnicę w codziennym funkcjonowaniu.

Sprawia, że niektóre rodzaje pracy stają się bezpieczniejsze, ale z drugiej strony czyni inne bardziej ryzykownymi. Trudno powiedzieć, czy obniża koszty.

Czy AI może w najbliższych latach ograniczyć zapotrzebowanie na programistów? Które umiejętności będą nadal potrzebne?

Tak, to jest możliwe. Jest też możliwe, że AI zwiększy zapotrzebowanie na programistów. Jest na to kilka dowodów, na przykład GitHub odnotowuje bardzo znaczący wzrost.

Co dalej z KillSwitch? Czy chce Pan rozwijać projekt samodzielnie, szukać partnerów biznesowych, inwestorów, czy pozostanie on otwartym eksperymentem?

Mam nadzieję, że projekt zyska wkład ze strony społeczności open source. Ja będę dodawać do języka nowe funkcjonalności i tworzyć trudniejsze testy, aby jeszcze bardziej rzucić wyzwanie modelom AI. Oczywiście, jeśli inwestorzy są zainteresowani, to chętnie się z nimi spotkam.