Dolina Krzemowa dzieli się w sprawie AI. Nvidia i Meta nie chcą naciskać hamulca

Największe firmy technologiczne przestały mówić jednym głosem o tempie rozwoju sztucznej inteligencji. Po jednej stronie znaleźli się szefowie OpenAI, Anthropic i xAI, którzy chcą skoordynowanego ograniczenia wyścigu po coraz potężniejsze modele. Po drugiej – Nvidia oraz Meta, przekonujące, że innowacji nie trzeba hamować, a obecne mechanizmy rynkowe wystarczą, by powstrzymać firmy przed wypuszczaniem niebezpiecznych produktów.

Jensen Huang, szef Nvidii, podczas konferencji Dreamforce w San Francisco odrzucił zarówno pomysł nowych regulacji, jak i konieczność branżowego porozumienia. Mark Zuckerberg przedstawił podobne stanowisko: laboratoria AI mają wystarczające bodźce ekonomiczne i prawne, by samodzielnie dbać o bezpieczeństwo.

Altman, Amodei i Musk chcą zwolnić

Dyskusję wywołał Dario Amodei, prezes Anthropic, który opublikował esej zatytułowany „We Must Pace the Frontier”. Jego zdaniem postęp w AI gwałtownie przyspieszył, ponieważ modele zaczynają pomagać w budowaniu swoich następców.

– Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli AI – napisał Amodei. Zaznaczył jednak, że nie chodzi o całkowite zatrzymanie badań, lecz o zapewnienie czasu na opracowanie skuteczniejszych zabezpieczeń.

Szef Anthropic zaproponował trzyetapowy plan. Największe laboratoria miałyby wpuścić do swoich struktur niezależnych audytorów z dostępem podobnym do pracowników, uzgodnić wspólne standardy bezpieczeństwa, a następnie dążyć do międzynarodowego porozumienia obejmującego również Chiny. Amodei uważa, że nawet dodatkowy rok lub dwa przed osiągnięciem przez modele krytycznego poziomu możliwości mogłyby znacząco ograniczyć ryzyko katastrofalnych zdarzeń. 

Pomysł poparli Sam Altman i Elon Musk, mimo że od lat pozostają ostrymi konkurentami. Altman zadeklarował, że OpenAI również zgodzi się na stały dostęp zewnętrznych ekspertów do procesu budowania modeli. Poparcie dla większej koordynacji sygnalizowali także Google DeepMind i Microsoft.

Według TechCrunch OpenAI, Anthropic i Google już od kilku tygodni prowadzą rozmowy o wspólnych standardach bezpieczeństwa.

Huang: bezpieczeństwo to problem inżynieryjny

Jensen Huang odrzuca jednak wizję odgórnego spowalniania całej branży.

– Bezpieczeństwo jest problemem inżynieryjnym, a nie prawnym – przekonywał szef Nvidii podczas rozmowy z prezesem Salesforce’em Markiem Benioffem.

Zdaniem Huanga firmy nie powinny wypuszczać produktu, jeśli nie są przekonane o jego bezpieczeństwie. Nie oznacza to jednak potrzeby tworzenia nowych przepisów ani koordynowania tempa prac z konkurentami.

– Biegnijcie tak szybko, jak możecie. Jeśli jednak uznacie, że firma traci kontrolę albo produkt nie jest bezpieczny, zatrzymajcie się i go poprawcie – mówił Huang. Relację z wystąpienia opublikowała Nvidia.

Według szefa koncernu przeciwstawianie szybkości innowacji bezpieczeństwu jest „fałszywym wyborem”. Rynek ma sam karać producentów wadliwych lub niebezpiecznych systemów, podobnie jak dzieje się w innych gałęziach gospodarki.

Problem w tym, że Nvidia jest w zasadzie największym beneficjentem obecnego wyścigu. Im szybciej laboratoria budują nowe modele i centra danych, tym więcej kupują procesorów. Każde ograniczenie tempa badań mogłoby więc uderzyć bezpośrednio w dynamikę jego biznesu.

Zuckerberg: nie potrzebujemy branżowego kartelu

Mark Zuckerberg również uważa, że odpowiedzialność powinna pozostać po stronie poszczególnych przedsiębiorstw.

– Każde laboratorium ma obowiązek i bodźce, by rozwijać modele w tempie pozwalającym na ich bezpieczne trenowanie – napisał szef Meta.

Jego zdaniem firmy, które zlekceważą bezpieczeństwo, stracą klientów i mogą ponieść znaczną odpowiedzialność prawną. Zuckerberg wskazał, że Meta o kilka miesięcy opóźniła premierę agenta Muse, aby wzmocnić jego zabezpieczenia. Nie domagała się jednak, by na ten sam czas prace zatrzymali również konkurenci.

Szef Meta popiera korzystanie z niezależnych ekspertów, ale uważa to za dobrą praktykę poszczególnych przedsiębiorstw, a nie powód do ustanawiania wspólnej kontroli nad tempem rozwoju technologii. Jak podaje Reuters, Meta deklaruje też, że większość jej mocy obliczeniowej służy budowaniu produktów dla użytkowników, a nie pracom nad rekurencyjnym samodoskonaleniem AI.

Modele otwarte kontra zamknięte

Podział ma również wymiar biznesowy. OpenAI i Anthropic rozwijają przede wszystkim zamknięte systemy, udostępniane klientom przez płatne usługi i interfejsy API. Meta oraz Nvidia promują szerszy ekosystem modeli z otwartymi wagami, które firmy mogą pobierać, modyfikować i wdrażać we własnej infrastrukturze.

Koordynowanie rozwoju na poziomie kilku największych laboratoriów mogłoby utrwalić ich dominację. Firmy posiadające już najbardziej zaawansowane modele, największe centra danych oraz miliardy dolarów finansowania mogłyby ustalić standardy trudne do spełnienia przez mniejszych rywali.

Problem zauważył również amerykański urząd antymonopolowy. Przewodniczący Federal Trade Commission Andrew Ferguson stwierdził, że należy podchodzić z „głęboką podejrzliwością” do firm AI zabiegających o wyłączenia spod prawa antymonopolowego, aby mogły wspólnie ograniczać tempo rozwoju.

Spowolnienie czy próba zamknięcia rynku?

Zwolennicy koordynacji mają mocne argumenty. Amodei przywołuje przypadki agentów AI, które podczas eksperymentów podejmowały nieautoryzowane działania i próbowały omijać mechanizmy kontrolne. Ostrzega też przed cyberatakami, bioterroryzmem, utratą kontroli nad autonomicznymi agentami i gospodarczymi skutkami zbyt gwałtownej automatyzacji.

Przeciwnicy odpowiadają, że firmy najlepiej znają własne modele, a odpowiedzialność prawna oraz konkurencja wymuszają ostrożność. Wskazują też na ryzyko, że zachodnie ograniczenia oddadzą przewagę Chinom.

Do tego stanowiska przychyla się administracja Donalda Trumpa. Prezydent USA odrzuca ostrzeżenia o egzystencjalnym ryzyku związanym z AI i przekonuje, że spowolnienie prac osłabiłoby Stany Zjednoczone w globalnym wyścigu technologicznym.