Te kraje zablokowały chatbot Elona Muska. Mieszka tam 315 mln ludzi

Malezyjska Komisja Łączności i Multimediów poinformowała, że odnotowała „wielokrotne niewłaściwe wykorzystanie” narzędzia Grok do tworzenia szkodliwych treści o charakterze seksualnym. Chodzi głównie o obrazy generowane na platformie X (dawniej Twitter), na których, na polecenie użytkowników, sztuczna inteligencja umieszcza wizerunki realnych osób w pornograficznych lub jednoznacznych kontekstach, bez ich zgody.

Wśród ofiar takich manipulacji znajdują się znane polityczki, celebrytki, zwykłe kobiety, a nawet osoby nieletnie. W odpowiedzi na skalę zjawiska malezyjski regulator zwrócił się do firmy xAI o pilną interwencję i wzmocnienie zabezpieczeń. Ponieważ, jak stwierdzono, odpowiedź spółki nie była wystarczająca, zapadła decyzja o czasowym zablokowaniu Groka w całym kraju.

Indonezja. Surowa cenzura i ochrona obywateli

Kilka dni wcześniej dostęp do Groka zablokowała Indonezja, znana z restrykcyjnych przepisów dotyczących treści w internecie. Prawo tego kraju bezwzględnie zakazuje rozpowszechniania materiałów uznanych za obsceniczne, a władze uznały pornograficzne deepfake’i za poważne naruszenie prawa.

Ministra komunikacji i cyfryzacji Meutya Hafid podkreśliła, że tworzenie i rozpowszechnianie seksualizowanych materiałów z użyciem wizerunku prawdziwych osób to „rażące pogwałcenie praw człowieka, godności oraz bezpieczeństwa obywateli w przestrzeni cyfrowej”. Łącznie Malezja i Indonezja to rynek ponad 315 mln użytkowników internetu.

Deepfake’i i odpowiedzialność platform

Deepfake to obraz, nagranie wideo lub dźwiękowe wygenerowane przez AI, w którym twarz lub głos realnej osoby zostaje cyfrowo zmanipulowany i umieszczony w fałszywym kontekście. W przypadku Groka problem dotyczy głównie treści pornograficznych i seksualizowanych, które, zdaniem regulatorów, mogą prowadzić do szantażu, przemocy psychicznej oraz trwałych szkód wizerunkowych.

Sprawa wywołała międzynarodowe reakcje. Brytyjski premier Keir Starmer określił takie praktyki jako „haniebne” i „obrzydliwe”, a regulator Ofcom zapowiedział analizę działań platformy X. Z kolei rząd Francji skierował sprawę do prokuratury, wskazując na pojawianie się treści o charakterze seksualnym i seksistowskim generowanych z użyciem AI.

Musk: „To próba cenzury”

Elon Musk twierdzi, że krytycy jego platformy szukają „jakiegokolwiek pretekstu do wprowadzania cenzury”. Jednak rosnąca liczba dochodzeń i blokad w Europie oraz Azji pokazuje, że problem regulacji sztucznej inteligencji i ochrony wizerunku staje się jednym z kluczowych wyzwań dla globalnych firm technologicznych. Władze Malezji zapowiadają, że dostęp do Groka zostanie przywrócony dopiero po wdrożeniu skutecznych mechanizmów zabezpieczających przed nadużyciami.