Guvernul spaniol cere investigație penală pentru pornografia infantilă generată de ia pe tiktok, instagram și x

Contextul crizei: pornografia infantilă generată de inteligența artificială

Guvernul spaniol a decis să acționeze cu fermitate împotriva abuzului de inteligență artificială în crearea și distribuirea de materiale pornografice cu minori. Președintele guvernului, Pedro Sánchez, a declarat cu hotărâre că „impunitatea trebuie să se termine”, anunțând intenția de a trage la răspundere platformele digitale majore pentru rolul lor în această problemă gravă. Această inițiativă vine într-un context de îngrijorare globală cu privire la utilizarea neetică a IA, care a precipitat reacții reglementare și juridice în mai multe țări.

Invocarea articolului 8: o cale către investigație

Guvernul a invocat articolul 8 din Statutul Organic al Ministerului Public pentru a solicita oficial Ministerului Public să investigheze potențiale infracțiuni comise de companii precum Meta, TikTok și X (fostul Twitter). Acest articol permite guvernului să solicite Ministerului Public să inițieze proceduri judiciare în apărarea interesului public. Este important de reținut că Ministerul Public își păstrează independența în decizia de a deschide sau arhiva o investigație.

Ce face concret guvernul?

Guvernul nu poate da ordine directe Ministerului Public, dar poate aduce la cunoștință “fapte relevante” care ar putea constitui infracțiuni, solicitând o analiză. Această procedură se realizează prin Ministrul Justiției, către Fiscal General al Statului. Decizia finală privind viabilitatea unei investigații aparține Fiscal Generalului, care va prezenta o rezoluție motivată guvernului. Această acțiune transformă o preocupare politică într-o posibilă cale penală.

Grok și controversele din jurul ia pe x

Unul dintre punctele fierbinți ale discuției este chatbot-ul Grok, integrat în platforma X, proprietatea lui Elon Musk. Autoritățile europene, inclusiv Comisia Irlandeză pentru Protecția Datelor, investighează dacă X a încălcat Regulamentul General privind Protecția Datelor (GDPR) prin procesarea datelor personale pentru crearea de conținut explicit. Comisia Europeană a deschis un dosar de sancționare împotriva X pentru potențiale încălcări ale Legii Serviciilor Digitale (DSA) legate de deepfakes sexuale neconsensuale.

Deepfakes și impactul asupra copiilor: o realitate alarmantă

Deepfakes, imagini, videoclipuri sau înregistrări audio generate sau manipulate cu ajutorul IA pentru a părea reale, sunt din ce în ce mai utilizate pentru a crea conținut sexualizat cu minori. Un studiu realizat în 11 țări de UNICEF, ECPAT și INTERPOL relevă faptul că cel puțin 1,2 milioane de copii și-au dezvăluit că au fost manipulați pentru a crea deepfakes sexual explicit. Aceasta înseamnă un copil din 25 în unele țări, echivalentul unui copil din fiecare clasă.

Reacția societății civile și rolul dsa

Inițiativa guvernului este văzută ca un pas pozitiv în direcția protejării copiilor în mediul digital. Cu toate acestea, unii experți, precum Borja Adsuara, specialist în drept digital, sugerează că aceasta ar putea fi o “cortină de fum” care distrage atenția de la întârzierea în aplicarea integrală a Legii Serviciilor Digitale (DSA). Adsuara subliniază că Spania are un decalaj de doi ani în implementarea acestei legi și că nu a reformulat statutul CNMC pentru a-i acorda competențele necesare.

Responsabilitatea penală: cine este vinovat?

Conform Codului Penal spaniol, producerea și distribuirea de pornografie infantilă este o infracțiune. Responsabilitatea directă revine inițial celui care generează sau distribuie conținutul. Platformele ar putea fi trase la răspundere doar dacă au cunoștință de existența conținutului ilicit și nu acționează pentru a-l elimina. În cazul platformelor mari, autoritatea competentă pentru impunerea sancțiunilor este Comisia Europeană, care poate aplica amenzi de până la 6% din cifra de afaceri anuală.