Directorii META au continuat cu un plan de criptare a serviciilor de mesagerie conectate la aplicațiile Facebook și Instagram, în ciuda avertismentelor interne că acest lucru ar împiedica capacitatea gigantului rețelelor sociale de a semnala cazurile de exploatare a copiilor către autorități, conform documentelor interne ale companiei depuse într-un proces judiciar din statul New Mexico, informează în exclusivitate Reuters.
Erau conștienți
"Suntem pe cale să facem ceva rău ca firmă. Este atât de iresponsabil," a scris Monika Bickert, șefa politicii de conținut a Meta, într-un schimb intern de chat datat martie 2019, în timp ce se pregătea anunțul public al planului de către CEO-ul Mark Zuckerberg.
Documentul, care a fost făcut public, dar nu fusese raportat anterior, conține emailuri, mesaje și documente informative obținute în procesul de descoperire pentru un proces intentat de procurorul general din New Mexico, Raul Torrez, care oferă o nouă lumină asupra impactului pe care compania l-ar evalua al planului și asupra modului în care executivii de rang înalt de politici și siguranță l-au perceput la acea vreme.
Ce a permis Meta
Torrez susține că Meta a permis prădătorilor acces neîngrădit la utilizatorii minori și i-a conectat cu victime, ceea ce a dus adesea la abuzuri reale și trafic de persoane.
Un proces a început luna aceasta și este primul caz de acest fel împotriva Meta care ajunge în fața unui juriu.
Context
Informațiile apar în contextul în care Meta se confruntă cu un val de litigii și amenințări de reglementare la nivel global, legate de bunăstarea tinerilor utilizatori de pe platformele sale.
Pe lângă procesul din New Mexico – care se concentrează pe presupusa eșec al companiei de a aborda prădarea copiilor – o coaliție de peste 40 de procurori generali urmărește afirmații conform cărora produsele companiei dăunează în mod larg sănătății mintale tinerilor.
Unele districte școlare dau în judecată și compania în judecată, în timp ce Zuckerberg a depus mărturie săptămâna trecută într-un alt caz intentat de avocați care reprezintă un adolescent care ar fi fost prejudiciat de produsele sale la Curtea Superioară a Comitatului Los Angeles.
Cel mai recent document depus în cazul din New Mexico acuză în mod specific Meta că a prezentat greșit siguranța planului său de a implementa criptarea implicită end-to-end pe serviciul său Messenger conectat la Facebook, pe care l-a anunțat prima dată în 2019 și ulterior l-a extins pentru a include mesajele directe Instagram.
Risc crescut la criptare
Criptarea end-to-end – în care mesajul expeditorului este transmis într-un format pe care doar dispozitivul destinatarului îl poate decoda – este o caracteristică standard de confidențialitate a multor aplicații de mesagerie, inclusiv cea a Apple (AAPL. O), se deschide o filă nouă iMessage, Google (GOOGLE. O), se deschide o filă nouă Messages și WhatsApp-ul Meta.
Dar susținătorii siguranței copiilor, inclusiv Centrul Național pentru Copiii Dispăruți și Exploatați (NCMEC), au susținut că tehnologia prezintă un risc crescut atunci când este integrată în rețele sociale publice care conectează ușor copiii cu persoane pe care altfel nu le-ar cunoaște.
Documentele depuse din New Mexico arată că directorii de rang înalt de siguranță ai Meta exprimă aceeași teamă. Chiar dacă Zuckerberg a susținut public că compania abordează riscurile planului, directorii de top din domeniul siguranței și politicii și-au exprimat nemulțumirea internă, Bickert, șeful politicii de conținut, spunând că firma face "declarații greșite grave privind capacitatea noastră de a desfășura operațiuni de siguranță", arată documentele.
"Nu sunt foarte implicat să-l ajut să vândă asta, trebuie să spun," a scris Bickert despre eforturile lui Zuckerberg de a promova criptarea pe motive de confidențialitate. Cu criptarea end-to-end, "nu există nicio modalitate de a identifica planificarea atacului terorist sau exploatarea copiilor" și de a trimite proactiv aceste cazuri către forțele de ordine, a adăugat ea.
Într-un e-mail din februarie 2019, un document Meta a estimat că raportarea totală a nudității copiilor și exploatării sexuale către NCMEC în anul precedent ar fi scăzut la 6,4 milioane de la 18,4 milioane dacă Messenger ar fi fost criptat, o scădere de 65%.
O actualizare ulterioară a aceluiași document a precizat că Meta ar fi fost "incapabilă să furnizeze date proactiv forțelor de ordine în 600 de cazuri de exploatare a copiilor, 1.454 de cazuri de sextorsiune, 152 de cazuri teroriste [și] 9 amenințări cu împușcături în școli."
Ce spune Meta
Purtătorul de cuvânt al Meta, Andy Stone, a declarat ca răspuns la întrebările Reuters că îngrijorările ridicate de Bickert și Antigone Davis, șefa globală a Siguranței Meta, au determinat Meta să lucreze la funcții suplimentare de siguranță înainte ca compania să lanseze mesageria criptată pe Facebook și Instagram în 2023.
Deși mesajele sunt criptate implicit, utilizatorii pot totuși raporta mesajele neacceptabile către Meta pentru revizuire și posibilă trimitere către forțele de ordine.
"Îngrijorările ridicate în 2019 reprezintă chiar motivul pentru care am dezvoltat o serie de noi funcții de siguranță pentru a ajuta la detectarea și prevenirea abuzurilor, toate concepute să funcționeze în chat-uri criptate", a spus Stone.
Printre eforturile companiei s-au numărat formarea unor conturi speciale pentru utilizatorii minori, care împiedică utilizatorii adulți să inițieze contact cu minori pe care nu îi cunosc.
Directorii de siguranță au ridicat în mod special spectrul copiilor manipulați pe platformele semi-publice de social media ale companiei și apoi exploatați pe serviciile sale de mesagerie privată.
"FB [Facebook] permite pedofililor să se găsească între ei și pe copii prin social graph, cu o tranziție ușoară către Messenger", a scris Davis într-un e-mail din 2019 în care evalua riscurile planului.
Prin contrast, a scris ea, serviciul de mesagerie criptată existent al Meta, WhatsApp, nu era conectat direct la o platformă de social media și, prin urmare, nu prezenta aceleași riscuri.
"WA (WhatsApp) nu face ușoară realizarea conexiunilor sociale, ceea ce înseamnă că transformarea Messenger în e2ee (criptat end-to-end) va fi mult, mult mai rău decât orice am văzut sau văzut pe WA", a spus ea.
Comentează