Imagini intime filmate de un aspirator inteligent au ajuns pe internet: cum monitorizează roboții viețile oamenilor

În toamna lui 2020, un număr de angajați temporari din Venezuela au postat pe forumuri online o serie de imagini intime captate în casele oamenilor, între care și o scenă în care o femeie tânără se află pe closet, cu pantalonii în vine, relatează MIT Technology Review.

Fotografiile au fost realizate de robotul de aspirare model J7 produs de iRobot și trimise către Scale AI, un start-up care angajează cu contract temporar lucrători din întreaga lume pentru a eticheta imagini și înregistrări audio și video în scopul de a dezvolta algoritmii dispozitivelor ce funcționează pe bază de inteligență artificială.

În acest an, MIT Technology Review a obținut 15 capturi de ecran ale unor imagini intime după ce acestea fuseseră încărcate pe grupuri online private.

Nu toate imaginile au un conținut deosebit de sensibil. Cea mai intimă ipostază este surprinsă într-o serie de capturi video în care o tânără femeie este așezată pe WC: chipul ei este blurat doar în imaginea principală. Într-o altă imagine, un băiat care pare să aibă opt sau nouă ani, a cărui față este clar vizibilă, este întins pe burtă pe podeaua unui hol. Un smoc de păr i se revarsă pe frunte în timp ce privește, aparent amuzat, obiectul care îl înregistrează de la nivelul ochilor.

Alte imagini sunt din camere unde apar oameni și animale, și pe capturi apar etichetele unor piese de mobiler, de decor sau ale obiectelor amplasate pe tavan.

Roboții Roomba

iRobot – cel mai mare furnizor de aspiratoare robotizate din lume, pe care Amazon l-a achiziționat recent contra a 1,7 miliarde de dolari – a confirmat că aceste imagini au fost capturate de roboții Roomba, în 2020. Este vorba despre roboți experimentali, dotați cu anumite componente speciale care nu se regăsesc la produsele comerciale iRobot, a precizat compania într-o declarație. Variantele modificate în acest fel au ajuns la firmele de analiză a datelor și la angajați care au semnat acorduri scrise pentru a trimite fluxuri de date către companie. Potrivit iRobot, dispozitivele au fost etichetate cu un autocolant de culoare verde pe care scria „înregistrare video în curs”, iar angajații aveau obligația de a înlătura orice element pe care l-ar considera sensibil, inclusiv copii, din spațiul în care operează robotul.

În consecință, cel puțin teoretic persoanele care apar în imagini și-au dat acordul să fie filmate de aspiratoarele robotizate Roomba. MIT Technology Review nu a obținut fotografiile de la clienți care de regulă își exprimă acordul ca datele lor să fie înregistrate de diverse dispozitive electronice de la iPhone la mașini de spălat. Inteligența artificială se bazează pe învățare automatizată prin care volume uriașe de date sunt folosite pentru a antrena algoritmii să identifice tipare. Iar cele mai utile date sunt cele reale, captate în medii naturale.

Modelul J7 are camere și tehnologie performantă cu potențial de a fi extrem de invazive, spun experții.

Munca umană este necesară pentru a eticheta și clasifica aceste date în cadrul unui proces numit adnotare în care obiectele sunt denumite pentru a fi recunoscute ulterior ca atare de inteligența artificială.

Cele 15 imagini sunt o bucată infimă din ecosistemul uriaș de date pe care iRobot le-a trimis către Scale AI și alte platforme de adnotare. Potrivit declarației iRobot, imaginile nu puteau fi distribuite decât cu încălcarea acordurilor de protecție a datelor de către furnizorul serviciilor de adnotare astfel că a încheiat contractul cu acesta și a deschis o investigație.

Acest set de imagini trece cu mult dincolo de acțiunile unei singure companii. Ele dau seama de practica larg răspândită și în creștere de a împărtăși date potențial sensibile pentru a antrena algoritmi, precum și de modul în care o singură imagine poate traversa globul, oprindu-se mai întâi la serverele companiei iRobot (Massachusetts), apoi la compania de analiză Scale AI (San Francisco) și, în cele din urmă, la lucrătorii de date contractați din întreaga lume (inclusiv, în acest caz, la lucrătorii venezueleni care au postat imaginile pe grupuri private pe Facebook, Discord și în alte locuri).

Inteligența artificială și foamea de date

Imaginile revelează un întreg lanț de aprovizionare cu date de care dispozitivele ce funcționează pe bază de inteligență artificială sunt avide – și noi puncte de unde ar putea să se scurgă informații private și în legătură cu care puțini consumatori sunt conștienți.

„Nu este de așteptat ca ființele umane să revadă imaginile brute”, subliniază Justin Brookman, director de politici tehnologice la Consumer Reports și fost director de politici al Biroului de cercetare și investigare tehnologică al Comisiei Federale pentru Comerț. iRobot a refuzat să dezvăluie dacă cei care colectează datele au fost conștienți că oamenii vor fi cei ce vizualiza aceste imagini, deși compania a declarat că formularul de consimțământ arată clar că „furnizorii de servicii” o vor face.

„Literalmente, tratăm mașinile diferit de oameni”, adaugă Jessica Vitak, cercetător în domeniul informaticii și profesor la departamentul de comunicare al Universității din Maryland. „Este mult mai ușor pentru mine să accept un aspirator drăguț, mișcându-se prin spațiul meu personal [decât] o persoană care se plimbă prin casa mea cu o cameră de filmat.”

Aspiratoare tot mai inteligente

Cel mai vechi model, Electrolux Trilobite, fabricat în Elveția, a fost lansat pe piață în 2001. Acesta folosea senzori cu ultrasunete pentru a localiza pereții și pentru a trasa modelele de curățare; senzorii suplimentari de pe părțile laterale erau meniți să nu-i permită să se lovească de obiecte sau să cadă de pe scări. Dar acești senzori erau defectuoși, ceea ce făcea ca robotul să rateze anumite zone sau să repete altele.

În anul următor, iRobot a lansat prima generație Roomba, care se baza pe senzori similari și, mai ieftin decât concurentul său, a devenit primul aspirator robot cu succes comercial.

Dispozitivele de vârf au trecut la viziunea computerizată, un subansamblu al inteligenței artificiale care se apropie de vederea umană prin antrenarea unor algoritmi pentru a extrage informații din imagini și videoclipuri, și/sau lidar, o tehnică de detectare bazată pe laser utilizată de NASA și considerată cea mai precisă – dar și cea mai scumpă – tehnologie de navigație de pe piață în prezent.

Circa o duzină de companii au încorporat camere frontale în aspiratoarele lor robotizate pentru navigare și recunoașterea obiectelor, dar și pentru monitorizarea locuinței, primele trei fiind iRobot, care deține 30% din piață și a vândut peste 40 de milioane de dispozitive începând cu 2002; Ecovacs, cu aproximativ 15%; și Roborock, care deține tot aproximativ 15%, potrivit firmei de informații de piață Strategy Analytics. În total, aproximativ 23,4 milioane de aspiratoare robotizate au fost vândute în Europa și în America numai în 2021.

Roboții monitorizează locuințele

Încă de la început, iRobot a mizat pe viziunea computerizată, iar primul său dispozitiv cu astfel de capacități, Roomba 980, a fost lansat în 2015. A fost și primul dotat cu Wi-Fi, și primul care putea să cartografieze o casă, să își ajusteze strategia de curățare pe baza dimensiunii camerei și să identifice principalele obstacolele de ocolit.

Viziunea computerizată „permite robotului să … vadă întreaga bogăție a lumii din jurul său”, spune Chris Jones, directorul de tehnologie al iRobot. Aceasta permite dispozitivelor iRobot să „evite cablurile de pe podea sau să înțeleagă că aceea este o canapea”.

Dar pentru ca acestea să funcționeze așa cum se dorește, producătorii trebuie să o antreneze pe seturi de date diverse și de înaltă calitate, care să reflecte gama imensă a ceea ce ar putea întâlni în locuințele oamenilor din întreaga lume.

„Varietatea mediului de acasă este o sarcină foarte dificilă”, spune Wu Erqi, directorul principal de cercetare și dezvoltare al companiei Roborock din Beijing. Sistemele rutiere „sunt destul de standard”, spune el, astfel încât, pentru producătorii de mașini care se conduc singure, „veți ști cum arată banda de circulație… [și] cum arată semnul de circulație”. Dar fiecare interior de casă este diferit.

„Mobilierul nu este standardizat”, adaugă el. „Nu te poți aștepta la ce poți găsi pe jos. Uneori este vorba de o șosetă, alteori pesemne niște cabluri” – care pot arăta diferit în SUA și în China.

În cazul iRobot, peste 95% din imaginile colectate provine din locuințe reale, ai căror rezidenți sunt fie angajați ai iRobot, fie voluntari recrutați de furnizori de date terți (pe care iRobot a refuzat să îi identifice). Persoanele care utilizează dispozitive aflate în dezvoltare sunt de acord să permită iRobot să colecteze date, inclusiv fluxuri video, în timp ce dispozitivele sunt în funcțiune, adesea în schimbul unor „stimulente pentru participare”, potrivit unei declarații a iRobot. Compania a refuzat să precizeze care sunt aceste stimulente, spunând doar că acestea variază „în funcție de durata și complexitatea colectării datelor”.

Restul datelor de antrenament provin din ceea ce iRobot numește „colectare de date etapizată”, în cursul căreia compania construiește modele pe care apoi le înregistrează.

De asemenea, iRobot a început să le ofere consumatorilor obișnuiți posibilitatea de a opta să contribuie cu date prin intermediul aplicației sale, putând alege să trimită imagini specifice ale obstacolelor către serverele companiei pentru îmbunătățirea algoritmilor.