Un nou avertisment pentru cei care consideră că interacțiunile cu inteligența artificială sunt private: există posibilitatea ca un om să aibă acces la materialele încărcate. Un raport de la 404 Media a scos la iveală faptul că anumiți contractori analizează fotografiile utilizatorilor Copilot, cererile de modificare și imaginile generate de acest sistem. Unele dintre aceste conținuturi sunt alarmante și pot fi ilegale.
Conținut perturbator analizat de evaluatori
Conform raportului, multe dintre solicitările implică teme sexuale, iar unele dintre ele includ minori. Fețele persoanelor din fotografiile originale nu sunt cenzurate, permițând evaluatorilor să recunoască persoanele din imagini.
Solicitările de modificare și imaginile pe care evaluatorii le analizează includ cereri precum scurtarea fustelor, mărirea anumitor părți ale corpului și plasarea persoanelor în ipostaze sexuale. În multe situații, modificările par a fi efectuate fără consimțământul celor implicați. De exemplu, un contractor a menționat că a evaluat seturi de fotografii realizate pe sub fuste, iar altul a raportat că a fost solicitat să analizeze imagini cu fetișuri ale picioarelor, inclusiv cu personaje din desene animate adresate copiilor. Unele cereri au vizat creația de imagini cu celebrități afectate de anorexie, iar un evaluator a primit, de asemenea, imagini cu sacrificii de animale.
Rolul evaluatorilor și confidențialitatea datelor
Persoanele care au fost intervievate de 404 Media au menționat că evaluatorii sunt plătiți doar pentru a verifica calitatea finală a imaginilor și nu pentru a semnala conținut inadecvat. Aceștia se concentrează pe respectarea instrucțiunilor, pe păstrarea sau distorsionarea unor elemente ale imaginii și pe analiza aspectului vizual general. Totuși, evaluatorii nu iau decizii legale sau de siguranță referitoare la conținut.
Microsoft utilizează datele clienților din anumite conturi pentru a-și optimiza produsele, dar la solicitarea 404 Media, compania nu a specificat dacă utilizatorii pot să excludă fișierele încărcate din aceste evaluări. În secțiunea de întrebări frecvente referitoare la confidențialitate a versiunii anterioare a Copilot, Microsoft menționează că păstrează conversațiile timp de 18 luni, dar utilizatorii au opțiunea de a le șterge oricând. De asemenea, compania indică faptul că poate folosi datele, „inclusiv imaginile sau fișierele încărcate”, pentru a antrena modelele de inteligență artificială. Utilizatorii pot renunța la antrenare, dar nu există o opțiune clară de a refuza evaluările umane ale imaginilor.
„Versiunea actualizată a aplicației Copilot pentru consumatori, disponibilă din 18 august, nu folosește solicitările, răspunsurile sau fișierele încărcate pentru antrenarea modelelor de bază.”
— Microsoft
În continuare, întrebarea rămâne: pot utilizatorii să excludă fișierele încărcate din procesul de evaluare umană a imaginilor? Raportul nu precizează numărul exact de colaboratori care au acces la fișierele utilizatorilor și nici proporția solicitărilor de editare analizate de aceștia. De asemenea, nu este clar dacă utilizatorii primesc o notificare explicită la momentul încărcării, cu privire la posibilitatea ca un evaluator uman să le analizeze materialele.
Aceste aspecte generează întrebări despre modul în care sunt gestionate metadatele și eficiența filtrelor automate în blocarea conținutului inadecvat înainte ca acesta să ajungă la evaluarea manuală. Angajații Microsoft au atras atenția anterior asupra riscurilor asociate cu generarea de imagini necorespunzătoare prin intermediul sistemului Copilot.
La începutul anului 2024, Shane Jones, inginer de învățare automată, și-a exprimat public îngrijorările legate de vulnerabilitățile filtrelor de protecție din instrumentul DALL-E 3, solicitând retragerea serviciului Copilot Designer timp de trei luni, dar Microsoft a respins această cerere. Echipa responsabilă primea zilnic peste 1.000 de sesizări legate de acest produs, intervenind doar în cazul incidentelor cele mai grave.
În aceeași perioadă, Microsoft a remediat o breșă de securitate din Copilot Designer care permitea generarea de imagini deepfake cu tentă sexuală, utilizând celebrități fără consimțământul acestora. Microsoft nu este singura companie care apelează la colaboratori externi pentru verificarea conversațiilor generate de inteligența artificială, OpenAI având un program similar numit „Project Lily”.
Când se utilizează funcțiile de editare a imaginilor din Copilot, solicitările și fotografiile încărcate sunt accesibile direct evaluatorilor umani, fără a fi gestionate exclusiv de algoritmi. Termenii de utilizare ai Microsoft permit această practică, însă condițiile exacte și amploarea evaluării umane nu sunt clar comunicate utilizatorilor în momentul încărcării fișierelor.
Până când Microsoft va clarifica regulile referitoare la filtrele automate și evaluările umane, orice imagine trimisă către un serviciu comercial de inteligență artificială trebuie considerată accesibilă unei persoane. În acest context, controlul asupra datelor personale devine esențial în orice interacțiune digitală.
Sursa articol: https://www.go4it.ro/content/inteligenta-artificiala/colaboratorii-umani-verifica-solicitarile-obscene-si-jignitoare-de-editare-a-imaginilor-trimise-de-utilizatorii-microsoft-copilot-ai-19286497/
Sursa foto: Alexandra_Koch / Pixabay



