OpenAI a anunțat recent o serie de măsuri severe menite să îmbunătățească siguranța utilizatorilor minori și să combată violența pe platforma ChatGPT. Aceste modificări vin ca răspuns la presiunea tot mai mare din partea autorităților de reglementare, care solicită o abordare mai responsabilă din partea companiilor de inteligență artificială în ceea ce privește protecția tinerilor.
Restricții severe pentru utilizatorii minori
Potrivit informațiilor furnizate de Reuters, OpenAI va implementa protocoale care vor împiedica accesul la informații detaliate despre arme de foc și muniție, indiferent de intenția utilizatorului. Aceste măsuri se vor aplica automat conturilor de utilizator minori, iar algoritmul ChatGPT va fi capabil să recunoască semnele de obsesie pentru violență. În cazul în care un utilizator dă dovadă de un interes repetat pentru subiecte violente, sesiunea de chat va fi încheiată automat, iar contul ar putea fi suspendat temporar în situații repetate.
OpenAI a îmbunătățit, de asemenea, tehnologia de estimare a vârstei pentru a redirecționa mai eficient utilizatorii sub 18 ani către o versiune mai sigură a platformei. În plus, părinții vor fi informați direct în cazul în care contul copilului lor este suspendat din cauza discuțiilor despre violență. Restricțiile se aplică la nivel global, limitând accesul la informații despre atacurile armate din trecut, pentru a preveni răspândirea unor posibile ghiduri logistice.
Reacția societății civile și utilizarea ChatGPT de către tineri
Aceste măsuri nu sunt întâmplătoare, ci sunt rezultatul îngrijorărilor exprimate de organizațiile non-guvernamentale. Un raport publicat de Common Sense Media a subliniat lipsurile din sistemul de monitorizare al OpenAI, arătând că avertizările către părinți erau adesea întârziate sau absente în situații critice legate de automutilare sau sinucidere.
Deși statisticile arată că adolescenții folosesc ChatGPT timp de mai puțin de 15 minute pe zi, riscurile asociate rămân semnificative. OpenAI a anunțat că noile măsuri de siguranță vor fi implementate treptat în săptămânile următoare. Într-un mediu digital în continuă schimbare, compania a subliniat că aceste instrumente de protecție vor fi îmbunătățite continuu pentru a face față noilor provocări de securitate cibernetică.
Sursa articol: https://www.go4it.ro/content/inteligenta-artificiala/openai-introduce-restrictii-severe-pe-chatgpt-privind-armele-si-monitorizarea-conversatiilor-violente-19288909/
Sursa foto: Coolcaesar / Wikimedia Commons / CC BY 4.0



