ORISA: Mjeti i Ri që Rikuperon Të Dhëna nga Bisedat e Fshira me AI, Studiuesit Paralajmërojnë për Privatësinë
Fshirja e një bisede me inteligjencën artificiale (AI) nga telefoni nuk garanton gjithmonë zhdukjen e plotë të informacionit. Një studim i ri, i realizuar nga studiuesit e Institutit të Teknologjisë së Georgias në Shtetet e Bashkuara, ka zbuluar se të dhëna të caktuara mund të mbeten në memorien e pajisjes dhe të rikuperohen me mjete të specializuara. Ata kanë zhvilluar një mjet eksperimental të quajtur ORISA, i cili ka demonstruar aftësinë për të rikthyer informacione nga bisedat e fshira me asistentë të AI në telefonat Android, duke ngritur shqetësime thelbësore për privatësinë e përdoruesve.
Shumë përdorues zgjedhin asistentë të AI që funksionojnë direkt në telefon (on-device AI), pa dërguar informacionin në serverë të jashtëm, me besimin se kjo ofron një nivel më të lartë privatësie. Megjithatë, studiuesit zbuluan se edhe pas fshirjes së bisedave, disa informacione mund të mbeten në memorien operative të pajisjes. Mjeti ORISA është projektuar specifikisht për të identifikuar këto gjurmë të mbetura dhe për t’i përdorur ato në rindërtimin e një pjese të informacionit të mëparshëm, duke analizuar mënyrën se si modelet e AI përpunojnë dhe ruajnë përkohësisht të dhënat.
Për të testuar efektivitetin e ORISA-s, studiuesit krijuan një asistent eksperimental për mbajtjen e shënimeve duke përdorur aplikacionin ChatterUI për Android. Ata i dhanë asistentit 100 informacione fiktive për një projekt dhe më pas i fshinë. Me anë të ORISA-s, u arrit të rikuperohej informacion i mjaftueshëm për të krijuar një seancë të re funksionale që përmbante 26 nga 100 faktet origjinale. Ky rezultat ishte veçanërisht domethënës, pasi seanca fillestare e asistentit kishte akses aktiv vetëm në 14 prej këtyre informacioneve, duke treguar se gjurmë të të dhënave vazhdonin të ekzistonin edhe pasi kishin dalë jashtë memories aktive të modelit. Megjithatë, eksperimenti u krye në kushte të kontrolluara dhe nuk tregon se çdo bisedë e fshirë mund të rikuperohet universalisht.
Sipas Ken Xu, student doktorature dhe autor kryesor i studimit, ORISA mund të shërbejë si një mjet i vlefshëm për hetimet e sigurisë kibernetike, duke ndihmuar hetuesit të përcaktojnë informacionin e dhënë një asistenti AI dhe ndihmën e ofruar prej tij. Kjo është veçanërisht e rëndësishme për modelet e AI që funksionojnë pa lidhje me serverët e jashtëm, pasi asistentët lokalë nuk kanë sisteme qendrore regjistrimi të veprimeve, ndryshe nga shërbimet cloud. Rikuperimi i gjurmëve nga memoria e pajisjeve mund të hapë mundësi të reja për analizën forensike digjitale. Megjithatë, studiuesit paralajmërojnë se teknologji të ngjashme mund të paraqesin rreziqe për privatësinë nëse persona të paautorizuar arrijnë të kenë akses në memorien e pajisjes. Ata theksojnë se studimi nuk provon rikuperimin në distancë të bisedave të fshira nga çdo telefon dhe efektiviteti i rikuperimit varet nga koha e kaluar prej fshirjes, pasi përdorimi i telefonit mund të mbishkruajë informacionin e mbetur.
Gjetjet tregojnë se funksionimi lokal i inteligjencës artificiale, ndonëse kufizon disa rreziqe të transmetimit të të dhënave në cloud, nuk eliminon çdo mundësi të ekspozimit të informacionit. Përdoruesve u rekomandohet kujdes i shtuar në informacionet që ndajnë me asistentët e AI, veçanërisht kur bëhet fjalë për materiale konfidenciale ose të dhëna personale. Mjeti ORISA mbetet një teknologji eksperimentale dhe studimi nuk demonstron rikuperim universal të bisedave të fshira nga të gjitha aplikacionet e inteligjencës artificiale.