<\/p>\n
I takt med att artificiell intelligens (AI) blir alltmer integrerad i h\u00e4lso- och sjukv\u00e5rd, finans och andra k\u00e4nsliga omr\u00e5den, blir det allt viktigare att s\u00e4kerst\u00e4lla att systemen f\u00f6ljer dataskyddslagstiftningen. Ayush Kumar Varshney, doktorand vid Ume\u00e5 universitet, har tagit sig an denna utmaning i sitt avhandlingsarbete genom att utveckla nya metoder f\u00f6r anonymisering och “machine unlearning” \u2013 teknologier som g\u00f6r det m\u00f6jligt f\u00f6r AI att gl\u00f6mma.<\/strong><\/p>\n \u2013 K\u00e4nslig information som diagnosrapporter, patienthistorik, kreditbetyg och konsumtionsm\u00f6nster lagras ofta i AI-system. F\u00f6r att uppfylla kraven i EU:s dataskyddsf\u00f6rordning (GDPR) \u00e4r det avg\u00f6rande att anv\u00e4ndare har m\u00f6jlighet att anonymisera och radera denna data, f\u00f6rklarar Ayush Kumar Varshney.<\/p>\n Maskininl\u00e4rning, en gren av AI, g\u00f6r det m\u00f6jligt f\u00f6r datorer att l\u00e4ra sig fr\u00e5n stora datam\u00e4ngder. Den anv\u00e4nds bland annat f\u00f6r att f\u00f6ruts\u00e4ga sjukdomar, identifiera riskgrupper f\u00f6r exempelvis diabetes eller hj\u00e4rtsjukdom, samt uppt\u00e4cka finansiellt bedr\u00e4geri. Trots sin kraftfullhet inneb\u00e4r dessa system stora utmaningar n\u00e4r det g\u00e4ller dataintegritet.<\/p>\n Ayushs forskning introducerar maskinavl\u00e4rning det vill s\u00e4ga metoder som g\u00f6r det m\u00f6jligt f\u00f6r AI-system att verkligen gl\u00f6mma data \u2013 \u00e4ven efter att den anv\u00e4nts f\u00f6r att tr\u00e4na en modell. Hans l\u00f6sningar fungerar b\u00e5de i centraliserade milj\u00f6er, d\u00e4r all tr\u00e4ningsdata lagras p\u00e5 en server, och i decentraliserade milj\u00f6er som federerad inl\u00e4rning, d\u00e4r anv\u00e4ndare bidrar med modelluppdateringar utan att dela r\u00e5data.<\/p>\n \u2013 Maskinavl\u00e4rning \u00e4r inte bara anv\u00e4ndbart f\u00f6r att skydda personliga data. Det kan ocks\u00e5 anv\u00e4ndas f\u00f6r att ta bort upphovsr\u00e4ttsskyddat material, skadligt eller partiskt inneh\u00e5ll, och till och med illvilliga bidrag, s\u00e4ger han.<\/p>\n En lika viktig del av processen \u00e4r att verifiera att data faktiskt har tagits bort. Ayush har \u00e4ven utvecklat granskningsmetoder som kan bekr\u00e4fta om AI-system verkligen har gl\u00f6mt specifika data. Dessa metoder fr\u00e4mjar transparens, ansvarstagande och f\u00f6rtroende.<\/p>\n De praktiska till\u00e4mpningarna av hans forskning \u00e4r m\u00e5nga. Teknikf\u00f6retag kan till exempel personanpassa tj\u00e4nster samtidigt som de f\u00f6ljer GDPR, och banker kan samarbeta kring bedr\u00e4geribek\u00e4mpning utan att exponera kunddata.<\/p>\n \u2013 Dessa verktyg \u00e4r utformade f\u00f6r att st\u00f6dja b\u00e5de anv\u00e4ndare och organisationer. De tar oss ett steg n\u00e4rmare att bygga AI-system som \u00e4r s\u00e4kra, r\u00e4ttvisa och tillf\u00f6rlitliga, s\u00e4ger Ayush.<\/p>\n Mer om avhandlingen<\/strong><\/p>\n M\u00e5ndagen den 26 maj f\u00f6rsvarar Ayush Kumar Varshney, vid Institutionen f\u00f6r datavetenskap, sin avhandling med titeln “Navigating Model Anonymity and Adaptability”. Disputationen \u00e4ger rum kl. 10:00 i sal BIO.A.206, Ume\u00e5 universitet. Fakultetsopponent \u00e4r professor Eyke H\u00fcllermeier, Ludwig-Maximilians-Universit\u00e4t M\u00fcnchen, Tyskland.<\/p>\n F\u00f6r mer information kontakta g\u00e4rna:<\/strong><\/p>\n Ayush Kumar Varshney, doktorand vid Institutionen f\u00f6r datavetenskap, Ume\u00e5 universitet<\/p>\n Telefon: 073-936 55 07<\/p>\n