Senior Researcher | XITASO GmbH
Deelname aan de sessie: Ontdek de toekomst: AI in actie
De babbelzieke chatbot: beveiligingsaspecten waar bedrijven rekening mee moeten houden bij het gebruik van generatieve AI
Generatieve kunstmatige intelligentie opent een wereld vol innovatieve mogelijkheden om de efficiëntie te verhogen of nieuwe bedrijfsgebieden te openen. Deze veelbelovende technologie herbergt echter ook beveiligingsrisico's die tot nu toe onbekend waren. Aanvallers kunnen bijvoorbeeld geavanceerde vragen gebruiken om gevoelige informatie te ontlokken aan chatbots voor klantenservice. In de presentatie worden belangrijke beveiligingsrisico's beschreven waarmee u rekening moet houden bij het gebruik van generatieve AI en hoe deze worden aangepakt in huidig onderzoek.
Kort CV:
Jan-Philipp Steghöfer is Senior Onderzoeker bij XITASO, waar hij werkt aan onderzoeksprojecten over cyberbeveiliging, generatieve AI, AI in de gezondheidszorg en software engineering. Hij ondersteunt ook de ontwikkelingsteams van XITASO als requirements engineer, softwarearchitect en beveiligingsspecialist. Eerder werkte hij als universitair hoofddocent Software Engineering aan de Universiteit van Göteborg en de Chalmers University of Technology.
