Een recent rapport in Radiology: Artificial Intelligence, het tijdschrift van de Radiological Society of North America (RSNA), waarschuwt voor cybersecurityrisico’s bij het gebruik van grote taalmodellen (LLM’s) in de medische beeldvorming, vooral in de radiologie. Nu deze technologie steeds vaker wordt ingezet in de zorg, is het belangrijk om ook de veiligheidsrisico’s serieus te nemen, benadrukken de auteurs.
Taalmodellen zoals GPT-4 en Gemini worden al gebruikt voor uiteenlopende toepassingen: van besluitvorming en data-analyse tot geneesmiddelenonderzoek en het begrijpelijk maken van medische informatie. Maar ondanks de voordelen brengen ze ook nieuwe kwetsbaarheden met zich mee.
Volgens hoofdonderzoeker Dr. Tugba Akinci D’Antonoli, neuroradioloog in opleiding aan het Universitair Ziekenhuis van Basel, is het gebruik van LLM’s in de zorg nog relatief nieuw. Maar omdat de technologie snel terrein wint, is het belangrijk om nu al maatregelen te nemen.
Het rapport maakt onderscheid tussen twee soorten risico’s: modelgebonden en omgevingsgebonden. Modelgebonden risico’s gaan over aanvallen zoals datavervuiling of pogingen om zwakke plekken in de output te benutten. Omgevingsgebonden risico’s hebben te maken met de bredere IT-infrastructuur, zoals onbevoegde toegang tot patiëntgegevens, verstoring van systemen of manipulatie van beeldresultaten.
De auteurs roepen zorginstellingen op om pas met LLM’s te gaan werken als de beveiliging goed geregeld is. Denk aan standaardmaatregelen zoals multifactorauthenticatie en software-updates, maar ook aan specifiek beleid zoals het anonimiseren van data en het gebruik van goedgekeurde tools.
Daarnaast adviseren ze om cybersecurity onderdeel te maken van de verplichte scholing voor zorgpersoneel, net als nu al gebeurt met bijvoorbeeld stralingsveiligheid.
Hoewel alertheid nodig is, hoeven patiënten zich volgens de onderzoekers geen grote zorgen te maken. Er komen steeds meer regels en investeringen om gezondheidsinformatie veilig te houden, ook als LLM’s een grotere rol gaan spelen in de zorg.
