WHO:s varning
Reference News Network rapporterade den 20 januari att enligt AFP den 18 januari.
Världshälsoorganisationen varnade för att generativ artificiell intelligens (AI) kan medföra störande förändringar i medicinsk vård genom snabb diagnos av sjukdomar, men dess brådska och ogaranterade implementering medför också faror.
Enligt rapporter analyserade WHO i ett dokument som släpptes den 18:e farorna och fördelarna med att använda stora multimodala modeller (LMM) för medicinsk behandling. Denna typ av generativ AI kan använda en mängd olika data (text, bilder och videor) för att generera diagnostiska resultat
baserat på algoritmer som inte är begränsade till datatyper.
"Vissa människor tror att LMM kommer att imitera mänskliga tankar och beteenden och lösa vissa mänskliga problem på ett interaktivt sätt." sa Alan Labrick, chef för WHO:s digitala och innovativa hälsoavdelning.
WHO tror att LMM kommer att användas i stor utsträckning inom medicinsk behandling, vetenskaplig forskning och medicinering i framtiden. Organisationen identifierade fem områden där tekniken kan användas: diagnostik, vetenskaplig forskning och läkemedelsutveckling, medicinsk och omvårdnadsundervisning, administration och symtomverifiering.
Även om LMM har stor tillämpningspotential sa WHO att tekniken kan ge "falska, felaktiga, förvrängda eller ofullständiga" resultat. "Eftersom LMM används i allt större utsträckning inom hälsa och medicin är fel, felaktig användning och personlig skada oundvikliga", noterade organisationen.
WHO-dokumentet introducerar LMMs nya etiska tendenser och ledningsfrågor och ger 40 rekommendationer till regeringar, företag och patienter om hur man använder denna teknik på ett säkert sätt.
WHO anser att tekniken först bör tillämpas inom den medicinska sektorn så att brister kan upptäckas och rättas till. Jeremy Farrar, chefsforskare för Världshälsoorganisationen, betonade: "Generativ AI kan förbättra medicinsk vård, men det måste göras med utvecklare, regelmakare och användare fullt medvetna om de risker som medför."
"Vi behöver transparent information och policyer angående konceptet, utvecklingen och användningen av LMM för att uppnå bästa möjliga resultat inom hälso- och sjukvården och för att övervinna ihållande ojämlikheter inom hälso- och sjukvården," sa Farrar.
WHO kräver att vissa garantier införs så att användare som skadats av LMM kan få rimlig ersättning och ha räddningsmöjligheter.
Enligt rapporten används AI inom folkhälsa och klinisk medicin, men WHO anser att det finns vissa risker med LMM, och "samhället, medicinska system och slutanvändare kanske inte är helt beredda att hantera det."
WHO menar också att LMM vanligtvis utvecklas och tillämpas av teknikjättar, vilket kan ge upphov till oro och risker kring dessa företags monopol på tekniken. WHO kräver att forskning och utveckling av LMM inte bara förlitar sig på vetenskapsmän och ingenjörer, utan även utövare och patienter inom det medicinska området.
Organisationen varnade också för sårbarheterna hos LMM i cybersäkerhet, vilket kan sätta patientrelaterad information och till och med tillförlitligheten av medicinsk vård på spel. Den drog slutsatsen att regeringar bör hålla tillsynsmyndigheter ansvariga för att godkänna LMM för medicinsk användning och kräva utfrågningar om deras användning för att bedöma effekten av tekniken.
