WHO vydala nové usmernenie o etike a správe veľkých multimodálnych modelov (LMM) na ich vhodné použitie na podporu a ochranu zdravia obyvateľstva. LMM je typ rýchlo rastúceho generatívu umelá inteligencia (AI) technológia, ktorá má päť širokých aplikácií pre zdravie in
1. Diagnostika a klinická starostlivosť, ako je odpovedanie na písomné otázky pacientov;
2. použitie riadené pacientom, napríklad na vyšetrenie symptómov a liečby;
3. administratívne a administratívne úlohy, ako je dokumentovanie a sumarizácia návštev pacientov v rámci elektronických zdravotných záznamov;
4. Lekárske a ošetrovateľské vzdelávanie, vrátane poskytovania simulovaných stretnutí s pacientmi pre stážistov a;
5. Vedecký výskum a vývoj liekov vrátane identifikácie nových zlúčenín.
Pri týchto aplikáciách v zdravotníctve však existuje riziko vytvárania nepravdivých, nepresných, zaujatých alebo neúplných vyhlásení, ktoré by mohli poškodiť ľudí, ktorí takéto informácie používajú pri rozhodovaní o zdraví. Okrem toho môžu byť LMM vyškolení na údajoch, ktoré majú nízku kvalitu alebo sú zaujaté, či už ide o rasu, etnickú príslušnosť, pôvod, pohlavie, rodovú identitu alebo vek. Existujú aj širšie riziká pre systémy zdravotníctva, ako napríklad dostupnosť a cenová dostupnosť najvýkonnejších LMM. LMM môžu tiež podporiť „automatizačnú zaujatosť“ zo strany zdravotníckych pracovníkov a pacientov, pričom sa prehliadnu chyby, ktoré by inak boli identifikované, alebo sa zložité rozhodnutia nesprávne delegujú na LMM. LMM, podobne ako iné formy AI, sú tiež zraniteľné voči rizikám kybernetickej bezpečnosti, ktoré by mohli ohroziť informácie o pacientoch alebo dôveryhodnosť týchto algoritmov a poskytovanie zdravotnej starostlivosti v širšom zmysle.
Preto na vytvorenie bezpečných a efektívnych LMM vydala WHO odporúčania pre vlády a vývojárov LMM.
Vlády majú primárnu zodpovednosť za stanovenie noriem pre vývoj a nasadenie LMM a ich integráciu a používanie na účely verejného zdravia a lekárske účely. Vlády by mali investovať alebo poskytovať neziskovú alebo verejnú infraštruktúru, vrátane výpočtovej sily a verejných dátových súborov, prístupných vývojárom vo verejnom, súkromnom a neziskovom sektore, ktorá vyžaduje, aby používatelia dodržiavali etické princípy a hodnoty v výmena za prístup.
· Používať zákony, zásady a nariadenia na zabezpečenie toho, že LMM a aplikácie používané v zdravotníctve a medicíne, bez ohľadu na riziko alebo prínos spojený s AI technológie, spĺňajú etické záväzky a normy ľudských práv, ktoré ovplyvňujú napríklad dôstojnosť, autonómiu alebo súkromie osoby.
· Poverte existujúcu alebo novú regulačnú agentúru, aby posudzovala a schvaľovala LMM a aplikácie určené na použitie v zdravotníctve alebo medicíne – podľa zdrojov.
· Zaviesť povinné audity po vydaní a hodnotenia vplyvu, a to aj pre ochranu údajov a ľudské práva, nezávislými tretími stranami, keď sa LMM nasadí vo veľkom rozsahu. Audity a hodnotenia vplyvu by sa mali zverejňovať
a mali by zahŕňať výsledky a vplyvy rozdelené podľa typu používateľa vrátane napríklad veku, rasy alebo zdravotného postihnutia.
· LMM navrhujú nielen vedci a inžinieri. Potenciálni používatelia a všetky priame a nepriame zainteresované strany vrátane poskytovateľov zdravotnej starostlivosti, vedeckých výskumníkov, zdravotníckych pracovníkov a pacientov by sa mali zapojiť už od raných štádií AI vývoj v štruktúrovanom, inkluzívnom, transparentnom dizajne a poskytnutých príležitostiach na nastolenie etických problémov, vyjadrenie obáv a poskytnutie vstupov pre AI posudzovaná aplikácia.
LMM sú navrhnuté tak, aby vykonávali presne definované úlohy s potrebnou presnosťou a spoľahlivosťou na zlepšenie kapacity zdravotníckych systémov a presadzovanie záujmov pacientov. Vývojári by tiež mali byť schopní predpovedať a pochopiť potenciálne sekundárne výsledky.
***
zdroj:
WHO 2024. Etika a riadenie umelej inteligencie pre zdravie: usmernenia k veľkým multimodálnym modelom. Dostupný v https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
