L’industria sanitaria è in prima linea nell’adozione dell’IA generativa (GenAI) e dei modelli di linguaggio di grandi dimensioni (LLM) per rivoluzionare vari processi, dalla scoperta di farmaci alla cura dei pazienti. Queste tecnologie promettono di accelerare notevolmente le pipeline di ricerca e sviluppo (R&S). Tuttavia, mentre le organizzazioni si affrettano a integrare questi strumenti, devono anche affrontare potenziali insidie. Fare affidamento troppo pesantemente su LLM e GenAI senza affrontare le sfide intrinseche può portare a notevoli ostacoli. In questo articolo, Alcimed esplora le opportunità e le sfide dell’integrazione di queste nuove tecnologie nelle tue pipeline di R&S.
Come dimostrano recenti collaborazioni (es. Isomorphic Labs con Novartis e Lily1Isomorphic labs. (s. d.). https://www.isomorphiclabs.com/articles/isomorphic-labs-kicks-off-2024-with-two-pharmaceutical-collaborations), i Modelli Linguistici Proteici (PLM) e la GenAI hanno il potenziale per trasformare il processo di scoperta di farmaci. I metodi tradizionali richiedono enormi quantità di tempo e risorse, ma con modelli basati sull’IA è possibile analizzare milioni di composti chimici, prevedere le interazioni farmacologiche e persino proporre nuove strutture molecolari. L’efficienza ottenuta attraverso questi modelli guidati dall’IA può ridurre di anni il processo di sviluppo.
I Laboratory Information Management Systems (LIMS) sono da tempo la spina dorsale della gestione dei dati nella ricerca. L’integrazione di modelli IA di nuova generazione, come LLM e VLM, può sbloccare informazioni sepolte nel tuo LIMS, aiutando i team a identificare asset di ricerca preziosi in modo più efficiente. Questa integrazione consente anche di semplificare il processo decisionale per la selezione degli asset2Leveraging Generative AI in Laboratory Businesses : Integration with LIMS and Customer Portals | Sednor. (s. d.). https://www.sednor.io/articles/leveraging-generative-ai-in-laboratory-businesses-integration-with-lims-and-customer-portals.
Reclutare i pazienti e i centri giusti per gli studi clinici è uno degli aspetti più complessi della ricerca clinica. Gli LLM possono esaminare le cartelle cliniche dei pazienti, identificare i candidati idonei e raccomandare i siti di sperimentazione in base alle prestazioni storiche e alla demografia dei pazienti. Accelerando il reclutamento, l’IA può ridurre i ritardi nei trial clinici, portando più rapidamente le terapie sul mercato.
Scopri come il nostro team può supportarti nella digitalizzazione dei tuoi studi clinici >
L’avvento della medicina in silico e l’uso dei digital twins — repliche virtuali dei pazienti — rappresentano un’altra opportunità entusiasmante. I digital twins consentono di simulare trattamenti e interventi, permettendo ai ricercatori di testare l’efficacia dei farmaci in un ambiente virtuale controllato.
La sorveglianza post-marketing è fondamentale per comprendere gli effetti a lungo termine dei farmaci. LLM e modelli multimodali possono aiutare analizzando continuamente i dati dei pazienti, identificando eventi avversi e prevedendo risultati a lungo termine. Questa analisi in tempo reale potrebbe aiutare le aziende ad affrontare più rapidamente eventuali problematiche emergenti e, se necessario, collaborare in modo proattivo con la comunità medica per apportare modifiche ai protocolli di trattamento.
Una delle principali sfide nell’utilizzo di LLM e GenAI nella R&S è il rischio di bias e allucinazioni — quando il modello genera informazioni false o fuorvianti. I dati sanitari sono spesso incompleti o distorti e, se i modelli IA non sono correttamente ottimizzati, possono perpetuare questi bias. Modelli difettosi possono portare a conclusioni errate, mettendo potenzialmente a rischio i pazienti e generando responsabilità legali per le aziende. Gli ingegneri dell’IA hanno suggerito che i dati sintetici — dataset generati artificialmente che imitano i dati reali — potrebbero essere utilizzati come complemento ai dataset di addestramento imperfetti. Tuttavia, sono subito emerse preoccupazioni sul fatto che l’uso di dati sintetici possa in realtà amplificare i bias, con nuovi modelli che imparano da dati generati da modelli originariamente distorti.
Infine, la complessità e l’opacità di alcuni sistemi IA, spesso chiamati “algoritmi black-box”, rendono difficile per i medici spiegare pienamente ai pazienti le decisioni basate sull’IA.
Senza una spiegabilità chiara, costruire fiducia tra ricercatori, regolatori e pazienti diventa un ostacolo significativo.
L’uso della GenAI introduce complessità nella gestione della proprietà intellettuale (IP) e nel garantire una corretta catena di custodia dei dati. Con le intuizioni derivate dall’IA, spesso non è chiaro chi possieda il risultato finale — l’organizzazione, il fornitore dell’IA o gli sviluppatori del modello IA. Inoltre, è fondamentale tracciare l’origine e le modifiche dei dati nei processi guidati dall’IA per mantenere la conformità legale e normativa. La mancanza di una catena di custodia chiara potrebbe portare a controversie sulla proprietà intellettuale e compromettere l’integrità dei risultati della ricerca.
I dati sanitari sono tra i tipi di informazioni più sensibili e regolamentati. L’integrazione della GenAI nei flussi di lavoro della R&S amplifica il rischio di violazioni dei dati e accessi non autorizzati. Poiché i sistemi IA elaborano enormi quantità di dati dei pazienti, è essenziale garantire che tali dati siano archiviati e trasmessi in modo sicuro. Qualsiasi falla nella sicurezza potrebbe comportare gravi violazioni della privacy, sanzioni finanziarie e una perdita di fiducia da parte di pazienti e stakeholder. Una possibile soluzione a questo è l’adozione di sistemi decentralizzati.
Ottenere il consenso dei pazienti per analisi basate sull’IA rimane un’area grigia. La complessità e l’opacità di questi sistemi IA, alcuni dei quali si basano su modelli “black-box” o servizi di terze parti, complicano il processo di consenso informato. Inoltre, la sensibilità dei dati utilizzati, come cartelle cliniche elettroniche e informazioni genetiche, amplifica l’importanza di queste preoccupazioni, poiché gli individui potrebbero non comprendere pienamente o accettare l’uso e la proprietà di questi dati estremamente critici. Affrontare questi problemi richiede lo sviluppo di meccanismi di consenso solidi che garantiscano che i pazienti siano adeguatamente informati su come le tecnologie IA influenzano le loro decisioni sanitarie, e che i medici siano adeguatamente formati per utilizzare questi strumenti, affrontare queste preoccupazioni e implementare procedure per garantire la protezione dei dati.
La normativa sanitaria richiede che i modelli IA utilizzati nella R&S siano conformi a regole rigorose sulla sicurezza dei pazienti e l’integrità dei dati. Le aziende che adottano l’IA con troppa fretta senza garantirne la conformità normativa rischiano ritardi, sanzioni o il ritiro dei prodotti. Per affrontare queste sfide, molte aziende presentano gli strumenti IA come “assistenti” piuttosto che come dispositivi medici, consentendo un ingresso più rapido sul mercato sotto regolamentazioni meno severe. Tuttavia, poiché l’IA assume un ruolo sempre maggiore nelle decisioni cliniche, i regolatori stanno intensificando la supervisione per evitare che strumenti non regolamentati influenzino l’assistenza ai pazienti. In risposta, FDA ed EMA stanno sviluppando nuovi framework per bilanciare innovazione e sicurezza. Iniziative come l’AI Act europeo o il framework SaMD (Software as a Medical Device) della FDA evidenziano l’approccio in evoluzione alla governance dell’IA nella sanità.
L’adozione rapida di LLM e GenAI nella R&S sanitaria presenta sia opportunità che rischi. Sebbene il potenziale per semplificare i processi e generare nuove intuizioni sia entusiasmante, le aziende devono procedere con cautela per evitare i rischi legati a bias, violazioni della sicurezza dei dati e problematiche normative. Navigare in queste complessità richiede competenze nell’IA e nel settore sanitario, oltre a un approccio strategico all’implementazione.
Nautilus.ai, il team Data & AI di Alcimed, è qui per supportare la tua organizzazione nel superare questi ostacoli, assicurandosi che la tua pipeline di R&S guidata dall’IA mantenga le sue promesse senza effetti indesiderati.
Se vuoi discutere un progetto, non esitare a contattare il nostro team!
A proposito dell’autore,
Matthieu, Manager presso Nautilus.ai, il team Data & AI di Alcimed negli Stati Uniti.
Intersettoriale
Cos'è l'IA decentralizzata? L'IA decentralizzata è un sistema in cui l'elaborazione dei dati e l'apprendimento automatico avvengono in più luoghi invece di fare affidamento su un unico repository ...
Dati - AI
Caso d'uso n°1: migliorare la compliance al trattamento attraverso promemoria e gestione dei farmaci In un settore altamente complesso come quello dell'assistenza sanitaria, l'aderenza ai piani di ...
Dati - AI
Che cos'è l'intelligenza artificiale nella diagnostica per immagini? L'intelligenza artificiale comprende diverse tecniche, come l'apprendimento automatico e l'apprendimento profondo, che ...