Quando siamo bambini possiamo rispondere ai problemi di matematica delle scuole elementari semplicemente completando le risposte.
Ma quando il lavoro non veniva “dimostrato”, gli insegnanti detraevano punti; la risposta corretta non valeva molto senza una spiegazione. Tuttavia, quegli elevati standard di spiegabilità nella divisione lunga in qualche modo non sembrano applicarsi ai sistemi di intelligenza artificiale, anche a quelli che prendono decisioni cruciali che hanno un impatto sulla vita.
I principali attori dell’intelligenza artificiale che fanno notizia oggi e alimentano il delirio del mercato azionario (OpenAI, Google, Microsoft) operano le loro piattaforme in modelli scatola nera. Una domanda va in un modo e una risposta esce dall’altro, ma non abbiamo idea di quali dati o ragionamenti abbia utilizzato l’intelligenza artificiale per fornire quella risposta.
La maggior parte di queste piattaforme di intelligenza artificiale a scatola nera si basano su una struttura tecnologica vecchia di decenni chiamata “rete neurale”. Questi modelli di intelligenza artificiale sono rappresentazioni astratte delle grandi quantità di dati con cui vengono addestrati; Non sono direttamente collegati ai dati di allenamento. Pertanto, le IA della scatola nera deducono ed estrapolano in base a ciò che credono sia la risposta più probabile, non ai dati reali.
A volte questo complesso processo predittivo sfugge al controllo e l’intelligenza artificiale “va fuori di testa”. Per sua natura, l’intelligenza artificiale della scatola nera è intrinsecamente inaffidabile perché non può essere ritenuta responsabile delle sue azioni.. Se non riesci a vedere perché o come l’intelligenza artificiale fa una previsione, non hai modo di sapere se ha utilizzato informazioni o algoritmi falsi, compromessi o distorti per raggiungere quella conclusione.
Sebbene le reti neurali siano incredibilmente potenti e destinate a restare, esiste un altro framework di intelligenza artificiale nascosto che sta guadagnando importanza: l’apprendimento basato su istanze (IBL). Ed è tutto ciò che le reti neurali non sono. IBL è un'intelligenza artificiale di cui gli utenti possono fidarsi, verificare e spiegare. IBL fa risalire ogni decisione ai dati di addestramento utilizzati per raggiungere tale conclusione.
IBL può spiegare ogni decisione perché l’intelligenza artificiale non genera un modello astratto dei dati, ma piuttosto prende decisioni partendo dai dati stessi. E gli utenti possono verificare l’intelligenza artificiale basata su IBL, interrogarla per scoprire perché e come ha preso decisioni e quindi intervenire per correggere errori o pregiudizi.
Tutto ciò funziona perché IBL memorizza i dati di addestramento (“istanze”) in memoria e, in linea con i principi dei “vicini più vicini”, fa previsioni sulle nuove istanze data la loro relazione fisica con le istanze esistenti. IBL è incentrato sui dati, pertanto i singoli punti dati possono essere confrontati direttamente tra loro per ottenere informazioni dettagliate sul set di dati e sulle previsioni. In altre parole, IBL “mostra il lavoro che svolgi”.
Il potenziale di un’intelligenza artificiale così comprensibile è chiaro. Imprese, governi e qualsiasi altra entità regolamentata che desideri implementare l'intelligenza artificiale in modo affidabile, spiegabile e verificabile potrebbero utilizzare IBL AI per soddisfare gli standard normativi e di conformità. IBL AI sarà particolarmente utile anche per tutte le candidature in cui le accuse sono parziali: reclutamento, ammissioni universitarie, cause legali, ecc.
Le aziende stanno già utilizzando IBL. Ad esempio, è possibile creare un framework IBL commerciale utilizzato da clienti come i grandi istituti finanziari per rilevare anomalie nei dati dei clienti e generare dati sintetici verificabili conformi al Regolamento generale sulla protezione dei dati (GDPR) dell’UE.
Naturalmente, IBL non è priva di sfide. Il principale fattore limitante per IBL è la scalabilità, che è stata anche una sfida che le reti neurali hanno dovuto affrontare per 30 anni fino a quando la moderna tecnologia informatica le ha rese praticabili. Con IBL, ogni dato deve essere interrogato, catalogato e archiviato in memoria, il che diventa più difficile man mano che il set di dati cresce.
Tuttavia, i ricercatori stanno creando sistemi di interrogazione rapida basati sui progressi della teoria dell’informazione per accelerare significativamente questo processo. Questa tecnologia all’avanguardia ha consentito a IBL di competere direttamente con la fattibilità computazionale delle reti neurali.
Nonostante queste sfide, il potenziale di IBL è chiaro. Poiché sempre più aziende perseguono un’intelligenza artificiale sicura, spiegabile e verificabile, le reti neurali a scatola nera non saranno più sufficienti. Un’azienda, che sia una piccola startup o un’azienda più grande, dovrebbe iniziare a lavorare sui modelli IBL, per i quali di seguito vengono forniti alcuni suggerimenti.
Mentalità agile e aperta
Con IBL, è meglio esplorare i dati per ottenere informazioni dettagliate che possono essere generate, piuttosto che assegnargli un compito particolare, come "prevedere il prezzo ottimale" di un articolo. Mantieni una mente aperta e lascia che l’IBL guidi il tuo apprendimento. IBL potrebbe dire che non è in grado di prevedere molto bene un prezzo ottimale da un determinato set di dati, ma può prevedere le ore del giorno in cui le persone effettuano il maggior numero di acquisti o il modo in cui comunicano con l'azienda e di quali articoli si tratta. comprare.
IBL è un framework di intelligenza artificiale agile che richiede una comunicazione collaborativa tra decisori e team di data science, non il solito “lancia una domanda in poppa e aspetta la sua risposta” che vediamo oggi in molte organizzazioni che implementano l’intelligenza artificiale.
“Less is more” per i modelli di intelligenza artificiale
Nella tradizionale intelligenza artificiale a scatola nera, un singolo modello viene addestrato e ottimizzato per un singolo compito, come la classificazione. In una grande azienda, ciò potrebbe significare che ci sono migliaia di modelli di intelligenza artificiale da gestire, il che è costoso e difficile da gestire. Al contrario, IBL consente un'analisi versatile e multitasking. Ad esempio, un singolo modello IBL può essere utilizzato per l’apprendimento supervisionato, il rilevamento di anomalie e la generazione di dati sintetici, pur fornendo piena spiegabilità.
Ciò significa che gli utenti IBL possono creare e mantenere meno modelli, consentendo un toolbox AI più agile e adattabile. Se l’IBL verrà adottato, saranno necessari programmatori e data scientist, ma non sarà necessario investire in centinaia di tecnici senior con esperienza nell’intelligenza artificiale.
Combina il set di strumenti AI
Le reti neurali sono ottime per qualsiasi applicazione che non necessiti di spiegazioni o controlli. Ma quando l'AI aiuta le aziende a prendere decisioni Gli eventi più importanti, come la spesa di milioni di dollari per un nuovo prodotto o il completamento di un’acquisizione strategica, devono essere spiegabili. E anche quando l’intelligenza artificiale viene utilizzata per prendere decisioni più piccole, come assumere un candidato o promuovere qualcuno, la spiegabilità è fondamentale. Nessuno vuole scoprire di aver perso una promozione a causa di un'inspiegabile decisione della scatola nera.
E le aziende si troveranno presto ad affrontare contenziosi in questo tipo di casi. Devi scegliere i framework AI in base alla tua applicazione; optare per le reti neurali se si desidera solo un'acquisizione rapida dei dati e un processo decisionale rapido e utilizzare IBL quando sono necessarie decisioni affidabili, spiegabili e verificabili.
L’apprendimento basato su istanze non è una nuova tecnologia. Negli ultimi due decenni, gli informatici hanno sviluppato IBL parallelamente alle reti neurali, ma IBL ha ricevuto meno attenzione da parte del pubblico. Ora IBL sta guadagnando nuova attenzione nel contesto della corsa agli armamenti in corso sull’intelligenza artificiale. L'IBL ha dimostrato che può crescere mantenendo la spiegabilità: una gradita alternativa alle allucinazioni delle reti neurali che emettono informazioni false e non verificabili.
Con così tante aziende che adottano ciecamente l’intelligenza artificiale basata su reti neurali, il prossimo anno vedrà senza dubbio molte violazioni di dati e cause legali per accuse di parzialità e disinformazione.
Una volta che gli errori commessi dall'intelligenza artificiale della scatola nera iniziano a influenzare la reputazione delle aziende... e i loro profitti! Speriamo che il lento e costante IBL abbia il suo momento di gloria. Abbiamo tutti imparato l’importanza di “mostrare il nostro lavoro” alle elementari, e possiamo certamente pretendere lo stesso rigore dall’IA che decide le direzioni delle nostre vite.
