Di Luca Sambucci

Questa estate sono stato fra i pochi fortunati a poter accedere in anteprima al lavoro condotto dal ricercatore Sean McGregor sugli incidenti causati da sistemi di intelligenza artificiale.

Per via di un libro che sto contribuendo a scrivere (ve ne parlerò a marzo) avevo bisogno di accedere a un database che contenesse una raccolta di incidenti – intesi in maniera generica, quindi fallimenti, errori, risultati aberranti – causati in tutti questi anni dagli algoritmi di intelligenza artificiale. Tramite alcuni ricercatori arrivai al progetto di Sean, che lavora per XPRIZE Foundation e Partnership on AI, un’organizzazione creata dalle maggiori aziende tecnologiche al mondo per promuovere lo sviluppo dell’AI e il lavoro di ricerca.

Il database The AI Incident Database (AIID), ora disponibile a tutti, contiene oltre mille articoli e riferimenti a incidenti causati da sistemi automatizzati, dal “flash crash” che sconvolse i mercati nel 2010 all’uccisione di un pedone da parte di un’auto a guida autonoma nel 2018, dai tanti errori nel riconoscimento facciale in giro per il mondo alle molteplici “ribellioni” di chatbot che rifiutano di comportarsi come dovrebbero.

Questo lavoro si ispira, per stessa ammissione dell’autore, a simili database già esistenti in altri settori, come l’aviazione o la cybersecurity, cercando di combinarne i punti di forza. Lo scopo ovviamente non è quello di intralciare la marcia (inarrestabile) dell’intelligenza artificiale, bensì di aiutarne lo sviluppo positivo evidenziando e catalogando i problemi per migliorare la ricerca.

Per approfondire consiglio anzitutto l’articolo di presentazione scritto dall’autore: When AI Systems Fail: Introducing the AI Incident Database

Il paper della ricerca si trova qui: Preventing Repeated Real World AI Failures by Cataloging Incidents: The AI Incident Database

La pagina principale del database si trova qui, ma per accedere al db vero e proprio bisogna sapere dove cliccare. Per semplicità eccovi il link diretto.