TOKYO, 26 febbraio 2025 - Mitsubishi Electric Corporation (TOKYO: 6503) ha annunciato oggi lo sviluppo di una “tecnologia di verifica formale rapida per l’IA”, rivolta ai modelli di IA noti come insiemi di alberi decisionali.¹ Questa tecnologia mira a ridurre il rischio di malfunzionamenti dell’IA e a contribuire a realizzare una società in cui l’IA può essere utilizzata con fiducia. Il suo sviluppo è una conseguenza diretta dello sviluppo di Maisart^® di Mitsubishi Electric.²

Per affrontare il rapido progresso della tecnologia IA e il suo crescente utilizzo a livello globale, il primo quadro giuridico completo al mondo per l’IA, ossia “EU Artificial Intelligence Act”, è entrato in vigore il 1° agosto 2024. Paesi in tutto il mondo stanno emanando leggi e linee guida simili per affrontare i rischi legati all’intelligenza artificiale, richiedendo alle aziende che sviluppano e forniscono intelligenza artificiale di gestire tali rischi in modo appropriato. L’affidabilità dell’intelligenza artificiale è particolarmente cruciale nei sistemi in cui la sicurezza è fondamentale, come i sistemi di controllo autonomi, i sistemi di infrastrutture energetiche e sociali e i sistemi di sicurezza informatica, a causa dei danni significativi che possono essere causati da errori.

In genere, l’affidabilità dell’IA viene valutata utilizzando un set finito di dati di test non utilizzati nell’addestramento del modello, valutando parametri come l’accuratezza. Tuttavia, il comportamento dell’intelligenza artificiale è estremamente complesso e, anche se i risultati dei test fossero accurati al 100%, non sarebbe possibile eliminare il rischio di errori con dati non testati. Per risolvere questo problema è stato proposto un metodo di verifica formale, che prevede l’impostazione anticipata del comportamento previsto dell’IA e la verifica rigorosa che funzioni come previsto, senza omissioni. Tuttavia, la verifica formale è stata limitata a causa dell’enorme quantità di tempo necessario per verificare modelli IA di grandi dimensioni e della difficoltà nello stabilire la priorità nell’affrontare il rischio di malfunzionamenti.

Per affrontare queste problematiche, Mitsubishi Electric ha sviluppato un nuovo algoritmo mirato a condurre in modo efficiente la verifica formale su insiemi di alberi decisionali, ampiamente utilizzati per attività come la previsione di dati numerici, e uno strumento di verifica interattivo che utilizza questo algoritmo. Sfruttando questa tecnologia, gli sviluppatori di IA possono passare rapidamente attraverso processi di verifica formali, riducendo così il rischio di errori di IA. Questo miglioramento dell’affidabilità dell’IA aiuterà a realizzare una società in cui l’IA può essere utilizzata con maggiore fiducia.