Trustworthy AI werd deze maand gecreëerd door Paulo Quaresma en Vítor Nogueira, docenten aan de afdeling Informatica van de Universiteit van Évora(UÉ), samen met Jianbiao Dai, van de Universiteit van São José, in Macau, een semi-autonome regio van China.

"We hebben niet de intentie, noch denken we dat het mogelijk, wenselijk of voordelig is om zorgprofessionals op welke manier dan ook te vervangen," maar het zal "een hulpmiddel zijn om beslissingen te ondersteunen," vertelde Paulo Quaresma aan Lusa.

Volgens de professor en partner in het bedrijf zal het AI-systeem dat wordt ontwikkeld door Trustworthy AI "de mogelijkheid hebben om [aan zorgprofessionals] uit te leggen waarom een bepaald diagnostisch of therapeutisch voorstel" voor een patiënt is bereikt.

Het AI-systeem zal "de symptomen, medische geschiedenis, context en alle kenmerken" van de patiënt analyseren en vervolgens aan artsen of verpleegkundigen uitleggen, "met niveaus van vertrouwen, waarom het de suggestie doet", zei hij.

Paulo Quaresma wees erop dat de oplossing "een leergeschiedenis met veel situaties" zal hebben, zodat "het de zorgprofessional zelfs kan waarschuwen voor situaties waar ze op dat moment misschien geen rekening mee houden."

Met dit systeem "is er duidelijk sprake van tijdsbesparing en de mogelijkheid om bij te dragen aan het verbeteren van de gezondheidszorg", zei hij.

Volgens de ambtenaar is het systeem, dat kan worden gebruikt om professionals in ziekenhuizen, gezondheidscentra en verpleeghuizen te ondersteunen, gebaseerd op controleerbare, verklaarbare en ethische AI-methodologieën om het "een hogere mate van vertrouwen" te geven.

Met andere woorden, het zal "aan de ene kant de mogelijkheid hebben om te beginnen met precies uit te leggen waarom het tot een bepaalde reactie is gekomen" en om controleerbaar te zijn zodat "iemand van buitenaf, met autorisatie, een audit kan uitvoeren om precies te begrijpen en te identificeren wat het hele proces is", legde hij uit.

Trustworthy AI is al geïnstalleerd in een ruimte in het Alentejo Science and Technology Park(PACT) en werkt nu aan aanvragen voor EU-financiering uit het regionale programma Alentejo 2030 en ondersteuning in Macau.

De professor en partner benadrukten dat het bedrijf van plan is om het komende jaar een proefproject te ontwikkelen in Alentejo en een ander in Macau om de oplossing te testen en te evalueren, zodat deze eind 2026 kan worden uitgebreid naar andere locaties.