Ironies of Artificial Intelligence

2023 – De auteur van dit artikel M. Endsley verwijst naar Lisanne Brainbridge die in 1983 een artikel schreef met als titel ‘The ironies of automation’. Dit is in de navolgende veertig jaar een vooruitziende beschrijving gebleken van aan automatisering gerelateerde uitdagingen voor arbeid.

Sinds enkele jaren komt een nieuwe golf van automatisering op basis van kunstmatige intelligentie (AI) over ons. Niet alleen zijn Bainbridge’s oorspronkelijke waarschuwingen nog steeds relevant voor AI, maar de aard van AI en de focus op cognitieve taken heeft ook veel nieuwe uitdagingen met zich meegebracht.

De vijf ironieën, die uiteindelijk het succes van AI beperken en in dit artikel worden genoemd, luiden:

  • Ironie 1. Kunstmatige intelligentie is nog steeds niet zo intelligent.
  • Ironie 2. Hoe intelligenter en flexibeler de AI, hoe minder mensen het systeem kunnen begrijpen.
  • Ironie 3. Hoe capabeler de AI, hoe minder mensen flexibel gedrag vertonen om tekortkomingen te compenseren.
  • Ironie 4. Hoe intelligenter de AI, hoe obscuurder deze is, en hoe minder mensen de beperkingen en vooroordelen ervan kunnen begrijpen en hoe minder zij kunnen beoordelen of, waar en wanneer ze de AI moeten gebruiken.
  • Ironie 5. Hoe natuurlijker de AI communiceert, hoe minder mensen de betrouwbaarheid ervan kunnen inschatten.

Wat te doen?

Het artikel gaat uitvoerig in op wat gebruikers kunnen doen om met deze ironieën om te gaan. Enkele noties daaruit: We moeten beseffen dat functies en taken nooit volledig door AI kunnen worden overgenomen. AI moet zo ontworpen worden dat het kan werken met mensen en dat het menselijke besluitvormingsprocessen ondersteunt. AI systemen moeten altijd vergezeld gaan van informatie die maakt dat gebruikers begrijpen wat het systeem doet en wat zijn vooroordelen en beperkingen zijn. Gebruikers moeten controle kunnen houden.

Referentie

Mica R. Endsley (2023) Ironies of artificial intelligence, Ergonomics, 66:11, 1656-1668,

Download het artikel via: https://doi.org/10.1080/00140139.2023.2243404