De ambities van Zuid-Afrika om een continentale leider op het gebied van kunstmatige intelligentie te worden, zijn op een zeer lastig obstakel gestuit: het ontwerp van het nationale AI-beleid van het land moest worden ingetrokken nadat bleek dat het fictieve, schijnbaar door AI gegenereerde citaten bevatte.
Dat meldde Reuters dat het document de voltooiing in het parlement naderde toen er verzonnen verwijzingen in de bronnenlijst werden ontdekt. Solly Malatsi, de Zuid-Afrikaanse minister van Communicatie en Digitale Technologie, kondigde de terugtrekking aan in een persbericht verklaring gepost op X op 26 april, waarbij het verstrijken een direct compromis van de integriteit van het beleid werd genoemd.
Deze Tweet is momenteel niet beschikbaar. Mogelijk wordt het geladen of is het verwijderd.
“Deze mislukking is niet louter een technische kwestie, maar heeft de integriteit en geloofwaardigheid van het conceptbeleid in gevaar gebracht”, schreef Malatsi. “De meest plausibele verklaring is dat door AI gegenereerde citaten zijn opgenomen zonder de juiste verificatie. Dit had niet mogen gebeuren. In feite bewijst deze onaanvaardbare fout waarom waakzaam menselijk toezicht op het gebruik van kunstmatige intelligentie van cruciaal belang is.”
Mashbare lichtsnelheid
AI-hallucinaties blijf een koppig en grotendeels hardnekkig probleem met taalmodellenzoals Mashable herhaaldelijk heeft gemeld.
Valse citaten vormen een bijzonder probleem in juridische documenten, en een groeiend aantal Amerikaanse advocaten is opgepakt en berispt voor het indienen van door AI gegenereerde juridische documenten vol hallucinaties. Een online juridische hallucinatiedatabase onderhouden door advocaat en datawetenschapper Damien Charlotin heeft alleen al in de Verenigde Staten meer dan 900 van dergelijke gevallen gevonden (en vier in Zuid-Afrika, het laatste debacle niet meegerekend).
Het ingetrokken beleid had de oprichting van een nationale AI-commissie, een ethische raad en een toezichthoudend orgaan geschetst, naast fiscale prikkels, subsidies en subsidies om investeringen in de particuliere sector te stimuleren. Volgens Reuters was het doel van Zuid-Afrika om zichzelf te positioneren als Afrika’s leidende hub voor AI-innovatie.
De verklaring van Malatsi gaf geen tijdlijn aan voor wanneer een herzien ontwerp zal worden opgesteld.
Onderwerpen
Kunstmatige intelligentie
