Vijf maanden na het uitbrengen van zijn “verantwoord AI-plan” Door richtlijnen te geven voor het gebruik van kunstmatige intelligentie door de gemeente, heeft de stad Seattle de officiële inzet van de technologie voor stadspersoneel op de rem gezet.
Burgemeester Katie Wilson heeft vorige maand de geplande uitrol van Microsoft Copilot in de hele stad stopgezet, zoals maandag voor het eerst werd gemeld De Seattle Times. Haar voorganger, burgemeester Bruce Harrell, had de lancering goedgekeurd voordat hij in december zijn ambt verliet.
“Terwijl de implementatie van de technologie wordt uitgesteld, gaan het onderwijs- en bestuurswerk door”, vertelde Megan Erb, woordvoerder van de Seattle Information Technology Department, aan GeekWire. “De stad houdt nog steeds educatieve roadshows voor afdelingen, en werkt ook aan het bevorderen van ons fundamentele werk op het gebied van databeheer en datagereedheid.”
In september bracht Seattle zijn AI uit plandat mogelijkheden voor training en het opbouwen van vaardigheden voor stadswerknemers omvat, en een raamwerk creëert om het gebruik van AI-instrumenten bij stadsoperaties te vergemakkelijken en te evalueren. De stad voerde ook een pilot uit van Copilot met 500 medewerkers. De technologie is zonder extra kosten beschikbaar voor Microsoft 365-gebruikers onder de Enterprise Agreement van Seattle.
Deelnemers rapporteerden:
- Gezamenlijk wordt ruim 450 uur werk per week bespaard, zoals het opstellen van communicatie, het voorbereiden van rapporten, het analyseren van documenten en het onderzoeken ervan.
- De technologie bleek bijzonder nuttig voor het duidelijker schrijven, het produceren van snellere samenvattingen van documenten en vergadernotities, en snelle toegang tot beleid en regelgeving.
- 83% zegt dat Copilot Chat ‘zakelijke waarde’ biedt.
- 79% zei dat het een positieve gebruikerservaring was.
Seattle is toonaangevend geweest in de inspanningen om AI-tools van de volgende generatie te adopteren, en zegt dat het de eerste van het land heeft uitgegeven generatief AI-beleid in het najaar van 2023. Zelfs vóór het onlangs uitgebrachte AI-plan had Seattle dat al gedaan beleid waarbij ‘human-in-the-loop’-toezicht vereist is, wat betekent dat werknemers generatieve AI-outputs moeten beoordelen vóór officieel gebruik en bekend moeten maken wanneer het werk door AI wordt ondersteund. De stad identificeerde ook verboden toepassingen, zoals AI bij aanwervingsbeslissingen en gezichtsherkenning, vanwege zorgen over vooringenomenheid en betrouwbaarheid.
Zorgen over gemeentelijke AI-regelgeving en -toezicht zijn wijdverbreid. Een onderzoeksreeks eerder dit jaar gepubliceerd door de nieuwsorganisatie Cascade PBS ontdekte dat meerdere steden in Washington beperkte vangrails hadden rond het gebruik van AI, waardoor het publieke vertrouwen en de privacykwesties toenamen. Seattle behoorde niet tot de onderzochte steden.
De leiders van Seattle hebben hun inspanningen in het verleden ingekaderd als een evenwicht tussen het omarmen van nieuwe technologie en het handhaven van hun fundamentele verplichting om het publiek te dienen, waarbij ze benadrukten dat AI een hulpmiddel is – en geen vervanging voor werknemers.
Erb zei dat de uitgestelde implementatie van Copilot deel uitmaakt van een “gefaseerde aanpak” om ervoor te zorgen dat “de stad op verantwoorde wijze kunstmatige intelligentie-instrumenten test en gebruikt, aan alle privacy- en beveiligingsvereisten voldoet en oplossingen inzet die duidelijke voordelen bieden voor werknemers en tegelijkertijd de verplichtingen van de stad op het gebied van verantwoorde AI nakomen.”
Rob Lloyd, Chief Technology Officer van Seattle, vorige maand ontslag genomenwordt vanaf 27 maart uitvoerend directeur van het Center for Digital Government. De stad zoekt een vervanger.
In december benoemde de stad Lisa Qian als zijn eerste AI-officier. Haar ervaring omvat onder meer het dienen als senior manager data science bij LinkedIn, evenals andere leidinggevende posities bij technologiebedrijven.
Tijdens het herfstbegrotingsproces heeft de gemeenteraad van Seattle de IT-afdeling van Seattle gevraagd om driemaandelijkse rapporten over het gebruik van AI te verstrekken, en die informatie zal op 1 april worden ingediend.
De stad identificeerde eerder 41 prioritaire projecten waarin AI de overheidsprestaties en openbare diensten mogelijk zou kunnen verbeteren. Updates over deze inspanningen zullen worden opgenomen in het komende rapport, zei Erb.
