De regering-Trump denkt misschien dat regelgeving dat wel is verlammend de AI-industriemaar een van de grootste spelers in de sector is het daar niet mee eens.
Tijdens het Big Interview-evenement van WIRED op donderdag, Antropisch president en medeoprichter Daniela Amodei vertelde WIRED-hoofdredacteur Steven Levy dat, hoewel Trumps AI en crypto-tsaar, David Sacks, kan hebben getweet dat haar bedrijf “een geavanceerde strategie hanteert die gebaseerd is op het zaaien van angst”, is ze ervan overtuigd dat de inzet van haar bedrijf om de potentiële gevaren van AI onder de aandacht te brengen de sector sterker maakt.
“Vanaf de eerste dag waren we heel duidelijk dat we voelden dat er een ongelooflijk potentieel was” voor AI, zei Amodei. “We willen echt dat de hele wereld zich bewust wordt van het potentieel, de positieve voordelen en de voordelen die AI kan opleveren, en om dat te doen moeten we de moeilijke dingen op orde krijgen. We moeten de risico’s beheersbaar maken. En daarom praten we er zo vaak over.”
Meer dan 300.000 startups, ontwikkelaars en bedrijven gebruiken een versie van het Claude-model van Anthropic en Amodei zei dat ze door de omgang van het bedrijf met die merken heeft geleerd dat, hoewel klanten willen dat hun AI geweldige dingen kan doen, ze ook willen dat deze betrouwbaar en veilig is.
“Niemand zegt: ‘We willen een minder veilig product'”, zei Amodei, waarbij hij de rapportage van Anthropic over de limieten en jailbreaks van zijn model vergeleek met die van een autobedrijf dat crashteststudies vrijgeeft om te laten zien hoe het de veiligheidsproblemen heeft aangepakt. Het lijkt misschien schokkend om in een video een crashtestpop door een autoraam te zien vliegen, maar als je verneemt dat een autofabrikant als resultaat van die test de veiligheidsvoorzieningen van zijn voertuig heeft bijgewerkt, kan een koper een auto verkopen. Amodei zei dat hetzelfde geldt voor bedrijven die de AI-producten van Anthropic gebruiken, waardoor een markt ontstaat die enigszins zelfregulerend is.
“We stellen wat je bijna kunt zien als minimale veiligheidsnormen, gewoon door wat we in de economie stoppen,” zei ze. Bedrijven “bouwen nu veel workflows en dagelijkse toolingtaken rond AI, en ze zeggen: ‘Nou, we weten dat dit product niet zo hallucineert, het produceert geen schadelijke inhoud, en het doet niet al deze slechte dingen.’ Waarom zou je voor een concurrent gaan die daar lager op gaat scoren?”
Foto: Annie Noelker
