OpenAI zegt dat de overeenkomst met het Ministerie van Oorlog “beter” is en meer veiligheidsvoorzieningen kent dan de overeenkomst die Anthropic op de zwarte lijst stond omdat hij weigerde hieraan te voldoen.
In een zaterdag gepubliceerde blogpost deelde OpenAI een contracttaal uit zijn overeenkomst met de Ministerie van Oorloginclusief clausules die aangeven dat de technologie ervan niet kan worden gebruikt voor massale binnenlandse surveillance of voor het aandrijven van autonome wapens of beslissingssystemen met hoge inzet, zoals ‘sociale krediet’-scores.
‘Wij denken dat onze overeenkomst meer vangrails kent dan welke eerdere overeenkomst dan ook geclassificeerde AI-implementatiesinclusief die van Anthropic”, luidde het bericht van OpenAI. “In onze overeenkomst beschermen we onze rode lijnen door middel van een uitgebreidere, meergelaagde aanpak. We behouden de volledige discretie over onze veiligheidsstack, we implementeren via de cloud, het goedgekeurde OpenAI-personeel is op de hoogte en we hebben sterke contractuele bescherming. Dit komt allemaal bovenop de sterke bestaande bescherming in de Amerikaanse wetgeving.”
De overeenkomst van OpenAI met de federale overheid volgt op het feit dat zijn AI-rivaal, Anthropic, op de zwarte lijst staat en tot een rivaal wordt verklaard. risico voor de toeleveringsketen nadat hij had geweigerd te voldoen aan de gebruiksvoorwaarden van het leger voor het grensmodel van het bedrijf, Claude.
Anthropic zei vrijdag in een verklaring dat “geen enkele hoeveelheid intimidatie of bestraffing door het Ministerie van Oorlog ons standpunt over de kwestie zal veranderen. massale binnenlandse surveillance of volledig autonome wapens” en beloofde “elke aanduiding van risico’s in de toeleveringsketen voor de rechtbank aan te vechten.”
OpenAI betoogde in zijn zaterdagpost dat Anthropic niet als een risico voor de toeleveringsketen mag worden aangemerkt en zei dat het zijn standpunt “duidelijk aan de regering” had gemaakt. De overeenkomst met het Ministerie van Oorlog kwam gedeeltelijk voort uit de wens om ‘de zaken tussen DoW en de Amerikaanse AI-laboratoria te de-escaleren’.
“Een goede toekomst vereist een echte en diepgaande samenwerking tussen de overheid en de AI-laboratoria”, luidt het bericht van OpenAI. “Als onderdeel van onze deal hier hebben we gevraagd om dezelfde voorwaarden beschikbaar te stellen aan alle AI-laboratoria, en specifiek dat de overheid zou proberen de zaken op te lossen met Anthropic; de huidige situatie is een zeer slechte manier om deze volgende fase van samenwerking tussen de overheid en AI-laboratoria te starten.”
Vertegenwoordigers van OpenAI en Anthropic reageerden niet onmiddellijk op verzoeken om commentaar van Business Insider. Het was niet meteen duidelijk of Anthropic, of enig ander toonaangevend AI-bedrijf, soortgelijke contractvoorwaarden had gekregen als de voorwaarden waarmee OpenAI naar eigen zeggen had ingestemd.
OpenAI zei dat het, als onderdeel van de deal met het Ministerie van Oorlog, de ‘volledige controle’ zal behouden over de veiligheidsstack die het inzet, en robuuste ‘veiligheidsrails’ om misbruik te voorkomen. Mocht de regering de voorwaarden van de overeenkomst schenden, zei OpenAI dat zij het contract “kon” beëindigen.
“We verwachten niet dat dit zal gebeuren”, zei OpenAI in zijn bericht.
Het geschil tussen de regering en de AI-giganten heeft geleid tot wijdverbreide kritiek, waarbij critici zich zorgen maken over de ethische implicaties van het gebruik van AI door het Ministerie van Oorlog en de overeenkomst van OpenAI om de overheid toegang te verlenen tot haar technologie.
OpenAI zei zaterdag dat het gelooft dat AI “nieuwe risico’s in de wereld zal introduceren” en, door de overheid gebruik te laten maken van haar modellen, mensen die de nationale veiligheid verdedigen “de beste instrumenten” zal geven om dat te doen.
Dat meldde Business Insider eerder Het model van Anthropic, Claudezaterdag bovenaan de app store geschoten, en veel mensen op sociale media, waaronder beroemdheden als Katy Perry, hebben publiekelijk gepost over het opzeggen van hun ChatGPT-abonnementen in de nasleep van de overeenkomst van OpenAI met de overheid.
