Op 16 juli 1945, toen ’s werelds eerste kernexplosie de vlakten van New Mexico deed schudden, J. Robert Oppenheimerdie het project leidde, citeerde de Bhagavad Gita“Nu ben ik de Dood geworden, de vernietiger van werelden.” En inderdaad, dat had hij. De wereld was nooit meer echt hetzelfde nadat kernenergie werkelijkheid werd.
Tegenwoordig hebben we echter het respect voor de kracht van de technologie verloren. In plaats van doelbewust en voorzichtig te werk te gaan, rennen we vooruit. In zijn Techno-optimistisch manifesttechnologie-investeerder Marc Andreessen impliceerde dat AI Regulatie was een vorm van moord. Minister van Defensie Pete Hegseth gestraft antropisch toen het probeerde grenzen op te leggen aan zijn eigen technologie.
Het is duidelijk dat we hier eerder zijn geweest en hebben laten zien dat we de uitdaging aankunnen. We hebben de nucleaire dreiging onder controle gehouden en nuttige beperkingen gesteld aan het gebruik van genomica, terwijl we de technologie toch de kans gaven zich te ontwikkelen. Maar als we geen acht hebben geslagen op waarschuwingen, zoals Dat hebben we gedaan met financiële engineeringwe hebben een hoge prijs betaald. Die keuze tussen roekeloosheid en voorzichtigheid is wat we nu voor ons hebben.
Hoe we de nucleaire geest terug in de fles stoppen
Het verhaal van kernwapens begon lang niet bij Oppenheimer. Sterker nog, als we de Manhattan-project voor één persoon zou het waarschijnlijk een Hongaarse geïmmigreerde natuurkundige zijn Leo Szilarddie een van de eersten was die de mogelijkheid van een nucleaire kettingreactie bedacht.
Toen hij in 1939 hoorde van de ontdekking van kernsplijting in Duitsland, besloot hij samen met zijn mede-Hongaarse emigrant Eugène Wignerbesloot dat de autoriteiten gewaarschuwd moesten worden. Szilard dus een brief samengesteld waarschuwing voor de mogelijkheid van een atoombom. De brief werd uiteindelijk ondertekend door Albert Einstein en verzonden naar president Roosevelt. Dat heeft geleid tot de Manhattan-project die de atoombom ontwikkelde.
Maar na de explosies in Hiroshima en Nagasaki wilden veel wetenschappers die aan de ontwikkeling van de bom werkten het publiek informeren over de gevaren ervan. In 1955, de filosoof Bertrand Russell een manifest uitgegeven, ondertekend door een aantal wetenschappelijke grootheden. Dit leidde tot een reeks conferenties in Pugwash, Nova Scotia werden bijeengeroepen om verschillende benaderingen te bespreken om de wereld te beschermen tegen massavernietigingswapens.
Deze inspanningen omvatten veel meer dan praten. Ze hielpen de non-proliferatieagenda vorm te geven en leidden tot concrete verwezenlijkingen zoals de Gedeeltelijk kernstopverdrag. In feite waren deze bijdragen zo cruciaal dat de organisatoren van de Pugwash-conferenties in 1995 de Nobelprijs voor de Vrede kregen. doorgaan zelfs vandaag.
Grenzen stellen aan wat we doen met de levenscode
Terwijl het nucleaire tijdperk met een knal begon, begon het genetische tijdperk met een simpele klap artikel in het wetenschappelijk tijdschrift Natuurgeschreven door twee relatief onbekende wetenschappers genaamd James Watson En Franciscus Krik. Voor het ongetrainde oog leek het een alledaags artikel over de structuur van een onduidelijk molecuul. Toch logenstrafte de laatste zin een wereldschokkend inzicht.
“Het is ons niet ontgaan dat de specifieke koppeling die we hebben gepostuleerd onmiddellijk duidt op een mogelijk kopieermechanisme voor het genetische materiaal.”
Het was een van die zeldzame keerpunten waarop uit één enkele gebeurtenis een geheel nieuwe tak van de wetenschap ontstond. Het vakgebied maakte snel vorderingen en ongeveer twintig jaar later werd er een briljante onderzoeker benoemd Paul Berg ontdekte dat je dat kon menselijk DNA samenvoegen met dat van andere levende wezenswaardoor nieuw genetisch materiaal ontstond dat in de natuur niet bestond. Net als Oppenheimer begreep Berg dat de mensheid dankzij zijn werk op een afgrond stond en dat het niet helemaal duidelijk was waar de rand lag.
Hij een conferentie georganiseerd op Asilomar State Beach in Californië om richtlijnen vast te stellen. Belangrijk is dat deelname niet beperkt bleef tot wetenschappers. Er was een grote groep belanghebbenden uitgenodigd, waaronder ambtenaren, leden van de media en ethische specialisten. Het resultaat, nu bekend als de Bergbriefriep op tot een moratorium op de meest risicovolle experimenten totdat de gevaren beter werden begrepen. Deze normen werden decennia lang gerespecteerd.
Vandaag ondergaan we nog een revolutie in genomica en synthetische biologie. Nieuwe technologieën, zoals CRISPR En mRNA-techniekenhebben ongelooflijke mogelijkheden geopend, maar ook ernstige gevaren. Toch ook hier weer pioniers op dit gebied Jennifer Doudna nemen het voortouw bij het bedenken van verstandige vangrails en het verantwoord gebruiken van de technologie.
Carols reis
In 2019 zette een Facebook-onderzoeker een fictieve rekening voor ‘Carol Smith’, een politiek conservatieve moeder uit Wilmington, North Carolina. Carol vond toen een paar mainstream, maar conservatief georiënteerde pagina’s leuk. Binnen enkele dagen stuurde het algoritme van Facebook haar naar een konijnenhol vol QAnon-samenzweringen en blanke supremacistische inhoud.
Volgens klachten van klokkenluiders werden topbestuurders van Facebook, waaronder Mark Zuckerberg, ervan op de hoogte gebracht dat hun platform zijn gebruikers radicaliseerde, maar winst en groei verkozen boven veiligheid. Dit was geen geïsoleerd incident, maar onderdeel van een vaststaand patroon van de manier waarop Facebook zaken doet.
In 2016 Nobelprijswinnaar Maria Ressa waarschuwden de bedrijfsleiders daarvoor Facebook werd uitgebuit door botnetwerken om verkiezingen te beïnvloeden. De Wall Street Journal een reeks rapporten gepubliceerd waaruit blijkt dat het bedrijf wist dat zijn product schadelijk was voor zijn gebruikers, vooral tienermeisjes, maar geen actie ondernam om de schade te beperken. Meer recentelijk bevestigde een rechtbank de beschuldigingen en vond het bedrijf aansprakelijk voor schade.
Het contrast tussen Silicon Valley en andere technologische doorbraken is verrassend. Het waren tenslotte de kernwetenschappers die ons waarschuwden voor de gevaren van kernenergie, net zoals het de biologen waren die alarm sloegen over recombinant DNA. We hebben keer op keer bewezen dat technologie kan worden ingeperkt en dat de gevaren ervan kunnen worden beperkt.
Maar nu er enorme winsten op het spel staan, hebben de leidinggevenden van Silicon Valley laten zien dat ze niet bereid zijn hetzelfde te doen.
Het zijn de instellingen, domkop
In 1945, Vannevar Bush publiceerde een lang essay in The Atlantic getiteld Zoals we misschien denkendie een ‘memex’ voor ogen had, een machine die opvallend veel leek op het internet van vandaag. Hij schreef:
“Denk eens aan een toekomstig apparaat… waarin een individu al zijn boeken, documenten en communicatie opslaat, en dat zo gemechaniseerd is dat het met buitengewone snelheid en flexibiliteit kan worden geraadpleegd. Het is een uitgebreide, intieme aanvulling op zijn geheugen.”
Maar toen hij zich de toekomst voorstelde, zag hij zowel mogelijkheden als gevaar. Hij voorspelde veel van waar we het internet tegenwoordig voor gebruiken, waaronder artsen die symptomen van obscure zaken kunnen opsporen en advocaten die snel relevante jurisprudentie kunnen opvragen. Toch voorzag hij ook veel van waar we mee worstelen, zoals een overvloed aan informatie en het gebruik van technologie voor oorlog.
Bush was destijds een figuur die leek op Elon Musk, maar dan nog prominenter. Als ingenieur van het hoogste niveau vond hij een protocomputer uit aan het MIT. Hij was ook medeoprichter van het bedrijf Raytheonhield toezicht op de Wetenschappelijke programma’s van de Amerikaanse overheid tijdens de Tweede Wereldoorlog, inclusief de ontwikkeling van de atoombom, radar en penicilline.
Maar waarschijnlijk meer dan wat dan ook was hij een meester in het ontwerpen van instituties. Toen de oorlog ten einde liep, vroeg president Roosevelt hem een rapport op te stellen over hoe de wetenschappelijke bekwaamheid van Amerika voortgezet kon worden. Dat rapport, Wetenschap, de eindeloze grens, afgeleverd aan president Truman in 1945, legde de basisarchitectuur uit van programma’s, zoals de Nationale Wetenschapsstichtingdie de VS in een technologische supermacht zou veranderen.
Om James Carville te parafraseren: het zijn de instellingen, stommeling. Als we de belofte van AI en andere baanbrekende gebieden zoals quantum computing en synthetische biologie willen grijpen, terwijl we het gevaar tot een minimum willen beperken, hebben we structuren nodig om onze collectieve wil voor het algemeen belang te organiseren, anders zullen we uiteindelijk onze wil onderwerpen aan de technologieën die we niet kunnen beheersen.
De keuzes die zijn gemaakt door degenen die ons voorgingen, hebben de wereld waarin we vandaag leven gevormd. De keuzes die we nu maken, zullen vorm geven aan de wereld die we achterlaten.
